Цукерберг наглядно показал, что он — за опенсорс.

Meta* официально представила свою первую за долгое время открытую ИИ-модель Muse Glimmer с 30 миллиардами параметров и плотной архитектурой. Нейронка ориентирована на агентную работу — доступен вызов инструментов и функций, есть многошаговое рассуждение, поддерживается написание и отладка кода, работа с файлами, восстановление после ошибок и выполнение длинных цепочек задач.

Muse Glimmer также мультимодальна и умеет обрабатывать изображения — анализ скриншотов, документов и графики в комплекте, а обучалась модель более чем на 100 языках, включая русский.

В полном размере 30-миллиардная модель занимала бы более 55 ГБ, поэтому Meta использует квантизацию весов до 4 бит, сокращая размер языковой модели до менее 20 ГБ. Этого достаточно, чтобы разместить ее вместе с KV-кэшем, визуальным энкодером и дополнительной моделью для ускорения генерации в пределах 24-32 ГБ памяти.

Для ускорения вывода используется спекулятивное декодирование: небольшой DFlash-драфтер заранее предлагает блоки токенов, а основная модель проверяет их параллельно. Meta* заявляет, что это позволяет существенно увеличить скорость генерации без изменения качества результата.

Веса уже опубликованы на Hugging Face под лицензией Apache 2.0.

*Деятельность Meta Platforms Inc. в России признана экстремистской и запрещена

😅 Канал Serverflow в MAX: Подписаться

OpenAI представила GPT-5.6-Cyber — новую специализированную модель для продвинутых авторизованных задач в области кибербезопасности. Она стала частью расширенной инициативы Daybreak, которая должна передавать возможности передового ИИ доверенным специалистам до того, как их смогут массово использовать злоумышленники.

В рамках Daybreak появились два направления. Daybreak Blue предоставляет доступ к передовым моделям, включая GPT-5.6 Sol, с защитными механизмами для широкого спектра задач: поиска уязвимостей, анализа кода и вредоносного ПО, реагирования на инциденты и проверки исправлений. Это основной вариант для большинства специалистов по безопасности.

Daybreak Red ориентирован уже на опытных исследователей и предоставляет специализированные модели, включая GPT-5.6-Cyber. Они предназначены для санкционированного поиска уязвимостей, проверки эксплойтов и тестирования защищенности ПО.

😅 Канал Serverflow в MAX: Подписаться

Китайская компания DapuStor показала SSD R6060 на 512 ТБ с QLC NAND и PCIe 5.0. Компания называет его первым SSD такого объема в отрасли, а по сравнению с предыдущей версией на 245,76 ТБ емкость более чем удвоилась. Два таких накопителя дают 1 ПБ флеш-хранилища.

SSD R6060 выпускается в EDSFF-форматах E3.L и E2 и рассчитан он прежде всего на крупные ИИ-массивы данных. Большая емкость на один накопитель позволяет уменьшить количество SSD в системе, сэкономить место в стойке и снизить энергопотребление и совокупную стоимость инфраструктуры. При этом так как в накопителе используются QLC-ячейки, рассчитывать на высокие IOPS и DWPD не стоит.

Параллельно DapuStor показала 8-ТБ R6 E1.S с TLC-памятью, интерфейсом PCIe 5.0 и поддержкой жидкостного охлаждения через холодные пластины. Еще одна новинка, J5060, позволяет сочетать SLC и QLC в многоуровневой системе хранения, а двухпортовые SSD R6 E3.S на TLC-ячейках дают до 30,72 ТБ и R6 E3.S на QLC-ячейках до 61,44 ТБ.

😅 Канал Serverflow в MAX: Подписаться

Глава отдела этики, глава отдела систем безопасности и глава отдела согласования целей OpenAI ушли из компании за последние несколько недель. Что происходит?

😅 Канал Serverflow в MAX: Подписаться

Компания Synopsys представила полный набор IP для CXL 4.0: контроллер, IDE Security Module, PHY и Verification IP. Контроллер поддерживает CXL 4.0 на 128 ГТ/с, совместим с CXL 1.x–3.x и умеет объединять несколько физических соединений через Bundled Ports. CXL 4.0 при этом сохраняет задержку на уровне CXL 3.x.

За счет технологии Bundled Ports четыре соединения x16 дают более 2 ТБ/с совокупной пропускной способности, а восемь x16 позволяют получить свыше 4 ТБ/с. Контроллер также поддерживает 256-байтный FLIT, Port-Based Routing и до четырех ретаймеров.

В части безопасности используется IDE с AES-GCM для шифрования и аутентификации, а также TSP и TDISP для защищённых вычислений. Synopsys заявляет нулевую дополнительную задержку в CXL.cache/CXL.mem при использовании IDE. Для ИИ-нагрузок новый стек в связке с CXL.mem обеспечивает задержку менее 200 нс, пул когерентной памяти в стойке может превышать 100 ТБ, а перенос KV-кэша с SSD на CXL дает ускорение в 3-6 раз. По оценке Synopsys, это может снизить стоимость инференса на 50-100%.

😅 Канал Serverflow в MAX: Подписаться