Цукерберг наглядно показал, что он — за опенсорс.

Meta* официально представила свою первую за долгое время открытую ИИ-модель Muse Glimmer с 30 миллиардами параметров и плотной архитектурой. Нейронка ориентирована на агентную работу — доступен вызов инструментов и функций, есть многошаговое рассуждение, поддерживается написание и отладка кода, работа с файлами, восстановление после ошибок и выполнение длинных цепочек задач.

Muse Glimmer также мультимодальна и умеет обрабатывать изображения — анализ скриншотов, документов и графики в комплекте, а обучалась модель более чем на 100 языках, включая русский.

В полном размере 30-миллиардная модель занимала бы более 55 ГБ, поэтому Meta использует квантизацию весов до 4 бит, сокращая размер языковой модели до менее 20 ГБ. Этого достаточно, чтобы разместить ее вместе с KV-кэшем, визуальным энкодером и дополнительной моделью для ускорения генерации в пределах 24-32 ГБ памяти.

Для ускорения вывода используется спекулятивное декодирование: небольшой DFlash-драфтер заранее предлагает блоки токенов, а основная модель проверяет их параллельно. Meta* заявляет, что это позволяет существенно увеличить скорость генерации без изменения качества результата.

Веса уже опубликованы на Hugging Face под лицензией Apache 2.0.

*Деятельность Meta Platforms Inc. в России признана экстремистской и запрещена

😅 Канал Serverflow в MAX: Подписаться

OpenAI представила GPT-5.6-Cyber — новую специализированную модель для продвинутых авторизованных задач в области кибербезопасности. Она стала частью расширенной инициативы Daybreak, которая должна передавать возможности передового ИИ доверенным специалистам до того, как их смогут массово использовать злоумышленники.

В рамках Daybreak появились два направления. Daybreak Blue предоставляет доступ к передовым моделям, включая GPT-5.6 Sol, с защитными механизмами для широкого спектра задач: поиска уязвимостей, анализа кода и вредоносного ПО, реагирования на инциденты и проверки исправлений. Это основной вариант для большинства специалистов по безопасности.

Daybreak Red ориентирован уже на опытных исследователей и предоставляет специализированные модели, включая GPT-5.6-Cyber. Они предназначены для санкционированного поиска уязвимостей, проверки эксплойтов и тестирования защищенности ПО.

😅 Канал Serverflow в MAX: Подписаться