✔️ Японский разработчик выложил в open source drop-in замену NumPy, которая работает на GPU.

Она называется CuPy.

Меняете одну строку:

import numpy as np → import cupy as cp

И тот же код может работать до 100 раз быстрее на CUDA.

→ работает с существующим NumPy/SciPy-кодом
→ без переписывания логики
→ без нового синтаксиса
→ также поддерживает AMD ROCm

100% open source.

https://github.com/Hannibal046/Awesome-LLM

💵 GFusion: как мы обучали диффузионную LLM в GigaChat

«А что, если LLM будет генерировать не строго по одному токену слева направо, а сразу блок текста?»

Именно эту идею мы проверяли в проекте GFusion — диффузионной языковой модели на базе GigaChat3-10B-A1.8B-base.

Отдельно хочется отметить, что этот проект начал и довёл до релиза стажер команды GigaChat Pretrain. Он прошёл весь путь от идеи и первых экспериментов до обучения модели, оптимизаций, поддержки в inference runtime и публикации в open source.

Почему это интересно?

Классические LLM генерируют текст авторегрессионно: каждый следующий токен зависит от всех предыдущих. Это устоявшийся подход, но шаги генерации модели выполняются строго последовательно.

В то же время диффузионная LLM берёт частично замаскированный блок и постепенно восстанавливает токены внутри него. За один forward pass модель может финализировать не один, а сразу несколько токенов.

Так и появляется ускорение. Чем больше токенов модель уверенно восстанавливает за один проход, тем меньше шагов ей нужно для генерации ответа.

Вместо дорогостоящего обучения с нуля мы взяли сильную авторегрессионную LLM и перевели её в диффузионный режим генерации.

Цикл обучения включал:
🔘адаптацию AR-модели к диффузионной генерации;
🔘постепенное увеличение размера блока;
🔘сравнение полностью диффузионного обучения и гибридного подхода AR+dLLM;
🔘SFT с complementary masking и стадией confidence tuning для дополнительного ускорения генерации.

Результаты:

🔘GFusion в режиме одного пользователя генерирует в среднем на 70% быстрее GigaChat3-10B-A1.8B.
🔘Даже по сравнению с GigaChat3-10B-A1.8B + MTP-головой ускорение составило около 39%.
🔘Просадка качества относительно авторегрессионной модели осталась в пределах 2–4 п.п., а сам трейд-офф между скоростью и качеством можно контролировать параметрами диффузионной генерации.
🔘Добавлена поддержка GFusion в SGLang и реализован entropy-bounded sampling — алгоритм семплирования, который ускоряет генерацию не только GFusion, но и других диффузионных LLM.
🔘Для обучения написана и выложена в open-source своя реализация attention на TileLang под структуру диффузионной маски и получено до +77% end-to-end ускорения относительно Flex-Attention на длинном контексте.

💡 Главный вывод GFusion состоит в том, что ускорение LLM может требовать переосмысления самого подхода к генерации. Однако, чтобы это заработало на практике, важно довести до рабочего состояния весь стек от обучения и SFT до декодинга, attention-ядер и поддержки в inference runtime.

➡️Подробности — в статье на Habr.
➡️HF: GFusion-10B-A1.8B-base GFusion-10B-A1.8B
➡️GitVerse

📌Про уровни ризонинга в GPT-5.6 Sol

Вайбхав Шривастав, руководитель направления развития экосистемы и инфраструктуры OpenAI в Европе, на Ближнем Востоке и в Африке пояснил про градацию ризонинга в GPT-5.6 Sol.

Новая система не соответствует тому, что было в GPT-5.5 и тем, кто переходит на более высокий уровень, следует начинать на один уровень ниже, чем они привыкли.

🟠Light и Low предназначены для быстрых и простых задач

🟠Medium подходит для планирования и анализа

🟠High и xhigh - для сложных многоэтапных задач или верификации

Max и Ultra работают по-разному:

🟢Первый позволяет модели уделять больше времени решению одной задачи;

🟢Ultra использует несколько суб-агентов параллельно, каждый из которых занимается отдельной частью задачи.

Вайбхав рекомендует начинать с низкого уровня и повышать его только при необходимости, так как более высокие уровни требуют больше времени и расходуют больше токенов.

Всё это ни разу не приближает OpenAI к цели, озвученной Грегом Брокманом на Big Technology AI Summit буквально месяц назад. Он хочет сделать ChatGPT простым настолько, насколько это возможно.

@ai_machinelearning_big_data

#news #ai #ml

✔️ Anthropic во второй раз продлила бесплатный доступ к Fable 5

Компания вновь сдвинула сроки окончания промо-периода - теперь использовать Fable 5 без дополнительных списаний можно до 19 июля. До этой же даты будет действовать бонус, который на 50% увеличивает еженедельный лимит запросов в Claude Code.

Изначально акцию планировали завершить еще 7 июля, после чего дедлайн перенесли на 12-е число, а теперь добавили еще одну неделю.

Пользователи могут тратить на генерации в Fable 5 до половины еженедельной квоты. При исчерпании лимита потребуется переключиться на другие модели или включить оплату по факту потребления. Промо-условия не распространяются на API.
claude.com

✔️ Сэм Альтман пересмотрел прогноз по сокращению рабочих мест из-за ИИ

Глава OpenAI теперь уверен, что актуальное поколение моделей создает больше рабочих мест, чем сокращает, а экономические последствия от внедрения ИИ оказались менее масштабными, чем он ожидал ранее.

Параллельно компания продолжает обсуждать долгосрочные меры борьбы с возможной технологической безработицей. Среди рабочих концепций - налог на автоматизацию, создание целевых госфондов и переход на четырехдневную рабочую неделю.
Sam Altman в сети Х

✔️ Ричард Саттон запустил стартап Oak Lab

Пионер RL и лауреат премии Тьюринга открыл стартап Oak Lab для разработки автономных агентов. Цель проекта - создать непрерывно обучающуюся модель на 1 трлн параметров с планированием в реальном времени и энергопотреблением 20 Вт.

Oak Lab строится на базе концепции непрерывного RL. Вместо разового трейна на статических датасетах агенты будут познавать среду в процессе работы. Система должна самостоятельно формировать внутреннюю модель мира, генерировать варианты действий и оценивать их успешность.

Саттон называет современные методы глубокого обучения неэффективными. По его оценке, генеративный ИИ справляется с имитацией, но не умеет критически оценивать свои результаты, поэтому не годится для реальных открытий.
Richard Sutton в сети X

✔️ Правительство Южной Кореи профинансирует разработку суверенного чат-бота

Южная Корея запустит бесплатный национальный ИИ до конца года. Власти выделят разработчикам кластер из 512 ускорителей NVIDIA B200, а со следующего года полностью возьмет на себя расходы на инференс для граждан.

В рамках проекта AI for All государство отберет двух-трех частных провайдеров, которые должны минимум на 50% работать на базе независимых корейских моделей. Локальные разработчики пока оценивают условия проекта, участие подтвердила только Kakao, местный ИТ-лидер.

Отбор компаний завершится к середине августа. Бета-тест системы запланирован на сентябрь, релиз - до конца года.
yna.co.kr

✔️ Sakana AI и Autodesk разработали смарт-блоки для самовосстанавливающихся конструкций

Smart Cellular Bricks - децентрализованные физические модули для сборки самовосстанавливающихся 3D-конструкций. Каждый блок выполняет легковесную модель NCA и обменивается данными с ближайшими соседями. Массив модулей улавливает структурные паттерны без обращения к заложенным в память шаблонам.

Агрегируя локальные состояния, кластер за 3 минуты определяет свою глобальную форму (например, стола или самолета). В тестах массив из почти 200 блоков успешно классифицировал форму даже при принудительном отключении части элементов.

Если дополнительно обучить систему поиску аномалий, модули смогут вычислять недостающие сегменты и управлять регенерацией конструкции из небольшого базового кластера. Метод ляжет в основу разработки смарт-материалов и реконфигурируемой робототехники. Статья опубликована в Nature, код - на Github.
sakana.ai

@ai_machinelearning_big_data

#news #ai #ml