Рекурсивное мышление стало стохастическим — и это меняет всё
Существующие рекуррентные модели рассуждений (HRM, TRM) итеративно уточняют скрытое состояние, но детерминированы: при одном входе всегда один путь и одно решение. Это проблема, когда задача имеет несколько правильных ответов или рассуждение застревает в локальном минимуме.
Авторы из KAIST и Монреаля предлагают GRAM (Generative Recursive reAsoning Models): на каждом шаге рекурсии модель не просто обновляет скрытое состояние, а сэмплирует его из гауссиана вокруг детерминированного обновления. Так рождается распределение над траекториями рассуждений.
Ключевая идея: ширина как новая ось масштабирования. Вместо глубже (больше шагов рекурсии) — шире (больше параллельных траекторий). На задачах N-Queens и Graph Coloring GRAM находит несколько валидных решений там, где детерминированные модели коллапсируют к одному. На Sudoku-Extreme и ARC-AGI — бьёт базовые рекуррентные модели.
Существующие рекуррентные модели рассуждений (HRM, TRM) итеративно уточняют скрытое состояние, но детерминированы: при одном входе всегда один путь и одно решение. Это проблема, когда задача имеет несколько правильных ответов или рассуждение застревает в локальном минимуме.
Авторы из KAIST и Монреаля предлагают GRAM (Generative Recursive reAsoning Models): на каждом шаге рекурсии модель не просто обновляет скрытое состояние, а сэмплирует его из гауссиана вокруг детерминированного обновления. Так рождается распределение над траекториями рассуждений.
Ключевая идея: ширина как новая ось масштабирования. Вместо глубже (больше шагов рекурсии) — шире (больше параллельных траекторий). На задачах N-Queens и Graph Coloring GRAM находит несколько валидных решений там, где детерминированные модели коллапсируют к одному. На Sudoku-Extreme и ARC-AGI — бьёт базовые рекуррентные модели.
OpenAI совершила прорыв в математике. Их модель опровергла гипотезу о единичных расстояниях — задачу, которая не давалась математикам 80 лет.
Речь о классической проблеме дискретной геометрии: сколько пар точек на плоскости могут находиться на одинаковом расстоянии друг от друга? Долгое время существовала центральная гипотеза об ограничениях таких конфигураций — и вот ИИ её опроверг.
Это не просто красивая история. Это первый случай, когда языковая модель делает оригинальный вклад в фундаментальную математику, а не просто помогает с вычислениями или поиском доказательств. ИИ выступил полноценным участником научного процесса.
Для пользователей это сигнал: модели OpenAI выходят за рамки текстовых задач и становятся инструментом для реальных научных открытий.
https://openai.com/index/model-disproves-discrete-geometry-conjecture
Речь о классической проблеме дискретной геометрии: сколько пар точек на плоскости могут находиться на одинаковом расстоянии друг от друга? Долгое время существовала центральная гипотеза об ограничениях таких конфигураций — и вот ИИ её опроверг.
Это не просто красивая история. Это первый случай, когда языковая модель делает оригинальный вклад в фундаментальную математику, а не просто помогает с вычислениями или поиском доказательств. ИИ выступил полноценным участником научного процесса.
Для пользователей это сигнал: модели OpenAI выходят за рамки текстовых задач и становятся инструментом для реальных научных открытий.
https://openai.com/index/model-disproves-discrete-geometry-conjecture
OpenAI
An OpenAI model has disproved a central conjecture in discrete geometry
An OpenAI model solved the 80-year-old unit distance problem, disproving a major conjecture in discrete geometry and marking a milestone in AI-driven mathematics.
Video2GUI: качаем датасет для GUI-агентов из YouTube (by Peking University & Xiaomi)
Хотите научить агента кликать по интерфейсам — нужны данные. Но ручная разметка дорогая, а симуляторы не отражают реальность. Решение? Взять 500 миллионов YouTube-видео с туториалами.
Авторы предложили Video2GUI — пайплайн из трёх шагов: сначала грубая фильтрация по метаданным (DeepSeek-V3), потом визуальный скоринг качества видео, затем Gemini-3-Pro извлекает траектории действий с таймкодами и точными координатами кликов на экране.
Результат — датасет WildGUI: 12.7 млн траекторий, 124.5 млн скриншотов, 1500+ приложений и сайтов. Это на порядок больше любого предыдущего открытого датасета.
Дообучение Qwen2.5-VL и Mimo-VL на WildGUI даёт заметный прирост на GUI-бенчмарках. Датасет и пайплайн обещают открыть.
https://arxiv.org/abs/2605.14747
Хотите научить агента кликать по интерфейсам — нужны данные. Но ручная разметка дорогая, а симуляторы не отражают реальность. Решение? Взять 500 миллионов YouTube-видео с туториалами.
Авторы предложили Video2GUI — пайплайн из трёх шагов: сначала грубая фильтрация по метаданным (DeepSeek-V3), потом визуальный скоринг качества видео, затем Gemini-3-Pro извлекает траектории действий с таймкодами и точными координатами кликов на экране.
Результат — датасет WildGUI: 12.7 млн траекторий, 124.5 млн скриншотов, 1500+ приложений и сайтов. Это на порядок больше любого предыдущего открытого датасета.
Дообучение Qwen2.5-VL и Mimo-VL на WildGUI даёт заметный прирост на GUI-бенчмарках. Датасет и пайплайн обещают открыть.
https://arxiv.org/abs/2605.14747
Whisper не справляется с реальным шумом? Попробуй 54 сценария одновременно
Проблема ASR в реальных условиях: модели обучают на чистой речи или одном типе шума, а в жизни всё смешивается — эхо + далёкий микрофон + помехи в канале одновременно. WER на таких условиях прыгает с 1% до 30–70%.
Авторы из NUS предложили MEGA-ASR. Ключевые части:
1. Датасет VOICES-IN-THE-WILD-2M: 2.4М клипов, 7 атомарных акустических эффектов скомпонованы в 54 составных сценария (например, церковь = far-field + эхо + реверберация). Генерация через спектральные преобразования, а не сбор реальных данных.
2. Progressive SFT: сначала учим воспринимать акустику, потом восстанавливать семантику.
3. DG-WGPO — новый RL-reward: при WER>30% обычный WER-сигнал бесполезен, поэтому динамически переключаются между токен-уровневым и предложение-уровневым вознаграждением.
Результат: даже SOTA Qwen3-ASR даёт 35% WER на их бенчмарке, MEGA-ASR существенно лучше.
https://arxiv.org/abs/2605.19833
Проблема ASR в реальных условиях: модели обучают на чистой речи или одном типе шума, а в жизни всё смешивается — эхо + далёкий микрофон + помехи в канале одновременно. WER на таких условиях прыгает с 1% до 30–70%.
Авторы из NUS предложили MEGA-ASR. Ключевые части:
1. Датасет VOICES-IN-THE-WILD-2M: 2.4М клипов, 7 атомарных акустических эффектов скомпонованы в 54 составных сценария (например, церковь = far-field + эхо + реверберация). Генерация через спектральные преобразования, а не сбор реальных данных.
2. Progressive SFT: сначала учим воспринимать акустику, потом восстанавливать семантику.
3. DG-WGPO — новый RL-reward: при WER>30% обычный WER-сигнал бесполезен, поэтому динамически переключаются между токен-уровневым и предложение-уровневым вознаграждением.
Результат: даже SOTA Qwen3-ASR даёт 35% WER на их бенчмарке, MEGA-ASR существенно лучше.
https://arxiv.org/abs/2605.19833
Агентские траектории как бесплатные данные для обучения длинному контексту
Обучать LLM работать с длинным контекстом дорого: нужны аннотированные документы или синтетика. Но у нас уже есть агентские траектории! Авторы из USTC заметили: когда агент решает задачу, он собирает кучу релевантных данных через вызовы инструментов. Проблема в том, что стандартный SFT маскирует ответы инструментов — модель учится только выбирать следующий инструмент, но не интегрировать разрозненные факты.
Метод ACC (Agent Context Compilation) простой: берём все ответы инструментов из траектории, склеиваем в один длинный контекст, перемешиваем куски случайно — и обучаем модель отвечать на исходный вопрос напрямую.
Результат: Qwen3-30B-A3B после ACC догоняет Qwen3-235B-A22B на бенчмарках MRCR (+18.1) и GraphWalks (+7.6), не теряя общих способностей. Модель в 8 раз меньше, а результат сопоставимый — только за счёт умного переиспользования агентских данных.
https://arxiv.org/abs/2605.21850
Обучать LLM работать с длинным контекстом дорого: нужны аннотированные документы или синтетика. Но у нас уже есть агентские траектории! Авторы из USTC заметили: когда агент решает задачу, он собирает кучу релевантных данных через вызовы инструментов. Проблема в том, что стандартный SFT маскирует ответы инструментов — модель учится только выбирать следующий инструмент, но не интегрировать разрозненные факты.
Метод ACC (Agent Context Compilation) простой: берём все ответы инструментов из траектории, склеиваем в один длинный контекст, перемешиваем куски случайно — и обучаем модель отвечать на исходный вопрос напрямую.
Результат: Qwen3-30B-A3B после ACC догоняет Qwen3-235B-A22B на бенчмарках MRCR (+18.1) и GraphWalks (+7.6), не теряя общих способностей. Модель в 8 раз меньше, а результат сопоставимый — только за счёт умного переиспользования агентских данных.
https://arxiv.org/abs/2605.21850
Microsoft Research выпустила MagenticLite — агентное приложение нового поколения, которое работает одновременно в браузере и локальной файловой системе. Это наследник Magentic-UI с переработанным интерфейсом.
Система состоит из трёх компонентов. MagenticBrain — модель на 14B параметров, которая планирует задачи, пишет код и управляет субагентами. Fara1.5 — семейство моделей для работы в браузере (4B, 9B, 27B), которое почти вдвое превосходит предыдущую Fara-7B на задачах веб-навигации и устанавливает новый SOTA среди малых моделей.
Главная идея: мощные агенты не требуют огромных моделей — достаточно правильно совместить инструменты, обучение и оркестрацию. Все данные остаются на машине пользователя. Агент умеет заполнять формы, работать с авторизацией и выполнять многошаговые задачи, запрашивая разрешение в критических точках.
https://www.microsoft.com/en-us/research/blog/magenticlite-magenticbrain-fara1-5-an-agentic-experience-optimized-for-small-models/
Система состоит из трёх компонентов. MagenticBrain — модель на 14B параметров, которая планирует задачи, пишет код и управляет субагентами. Fara1.5 — семейство моделей для работы в браузере (4B, 9B, 27B), которое почти вдвое превосходит предыдущую Fara-7B на задачах веб-навигации и устанавливает новый SOTA среди малых моделей.
Главная идея: мощные агенты не требуют огромных моделей — достаточно правильно совместить инструменты, обучение и оркестрацию. Все данные остаются на машине пользователя. Агент умеет заполнять формы, работать с авторизацией и выполнять многошаговые задачи, запрашивая разрешение в критических точках.
https://www.microsoft.com/en-us/research/blog/magenticlite-magenticbrain-fara1-5-an-agentic-experience-optimized-for-small-models/
Microsoft Research
MagenticLite: An agentic experience optimized for small models
MagenticLite is an agentic system for small models that works across the browser and local file system in a single workflow. It combines specialized models and orchestration to support efficient agentic performance on everyday tasks:
Microsoft Research представила Vega — систему для приватной верификации цифровых документов с помощью криптографических доказательств с нулевым разглашением (ZKP).
Суть простая: вместо того чтобы отправлять скан паспорта или прав на сайт, ваш телефон генерирует математическое доказательство — например, что вам больше 18 лет. Сервис получает только этот факт, сам документ никуда не уходит.
Что важно технически: доказательство генерируется за 92 мс прямо на устройстве, весит 108 КБ, не требует доверенной настройки и работает с реальными форматами — водительскими удостоверениями и EU Digital Identity Wallet.
Почему это актуально сейчас: AI-агенты всё чаще действуют от имени пользователей, и им нужно как-то подтверждать личность. При этом утечки баз с копиями документов уже стали нормой. Vega решает оба вопроса разом.
Код написан на Rust, скоро будет открыт. Стандарты EUDI и UK Online Safety Act создают прямой спрос на такие решения.
https://www.microsoft.com/en-us/research/blog/vega-zero-knowledge-proofs-for-digital-identity-in-the-age-of-ai/
Суть простая: вместо того чтобы отправлять скан паспорта или прав на сайт, ваш телефон генерирует математическое доказательство — например, что вам больше 18 лет. Сервис получает только этот факт, сам документ никуда не уходит.
Что важно технически: доказательство генерируется за 92 мс прямо на устройстве, весит 108 КБ, не требует доверенной настройки и работает с реальными форматами — водительскими удостоверениями и EU Digital Identity Wallet.
Почему это актуально сейчас: AI-агенты всё чаще действуют от имени пользователей, и им нужно как-то подтверждать личность. При этом утечки баз с копиями документов уже стали нормой. Vega решает оба вопроса разом.
Код написан на Rust, скоро будет открыт. Стандарты EUDI и UK Online Safety Act создают прямой спрос на такие решения.
https://www.microsoft.com/en-us/research/blog/vega-zero-knowledge-proofs-for-digital-identity-in-the-age-of-ai/
Microsoft Research
Re-thinking zero-knowledge proofs for everyday identity
Vega turns a full credential into a single proof, sharing only what is needed and nothing more, with performance that works in real apps.
❤1
Nvidia Tech запустила мультиагентную систему для поиска торговых сигналов в квантовых финансах.
Раньше квант-исследователи вручную придумывали гипотезы, писали код, тестировали и дорабатывали сотни сигналов — это занимало недели. Теперь три специализированных агента делают это в автоматическом цикле: первый генерирует гипотезы сигналов на основе рыночных данных, второй переводит их в Python-код, третий запускает бэктестинг и возвращает слабые сигналы на доработку.
Система построена на моделях семейства Nemotron и библиотеке NeMo Agent Toolkit. Вся логика настраивается через YAML-файл без изменения кода — можно быстро менять модели, пороги качества и глубину оптимизации.
Ключевой метрик — Rank IC: хорошим считается значение 0.02–0.05, выше 0.05 — отличный сигнал.
Для финтех-команд это серьёзное ускорение исследовательского цикла в индустрии, где задержка в миллисекунды уже имеет значение.
https://developer.nvidia.com/blog/automating-and-optimizing-financial-signal-discovery-with-multi-agent-systems/
Раньше квант-исследователи вручную придумывали гипотезы, писали код, тестировали и дорабатывали сотни сигналов — это занимало недели. Теперь три специализированных агента делают это в автоматическом цикле: первый генерирует гипотезы сигналов на основе рыночных данных, второй переводит их в Python-код, третий запускает бэктестинг и возвращает слабые сигналы на доработку.
Система построена на моделях семейства Nemotron и библиотеке NeMo Agent Toolkit. Вся логика настраивается через YAML-файл без изменения кода — можно быстро менять модели, пороги качества и глубину оптимизации.
Ключевой метрик — Rank IC: хорошим считается значение 0.02–0.05, выше 0.05 — отличный сигнал.
Для финтех-команд это серьёзное ускорение исследовательского цикла в индустрии, где задержка в миллисекунды уже имеет значение.
https://developer.nvidia.com/blog/automating-and-optimizing-financial-signal-discovery-with-multi-agent-systems/
NVIDIA Technical Blog
Automating and Optimizing Financial Signal Discovery with Multi-Agent Systems
In quantitative finance, researchers build algorithms to trade assets, derivatives, and other financial instruments. A key part of that work is finding signals: patterns in messy market data that may…
Full Attention — не враг эффективности, а её союзник
Модели с full attention уже содержат внутри себя разреженность — просто никто не пользовался этим правильно. RTPurbo от команды RTP-LLM превращает обычную full-attention модель в sparse за ~100 шагов дообучения на 1M токенах.
Ключевые идеи:
1. Головы делятся на "retrieval" (ищут дальние токены) и "local" (смотрят только рядом). Первые определяются офлайн-калибровкой за один проход.
2. RoPE-ротации низких частот несут почти всю информацию о дальнем поиске — достаточно 16 измерений вместо полной размерности для отбора токенов (recall >90%).
3. Вместо top-k (фиксированный бюджет) — top-p: динамически отбирает столько токенов, сколько нужно конкретному запросу.
Результат: до 9.36× ускорение prefill и 2× decoding при почти нулевой потере качества. Полное attention-обучение остаётся конкурентоспособным — sparse можно получить постфактум.
https://arxiv.org/abs/2605.16928
Модели с full attention уже содержат внутри себя разреженность — просто никто не пользовался этим правильно. RTPurbo от команды RTP-LLM превращает обычную full-attention модель в sparse за ~100 шагов дообучения на 1M токенах.
Ключевые идеи:
1. Головы делятся на "retrieval" (ищут дальние токены) и "local" (смотрят только рядом). Первые определяются офлайн-калибровкой за один проход.
2. RoPE-ротации низких частот несут почти всю информацию о дальнем поиске — достаточно 16 измерений вместо полной размерности для отбора токенов (recall >90%).
3. Вместо top-k (фиксированный бюджет) — top-p: динамически отбирает столько токенов, сколько нужно конкретному запросу.
Результат: до 9.36× ускорение prefill и 2× decoding при почти нулевой потере качества. Полное attention-обучение остаётся конкурентоспособным — sparse можно получить постфактум.
https://arxiv.org/abs/2605.16928
Длинное видео без дообучения? FlowLong решает это геометрически.
Большинство видеодиффузионных моделей обучены на коротких клипах, и генерировать видео длиннее тренировочного окна они не умеют — качество резко падает. FlowLong (KAIST AI) предлагает элегантный inference-time трюк без какого-либо дообучения.
Идея: генерировать несколько перекрывающихся чанков параллельно из независимого шума, а затем синхронизировать их через Tweedie Matching — интерполяцию denoised-оценок на пересекающихся кадрах. Это «мягко» стягивает траектории ODE соседних чанков друг к другу.
Проблема: после коррекции траектории норовят вернуться к исходным дивергентным путям. Решение — stochastic early-phase sampling: в начале добавляем шум (SDE-режим), потом переходим к детерминированному ODE.
Метод полностью model-agnostic и работает для text-to-video, совместной аудио-видео генерации и text-to-3DGS без правок архитектуры.
https://arxiv.org/abs/2605.20910
Большинство видеодиффузионных моделей обучены на коротких клипах, и генерировать видео длиннее тренировочного окна они не умеют — качество резко падает. FlowLong (KAIST AI) предлагает элегантный inference-time трюк без какого-либо дообучения.
Идея: генерировать несколько перекрывающихся чанков параллельно из независимого шума, а затем синхронизировать их через Tweedie Matching — интерполяцию denoised-оценок на пересекающихся кадрах. Это «мягко» стягивает траектории ODE соседних чанков друг к другу.
Проблема: после коррекции траектории норовят вернуться к исходным дивергентным путям. Решение — stochastic early-phase sampling: в начале добавляем шум (SDE-режим), потом переходим к детерминированному ODE.
Метод полностью model-agnostic и работает для text-to-video, совместной аудио-видео генерации и text-to-3DGS без правок архитектуры.
https://arxiv.org/abs/2605.20910
Маленький оркестратор на 4B управляет армией экспертных моделей — и бьёт GPT-5
Классическая проблема мультимодальных агентов: одна модель не может быть экспертом во всём. Геометрия, медицинские отчёты, спутниковые снимки — каждая задача требует своей экспертизы.
MAESTRO решает это радикально: вместо одного большого мозга — маленький 4B-оркестратор, который динамически выбирает нужную экспертную LLM из пула и нужный инструмент из двухуровневой иерархии навыков.
Ключевая идея: выбор модели + выбор инструмента формализуется как POMDP, и оркестратор обучается через RL без пошаговой разметки — только по итоговому результату.
Результат: 70.1% на 10+ мультимодальных бенчмарках, что превышает GPT-5. При этом оркестратор обобщается на новые модели и инструменты без переобучения.
RL учит маленькую модель не решать задачи самой, а грамотно делегировать — и это работает лучше, чем просто взять модель побольше.
https://arxiv.org/abs/2605.22177
Классическая проблема мультимодальных агентов: одна модель не может быть экспертом во всём. Геометрия, медицинские отчёты, спутниковые снимки — каждая задача требует своей экспертизы.
MAESTRO решает это радикально: вместо одного большого мозга — маленький 4B-оркестратор, который динамически выбирает нужную экспертную LLM из пула и нужный инструмент из двухуровневой иерархии навыков.
Ключевая идея: выбор модели + выбор инструмента формализуется как POMDP, и оркестратор обучается через RL без пошаговой разметки — только по итоговому результату.
Результат: 70.1% на 10+ мультимодальных бенчмарках, что превышает GPT-5. При этом оркестратор обобщается на новые модели и инструменты без переобучения.
RL учит маленькую модель не решать задачи самой, а грамотно делегировать — и это работает лучше, чем просто взять модель побольше.
https://arxiv.org/abs/2605.22177
Nvidia выпустила открытый фреймворк для синтеза медицинских 3D-изображений
Nvidia представила NV-Generate-CTMR и новую модель NV-Generate-MR-Brain — открытые инструменты для генерации реалистичных 3D-снимков КТ и МРТ с анатомической сегментацией.
Главная проблема медицинского ИИ — нехватка размеченных данных из-за приватности и дороговизны аннотации. Новый фреймворк позволяет генерировать синтетические объёмы, неотличимые от реальных, и сразу использовать их в обучении моделей.
В основе — архитектура MAISI-v2 с Latent Rectified Flow: ускорение вывода в 33 раза по сравнению с предыдущей версией. Модель обучена на MR-RATE — крупнейшем открытом датасете МРТ мозга: 100 000 исследований от 83 000 пациентов.
Всё открыто: код, веса, конфиги. Инференс работает на RTX-видеокартах без роялти. Для исследователей — бесплатно, для коммерческого использования данных — через Forithmus.
https://developer.nvidia.com/blog/synthesize-realistic-3d-medical-images-at-scale-to-ship-pre-trained-models/
Nvidia представила NV-Generate-CTMR и новую модель NV-Generate-MR-Brain — открытые инструменты для генерации реалистичных 3D-снимков КТ и МРТ с анатомической сегментацией.
Главная проблема медицинского ИИ — нехватка размеченных данных из-за приватности и дороговизны аннотации. Новый фреймворк позволяет генерировать синтетические объёмы, неотличимые от реальных, и сразу использовать их в обучении моделей.
В основе — архитектура MAISI-v2 с Latent Rectified Flow: ускорение вывода в 33 раза по сравнению с предыдущей версией. Модель обучена на MR-RATE — крупнейшем открытом датасете МРТ мозга: 100 000 исследований от 83 000 пациентов.
Всё открыто: код, веса, конфиги. Инференс работает на RTX-видеокартах без роялти. Для исследователей — бесплатно, для коммерческого использования данных — через Forithmus.
https://developer.nvidia.com/blog/synthesize-realistic-3d-medical-images-at-scale-to-ship-pre-trained-models/
NVIDIA Technical Blog
Synthesize Realistic 3D Medical Images at Scale to Ship Pre‑Trained Models
High‑quality 3D medical imaging data is the foundation of modern radiology AI, but access to it is often constrained by data scarcity, privacy restrictions, and the high cost of expert annotation.
Nvidia Tech обновила подход к планированию задач на кластерах GB200 NVL72.
Совместно со SchedMD компания выпустила новый плагин topology/block для Slurm 23.11. Он учитывает физическую архитектуру стойки: 72 GPU Blackwell соединены через NVLink с пропускной способностью 130 ТБ/с, и теперь планировщик умеет размещать задачи строго внутри NVLink-доменов, не разрывая их между стойками.
Что это даёт на практике: симуляции на кластере из 5000 узлов показали загрузку GPU в пределах 1% от теоретического максимума. Крупные задачи (64+ GPU) получают сегменты по 16 узлов для полного использования NVLink, мелкие задачи работают с сегментами 2-8 узлов, чтобы не создавать фрагментацию.
Для операторов дата-центров это означает предсказуемую производительность при обучении триллионных моделей и MoE-архитектур без ручной настройки размещения задач.
https://developer.nvidia.com/blog/unlock-exascale-performance-on-nvidia-gb200-nvl72-with-slurm-topology-aware-job-scheduling/
Совместно со SchedMD компания выпустила новый плагин topology/block для Slurm 23.11. Он учитывает физическую архитектуру стойки: 72 GPU Blackwell соединены через NVLink с пропускной способностью 130 ТБ/с, и теперь планировщик умеет размещать задачи строго внутри NVLink-доменов, не разрывая их между стойками.
Что это даёт на практике: симуляции на кластере из 5000 узлов показали загрузку GPU в пределах 1% от теоретического максимума. Крупные задачи (64+ GPU) получают сегменты по 16 узлов для полного использования NVLink, мелкие задачи работают с сегментами 2-8 узлов, чтобы не создавать фрагментацию.
Для операторов дата-центров это означает предсказуемую производительность при обучении триллионных моделей и MoE-архитектур без ручной настройки размещения задач.
https://developer.nvidia.com/blog/unlock-exascale-performance-on-nvidia-gb200-nvl72-with-slurm-topology-aware-job-scheduling/
NVIDIA Technical Blog
Unlock Exascale Performance on NVIDIA GB200 NVL72 with Slurm Topology-Aware Job Scheduling
As AI models grow in scale and complexity, realizing the full performance of modern accelerated infrastructure depends as much on how workloads are placed as on the hardware itself.
Nvidia Tech рассказала, как правильно настраивать AI-агентов под конкретные задачи.
Опубликован подробный разбор 9 техник кастомизации: от простого prompt engineering до продвинутого reinforcement learning. Суть в том, что универсальные модели хороши для общих задач, но бизнес-сценарии требуют точной настройки поведения, логики выбора инструментов и структуры ответов.
Ключевые подходы: системные промпты задают роль и ограничения агента, RAG подключает актуальные внешние знания без переобучения, а инъекция инструментов и навыков расширяет возможности без изменения весов модели. Для более глубокой настройки используют SFT, PEFT, DPO и RLVR.
Важно: выбор техники зависит от задачи. Нужна скорость — берёшь промпты. Нужны свежие данные — RAG. Нужно изменить поведение модели — fine-tuning.
Полезно всем, кто строит или планирует строить агентные системы на базе LLM.
https://developer.nvidia.com/blog/mastering-agentic-techniques-ai-agent-customization/
Опубликован подробный разбор 9 техник кастомизации: от простого prompt engineering до продвинутого reinforcement learning. Суть в том, что универсальные модели хороши для общих задач, но бизнес-сценарии требуют точной настройки поведения, логики выбора инструментов и структуры ответов.
Ключевые подходы: системные промпты задают роль и ограничения агента, RAG подключает актуальные внешние знания без переобучения, а инъекция инструментов и навыков расширяет возможности без изменения весов модели. Для более глубокой настройки используют SFT, PEFT, DPO и RLVR.
Важно: выбор техники зависит от задачи. Нужна скорость — берёшь промпты. Нужны свежие данные — RAG. Нужно изменить поведение модели — fine-tuning.
Полезно всем, кто строит или планирует строить агентные системы на базе LLM.
https://developer.nvidia.com/blog/mastering-agentic-techniques-ai-agent-customization/
NVIDIA Technical Blog
Mastering Agentic Techniques: AI Agent Customization
Autonomous AI agents are taking on all types of work for businesses: routing logistics fleets, triaging support tickets, generating code, and orchestrating multistep workflows. How do you take a…
Gated DeltaNet-2: разделяем стирание и запись в линейном внимании (by NVIDIA)
В линейных рекуррентных моделях (Mamba, DeltaNet) память — это матрица фиксированного размера. Проблема: один скалярный гейт одновременно управляет и стиранием старых ассоциаций, и записью новых. Но это разные операции на разных осях!
Авторы предлагают Gated DeltaNet-2: разделить scalar-гейт на два channel-wise вектора — erase gate (по ключевым каналам) и write gate (по value-каналам). Теперь модель может избирательно чистить старые ассоциации и так же избирательно записывать новые.
Математически это обобщение KDA и Gated DeltaNet — оба восстанавливаются как частные случаи. При этом chunkwise-алгоритм обучения сохраняется через WY-форму.
Результат: заметный прирост на long-context retrieval (RULER needle-in-a-haystack), особенно в multi-key сценариях, где фиксированная память должна хранить конкурирующие ассоциации.
https://arxiv.org/abs/2605.22791
В линейных рекуррентных моделях (Mamba, DeltaNet) память — это матрица фиксированного размера. Проблема: один скалярный гейт одновременно управляет и стиранием старых ассоциаций, и записью новых. Но это разные операции на разных осях!
Авторы предлагают Gated DeltaNet-2: разделить scalar-гейт на два channel-wise вектора — erase gate (по ключевым каналам) и write gate (по value-каналам). Теперь модель может избирательно чистить старые ассоциации и так же избирательно записывать новые.
Математически это обобщение KDA и Gated DeltaNet — оба восстанавливаются как частные случаи. При этом chunkwise-алгоритм обучения сохраняется через WY-форму.
Результат: заметный прирост на long-context retrieval (RULER needle-in-a-haystack), особенно в multi-key сценариях, где фиксированная память должна хранить конкурирующие ассоциации.
https://arxiv.org/abs/2605.22791
Агент для генерации картинок, который учится на собственных ошибках (by MeiGen-AI)
Что если вместо простого «промпт → картинка» построить агента, который сам решает: что погуглить, какие референсы взять, какие внутренние знания активировать — и всё это координирует в один pipeline?
Именно это делает GenEvolve. Каждая генерация — это траектория: поиск фактов, отбор визуальных референсов, вызов «навыков», сборка программы (промпт + референсы) → финальная картинка.
Ключевая фишка — Visual Experience Distillation. Агент сравнивает несколько траекторий для одного запроса, извлекает «опыт» из разницы лучших и худших, и дистиллирует его через teacher-only ветку. Студент учится на плотных token-level сигналах, а не просто на скалярной награде.
Результат: превосходит прямые генераторы и агентные baseline на собственном бенчмарке и на WISE.
https://arxiv.org/abs/2605.21605
Что если вместо простого «промпт → картинка» построить агента, который сам решает: что погуглить, какие референсы взять, какие внутренние знания активировать — и всё это координирует в один pipeline?
Именно это делает GenEvolve. Каждая генерация — это траектория: поиск фактов, отбор визуальных референсов, вызов «навыков», сборка программы (промпт + референсы) → финальная картинка.
Ключевая фишка — Visual Experience Distillation. Агент сравнивает несколько траекторий для одного запроса, извлекает «опыт» из разницы лучших и худших, и дистиллирует его через teacher-only ветку. Студент учится на плотных token-level сигналах, а не просто на скалярной награде.
Результат: превосходит прямые генераторы и агентные baseline на собственном бенчмарке и на WISE.
https://arxiv.org/abs/2605.21605
KV-кэш съедает 60% времени ответа — и вот как это починить
В disaggregated LLM-инференсе (prefill и decode на разных нодах) передача KV-кэша по сети стала главным узким местом: до 60% времени запроса. Существующие методы сжатия (KIVI, CacheGen, KVQuant) работают со статичными настройками — но одна и та же конфигурация даёт х6 на одном датасете и х2 на другом.
Авторы из Chinese Academy of Sciences предлагают KVServe — адаптивный фреймворк, который:
1. Унифицирует методы сжатия в модульный пайплайн с pluggable-компонентами
2. Использует Байесовскую оптимизацию для поиска лучшей стратегии (с 1000 часов профилирования до 20)
3. Online-контроллер с bandit-алгоритмом выбирает стратегию под текущую нагрузку и SLO
Результат: до 9× ускорение JCT в PD-separated serving и до 32.8× снижение TTFT в KV-disaggregated serving.
https://arxiv.org/abs/2605.13734
В disaggregated LLM-инференсе (prefill и decode на разных нодах) передача KV-кэша по сети стала главным узким местом: до 60% времени запроса. Существующие методы сжатия (KIVI, CacheGen, KVQuant) работают со статичными настройками — но одна и та же конфигурация даёт х6 на одном датасете и х2 на другом.
Авторы из Chinese Academy of Sciences предлагают KVServe — адаптивный фреймворк, который:
1. Унифицирует методы сжатия в модульный пайплайн с pluggable-компонентами
2. Использует Байесовскую оптимизацию для поиска лучшей стратегии (с 1000 часов профилирования до 20)
3. Online-контроллер с bandit-алгоритмом выбирает стратегию под текущую нагрузку и SLO
Результат: до 9× ускорение JCT в PD-separated serving и до 32.8× снижение TTFT в KV-disaggregated serving.
https://arxiv.org/abs/2605.13734
Apple ML представила VSAS-Bench — новый бенчмарк для оценки потоковых визуальных ассистентов в реальном времени.
Проблема: существующие тесты для vision-language моделей работают в офлайн-режиме и не учитывают специфику стриминга. Реальные ассистенты должны не просто понимать видео, но и реагировать вовремя и стабильно.
VSAS-Bench вводит два новых критерия — проактивность (насколько быстро модель реагирует) и консистентность (насколько стабильны ответы во времени). Датасет содержит более 18 000 аннотаций по разным задачам и доменам.
Главный практический вывод: обычные VLM-модели можно адаптировать к стримингу без дополнительного обучения, и они обгоняют специализированные стриминговые модели. Qwen3-VL-4B превзошёл лучшую стриминговую модель Dispider на 3%.
Работа принята на CVPR 2026.
https://machinelearning.apple.com/research/vsas-bench-streaming-assistant
Проблема: существующие тесты для vision-language моделей работают в офлайн-режиме и не учитывают специфику стриминга. Реальные ассистенты должны не просто понимать видео, но и реагировать вовремя и стабильно.
VSAS-Bench вводит два новых критерия — проактивность (насколько быстро модель реагирует) и консистентность (насколько стабильны ответы во времени). Датасет содержит более 18 000 аннотаций по разным задачам и доменам.
Главный практический вывод: обычные VLM-модели можно адаптировать к стримингу без дополнительного обучения, и они обгоняют специализированные стриминговые модели. Qwen3-VL-4B превзошёл лучшую стриминговую модель Dispider на 3%.
Работа принята на CVPR 2026.
https://machinelearning.apple.com/research/vsas-bench-streaming-assistant
Apple Machine Learning Research
VSAS-Bench: Real-Time Evaluation of Visual Streaming Assistant Models
Streaming vision-language models (VLMs) continuously generate responses given an instruction prompt and an online stream of input frames…
SkillOpt: "градиентный спуск" для текстовых инструкций агентов (by Microsoft Research)
Что если оптимизировать агента не через веса, а через текстовый документ с инструкциями? SkillOpt делает именно это — переносит идеи обучения нейросетей в пространство текста.
Как работает: LLM-оптимизатор анализирует траектории выполнения задач, предлагает структурированные правки (add/delete/replace) к документу-скиллу, а held-out валидация принимает только полезные изменения. Отклонённые правки становятся негативной обратной связью для следующих итераций — прямая аналогия с градиентным спуском, батчами и learning rate.
Результат — компактный файл best_skill.md (300–2000 токенов), который переносится между моделями и харнессами без изменения весов. На 52 из 52 тестовых конфигураций SkillOpt лучший. SpreadsheetBench: с 41.8 до 80.7. Скилл, обученный на Codex, даёт +59.7 на Claude Code.
https://arxiv.org/abs/2605.23904
Что если оптимизировать агента не через веса, а через текстовый документ с инструкциями? SkillOpt делает именно это — переносит идеи обучения нейросетей в пространство текста.
Как работает: LLM-оптимизатор анализирует траектории выполнения задач, предлагает структурированные правки (add/delete/replace) к документу-скиллу, а held-out валидация принимает только полезные изменения. Отклонённые правки становятся негативной обратной связью для следующих итераций — прямая аналогия с градиентным спуском, батчами и learning rate.
Результат — компактный файл best_skill.md (300–2000 токенов), который переносится между моделями и харнессами без изменения весов. На 52 из 52 тестовых конфигураций SkillOpt лучший. SpreadsheetBench: с 41.8 до 80.7. Скилл, обученный на Codex, даёт +59.7 на Claude Code.
https://arxiv.org/abs/2605.23904
Стандартный residual stream в Diffusion Transformers — скрытая проблема, которую никто не замечал
В DiT-архитектурах (Flux, SD3 и т.п.) унаследовали residual connections из NLP-трансформеров. Авторы обнаружили три симптома, которые нарастают с глубиной сети: магнитуды скрытых состояний раздуваются в 100x, градиенты в глубоких слоях падают на порядок, соседние блоки становятся почти идентичными. Это PreNorm dilution — та же болезнь, что и в LLM, только хуже: в диффузионных моделях информация ещё и должна меняться в зависимости от timestep денойзинга.
Решение — DAR (Diffusion-Adaptive Routing): вместо фиксированного сложения residual авторы заменяют его на softmax-attention по всем предыдущим слоям, где query вычисляется из текущего состояния с учётом timestep. Никаких ручных пар слоёв, дроп-ин замена.
Результат на ImageNet 256x256: FID 7.56 против 9.67 у baseline SiT-XL/2, обучение в 8.75x быстрее. В связке с REPA даёт ещё 2x ускорение сверху.
https://arxiv.org/abs/2605.20708
В DiT-архитектурах (Flux, SD3 и т.п.) унаследовали residual connections из NLP-трансформеров. Авторы обнаружили три симптома, которые нарастают с глубиной сети: магнитуды скрытых состояний раздуваются в 100x, градиенты в глубоких слоях падают на порядок, соседние блоки становятся почти идентичными. Это PreNorm dilution — та же болезнь, что и в LLM, только хуже: в диффузионных моделях информация ещё и должна меняться в зависимости от timestep денойзинга.
Решение — DAR (Diffusion-Adaptive Routing): вместо фиксированного сложения residual авторы заменяют его на softmax-attention по всем предыдущим слоям, где query вычисляется из текущего состояния с учётом timestep. Никаких ручных пар слоёв, дроп-ин замена.
Результат на ImageNet 256x256: FID 7.56 против 9.67 у baseline SiT-XL/2, обучение в 8.75x быстрее. В связке с REPA даёт ещё 2x ускорение сверху.
https://arxiv.org/abs/2605.20708
Lens: как обогнать модели в 2-5 раз больше по размеру (by Microsoft)
Тренировать text-to-image модели дорого. Z-Image потратил 314K GPU-часов. Microsoft предлагает Lens — 3.8B модель, которая тратит лишь 19.3% от этого и при этом не хуже по бенчмаркам.
Три кита эффективности:
1. Размер модели: 3.8B против 6-80B у конкурентов — меньше вычислений за шаг.
2. Плотность информации в батче: каждый пример подписан GPT-4.1 (в среднем 109 слов!). Плюс мультирезолюционное обучение — модель видит изображения в разных разрешениях и соотношениях сторон, что само по себе даёт генерализацию до 1440p без дорогого high-res файнтюнинга.
3. Скорость сходимости: тщательный выбор VAE и языкового энкодера — показали, что сильный энкодер ещё и даёт мультиязычность бесплатно, хотя модель обучена только на английском.
После претрейна — RL-дообучение на 8K тщательно подобранных промптов. Итог: 1024px картинка за 3.15 сек, турбо-версия — за 0.84 сек.
https://arxiv.org/abs/2605.21573
Тренировать text-to-image модели дорого. Z-Image потратил 314K GPU-часов. Microsoft предлагает Lens — 3.8B модель, которая тратит лишь 19.3% от этого и при этом не хуже по бенчмаркам.
Три кита эффективности:
1. Размер модели: 3.8B против 6-80B у конкурентов — меньше вычислений за шаг.
2. Плотность информации в батче: каждый пример подписан GPT-4.1 (в среднем 109 слов!). Плюс мультирезолюционное обучение — модель видит изображения в разных разрешениях и соотношениях сторон, что само по себе даёт генерализацию до 1440p без дорогого high-res файнтюнинга.
3. Скорость сходимости: тщательный выбор VAE и языкового энкодера — показали, что сильный энкодер ещё и даёт мультиязычность бесплатно, хотя модель обучена только на английском.
После претрейна — RL-дообучение на 8K тщательно подобранных промптов. Итог: 1024px картинка за 3.15 сек, турбо-версия — за 0.84 сек.
https://arxiv.org/abs/2605.21573