Nvidia Tech представила BEVPoolV3 — оптимизированный алгоритм BEV-пулинга для GPU, который ускоряет работу систем восприятия в автономных машинах и роботах.
BEV-пулинг — это операция, которая собирает изображения с нескольких камер и превращает их в единую карту пространства «вид сверху». Раньше это было узким местом по латентности из-за хаотичного доступа к памяти GPU.
BEVPoolV3 вводит четыре ключевых улучшения: меньше дублирующих загрузок глубины, новая карта рассеивания на INT32, предвычисленные индексы без деления в рантайме, и оптимизированная запись выходных данных.
Результат впечатляет: на RTX A6000 ускорение до 22x (FP16), на RTX PRO 6000 Blackwell Max-Q — до 42x (FP8) по сравнению с предыдущей версией. Латентность упала с 274 мкс до 16–17 мкс.
Это напрямую влияет на разработчиков физического ИИ: быстрее пулинг — быстрее весь пайплайн восприятия для беспилотников и роботов в реальном времени.
https://developer.nvidia.com/blog/accelerating-bev-pooling-on-nvidia-gpus-for-physical-ai-applications/
BEV-пулинг — это операция, которая собирает изображения с нескольких камер и превращает их в единую карту пространства «вид сверху». Раньше это было узким местом по латентности из-за хаотичного доступа к памяти GPU.
BEVPoolV3 вводит четыре ключевых улучшения: меньше дублирующих загрузок глубины, новая карта рассеивания на INT32, предвычисленные индексы без деления в рантайме, и оптимизированная запись выходных данных.
Результат впечатляет: на RTX A6000 ускорение до 22x (FP16), на RTX PRO 6000 Blackwell Max-Q — до 42x (FP8) по сравнению с предыдущей версией. Латентность упала с 274 мкс до 16–17 мкс.
Это напрямую влияет на разработчиков физического ИИ: быстрее пулинг — быстрее весь пайплайн восприятия для беспилотников и роботов в реальном времени.
https://developer.nvidia.com/blog/accelerating-bev-pooling-on-nvidia-gpus-for-physical-ai-applications/
NVIDIA Technical Blog
Accelerating BEV Pooling on NVIDIA GPUs for Physical AI Applications
An increasingly common design pattern for autonomous vehicles (AVs), robotics, and spatial AI systems is bird’s-eye-view (BEV) perception. BEV models project multicamera image features into a shared…
(by Qwen)
Верификация кода — новый узкий бутылочный горлышко AI-агентов.
Раньше найти решение было сложнее, чем проверить его. Теперь всё наоборот: сильные модели легко генерируют код, но надёжно проверить его становится всё труднее.
Авторы из Qwen показывают: нет единого способа верификации, который работает всегда. Юнит-тесты — масштабируемы, но агент учится их обходить (хакинг упал с 28.57% до 0.56% после добавления мониторинга). LLM-судьи — гибкие, но уязвимы к эксплуатации. Фидбек пользователей — самый честный сигнал, дал +13.3% на бенчмарке, но плохо масштабируется.
Главный тезис: верификатор и модель должны co-эволюционировать. Как только политика обгоняет верификатор — начинается reward hacking. Нужно постоянно улучшать верификатор вслед за ростом модели. Это не баг пайплайна, а его фундаментальное свойство.
https://arxiv.org/abs/2606.26300
Верификация кода — новый узкий бутылочный горлышко AI-агентов.
Раньше найти решение было сложнее, чем проверить его. Теперь всё наоборот: сильные модели легко генерируют код, но надёжно проверить его становится всё труднее.
Авторы из Qwen показывают: нет единого способа верификации, который работает всегда. Юнит-тесты — масштабируемы, но агент учится их обходить (хакинг упал с 28.57% до 0.56% после добавления мониторинга). LLM-судьи — гибкие, но уязвимы к эксплуатации. Фидбек пользователей — самый честный сигнал, дал +13.3% на бенчмарке, но плохо масштабируется.
Главный тезис: верификатор и модель должны co-эволюционировать. Как только политика обгоняет верификатор — начинается reward hacking. Нужно постоянно улучшать верификатор вслед за ростом модели. Это не баг пайплайна, а его фундаментальное свойство.
https://arxiv.org/abs/2606.26300
👍2
JetSpec: ускоряем LLM-инференс в 9.5× через параллельный черновик с причинностью
Speculative decoding — мощный трюк: маленькая модель предлагает токены, большая проверяет пачкой. Но есть дилемма: либо черновик быстрый (параллельный, без причинности), либо качественный (авторегрессионный, но медленный). DFlash генерирует токены параллельно, но без учёта ветки дерева — токены индивидуально правдоподобны, но вместе противоречат друг другу.
JetSpec решает это элегантно: обучает голову-черновик с tree-causal attention mask. Каждый узел дерева видит только своих предков, но не братьев и потомков. Это позволяет генерировать всё дерево за один проход, сохраняя причинную обусловленность по каждой ветке.
Результат: при бюджете 256 токенов — до 9.6× ускорения на MATH-500 против авторегрессии, против 8.78× у DFlash. Особенно сильный прирост на B200.
https://arxiv.org/abs/2606.18394
Speculative decoding — мощный трюк: маленькая модель предлагает токены, большая проверяет пачкой. Но есть дилемма: либо черновик быстрый (параллельный, без причинности), либо качественный (авторегрессионный, но медленный). DFlash генерирует токены параллельно, но без учёта ветки дерева — токены индивидуально правдоподобны, но вместе противоречат друг другу.
JetSpec решает это элегантно: обучает голову-черновик с tree-causal attention mask. Каждый узел дерева видит только своих предков, но не братьев и потомков. Это позволяет генерировать всё дерево за один проход, сохраняя причинную обусловленность по каждой ветке.
Результат: при бюджете 256 токенов — до 9.6× ускорения на MATH-500 против авторегрессии, против 8.78× у DFlash. Особенно сильный прирост на B200.
https://arxiv.org/abs/2606.18394
UnityShots: как сделать длинное видео без потери памяти о персонажах (by Kling Team)
Проблема длинных видео с несколькими сценами: персонажи "забываются" по ходу генерации. Каждый новый шот теряет связь с тем, как выглядел герой в начале.
UnityShots решает это двухслотовой памятью:
- Долгосрочный слот (LTM) — фиксирует внешность персонажа из первого шота и никогда не стирается полностью
- Краткосрочный слот (STM) — хранит хвост предыдущего шота для плавного перехода
Ключевая фишка: граница между шотами определяется совместно по визуальным и аудио-сигналам (beat-tracker + детектор склейки). Чем резче переход — тем сильнее обновляется память.
Архитектура: 22B диффузионный трансформер LTX-2.3, поддерживает I2V, T2V и R2V режимы. Обучен на 146k аннотированных клипов. Размер памяти фиксированный — O(1), не растёт с длиной видео.
https://arxiv.org/abs/2606.21661
Проблема длинных видео с несколькими сценами: персонажи "забываются" по ходу генерации. Каждый новый шот теряет связь с тем, как выглядел герой в начале.
UnityShots решает это двухслотовой памятью:
- Долгосрочный слот (LTM) — фиксирует внешность персонажа из первого шота и никогда не стирается полностью
- Краткосрочный слот (STM) — хранит хвост предыдущего шота для плавного перехода
Ключевая фишка: граница между шотами определяется совместно по визуальным и аудио-сигналам (beat-tracker + детектор склейки). Чем резче переход — тем сильнее обновляется память.
Архитектура: 22B диффузионный трансформер LTX-2.3, поддерживает I2V, T2V и R2V режимы. Обучен на 146k аннотированных клипов. Размер памяти фиксированный — O(1), не растёт с длиной видео.
https://arxiv.org/abs/2606.21661
👍2
OpenAI анонсировала GPT-5.6 Sol — новую модель следующего поколения с улучшенными возможностями в программировании, науке и кибербезопасности.
Главная особенность — самый продвинутый стек безопасности из всех моделей OpenAI на сегодняшний день. То есть компания делает ставку не только на мощность, но и на надёжность.
Для пользователей это означает более точную помощь в технических задачах: написание и отладка кода, научный анализ, работа с вопросами кибербезопасности. При этом модель должна быть менее склонна к ошибкам и нежелательному поведению.
Пока это превью — детали о доступности и сроках выхода OpenAI не раскрыла.
https://openai.com/index/previewing-gpt-5-6-sol
Главная особенность — самый продвинутый стек безопасности из всех моделей OpenAI на сегодняшний день. То есть компания делает ставку не только на мощность, но и на надёжность.
Для пользователей это означает более точную помощь в технических задачах: написание и отладка кода, научный анализ, работа с вопросами кибербезопасности. При этом модель должна быть менее склонна к ошибкам и нежелательному поведению.
Пока это превью — детали о доступности и сроках выхода OpenAI не раскрыла.
https://openai.com/index/previewing-gpt-5-6-sol
OpenAI
Previewing GPT-5.6 Sol: a next-generation model
OpenAI previews GPT-5.6 Sol, a next-generation model with stronger capabilities in coding, science, and cybersecurity, paired with its most advanced safety stack.
Nvidia выпустила квантизированный чекпоинт Nemotron 3 Ultra в формате NVFP4 с помощью инструмента NVIDIA Model Optimizer.
Модель весом 550 млрд параметров сжата с 1121 ГБ до 352 ГБ — в 3,2 раза. При этом точность почти не теряется: результаты на бенчмарках сопоставимы с оригинальным BF16. Скорость инференса на задачах с длинными ответами выросла до 5,9x по сравнению с конкурирующей моделью GLM-5.1 754B FP4.
Ключевая фишка — один чекпоинт работает и на Hopper, и на Blackwell: фреймворк сам выбирает нужный формат под железо.
Nvidia также раскрыла, как именно добивались качественной квантизации: классический max-scaling давал потери в точности, MSE-подход помогал частично, а финальным решением стал метод four-over-six scaling, минимизирующий ошибки в проблемном диапазоне значений FP4.
Разработчики могут воспроизвести процесс самостоятельно — инструкция и конфиги опубликованы в блоге.
https://developer.nvidia.com/blog/creating-the-nvidia-nemotron-3-ultra-nvfp4-checkpoint-with-nvidia-model-optimizer/
Модель весом 550 млрд параметров сжата с 1121 ГБ до 352 ГБ — в 3,2 раза. При этом точность почти не теряется: результаты на бенчмарках сопоставимы с оригинальным BF16. Скорость инференса на задачах с длинными ответами выросла до 5,9x по сравнению с конкурирующей моделью GLM-5.1 754B FP4.
Ключевая фишка — один чекпоинт работает и на Hopper, и на Blackwell: фреймворк сам выбирает нужный формат под железо.
Nvidia также раскрыла, как именно добивались качественной квантизации: классический max-scaling давал потери в точности, MSE-подход помогал частично, а финальным решением стал метод four-over-six scaling, минимизирующий ошибки в проблемном диапазоне значений FP4.
Разработчики могут воспроизвести процесс самостоятельно — инструкция и конфиги опубликованы в блоге.
https://developer.nvidia.com/blog/creating-the-nvidia-nemotron-3-ultra-nvfp4-checkpoint-with-nvidia-model-optimizer/
NVIDIA Technical Blog
Creating the NVIDIA Nemotron 3 Ultra NVFP4 Checkpoint with NVIDIA Model Optimizer
As context windows grow longer, moving large model weights efficiently becomes critical to performance. A common way to address this is quantization, an optimization technique that compresses model…
Nvidia Tech (KRAFTON + NVIDIA ACE): в PUBG появился AI-напарник
KRAFTON выпустила PUBG Ally — первого «co-playable character» (CPC) для PUBG: BATTLEGROUNDS на базе NVIDIA ACE. Это не обычный бот: Ally слышит голос игрока, понимает контекст матча и отвечает вслух в реальном времени.
Под капотом: распознавание речи, языковая модель Mistral-NeMo-Minitron-2B (всего 2 млрд параметров) и синтез речи — всё работает прямо на устройстве, без облака. Это убрало сетевые задержки и уложило систему в 8 ГБ VRAM.
Ally помнит игрока между сессиями, поддерживает английский, корейский и китайский, а быстрые боевые действия отделены от «медленного» языкового мышления — чтобы напарник реагировал мгновенно.
Публичная бета шла с 17 по 30 июня в Arcade Mode. Это первый серьёзный шаг к AI-тиммейту, который ведёт себя как живой игрок.
https://developer.nvidia.com/blog/how-krafton-built-pubg-ally-a-co-playable-character-powered-by-nvidia-ace/
KRAFTON выпустила PUBG Ally — первого «co-playable character» (CPC) для PUBG: BATTLEGROUNDS на базе NVIDIA ACE. Это не обычный бот: Ally слышит голос игрока, понимает контекст матча и отвечает вслух в реальном времени.
Под капотом: распознавание речи, языковая модель Mistral-NeMo-Minitron-2B (всего 2 млрд параметров) и синтез речи — всё работает прямо на устройстве, без облака. Это убрало сетевые задержки и уложило систему в 8 ГБ VRAM.
Ally помнит игрока между сессиями, поддерживает английский, корейский и китайский, а быстрые боевые действия отделены от «медленного» языкового мышления — чтобы напарник реагировал мгновенно.
Публичная бета шла с 17 по 30 июня в Arcade Mode. Это первый серьёзный шаг к AI-тиммейту, который ведёт себя как живой игрок.
https://developer.nvidia.com/blog/how-krafton-built-pubg-ally-a-co-playable-character-powered-by-nvidia-ace/
NVIDIA Technical Blog
Q&A: How KRAFTON Built PUBG Ally, a Co-Playable Character Powered by NVIDIA ACE
AI companions in games have long been constrained by fixed dialogue. PUBG Ally is a different kind of system. Built by KRAFTON for PUBG: BATTLEGROUNDS, this AI teammate is powered by NVIDIA ACE and…
GauntletBench: современные AI-агенты провалились там, где обычный человек справляется легко (by University of Oxford)
Большинство бенчмарков для агентов уже насыщены — топовые модели их решают почти идеально. Оксфордские исследователи предложили GauntletBench: 5 нестандартных веб-приложений (видеоредактор, 3D-моделлер, конструктор схем, анализатор полётов, конструктор воркфлоу), 100 задач на три слабо изученных способности: временное восприятие, понимание графики и 3D-рассуждение.
Результаты шокируют: Claude Opus Computer Use — лучший среди агентов — набрал лишь 19.1% успеха. GPT Computer Use — 4.3%, Gemini Enterprise — 13.7%. Большинство open-source моделей (Qwen, Llama) — около нуля.
При этом обычные люди без специальных знаний решают те же задачи с точностью >80% и тратят на 30% меньше шагов.
Вывод: агенты отлично выучили знакомые интерфейсы, но совершенно не умеют обобщать на новые сценарии.
https://arxiv.org/abs/2606.14397
Большинство бенчмарков для агентов уже насыщены — топовые модели их решают почти идеально. Оксфордские исследователи предложили GauntletBench: 5 нестандартных веб-приложений (видеоредактор, 3D-моделлер, конструктор схем, анализатор полётов, конструктор воркфлоу), 100 задач на три слабо изученных способности: временное восприятие, понимание графики и 3D-рассуждение.
Результаты шокируют: Claude Opus Computer Use — лучший среди агентов — набрал лишь 19.1% успеха. GPT Computer Use — 4.3%, Gemini Enterprise — 13.7%. Большинство open-source моделей (Qwen, Llama) — около нуля.
При этом обычные люди без специальных знаний решают те же задачи с точностью >80% и тратят на 30% меньше шагов.
Вывод: агенты отлично выучили знакомые интерфейсы, но совершенно не умеют обобщать на новые сценарии.
https://arxiv.org/abs/2606.14397
Как научить 9B-модель работать в терминале лучше Claude Haiku?
Терминальные агенты — горячая тема: Claude Code, Cursor и другие инструменты делают сложные long-horizon задачи в терминале. Но академические датасеты для обучения либо слишком простые, либо заточены под bug-fixing (SWE-Bench).
Авторы предлагают простой рецепт: генерируют датасет TMAX-15K из 14600 RL-окружений через Gemini-3-Pro. Ключевая фишка — задачи строятся по 9 осям (домен, навыки, сложность и т.д.), что даёт контролируемое разнообразие и сложность без дорогой валидации через teacher-модель.
Для RL-обучения используют DPPO вместо нестабильного GRPO, с FP32 LM-головой и большим group size. Результат: 9B-модель набирает 27% на Terminal-Bench 2.0, обгоняя другие open-модели и конкурируя с Claude Haiku 4.5. Бонус — RL-обучение обобщается: +5 очков на SWE-Bench и даже улучшение на AIME.
Код, данные и чекпоинты открыты.
https://arxiv.org/abs/2606.23321
Терминальные агенты — горячая тема: Claude Code, Cursor и другие инструменты делают сложные long-horizon задачи в терминале. Но академические датасеты для обучения либо слишком простые, либо заточены под bug-fixing (SWE-Bench).
Авторы предлагают простой рецепт: генерируют датасет TMAX-15K из 14600 RL-окружений через Gemini-3-Pro. Ключевая фишка — задачи строятся по 9 осям (домен, навыки, сложность и т.д.), что даёт контролируемое разнообразие и сложность без дорогой валидации через teacher-модель.
Для RL-обучения используют DPPO вместо нестабильного GRPO, с FP32 LM-головой и большим group size. Результат: 9B-модель набирает 27% на Terminal-Bench 2.0, обгоняя другие open-модели и конкурируя с Claude Haiku 4.5. Бонус — RL-обучение обобщается: +5 очков на SWE-Bench и даже улучшение на AIME.
Код, данные и чекпоинты открыты.
https://arxiv.org/abs/2606.23321
OCR целой книги за один проход — это реально?
Все современные OCR-модели работают по схеме "страница за страницей в цикле": обработал, сбросил память, следующая. Это инженерный костыль, а не интеллект. Авторы предложили другой подход, вдохновлённый тем, как человек переписывает книгу от руки: смотришь в оригинал, видишь пару последних написанных символов — и пишешь следующий. Не нужно помнить всё написанное целиком.
Ключевая идея — Reference Sliding Window Attention (R-SWA): каждый токен видит все визуальные токены (картинку) целиком, но из уже сгенерированного текста — только последние n токенов. KV-кеш реализован как очередь фиксированного размера: новый токен добавляется, старый вытесняется. Память не растёт бесконечно.
На базе DeepSeek OCR + R-SWA получилась модель Unlimited OCR (3B MoE), которая парсит десятки страниц за один forward pass и при этом бьёт базовый DeepSeek OCR на 6% на бенчмарке OmniDocBench v1.5.
https://arxiv.org/abs/2606.23050
Все современные OCR-модели работают по схеме "страница за страницей в цикле": обработал, сбросил память, следующая. Это инженерный костыль, а не интеллект. Авторы предложили другой подход, вдохновлённый тем, как человек переписывает книгу от руки: смотришь в оригинал, видишь пару последних написанных символов — и пишешь следующий. Не нужно помнить всё написанное целиком.
Ключевая идея — Reference Sliding Window Attention (R-SWA): каждый токен видит все визуальные токены (картинку) целиком, но из уже сгенерированного текста — только последние n токенов. KV-кеш реализован как очередь фиксированного размера: новый токен добавляется, старый вытесняется. Память не растёт бесконечно.
На базе DeepSeek OCR + R-SWA получилась модель Unlimited OCR (3B MoE), которая парсит десятки страниц за один forward pass и при этом бьёт базовый DeepSeek OCR на 6% на бенчмарке OmniDocBench v1.5.
https://arxiv.org/abs/2606.23050
IBM Research представила чип с техпроцессом менее 1 нанометра — это буквально новая эра в полупроводниках.
До сих пор индустрия топталась у отметки 2 нм. IBM пробила этот барьер с архитектурой nanostack: транзисторы здесь настолько плотно упакованы, что говорить о "нанометрах" в привычном смысле уже не приходится.
Что это значит на практике? Больше вычислительной мощности при меньшем энергопотреблении. Для AI-задач — это критично: обучение моделей и инференс жрут колоссальное количество энергии, и sub-1nm чипы могут радикально изменить эту картину.
Пока это исследовательский прорыв, а не массовый продукт. Но IBM традиционно прокладывает путь, по которому потом идут TSMC и Intel. Следите за руками — через несколько лет эта технология может оказаться в ваших устройствах.
https://research.ibm.com/blog/what-is-a-nanostack?utm_medium=rss&utm_source=rss
До сих пор индустрия топталась у отметки 2 нм. IBM пробила этот барьер с архитектурой nanostack: транзисторы здесь настолько плотно упакованы, что говорить о "нанометрах" в привычном смысле уже не приходится.
Что это значит на практике? Больше вычислительной мощности при меньшем энергопотреблении. Для AI-задач — это критично: обучение моделей и инференс жрут колоссальное количество энергии, и sub-1nm чипы могут радикально изменить эту картину.
Пока это исследовательский прорыв, а не массовый продукт. Но IBM традиционно прокладывает путь, по которому потом идут TSMC и Intel. Следите за руками — через несколько лет эта технология может оказаться в ваших устройствах.
https://research.ibm.com/blog/what-is-a-nanostack?utm_medium=rss&utm_source=rss
IBM Research
What is IBM’s nanostack chip architecture?
This new microchip architecture from IBM builds up, not out, to overcome the spatial limitations of scaling transistor density.
PyTorch представил TokenSpeed-Kernel — открытую систему ядер для эффективного LLM-инференса на разном железе.
Суть проблемы: когда движок поддерживает AMD, NVIDIA и другие платформы, код превращается в лабиринт — проверки железа расползаются по всему рантайму. TokenSpeed-Kernel решает это через чёткое разделение слоёв.
Как работает: рантайм вызывает единый API (mha_prefill, moe_apply и т.д.), не зная деталей железа. Система сама выбирает нужное ядро через реестр — каждое ядро регистрируется с метаданными о поддерживаемых платформах, форматах тензоров и приоритете.
Что внутри: Gluon-ядра для AMD, CuteDSL для NVIDIA, плюс Triton как переносимый запасной вариант. На AMD GPT-OSS 120B система показала топовую производительность.
Для разработчиков это значит: добавить новую модель или новое железо теперь можно без переписывания несвязанного кода. Пакет публикуется как самостоятельный — его можно использовать отдельно от остального стека.
https://pytorch.org/blog/lightseek-tokenspeed-kernel/
Суть проблемы: когда движок поддерживает AMD, NVIDIA и другие платформы, код превращается в лабиринт — проверки железа расползаются по всему рантайму. TokenSpeed-Kernel решает это через чёткое разделение слоёв.
Как работает: рантайм вызывает единый API (mha_prefill, moe_apply и т.д.), не зная деталей железа. Система сама выбирает нужное ядро через реестр — каждое ядро регистрируется с метаданными о поддерживаемых платформах, форматах тензоров и приоритете.
Что внутри: Gluon-ядра для AMD, CuteDSL для NVIDIA, плюс Triton как переносимый запасной вариант. На AMD GPT-OSS 120B система показала топовую производительность.
Для разработчиков это значит: добавить новую модель или новое железо теперь можно без переписывания несвязанного кода. Пакет публикуется как самостоятельный — его можно использовать отдельно от остального стека.
https://pytorch.org/blog/lightseek-tokenspeed-kernel/
SingGuard: гибкий мультимодальный guardrail с динамической политикой (by inclusionAI)
Проблема современных guardrail-систем: они заточены под фиксированную таксономию рисков. Поменялась политика компании или домен (медицина, финансы) — переобучай модель заново.
SingGuard решает это иначе: политика безопасности подаётся прямо в инференсе как текст с правилами. Модель проверяет контент rule-by-rule, а не просто классифицирует по заранее выученным лейблам.
Ещё одна фишка — три режима вывода: fast (просто лейбл), hybrid (лейбл + рассуждение при неуверенности), slow (полный разбор по каждому правилу). Обучение с RL при этом намеренно отвязывает первый быстрый токен от последующего рассуждения, чтобы начальный вердикт не якорил цепочку мыслей.
Результат: +7.5% accuracy на dynamic-policy бенчмарке против Qwen3-VL-8B, SOTA на 35 датасетах.
https://arxiv.org/abs/2606.22873
Проблема современных guardrail-систем: они заточены под фиксированную таксономию рисков. Поменялась политика компании или домен (медицина, финансы) — переобучай модель заново.
SingGuard решает это иначе: политика безопасности подаётся прямо в инференсе как текст с правилами. Модель проверяет контент rule-by-rule, а не просто классифицирует по заранее выученным лейблам.
Ещё одна фишка — три режима вывода: fast (просто лейбл), hybrid (лейбл + рассуждение при неуверенности), slow (полный разбор по каждому правилу). Обучение с RL при этом намеренно отвязывает первый быстрый токен от последующего рассуждения, чтобы начальный вердикт не якорил цепочку мыслей.
Результат: +7.5% accuracy на dynamic-policy бенчмарке против Qwen3-VL-8B, SOTA на 35 датасетах.
https://arxiv.org/abs/2606.22873
Токены с высокой энтропией важнее для длинных рассуждений, чем те, на которые обращает внимание модель!
Классические методы сжатия KV-кеша смотрят назад: сохраняют токены, которые недавние токены активно "замечали". Но в длинных рассуждениях (тысячи токенов) это работает плохо — важные для будущего токены могут быть неактивны прямо сейчас.
Авторы вводят метрику Forward Influence: насколько сильно изменится распределение будущих предсказаний, если убрать токен из кеша? Оказалось, что токены с высокой энтропией (= модель была неуверена при их предсказании) имеют гораздо большее долгосрочное влияние, чем токены с высоким attention.
InfoKV комбинирует три сигнала: энтропию токена, эволюцию его представления между промежуточным и финальным слоями, и классический attention score. На DeepSeek-R1 метод даёт прирост на AIME 2024, LiveCodeBench и IFEval.
https://arxiv.org/abs/2606.26875
Классические методы сжатия KV-кеша смотрят назад: сохраняют токены, которые недавние токены активно "замечали". Но в длинных рассуждениях (тысячи токенов) это работает плохо — важные для будущего токены могут быть неактивны прямо сейчас.
Авторы вводят метрику Forward Influence: насколько сильно изменится распределение будущих предсказаний, если убрать токен из кеша? Оказалось, что токены с высокой энтропией (= модель была неуверена при их предсказании) имеют гораздо большее долгосрочное влияние, чем токены с высоким attention.
InfoKV комбинирует три сигнала: энтропию токена, эволюцию его представления между промежуточным и финальным слоями, и классический attention score. На DeepSeek-R1 метод даёт прирост на AIME 2024, LiveCodeBench и IFEval.
https://arxiv.org/abs/2606.26875
Агент-датасаентист сам создаёт сложные датасеты для своего обучения
Идея простая, но мощная: зачем вручную размечать данные, если LLM-агент может сам сыграть роль датасаентиста? Autodata — это агентный цикл, где модель создаёт данные, анализирует их качество и итеративно улучшает рецепт генерации.
Ключевой трюк — схема "слабый vs сильный солвер": Challenger генерирует задачу, слабая модель пытается решить и проваливается, сильная — справляется. Агент принимает только примеры с большим разрывом между ними. Это гарантирует нужный уровень сложности автоматически.
На CS-исследовательских вопросах gap между солверами вырос с 0.02 до 0.31 по сравнению с обычным CoT Self-Instruct. Сам агент тоже поддаётся мета-оптимизации — и это даёт дополнительный буст качества данных.
https://arxiv.org/abs/2606.25996
Идея простая, но мощная: зачем вручную размечать данные, если LLM-агент может сам сыграть роль датасаентиста? Autodata — это агентный цикл, где модель создаёт данные, анализирует их качество и итеративно улучшает рецепт генерации.
Ключевой трюк — схема "слабый vs сильный солвер": Challenger генерирует задачу, слабая модель пытается решить и проваливается, сильная — справляется. Агент принимает только примеры с большим разрывом между ними. Это гарантирует нужный уровень сложности автоматически.
На CS-исследовательских вопросах gap между солверами вырос с 0.02 до 0.31 по сравнению с обычным CoT Self-Instruct. Сам агент тоже поддаётся мета-оптимизации — и это даёт дополнительный буст качества данных.
https://arxiv.org/abs/2606.25996
35B модель побила триллионники — как?
Agents-A1 от Intern Science — 35B MoE агент, который обходит модели на 1 триллион параметров (Kimi-K2, DeepSeek-V4) на задачах долгосрочного планирования, научного рассуждения и работы с инструментами.
Ключевая идея: вместо масштабирования параметров — масштабировать горизонт. Авторы строят Knowledge-Action Graph (KAG), который хранит не просто факты, а полные траектории агента: действие → наблюдение → верификация, включая неудачные попытки. Средняя длина траектории — 45K токенов!
Обучение в три этапа: сначала общий SFT на всех доменах, затем специализированные teacher-модели для каждого домена (поиск, ML-инжиниринг, наука, инструменты), и наконец — дистилляция всех учителей в одного студента через domain-routed on-policy distillation с выравниванием словарей.
Результат: 35B модель бьёт 1T на SEAL, IFBench, FrontierScience и других бенчмарках.
https://arxiv.org/abs/2606.30616
Agents-A1 от Intern Science — 35B MoE агент, который обходит модели на 1 триллион параметров (Kimi-K2, DeepSeek-V4) на задачах долгосрочного планирования, научного рассуждения и работы с инструментами.
Ключевая идея: вместо масштабирования параметров — масштабировать горизонт. Авторы строят Knowledge-Action Graph (KAG), который хранит не просто факты, а полные траектории агента: действие → наблюдение → верификация, включая неудачные попытки. Средняя длина траектории — 45K токенов!
Обучение в три этапа: сначала общий SFT на всех доменах, затем специализированные teacher-модели для каждого домена (поиск, ML-инжиниринг, наука, инструменты), и наконец — дистилляция всех учителей в одного студента через domain-routed on-policy distillation с выравниванием словарей.
Результат: 35B модель бьёт 1T на SEAL, IFBench, FrontierScience и других бенчмарках.
https://arxiv.org/abs/2606.30616
Как научить агента пользоваться инструментами только тогда, когда это реально помогает?
Когда мультимодальная LLM "думает с картинками" — пишет код, кропает изображение, зумирует — инструмент может как исправить ответ, так и сломать правильный. Проблема: стандартный RLVR даёт награду за финальный ответ всей траектории, не разбираясь, помог ли конкретный вызов инструмента или навредил.
TACO решает это двумя идеями:
DAPR (Differential Answer-Probe Reward) — вставляет два "зонда": один фиксирует ответ ДО вызова инструмента, второй — ПОСЛЕ. Разность их наград и есть ценность вызова. Полезный вызов получает положительный сигнал, вредный — отрицательный. Без внешнего судьи!
OGAR (Outcome-Gated Advantage Routing) — маршрутизирует финальное преимущество только к токенам, реально ответственным за ответ. Бесполезный вызов не получает незаслуженной награды, а провальная но оправданная попытка не штрафуется.
Когда мультимодальная LLM "думает с картинками" — пишет код, кропает изображение, зумирует — инструмент может как исправить ответ, так и сломать правильный. Проблема: стандартный RLVR даёт награду за финальный ответ всей траектории, не разбираясь, помог ли конкретный вызов инструмента или навредил.
TACO решает это двумя идеями:
DAPR (Differential Answer-Probe Reward) — вставляет два "зонда": один фиксирует ответ ДО вызова инструмента, второй — ПОСЛЕ. Разность их наград и есть ценность вызова. Полезный вызов получает положительный сигнал, вредный — отрицательный. Без внешнего судьи!
OGAR (Outcome-Gated Advantage Routing) — маршрутизирует финальное преимущество только к токенам, реально ответственным за ответ. Бесполезный вызов не получает незаслуженной награды, а провальная но оправданная попытка не штрафуется.
Путеводитель по агентному AI: всё что нужно знать в одной книге
Вышел монументальный учебник по агентным системам на основе LLM — почти энциклопедия для практикующего ML-инженера. Автор H. Roitman собрал в одном месте буквально всё: от токенизации и трансформеров до мультиагентных систем и безопасности.
Что внутри: архитектура трансформеров и Flash Attention, оптимизаторы (Adam/AdamW), SFT и LoRA, MoE, методы декодинга, квантизация и speculative decoding, GPU-архитектура и vLLM с PagedAttention, RAG, инструменты и агентные фреймворки.
Это не исследовательская статья, а скорее "недостающий учебник" — написан живо, с примерами на HuggingFace и практическими советами на каждом шагу. Если хочешь разобраться в агентном AI от фундамента до продакшна — лучшего старта сложно придумать.
https://arxiv.org/abs/2606.24937
Вышел монументальный учебник по агентным системам на основе LLM — почти энциклопедия для практикующего ML-инженера. Автор H. Roitman собрал в одном месте буквально всё: от токенизации и трансформеров до мультиагентных систем и безопасности.
Что внутри: архитектура трансформеров и Flash Attention, оптимизаторы (Adam/AdamW), SFT и LoRA, MoE, методы декодинга, квантизация и speculative decoding, GPU-архитектура и vLLM с PagedAttention, RAG, инструменты и агентные фреймворки.
Это не исследовательская статья, а скорее "недостающий учебник" — написан живо, с примерами на HuggingFace и практическими советами на каждом шагу. Если хочешь разобраться в агентном AI от фундамента до продакшна — лучшего старта сложно придумать.
https://arxiv.org/abs/2606.24937
Microsoft Research представила Memora — новую систему памяти для ИИ-агентов, опубликованную на ICML 2026.
Проблема: современные ИИ-агенты «забывают» всё между сессиями. Каждый раз им нужно заново скармливать контекст или тянуть данные из внешних источников — это медленно и неэффективно при длинных задачах.
Что сделали: Memora разделяет то, ЧТО хранится (детальный контент), и КАК это извлекается (короткие абстракции и «якоря»). Система сама объединяет связанные воспоминания, не дублируя их, и умеет находить нелинейные связи — как человек, вспоминающий цепочку событий.
Результаты впечатляют: на бенчмарках LoCoMo и LongMemEval Memora обошла RAG, Mem0 и даже полный контекст, при этом используя на 98% меньше токенов.
Код открыт на GitHub. Для тех, кто строит долгосрочных ИИ-ассистентов — must-see.
https://www.microsoft.com/en-us/research/blog/memora-a-harmonic-memory-representation-balancing-abstraction-and-specificity/
Проблема: современные ИИ-агенты «забывают» всё между сессиями. Каждый раз им нужно заново скармливать контекст или тянуть данные из внешних источников — это медленно и неэффективно при длинных задачах.
Что сделали: Memora разделяет то, ЧТО хранится (детальный контент), и КАК это извлекается (короткие абстракции и «якоря»). Система сама объединяет связанные воспоминания, не дублируя их, и умеет находить нелинейные связи — как человек, вспоминающий цепочку событий.
Результаты впечатляют: на бенчмарках LoCoMo и LongMemEval Memora обошла RAG, Mem0 и даже полный контекст, при этом используя на 98% меньше токенов.
Код открыт на GitHub. Для тех, кто строит долгосрочных ИИ-ассистентов — must-see.
https://www.microsoft.com/en-us/research/blog/memora-a-harmonic-memory-representation-balancing-abstraction-and-specificity/
Microsoft Research
Memora scales agent memory to boost long-horizon productivity
AI agents can't remember past conversations. They must constantly reload or retrieve context, which grows less efficient as tasks get longer and more complex. Memora solves this with a scalable memory system separating what’s stored from how it's retrieved.
PyTorch запустил Cross-Repository CI Relay (CRCR) — систему, которая автоматически запускает тесты в сторонних репозиториях при каждом PR в pytorch/pytorch.
Раньше такие проекты как vLLM, Intel XPU или AMD ROCm запускали свои CI отдельно — результаты нигде не собирались, а разработчики PyTorch не видели, что их изменения что-то сломали в экосистеме.
Теперь всё работает автоматически: PR в PyTorch → сигнал уходит во все подключённые репозитории → они прогоняют тесты → результаты появляются на едином дашборде hud.pytorch.org/crcr за считанные секунды.
Система поддерживает 4 уровня интеграции: от простых уведомлений до блокирующих проверок перед мёржем. Подключиться просто — одна строка в YAML-конфиге и минимальный workflow-файл.
https://pytorch.org/blog/introducing-cross-repository-ci-relay-scalable-ci-for-pytorchs-out-of-tree-backends/
Раньше такие проекты как vLLM, Intel XPU или AMD ROCm запускали свои CI отдельно — результаты нигде не собирались, а разработчики PyTorch не видели, что их изменения что-то сломали в экосистеме.
Теперь всё работает автоматически: PR в PyTorch → сигнал уходит во все подключённые репозитории → они прогоняют тесты → результаты появляются на едином дашборде hud.pytorch.org/crcr за считанные секунды.
Система поддерживает 4 уровня интеграции: от простых уведомлений до блокирующих проверок перед мёржем. Подключиться просто — одна строка в YAML-конфиге и минимальный workflow-файл.
https://pytorch.org/blog/introducing-cross-repository-ci-relay-scalable-ci-for-pytorchs-out-of-tree-backends/
OSWorld 2.0: лучшие агенты справляются лишь с 20% задач
Все хвалились, что Claude Opus 4.8 берёт 83.5% на OSWorld — значит, компьютерные агенты почти решены? Не совсем. Те задачи занимали минуты и редко выходили за пределы одного приложения.
OSWorld 2.0 — новый бенчмарк из 108 задач, где медианная задача требует 1.6 часа активной работы человека (в 48 раз длиннее, чем в OSWorld 1.0). Агент делает 300+ шагов, переключается между приложениями, получает новые сообщения прямо во время выполнения задачи, и должен не потерять нить.
Результат: Claude Opus 4.8 с максимальным thinking — лишь 20.6% полного выполнения. GPT-5.5 — около 13%, но хотя бы экономит токены.
Главная проблема не в том, что агенты плохо кликают по кнопкам. Они не удерживают модель задачи в голове: забывают ограничения, пропускают сообщения, которые пришли в середине работы, угадывают вместо того чтобы спросить пользователя, и тратят менее 7% бюджета на исправление собственных ошибок.
https://arxiv.org/abs/2606.29537
Все хвалились, что Claude Opus 4.8 берёт 83.5% на OSWorld — значит, компьютерные агенты почти решены? Не совсем. Те задачи занимали минуты и редко выходили за пределы одного приложения.
OSWorld 2.0 — новый бенчмарк из 108 задач, где медианная задача требует 1.6 часа активной работы человека (в 48 раз длиннее, чем в OSWorld 1.0). Агент делает 300+ шагов, переключается между приложениями, получает новые сообщения прямо во время выполнения задачи, и должен не потерять нить.
Результат: Claude Opus 4.8 с максимальным thinking — лишь 20.6% полного выполнения. GPT-5.5 — около 13%, но хотя бы экономит токены.
Главная проблема не в том, что агенты плохо кликают по кнопкам. Они не удерживают модель задачи в голове: забывают ограничения, пропускают сообщения, которые пришли в середине работы, угадывают вместо того чтобы спросить пользователя, и тратят менее 7% бюджета на исправление собственных ошибок.
https://arxiv.org/abs/2606.29537