Доверяй своей модели: как распределение уверенности улучшает выбор ответа
Когда LLM генерирует несколько рассуждений для одного вопроса, как выбрать лучший? Обычно — голосованием или внешней reward-моделью. Авторы предлагают DistriVoting: смотреть на распределение внутренней уверенности модели как на смесь двух гауссиан (правильные vs неправильные ответы) и фильтровать кандидатов в два шага.
Сначала GMM разделяет траектории на «позитивные» (высокая уверенность) и «негативные». Затем Reject Filter использует негативные ответы, чтобы выкинуть ложноположительные из пула голосования.
Дополнительно SelfStepConf мониторит уверенность пошагово прямо во время генерации — если она резко падает, принудительно вставляет токены рефлексии. Это раздвигает распределения правильных и неправильных ответов дальше друг от друга, что теоретически доказуемо улучшает точность голосования.
Проверено на DeepSeek и Qwen3 на AIME, GPQA-D и других бенчмарках — стабильный прирост без внешних моделей.
Когда LLM генерирует несколько рассуждений для одного вопроса, как выбрать лучший? Обычно — голосованием или внешней reward-моделью. Авторы предлагают DistriVoting: смотреть на распределение внутренней уверенности модели как на смесь двух гауссиан (правильные vs неправильные ответы) и фильтровать кандидатов в два шага.
Сначала GMM разделяет траектории на «позитивные» (высокая уверенность) и «негативные». Затем Reject Filter использует негативные ответы, чтобы выкинуть ложноположительные из пула голосования.
Дополнительно SelfStepConf мониторит уверенность пошагово прямо во время генерации — если она резко падает, принудительно вставляет токены рефлексии. Это раздвигает распределения правильных и неправильных ответов дальше друг от друга, что теоретически доказуемо улучшает точность голосования.
Проверено на DeepSeek и Qwen3 на AIME, GPQA-D и других бенчмарках — стабильный прирост без внешних моделей.
Планирование за 8 токенов: как сжать мир до 128 бит
Современные world models для планирования в RL страдают от одной проблемы: им нужны сотни токенов на кадр, а значит планирование занимает минуты. Авторы задались вопросом: а что если сжать изображение до предела — всего 8 токенов (128 бит)?
Так появился CompACT. Ключевые идеи:
1. Вместо обычного энкодера — frozen pretrained vision model (типа DINO), из которой через cross-attention извлекаются только семантически важные фичи.
2. Дискретное латентное пространство — предсказание будущего состояния делается через masked generative modeling (как MaskGIT), без диффузии.
3. Декодер не пытается восстановить пиксели напрямую из 8 токенов — он генерирует их условно, используя компактные токены как подсказку.
Результат: world model на навигации достигает точности модели с 784 токенами, но в 40 раз быстрее. А 8-токенная модель вообще обходит конкурента с 64 токенами!
https://arxiv.org/abs/2603.05438
Современные world models для планирования в RL страдают от одной проблемы: им нужны сотни токенов на кадр, а значит планирование занимает минуты. Авторы задались вопросом: а что если сжать изображение до предела — всего 8 токенов (128 бит)?
Так появился CompACT. Ключевые идеи:
1. Вместо обычного энкодера — frozen pretrained vision model (типа DINO), из которой через cross-attention извлекаются только семантически важные фичи.
2. Дискретное латентное пространство — предсказание будущего состояния делается через masked generative modeling (как MaskGIT), без диффузии.
3. Декодер не пытается восстановить пиксели напрямую из 8 токенов — он генерирует их условно, используя компактные токены как подсказку.
Результат: world model на навигации достигает точности модели с 784 токенами, но в 40 раз быстрее. А 8-токенная модель вообще обходит конкурента с 64 токенами!
https://arxiv.org/abs/2603.05438
WildActor: как заставить видеомодель не "забывать" лицо актёра при смене ракурса
Классическая проблема генерации видео с конкретным персонажем: стоит сменить угол камеры — и лицо "поплыло", одежда изменилась, а тело живёт своей жизнью. Авторы атакуют эту проблему сразу с двух сторон.
Во-первых, они собрали Actor-18M — 1.6M видео и 18M референсных изображений одних и тех же людей с разных ракурсов, в разных окружениях и позах. Часть данных сгенерирована: для каждого субъекта синтезируют вид спереди, сзади, сбоку и т.д.
Во-вторых, предложили WildActor с двумя ключевыми идеями: асимметричный attention (видео-токены смотрят на референс, но не наоборот — чтобы не "загрязнять" backbone), и Viewpoint-Adaptive Monte Carlo Sampling — выбор референсных изображений с максимальным разнообразием ракурсов.
Результат: стабильная идентичность персонажа при смене сцен, ракурсов и движений.
https://arxiv.org/abs/2603.00586
Классическая проблема генерации видео с конкретным персонажем: стоит сменить угол камеры — и лицо "поплыло", одежда изменилась, а тело живёт своей жизнью. Авторы атакуют эту проблему сразу с двух сторон.
Во-первых, они собрали Actor-18M — 1.6M видео и 18M референсных изображений одних и тех же людей с разных ракурсов, в разных окружениях и позах. Часть данных сгенерирована: для каждого субъекта синтезируют вид спереди, сзади, сбоку и т.д.
Во-вторых, предложили WildActor с двумя ключевыми идеями: асимметричный attention (видео-токены смотрят на референс, но не наоборот — чтобы не "загрязнять" backbone), и Viewpoint-Adaptive Monte Carlo Sampling — выбор референсных изображений с максимальным разнообразием ракурсов.
Результат: стабильная идентичность персонажа при смене сцен, ракурсов и движений.
https://arxiv.org/abs/2603.00586
Nvidia Tech выпустила CUDA 13.2 — масштабное обновление для разработчиков GPU-приложений.
Главное: CUDA Tile теперь полноценно работает на архитектурах Ampere, Ada и Blackwell. Python-библиотека cuTile получила поддержку рекурсивных функций, замыканий, кастомных редукций и улучшенной работы с массивами. Установка теперь одной командой через pip.
Из важного для разработчиков: новые API cudaMemcpyWithAttributesAsync упрощают гибкое управление памятью, на Windows в режиме WDDM значительно снизился расход локальной памяти GPU, а дефолтный режим драйвера сменился с TCC на MCDM — это открывает поддержку WSL2, контейнеров и продвинутого управления памятью.
Для математических вычислений: экспериментальная поддержка Grouped GEMM с MXFP8 в cuBLAS для Blackwell, ускоренные FP64-эмулированные операции QR, LU и Cholesky на INT8-платформах.
Инструменты: NVIDIA Nsight Python для профилирования прямо из Python, отладка Numba-ядер, AI-ассистент Nsight Copilot для написания CUDA-кода.
https://developer.nvidia.com/blog/cuda-13-2-introduces-enhanced-cuda-tile-support-and-new-python-features/
Главное: CUDA Tile теперь полноценно работает на архитектурах Ampere, Ada и Blackwell. Python-библиотека cuTile получила поддержку рекурсивных функций, замыканий, кастомных редукций и улучшенной работы с массивами. Установка теперь одной командой через pip.
Из важного для разработчиков: новые API cudaMemcpyWithAttributesAsync упрощают гибкое управление памятью, на Windows в режиме WDDM значительно снизился расход локальной памяти GPU, а дефолтный режим драйвера сменился с TCC на MCDM — это открывает поддержку WSL2, контейнеров и продвинутого управления памятью.
Для математических вычислений: экспериментальная поддержка Grouped GEMM с MXFP8 в cuBLAS для Blackwell, ускоренные FP64-эмулированные операции QR, LU и Cholesky на INT8-платформах.
Инструменты: NVIDIA Nsight Python для профилирования прямо из Python, отладка Numba-ядер, AI-ассистент Nsight Copilot для написания CUDA-кода.
https://developer.nvidia.com/blog/cuda-13-2-introduces-enhanced-cuda-tile-support-and-new-python-features/
NVIDIA Technical Blog
CUDA 13.2 Introduces Enhanced CUDA Tile Support and New Python Features
CUDA 13.2 arrives with a major update: NVIDIA CUDA Tile is now supported on devices of compute capability 8.X architectures (NVIDIA Ampere and NVIDIA Ada), as well as 10.X, 11.X and 12.
Nvidia Tech — интеграция гибридной архитектуры Falcon-H1 в Megatron Core
Technology Innovation Institute (TII) внедрили архитектуру Falcon-H1 в NVIDIA Megatron Core. Главная особенность — параллельная работа Transformer-внимания и Mamba-2 SSM внутри каждого блока: оба компонента обрабатывают входные данные одновременно, а не последовательно. Это ускоряет работу и улучшает обработку длинных контекстов.
Дополнительно: интеграция BitNet позволяет обучать модели с троичными (1.58-бит) весами, что снижает потребление памяти и пропускной способности без потери производительности.
Для разработчиков это означает возможность гибко настраивать соотношение слоёв (Mamba, Attention, MLP) и масштабировать модели от 0.5B до 34B параметров. Вклад открыт в репозитории Megatron-LM на GitHub.
https://developer.nvidia.com/blog/implementing-falcon-h1-hybrid-architecture-in-nvidia-megatron-core/
Technology Innovation Institute (TII) внедрили архитектуру Falcon-H1 в NVIDIA Megatron Core. Главная особенность — параллельная работа Transformer-внимания и Mamba-2 SSM внутри каждого блока: оба компонента обрабатывают входные данные одновременно, а не последовательно. Это ускоряет работу и улучшает обработку длинных контекстов.
Дополнительно: интеграция BitNet позволяет обучать модели с троичными (1.58-бит) весами, что снижает потребление памяти и пропускной способности без потери производительности.
Для разработчиков это означает возможность гибко настраивать соотношение слоёв (Mamba, Attention, MLP) и масштабировать модели от 0.5B до 34B параметров. Вклад открыт в репозитории Megatron-LM на GitHub.
https://developer.nvidia.com/blog/implementing-falcon-h1-hybrid-architecture-in-nvidia-megatron-core/
NVIDIA Technical Blog
Implementing Falcon-H1 Hybrid Architecture in NVIDIA Megatron Core
In the rapidly evolving landscape of large language model (LLM) development, NVIDIA Megatron Core has emerged as the foundational framework for training massive transformer models at scale.
Nvidia выпустила NIXL — открытую библиотеку для ускорения передачи данных в распределённых AI-системах.
Суть: когда большая языковая модель работает на десятках GPU одновременно, между ними постоянно гоняются огромные объёмы данных — кэши, веса, промежуточные результаты. NIXL делает этот процесс быстрее и проще.
Что важно: библиотека поддерживает RDMA, GPU-Direct Storage, облачные хранилища (S3, Azure Blob) и работает на оборудовании AWS, Azure и скоро Google Cloud. Уже интегрирована с vLLM, TensorRT-LLM, SGLang и другими фреймворками.
Главная фишка — динамичность: система умеет добавлять и убирать GPU-узлы на ходу, переживать сбои без остановки сервиса и автоматически перераспределять нагрузку. Это критично для продакшн-сервисов, работающих круглосуточно.
Для разработчиков AI-инфраструктуры — полезный инструмент, снимающий головную боль с низкоуровневой оптимизацией передачи данных.
https://developer.nvidia.com/blog/enhancing-distributed-inference-performance-with-the-nvidia-inference-transfer-library/
Суть: когда большая языковая модель работает на десятках GPU одновременно, между ними постоянно гоняются огромные объёмы данных — кэши, веса, промежуточные результаты. NIXL делает этот процесс быстрее и проще.
Что важно: библиотека поддерживает RDMA, GPU-Direct Storage, облачные хранилища (S3, Azure Blob) и работает на оборудовании AWS, Azure и скоро Google Cloud. Уже интегрирована с vLLM, TensorRT-LLM, SGLang и другими фреймворками.
Главная фишка — динамичность: система умеет добавлять и убирать GPU-узлы на ходу, переживать сбои без остановки сервиса и автоматически перераспределять нагрузку. Это критично для продакшн-сервисов, работающих круглосуточно.
Для разработчиков AI-инфраструктуры — полезный инструмент, снимающий головную боль с низкоуровневой оптимизацией передачи данных.
https://developer.nvidia.com/blog/enhancing-distributed-inference-performance-with-the-nvidia-inference-transfer-library/
NVIDIA Technical Blog
Enhancing Distributed Inference Performance with the NVIDIA Inference Transfer Library
Deploying large language models (LLMs) requires large-scale distributed inference, which spreads model computation and request handling across many GPUs and nodes to scale to more users while reducing…
Андрей Карпати намекнул, что стоило бы сразу поделиться ссылкой на его проект AutoResearch — штуку, которую он придумал для автоматизации исследований с помощью ИИ-агентов.
Важный момент: это не готовый инструмент, который можно просто запустить. Это скорее рецепт или идея — берёшь её, передаёшь своему агенту и адаптируешь под свою задачу. Что-то вроде шаблона мышления для ИИ, который помогает ему самостоятельно копаться в теме и делать выводы.
На выходных твит об этом завирусился — видимо, идея зацепила многих разработчиков и исследователей. Карпати явно доволен реакцией, хоть и с лёгкой самоиронией признаёт, что мог бы сразу дать все нужные ссылки.
https://x.com/karpathy/status/2031137476438548874
Важный момент: это не готовый инструмент, который можно просто запустить. Это скорее рецепт или идея — берёшь её, передаёшь своему агенту и адаптируешь под свою задачу. Что-то вроде шаблона мышления для ИИ, который помогает ему самостоятельно копаться в теме и делать выводы.
На выходных твит об этом завирусился — видимо, идея зацепила многих разработчиков и исследователей. Карпати явно доволен реакцией, хоть и с лёгкой самоиронией признаёт, что мог бы сразу дать все нужные ссылки.
https://x.com/karpathy/status/2031137476438548874
X (formerly Twitter)
Andrej Karpathy (@karpathy) on X
oh yeah i should have linked autoresearch probably
https://t.co/MhdH7YF1PP
(you don't "use it" directly, it's just a recipe/idea - give it to your agent and apply to what you care about.)
and the tweet about it that went mini-viral over the weekend with…
https://t.co/MhdH7YF1PP
(you don't "use it" directly, it's just a recipe/idea - give it to your agent and apply to what you care about.)
and the tweet about it that went mini-viral over the weekend with…
Карпати поделился впечатляющим результатом авторесёрча — системы, которая сама ищет улучшения в нейросетях.
Он запустил её на небольшой модели (12 слоёв) и ушёл на два дня. Система нашла около 20 изменений, которые снизили validation loss. Когда Карпати проверил результаты, оказалось, что все улучшения складываются друг с другом и переносятся на более крупную модель (24 слоя).
Это важно: часто трюки, работающие на маленьких моделях, ломаются при масштабировании. Здесь — нет. По сути, ИИ сам улучшает ИИ, и результат реально работает.
https://x.com/karpathy/status/2031135152349524125
Он запустил её на небольшой модели (12 слоёв) и ушёл на два дня. Система нашла около 20 изменений, которые снизили validation loss. Когда Карпати проверил результаты, оказалось, что все улучшения складываются друг с другом и переносятся на более крупную модель (24 слоя).
Это важно: часто трюки, работающие на маленьких моделях, ломаются при масштабировании. Здесь — нет. По сути, ИИ сам улучшает ИИ, и результат реально работает.
https://x.com/karpathy/status/2031135152349524125
X (formerly Twitter)
Andrej Karpathy (@karpathy) on X
Three days ago I left autoresearch tuning nanochat for ~2 days on depth=12 model. It found ~20 changes that improved the validation loss. I tested these changes yesterday and all of them were additive and transferred to larger (depth=24) models. Stacking…
❤🔥1
AutoResearch-RL: ИИ сам себе исследователь (by Anthropic)
Что если LLM-агент сам читает train.py, вносит правки, запускает обучение и учится на результатах — бесконечно? Именно это делает AutoResearch-RL.
Идея: формализовать "петлю автоисследования" как MDP. Агент на базе трансформера с PPO предлагает диффы к коду, запускает обучение на 5 минут, получает награду в виде улучшения val-bpb и обновляет политику. История экспериментов — рабочая память агента (скользящее окно из 32 запусков).
Ключевая фишка — модуль самооценки: каждые 30 секунд он фитит степенной закон на кривую лосса и предсказывает финальный bpb. Если прогноз плохой — обучение прерывается досрочно. Это даёт 2.4× больше экспериментов за то же время.
Теоретически доказана монотонная сходимость: лучший bpb — супермартингал, то есть гарантированно не ухудшается.
Результат: на одной GPU за ночь агент выходит на уровень hand-tuned SoTA по val-bpb на nanochat.
https://arxiv.org/abs/2603.07300
Что если LLM-агент сам читает train.py, вносит правки, запускает обучение и учится на результатах — бесконечно? Именно это делает AutoResearch-RL.
Идея: формализовать "петлю автоисследования" как MDP. Агент на базе трансформера с PPO предлагает диффы к коду, запускает обучение на 5 минут, получает награду в виде улучшения val-bpb и обновляет политику. История экспериментов — рабочая память агента (скользящее окно из 32 запусков).
Ключевая фишка — модуль самооценки: каждые 30 секунд он фитит степенной закон на кривую лосса и предсказывает финальный bpb. Если прогноз плохой — обучение прерывается досрочно. Это даёт 2.4× больше экспериментов за то же время.
Теоретически доказана монотонная сходимость: лучший bpb — супермартингал, то есть гарантированно не ухудшается.
Результат: на одной GPU за ночь агент выходит на уровень hand-tuned SoTA по val-bpb на nanochat.
https://arxiv.org/abs/2603.07300
LLMs теряются в длинных историях — и теперь это можно измерить
Попросите любой LLM написать рассказ на 8–10 тысяч слов, и он неизбежно начнёт противоречить сам себе: персонаж был пятилетним, а через страницу стал подростком. Авторы собрали бенчмарк ConStory-Bench (2000 промптов) и пайплайн ConStory-Checker для автоматического поиска таких багов.
Таксономия включает 5 категорий и 19 подтипов ошибок: противоречия во временной логике, в характере персонажей, в правилах мира, в фактах и в стиле повествования. Пайплайн работает в 4 этапа: извлечение подозрительных фрагментов → попарное сравнение → построение цепочки доказательств с цитатами → JSON-отчёт.
Протестировали модели от OpenAI, Google, Anthropic, xAI, Qwen, DeepSeek и агентные системы. Спойлер: чем длиннее текст, тем больше ошибок у всех.
https://arxiv.org/abs/2603.05890
Попросите любой LLM написать рассказ на 8–10 тысяч слов, и он неизбежно начнёт противоречить сам себе: персонаж был пятилетним, а через страницу стал подростком. Авторы собрали бенчмарк ConStory-Bench (2000 промптов) и пайплайн ConStory-Checker для автоматического поиска таких багов.
Таксономия включает 5 категорий и 19 подтипов ошибок: противоречия во временной логике, в характере персонажей, в правилах мира, в фактах и в стиле повествования. Пайплайн работает в 4 этапа: извлечение подозрительных фрагментов → попарное сравнение → построение цепочки доказательств с цитатами → JSON-отчёт.
Протестировали модели от OpenAI, Google, Anthropic, xAI, Qwen, DeepSeek и агентные системы. Спойлер: чем длиннее текст, тем больше ошибок у всех.
https://arxiv.org/abs/2603.05890
👍1
RL для 3D-редактирования сцен без парных данных (by AMAP-ML)
Главная боль 3D-редактирования: нужна мультивью-консистентность, но собрать парные данные почти нереально. Авторы решили это через RL — как в LLM, только вместо "правильного ответа" используют 3D-верификатор.
Идея: берём мощный 2D-редактор FLUX-Kontext, умеющий совместно редактировать несколько изображений, и дообучаем его через GRPO. Reward считает замороженная 3D-модель VGGT — она оценивает геометрическую консистентность по картам уверенности и предсказаниям камерных поз. Никаких парных 3D-данных не нужно!
Результат: метод RL3DEdit обучается на 5% данных по сравнению с конкурентами, работает за один проход (в 2х быстрее), справляется с геометрическими изменениями ("надень капюшон", "поклонись") и сохраняет качество 2D-редактирования.
По сути — это SDS, но вместо диффузионной модели как оракула качества используется 3D foundation model как оракул консистентности.
https://arxiv.org/abs/2603.03143
Главная боль 3D-редактирования: нужна мультивью-консистентность, но собрать парные данные почти нереально. Авторы решили это через RL — как в LLM, только вместо "правильного ответа" используют 3D-верификатор.
Идея: берём мощный 2D-редактор FLUX-Kontext, умеющий совместно редактировать несколько изображений, и дообучаем его через GRPO. Reward считает замороженная 3D-модель VGGT — она оценивает геометрическую консистентность по картам уверенности и предсказаниям камерных поз. Никаких парных 3D-данных не нужно!
Результат: метод RL3DEdit обучается на 5% данных по сравнению с конкурентами, работает за один проход (в 2х быстрее), справляется с геометрическими изменениями ("надень капюшон", "поклонись") и сохраняет качество 2D-редактирования.
По сути — это SDS, но вместо диффузионной модели как оракула качества используется 3D foundation model как оракул консистентности.
https://arxiv.org/abs/2603.03143
RLVR без разметки: красивая идея с неприятным потолком
Обычный RLVR (как в DeepSeek-R1) требует правильных ответов для обучения. А что если учить модель вообще без разметки — только на её собственных сигналах? Это и есть Unsupervised RLVR (URLVR).
Авторы провели масштабный анализ таких методов и обнаружили неприятную закономерность: все intrinsic-методы (majority voting, entropy-based rewards и т.п.) делают одно и то же — они "заостряют" (sharpening) исходное распределение модели. То есть усиливают то, во что модель уже верила, а не учат чему-то новому.
Следствие: если модель изначально была права — URLVR помогает. Если нет — коллапс неизбежен. Все методы следуют паттерну "рост, потом падение", различаясь лишь когда именно падают.
Что работает: intrinsic URLVR полезен для test-time training на маленьких доменных датасетах. А для масштабирования нужны внешние награды — например, через асимметрию генерации и верификации (self-verification).
https://arxiv.org/abs/2603.08660
Обычный RLVR (как в DeepSeek-R1) требует правильных ответов для обучения. А что если учить модель вообще без разметки — только на её собственных сигналах? Это и есть Unsupervised RLVR (URLVR).
Авторы провели масштабный анализ таких методов и обнаружили неприятную закономерность: все intrinsic-методы (majority voting, entropy-based rewards и т.п.) делают одно и то же — они "заостряют" (sharpening) исходное распределение модели. То есть усиливают то, во что модель уже верила, а не учат чему-то новому.
Следствие: если модель изначально была права — URLVR помогает. Если нет — коллапс неизбежен. Все методы следуют паттерну "рост, потом падение", различаясь лишь когда именно падают.
Что работает: intrinsic URLVR полезен для test-time training на маленьких доменных датасетах. А для масштабирования нужны внешние награды — например, через асимметрию генерации и верификации (self-verification).
https://arxiv.org/abs/2603.08660
Первая any-to-any мультимодальная модель без авторегрессии (by Nanjing University)
Omni-Diffusion — первая система, которая объединяет текст, изображения и речь через единую маскированную дискретную диффузию. Никакого авторегрессивного LLM в основе!
Идея проста: токенизируем все модальности в дискретные токены, случайно маскируем их и учим модель восстанавливать оригинал. На инференсе стартуем с полностью замаскированной последовательности и итеративно декодируем.
Ключевые трюки:
- трёхэтапный прогрессивный пайплайн обучения
- position penalty для улучшения качества изображений
- special token pre-infilling для речевой генерации
- attenuated tail-pad masking для переменной длины ответов
Результат: качество сравнимо с авторегрессивными мультимодальными системами, плюс параллельный декодинг и нативное управление структурой вывода. Диффузия наступает на пятки LLM-парадигме.
https://arxiv.org/abs/2603.06577
Omni-Diffusion — первая система, которая объединяет текст, изображения и речь через единую маскированную дискретную диффузию. Никакого авторегрессивного LLM в основе!
Идея проста: токенизируем все модальности в дискретные токены, случайно маскируем их и учим модель восстанавливать оригинал. На инференсе стартуем с полностью замаскированной последовательности и итеративно декодируем.
Ключевые трюки:
- трёхэтапный прогрессивный пайплайн обучения
- position penalty для улучшения качества изображений
- special token pre-infilling для речевой генерации
- attenuated tail-pad masking для переменной длины ответов
Результат: качество сравнимо с авторегрессивными мультимодальными системами, плюс параллельный декодинг и нативное управление структурой вывода. Диффузия наступает на пятки LLM-парадигме.
https://arxiv.org/abs/2603.06577
OpenAI улучшила иерархию инструкций в своих моделях
Компания представила IH-Challenge — подход к обучению, который учит модели правильно расставлять приоритеты между инструкциями от разных источников. Теперь модель чётче понимает, чьим командам доверять больше: системному промпту разработчика, запросу пользователя или внешнему тексту.
Главный практический эффект — повышенная устойчивость к prompt injection атакам. Это когда вредоносный текст в документе или на веб-странице пытается «перехватить» управление моделью и заставить её игнорировать исходные инструкции.
Для разработчиков это означает более предсказуемое поведение моделей в продакшене, а для бизнеса — меньше рисков при работе с пользовательским контентом. Безопасность и управляемость моделей растут — и это важный шаг для всей индустрии.
https://openai.com/index/instruction-hierarchy-challenge
Компания представила IH-Challenge — подход к обучению, который учит модели правильно расставлять приоритеты между инструкциями от разных источников. Теперь модель чётче понимает, чьим командам доверять больше: системному промпту разработчика, запросу пользователя или внешнему тексту.
Главный практический эффект — повышенная устойчивость к prompt injection атакам. Это когда вредоносный текст в документе или на веб-странице пытается «перехватить» управление моделью и заставить её игнорировать исходные инструкции.
Для разработчиков это означает более предсказуемое поведение моделей в продакшене, а для бизнеса — меньше рисков при работе с пользовательским контентом. Безопасность и управляемость моделей растут — и это важный шаг для всей индустрии.
https://openai.com/index/instruction-hierarchy-challenge
OpenAI
Improving instruction hierarchy in frontier LLMs
IH-Challenge trains models to prioritize trusted instructions, improving instruction hierarchy, safety steerability, and resistance to prompt injection attacks.
Google Gemini обновил ИИ-помощника в Google Sheets
Gemini в Google Таблицах получил новые бета-функции: теперь можно создавать, редактировать и организовывать целые таблицы — от простых задач до сложного анализа данных. Просто описываешь, что нужно, и ИИ делает сам.
Главное достижение — результат 70,48% на бенчмарке SpreadsheetBench, который проверяет модели на реальных сценариях работы с таблицами. Это лучший показатель среди конкурентов и вплотную приближается к уровню эксперта-человека.
Для пользователей это значит: меньше ручной работы с формулами и форматированием, больше времени на реальные задачи. Обновления также коснулись Google Docs, Drive и Slides.
https://blog.google/products-and-platforms/products/workspace/gemini-google-sheets-state-of-the-art/
Gemini в Google Таблицах получил новые бета-функции: теперь можно создавать, редактировать и организовывать целые таблицы — от простых задач до сложного анализа данных. Просто описываешь, что нужно, и ИИ делает сам.
Главное достижение — результат 70,48% на бенчмарке SpreadsheetBench, который проверяет модели на реальных сценариях работы с таблицами. Это лучший показатель среди конкурентов и вплотную приближается к уровню эксперта-человека.
Для пользователей это значит: меньше ручной работы с формулами и форматированием, больше времени на реальные задачи. Обновления также коснулись Google Docs, Drive и Slides.
https://blog.google/products-and-platforms/products/workspace/gemini-google-sheets-state-of-the-art/
Google
Gemini in Google Sheets just achieved state-of-the-art performance.
Today we announced new beta features for Gemini in Sheets to help you create, organize and edit entire sheets, from basic tasks to complex data analysis — just describe …
Google DeepMind отмечает 10 лет с момента создания AlphaGo — системы, которая впервые победила чемпиона мира по игре в го.
Но главное не сама победа, а то, что случилось потом. Подходы, отработанные на AlphaGo, легли в основу AlphaFold — инструмента, который предсказывает структуры белков и буквально изменил биологию и медицину. Сегодня эти методы применяются в разработке лекарств, изучении болезней и десятках других научных областей.
За 10 лет AlphaGo превратился из шахматного эксперимента в доказательство того, что ИИ способен решать реальные научные задачи. Google DeepMind использует этот юбилей как напоминание: игры были лишь полигоном, а настоящая цель — наука и польза для людей.
https://deepmind.google/blog/10-years-of-alphago/
Но главное не сама победа, а то, что случилось потом. Подходы, отработанные на AlphaGo, легли в основу AlphaFold — инструмента, который предсказывает структуры белков и буквально изменил биологию и медицину. Сегодня эти методы применяются в разработке лекарств, изучении болезней и десятках других научных областей.
За 10 лет AlphaGo превратился из шахматного эксперимента в доказательство того, что ИИ способен решать реальные научные задачи. Google DeepMind использует этот юбилей как напоминание: игры были лишь полигоном, а настоящая цель — наука и польза для людей.
https://deepmind.google/blog/10-years-of-alphago/
Google DeepMind
AlphaGo at 10: How AI Innovation Is Paving the Path to AGI
Ten years since AlphaGo, we explore how its search and learning methods are catalyzing scientific discovery and paving a path to AGI.
Ноам Браун (исследователь OpenAI) заметил любопытную параллель: современные reasoning-модели устроены почти так же, как AlphaGo десятилетней давности.
Рецепт одинаковый: сначала учишь модель подражать людям на огромном количестве данных, потом масштабируешь вычисления во время инференса чтобы она лучше "думала" — раньше это был метод Монте-Карло, сейчас цепочки рассуждений (Chain of Thought). И наконец — обучение с подкреплением, чтобы выйти за пределы простого подражания и научиться чему-то новому.
По сути, прорыв AlphaGo в го и прорыв o1/DeepSeek в рассуждениях — это одна и та же идея, просто применённая к разным задачам. История повторяется.
https://x.com/polynoamial/status/2031404079583473953
Рецепт одинаковый: сначала учишь модель подражать людям на огромном количестве данных, потом масштабируешь вычисления во время инференса чтобы она лучше "думала" — раньше это был метод Монте-Карло, сейчас цепочки рассуждений (Chain of Thought). И наконец — обучение с подкреплением, чтобы выйти за пределы простого подражания и научиться чему-то новому.
По сути, прорыв AlphaGo в го и прорыв o1/DeepSeek в рассуждениях — это одна и та же идея, просто применённая к разным задачам. История повторяется.
https://x.com/polynoamial/status/2031404079583473953
X (formerly Twitter)
Noam Brown (@polynoamial) on X
The recipe behind today’s frontier reasoning models is surprisingly similar to AlphaGo:
1) Imitate large amounts of human data
2) Scale inference compute to reason better (back then it was Monte Carlo Tree Search, today it's Chain of Thought)
3) Use RL…
1) Imitate large amounts of human data
2) Scale inference compute to reason better (back then it was Monte Carlo Tree Search, today it's Chain of Thought)
3) Use RL…
👍1
OpenClaw-RL: агент учится прямо в процессе разговора (by Princeton AI Lab)
Каждый раз, когда агент что-то делает, он получает ответ: пользователь недоволен, тест упал, GUI сменил состояние. Обычно это просто контекст для следующего шага. OpenClaw-RL предлагает использовать эти сигналы как живой источник обучения — прямо во время деплоя, без остановки сервиса.
Два ключевых метода:
1. Binary RL — PRM-судья конвертирует реакцию среды в пошаговую скалярную награду.
2. Hindsight-Guided OPD — если пользователь написал "надо было сначала проверить файл", система извлекает это как директивный сигнал и дистиллирует на уровне токенов обратно в модель.
Архитектура полностью асинхронная: inference, сбор роллаутов, PRM-судья и обучение — четыре независимых цикла без блокировок. Работает для терминала, GUI, SWE и tool-call агентов одновременно.
https://arxiv.org/abs/2603.10165
Каждый раз, когда агент что-то делает, он получает ответ: пользователь недоволен, тест упал, GUI сменил состояние. Обычно это просто контекст для следующего шага. OpenClaw-RL предлагает использовать эти сигналы как живой источник обучения — прямо во время деплоя, без остановки сервиса.
Два ключевых метода:
1. Binary RL — PRM-судья конвертирует реакцию среды в пошаговую скалярную награду.
2. Hindsight-Guided OPD — если пользователь написал "надо было сначала проверить файл", система извлекает это как директивный сигнал и дистиллирует на уровне токенов обратно в модель.
Архитектура полностью асинхронная: inference, сбор роллаутов, PRM-судья и обучение — четыре независимых цикла без блокировок. Работает для терминала, GUI, SWE и tool-call агентов одновременно.
https://arxiv.org/abs/2603.10165
Думать, чтобы вспомнить: зачем LLM нужна цепочка рассуждений для простых фактов? (by Google)
Казалось бы, зачем модели "думать вслух" перед ответом на простой вопрос типа "В каком году родился Эйнштейн?"
Оказывается, reasoning существенно расширяет границу параметрических знаний модели — то есть помогает извлечь факты, которые без рассуждений практически недостижимы. Авторы выявили два механизма:
1. Вычислительный буфер — токены рассуждения дают модели "время подумать" даже без смыслового содержания.
2. Фактическое прайминг — модель сама генерирует связанные факты, которые помогают вспомнить нужный ответ (этакий self-retrieval).
Но есть риск: галлюцинации в промежуточных рассуждениях резко повышают вероятность галлюцинации в финальном ответе. Менее мощные модели выигрывают от reasoning больше — у них больше "скрытых знаний".
https://arxiv.org/abs/2603.09906
Казалось бы, зачем модели "думать вслух" перед ответом на простой вопрос типа "В каком году родился Эйнштейн?"
Оказывается, reasoning существенно расширяет границу параметрических знаний модели — то есть помогает извлечь факты, которые без рассуждений практически недостижимы. Авторы выявили два механизма:
1. Вычислительный буфер — токены рассуждения дают модели "время подумать" даже без смыслового содержания.
2. Фактическое прайминг — модель сама генерирует связанные факты, которые помогают вспомнить нужный ответ (этакий self-retrieval).
Но есть риск: галлюцинации в промежуточных рассуждениях резко повышают вероятность галлюцинации в финальном ответе. Менее мощные модели выигрывают от reasoning больше — у них больше "скрытых знаний".
https://arxiv.org/abs/2603.09906
MM-Zero: VLM сама себе учитель (by NVIDIA)
Что если обучить мультимодальную модель вообще без единого реального изображения? NVIDIA придумала MM-Zero — систему из трёх агентов, которые эволюционируют вместе через self-play.
Как это работает: три роли, инициализированные из одного базового VLM:
— Proposer придумывает сцену и вопросы (лёгкий + сложный)
— Coder генерирует Python/SVG код, который рендерит картинку
— Solver отвечает на вопросы по этой картинке
Каждый агент учится на сигналах от других через GRPO. Proposer получает награду если задача «в самый раз» — не слишком лёгкая и не слишком сложная. Coder учится по качеству рендеринга. Solver — по правильности ответов.
Результат: Qwen3-VL и Mimo-VL стабильно улучшились на мультимодальных бенчмарках — без единого реального обучающего примера.
https://arxiv.org/abs/2603.09206
Что если обучить мультимодальную модель вообще без единого реального изображения? NVIDIA придумала MM-Zero — систему из трёх агентов, которые эволюционируют вместе через self-play.
Как это работает: три роли, инициализированные из одного базового VLM:
— Proposer придумывает сцену и вопросы (лёгкий + сложный)
— Coder генерирует Python/SVG код, который рендерит картинку
— Solver отвечает на вопросы по этой картинке
Каждый агент учится на сигналах от других через GRPO. Proposer получает награду если задача «в самый раз» — не слишком лёгкая и не слишком сложная. Coder учится по качеству рендеринга. Solver — по правильности ответов.
Результат: Qwen3-VL и Mimo-VL стабильно улучшились на мультимодальных бенчмарках — без единого реального обучающего примера.
https://arxiv.org/abs/2603.09206
❤1
Могут ли VLM посчитать, на каком расстоянии игрок от сетки?
Оказывается, нет — даже лучшие модели проваливаются на задачах пространственного мышления в спорте. Авторы представили CourtSI: датасет из 1M+ QA-пар и бенчмарк на 3686 вопросов о бадминтоне, теннисе и настольном теннисе.
Фишка в пайплайне: корты имеют стандартную геометрию, поэтому авторы восстанавливают 3D-сцену из обычных трансляций через PnP-солвер по угловым точкам корта. Это даёт точность на уровне сантиметров без специального оборудования.
Тесты 25 топовых VLM показали: все сильно отстают от человека, особенно на измерении расстояний. Файнтюнинг Qwen3-VL-8B на CourtSI дал +23.5 п.п. точности, а модель обобщилась на пиклбол — спорт, которого не видела в обучении.
https://arxiv.org/abs/2603.09896
Оказывается, нет — даже лучшие модели проваливаются на задачах пространственного мышления в спорте. Авторы представили CourtSI: датасет из 1M+ QA-пар и бенчмарк на 3686 вопросов о бадминтоне, теннисе и настольном теннисе.
Фишка в пайплайне: корты имеют стандартную геометрию, поэтому авторы восстанавливают 3D-сцену из обычных трансляций через PnP-солвер по угловым точкам корта. Это даёт точность на уровне сантиметров без специального оборудования.
Тесты 25 топовых VLM показали: все сильно отстают от человека, особенно на измерении расстояний. Файнтюнинг Qwen3-VL-8B на CourtSI дал +23.5 п.п. точности, а модель обобщилась на пиклбол — спорт, которого не видела в обучении.
https://arxiv.org/abs/2603.09896