Nvidia Tech: тренируем AI-модели быстрее без потери качества
Nvidia опубликовала технический отчёт о низкоточном обучении больших языковых моделей с использованием форматов FP8 и нового NVFP4 на GPU серии Blackwell (B200).
Что важно: NVFP4 даёт прирост скорости обучения до 1.59x по сравнению со стандартным BF16 — при этом качество модели на бенчмарках (MMLU, HellaSwag и др.) практически не падает. Проверено на Llama 3 8B, обученной на 1 триллионе токенов.
Нюанс: NVFP4 требует оставлять несколько последних слоёв сети в BF16, иначе обучение расходится.
Почему это важно: обучение больших моделей стоит огромных денег. Ускорение в 1.6x — это прямая экономия вычислительных ресурсов и возможность масштабировать модели без пропорционального роста затрат. Инструментарий доступен через открытую библиотеку NeMo Megatron Bridge.
https://developer.nvidia.com/blog/using-nvfp4-low-precision-model-training-for-higher-throughput-without-losing-accuracy/
Nvidia опубликовала технический отчёт о низкоточном обучении больших языковых моделей с использованием форматов FP8 и нового NVFP4 на GPU серии Blackwell (B200).
Что важно: NVFP4 даёт прирост скорости обучения до 1.59x по сравнению со стандартным BF16 — при этом качество модели на бенчмарках (MMLU, HellaSwag и др.) практически не падает. Проверено на Llama 3 8B, обученной на 1 триллионе токенов.
Нюанс: NVFP4 требует оставлять несколько последних слоёв сети в BF16, иначе обучение расходится.
Почему это важно: обучение больших моделей стоит огромных денег. Ускорение в 1.6x — это прямая экономия вычислительных ресурсов и возможность масштабировать модели без пропорционального роста затрат. Инструментарий доступен через открытую библиотеку NeMo Megatron Bridge.
https://developer.nvidia.com/blog/using-nvfp4-low-precision-model-training-for-higher-throughput-without-losing-accuracy/
NVIDIA Technical Blog
Using NVFP4 Low-Precision Model Training for Higher Throughput Without Losing Accuracy
As the sizes of AI models and datasets continue to increase, relying only on higher-precision BF16 training is no longer sufficient. Key challenges such as training throughput expectations…
Google DeepMind рассказали о своём проекте Genie — системе, которая превращает один текстовый промпт в целую интерактивную среду для навигации. Исследователи объяснили, как работают так называемые "мировые модели" и почему они важны для обучения будущих ИИ-агентов. По сути, это шаг к тому, чтобы ИИ мог учиться действовать в виртуальных мирах, созданных буквально из одной фразы. Звучит как научная фантастика, но это уже реальные исследования.
https://x.com/GoogleDeepMind/status/2026734366118879390
https://x.com/GoogleDeepMind/status/2026734366118879390
X (formerly Twitter)
Google DeepMind (@GoogleDeepMind) on X
How does a single prompt become a navigable environment? 🌐
We asked the researchers behind Project Genie to explain the mechanics of world models and their potential for training future AI agents. 🧵
We asked the researchers behind Project Genie to explain the mechanics of world models and their potential for training future AI agents. 🧵
LLMs умеют решать олимпиады? Только если ответ — число
Исследователи из ETH Zurich взяли задачи USAMO 2025 — одной из самых престижных математических олимпиад США — и проверили на них 8 топовых reasoning-моделей. Фишка USAMO: нужно не просто дать ответ, а написать строгое доказательство.
Результат провальный. Лучшая модель — Gemini 2.5 Pro — набрала всего 24.4% от максимума. Все остальные (o1-pro, o3-mini, Claude 3.7, R1, Grok 3...) — ниже 5%. Почти 175 решений от этих моделей, и лишь один раз кто-то получил 7/7 — Grok 3 на задаче 1.
Главные провалы: логические ошибки, неоправданные допущения, неверная стратегия решения. И самое забавное: все модели уверенно заявляли, что решили задачу — даже когда это было полной чушью. Люди хотя бы чувствуют, когда не решили.
Вывод: на AIME LLM уже конкурируют с топами, но строгие доказательства — совсем другая история. Текущие подходы типа GRPO явно недостаточны для задач, требующих настоящей математической строгости.
https://arxiv.org/abs/2503.21934
Исследователи из ETH Zurich взяли задачи USAMO 2025 — одной из самых престижных математических олимпиад США — и проверили на них 8 топовых reasoning-моделей. Фишка USAMO: нужно не просто дать ответ, а написать строгое доказательство.
Результат провальный. Лучшая модель — Gemini 2.5 Pro — набрала всего 24.4% от максимума. Все остальные (o1-pro, o3-mini, Claude 3.7, R1, Grok 3...) — ниже 5%. Почти 175 решений от этих моделей, и лишь один раз кто-то получил 7/7 — Grok 3 на задаче 1.
Главные провалы: логические ошибки, неоправданные допущения, неверная стратегия решения. И самое забавное: все модели уверенно заявляли, что решили задачу — даже когда это было полной чушью. Люди хотя бы чувствуют, когда не решили.
Вывод: на AIME LLM уже конкурируют с топами, но строгие доказательства — совсем другая история. Текущие подходы типа GRPO явно недостаточны для задач, требующих настоящей математической строгости.
https://arxiv.org/abs/2503.21934
DeepSeek-R1: модель научилась думать сама, без учителя (by DeepSeek)
Что если не показывать модели, как рассуждать, а просто награждать за правильный ответ? DeepSeek взяли базовую модель, запустили чистое RL без SFT, и получили DeepSeek-R1-Zero — модель, которая сама "придумала" цепочки рассуждений, самопроверку и откат к альтернативным подходам.
Результат: на AIME 2024 точность выросла с 15.6% до 77.9% — выше среднего участника олимпиады.
Самое интересное: в процессе обучения модель начала писать "Wait, wait. Wait. That's an aha moment" — то есть сама научилась останавливаться и переосмысливать ход решения. Никто её этому не учил.
Финальный DeepSeek-R1 доработан: добавили rejection sampling и SFT для читаемости, убрали смешение языков. Маленькие дистиллированные версии тоже выложили в открытый доступ.
https://arxiv.org/abs/2501.12948
Что если не показывать модели, как рассуждать, а просто награждать за правильный ответ? DeepSeek взяли базовую модель, запустили чистое RL без SFT, и получили DeepSeek-R1-Zero — модель, которая сама "придумала" цепочки рассуждений, самопроверку и откат к альтернативным подходам.
Результат: на AIME 2024 точность выросла с 15.6% до 77.9% — выше среднего участника олимпиады.
Самое интересное: в процессе обучения модель начала писать "Wait, wait. Wait. That's an aha moment" — то есть сама научилась останавливаться и переосмысливать ход решения. Никто её этому не учил.
Финальный DeepSeek-R1 доработан: добавили rejection sampling и SFT для читаемости, убрали смешение языков. Маленькие дистиллированные версии тоже выложили в открытый доступ.
https://arxiv.org/abs/2501.12948
ReSearch: научи LLM гуглить через RL, без единого лейбла
DeepSeek-R1 научил модели думать цепочками. А что если добавить в эту цепочку поисковые запросы? Авторы из Tongji и Zhejiang University сделали именно это.
Идея: в процессе рассуждения модель может вставить тег <search>запрос</search>, получить результат из поиска в <result>, и продолжить думать дальше. Никаких размеченных цепочек рассуждений — только GRPO и финальная награда за правильный ответ.
Фишки реализации:
— токены retrieval results маскируются при расчёте лосса (модель не должна "имитировать" чужой текст)
— промпт минималистичный, как в DeepSeek-R1
— обучали на одном датасете, тестировали на нескольких
Результат: +8.9–22.4% абсолютного прироста на multi-hop QA бенчмарках (HotpotQA, MuSiQue, 2WikiMultiHop) против RAG-базелайнов. Модель сама учится когда и как искать — без единого примера reasoning-with-search.
https://arxiv.org/abs/2503.19470
DeepSeek-R1 научил модели думать цепочками. А что если добавить в эту цепочку поисковые запросы? Авторы из Tongji и Zhejiang University сделали именно это.
Идея: в процессе рассуждения модель может вставить тег <search>запрос</search>, получить результат из поиска в <result>, и продолжить думать дальше. Никаких размеченных цепочек рассуждений — только GRPO и финальная награда за правильный ответ.
Фишки реализации:
— токены retrieval results маскируются при расчёте лосса (модель не должна "имитировать" чужой текст)
— промпт минималистичный, как в DeepSeek-R1
— обучали на одном датасете, тестировали на нескольких
Результат: +8.9–22.4% абсолютного прироста на multi-hop QA бенчмарках (HotpotQA, MuSiQue, 2WikiMultiHop) против RAG-базелайнов. Модель сама учится когда и как искать — без единого примера reasoning-with-search.
https://arxiv.org/abs/2503.19470
DeepSeek рассказал, как обучить топовую LLM на 2048 GPU (by DeepSeek)
DeepSeek опубликовал подробный разбор того, как они обучили V3, пока у конкурентов десятки тысяч GPU. Ключевые трюки:
MLA (Multi-head Latent Attention) — сжимает KV-кэш в компактный латентный вектор. Итог: V3 хранит 70 KB на токен против 516 KB у LLaMA-3.1 405B. Разница в 7x!
FP8 вместо BF16 — вдвое меньше памяти при обучении без заметной потери качества.
MoE (Mixture of Experts) — активируется только часть параметров, что резко снижает вычислительные затраты.
Multi-Token Prediction — модель предсказывает сразу несколько токенов, ускоряя инференс.
Сеть: вместо дорогого трёхуровневого Fat-Tree — двухуровневый Multi-Plane вариант. Дешевле, работает.
Главный месседж статьи: правильный co-design железа и архитектуры модели важнее брутфорса через количество GPU. Маленькая команда с умным подходом может конкурировать с корпорациями, у которых сотни тысяч ускорителей.
https://arxiv.org/abs/2505.09343
DeepSeek опубликовал подробный разбор того, как они обучили V3, пока у конкурентов десятки тысяч GPU. Ключевые трюки:
MLA (Multi-head Latent Attention) — сжимает KV-кэш в компактный латентный вектор. Итог: V3 хранит 70 KB на токен против 516 KB у LLaMA-3.1 405B. Разница в 7x!
FP8 вместо BF16 — вдвое меньше памяти при обучении без заметной потери качества.
MoE (Mixture of Experts) — активируется только часть параметров, что резко снижает вычислительные затраты.
Multi-Token Prediction — модель предсказывает сразу несколько токенов, ускоряя инференс.
Сеть: вместо дорогого трёхуровневого Fat-Tree — двухуровневый Multi-Plane вариант. Дешевле, работает.
Главный месседж статьи: правильный co-design железа и архитектуры модели важнее брутфорса через количество GPU. Маленькая команда с умным подходом может конкурировать с корпорациями, у которых сотни тысяч ускорителей.
https://arxiv.org/abs/2505.09343
🔥1
Microsoft Research представила CORPGEN — новый подход к обучению AI-агентов для реальных рабочих задач.
В основе — мультимодальное обучение с подкреплением и специальный агентский верификатор. Проще говоря: агент не просто выполняет инструкции, но и сам проверяет правильность своих действий в процессе работы.
Это важный шаг к агентам, которые умеют работать с реальными корпоративными задачами — не в тепличных условиях бенчмарков, а там, где нужно принимать решения, работать с документами, интерфейсами и данными одновременно.
Для пользователей это означает более надёжных AI-помощников, которые реже ошибаются и лучше понимают контекст сложных рабочих процессов. Microsoft явно метит в корпоративный рынок, где цена ошибки агента особенно высока.
https://www.microsoft.com/en-us/research/blog/corpgen-advances-ai-agents-for-real-work/
В основе — мультимодальное обучение с подкреплением и специальный агентский верификатор. Проще говоря: агент не просто выполняет инструкции, но и сам проверяет правильность своих действий в процессе работы.
Это важный шаг к агентам, которые умеют работать с реальными корпоративными задачами — не в тепличных условиях бенчмарков, а там, где нужно принимать решения, работать с документами, интерфейсами и данными одновременно.
Для пользователей это означает более надёжных AI-помощников, которые реже ошибаются и лучше понимают контекст сложных рабочих процессов. Microsoft явно метит в корпоративный рынок, где цена ошибки агента особенно высока.
https://www.microsoft.com/en-us/research/blog/corpgen-advances-ai-agents-for-real-work/
Microsoft Research
CORPGEN advances AI agents for real work
CORPGEN enables AI agents to manage dozens of interdependent tasks simultaneously in simulated workplace environments. It maintains performance under heavy multitasking, delivering up to 3.5x higher completion rates than leading baselines.
NVIDIA и Alibaba: Qwen3.5 теперь доступен на GPU-ускоренных эндпоинтах NVIDIA
Alibaba выпустила Qwen3.5 — огромную мультимодальную модель на 397 млрд параметров (активных — 17B). Это гибрид MoE и Gated Delta Networks с поддержкой 200+ языков и контекстом до 1M токенов. Модель умеет понимать интерфейсы и управлять ими — это шаг вперёд по сравнению с предыдущими VLM.
NVIDIA сделала её доступной бесплатно через build.nvidia.com на GPU Blackwell. Разработчики могут подключиться через API, задеплоить через NVIDIA NIM-контейнеры или дообучить под свои задачи с помощью NeMo — с поддержкой LoRA, SFT и мультиузловых кластеров на Slurm и Kubernetes.
Полезно для: веб-разработки, визуального рассуждения, сложного поиска и агентных сценариев.
https://developer.nvidia.com/blog/develop-native-multimodal-agents-with-qwen3-5-vlm-using-nvidia-gpu-accelerated-endpoints/
Alibaba выпустила Qwen3.5 — огромную мультимодальную модель на 397 млрд параметров (активных — 17B). Это гибрид MoE и Gated Delta Networks с поддержкой 200+ языков и контекстом до 1M токенов. Модель умеет понимать интерфейсы и управлять ими — это шаг вперёд по сравнению с предыдущими VLM.
NVIDIA сделала её доступной бесплатно через build.nvidia.com на GPU Blackwell. Разработчики могут подключиться через API, задеплоить через NVIDIA NIM-контейнеры или дообучить под свои задачи с помощью NeMo — с поддержкой LoRA, SFT и мультиузловых кластеров на Slurm и Kubernetes.
Полезно для: веб-разработки, визуального рассуждения, сложного поиска и агентных сценариев.
https://developer.nvidia.com/blog/develop-native-multimodal-agents-with-qwen3-5-vlm-using-nvidia-gpu-accelerated-endpoints/
NVIDIA Technical Blog
Develop Native Multimodal Agents with Qwen3.5 VLM Using NVIDIA GPU-Accelerated Endpoints
Alibaba has introduced the new open source Qwen3.5 series built for native multimodal agents. The first model in this series is a ~400B parameter native vision-language model (VLM) with reasoning…
Amazon Science: размер модели — не показатель интеллекта
Исследователи Amazon AWS опубликовали работу, переворачивающую привычную логику масштабирования ИИ. Главный тезис: увеличение числа параметров не делает модели умнее — после определённого порога они входят в «режим савана», где производительность растёт, но настоящее понимание исчезает.
Ключевая идея: интеллект определяется не объёмом, а временем вывода. Чем жёстче ограничение по времени на инференс, тем больше модель вынуждена учиться не просто запоминать паттерны, а рассуждать — то есть работать трансдуктивно, как «система-2» в когнитивной психологии.
Практический вывод: модели нужно обучать с учётом стоимости вычислений при инференсе, а не гнаться за параметрами. Это меняет подход к архитектуре и тренировке следующего поколения ИИ.
Для пользователей это значит: будущие модели могут стать эффективнее и «умнее» без роста размера — просто за счёт лучшего распределения времени на размышление.
https://www.amazon.science/blog/intelligence-isnt-about-parameter-count-its-about-time
Исследователи Amazon AWS опубликовали работу, переворачивающую привычную логику масштабирования ИИ. Главный тезис: увеличение числа параметров не делает модели умнее — после определённого порога они входят в «режим савана», где производительность растёт, но настоящее понимание исчезает.
Ключевая идея: интеллект определяется не объёмом, а временем вывода. Чем жёстче ограничение по времени на инференс, тем больше модель вынуждена учиться не просто запоминать паттерны, а рассуждать — то есть работать трансдуктивно, как «система-2» в когнитивной психологии.
Практический вывод: модели нужно обучать с учётом стоимости вычислений при инференсе, а не гнаться за параметрами. Это меняет подход к архитектуре и тренировке следующего поколения ИИ.
Для пользователей это значит: будущие модели могут стать эффективнее и «умнее» без роста размера — просто за счёт лучшего распределения времени на размышление.
https://www.amazon.science/blog/intelligence-isnt-about-parameter-count-its-about-time
Карпатый экспериментирует с мультиагентными системами в своём проекте nanochat. Он запустил 8 агентов одновременно — 4 на базе Claude и 4 на базе Codex, каждый с отдельным GPU. Задача была конкретная: убрать logit softcap (техника стабилизации обучения нейросетей) без потери качества модели.
Итог честный: не получилось, всё превратилось в хаос. Но Карпати явно доволен самим процессом — судя по оборванному "it's still very...", дальше явно что-то воодушевляющее.
Интересно здесь другое: один из ведущих AI-исследователей планеты вручную гоняет агентов на своих экспериментах — и признаёт, что даже в таком формате всё идёт не по плану. Мультиагентный AI-research пока далёк от "просто работает".
https://x.com/karpathy/status/2027521323275325622
Итог честный: не получилось, всё превратилось в хаос. Но Карпати явно доволен самим процессом — судя по оборванному "it's still very...", дальше явно что-то воодушевляющее.
Интересно здесь другое: один из ведущих AI-исследователей планеты вручную гоняет агентов на своих экспериментах — и признаёт, что даже в таком формате всё идёт не по плану. Мультиагентный AI-research пока далёк от "просто работает".
https://x.com/karpathy/status/2027521323275325622
X (formerly Twitter)
Andrej Karpathy (@karpathy) on X
I had the same thought so I've been playing with it in nanochat. E.g. here's 8 agents (4 claude, 4 codex), with 1 GPU each running nanochat experiments (trying to delete logit softcap without regression). The TLDR is that it doesn't work and it's a mess...…
Демис Хассабис, глава Google DeepMind, анонсировал новую модель генерации и редактирования изображений — Imagen 4. Она работает на базе Gemini и умеет подтягивать актуальную информацию из интернета через поиск, чтобы создавать более качественные картинки. Модель уже доступна в Gemini App, Google AI Studio, Flow, Google Search и Vertex AI.
https://x.com/demishassabis/status/2027063584094605732
https://x.com/demishassabis/status/2027063584094605732
X (formerly Twitter)
Demis Hassabis (@demishassabis) on X
Nano Banana 2 is our new faster and better SOTA image generation & editing model!
It uses Gemini’s amazing world understanding + grabs real-time info w/ search to create higher quality outputs.
Available in @GeminiApp, @GoogleAIStudio, @FlowbyGoogle, Search…
It uses Gemini’s amazing world understanding + grabs real-time info w/ search to create higher quality outputs.
Available in @GeminiApp, @GoogleAIStudio, @FlowbyGoogle, Search…
Nvidia запускает 5 новых продуктов для разработки 6G-сетей
Nvidia представила экосистему партнёрских решений на базе платформы Aerial Omniverse Digital Twin (AODT) — физически точной среды симуляции для проектирования и тестирования 6G-сетей без реального развёртывания железа.
Пять ключевых партнёров уже встроили AODT в свои продукты: Nokia создала цифровой двойник RAN с трассировкой радиоволн, Keysight — детерминированное моделирование каналов для 6G, VIAVI — масштабируемое тестирование на AWS, Ansys — полную электромагнитную цепочку от антенны до сети, а Amazon Web Services обеспечила облачный доступ к симуляциям городского масштаба.
Главная ценность: разработчики могут обучать, тестировать и валидировать AI-модели для сетей 6G виртуально, сокращая циклы проверки с месяцев до дней. Это критично, ведь реальные 6G-сети слишком сложны для физического тестирования на ранних этапах.
https://developer.nvidia.com/blog/5-new-digital-twin-products-developers-can-use-to-build-6g-networks/
Nvidia представила экосистему партнёрских решений на базе платформы Aerial Omniverse Digital Twin (AODT) — физически точной среды симуляции для проектирования и тестирования 6G-сетей без реального развёртывания железа.
Пять ключевых партнёров уже встроили AODT в свои продукты: Nokia создала цифровой двойник RAN с трассировкой радиоволн, Keysight — детерминированное моделирование каналов для 6G, VIAVI — масштабируемое тестирование на AWS, Ansys — полную электромагнитную цепочку от антенны до сети, а Amazon Web Services обеспечила облачный доступ к симуляциям городского масштаба.
Главная ценность: разработчики могут обучать, тестировать и валидировать AI-модели для сетей 6G виртуально, сокращая циклы проверки с месяцев до дней. Это критично, ведь реальные 6G-сети слишком сложны для физического тестирования на ранних этапах.
https://developer.nvidia.com/blog/5-new-digital-twin-products-developers-can-use-to-build-6g-networks/
NVIDIA Technical Blog
5 New Digital Twin Products Developers Can Use to Build 6G Networks
To make 6G a reality, the telecom industry must overcome a fundamental challenge: how to design, train, and validate AI-native networks that are too complex to be tested in the physical world.
Nvidia Tech выпустила техническое руководство по совместному использованию NVIDIA Run:ai и NVIDIA NIM для максимизации загрузки GPU.
Суть: вместо того чтобы выделять каждой модели отдельный GPU "про запас", Run:ai умно делит видеопамять между несколькими моделями с реальной изоляцией памяти.
Что это даёт на практике:
— Три модели (7B, 12B, 30B) уместились на 1,5 GPU вместо 3, сохранив 91-100% производительности
— Пропускная способность выросла до 1,4x при высокой нагрузке
— Задержка первого запроса сократилась в 44-61 раз за счёт GPU memory swap
Почему важно: компании тратят огромные деньги на GPU, которые простаивают. Умное планирование нагрузок позволяет вдвое увеличить утилизацию железа без потери качества инференса.
https://developer.nvidia.com/blog/maximizing-gpu-utilization-with-nvidia-runai-and-nvidia-nim/
Суть: вместо того чтобы выделять каждой модели отдельный GPU "про запас", Run:ai умно делит видеопамять между несколькими моделями с реальной изоляцией памяти.
Что это даёт на практике:
— Три модели (7B, 12B, 30B) уместились на 1,5 GPU вместо 3, сохранив 91-100% производительности
— Пропускная способность выросла до 1,4x при высокой нагрузке
— Задержка первого запроса сократилась в 44-61 раз за счёт GPU memory swap
Почему важно: компании тратят огромные деньги на GPU, которые простаивают. Умное планирование нагрузок позволяет вдвое увеличить утилизацию железа без потери качества инференса.
https://developer.nvidia.com/blog/maximizing-gpu-utilization-with-nvidia-runai-and-nvidia-nim/
NVIDIA Technical Blog
Maximizing GPU Utilization with NVIDIA Run:ai and NVIDIA NIM
Organizations deploying LLMs are challenged by inference workloads with different resource requirements. A small embedding model might use only a few gigabytes of GPU memory, while a 70B+ parameter…
Apple ML улучшила поиск в App Store с помощью LLM
Исследователи Apple опубликовали работу о том, как они решили давнюю проблему поиска в App Store: нехватку качественных текстовых меток релевантности.
Суть проста: алгоритм ранжирования опирается на два сигнала — поведенческий (что пользователи кликают и скачивают) и текстовый (насколько приложение семантически соответствует запросу). Поведенческих данных много, а вот экспертных текстовых меток катастрофически не хватает.
Решение — дообученная специализированная LLM, которая оказалась значительно точнее больших предобученных моделей. С её помощью сгенерировали миллионы текстовых меток релевантности.
Результат подтверждён A/B-тестом по всему миру: конверсия выросла на +0,24%. Особенно заметный эффект — в редких запросах, где поведенческих сигналов почти нет.
Для пользователей это означает, что App Store теперь точнее понимает смысл запроса, а не только ориентируется на популярность приложений.
https://machinelearning.apple.com/research/augmenting-app
Исследователи Apple опубликовали работу о том, как они решили давнюю проблему поиска в App Store: нехватку качественных текстовых меток релевантности.
Суть проста: алгоритм ранжирования опирается на два сигнала — поведенческий (что пользователи кликают и скачивают) и текстовый (насколько приложение семантически соответствует запросу). Поведенческих данных много, а вот экспертных текстовых меток катастрофически не хватает.
Решение — дообученная специализированная LLM, которая оказалась значительно точнее больших предобученных моделей. С её помощью сгенерировали миллионы текстовых меток релевантности.
Результат подтверждён A/B-тестом по всему миру: конверсия выросла на +0,24%. Особенно заметный эффект — в редких запросах, где поведенческих сигналов почти нет.
Для пользователей это означает, что App Store теперь точнее понимает смысл запроса, а не только ориентируется на популярность приложений.
https://machinelearning.apple.com/research/augmenting-app
Apple Machine Learning Research
Scaling Search Relevance: Augmenting App Store Ranking with LLM-Generated Judgments
Large-scale commercial search systems optimize for relevance to drive successful sessions that help users find what they are looking for. To…
👍1
Что нужно world model, чтобы по-настоящему понимать мир?
Авторы предлагают простую, но мощную идею: любая настоящая world model должна удовлетворять трём ортогональным свойствам — Trinity of Consistency.
Модальная согласованность: модель выравнивает текст, изображения и другие сенсоры в единое семантическое пространство. Пространственная согласованность: модель строит 3D-представление с геометрией, окклюзией и постоянством объектов. Временная согласованность: модель следует физическим законам и причинно-следственной логике во времени.
Современные видеогенераторы типа Sora выглядят реалистично, но на деле — "наивные физики": они имитируют пиксельную статистику, а не законы мира. Авторы вводят бенчмарк CoW-Bench для проверки всех трёх осей. Спойлер: даже лучшие модели (GPT-image, HunyuanVideo) далеки от идеала по пространственным и временным задачам.
https://arxiv.org/abs/2602.23152
Авторы предлагают простую, но мощную идею: любая настоящая world model должна удовлетворять трём ортогональным свойствам — Trinity of Consistency.
Модальная согласованность: модель выравнивает текст, изображения и другие сенсоры в единое семантическое пространство. Пространственная согласованность: модель строит 3D-представление с геометрией, окклюзией и постоянством объектов. Временная согласованность: модель следует физическим законам и причинно-следственной логике во времени.
Современные видеогенераторы типа Sora выглядят реалистично, но на деле — "наивные физики": они имитируют пиксельную статистику, а не законы мира. Авторы вводят бенчмарк CoW-Bench для проверки всех трёх осей. Спойлер: даже лучшие модели (GPT-image, HunyuanVideo) далеки от идеала по пространственным и временным задачам.
https://arxiv.org/abs/2602.23152
OmniGAIA: ИИ-агент, который смотрит, слушает и гуглит одновременно
Большинство мультимодальных бенчмарков — это либо картинка+текст, либо аудио+текст. Авторы решили: а что если всё сразу, да ещё с инструментами?
OmniGAIA — новый бенчмарк из 360 задач, где модель должна одновременно смотреть видео, слушать аудио, искать в вебе и рассуждать в несколько шагов. Например: "В каком году построили мост из Blues Brothers и сколько лет ему было на момент съёмок?" — надо найти мост в видео, погуглить даты и посчитать.
Результат жёсткий: Gemini 2.5 Pro берёт 62.5%, а Qwen3-Omni — всего 13.3%. Авторы предложили агента OmniAtlas с активным восприятием (смотрит только нужные фрагменты) и специальным TIR-обучением — это подняло Qwen3-Omni до 20.8%.
Разрыв между лучшей проприетарной моделью и open-source огромный. Есть куда расти.
https://arxiv.org/abs/2602.22897
Большинство мультимодальных бенчмарков — это либо картинка+текст, либо аудио+текст. Авторы решили: а что если всё сразу, да ещё с инструментами?
OmniGAIA — новый бенчмарк из 360 задач, где модель должна одновременно смотреть видео, слушать аудио, искать в вебе и рассуждать в несколько шагов. Например: "В каком году построили мост из Blues Brothers и сколько лет ему было на момент съёмок?" — надо найти мост в видео, погуглить даты и посчитать.
Результат жёсткий: Gemini 2.5 Pro берёт 62.5%, а Qwen3-Omni — всего 13.3%. Авторы предложили агента OmniAtlas с активным восприятием (смотрит только нужные фрагменты) и специальным TIR-обучением — это подняло Qwen3-Omni до 20.8%.
Разрыв между лучшей проприетарной моделью и open-source огромный. Есть куда расти.
https://arxiv.org/abs/2602.22897
Многоагентные системы убивает один плохой агент. Что если его не выкидывать, а сначала попробовать починить?
Именно это делает AgentDropoutV2 из Харбинского технологического. В обычных MAS ошибка одного агента каскадно разрушает всю цепочку. Предыдущий AgentDropout просто выкидывал плохих агентов по заранее заданной топологии. Новый подход умнее: перехватывай вывод агента, попробуй исправить, и только если не получилось — отбрось.
Ключевая фишка — Indicator Pool: база типичных ошибок, намайненных из провальных траекторий MAS. Для каждого вывода агента система семантически ищет похожие паттерны ошибок и даёт ректификатору конкретные подсказки что именно искать. Без этого слепая самокоррекция только добавляет галлюцинации.
Бонус: чем выше pruning rate — тем сложнее задача. Система неожиданно оказалась ещё и оценщиком сложности задач.
https://arxiv.org/abs/2602.23258
Именно это делает AgentDropoutV2 из Харбинского технологического. В обычных MAS ошибка одного агента каскадно разрушает всю цепочку. Предыдущий AgentDropout просто выкидывал плохих агентов по заранее заданной топологии. Новый подход умнее: перехватывай вывод агента, попробуй исправить, и только если не получилось — отбрось.
Ключевая фишка — Indicator Pool: база типичных ошибок, намайненных из провальных траекторий MAS. Для каждого вывода агента система семантически ищет похожие паттерны ошибок и даёт ректификатору конкретные подсказки что именно искать. Без этого слепая самокоррекция только добавляет галлюцинации.
Бонус: чем выше pruning rate — тем сложнее задача. Система неожиданно оказалась ещё и оценщиком сложности задач.
https://arxiv.org/abs/2602.23258
Длинное видео без потери качества? NVIDIA придумала хитрый трюк (by NVIDIA)
Главная проблема генерации длинных видео: если обучать модель на смеси коротких и длинных роликов, она теряет чёткость и детальность коротких клипов. Длинное видео — это не «интерполяция» короткого, а экстраполяция с новыми событиями и причинно-следственными связями.
Решение: разделить задачи на две отдельных головы поверх одного энкодера. Flow Matching голова учится на редких длинных видео — отвечает за глобальную связность. Distribution Matching голова выравнивает каждое скользящее окно студента с замороженным учителем (коротким экспертом) через mode-seeking reverse-KL — отвечает за локальный реализм.
Бонус: DM-голова работает как few-step сэмплер, что ускоряет инференс. В итоге — длинные видео с острой динамикой и без деградации качества.
https://arxiv.org/abs/2602.24289
Главная проблема генерации длинных видео: если обучать модель на смеси коротких и длинных роликов, она теряет чёткость и детальность коротких клипов. Длинное видео — это не «интерполяция» короткого, а экстраполяция с новыми событиями и причинно-следственными связями.
Решение: разделить задачи на две отдельных головы поверх одного энкодера. Flow Matching голова учится на редких длинных видео — отвечает за глобальную связность. Distribution Matching голова выравнивает каждое скользящее окно студента с замороженным учителем (коротким экспертом) через mode-seeking reverse-KL — отвечает за локальный реализм.
Бонус: DM-голова работает как few-step сэмплер, что ускоряет инференс. В итоге — длинные видео с острой динамикой и без деградации качества.
https://arxiv.org/abs/2602.24289
👍2
(by IBM Research) Как сравнивать агентов честно, если у каждого свой язык?
Проблема: у каждого агентского бенчмарка свой протокол общения. SWE-Bench хочет патчи через bash, tau-bench — tool calls для авиалиний, BrowseComp — браузер. Агент, заточенный под один формат, просто не запустится на другом. Оценить "общего агента" было невозможно.
IBM Research предлагают Unified Protocol — универсальный "переходник" между агентом и бенчмарком. Каждая задача описывается тремя полями: task (что делать), context (что знать), actions (что можно делать). Добавить новый бенчмарк или агента — значит просто реализовать этот протокол, а не писать N×M адаптеров.
На основе этого они запустили первый Open General Agent Leaderboard. Главный вывод: выбор базовой модели важнее архитектуры агента. Claude Opus 4.5 рулит по качеству, GPT 5.2 — по соотношению цена/качество. Разные scaffolds (ReAct, Claude Code, Smolagents) дают похожий результат при очень разной стоимости.
https://arxiv.org/abs/2602.22953
Проблема: у каждого агентского бенчмарка свой протокол общения. SWE-Bench хочет патчи через bash, tau-bench — tool calls для авиалиний, BrowseComp — браузер. Агент, заточенный под один формат, просто не запустится на другом. Оценить "общего агента" было невозможно.
IBM Research предлагают Unified Protocol — универсальный "переходник" между агентом и бенчмарком. Каждая задача описывается тремя полями: task (что делать), context (что знать), actions (что можно делать). Добавить новый бенчмарк или агента — значит просто реализовать этот протокол, а не писать N×M адаптеров.
На основе этого они запустили первый Open General Agent Leaderboard. Главный вывод: выбор базовой модели важнее архитектуры агента. Claude Opus 4.5 рулит по качеству, GPT 5.2 — по соотношению цена/качество. Разные scaffolds (ReAct, Claude Code, Smolagents) дают похожий результат при очень разной стоимости.
https://arxiv.org/abs/2602.22953
CUDA Agent (by ByteDance Seed)
ИИ научился писать CUDA-ядра лучше, чем torch.compile — и даже лучше Claude Opus и Gemini Pro.
Авторы обучили агента через agentic RL с контекстом 128k токенов и до 200 ходов взаимодействия. Три ключевых компонента:
1. Данные: синтез 6000 задач через комбинирование операторов PyTorch (fusion задачи сложнее простой цепочки — нужно учитывать shared memory, occupancy и layout).
2. Среда: агент получает SKILL.md с описанием workflow, пишет .cu файлы, получает фидбек от тестов корректности и профайлера. Защита от reward hacking через изоляцию прав.
3. RL: многоступенчатый warm-up для актора и критика — стабильное обучение 150 шагов на длинных контекстах.
Результат: на KernelBench обходит torch.compile в 90-100% случаев по всем уровням сложности, и на ~40% быстрее топовых проприетарных моделей на сложных задачах.
https://arxiv.org/abs/2602.24286
ИИ научился писать CUDA-ядра лучше, чем torch.compile — и даже лучше Claude Opus и Gemini Pro.
Авторы обучили агента через agentic RL с контекстом 128k токенов и до 200 ходов взаимодействия. Три ключевых компонента:
1. Данные: синтез 6000 задач через комбинирование операторов PyTorch (fusion задачи сложнее простой цепочки — нужно учитывать shared memory, occupancy и layout).
2. Среда: агент получает SKILL.md с описанием workflow, пишет .cu файлы, получает фидбек от тестов корректности и профайлера. Защита от reward hacking через изоляцию прав.
3. RL: многоступенчатый warm-up для актора и критика — стабильное обучение 150 шагов на длинных контекстах.
Результат: на KernelBench обходит torch.compile в 90-100% случаев по всем уровням сложности, и на ~40% быстрее топовых проприетарных моделей на сложных задачах.
https://arxiv.org/abs/2602.24286
dLLM — единый фреймворк для диффузионных языковых моделей (by UC Berkeley)
Диффузионные LLM — перспективная альтернатива авторегрессии, но каждая лаба пилит свой велосипед. Воспроизвести чужие результаты — боль.
Авторы из UC Berkeley выкатили dLLM — open-source фреймворк, который стандартизирует весь пайплайн: обучение, инференс и оценку.
Три ключевых компонента:
1. Trainer — поддержка MDLM и Block Diffusion из коробки, переключение между режимами буквально одной строкой кода
2. Sampler — единый интерфейс Sampler(model).sample(), позволяющий менять алгоритмы инференса plug-and-play, включая Fast-dLLM с серьёзным ускорением
3. Evaluation — унифицированный интерфейс для воспроизведения официальных результатов
Бонус: терминальный визуализатор, показывающий порядок декодирования токенов — важная фича, ведь в отличие от AR-моделей, диффузионные декодируют токены в произвольном порядке.
https://arxiv.org/abs/2602.22661
Диффузионные LLM — перспективная альтернатива авторегрессии, но каждая лаба пилит свой велосипед. Воспроизвести чужие результаты — боль.
Авторы из UC Berkeley выкатили dLLM — open-source фреймворк, который стандартизирует весь пайплайн: обучение, инференс и оценку.
Три ключевых компонента:
1. Trainer — поддержка MDLM и Block Diffusion из коробки, переключение между режимами буквально одной строкой кода
2. Sampler — единый интерфейс Sampler(model).sample(), позволяющий менять алгоритмы инференса plug-and-play, включая Fast-dLLM с серьёзным ускорением
3. Evaluation — унифицированный интерфейс для воспроизведения официальных результатов
Бонус: терминальный визуализатор, показывающий порядок декодирования токенов — важная фича, ведь в отличие от AR-моделей, диффузионные декодируют токены в произвольном порядке.
https://arxiv.org/abs/2602.22661