Microsoft Research представила CORPGEN — новый подход к обучению AI-агентов для реальных рабочих задач.
В основе — мультимодальное обучение с подкреплением и специальный агентский верификатор. Проще говоря: агент не просто выполняет инструкции, но и сам проверяет правильность своих действий в процессе работы.
Это важный шаг к агентам, которые умеют работать с реальными корпоративными задачами — не в тепличных условиях бенчмарков, а там, где нужно принимать решения, работать с документами, интерфейсами и данными одновременно.
Для пользователей это означает более надёжных AI-помощников, которые реже ошибаются и лучше понимают контекст сложных рабочих процессов. Microsoft явно метит в корпоративный рынок, где цена ошибки агента особенно высока.
https://www.microsoft.com/en-us/research/blog/corpgen-advances-ai-agents-for-real-work/
В основе — мультимодальное обучение с подкреплением и специальный агентский верификатор. Проще говоря: агент не просто выполняет инструкции, но и сам проверяет правильность своих действий в процессе работы.
Это важный шаг к агентам, которые умеют работать с реальными корпоративными задачами — не в тепличных условиях бенчмарков, а там, где нужно принимать решения, работать с документами, интерфейсами и данными одновременно.
Для пользователей это означает более надёжных AI-помощников, которые реже ошибаются и лучше понимают контекст сложных рабочих процессов. Microsoft явно метит в корпоративный рынок, где цена ошибки агента особенно высока.
https://www.microsoft.com/en-us/research/blog/corpgen-advances-ai-agents-for-real-work/
Microsoft Research
CORPGEN advances AI agents for real work
CORPGEN enables AI agents to manage dozens of interdependent tasks simultaneously in simulated workplace environments. It maintains performance under heavy multitasking, delivering up to 3.5x higher completion rates than leading baselines.
NVIDIA и Alibaba: Qwen3.5 теперь доступен на GPU-ускоренных эндпоинтах NVIDIA
Alibaba выпустила Qwen3.5 — огромную мультимодальную модель на 397 млрд параметров (активных — 17B). Это гибрид MoE и Gated Delta Networks с поддержкой 200+ языков и контекстом до 1M токенов. Модель умеет понимать интерфейсы и управлять ими — это шаг вперёд по сравнению с предыдущими VLM.
NVIDIA сделала её доступной бесплатно через build.nvidia.com на GPU Blackwell. Разработчики могут подключиться через API, задеплоить через NVIDIA NIM-контейнеры или дообучить под свои задачи с помощью NeMo — с поддержкой LoRA, SFT и мультиузловых кластеров на Slurm и Kubernetes.
Полезно для: веб-разработки, визуального рассуждения, сложного поиска и агентных сценариев.
https://developer.nvidia.com/blog/develop-native-multimodal-agents-with-qwen3-5-vlm-using-nvidia-gpu-accelerated-endpoints/
Alibaba выпустила Qwen3.5 — огромную мультимодальную модель на 397 млрд параметров (активных — 17B). Это гибрид MoE и Gated Delta Networks с поддержкой 200+ языков и контекстом до 1M токенов. Модель умеет понимать интерфейсы и управлять ими — это шаг вперёд по сравнению с предыдущими VLM.
NVIDIA сделала её доступной бесплатно через build.nvidia.com на GPU Blackwell. Разработчики могут подключиться через API, задеплоить через NVIDIA NIM-контейнеры или дообучить под свои задачи с помощью NeMo — с поддержкой LoRA, SFT и мультиузловых кластеров на Slurm и Kubernetes.
Полезно для: веб-разработки, визуального рассуждения, сложного поиска и агентных сценариев.
https://developer.nvidia.com/blog/develop-native-multimodal-agents-with-qwen3-5-vlm-using-nvidia-gpu-accelerated-endpoints/
NVIDIA Technical Blog
Develop Native Multimodal Agents with Qwen3.5 VLM Using NVIDIA GPU-Accelerated Endpoints
Alibaba has introduced the new open source Qwen3.5 series built for native multimodal agents. The first model in this series is a ~400B parameter native vision-language model (VLM) with reasoning…
Amazon Science: размер модели — не показатель интеллекта
Исследователи Amazon AWS опубликовали работу, переворачивающую привычную логику масштабирования ИИ. Главный тезис: увеличение числа параметров не делает модели умнее — после определённого порога они входят в «режим савана», где производительность растёт, но настоящее понимание исчезает.
Ключевая идея: интеллект определяется не объёмом, а временем вывода. Чем жёстче ограничение по времени на инференс, тем больше модель вынуждена учиться не просто запоминать паттерны, а рассуждать — то есть работать трансдуктивно, как «система-2» в когнитивной психологии.
Практический вывод: модели нужно обучать с учётом стоимости вычислений при инференсе, а не гнаться за параметрами. Это меняет подход к архитектуре и тренировке следующего поколения ИИ.
Для пользователей это значит: будущие модели могут стать эффективнее и «умнее» без роста размера — просто за счёт лучшего распределения времени на размышление.
https://www.amazon.science/blog/intelligence-isnt-about-parameter-count-its-about-time
Исследователи Amazon AWS опубликовали работу, переворачивающую привычную логику масштабирования ИИ. Главный тезис: увеличение числа параметров не делает модели умнее — после определённого порога они входят в «режим савана», где производительность растёт, но настоящее понимание исчезает.
Ключевая идея: интеллект определяется не объёмом, а временем вывода. Чем жёстче ограничение по времени на инференс, тем больше модель вынуждена учиться не просто запоминать паттерны, а рассуждать — то есть работать трансдуктивно, как «система-2» в когнитивной психологии.
Практический вывод: модели нужно обучать с учётом стоимости вычислений при инференсе, а не гнаться за параметрами. Это меняет подход к архитектуре и тренировке следующего поколения ИИ.
Для пользователей это значит: будущие модели могут стать эффективнее и «умнее» без роста размера — просто за счёт лучшего распределения времени на размышление.
https://www.amazon.science/blog/intelligence-isnt-about-parameter-count-its-about-time
Карпатый экспериментирует с мультиагентными системами в своём проекте nanochat. Он запустил 8 агентов одновременно — 4 на базе Claude и 4 на базе Codex, каждый с отдельным GPU. Задача была конкретная: убрать logit softcap (техника стабилизации обучения нейросетей) без потери качества модели.
Итог честный: не получилось, всё превратилось в хаос. Но Карпати явно доволен самим процессом — судя по оборванному "it's still very...", дальше явно что-то воодушевляющее.
Интересно здесь другое: один из ведущих AI-исследователей планеты вручную гоняет агентов на своих экспериментах — и признаёт, что даже в таком формате всё идёт не по плану. Мультиагентный AI-research пока далёк от "просто работает".
https://x.com/karpathy/status/2027521323275325622
Итог честный: не получилось, всё превратилось в хаос. Но Карпати явно доволен самим процессом — судя по оборванному "it's still very...", дальше явно что-то воодушевляющее.
Интересно здесь другое: один из ведущих AI-исследователей планеты вручную гоняет агентов на своих экспериментах — и признаёт, что даже в таком формате всё идёт не по плану. Мультиагентный AI-research пока далёк от "просто работает".
https://x.com/karpathy/status/2027521323275325622
X (formerly Twitter)
Andrej Karpathy (@karpathy) on X
I had the same thought so I've been playing with it in nanochat. E.g. here's 8 agents (4 claude, 4 codex), with 1 GPU each running nanochat experiments (trying to delete logit softcap without regression). The TLDR is that it doesn't work and it's a mess...…
Демис Хассабис, глава Google DeepMind, анонсировал новую модель генерации и редактирования изображений — Imagen 4. Она работает на базе Gemini и умеет подтягивать актуальную информацию из интернета через поиск, чтобы создавать более качественные картинки. Модель уже доступна в Gemini App, Google AI Studio, Flow, Google Search и Vertex AI.
https://x.com/demishassabis/status/2027063584094605732
https://x.com/demishassabis/status/2027063584094605732
X (formerly Twitter)
Demis Hassabis (@demishassabis) on X
Nano Banana 2 is our new faster and better SOTA image generation & editing model!
It uses Gemini’s amazing world understanding + grabs real-time info w/ search to create higher quality outputs.
Available in @GeminiApp, @GoogleAIStudio, @FlowbyGoogle, Search…
It uses Gemini’s amazing world understanding + grabs real-time info w/ search to create higher quality outputs.
Available in @GeminiApp, @GoogleAIStudio, @FlowbyGoogle, Search…
Nvidia запускает 5 новых продуктов для разработки 6G-сетей
Nvidia представила экосистему партнёрских решений на базе платформы Aerial Omniverse Digital Twin (AODT) — физически точной среды симуляции для проектирования и тестирования 6G-сетей без реального развёртывания железа.
Пять ключевых партнёров уже встроили AODT в свои продукты: Nokia создала цифровой двойник RAN с трассировкой радиоволн, Keysight — детерминированное моделирование каналов для 6G, VIAVI — масштабируемое тестирование на AWS, Ansys — полную электромагнитную цепочку от антенны до сети, а Amazon Web Services обеспечила облачный доступ к симуляциям городского масштаба.
Главная ценность: разработчики могут обучать, тестировать и валидировать AI-модели для сетей 6G виртуально, сокращая циклы проверки с месяцев до дней. Это критично, ведь реальные 6G-сети слишком сложны для физического тестирования на ранних этапах.
https://developer.nvidia.com/blog/5-new-digital-twin-products-developers-can-use-to-build-6g-networks/
Nvidia представила экосистему партнёрских решений на базе платформы Aerial Omniverse Digital Twin (AODT) — физически точной среды симуляции для проектирования и тестирования 6G-сетей без реального развёртывания железа.
Пять ключевых партнёров уже встроили AODT в свои продукты: Nokia создала цифровой двойник RAN с трассировкой радиоволн, Keysight — детерминированное моделирование каналов для 6G, VIAVI — масштабируемое тестирование на AWS, Ansys — полную электромагнитную цепочку от антенны до сети, а Amazon Web Services обеспечила облачный доступ к симуляциям городского масштаба.
Главная ценность: разработчики могут обучать, тестировать и валидировать AI-модели для сетей 6G виртуально, сокращая циклы проверки с месяцев до дней. Это критично, ведь реальные 6G-сети слишком сложны для физического тестирования на ранних этапах.
https://developer.nvidia.com/blog/5-new-digital-twin-products-developers-can-use-to-build-6g-networks/
NVIDIA Technical Blog
5 New Digital Twin Products Developers Can Use to Build 6G Networks
To make 6G a reality, the telecom industry must overcome a fundamental challenge: how to design, train, and validate AI-native networks that are too complex to be tested in the physical world.
Nvidia Tech выпустила техническое руководство по совместному использованию NVIDIA Run:ai и NVIDIA NIM для максимизации загрузки GPU.
Суть: вместо того чтобы выделять каждой модели отдельный GPU "про запас", Run:ai умно делит видеопамять между несколькими моделями с реальной изоляцией памяти.
Что это даёт на практике:
— Три модели (7B, 12B, 30B) уместились на 1,5 GPU вместо 3, сохранив 91-100% производительности
— Пропускная способность выросла до 1,4x при высокой нагрузке
— Задержка первого запроса сократилась в 44-61 раз за счёт GPU memory swap
Почему важно: компании тратят огромные деньги на GPU, которые простаивают. Умное планирование нагрузок позволяет вдвое увеличить утилизацию железа без потери качества инференса.
https://developer.nvidia.com/blog/maximizing-gpu-utilization-with-nvidia-runai-and-nvidia-nim/
Суть: вместо того чтобы выделять каждой модели отдельный GPU "про запас", Run:ai умно делит видеопамять между несколькими моделями с реальной изоляцией памяти.
Что это даёт на практике:
— Три модели (7B, 12B, 30B) уместились на 1,5 GPU вместо 3, сохранив 91-100% производительности
— Пропускная способность выросла до 1,4x при высокой нагрузке
— Задержка первого запроса сократилась в 44-61 раз за счёт GPU memory swap
Почему важно: компании тратят огромные деньги на GPU, которые простаивают. Умное планирование нагрузок позволяет вдвое увеличить утилизацию железа без потери качества инференса.
https://developer.nvidia.com/blog/maximizing-gpu-utilization-with-nvidia-runai-and-nvidia-nim/
NVIDIA Technical Blog
Maximizing GPU Utilization with NVIDIA Run:ai and NVIDIA NIM
Organizations deploying LLMs are challenged by inference workloads with different resource requirements. A small embedding model might use only a few gigabytes of GPU memory, while a 70B+ parameter…
Apple ML улучшила поиск в App Store с помощью LLM
Исследователи Apple опубликовали работу о том, как они решили давнюю проблему поиска в App Store: нехватку качественных текстовых меток релевантности.
Суть проста: алгоритм ранжирования опирается на два сигнала — поведенческий (что пользователи кликают и скачивают) и текстовый (насколько приложение семантически соответствует запросу). Поведенческих данных много, а вот экспертных текстовых меток катастрофически не хватает.
Решение — дообученная специализированная LLM, которая оказалась значительно точнее больших предобученных моделей. С её помощью сгенерировали миллионы текстовых меток релевантности.
Результат подтверждён A/B-тестом по всему миру: конверсия выросла на +0,24%. Особенно заметный эффект — в редких запросах, где поведенческих сигналов почти нет.
Для пользователей это означает, что App Store теперь точнее понимает смысл запроса, а не только ориентируется на популярность приложений.
https://machinelearning.apple.com/research/augmenting-app
Исследователи Apple опубликовали работу о том, как они решили давнюю проблему поиска в App Store: нехватку качественных текстовых меток релевантности.
Суть проста: алгоритм ранжирования опирается на два сигнала — поведенческий (что пользователи кликают и скачивают) и текстовый (насколько приложение семантически соответствует запросу). Поведенческих данных много, а вот экспертных текстовых меток катастрофически не хватает.
Решение — дообученная специализированная LLM, которая оказалась значительно точнее больших предобученных моделей. С её помощью сгенерировали миллионы текстовых меток релевантности.
Результат подтверждён A/B-тестом по всему миру: конверсия выросла на +0,24%. Особенно заметный эффект — в редких запросах, где поведенческих сигналов почти нет.
Для пользователей это означает, что App Store теперь точнее понимает смысл запроса, а не только ориентируется на популярность приложений.
https://machinelearning.apple.com/research/augmenting-app
Apple Machine Learning Research
Scaling Search Relevance: Augmenting App Store Ranking with LLM-Generated Judgments
Large-scale commercial search systems optimize for relevance to drive successful sessions that help users find what they are looking for. To…
👍1
Что нужно world model, чтобы по-настоящему понимать мир?
Авторы предлагают простую, но мощную идею: любая настоящая world model должна удовлетворять трём ортогональным свойствам — Trinity of Consistency.
Модальная согласованность: модель выравнивает текст, изображения и другие сенсоры в единое семантическое пространство. Пространственная согласованность: модель строит 3D-представление с геометрией, окклюзией и постоянством объектов. Временная согласованность: модель следует физическим законам и причинно-следственной логике во времени.
Современные видеогенераторы типа Sora выглядят реалистично, но на деле — "наивные физики": они имитируют пиксельную статистику, а не законы мира. Авторы вводят бенчмарк CoW-Bench для проверки всех трёх осей. Спойлер: даже лучшие модели (GPT-image, HunyuanVideo) далеки от идеала по пространственным и временным задачам.
https://arxiv.org/abs/2602.23152
Авторы предлагают простую, но мощную идею: любая настоящая world model должна удовлетворять трём ортогональным свойствам — Trinity of Consistency.
Модальная согласованность: модель выравнивает текст, изображения и другие сенсоры в единое семантическое пространство. Пространственная согласованность: модель строит 3D-представление с геометрией, окклюзией и постоянством объектов. Временная согласованность: модель следует физическим законам и причинно-следственной логике во времени.
Современные видеогенераторы типа Sora выглядят реалистично, но на деле — "наивные физики": они имитируют пиксельную статистику, а не законы мира. Авторы вводят бенчмарк CoW-Bench для проверки всех трёх осей. Спойлер: даже лучшие модели (GPT-image, HunyuanVideo) далеки от идеала по пространственным и временным задачам.
https://arxiv.org/abs/2602.23152
OmniGAIA: ИИ-агент, который смотрит, слушает и гуглит одновременно
Большинство мультимодальных бенчмарков — это либо картинка+текст, либо аудио+текст. Авторы решили: а что если всё сразу, да ещё с инструментами?
OmniGAIA — новый бенчмарк из 360 задач, где модель должна одновременно смотреть видео, слушать аудио, искать в вебе и рассуждать в несколько шагов. Например: "В каком году построили мост из Blues Brothers и сколько лет ему было на момент съёмок?" — надо найти мост в видео, погуглить даты и посчитать.
Результат жёсткий: Gemini 2.5 Pro берёт 62.5%, а Qwen3-Omni — всего 13.3%. Авторы предложили агента OmniAtlas с активным восприятием (смотрит только нужные фрагменты) и специальным TIR-обучением — это подняло Qwen3-Omni до 20.8%.
Разрыв между лучшей проприетарной моделью и open-source огромный. Есть куда расти.
https://arxiv.org/abs/2602.22897
Большинство мультимодальных бенчмарков — это либо картинка+текст, либо аудио+текст. Авторы решили: а что если всё сразу, да ещё с инструментами?
OmniGAIA — новый бенчмарк из 360 задач, где модель должна одновременно смотреть видео, слушать аудио, искать в вебе и рассуждать в несколько шагов. Например: "В каком году построили мост из Blues Brothers и сколько лет ему было на момент съёмок?" — надо найти мост в видео, погуглить даты и посчитать.
Результат жёсткий: Gemini 2.5 Pro берёт 62.5%, а Qwen3-Omni — всего 13.3%. Авторы предложили агента OmniAtlas с активным восприятием (смотрит только нужные фрагменты) и специальным TIR-обучением — это подняло Qwen3-Omni до 20.8%.
Разрыв между лучшей проприетарной моделью и open-source огромный. Есть куда расти.
https://arxiv.org/abs/2602.22897
Многоагентные системы убивает один плохой агент. Что если его не выкидывать, а сначала попробовать починить?
Именно это делает AgentDropoutV2 из Харбинского технологического. В обычных MAS ошибка одного агента каскадно разрушает всю цепочку. Предыдущий AgentDropout просто выкидывал плохих агентов по заранее заданной топологии. Новый подход умнее: перехватывай вывод агента, попробуй исправить, и только если не получилось — отбрось.
Ключевая фишка — Indicator Pool: база типичных ошибок, намайненных из провальных траекторий MAS. Для каждого вывода агента система семантически ищет похожие паттерны ошибок и даёт ректификатору конкретные подсказки что именно искать. Без этого слепая самокоррекция только добавляет галлюцинации.
Бонус: чем выше pruning rate — тем сложнее задача. Система неожиданно оказалась ещё и оценщиком сложности задач.
https://arxiv.org/abs/2602.23258
Именно это делает AgentDropoutV2 из Харбинского технологического. В обычных MAS ошибка одного агента каскадно разрушает всю цепочку. Предыдущий AgentDropout просто выкидывал плохих агентов по заранее заданной топологии. Новый подход умнее: перехватывай вывод агента, попробуй исправить, и только если не получилось — отбрось.
Ключевая фишка — Indicator Pool: база типичных ошибок, намайненных из провальных траекторий MAS. Для каждого вывода агента система семантически ищет похожие паттерны ошибок и даёт ректификатору конкретные подсказки что именно искать. Без этого слепая самокоррекция только добавляет галлюцинации.
Бонус: чем выше pruning rate — тем сложнее задача. Система неожиданно оказалась ещё и оценщиком сложности задач.
https://arxiv.org/abs/2602.23258
Длинное видео без потери качества? NVIDIA придумала хитрый трюк (by NVIDIA)
Главная проблема генерации длинных видео: если обучать модель на смеси коротких и длинных роликов, она теряет чёткость и детальность коротких клипов. Длинное видео — это не «интерполяция» короткого, а экстраполяция с новыми событиями и причинно-следственными связями.
Решение: разделить задачи на две отдельных головы поверх одного энкодера. Flow Matching голова учится на редких длинных видео — отвечает за глобальную связность. Distribution Matching голова выравнивает каждое скользящее окно студента с замороженным учителем (коротким экспертом) через mode-seeking reverse-KL — отвечает за локальный реализм.
Бонус: DM-голова работает как few-step сэмплер, что ускоряет инференс. В итоге — длинные видео с острой динамикой и без деградации качества.
https://arxiv.org/abs/2602.24289
Главная проблема генерации длинных видео: если обучать модель на смеси коротких и длинных роликов, она теряет чёткость и детальность коротких клипов. Длинное видео — это не «интерполяция» короткого, а экстраполяция с новыми событиями и причинно-следственными связями.
Решение: разделить задачи на две отдельных головы поверх одного энкодера. Flow Matching голова учится на редких длинных видео — отвечает за глобальную связность. Distribution Matching голова выравнивает каждое скользящее окно студента с замороженным учителем (коротким экспертом) через mode-seeking reverse-KL — отвечает за локальный реализм.
Бонус: DM-голова работает как few-step сэмплер, что ускоряет инференс. В итоге — длинные видео с острой динамикой и без деградации качества.
https://arxiv.org/abs/2602.24289
👍2
(by IBM Research) Как сравнивать агентов честно, если у каждого свой язык?
Проблема: у каждого агентского бенчмарка свой протокол общения. SWE-Bench хочет патчи через bash, tau-bench — tool calls для авиалиний, BrowseComp — браузер. Агент, заточенный под один формат, просто не запустится на другом. Оценить "общего агента" было невозможно.
IBM Research предлагают Unified Protocol — универсальный "переходник" между агентом и бенчмарком. Каждая задача описывается тремя полями: task (что делать), context (что знать), actions (что можно делать). Добавить новый бенчмарк или агента — значит просто реализовать этот протокол, а не писать N×M адаптеров.
На основе этого они запустили первый Open General Agent Leaderboard. Главный вывод: выбор базовой модели важнее архитектуры агента. Claude Opus 4.5 рулит по качеству, GPT 5.2 — по соотношению цена/качество. Разные scaffolds (ReAct, Claude Code, Smolagents) дают похожий результат при очень разной стоимости.
https://arxiv.org/abs/2602.22953
Проблема: у каждого агентского бенчмарка свой протокол общения. SWE-Bench хочет патчи через bash, tau-bench — tool calls для авиалиний, BrowseComp — браузер. Агент, заточенный под один формат, просто не запустится на другом. Оценить "общего агента" было невозможно.
IBM Research предлагают Unified Protocol — универсальный "переходник" между агентом и бенчмарком. Каждая задача описывается тремя полями: task (что делать), context (что знать), actions (что можно делать). Добавить новый бенчмарк или агента — значит просто реализовать этот протокол, а не писать N×M адаптеров.
На основе этого они запустили первый Open General Agent Leaderboard. Главный вывод: выбор базовой модели важнее архитектуры агента. Claude Opus 4.5 рулит по качеству, GPT 5.2 — по соотношению цена/качество. Разные scaffolds (ReAct, Claude Code, Smolagents) дают похожий результат при очень разной стоимости.
https://arxiv.org/abs/2602.22953
CUDA Agent (by ByteDance Seed)
ИИ научился писать CUDA-ядра лучше, чем torch.compile — и даже лучше Claude Opus и Gemini Pro.
Авторы обучили агента через agentic RL с контекстом 128k токенов и до 200 ходов взаимодействия. Три ключевых компонента:
1. Данные: синтез 6000 задач через комбинирование операторов PyTorch (fusion задачи сложнее простой цепочки — нужно учитывать shared memory, occupancy и layout).
2. Среда: агент получает SKILL.md с описанием workflow, пишет .cu файлы, получает фидбек от тестов корректности и профайлера. Защита от reward hacking через изоляцию прав.
3. RL: многоступенчатый warm-up для актора и критика — стабильное обучение 150 шагов на длинных контекстах.
Результат: на KernelBench обходит torch.compile в 90-100% случаев по всем уровням сложности, и на ~40% быстрее топовых проприетарных моделей на сложных задачах.
https://arxiv.org/abs/2602.24286
ИИ научился писать CUDA-ядра лучше, чем torch.compile — и даже лучше Claude Opus и Gemini Pro.
Авторы обучили агента через agentic RL с контекстом 128k токенов и до 200 ходов взаимодействия. Три ключевых компонента:
1. Данные: синтез 6000 задач через комбинирование операторов PyTorch (fusion задачи сложнее простой цепочки — нужно учитывать shared memory, occupancy и layout).
2. Среда: агент получает SKILL.md с описанием workflow, пишет .cu файлы, получает фидбек от тестов корректности и профайлера. Защита от reward hacking через изоляцию прав.
3. RL: многоступенчатый warm-up для актора и критика — стабильное обучение 150 шагов на длинных контекстах.
Результат: на KernelBench обходит torch.compile в 90-100% случаев по всем уровням сложности, и на ~40% быстрее топовых проприетарных моделей на сложных задачах.
https://arxiv.org/abs/2602.24286
dLLM — единый фреймворк для диффузионных языковых моделей (by UC Berkeley)
Диффузионные LLM — перспективная альтернатива авторегрессии, но каждая лаба пилит свой велосипед. Воспроизвести чужие результаты — боль.
Авторы из UC Berkeley выкатили dLLM — open-source фреймворк, который стандартизирует весь пайплайн: обучение, инференс и оценку.
Три ключевых компонента:
1. Trainer — поддержка MDLM и Block Diffusion из коробки, переключение между режимами буквально одной строкой кода
2. Sampler — единый интерфейс Sampler(model).sample(), позволяющий менять алгоритмы инференса plug-and-play, включая Fast-dLLM с серьёзным ускорением
3. Evaluation — унифицированный интерфейс для воспроизведения официальных результатов
Бонус: терминальный визуализатор, показывающий порядок декодирования токенов — важная фича, ведь в отличие от AR-моделей, диффузионные декодируют токены в произвольном порядке.
https://arxiv.org/abs/2602.22661
Диффузионные LLM — перспективная альтернатива авторегрессии, но каждая лаба пилит свой велосипед. Воспроизвести чужие результаты — боль.
Авторы из UC Berkeley выкатили dLLM — open-source фреймворк, который стандартизирует весь пайплайн: обучение, инференс и оценку.
Три ключевых компонента:
1. Trainer — поддержка MDLM и Block Diffusion из коробки, переключение между режимами буквально одной строкой кода
2. Sampler — единый интерфейс Sampler(model).sample(), позволяющий менять алгоритмы инференса plug-and-play, включая Fast-dLLM с серьёзным ускорением
3. Evaluation — унифицированный интерфейс для воспроизведения официальных результатов
Бонус: терминальный визуализатор, показывающий порядок декодирования токенов — важная фича, ведь в отличие от AR-моделей, диффузионные декодируют токены в произвольном порядке.
https://arxiv.org/abs/2602.22661
Генерация векторных анимаций через токены Lottie
Lottie — популярный формат векторных анимаций на основе JSON, который используется повсюду: от мобильных приложений до веб-дизайна. Казалось бы, LLM должны уметь генерировать такие файлы — ведь это просто текст. Но на практике модели постоянно ломают структуру вложенного JSON, а большую часть токенов съедают служебные поля, а не реальная геометрия и движение.
Авторы из Fudan University предложили специальный токенизатор Lottie: он переводит сырой JSON в компактные последовательности команд (форма, эффект, анимация) с параметрами. Это позволяет обучать авторегрессионную VLM end-to-end — модель получает текст, изображение или видео и генерирует анимацию напрямую.
Для обучения собрали MMLottie-2M — 2 миллиона Lottie-анимаций с текстовыми описаниями, ключевыми кадрами и видео. Система OmniLottie бьёт все базовые решения по качеству и семантическому соответствию.
https://arxiv.org/abs/2603.02138
Lottie — популярный формат векторных анимаций на основе JSON, который используется повсюду: от мобильных приложений до веб-дизайна. Казалось бы, LLM должны уметь генерировать такие файлы — ведь это просто текст. Но на практике модели постоянно ломают структуру вложенного JSON, а большую часть токенов съедают служебные поля, а не реальная геометрия и движение.
Авторы из Fudan University предложили специальный токенизатор Lottie: он переводит сырой JSON в компактные последовательности команд (форма, эффект, анимация) с параметрами. Это позволяет обучать авторегрессионную VLM end-to-end — модель получает текст, изображение или видео и генерирует анимацию напрямую.
Для обучения собрали MMLottie-2M — 2 миллиона Lottie-анимаций с текстовыми описаниями, ключевыми кадрами и видео. Система OmniLottie бьёт все базовые решения по качеству и семантическому соответствию.
https://arxiv.org/abs/2603.02138
(by Alibaba) Test-time scaling для редактирования картинок — совсем не то же самое, что для генерации
Когда хотят улучшить качество диффузионных моделей на инференсе, обычно делают Best-of-N: генерируют N вариантов и выбирают лучший. Для text-to-image это работает — задача открытая, больше сэмплов = больше разнообразия. Но для редактирования картинок это расточительство: результат жёстко ограничен исходником и инструкцией, 15+ одинаково правильных вариантов никому не нужны.
Авторы из Alibaba нашли три конкретные проблемы: фиксированный бюджет тратится на простые правки, ранний pruning отбрасывает 40% перспективных кандидатов, и генерируется куча дублей.
Решение — ADE-CoT: адаптивный бюджет под сложность правки, edit-специфичные метрики для раннего отсева (локализация изменённой области + консистентность с инструкцией), и depth-first поиск с ранней остановкой как только найден хороший результат.
Итог: то же качество при 2x+ ускорении на Step1X-Edit, BAGEL и FLUX.1 Kontext.
https://arxiv.org/abs/2603.00141
Когда хотят улучшить качество диффузионных моделей на инференсе, обычно делают Best-of-N: генерируют N вариантов и выбирают лучший. Для text-to-image это работает — задача открытая, больше сэмплов = больше разнообразия. Но для редактирования картинок это расточительство: результат жёстко ограничен исходником и инструкцией, 15+ одинаково правильных вариантов никому не нужны.
Авторы из Alibaba нашли три конкретные проблемы: фиксированный бюджет тратится на простые правки, ранний pruning отбрасывает 40% перспективных кандидатов, и генерируется куча дублей.
Решение — ADE-CoT: адаптивный бюджет под сложность правки, edit-специфичные метрики для раннего отсева (локализация изменённой области + консистентность с инструкцией), и depth-first поиск с ранней остановкой как только найден хороший результат.
Итог: то же качество при 2x+ ускорении на Step1X-Edit, BAGEL и FLUX.1 Kontext.
https://arxiv.org/abs/2603.00141
Диффузионные модели не умеют в пространство — и вот почему (by Peking University)
Попросите text-to-image модель нарисовать "чашку справа от ноутбука" — и она, скорее всего, расставит объекты как попало. Проблема не только в генерации: существующие reward-модели тоже не умеют оценивать пространственные отношения! HPS, PickScore, VQA-based метрики — все дают высокие баллы пространственно неверным картинкам.
Авторы решили проблему с двух сторон:
1. Датасет SpatialReward-Dataset — 80K adversarial пар. GPT-5 генерирует сложные промпты с несколькими объектами, затем намеренно переставляет отношения (лево/право, перед/за). Пары проверены людьми вручную.
2. Reward-модель SpatialScore на основе VLM, обученная на этих парах. Она обходит даже проприетарные модели в оценке пространственных отношений.
Дальше — GRPO-style RL с top-k фильтрацией сэмплов. Итог: заметный прирост на бенчмарках пространственного понимания.
https://arxiv.org/abs/2602.24233
Попросите text-to-image модель нарисовать "чашку справа от ноутбука" — и она, скорее всего, расставит объекты как попало. Проблема не только в генерации: существующие reward-модели тоже не умеют оценивать пространственные отношения! HPS, PickScore, VQA-based метрики — все дают высокие баллы пространственно неверным картинкам.
Авторы решили проблему с двух сторон:
1. Датасет SpatialReward-Dataset — 80K adversarial пар. GPT-5 генерирует сложные промпты с несколькими объектами, затем намеренно переставляет отношения (лево/право, перед/за). Пары проверены людьми вручную.
2. Reward-модель SpatialScore на основе VLM, обученная на этих парах. Она обходит даже проприетарные модели в оценке пространственных отношений.
Дальше — GRPO-style RL с top-k фильтрацией сэмплов. Итог: заметный прирост на бенчмарках пространственного понимания.
https://arxiv.org/abs/2602.24233
👍1
Мультимодальное обучение с нуля: что реально важно? (by Meta)
Большинство мультимодальных моделей стартуют с уже обученного языкового бэкбона — и непонятно, что они реально выучили из картинок, а что унаследовали от текста. Meta решила разобраться и обучила модель с нуля на тексте, видео, парах картинка-текст и видео с действиями (Transfusion: next-token для текста + диффузия для визуала).
Главные находки:
— Модальности почти не мешают друг другу, а иногда даже помогают
— Визуал гораздо более data-hungry, чем текст (scaling asymmetry)
— MoE-архитектура с раздельными FFN для разных модальностей работает лучше общих слоёв
— World modeling (предсказание физики мира) возникает из общего видеопретрейна, а не из специальных данных
— Лучшее визуальное представление — RAE (Representation Autoencoder), а не VAE или сырые пиксели
https://arxiv.org/abs/2603.03276
Большинство мультимодальных моделей стартуют с уже обученного языкового бэкбона — и непонятно, что они реально выучили из картинок, а что унаследовали от текста. Meta решила разобраться и обучила модель с нуля на тексте, видео, парах картинка-текст и видео с действиями (Transfusion: next-token для текста + диффузия для визуала).
Главные находки:
— Модальности почти не мешают друг другу, а иногда даже помогают
— Визуал гораздо более data-hungry, чем текст (scaling asymmetry)
— MoE-архитектура с раздельными FFN для разных модальностей работает лучше общих слоёв
— World modeling (предсказание физики мира) возникает из общего видеопретрейна, а не из специальных данных
— Лучшее визуальное представление — RAE (Representation Autoencoder), а не VAE или сырые пиксели
https://arxiv.org/abs/2603.03276
❤1
Один энкодер для всех облаков точек — это реально?
Облака точек бывают очень разными: LiDAR на улице, сканы комнат, CAD-модели объектов. Обучить один энкодер на всём сразу не получалось — домены слишком разные по масштабу, плотности и доступным модальностям (цвет, нормали).
Авторы из Pointcept выяснили три главные причины провала наивного joint-обучения:
1. Разные пространственные масштабы — один и тот же grid-size покрывает сантиметры в одном домене и метры в другом
2. Гравитационный prior — сцены обычно выровнены по оси Z, объекты — нет
3. Непостоянство модальностей — цвет/нормали есть не везде
Решение — три простых фикса: Causal Modality Blinding (случайное маскирование цвета/нормалей при обучении), Perceptual Granularity Rescale (нормализация масштаба к единой "наблюдательной гранулярности") и RoPE на выровненных координатах.
Итог: один энкодер, обученный на 250k+1M облаках точек, работает лучше domain-specific моделей и даже улучшает VLM-рассуждения и робо-манипуляции.
Облака точек бывают очень разными: LiDAR на улице, сканы комнат, CAD-модели объектов. Обучить один энкодер на всём сразу не получалось — домены слишком разные по масштабу, плотности и доступным модальностям (цвет, нормали).
Авторы из Pointcept выяснили три главные причины провала наивного joint-обучения:
1. Разные пространственные масштабы — один и тот же grid-size покрывает сантиметры в одном домене и метры в другом
2. Гравитационный prior — сцены обычно выровнены по оси Z, объекты — нет
3. Непостоянство модальностей — цвет/нормали есть не везде
Решение — три простых фикса: Causal Modality Blinding (случайное маскирование цвета/нормалей при обучении), Perceptual Granularity Rescale (нормализация масштаба к единой "наблюдательной гранулярности") и RoPE на выровненных координатах.
Итог: один энкодер, обученный на 250k+1M облаках точек, работает лучше domain-specific моделей и даже улучшает VLM-рассуждения и робо-манипуляции.
SWE-rebench V2: 32 000 задач для обучения SWE-агентов на 20 языках (by Nebius)
Главная боль при обучении кодовых агентов — нехватка качественных исполняемых окружений. SWE-rebench V2 от Nebius решает это в промышленном масштабе.
Идея: единый pipeline, который майнит pull request'ы из реальных репозиториев, автоматически строит контейнеры, извлекает fail-to-pass тесты и фильтрует мусор — и всё это без ручной разметки на каждый инстанс.
Результат: 32 000+ контейнеризированных задач из 3 600+ репозиториев на 20 языках (Python, Java, JS, Go и хвост редких). Плюс 120 000+ задач с PR-описаниями в качестве условия — для ещё большего масштаба.
Ключевая фишка — instance-level диагностика: метаданные о флакающих тестах, внешних зависимостях, размытых спецификациях. Это позволяет строить curriculum и фильтровать задачи под конкретный эксперимент.
Всё это заточено под RL-обучение агентов, а не просто под бенчмаркинг — pre-built образы уже готовы к использованию.
https://arxiv.org/abs/2602.23866
Главная боль при обучении кодовых агентов — нехватка качественных исполняемых окружений. SWE-rebench V2 от Nebius решает это в промышленном масштабе.
Идея: единый pipeline, который майнит pull request'ы из реальных репозиториев, автоматически строит контейнеры, извлекает fail-to-pass тесты и фильтрует мусор — и всё это без ручной разметки на каждый инстанс.
Результат: 32 000+ контейнеризированных задач из 3 600+ репозиториев на 20 языках (Python, Java, JS, Go и хвост редких). Плюс 120 000+ задач с PR-описаниями в качестве условия — для ещё большего масштаба.
Ключевая фишка — instance-level диагностика: метаданные о флакающих тестах, внешних зависимостях, размытых спецификациях. Это позволяет строить curriculum и фильтровать задачи под конкретный эксперимент.
Всё это заточено под RL-обучение агентов, а не просто под бенчмаркинг — pre-built образы уже готовы к использованию.
https://arxiv.org/abs/2602.23866