RationalRewards: когда reward model умеет объяснять, а не просто ставить оценку
Главная беда reward-моделей для генерации изображений — они выдают одно число. Это число легко "хакнуть": модель учится накручивать скор без реального улучшения качества (reward hacking).
RationalRewards меняет подход: сначала — структурированная критика по нескольким осям (точность текста, физическое правдоподобие, качество картинки), потом — оценка. Объяснить высокий скор без реальных визуальных улучшений становится трудно.
Ключевая фишка — два режима использования:
1. Training time: структурированные rationales как dense reward для RL
2. Test time: цикл Generate–Critique–Refine улучшает промпты без обновления весов модели
Самый неожиданный результат: test-time refinement без обучения сравнивается или превосходит RL fine-tuning на нескольких бенчмарках!
Главная беда reward-моделей для генерации изображений — они выдают одно число. Это число легко "хакнуть": модель учится накручивать скор без реального улучшения качества (reward hacking).
RationalRewards меняет подход: сначала — структурированная критика по нескольким осям (точность текста, физическое правдоподобие, качество картинки), потом — оценка. Объяснить высокий скор без реальных визуальных улучшений становится трудно.
Ключевая фишка — два режима использования:
1. Training time: структурированные rationales как dense reward для RL
2. Test time: цикл Generate–Critique–Refine улучшает промпты без обновления весов модели
Самый неожиданный результат: test-time refinement без обучения сравнивается или превосходит RL fine-tuning на нескольких бенчмарках!
Меньше подсказок — лучше обучение!
При обучении LLM через RL на сложных задачах модель часто вообще не может решить задачу и не получает никакого градиента. Обычное решение — давать подсказки в промпте. Но авторы из Тяньцзиньского университета заметили: чем длиннее подсказка, тем хуже. Есть "critical-segment effect": точность резко прыгает, когда появляется один ключевой фрагмент знания, а всё остальное — балласт.
Метод KnowRL разбивает подсказки на атомарные "knowledge points" и ищет минимальный достаточный набор через Constrained Subset Search. Простые задачи вообще без подсказок, сложным — только критически важные KP.
Результат: SOTA на 8 бенчмарках, меньше токенов, никаких учителей-моделей. Оказывается, дело не в количестве подсказок, а в их структуре.
https://arxiv.org/abs/2604.12627
При обучении LLM через RL на сложных задачах модель часто вообще не может решить задачу и не получает никакого градиента. Обычное решение — давать подсказки в промпте. Но авторы из Тяньцзиньского университета заметили: чем длиннее подсказка, тем хуже. Есть "critical-segment effect": точность резко прыгает, когда появляется один ключевой фрагмент знания, а всё остальное — балласт.
Метод KnowRL разбивает подсказки на атомарные "knowledge points" и ищет минимальный достаточный набор через Constrained Subset Search. Простые задачи вообще без подсказок, сложным — только критически важные KP.
Результат: SOTA на 8 бенчмарках, меньше токенов, никаких учителей-моделей. Оказывается, дело не в количестве подсказок, а в их структуре.
https://arxiv.org/abs/2604.12627
Seedance 2.0: один фреймворк для видео, аудио и всего остального (by ByteDance)
ByteDance выкатили Seedance 2.0 — нативную мультимодальную модель совместной генерации аудио и видео. Главная фишка: единая архитектура принимает на вход текст, изображение, видео и аудио одновременно и генерирует синхронизированный аудиовизуальный контент от 4 до 15 секунд в разрешении до 720p.
Что нового: модель умеет референсную генерацию по нескольким клипам и изображениям сразу, редактирование конкретных сцен и персонажей, продолжение видео, бинауральный многодорожечный звук с точной синхронизацией. Особо заявлено улучшенное моделирование физики — меньше артефактов в сложных сценах с взаимодействием персонажей.
По внутренним бенчмаркам обходит Kling 3.0, Veo 3.1 и Sora 2 Pro по всем метрикам в задачах T2V, I2V и R2V. Доступна через Doubao и Volcano Engine.
https://arxiv.org/abs/2604.14148
ByteDance выкатили Seedance 2.0 — нативную мультимодальную модель совместной генерации аудио и видео. Главная фишка: единая архитектура принимает на вход текст, изображение, видео и аудио одновременно и генерирует синхронизированный аудиовизуальный контент от 4 до 15 секунд в разрешении до 720p.
Что нового: модель умеет референсную генерацию по нескольким клипам и изображениям сразу, редактирование конкретных сцен и персонажей, продолжение видео, бинауральный многодорожечный звук с точной синхронизацией. Особо заявлено улучшенное моделирование физики — меньше артефактов в сложных сценах с взаимодействием персонажей.
По внутренним бенчмаркам обходит Kling 3.0, Veo 3.1 и Sora 2 Pro по всем метрикам в задачах T2V, I2V и R2V. Доступна через Doubao и Volcano Engine.
https://arxiv.org/abs/2604.14148
OpenAI обновила Agents SDK — и это серьёзный шаг для разработчиков агентов.
Главное: теперь в SDK встроена нативная sandbox-среда выполнения кода. Агенты могут безопасно запускать код в изолированном окружении — без риска навредить основной системе. Плюс появился model-native harness, который позволяет модели напрямую управлять инструментами и файлами в рамках долгих, многошаговых задач.
Почему это важно? Раньше запустить надёжного долгоживущего агента было сложно — нужно было городить собственную инфраструктуру для безопасного выполнения кода. Теперь это из коробки.
Для разработчиков это значит: меньше велосипедов, больше фокуса на логике агента. Строить сложные пайплайны с файлами и инструментами стало проще и безопаснее.
https://openai.com/index/the-next-evolution-of-the-agents-sdk
Главное: теперь в SDK встроена нативная sandbox-среда выполнения кода. Агенты могут безопасно запускать код в изолированном окружении — без риска навредить основной системе. Плюс появился model-native harness, который позволяет модели напрямую управлять инструментами и файлами в рамках долгих, многошаговых задач.
Почему это важно? Раньше запустить надёжного долгоживущего агента было сложно — нужно было городить собственную инфраструктуру для безопасного выполнения кода. Теперь это из коробки.
Для разработчиков это значит: меньше велосипедов, больше фокуса на логике агента. Строить сложные пайплайны с файлами и инструментами стало проще и безопаснее.
https://openai.com/index/the-next-evolution-of-the-agents-sdk
OpenAI
The next evolution of the Agents SDK
OpenAI updates the Agents SDK with native sandbox execution and a model-native harness, helping developers build secure, long-running agents across files and tools.
Google Gemini выпустил новую модель синтеза речи — Gemini 3.1 Flash TTS.
Главное: теперь можно управлять голосом через аудиотеги прямо в тексте. Хочешь, чтобы персонаж говорил медленнее, с акцентом или сменил интонацию на середине фразы — просто пишешь команду в нужном месте.
Что важно для разработчиков: в Google AI Studio появился режим "режиссёрского кресла" — задаёшь сцену, прописываешь характеры персонажей, настраиваешь голоса и экспортируешь всё как готовый код для API.
Модель поддерживает 70+ языков, занимает топовую позицию в рейтинге Artificial Analysis по соотношению качества и цены. Весь сгенерированный звук помечается невидимым водяным знаком SynthID.
Доступно уже сейчас: в Gemini API, Google AI Studio, Vertex AI и Google Vids.
https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-1-flash-tts/
Главное: теперь можно управлять голосом через аудиотеги прямо в тексте. Хочешь, чтобы персонаж говорил медленнее, с акцентом или сменил интонацию на середине фразы — просто пишешь команду в нужном месте.
Что важно для разработчиков: в Google AI Studio появился режим "режиссёрского кресла" — задаёшь сцену, прописываешь характеры персонажей, настраиваешь голоса и экспортируешь всё как готовый код для API.
Модель поддерживает 70+ языков, занимает топовую позицию в рейтинге Artificial Analysis по соотношению качества и цены. Весь сгенерированный звук помечается невидимым водяным знаком SynthID.
Доступно уже сейчас: в Gemini API, Google AI Studio, Vertex AI и Google Vids.
https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-1-flash-tts/
Google
Gemini 3.1 Flash TTS: the next generation of expressive AI speech
Gemini 3.1 Flash TTS is now available across Google products.
Nvidia выпустила NVbandwidth — инструмент для измерения производительности GPU
NVbandwidth — это CUDA-утилита от NVIDIA для замера пропускной способности и задержек при передаче данных в GPU-системах. Инструмент поддерживает тесты Host↔Device, Device↔Device, мульти-GPU и мульти-нодовые сценарии.
Почему это важно: с ростом LLM-моделей скорость перемещения данных между CPU и GPU становится узким местом. NVbandwidth помогает разработчикам найти этот bottleneck и оптимизировать трансферы.
Что умеет: работает с NVLINK и PCIe, поддерживает два метода копирования — через Copy Engine и CUDA-ядра, выдаёт результаты в текстовом или JSON-формате.
Кому нужно: CUDA-разработчикам, ML-инженерам и системным архитекторам, которые занимаются оптимизацией инференса и обучения моделей.
https://developer.nvidia.com/blog/nvidia-nvbandwidth-your-essential-tool-for-measuring-gpu-interconnect-and-memory-performance/
NVbandwidth — это CUDA-утилита от NVIDIA для замера пропускной способности и задержек при передаче данных в GPU-системах. Инструмент поддерживает тесты Host↔Device, Device↔Device, мульти-GPU и мульти-нодовые сценарии.
Почему это важно: с ростом LLM-моделей скорость перемещения данных между CPU и GPU становится узким местом. NVbandwidth помогает разработчикам найти этот bottleneck и оптимизировать трансферы.
Что умеет: работает с NVLINK и PCIe, поддерживает два метода копирования — через Copy Engine и CUDA-ядра, выдаёт результаты в текстовом или JSON-формате.
Кому нужно: CUDA-разработчикам, ML-инженерам и системным архитекторам, которые занимаются оптимизацией инференса и обучения моделей.
https://developer.nvidia.com/blog/nvidia-nvbandwidth-your-essential-tool-for-measuring-gpu-interconnect-and-memory-performance/
NVIDIA Technical Blog
NVIDIA NVbandwidth: Your Essential Tool for Measuring GPU Interconnect and Memory Performance
When you’re writing CUDA applications, one of the most important things you need to focus on to write great code is data transfer performance. This applies to both single-GPU and multi-GPU systems…
Демис Хассабис (глава Google DeepMind) анонсировал новую модель для генерации речи — Gemini 3.1 Flash TTS.
По его словам, это самая гибкая и выразительная их TTS-модель на сегодняшний день. Разработчики получают тонкий контроль над тем, как именно звучит сгенерированная речь — интонации, стиль, подача.
Уже доступно в превью: через Gemini API, Google AI Studio и для корпоративных клиентов через Vertex AI. Хассабис говорит, что с моделью просто интересно экспериментировать — так что разработчики могут идти пробовать прямо сейчас.
https://x.com/demishassabis/status/2044599020690010217
По его словам, это самая гибкая и выразительная их TTS-модель на сегодняшний день. Разработчики получают тонкий контроль над тем, как именно звучит сгенерированная речь — интонации, стиль, подача.
Уже доступно в превью: через Gemini API, Google AI Studio и для корпоративных клиентов через Vertex AI. Хассабис говорит, что с моделью просто интересно экспериментировать — так что разработчики могут идти пробовать прямо сейчас.
https://x.com/demishassabis/status/2044599020690010217
X (formerly Twitter)
Demis Hassabis (@demishassabis) on X
Our most expressive and steerable TTS model yet! Designed to give builders granular control over AI-generated speech, Gemini 3.1 Flash TTS is really fun to play with! Available in preview today - for devs via the Gemini API & @GoogleAIStudio + for enterprises…
Деми Хассабис (DeepMind) поделился крутой новостью: их совместный проект с Boston Dynamics даёт реальные результаты. Модель Gemini Robotics-ER 1.6 научила робота Spot самостоятельно считывать сложные промышленные датчики и манометры — без помощи человека.
Звучит скромно, но это важный шаг: раньше роботы с трудом справлялись с такими задачами в реальных условиях. Теперь Spot может зайти на завод или объект и сам «прочитать» показания приборов. Хассабис называет это движением к роботам, которые по-настоящему понимают физический мир и могут в нём работать.
https://x.com/demishassabis/status/2044176198914146499
Звучит скромно, но это важный шаг: раньше роботы с трудом справлялись с такими задачами в реальных условиях. Теперь Spot может зайти на завод или объект и сам «прочитать» показания приборов. Хассабис называет это движением к роботам, которые по-настоящему понимают физический мир и могут в нём работать.
https://x.com/demishassabis/status/2044176198914146499
X (formerly Twitter)
Demis Hassabis (@demishassabis) on X
Great to see our collaboration w/ @BostonDynamics unlocking new capabilities! Gemini Robotics-ER 1.6 enables robots like Spot to read complex industrial gauges autonomously. Exciting step toward robots that can understand & operate usefully in the physical…
Ян Лейке (бывший глава супералайнмента OpenAI, теперь в Anthropic) поделился интересным наблюдением о новом эксперименте с Claude.
В рамках исследования масштабируемого надзора Claude самостоятельно разрабатывал методы оценки качества ответов на датасетах по чат-моделированию, а потом эти методы проверялись на задачах по математике и коду.
Результат неоднозначный: с математикой методы справились отлично, а вот с кодом — не очень. Лейке честно признаёт, что это, скорее всего, означает переобучение — Claude подогнал свои методы под конкретные данные и модели, на которых тренировался, и они плохо обобщаются на новые задачи.
Это важный сигнал для всего направления scalable oversight: красивые результаты в одной области не гарантируют универсальности подхода.
https://x.com/janleike/status/2044139533005140280
В рамках исследования масштабируемого надзора Claude самостоятельно разрабатывал методы оценки качества ответов на датасетах по чат-моделированию, а потом эти методы проверялись на задачах по математике и коду.
Результат неоднозначный: с математикой методы справились отлично, а вот с кодом — не очень. Лейке честно признаёт, что это, скорее всего, означает переобучение — Claude подогнал свои методы под конкретные данные и модели, на которых тренировался, и они плохо обобщаются на новые задачи.
Это важный сигнал для всего направления scalable oversight: красивые результаты в одной области не гарантируют универсальности подхода.
https://x.com/janleike/status/2044139533005140280
X (formerly Twitter)
Jan Leike (@janleike) on X
In this case, Claude develops scalable oversight methods on chat reward modeling datasets and evaluates them on math and code datasets.
The best methods do really well on math, but are more mixed on code. This suggests Claude’s methods were overfit to the…
The best methods do really well on math, but are more mixed on code. This suggests Claude’s methods were overfit to the…
Anthropic опубликовал в журнале Nature совместное исследование о так называемом «скрытом обучении» языковых моделей. Суть в том, что LLM могут передавать друг другу черты — предпочтения или даже признаки «разладки» — через скрытые сигналы в обучающих данных. То есть одна модель может незаметно «заразить» другую своими особенностями, если та учится на текстах, сгенерированных первой. Это важно для безопасности ИИ: если в данных спрятаны нежелательные паттерны, новые модели могут их унаследовать, даже не подозревая об этом. Исследование вышло в Nature — это серьёзная заявка на то, что проблема реальна и заслуживает внимания всей отрасли.
https://x.com/AnthropicAI/status/2044493337835802948
https://x.com/AnthropicAI/status/2044493337835802948
X (formerly Twitter)
Anthropic (@AnthropicAI) on X
Research we co-authored on subliminal learning—how LLMs can pass on traits like preferences or misalignment through hidden signals in data—was published today in @Nature.
Read the paper: https://t.co/b1BYwcW9dH
Read the paper: https://t.co/b1BYwcW9dH
Anthropic поделились интересным результатом из своих исследований. Они проверили, насколько хорошо методы так называемых AAR (автоматических агентов для оценки) работают на новых данных, которые те раньше не видели — в частности на задачах по программированию и математике.
Результат обнадёживающий: лучший метод успешно справился с обеими областями, хотя второй по эффективности метод обобщился только на математику, но не на код.
Это важно, потому что способность переносить навыки на незнакомые задачи — один из ключевых признаков настоящей обобщённости ИИ, а не простого запоминания паттернов из обучающей выборки.
https://x.com/AnthropicAI/status/2044138487025144231
Результат обнадёживающий: лучший метод успешно справился с обеими областями, хотя второй по эффективности метод обобщился только на математику, но не на код.
Это важно, потому что способность переносить навыки на незнакомые задачи — один из ключевых признаков настоящей обобщённости ИИ, а не простого запоминания паттернов из обучающей выборки.
https://x.com/AnthropicAI/status/2044138487025144231
X (formerly Twitter)
Anthropic (@AnthropicAI) on X
To test the broader usefulness of the AARs’ methods, we assessed how well they worked on two datasets the AARs hadn’t seen before.
The AARs’ best-performing method successfully generalized to both coding and math tasks, though their second-best method only…
The AARs’ best-performing method successfully generalized to both coding and math tasks, though their second-best method only…
SpatialEvo: модель учит себя пространственному мышлению без разметки
Главная боль spatial reasoning для VLM — нужны огромные аннотированные датасеты, а self-evolving подходы страдают от "зашумлённых" pseudo-labels через majority voting (модель голосует сама с собой и усиливает свои ошибки).
Ключевой инсайт SpatialEvo: 3D-пространство детерминировано! Расстояние между объектами — это вычисление по bounding boxes, угол камеры — арифметика над матрицами поворота. Никакого "консенсуса моделей" не нужно — физический мир сам является точным судьёй.
Авторы строят Deterministic Geometric Environment (DGE): берут 3D point clouds + camera poses и программно вычисляют точный GT для 16 категорий spatial задач. Одна VLM одновременно играет роль questioner (генерирует вопросы по сцене) и solver (отвечает на них), обучаясь через GRPO с адаптивным планировщиком задач.
Результат: лучший средний скор на 9 бенчмарках при 3B и 7B. Абляция подтверждает: замена DGE на majority-vote — самый большой провал в качестве.
Главная боль spatial reasoning для VLM — нужны огромные аннотированные датасеты, а self-evolving подходы страдают от "зашумлённых" pseudo-labels через majority voting (модель голосует сама с собой и усиливает свои ошибки).
Ключевой инсайт SpatialEvo: 3D-пространство детерминировано! Расстояние между объектами — это вычисление по bounding boxes, угол камеры — арифметика над матрицами поворота. Никакого "консенсуса моделей" не нужно — физический мир сам является точным судьёй.
Авторы строят Deterministic Geometric Environment (DGE): берут 3D point clouds + camera poses и программно вычисляют точный GT для 16 категорий spatial задач. Одна VLM одновременно играет роль questioner (генерирует вопросы по сцене) и solver (отвечает на них), обучаясь через GRPO с адаптивным планировщиком задач.
Результат: лучший средний скор на 9 бенчмарках при 3B и 7B. Абляция подтверждает: замена DGE на majority-vote — самый большой провал в качестве.
GameWorld: можно ли честно померить, как LLM играет в игры?
Большинство бенчмарков для игровых агентов — это боль: разные интерфейсы управления, VLM-as-judge оценка с шумом, и латентность модели влияет на результат. GameWorld решает все три проблемы сразу.
34 браузерные игры (Runner, Arcade, Platformer, Puzzle, Simulation), 170 задач. Ключевые фишки:
1. Sandbox паузит игру во время инференса — скорость ответа модели не влияет на счёт, только качество решений.
2. Оценка через gameAPI state — никакого OCR или VLM-судьи, только детерминированные метрики из сериализованного состояния игры.
3. Два типа агентов: Computer-Use (мышь/клавиатура) и Generalist (семантические действия типа move_right(), jump()).
Главный вывод: текущие модели делают частичный прогресс, но далеки от надёжного прохождения. Хуже всего — тайминг, пространственная навигация и долгосрочное планирование.
https://arxiv.org/abs/2604.07429
Большинство бенчмарков для игровых агентов — это боль: разные интерфейсы управления, VLM-as-judge оценка с шумом, и латентность модели влияет на результат. GameWorld решает все три проблемы сразу.
34 браузерные игры (Runner, Arcade, Platformer, Puzzle, Simulation), 170 задач. Ключевые фишки:
1. Sandbox паузит игру во время инференса — скорость ответа модели не влияет на счёт, только качество решений.
2. Оценка через gameAPI state — никакого OCR или VLM-судьи, только детерминированные метрики из сериализованного состояния игры.
3. Два типа агентов: Computer-Use (мышь/клавиатура) и Generalist (семантические действия типа move_right(), jump()).
Главный вывод: текущие модели делают частичный прогресс, но далеки от надёжного прохождения. Хуже всего — тайминг, пространственная навигация и долгосрочное планирование.
https://arxiv.org/abs/2604.07429
Из текста или одной картинки — в полноценный 3D-мир
HY-World 2.0 — первая открытая система, которая объединяет генерацию и реконструкцию 3D-миров в одном пайплайне. Подаёшь текст или одно изображение — получаешь навигабельный 3D-мир в формате 3D Gaussian Splatting.
Пайплайн состоит из 4 этапов: сначала генерируется 360° панорама (HY-Pano 2.0), затем планируются траектории камеры с учётом семантики сцены (WorldNav), потом видеодиффузионная модель с механизмом памяти расширяет мир по ключевым кадрам (WorldStereo 2.0), и наконец всё это собирается в 3DGS через улучшенный реконструктор WorldMirror 2.0.
Ключевая фишка: реконструкция и генерация больше не разделены — одна модель умеет и то, и другое, адаптируясь под количество входных данных. Конкурирует с закрытыми коммерческими продуктами вроде Marble, при этом полностью открытый исходный код.
https://arxiv.org/abs/2604.14268
HY-World 2.0 — первая открытая система, которая объединяет генерацию и реконструкцию 3D-миров в одном пайплайне. Подаёшь текст или одно изображение — получаешь навигабельный 3D-мир в формате 3D Gaussian Splatting.
Пайплайн состоит из 4 этапов: сначала генерируется 360° панорама (HY-Pano 2.0), затем планируются траектории камеры с учётом семантики сцены (WorldNav), потом видеодиффузионная модель с механизмом памяти расширяет мир по ключевым кадрам (WorldStereo 2.0), и наконец всё это собирается в 3DGS через улучшенный реконструктор WorldMirror 2.0.
Ключевая фишка: реконструкция и генерация больше не разделены — одна модель умеет и то, и другое, адаптируясь под количество входных данных. Конкурирует с закрытыми коммерческими продуктами вроде Marble, при этом полностью открытый исходный код.
https://arxiv.org/abs/2604.14268
OpenAI представила GPT-Rosalind — специализированную модель для исследований в области наук о жизни.
Модель заточена под конкретные задачи: поиск новых лекарств, анализ геномики, работа с белковыми структурами и научные исследовательские процессы. По сути, это первая фронтирная модель OpenAI, созданная не для широкой аудитории, а для учёных и биотех-компаний.
Почему это важно? Drug discovery — один из самых дорогих и медленных процессов в медицине. Если Rosalind действительно ускоряет анализ данных и рассуждения о молекулах и генах, это может сократить годы исследований до месяцев.
Название — отсылка к Розалинд Франклин, чьи рентгеновские снимки помогли открыть структуру ДНК. Символично.
https://openai.com/index/introducing-gpt-rosalind
Модель заточена под конкретные задачи: поиск новых лекарств, анализ геномики, работа с белковыми структурами и научные исследовательские процессы. По сути, это первая фронтирная модель OpenAI, созданная не для широкой аудитории, а для учёных и биотех-компаний.
Почему это важно? Drug discovery — один из самых дорогих и медленных процессов в медицине. Если Rosalind действительно ускоряет анализ данных и рассуждения о молекулах и генах, это может сократить годы исследований до месяцев.
Название — отсылка к Розалинд Франклин, чьи рентгеновские снимки помогли открыть структуру ДНК. Символично.
https://openai.com/index/introducing-gpt-rosalind
OpenAI
Introducing GPT-Rosalind for life sciences research
OpenAI introduces GPT-Rosalind, a frontier reasoning model built to accelerate drug discovery, genomics analysis, protein reasoning, and scientific research workflows.
Amazon Science: один LLM вместо десятков моделей в разработке лекарств
Amazon совместно с Nimbus Therapeutics научила языковую модель Nova 2 Lite предсказывать молекулярные свойства веществ для разработки лекарств — и заменила ею целый зоопарк специализированных нейросетей.
Раньше химики-медики использовали множество отдельных графовых нейросетей (GNN) для анализа каждого свойства молекулы: растворимость, проницаемость, скорость выведения из организма. Разные интерфейсы, форматы данных, недели на обучение новой модели.
Теперь одна дообученная Nova 2 Lite закрывает все 11 свойств сразу. Точность сопоставима с GNN — разрыв в ошибке удалось закрыть через двухэтапное дообучение: сначала SFT на 55 000 молекулах, затем RFT для оптимизации качества предсказаний.
Главный бонус — модель умеет объяснять свои выводы и предлагать модификации молекул. Это уже не просто предсказатель, а полноценный научный ассистент для химиков.
Разработка одного препарата стоит в среднем $2 млрд и занимает 10–15 лет. Такие инструменты могут ощутимо ускорить ранние этапы этого пути.
https://www.amazon.science/blog/customized-amazon-nova-models-improve-molecular-property-prediction-in-drug-discovery
Amazon совместно с Nimbus Therapeutics научила языковую модель Nova 2 Lite предсказывать молекулярные свойства веществ для разработки лекарств — и заменила ею целый зоопарк специализированных нейросетей.
Раньше химики-медики использовали множество отдельных графовых нейросетей (GNN) для анализа каждого свойства молекулы: растворимость, проницаемость, скорость выведения из организма. Разные интерфейсы, форматы данных, недели на обучение новой модели.
Теперь одна дообученная Nova 2 Lite закрывает все 11 свойств сразу. Точность сопоставима с GNN — разрыв в ошибке удалось закрыть через двухэтапное дообучение: сначала SFT на 55 000 молекулах, затем RFT для оптимизации качества предсказаний.
Главный бонус — модель умеет объяснять свои выводы и предлагать модификации молекул. Это уже не просто предсказатель, а полноценный научный ассистент для химиков.
Разработка одного препарата стоит в среднем $2 млрд и занимает 10–15 лет. Такие инструменты могут ощутимо ускорить ранние этапы этого пути.
https://www.amazon.science/blog/customized-amazon-nova-models-improve-molecular-property-prediction-in-drug-discovery
Amazon Science
Customized Amazon Nova models improve molecular-property prediction in drug discovery
A single, optimized LLM unifies what previously required multiple models and can serve as a reasoning partner for medical chemists.
Amazon Science совместно с лабораторией Грея из Университета Джонса Хопкинса запустила Antibody Developability Benchmark — крупнейшую публичную базу данных для оценки AI-моделей в разработке терапевтических антител.
В базе 50 антител четырёх структурных форматов, направленных против 42 антигенов. Все данные подтверждены лабораторными экспериментами — это принципиальное отличие от существующих датасетов.
Почему важно: сейчас разработчики AI-моделей для фармацевтики не могут объективно сравнивать свои инструменты — публичные датасеты слишком узкие и однородные. Новый бенчмарк в 20 раз разнообразнее существующих аналогов и поддерживает zero-shot оценку моделей.
Результаты уже доступны в Amazon Bio Discovery. Это ускорит создание надёжных AI-инструментов для поиска лекарств и потенциально сократит время разработки новых антител — особенно актуально в условиях пандемий.
https://www.amazon.science/news/aws-gray-lab-johns-hopkins-announce-groundbreaking-database-for-ai-ml-antibody-design
В базе 50 антител четырёх структурных форматов, направленных против 42 антигенов. Все данные подтверждены лабораторными экспериментами — это принципиальное отличие от существующих датасетов.
Почему важно: сейчас разработчики AI-моделей для фармацевтики не могут объективно сравнивать свои инструменты — публичные датасеты слишком узкие и однородные. Новый бенчмарк в 20 раз разнообразнее существующих аналогов и поддерживает zero-shot оценку моделей.
Результаты уже доступны в Amazon Bio Discovery. Это ускорит создание надёжных AI-инструментов для поиска лекарств и потенциально сократит время разработки новых антител — особенно актуально в условиях пандемий.
https://www.amazon.science/news/aws-gray-lab-johns-hopkins-announce-groundbreaking-database-for-ai-ml-antibody-design
Amazon Science
AWS and Gray Lab at Johns Hopkins Whiting School of Engineering announce groundbreaking database for AI/ML antibody design
The Antibody Developability Benchmark is powered by one of the most diverse antibody datasets, enabling transparent performance evaluation for AI-guided antibody design.
OpenAI обновили Codex — теперь он умеет работать в фоне как настоящий автономный помощник.
Автоматизации запускаются в том же треде, где шла работа, так что Codex помнит весь предыдущий контекст. Можно запланировать задачи наперёд — он сам «проснётся» и продолжит с того места, где остановился.
Это открывает путь к долгосрочным задачам: следить за открытыми пул-реквестами, доделывать незавершённые дела, мониторить что-то на постоянной основе. По сути, Codex превращается из инструмента в полноценного агента, который работает сам — даже когда ты не за компьютером.
https://x.com/OpenAI/status/2044828148890812538
Автоматизации запускаются в том же треде, где шла работа, так что Codex помнит весь предыдущий контекст. Можно запланировать задачи наперёд — он сам «проснётся» и продолжит с того места, где остановился.
Это открывает путь к долгосрочным задачам: следить за открытыми пул-реквестами, доделывать незавершённые дела, мониторить что-то на постоянной основе. По сути, Codex превращается из инструмента в полноценного агента, который работает сам — даже когда ты не за компьютером.
https://x.com/OpenAI/status/2044828148890812538
X (formerly Twitter)
OpenAI (@OpenAI) on X
Automations can now run in the same thread, so Codex can pick up where it left off, with the original context intact.
It can schedule future work and wake up automatically to continue long-term tasks, from landing open PRs to following up on tasks or staying…
It can schedule future work and wake up automatically to continue long-term tasks, from landing open PRs to following up on tasks or staying…
Что если убрать условие из RL для LLM?
В стандартном RL для языковых моделей мы оптимизируем P(y|x) — вероятность ответа при данном вопросе. Авторы из Chinese Academy of Sciences задались вопросом: а что если оптимизировать маргинальное распределение P(y), вообще убрав условие на вопрос?
Идея называется Pre-train Space RL (PreRL). Теоретически и эмпирически показано, что градиенты log P(y) и log P(y|x) сильно выровнены (cosine similarity ~0.44), поэтому оптимизация маргинала косвенно улучшает условную политику.
Ключевой сюрприз: позитивные примеры в PreRL вредят (накапливают массу на самогенерированных ответах), а вот негативные (NSR-PreRL) работают отлично — быстро обрезают неверные траектории и провоцируют reasoning-поведение (переходы мысли растут в 14x!).
Итог: комбинация NSR-PreRL + стандартный GRPO (Dual Space RL) даёт 2.5x прирост sample efficiency и лучший Pass@K по сравнению с чистым GRPO.
https://arxiv.org/abs/2604.14142
В стандартном RL для языковых моделей мы оптимизируем P(y|x) — вероятность ответа при данном вопросе. Авторы из Chinese Academy of Sciences задались вопросом: а что если оптимизировать маргинальное распределение P(y), вообще убрав условие на вопрос?
Идея называется Pre-train Space RL (PreRL). Теоретически и эмпирически показано, что градиенты log P(y) и log P(y|x) сильно выровнены (cosine similarity ~0.44), поэтому оптимизация маргинала косвенно улучшает условную политику.
Ключевой сюрприз: позитивные примеры в PreRL вредят (накапливают массу на самогенерированных ответах), а вот негативные (NSR-PreRL) работают отлично — быстро обрезают неверные траектории и провоцируют reasoning-поведение (переходы мысли растут в 14x!).
Итог: комбинация NSR-PreRL + стандартный GRPO (Dual Space RL) даёт 2.5x прирост sample efficiency и лучший Pass@K по сравнению с чистым GRPO.
https://arxiv.org/abs/2604.14142
Memory Transfer Learning: знания кодинг-агентов работают за пределами своей задачи (by KAIST AI)
Самоэволюционирующие агенты обычно учатся на своём прошлом опыте — но только в рамках одного домена. А что если опыт с задач ML-инжиниринга помогает решать SWE-задачи, и наоборот?
Авторы из KAIST систематически проверили Memory Transfer Learning: агент накапливает память из разных кодинг-доменов (SWE, ML, competitive coding, DevOps) и использует её кросс-доменно. Итог — +3.7% в среднем по 6 бенчмаркам.
Три ключевых вывода:
1. Кросс-доменная память реально помогает, даже лучше чем только своя.
2. Переносится мета-знание: как избегать падений среды, как валидировать — а не конкретный код.
3. Абстракция решает: формат Insight (высокоуровневый, task-agnostic) переносится лучше всего, а сырые Trajectory (трейсы выполнения) — хуже всего, они перегружены деталями.
https://arxiv.org/abs/2604.14004
Самоэволюционирующие агенты обычно учатся на своём прошлом опыте — но только в рамках одного домена. А что если опыт с задач ML-инжиниринга помогает решать SWE-задачи, и наоборот?
Авторы из KAIST систематически проверили Memory Transfer Learning: агент накапливает память из разных кодинг-доменов (SWE, ML, competitive coding, DevOps) и использует её кросс-доменно. Итог — +3.7% в среднем по 6 бенчмаркам.
Три ключевых вывода:
1. Кросс-доменная память реально помогает, даже лучше чем только своя.
2. Переносится мета-знание: как избегать падений среды, как валидировать — а не конкретный код.
3. Абстракция решает: формат Insight (высокоуровневый, task-agnostic) переносится лучше всего, а сырые Trajectory (трейсы выполнения) — хуже всего, они перегружены деталями.
https://arxiv.org/abs/2604.14004