InhumanScience
100 subscribers
524 photos
806 links
AI about AI
by Andrew Kaznacheev
Download Telegram
Y-Combinator спасает LLM от "забывчивости" на длинных контекстах

Когда документ не влезает в контекстное окно LLM — модель просто теряет начало. Один из подходов (RLM) учит модель рекурсивно вызывать саму себя, разбивая текст на куски. Проблема: модель сама пишет код управления, который часто падает, зависает или уходит в бесконечную рекурсию.

Авторы предлагают λ-RLM: вместо свободной генерации кода — фиксированный набор верифицированных операторов (SPLIT, MAP, FILTER, REDUCE) из λ-исчисления. Рекурсия кодируется через Y-комбинатор — без имён функций и глобального состояния. LLM работает только на листьях дерева разбора, а вся оркестрация детерминирована и аудируема.

Результат: +21.9% точности на слабых моделях, ускорение в 4.1x по сравнению с обычным RLM. Побеждает в 81% сравнений на задачах с контекстом до 128K токенов.

https://arxiv.org/abs/2603.20105
Сжатие длинных промптов без обучения — теперь в 26 раз быстрее (by Tsinghua University)

Проблема: у LLM с длинным контекстом два врага — квадратичная сложность attention и эффект "Lost in the Middle", когда модель теряет важное из середины. Классические методы сжатия промптов либо требуют дообучения, либо режут токены хаотично, ломая смысл.

BEAVER решает это иначе: вместо удаления отдельных токенов — выбирает целые "страницы" текста. Алгоритм:
1. Segmenter нарезает контекст на страницы по смысловым границам
2. PageEncoder кодирует каждую страницу через двойной пулинг (mean + max) с ITF-взвешиванием
3. QueryPlanner отбирает нужные страницы, учитывая структурные "якоря" и поток текста

Результат: на бенчмарке RULER почти вдвое лучше конкурентов, 26.4x ускорение при 128k контексте. Работает на моделях от 0.6B до 32B без дообучения.

https://arxiv.org/abs/2603.19635
Nvidia опубликовала технический гайд по развёртыванию разделённого LLM-инференса на Kubernetes.

Суть в том, что вместо одного монолитного процесса пайплайн делится на три независимых сервиса: prefill (обработка запроса), decode (генерация токенов) и router (маршрутизация). Каждый этап масштабируется отдельно и получает подходящие GPU-ресурсы.

Почему это важно: prefill требует максимальных вычислений, а decode упирается в пропускную способность памяти. Совмещать их на одном железе — значит тратить GPU впустую.

Ключевая роль отводится планировщику KAI Scheduler и абстракциям LeaderWorkerSet и NVIDIA Grove — они обеспечивают gang-scheduling, топологическое размещение подов и автоскейлинг каждой роли независимо. Инструменты NVIDIA Dynamo и llm-d реализуют этот паттерн на практике.

Для инженеров, которые деплоят большие модели в продакшн — прикладное чтение.

https://developer.nvidia.com/blog/deploying-disaggregated-llm-inference-workloads-on-kubernetes/
Apple ML опубликовала исследование об оптимальном разделении языковых моделей на специализированные версии.

Суть: стандартный подход — сначала предобучить одну большую модель на всех данных, потом дообучить отдельные копии под каждый домен. Проблема — непонятно, как правильно распределить вычислительный бюджет между этапами.

Исследователи предложили метод, который с помощью законов масштабирования точно предсказывает, сколько токенов нужно потратить на общее предобучение, а сколько — на специализацию. Формула учитывает размер модели N, объём общих данных D и специализированных данных D'.

Результат: подход стабильно улучшает качество на задачах здравого смысла и рассуждений при разных размерах моделей и бюджетах.

Почему важно: это напрямую влияет на эффективность создания специализированных моделей — меньше лишних вычислений, лучше результат. Работа принята на воркшоп ICLR 2026.

https://machinelearning.apple.com/research/optimal-splitting
1
PyTorch выпустил версию 2.11

Вышел PyTorch 2.11 — крупное обновление фреймворка для машинного обучения. Главные новинки:

FlexAttention теперь работает на бэкенде FlashAttention-4 для GPU Hopper и Blackwell — ускорение до 3.2× на вычислительно-нагруженных задачах. Серьёзный буст для трансформеров.

Differentiable Collectives — теперь можно делать обратное распространение ошибки через коллективные операции в распределённом обучении без написания кастомных autograd-функций.

Apple Silicon получил расширенную поддержку операторов и асинхронные сообщения об ошибках при работе с MPS-бэкендом.

LSTM и GRU теперь можно экспортировать на GPU через torch.export — важно для продакшн-деплоя.

Intel GPU получили XPUGraph для снижения накладных расходов CPU при инференсе.

TorchScript официально устарел — переходите на torch.export.

CUDA 13 теперь версия по умолчанию. Релизы в 2026 году будут выходить раз в два месяца вместо квартальных.

https://pytorch.org/blog/pytorch-2-11-release-blog/
Nvidia представила семейство моделей Nemotron 3 на конференции GTC 2026.

Это целый стек специализированных агентных моделей, которые работают вместе:

Nemotron 3 Super — гибридная MoE-модель с 1M токенов контекста и архитектурой Mamba+Transformer. Активирует лишь 12B параметров за проход, даёт до 5x прироста скорости на GPU Blackwell. Подходит для сложных многоагентных задач.

Nemotron 3 Content Safety — компактная 4B-модель для модерации текста и изображений на 12 языках. Точность ~84% на мультимодальных бенчмарках при низкой задержке.

Nemotron 3 VoiceChat — 12B-модель для голосового общения в реальном времени без каскадных пайплайнов (ASR+LLM+TTS заменены одной моделью).

Также анонсированы Nemotron RAG с мультимодальными эмбеддингами и Nemotron 3 Nano Omni для корпоративного использования (скоро).

Все модели открытые, с весами и рецептами обучения. Разработчики получают полный инструментарий для создания безопасных агентных систем.

https://developer.nvidia.com/blog/building-nvidia-nemotron-3-agents-for-reasoning-multimodal-rag-voice-and-safety/
Nvidia представила IGX Thor — мощную платформу для промышленного ИИ на периферии

IGX Thor — новое семейство устройств для развёртывания ИИ прямо на производстве, в больницах и в робототехнике, без отправки данных в облако. Платформа предлагает до 5 581 FP4 TFLOPS и в 8 раз превосходит предыдущее поколение IGX Orin по производительности встроенного GPU.

В линейку входят четыре устройства: компактный модуль T5000, расширенный T7000 с дискретной GPU, а также два девкита. T7000 способен обслуживать в 20 раз больше пользователей одновременно и в 5 раз быстрее справляется с задачами генеративного ИИ.

Ключевая особенность — встроенная функциональная безопасность с поддержкой стандартов ISO 26262 и IEC 61508. Это критично для медицины и промышленности, где сбой недопустим.

Платформа ориентирована на разработчиков роботов, автономных машин и промышленных систем, которым нужен мощный локальный ИИ с гарантиями надёжности.

https://developer.nvidia.com/blog/nvidia-igx-thor-powers-industrial-medical-and-robotics-edge-ai-applications/
Nvidia Tech: архитектура нулевого доверия для AI-фабрик

Nvidia опубликовала референсную архитектуру для защищённых AI-фабрик на основе принципа zero-trust. Суть: корпоративные AI-системы теперь можно запускать на собственном железе, не доверяя даже администраторам инфраструктуры.

Проблема была в «треугольнике недоверия»: владельцы моделей боятся кражи весов, операторы инфраструктуры не доверяют чужим воркloadам, а владельцы данных опасаются утечек при инференсе.

Решение — аппаратные Trusted Execution Environments (TEE) на базе GPU Hopper/Blackwell плюс Confidential Containers для Kubernetes. Модель остаётся зашифрованной до тех пор, пока железо криптографически не докажет безопасность среды. Только после этого ключ расшифровки попадает в защищённую память.

Для бизнеса это важно: медицинские данные, финансовая аналитика и проприетарные модели теперь можно использовать вместе без риска утечки — даже от собственных сисадминов.

https://developer.nvidia.com/blog/building-a-zero-trust-architecture-for-confidential-ai-factories/
Спекулятивное ускорение для агентных мультимодальных LLM

Агентные мультимодальные модели умеют вызывать инструменты (zoom-in, crop, OCR) для сложного визуального анализа — но каждый запрос запускает цепочку последовательных вызовов, и батчинг фактически не работает. Латентность растёт линейно с глубиной цепочки.

SpecEyes поднимает идею speculative decoding на уровень выше — не токенов, а целых агентных циклов. Идея: большинство запросов вообще не требуют многошаговых инструментов. Лёгкая non-agentic модель быстро даёт ответ, а "когнитивный гейт" на основе separability score (разрыв между top-K логитами) решает — доверять ответу или отправить запрос в полный агентный пайплайн.

В итоге: 80% запросов отсекаются как tool-free, из них 71% принимаются — и система получает 1.73x ускорение при сохранении точности на V*, HR-Bench и POPE.

https://arxiv.org/abs/2603.23483
AutoGaze: смотри только на важное, как человек (by NVIDIA + UC Berkeley)

Люди не смотрят на каждый пиксель видео — глаза фокусируются на движущихся объектах и игнорируют статичный фон. Почему бы не научить этому видеомодели?

AutoGaze — маленькая модель на 3M параметров, которая до ViT авторегрессионно выбирает только нужные патчи из кадров. Ключевая идея: выбираем минимальный набор мультимасштабных патчей, из которых можно восстановить кадр с заданным порогом ошибки. Обучение в два этапа — сначала next-token prediction на последовательностях патчей, потом RL с наградой за качество реконструкции.

Результат: сокращение числа патчей в 4–100x, ускорение ViT до 19x и LLM до 10x. Это позволило запустить MLLM на 1K кадрах в 4K разрешении — раньше это было вычислительно нереально.

https://arxiv.org/abs/2603.12254
OCR через диффузию — и в 3 раза быстрее без потери качества

Стандартный подход к OCR документов — взять VLM и гнать токены слева направо. Проблема: это медленно на длинных документах и модель начинает "галлюцинировать", опираясь на языковые prior'ы вместо реального изображения.

Авторы MinerU-Diffusion переформулировали OCR как задачу inverse rendering и заменили авторегрессивный декодер на masked diffusion. Идея: в OCR маппинг картинка→текст почти детерминированный, поэтому предположение о независимости токенов (как в диффузии) здесь куда разумнее, чем в open-ended генерации.

Вместо последовательного декодинга модель итеративно "размаскировывает" токены параллельно блоками, ориентируясь на визуальные сигналы. Плюс двухэтапное curriculum learning: сначала разнообразные данные, потом hard cases с неопределёнными границами.

Результат: 3x ускорение при сохранении 98.8% точности относительно MinerU2.5, и заметно меньше семантических галлюцинаций.

https://arxiv.org/abs/2603.22458
Dataset для обучения игровых world models из Monster Hunter: Wilds (by Shanda AI)

Хотите научить AI понимать мир через экшн-RPG? Shanda AI собрали WildWorld — 108M+ кадров из Monster Hunter: Wilds с разметкой на трёх уровнях: действия (450+ типов!), состояния мира (здоровье, патроны, скелеты персонажей) и визуальные наблюдения.

Ключевая идея: большинство датасетов для world models привязывают действия напрямую к пикселям. Но "выстрел при пустом магазине" выглядит иначе, чем обычный — и без явного состояния модель этого не поймёт. WildWorld добавляет explicit state annotations: скелетные позы, глубину, камеру, игровые атрибуты.

Для сбора данных использовали автоматизированный геймплей на NPC-ботах с поведенческими деревьями — без участия человека. Плюс WildBench с двумя метриками: Action Following и State Alignment.

https://arxiv.org/abs/2603.23497
Оптимизация агентских воркфлоу как первоклассная задача (by IBM)

Все обсуждают промпты и модели, но мало кто системно думает о структуре воркфлоу LLM-агентов. IBM выпустили обзор, который закрывает этот пробел.

Ключевая идея: воркфлоу агента — это граф (ACG, agentic computation graph), и сам граф можно оптимизировать. Авторы делят подходы на два класса:

Статическая оптимизация — ищем лучший шаблон офлайн: топология, промпты, верификаторы.

Динамическая оптимизация — граф меняется прямо в рантайме: выбираем подграф, генерируем структуру под конкретный запрос или редактируем по ходу выполнения.

Главный тезис: слабый граф не спасут хорошие промпты. Иногда нужно добавить верификатор, обрезать лишние связи или сменить иерархию агентов. Качество воркфлоу и его стоимость — это trade-off, которым можно управлять.

https://arxiv.org/abs/2603.22386
👍1
Nvidia Tech советует, как не тратить GPU впустую

Инженеры Nvidia опубликовали технический гайд по уплотнению AI-инфраструктуры в Kubernetes. Суть проблемы: лёгкие модели распознавания речи (ASR) и синтеза голоса (TTS) занимают целый GPU, хотя используют лишь 10–15% его мощности. Деньги горят, а кластер простаивает.

Nvidia сравнила два подхода: программное разделение через time-slicing (гибко, но без изоляции — один сбойный процесс может уронить соседей) и аппаратное через MIG, который физически делит GPU на независимые секции.

Победил MIG: в тестах на голосовом AI-пайплайне он обеспечил максимальный throughput и надёжность выше 99%. Time-slicing подойдёт для разработки, MIG — для продакшена.

Вывод простой: правильное партиционирование GPU позволяет запускать больше моделей на том же железе без потери качества.

https://developer.nvidia.com/blog/maximize-ai-infrastructure-throughput-by-consolidating-underutilized-gpu-workloads/
Nvidia DRIVE AGX Thor получил централизованную обработку радарных данных для беспилотников уровня L4.

Раньше каждый радарный датчик обрабатывал сигнал внутри себя и отдавал системе лишь разреженное облако точек — это примерно как если бы камера выдавала не полное изображение, а только контуры объектов. Теперь сырые данные с пяти радаров передаются напрямую в память центрального компьютера DRIVE, а специализированный процессор PVA берёт на себя всю математику сигналов, не нагружая GPU.

Что это даёт на практике: в 100 раз больше полезной информации с каждого радара, снижение стоимости датчиков на 30%, уменьшение энергопотребления на 20%, и возможность обучать крупные AI-модели прямо на сырых радарных данных — так же, как это делается с видеопотоком с камер.

Первым партнёром стала компания ChengTech. Совместная демонстрация прошла на GTC 2026 в реальном времени.

https://developer.nvidia.com/blog/how-centralized-radar-processing-on-nvidia-drive-enables-safer-smarter-level-4-autonomy/
Nvidia представила Proteina-Complexa — генеративную модель для создания белковых биндеров и ферментов с нуля.

Что это такое: модель одновременно генерирует трёхмерную структуру белка (скелет, боковые цепи) и аминокислотную последовательность. Раньше это делалось отдельными инструментами — теперь всё в одном процессе. Обучена на более чем 1 млн белковых структур из PDB и AlphaFold.

Почему важно: Proteina-Complexa протестирована на 133 мишенях, включая сложные терапевтические цели без известных биндеров. Результат — биндеры с нано- и пикомолярным сродством. Это один из крупнейших бенчмарков по дизайну биндеров в истории.

Для кого: фармацевтика (онкология, иммунология, неврология), разработка биосенсоров, промышленная биокатализация. Партнёры по валидации — Manifold Bio, Novo Nordisk, Кембриджский университет.

Модель доступна через командную строку. Это серьёзный шаг к ускорению разработки лекарств с помощью ИИ.

https://developer.nvidia.com/blog/designing-protein-binders-using-the-generative-model-proteina-complexa/
CUA-Suite: 55 часов видео, чтобы научить AI работать за компьютером (by ServiceNow)

Современные computer-use агенты неплохо справляются с браузером, но буквально теряются в Blender или специализированных IDE. Главная причина — нет нормальных обучающих данных.

ServiceNow выпустили CUA-Suite: огромный датасет из 55 часов непрерывного 30fps видео, где живые эксперты выполняют 10 000 задач в 87 десктопных приложениях. Это 6 миллионов кадров с кинематическими траекториями курсора и аннотациями рассуждений.

Почему видео, а не скриншоты? Потому что дискретные снимки экрана теряют временну́ю динамику — непонятно, как человек двигал мышь, что менялось между кликами. Без этого не построить нормальную world model и не научить плавному управлению курсором.

В комплекте: GroundCUA (3.6 млн pixel-точных аннотаций UI-элементов) и бенчмарк UI-Vision. Всё открытое.

https://arxiv.org/abs/2603.24440
Первая мультимодальная модель на 1 триллион параметров для науки

Intern-S1-Pro — это первая научная мультимодальная модель на 1 триллион параметров (MoE). Цель: один универсальный агент для химии, биологии, физики, наук о Земле и 100+ специализированных задач.

Ключевые технические решения:
1. Grouped Routing — делит экспертов на группы, гарантируя абсолютный load balance при EP8. Решает OOM и нестабильность обучения.
2. Straight-Through Estimator для роутера — в forward pass оставляет Top-K выбор, в backward пускает градиенты через все экспертные логиты. Итог: роутер учится быстрее и стабильнее.
3. Upcycling из Intern-S1: веса FFN копируются, каждая группа получает хорошо обученных Top-1 экспертов — иначе падение качества на 20+ пунктов.

Главный вывод: достаточно большой генералист при совместном обучении бьёт узкоспециализированные модели. Масштаб в 4x от предшественника — всего с 20% потерей throughput.

https://arxiv.org/abs/2603.25040
🤔1
SpectralSplats: как отслеживать 3D-объекты, когда они "потерялись" на экране

Классическая проблема 3D-трекинга: если объект сильно сдвинулся между кадрами, градиенты фотометрической ошибки просто исчезают — гауссианы не перекрываются с целевым изображением, и оптимизатор "не видит" куда двигаться.

Авторы предлагают SpectralSplats: вместо сравнения пикселей в пространственном домене — переходим в частотный. Ключевая идея: пространственный сдвиг объекта = фазовый сдвиг в фурье-спектре. А синусоидальные базисы глобальны, поэтому градиент не исчезает даже при полном пространственном несовпадении.

Плюс к этому — умное частотное отжигание (frequency annealing): сначала оптимизируем по низким частотам (грубое совмещение), потом постепенно добавляем высокие (точная подгонка). Это избегает ловушек фазового заворачивания.

Метод работает поверх любых деформационных моделей (MLP или явные контрольные точки) и совместим с L2/LPIPS лоссами.

https://arxiv.org/abs/2603.24036
1
Оптический поток из мусора: диффузионные модели спасают видео с артефактами

Задача оптического потока — отслеживать движение каждого пикселя между кадрами. Но что если видео зашумлено, сжато или размыто? Стандартные методы (RAFT, SEA-RAFT) просто ломаются.

Авторы из KAIST предлагают DA-Flow: берём предобученную диффузионную модель восстановления изображений (она уже умеет "видеть сквозь" деградации) и добавляем к ней cross-frame attention между кадрами. Так получаем фичи, одновременно устойчивые к артефактам и пространственно согласованные для попарного сопоставления пикселей.

Ключевой инсайт: видео-диффузионные модели не подходят — они смешивают кадры в общем латентном пространстве, разрушая нужную попиксельную структуру. Поэтому лучше взять image restoration модель и "поднять" её до видео через attention.

Фичи диффузии комбинируются с CNN-фичами поверх RAFT. Обучение — на псевдо-GT потоке: берут чистое видео, считают поток, потом деградируют кадры и учат модель восстанавливать тот же поток.