Базу для хранения жизненного опыта агентов подвезли. Ждём новый инфраструктурный стартап?
Experience Graphs: The Data Foundation for Self-Improving Agents
Gang Liao, Yujia He, Abdullah Ozturk, Zhouyang Li, Ying Wang, Zhitong Guo, Hongsen Qin, Yaobin Qin, Tao Yang, Zewei Jiang, Dianshi Li, Jort Gemmeke, Jiangyuan Li, Liyuan Li, Nathan Yan, Masha Basmanova, Uladzimir Pashkevich, Matt Steiner, Pedro Pedreira, Rob Fergus, Anirudh Goyal, Carole-Jean Wu, Gaoxiang Liu, Andrew Witten, Daniel J. Abadi
Paper: https://arxiv.org/abs/2606.29823
Review: https://arxiviq.substack.com/p/experience-graphs-the-data-foundation
Code: https://github.com/facebookincubator/axiom
Model: N/A
# TL;DR
ЧТО сделали: Авторы разработали Trellis — нативную базу данных для самообучающихся ИИ-агентов. Вместо того чтобы сохранять результаты поиска в локальных JSON-файлах или временных логах, Trellis представляет всю историю поиска (граф опыта, или "experience graph") как полноценное, версионируемое состояние базы данных.
ПОЧЕМУ это важно: Отделение вычислений от хранения делает агентов полностью stateless и бессерверными. Такая архитектура обеспечивает встроенное восстановление после сбоев, горизонтальное масштабирование и переиспользование опыта между сессиями. Интеграция с фреймворком KernelEvolve (https://engineering.fb.com/2026/04/02/developer-tools/kernelevolve-how-metas-ranking-engineer-agent-optimizes-ai-infrastructure/) показывает ускорение оптимизации в 10 раз по сравнению с «холодным стартом» и снижает расходы на токены на 52% за счёт предотвращения повторяющихся ошибок. Пост-тренинг RL (такой как SFT, DPO, GRPO) превращается из сложного офлайн-парсинга логов в простые запросы к БД в реальном времени.
Для практиков: Trellis позволяет создавать по-настоящему отказоустойчивые мультиагентные системы. Если вычислительный узел упадёт, состояние поиска не потеряется — любой другой узел сможет продолжить работу прямо с того же места в графе.
Хранить жизненный опыт тут: https://t.me/gonzo_ML_podcasts/4461
Experience Graphs: The Data Foundation for Self-Improving Agents
Gang Liao, Yujia He, Abdullah Ozturk, Zhouyang Li, Ying Wang, Zhitong Guo, Hongsen Qin, Yaobin Qin, Tao Yang, Zewei Jiang, Dianshi Li, Jort Gemmeke, Jiangyuan Li, Liyuan Li, Nathan Yan, Masha Basmanova, Uladzimir Pashkevich, Matt Steiner, Pedro Pedreira, Rob Fergus, Anirudh Goyal, Carole-Jean Wu, Gaoxiang Liu, Andrew Witten, Daniel J. Abadi
Paper: https://arxiv.org/abs/2606.29823
Review: https://arxiviq.substack.com/p/experience-graphs-the-data-foundation
Code: https://github.com/facebookincubator/axiom
Model: N/A
# TL;DR
ЧТО сделали: Авторы разработали Trellis — нативную базу данных для самообучающихся ИИ-агентов. Вместо того чтобы сохранять результаты поиска в локальных JSON-файлах или временных логах, Trellis представляет всю историю поиска (граф опыта, или "experience graph") как полноценное, версионируемое состояние базы данных.
ПОЧЕМУ это важно: Отделение вычислений от хранения делает агентов полностью stateless и бессерверными. Такая архитектура обеспечивает встроенное восстановление после сбоев, горизонтальное масштабирование и переиспользование опыта между сессиями. Интеграция с фреймворком KernelEvolve (https://engineering.fb.com/2026/04/02/developer-tools/kernelevolve-how-metas-ranking-engineer-agent-optimizes-ai-infrastructure/) показывает ускорение оптимизации в 10 раз по сравнению с «холодным стартом» и снижает расходы на токены на 52% за счёт предотвращения повторяющихся ошибок. Пост-тренинг RL (такой как SFT, DPO, GRPO) превращается из сложного офлайн-парсинга логов в простые запросы к БД в реальном времени.
Для практиков: Trellis позволяет создавать по-настоящему отказоустойчивые мультиагентные системы. Если вычислительный узел упадёт, состояние поиска не потеряется — любой другой узел сможет продолжить работу прямо с того же места в графе.
Хранить жизненный опыт тут: https://t.me/gonzo_ML_podcasts/4461
arXiv.org
Experience Graphs: The Data Foundation for Self-Improving Agents
The database community has repeatedly advanced the state of the art by recognizing that new workloads demand new system architectures. We argue that long-horizon agentic tasks -- code generation,...
👍10🔥7
Развитие темы про добавление памяти в различные архитектуры. В работе решают проблему ограниченного размера рекуррентного состояния в SSM-подобных моделях (здесь Gated DeltaNet) через увеличение этой памяти на несколько порядков одновременно с реализацией разреженных чтения и записи в неё. Мне кажется, это в каком-то смысле реимплементация старых добрых Neural Turing Machines (NTM) на новом субстрате. Теперь оно и скейлится неплохо.
Sparse Delta Memory: Scaling the State of Linear RNNs through Sparsity
Loïc Cabannes, Pierre-Emmanuel Mazaré, Gergely Szilvasy, Matthijs Douze, Maria Lomeli, Ilze Amanda Auzina, Justin Carpentier, Gabriel Synnaeve, Hervé Jégou
Paper: https://arxiv.org/abs/2607.07386
Review: https://arxiviq.substack.com/p/sparse-delta-memory-scaling-the-state
Code: https://github.com/facebookresearch/sparse-delta-memory
Model: N/A
# TL;DR
ЧТО сделали: Авторы представили Sparse Delta Memory (SDM) — новую архитектуру, которая кардинально увеличивает ёмкость рекуррентного состояния гейтированных линейных RNN. Вместо плотных (dense) обновлений матриц здесь используется разреженная схема адресации для чтения и записи. Это позволяет масштабировать скрытое состояние модели на три порядка при строгом сохранении количества FLOP (isoFLOP) и числа параметров на уровне базовых плотных моделей.
ПОЧЕМУ это важно: Классические трансформеры отлично справляются с извлечением информации из длинного контекста, но упираются в квадратичный и неограниченный рост KV-кэша. Линейные RNN и модели в пространствах состояний (SSM) требуют фиксированных вычислений на токен, но ограничены в ёмкости состояния, что сильно ухудшает recall. SDM разрешает этот компромисс, обеспечивая неизменную сложность вычислений при инференсе на последовательностях до 1 миллиона токенов и значительно превосходя плотные архитектуры на длинном контексте.
Для практиков: SDM позволяет обрабатывать сверхдлинные контексты без раздувания KV-кэша на GPU, сохраняя постоянную скорость декодирования. Модель обучили эффективно благодаря кастомным CUDA-кернелам и оптимизированному бэкпропу, который сжимает пиковую память состояния с 226 ГБ до всего 8 ГБ без потери качества.
Добавлять большую память тут: https://t.me/gonzo_ML_podcasts/4472
Sparse Delta Memory: Scaling the State of Linear RNNs through Sparsity
Loïc Cabannes, Pierre-Emmanuel Mazaré, Gergely Szilvasy, Matthijs Douze, Maria Lomeli, Ilze Amanda Auzina, Justin Carpentier, Gabriel Synnaeve, Hervé Jégou
Paper: https://arxiv.org/abs/2607.07386
Review: https://arxiviq.substack.com/p/sparse-delta-memory-scaling-the-state
Code: https://github.com/facebookresearch/sparse-delta-memory
Model: N/A
# TL;DR
ЧТО сделали: Авторы представили Sparse Delta Memory (SDM) — новую архитектуру, которая кардинально увеличивает ёмкость рекуррентного состояния гейтированных линейных RNN. Вместо плотных (dense) обновлений матриц здесь используется разреженная схема адресации для чтения и записи. Это позволяет масштабировать скрытое состояние модели на три порядка при строгом сохранении количества FLOP (isoFLOP) и числа параметров на уровне базовых плотных моделей.
ПОЧЕМУ это важно: Классические трансформеры отлично справляются с извлечением информации из длинного контекста, но упираются в квадратичный и неограниченный рост KV-кэша. Линейные RNN и модели в пространствах состояний (SSM) требуют фиксированных вычислений на токен, но ограничены в ёмкости состояния, что сильно ухудшает recall. SDM разрешает этот компромисс, обеспечивая неизменную сложность вычислений при инференсе на последовательностях до 1 миллиона токенов и значительно превосходя плотные архитектуры на длинном контексте.
Для практиков: SDM позволяет обрабатывать сверхдлинные контексты без раздувания KV-кэша на GPU, сохраняя постоянную скорость декодирования. Модель обучили эффективно благодаря кастомным CUDA-кернелам и оптимизированному бэкпропу, который сжимает пиковую память состояния с 226 ГБ до всего 8 ГБ без потери качества.
Добавлять большую память тут: https://t.me/gonzo_ML_podcasts/4472
arXiv.org
Sparse Delta Memory: Scaling the State of Linear RNNs through Sparsity
Linear attention models allow a fixed state size and a fixed amount of compute per token. However, due to their limited state size, linear attention models fall behind in long-context recall...
👍7🤔1
В комнату входит состязательная психометрика. Забавно, что "персоны" моделей существенно разные — Клод кооперативен, а GPT склонна к обману.
Measuring Intelligence Beyond Human Scale
Jerry Han, Rafael Moschopoulos, Ella Colby, Vishrut Goyal, Andrew Tu, Kia Ghods, Mark Braverman, Elad Hazan / Princeton Superalignment
Paper: https://arxiv.org/abs/2607.07040
Review: https://arxiviq.substack.com/p/measuring-intelligence-beyond-human
Code: N/A
Model: N/A
# TL;DR
ЧТО сделали: Авторы представили SepaRank — теоретико-игровой фреймворк для оценки моделей, основанный на «состязательной психометрике». Вместо статичных бенчмарков, созданных людьми, модели оцениваются в двойных ролях: как авторы задач (пропозеры) и как их решатели (солверы). Пропозеры получают награду за генерацию публичных бинарных вопросов, которые максимизируют дисперсию (несогласие) в ответах пула моделей-солверов, в то время как солверы оцениваются по точности ответов с помощью Brier loss.
ПОЧЕМУ это важно: Когда возможности ИИ приближаются к уровню людей-экспертов и превосходят его, традиционные абсолютные бенчмарки быстро насыщаются. При этом людям-экспертам становится всё труднее придумывать или проверять сложные, дискриминирующие вопросы. Переходя от абсолютной оценки к относительной (по принципу «один ко многим»), SepaRank создаёт автоматический, самомасштабируемый лидерборд без участия судей. Он естественным образом нейтрализует популярные стратегии обхода правил, такие как запросы к скрытому состоянию или алгоритмические лазейки.
Для практиков: Для технических лидеров и исследователей ИИ эта работа предлагает сдвиг парадигмы (всё как мы любим!) в оценке LLM. Она доказывает, что мы можем надёжно ранжировать сверхчеловеческие системы, позволяя им самим нащупывать и вскрывать границы возможностей друг друга. Такое динамическое взаимодействие не только решает проблему насыщения бенчмарков, но и генерирует поток сложных out-of-distribution данных для обучения, которые можно напрямую использовать в RLHF и циклах пост-тренинга.
Состязательно измерять психов здесь: https://t.me/gonzo_ML_podcasts/4484
Measuring Intelligence Beyond Human Scale
Jerry Han, Rafael Moschopoulos, Ella Colby, Vishrut Goyal, Andrew Tu, Kia Ghods, Mark Braverman, Elad Hazan / Princeton Superalignment
Paper: https://arxiv.org/abs/2607.07040
Review: https://arxiviq.substack.com/p/measuring-intelligence-beyond-human
Code: N/A
Model: N/A
# TL;DR
ЧТО сделали: Авторы представили SepaRank — теоретико-игровой фреймворк для оценки моделей, основанный на «состязательной психометрике». Вместо статичных бенчмарков, созданных людьми, модели оцениваются в двойных ролях: как авторы задач (пропозеры) и как их решатели (солверы). Пропозеры получают награду за генерацию публичных бинарных вопросов, которые максимизируют дисперсию (несогласие) в ответах пула моделей-солверов, в то время как солверы оцениваются по точности ответов с помощью Brier loss.
ПОЧЕМУ это важно: Когда возможности ИИ приближаются к уровню людей-экспертов и превосходят его, традиционные абсолютные бенчмарки быстро насыщаются. При этом людям-экспертам становится всё труднее придумывать или проверять сложные, дискриминирующие вопросы. Переходя от абсолютной оценки к относительной (по принципу «один ко многим»), SepaRank создаёт автоматический, самомасштабируемый лидерборд без участия судей. Он естественным образом нейтрализует популярные стратегии обхода правил, такие как запросы к скрытому состоянию или алгоритмические лазейки.
Для практиков: Для технических лидеров и исследователей ИИ эта работа предлагает сдвиг парадигмы (всё как мы любим!) в оценке LLM. Она доказывает, что мы можем надёжно ранжировать сверхчеловеческие системы, позволяя им самим нащупывать и вскрывать границы возможностей друг друга. Такое динамическое взаимодействие не только решает проблему насыщения бенчмарков, но и генерирует поток сложных out-of-distribution данных для обучения, которые можно напрямую использовать в RLHF и циклах пост-тренинга.
Состязательно измерять психов здесь: https://t.me/gonzo_ML_podcasts/4484
arXiv.org
Measuring Intelligence Beyond Human Scale
How can we measure intelligence beyond human capability?
Human-authored benchmarks saturate, and above human capability, examiners may not know which tasks are both hard and verifiable. We argue...
Human-authored benchmarks saturate, and above human capability, examiners may not know which tasks are both hard and verifiable. We argue...
👍6🔥5