“Multimodal Deep Learning”
arxiv.org/abs/2301.04856
#DataScience #AI #ML #MachineLearning #NLProc #ComputerVision #NeuralNetworks
arxiv.org/abs/2301.04856
#DataScience #AI #ML #MachineLearning #NLProc #ComputerVision #NeuralNetworks
NVIDIA выпускает открытую речевую модель Nemotron 3.5 Transcribe, которая умеет расшифровывать записи совещаний, определять, кто и что сказал, переводить речь и отвечать на вопросы по содержанию записи.
Модель поддерживает:
- Распознавание речи на 40 языках.
- Перевод с английского на 31 язык.
- Распознавание до восьми собеседников с указанием говорящего на 13 языках.
- Обработку записей продолжительностью до одного часа.
Можно заранее указать имена участников и специальные термины, чтобы повысить точность расшифровки, или задавать вопросы непосредственно по аудиозаписи. Функция ответов на вопросы обучена работать на английском языке.
Модель содержит около 30 млрд параметров, из которых примерно 4 млрд активируются при обработке каждого токена. Её можно запускать на собственном оборудовании с графическим процессором NVIDIA.
По данным NVIDIA, модель занимает первое место среди моделей с открытыми весами в английском рейтинге распознавания речи Open ASR на Hugging Face. Кроме того, она лидирует в испытании VoiceArena, где сравнивали 14 систем по точности расшифровки с определением говорящих.
Важно: модель предназначена для обработки готовых аудиозаписей. Для распознавания речи в реальном времени используется отдельная модель.
https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B
Модель поддерживает:
- Распознавание речи на 40 языках.
- Перевод с английского на 31 язык.
- Распознавание до восьми собеседников с указанием говорящего на 13 языках.
- Обработку записей продолжительностью до одного часа.
Можно заранее указать имена участников и специальные термины, чтобы повысить точность расшифровки, или задавать вопросы непосредственно по аудиозаписи. Функция ответов на вопросы обучена работать на английском языке.
Модель содержит около 30 млрд параметров, из которых примерно 4 млрд активируются при обработке каждого токена. Её можно запускать на собственном оборудовании с графическим процессором NVIDIA.
По данным NVIDIA, модель занимает первое место среди моделей с открытыми весами в английском рейтинге распознавания речи Open ASR на Hugging Face. Кроме того, она лидирует в испытании VoiceArena, где сравнивали 14 систем по точности расшифровки с определением говорящих.
Важно: модель предназначена для обработки готовых аудиозаписей. Для распознавания речи в реальном времени используется отдельная модель.
https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B
Новое исследование Apple показало, что для обучения ИИ-агентов, умеющих пользоваться внешними инструментами, важен не столько объём данных, сколько их разнообразие.
По мере роста обучающей выборки агенты получают больше пользы от знакомства с новыми приложениями и различными состояниями баз данных, чем от простого увеличения числа задач. Именно разнообразие примеров во многом определяет, насколько хорошо модель справится с задачами, которых прежде не встречала.
Сегодня разработчики обучают таких агентов в искусственно созданных средах, обычно стараясь увеличить число доступных задач. Однако до сих пор оставалось неясным, что приносит больше пользы: новые инструменты, новые задачи или различные исходные данные.
Чтобы разобраться в этом вопросе, исследователи разработали SynthAPI. Система поручает большой языковой модели создавать синтетические приложения, работающие с настоящими инструментами на Python и базами данных. Затем она генерирует задачи для этих приложений и автоматически проверяет, удалось ли их выполнить правильно.
В ходе исследования учёные обучили 849 моделей, меняя количество приложений, набор задач и версии баз данных.
Результаты оказались показательными. При одинаковом объёме обучения в 32 768 задач увеличение разнообразия приложений и состояний баз данных позволило повысить результат модели с 4 миллиардами параметров на сложной части испытания AppWorld с 38,4% до 45%.
Исследователи также предложили закон масштабирования, учитывающий не только количество обучающих примеров, но и их состав. Он предсказывал результаты на более крупных наборах данных, не использованных при обучении, со значительно меньшей ошибкой: 0,0285 против 0,1706 у модели, учитывающей лишь число задач.
Вывод прост: недостаточно научить ИИ решать как можно больше задач. Необходимо дать ему возможность работать с разными приложениями, инструментами и состояниями данных. Именно такое разнообразие помогает агенту переносить полученные знания на незнакомые ситуации.
https://arxiv.org/abs/2610.37648
По мере роста обучающей выборки агенты получают больше пользы от знакомства с новыми приложениями и различными состояниями баз данных, чем от простого увеличения числа задач. Именно разнообразие примеров во многом определяет, насколько хорошо модель справится с задачами, которых прежде не встречала.
Сегодня разработчики обучают таких агентов в искусственно созданных средах, обычно стараясь увеличить число доступных задач. Однако до сих пор оставалось неясным, что приносит больше пользы: новые инструменты, новые задачи или различные исходные данные.
Чтобы разобраться в этом вопросе, исследователи разработали SynthAPI. Система поручает большой языковой модели создавать синтетические приложения, работающие с настоящими инструментами на Python и базами данных. Затем она генерирует задачи для этих приложений и автоматически проверяет, удалось ли их выполнить правильно.
В ходе исследования учёные обучили 849 моделей, меняя количество приложений, набор задач и версии баз данных.
Результаты оказались показательными. При одинаковом объёме обучения в 32 768 задач увеличение разнообразия приложений и состояний баз данных позволило повысить результат модели с 4 миллиардами параметров на сложной части испытания AppWorld с 38,4% до 45%.
Исследователи также предложили закон масштабирования, учитывающий не только количество обучающих примеров, но и их состав. Он предсказывал результаты на более крупных наборах данных, не использованных при обучении, со значительно меньшей ошибкой: 0,0285 против 0,1706 у модели, учитывающей лишь число задач.
Вывод прост: недостаточно научить ИИ решать как можно больше задач. Необходимо дать ему возможность работать с разными приложениями, инструментами и состояниями данных. Именно такое разнообразие помогает агенту переносить полученные знания на незнакомые ситуации.
https://arxiv.org/abs/2610.37648
Если вы разрабатываете RAG-системы, не стоит недооценивать decision models.
Вышла отличная новая научная работа на эту тему.
Известно, что поиск информации зачастую остаётся самым слабым звеном RAG-пайплайна.
Генеративные модели продолжают совершенствоваться, тогда как ретриверы по-прежнему полагаются на сопоставление ключевых слов или фиксированных эмбеддингов. Это особенно важно, поскольку информация, которую ретривер не смог найти, никогда не попадёт к генеративной модели.
Авторы исследования предлагают заменить традиционный ретривер на decision model, которая последовательно проходит по корпусу данных: от общих тем к отдельным документам, а затем к конкретным фрагментам текста.
На каждом уровне DecisionRAG оценивает всех кандидатов за один forward pass, без генерации токенов, и оставляет только наиболее перспективные ветви поиска.
Без ретривера первого этапа и без обучения под конкретную задачу DecisionRAG превосходит комбинацию dense retrieval и 8B reranker:
- На MultiDoc2Dial преимущество составляет 13,8 процентного пункта по метрике R@1.
- На Natural Questions преимущество достигает 17,4 процентного пункта по Hit@1 при поиске среди 2,68 млн абзацев Википедии.
При этом поиск занимает от 0,7 до 1,8 секунды, а стоимость одного запроса составляет от 0,2 до 2,3 цента.
Совместная оценка кандидатов в едином контексте даёт преимущество до 7,7 процентного пункта по сравнению с их оценкой по отдельности.
Модель Qwen3-8B, обученная на данных соответствующего домена и используемая для оценки кандидатов, достигает 60,7 R@1 на MultiDoc2Dial. Это на 5,7 процентного пункта выше результата лучшего опубликованного ретривера, специально обученного для этой задачи.
Исследование: https://arxiv.org/abs/2610.35868
Вышла отличная новая научная работа на эту тему.
Известно, что поиск информации зачастую остаётся самым слабым звеном RAG-пайплайна.
Генеративные модели продолжают совершенствоваться, тогда как ретриверы по-прежнему полагаются на сопоставление ключевых слов или фиксированных эмбеддингов. Это особенно важно, поскольку информация, которую ретривер не смог найти, никогда не попадёт к генеративной модели.
Авторы исследования предлагают заменить традиционный ретривер на decision model, которая последовательно проходит по корпусу данных: от общих тем к отдельным документам, а затем к конкретным фрагментам текста.
На каждом уровне DecisionRAG оценивает всех кандидатов за один forward pass, без генерации токенов, и оставляет только наиболее перспективные ветви поиска.
Без ретривера первого этапа и без обучения под конкретную задачу DecisionRAG превосходит комбинацию dense retrieval и 8B reranker:
- На MultiDoc2Dial преимущество составляет 13,8 процентного пункта по метрике R@1.
- На Natural Questions преимущество достигает 17,4 процентного пункта по Hit@1 при поиске среди 2,68 млн абзацев Википедии.
При этом поиск занимает от 0,7 до 1,8 секунды, а стоимость одного запроса составляет от 0,2 до 2,3 цента.
Совместная оценка кандидатов в едином контексте даёт преимущество до 7,7 процентного пункта по сравнению с их оценкой по отдельности.
Модель Qwen3-8B, обученная на данных соответствующего домена и используемая для оценки кандидатов, достигает 60,7 R@1 на MultiDoc2Dial. Это на 5,7 процентного пункта выше результата лучшего опубликованного ретривера, специально обученного для этой задачи.
Исследование: https://arxiv.org/abs/2610.35868
1
Media is too big
VIEW IN TELEGRAM
Две AI-модели, каждая из которых насчитывает 4 миллиарда параметров, общаются между собой без единого слова, исключительно посредством нейронных сигналов.
Эти "нейронные близнецы" обмениваются не текстом, а внутренними активациями нейросетей, постепенно проявляя признаки взаимопонимания.
Они способны воспринимать понятия, на которые была направлена другая модель, а когда между ними устанавливается связь, их внутренние показатели счастья становятся выше.
https://github.com/SauersML/neural-pairing
https://huggingface.co/Sauers/neural-pairing
Эти "нейронные близнецы" обмениваются не текстом, а внутренними активациями нейросетей, постепенно проявляя признаки взаимопонимания.
Они способны воспринимать понятия, на которые была направлена другая модель, а когда между ними устанавливается связь, их внутренние показатели счастья становятся выше.
https://github.com/SauersML/neural-pairing
https://huggingface.co/Sauers/neural-pairing
Осенний Avito ML Cup: ранжирование ленты рекомендаций и призовой фонд 1,5 млн ₽ 😱
В этот раз задача про ранжирование, а призовой фонд вырос вдвое. Решать можно самостоятельно или в команде до четырёх человек.
Какую задачу решаем. Для каждой рекомендательной ленты Авито уже отобраны кандидаты. Изучите историю пользователя и признаки объявлений, а потом расставьте кандидатов так, чтобы выше оказались те, с которыми человек совершит целевое действие.
Как участвовать. Регистрируйтесь на сайте ODS до 8 декабря. Чем раньше начнёте, тем больше решений успеете отправить: в день доступно пять попыток.
Соревнование завершится 9 декабря.
Зарегистрироваться и решить задачу
В этот раз задача про ранжирование, а призовой фонд вырос вдвое. Решать можно самостоятельно или в команде до четырёх человек.
Какую задачу решаем. Для каждой рекомендательной ленты Авито уже отобраны кандидаты. Изучите историю пользователя и признаки объявлений, а потом расставьте кандидатов так, чтобы выше оказались те, с которыми человек совершит целевое действие.
Как участвовать. Регистрируйтесь на сайте ODS до 8 декабря. Чем раньше начнёте, тем больше решений успеете отправить: в день доступно пять попыток.
Соревнование завершится 9 декабря.
Зарегистрироваться и решить задачу
Please open Telegram to view this post
VIEW IN TELEGRAM
Пишите код на NumPy привычным способом, а затем запускайте его на GPU и TPU. Автоматическое дифференцирование и пакетная обработка данных будут выполняться без дополнительных усилий с вашей стороны.
- Автоматически вычисляйте производные обычных функций Python и NumPy.
- Компилируйте чистые функции с помощью
- Комбинируйте
https://github.com/jax-ml/jax
- Автоматически вычисляйте производные обычных функций Python и NumPy.
- Компилируйте чистые функции с помощью
jit для выполнения на аппаратных ускорителях.- Комбинируйте
grad, jit и vmap в любом порядке и масштабируйте вычисления на несколько устройств.https://github.com/jax-ml/jax
GitHub
GitHub - jax-ml/jax: Composable transformations of Python+NumPy programs: differentiate, vectorize, JIT to GPU/TPU, and more
Composable transformations of Python+NumPy programs: differentiate, vectorize, JIT to GPU/TPU, and more - jax-ml/jax
RAG возвращается с удвоенной силой.
В последнее время системы памяти ИИ-агентов становятся всё сложнее, однако исследование «Memory Tax» выявило довольно неприятный результат:
Многие специализированные системы памяти работают хуже, чем обычный RAG, использующий исходную историю взаимодействий, и при этом обходятся дороже.
Автор разделяет пользу памяти на две составляющие:
- Memory Benefit: вопросы, на которые RAG отвечает неправильно, а Memory даёт правильный ответ.
- Memory Tax: вопросы, на которые RAG мог бы ответить правильно, но после обработки истории системой Memory ответ становится ошибочным.
Проблема заключается в самом процессе организации памяти.
Когда история взаимодействий суммируется, переписывается и структурируется, часть деталей безвозвратно теряется, а другие, даже сохранившись, становятся значительно труднее для поиска.
Например, в бенчмарке LongMemEval модель Qwen3.6-27B достигает 81,4% при использовании двух этапов RAG, а GPT-5.6 Luna показывает 90%. Обе модели превосходят соответствующие сложные системы Memory.
При этом простое решение оказалось неожиданно эффективным:
Продолжать использовать Memory, но одновременно сохранить возможность поиска по исходной истории взаимодействий, а затем совместно выполнять reranking результатов из обоих источников.
Исследование также напоминает о важном принципе: прежде чем добавлять Memory в ИИ-агента, стоит сначала определить базовый уровень качества с помощью простейшего RAG по исходной истории.
Иногда настоящая проблема заключается не в том, что система ничего не помнит, а в том, что она слишком рано сокращает исходную информацию, теряя важные детали.
https://arxiv.org/abs/2610.34073?
В последнее время системы памяти ИИ-агентов становятся всё сложнее, однако исследование «Memory Tax» выявило довольно неприятный результат:
Многие специализированные системы памяти работают хуже, чем обычный RAG, использующий исходную историю взаимодействий, и при этом обходятся дороже.
Автор разделяет пользу памяти на две составляющие:
- Memory Benefit: вопросы, на которые RAG отвечает неправильно, а Memory даёт правильный ответ.
- Memory Tax: вопросы, на которые RAG мог бы ответить правильно, но после обработки истории системой Memory ответ становится ошибочным.
Проблема заключается в самом процессе организации памяти.
Когда история взаимодействий суммируется, переписывается и структурируется, часть деталей безвозвратно теряется, а другие, даже сохранившись, становятся значительно труднее для поиска.
Например, в бенчмарке LongMemEval модель Qwen3.6-27B достигает 81,4% при использовании двух этапов RAG, а GPT-5.6 Luna показывает 90%. Обе модели превосходят соответствующие сложные системы Memory.
При этом простое решение оказалось неожиданно эффективным:
Продолжать использовать Memory, но одновременно сохранить возможность поиска по исходной истории взаимодействий, а затем совместно выполнять reranking результатов из обоих источников.
Исследование также напоминает о важном принципе: прежде чем добавлять Memory в ИИ-агента, стоит сначала определить базовый уровень качества с помощью простейшего RAG по исходной истории.
Иногда настоящая проблема заключается не в том, что система ничего не помнит, а в том, что она слишком рано сокращает исходную информацию, теряя важные детали.
https://arxiv.org/abs/2610.34073?
LLM_Fine-Tuning_for_Engineers_mini_eBook.pdf
7.2 MB
Fine-tuning больших языковых моделей не ограничивается выбором модели и запуском обучения.
В бесплатной электронной книге «LLM Fine-Tuning for Engineers» рассказывается, как подготавливать обучающие данные, планировать эксперименты, оценивать качество моделей и оптимизировать их производительность с помощью методов, которые можно применять в собственных проектах.
В бесплатной электронной книге «LLM Fine-Tuning for Engineers» рассказывается, как подготавливать обучающие данные, планировать эксперименты, оценивать качество моделей и оптимизировать их производительность с помощью методов, которые можно применять в собственных проектах.
This media is not supported in your browser
VIEW IN TELEGRAM
Исследователи представили PhysAg3D — систему для создания интерактивных 3D-моделей по одному изображению.
Технология позволяет воссоздавать объекты с высокой точностью, сохраняя их внешний вид и физические свойства, включая подвижные соединения и способность к деформации.
Полученные модели можно использовать в виртуальных симуляциях для обучения и тестирования ИИ-агентов, взаимодействующих с окружающей средой.
Page: https://supra-3d.github.io/PhysAg3D/
GitHub: https://github.com/Supra-3D/PhysAg3D
Paper: https://arxiv.org/abs/2610.39924
Технология позволяет воссоздавать объекты с высокой точностью, сохраняя их внешний вид и физические свойства, включая подвижные соединения и способность к деформации.
Полученные модели можно использовать в виртуальных симуляциях для обучения и тестирования ИИ-агентов, взаимодействующих с окружающей средой.
Page: https://supra-3d.github.io/PhysAg3D/
GitHub: https://github.com/Supra-3D/PhysAg3D
Paper: https://arxiv.org/abs/2610.39924
Оксфордский университет открыл бесплатный курс «Теории глубокого обучения» на 2026–2027 учебный год.
Курс посвящён математическим основам глубоких нейронных сетей и включает 16 лекций, находящихся в свободном доступе.
Программа охватывает архитектуры нейросетей, нелинейные преобразования, свёрточные структуры, пулинг, методы оптимизации, обучение словарей, переносимость изученных признаков, состязательные примеры, теорию случайных матриц, обучение инвариантности и другие темы.
В лекциях рассматриваются математические теории, позволяющие понять, как обучаются глубокие нейронные сети и чем объясняются особенности их работы.
На мой взгляд, это особенно ценный материал для тех, кто хочет разобраться в математике, лежащей в основе современных ИИ-систем.
https://courses.maths.ox.ac.uk/course/view.php?id=6621
Курс посвящён математическим основам глубоких нейронных сетей и включает 16 лекций, находящихся в свободном доступе.
Программа охватывает архитектуры нейросетей, нелинейные преобразования, свёрточные структуры, пулинг, методы оптимизации, обучение словарей, переносимость изученных признаков, состязательные примеры, теорию случайных матриц, обучение инвариантности и другие темы.
В лекциях рассматриваются математические теории, позволяющие понять, как обучаются глубокие нейронные сети и чем объясняются особенности их работы.
На мой взгляд, это особенно ценный материал для тех, кто хочет разобраться в математике, лежащей в основе современных ИИ-систем.
https://courses.maths.ox.ac.uk/course/view.php?id=6621
Ян ЛеКун оказался прав, но в этой индустрии никто не хочет говорить об этом вслух.
Модель со 109 млн параметров превзошла модель с 72 млрд.
Уже несколько лет ЛеКун утверждает, что масштаб модели сам по себе не заставляет её понимать окружающий мир. Meta сделала ставку на противоположный подход. В ноябре он покинул компанию и основал собственную лабораторию в Париже.
В прошлый четверг он опубликовал доказательства своей теории.
С 2024 года индустрия придерживается идеи, согласно которой достаточно обучать всё более крупные модели на текстах, изображениях и звуках, чтобы в итоге они сформировали одинаковое внутреннее представление об окружающем мире. Считалось, что всё решает масштаб. Но эту гипотезу никто так и не доказал.
Рэндалл Балестриеро и Ян ЛеКун проверили её. И результаты показали, что дело вовсе не в размере модели.
Решающую роль играет то, какие именно данные модель получает вместе друг с другом.
Фотография и её описание представляют собой два разных способа передачи информации об одном объекте. Модели, обученные на таких парах, достигают нужного результата значительно быстрее.
А вот два абзаца из одного документа не являются двумя представлениями одного и того же объекта. Модели, обученные на таких данных, достигают аналогичного результата гораздо медленнее и требуют значительно больше вычислительных ресурсов.
Именно ко второму типу относится предсказание следующего токена. На этом принципе работают практически все современные чат-боты.
В ходе экспериментов первый метод позволил достичь аналогичного уровня понимания всего на 21,6 млн примеров. Для обучения с предсказанием следующего токена потребовалось 900 млн.
Более того, текстовая модель со 109 млн параметров сформировала представление об окружающем мире, которое оказалось ближе к представлению модели, обученной на изображениях, чем у языковой модели с 72 млрд параметров.
В 660 раз меньше параметров.
https://www.alphaxiv.org/pdf/2610.39302
Модель со 109 млн параметров превзошла модель с 72 млрд.
Уже несколько лет ЛеКун утверждает, что масштаб модели сам по себе не заставляет её понимать окружающий мир. Meta сделала ставку на противоположный подход. В ноябре он покинул компанию и основал собственную лабораторию в Париже.
В прошлый четверг он опубликовал доказательства своей теории.
С 2024 года индустрия придерживается идеи, согласно которой достаточно обучать всё более крупные модели на текстах, изображениях и звуках, чтобы в итоге они сформировали одинаковое внутреннее представление об окружающем мире. Считалось, что всё решает масштаб. Но эту гипотезу никто так и не доказал.
Рэндалл Балестриеро и Ян ЛеКун проверили её. И результаты показали, что дело вовсе не в размере модели.
Решающую роль играет то, какие именно данные модель получает вместе друг с другом.
Фотография и её описание представляют собой два разных способа передачи информации об одном объекте. Модели, обученные на таких парах, достигают нужного результата значительно быстрее.
А вот два абзаца из одного документа не являются двумя представлениями одного и того же объекта. Модели, обученные на таких данных, достигают аналогичного результата гораздо медленнее и требуют значительно больше вычислительных ресурсов.
Именно ко второму типу относится предсказание следующего токена. На этом принципе работают практически все современные чат-боты.
В ходе экспериментов первый метод позволил достичь аналогичного уровня понимания всего на 21,6 млн примеров. Для обучения с предсказанием следующего токена потребовалось 900 млн.
Более того, текстовая модель со 109 млн параметров сформировала представление об окружающем мире, которое оказалось ближе к представлению модели, обученной на изображениях, чем у языковой модели с 72 млрд параметров.
В 660 раз меньше параметров.
https://www.alphaxiv.org/pdf/2610.39302
Настоятельно рекомендую к прочтению.
Это настоящий мастер-класс по созданию современной инфраструктуры для AI-агентов и построению более автономных агентных систем.
Это лучшая статья из всех, что я читал о работе с командами агентов на базе собственной инфраструктуры.
Главная идея проста: архитектура должна позволять агенту работать непрерывно и эффективно переключаться между задачами.
Для этого необходима архитектура, разделяющая координацию и выполнение задач. Теперь это стало возможным благодаря тому, что LLM-агенты научились лучше координировать свои действия и сохранять контекст между задачами.
Когда базовая архитектура готова, можно переходить к более продвинутым возможностям: запуску задач по событиям, упреждающим действиям и новым способам взаимодействия с агентами, например через асинхронный ReAct Loop.
Масштабировать такую систему помогают управление состоянием и изолированные среды выполнения. Важно разделять состояние, вычислительные ресурсы и окружение. При этом система должна сохранять своё состояние и оставаться доступной с разных устройств.
Кстати, всё это можно реализовать и на базе других существующих harness-систем. Использовать DeepSeek Harness совершенно необязательно.
По мере развития возможностей агентов нужно искать новые способы взаимодействия с ними, не мешая им самостоятельно выполнять работу.
Это настоящий мастер-класс по созданию современной инфраструктуры для AI-агентов и построению более автономных агентных систем.
Это лучшая статья из всех, что я читал о работе с командами агентов на базе собственной инфраструктуры.
Главная идея проста: архитектура должна позволять агенту работать непрерывно и эффективно переключаться между задачами.
Для этого необходима архитектура, разделяющая координацию и выполнение задач. Теперь это стало возможным благодаря тому, что LLM-агенты научились лучше координировать свои действия и сохранять контекст между задачами.
Когда базовая архитектура готова, можно переходить к более продвинутым возможностям: запуску задач по событиям, упреждающим действиям и новым способам взаимодействия с агентами, например через асинхронный ReAct Loop.
Масштабировать такую систему помогают управление состоянием и изолированные среды выполнения. Важно разделять состояние, вычислительные ресурсы и окружение. При этом система должна сохранять своё состояние и оставаться доступной с разных устройств.
Кстати, всё это можно реализовать и на базе других существующих harness-систем. Использовать DeepSeek Harness совершенно необязательно.
По мере развития возможностей агентов нужно искать новые способы взаимодействия с ними, не мешая им самостоятельно выполнять работу.
X (formerly Twitter)
DeepSeek Harness on X: "Exploring Super-agent Design: Towards a More Autonomous Agent System" / X
GPT-6 Astra научилась напрямую изменять веса нейросетей, улучшая их работу без дополнительного обучения.
В одном из экспериментов модель исправила поведение ИИ, управляющего автомобилем, который постоянно застревал на подъёме. Изменив всего 3,5% весов нейросети, Astra добилась 100% успешных прохождений.
В другом эксперименте Astra самостоятельно создала веса нейросети для игры Breakout. Без обучения и использования инструментов она набрала в 20 раз больше очков, чем модель PPO, обучавшаяся на протяжении 500 миллионов шагов.
Но самым интересным оказался эксперимент с Qwen3.5-0.8B. Astra обнаружила, что модель зацикливается во время рассуждений, и устранила проблему, изменив всего 0,016% её весов. В результате качество решения математических задач выросло до 6 раз, а следование инструкциям улучшилось в 3 раза.
При этом Astra не использовала градиенты и не проводила дополнительного обучения.
Исследователи назвали этот подход Weight-Space Programming. По их мнению, в будущем языковые модели смогут самостоятельно анализировать, изменять и оптимизировать веса других нейросетей.
https://rikiyat.github.io/blog/weight-space-programming/
В одном из экспериментов модель исправила поведение ИИ, управляющего автомобилем, который постоянно застревал на подъёме. Изменив всего 3,5% весов нейросети, Astra добилась 100% успешных прохождений.
В другом эксперименте Astra самостоятельно создала веса нейросети для игры Breakout. Без обучения и использования инструментов она набрала в 20 раз больше очков, чем модель PPO, обучавшаяся на протяжении 500 миллионов шагов.
Но самым интересным оказался эксперимент с Qwen3.5-0.8B. Astra обнаружила, что модель зацикливается во время рассуждений, и устранила проблему, изменив всего 0,016% её весов. В результате качество решения математических задач выросло до 6 раз, а следование инструкциям улучшилось в 3 раза.
При этом Astra не использовала градиенты и не проводила дополнительного обучения.
Исследователи назвали этот подход Weight-Space Programming. По их мнению, в будущем языковые модели смогут самостоятельно анализировать, изменять и оптимизировать веса других нейросетей.
https://rikiyat.github.io/blog/weight-space-programming/
Хотите бесплатно и без ограничений пользоваться Fable 5.5 на протяжении нескольких месяцев? Достаточно попасть в Anthropic Residency.
Это оплачиваемая программа продолжительностью от шести недель до шести месяцев, предназначенная для профессоров, технических основателей стартапов и инженеров уровня Staff, желающих заняться исследованиями безопасности ИИ.
При этом опыт работы с машинным обучением и учёная степень PhD не требуются.
Участники программы получают доступ к передовым моделям, отдельный бюджет вычислительных ресурсов и наставника из Anthropic.
Кроме того, им выплачивают вознаграждение, соответствующее годовой зарплате от 350 до 500 тысяч долларов.
https://alignment.anthropic.com/2026/anthropic-residency/
Это оплачиваемая программа продолжительностью от шести недель до шести месяцев, предназначенная для профессоров, технических основателей стартапов и инженеров уровня Staff, желающих заняться исследованиями безопасности ИИ.
При этом опыт работы с машинным обучением и учёная степень PhD не требуются.
Участники программы получают доступ к передовым моделям, отдельный бюджет вычислительных ресурсов и наставника из Anthropic.
Кроме того, им выплачивают вознаграждение, соответствующее годовой зарплате от 350 до 500 тысяч долларов.
https://alignment.anthropic.com/2026/anthropic-residency/
Наконец-то появилась новая мощная модель с открытыми весами для научных исследований.
Как я уже говорил, ничто не сравнится со специализированными моделями. И мне кажется, что именно в науке их значение будет особенно велико.
Hydrogen-1.0 стала первой моделью с открытыми весами для научных исследований от компании Deep Principle.
Разработчики взяли GLM-5.3 и провели дополнительное обучение на собственных научных данных, лабораторных записях и последовательностях исследовательских шагов, приводивших к открытиям.
По заявленным результатам, Hydrogen-1.0 набрала 38,3% в бенчмарке FrontierScience-Research, превзойдя GPT-6 Astra с результатом 33,3%.
Таких моделей нам нужно гораздо больше.
https://blog.deepprinciple.com/introducing-hydrogen-1.0/
https://huggingface.co/deep-principle/Hydrogen-1.0
Как я уже говорил, ничто не сравнится со специализированными моделями. И мне кажется, что именно в науке их значение будет особенно велико.
Hydrogen-1.0 стала первой моделью с открытыми весами для научных исследований от компании Deep Principle.
Разработчики взяли GLM-5.3 и провели дополнительное обучение на собственных научных данных, лабораторных записях и последовательностях исследовательских шагов, приводивших к открытиям.
По заявленным результатам, Hydrogen-1.0 набрала 38,3% в бенчмарке FrontierScience-Research, превзойдя GPT-6 Astra с результатом 33,3%.
Таких моделей нам нужно гораздо больше.
https://blog.deepprinciple.com/introducing-hydrogen-1.0/
https://huggingface.co/deep-principle/Hydrogen-1.0
Интересное исследование управляемости цепочек рассуждений (CoT).
Авторы выяснили, что эффективность мониторинга цепочек рассуждений отчасти зависит от неспособности моделей полностью контролировать содержание собственных рассуждений.
Значительную часть этого ограничения удалось связать с первыми несколькими токенами после открывающего тега thinking. В этот момент энтропия резко падает, и модель начинает рассуждения с одного из нескольких типичных вариантов.
Небольшие изменения на этом этапе позволяют значительно повысить управляемость. Даже предварительная подстановка одного токена существенно улучшила результаты. А запрет часто встречающихся начальных токенов в сочетании с добавлением примеров в контекст повысил средний уровень соблюдения инструкций на 34–41 процентный пункт среди различных моделей.
При этом такие методы преимущественно восстанавливают контроль над добавлением информации и изменением стиля её изложения. Управлять исключением информации из рассуждений оказалось сложнее: результаты были менее стабильными.
По всей видимости, речь идёт о двух разных способностях. У разных моделей показатели внутри каждой группы коррелируют между собой, тогда как между группами наблюдается преимущественно отрицательная корреляция.
https://arxiv.org/abs/2610.40939
Авторы выяснили, что эффективность мониторинга цепочек рассуждений отчасти зависит от неспособности моделей полностью контролировать содержание собственных рассуждений.
Значительную часть этого ограничения удалось связать с первыми несколькими токенами после открывающего тега thinking. В этот момент энтропия резко падает, и модель начинает рассуждения с одного из нескольких типичных вариантов.
Небольшие изменения на этом этапе позволяют значительно повысить управляемость. Даже предварительная подстановка одного токена существенно улучшила результаты. А запрет часто встречающихся начальных токенов в сочетании с добавлением примеров в контекст повысил средний уровень соблюдения инструкций на 34–41 процентный пункт среди различных моделей.
При этом такие методы преимущественно восстанавливают контроль над добавлением информации и изменением стиля её изложения. Управлять исключением информации из рассуждений оказалось сложнее: результаты были менее стабильными.
По всей видимости, речь идёт о двух разных способностях. У разных моделей показатели внутри каждой группы коррелируют между собой, тогда как между группами наблюдается преимущественно отрицательная корреляция.
https://arxiv.org/abs/2610.40939