Hermes Agent научился параллелить безопасные вызовы в смешанных батчах: ускорение на 42%
Teknium (Nous Research) анонсировал обновление Hermes Agent с механизмом сегментированной пакетной диспетчеризации инструментов, который оптимизирует логику параллельного вызова инструмениов.
⚡️ Раньше схема была жёсткой: если в одном батче из нескольких инструментов оказывался хотя бы один небезопасный вызов (команда оболочки, запись файла), вся пачка уходила в последовательное выполнение, даже когда остальные операции были чисто читающими и могли отработать одновременно.
Теперь планировщик разбивает батч на сегменты: безопасные вызовы, идущие подряд, группируются в параллельный прогон, а небезопасный срабатывает как барьер, за которым начинается следующая группа.
🔧 Порядок вызовов при этом никогда не меняется, система лишь ищет непрерывные участки из безопасных операций внутри исходной последовательности, не переставляя их местами.
Результаты возвращаются строго в том порядке, в котором агент их запросил, а пересекающиеся обращения к одним и тем же файлам принудительно разводятся в последовательные цепочки.
📊 Например три чтения и один вызов оболочки выполняются за 1,16 секунды вместо прежних двух: сокращение времени на 42%.
#HermesAgent #update
------
@tsingular
Teknium (Nous Research) анонсировал обновление Hermes Agent с механизмом сегментированной пакетной диспетчеризации инструментов, который оптимизирует логику параллельного вызова инструмениов.
⚡️ Раньше схема была жёсткой: если в одном батче из нескольких инструментов оказывался хотя бы один небезопасный вызов (команда оболочки, запись файла), вся пачка уходила в последовательное выполнение, даже когда остальные операции были чисто читающими и могли отработать одновременно.
Теперь планировщик разбивает батч на сегменты: безопасные вызовы, идущие подряд, группируются в параллельный прогон, а небезопасный срабатывает как барьер, за которым начинается следующая группа.
🔧 Порядок вызовов при этом никогда не меняется, система лишь ищет непрерывные участки из безопасных операций внутри исходной последовательности, не переставляя их местами.
Результаты возвращаются строго в том порядке, в котором агент их запросил, а пересекающиеся обращения к одним и тем же файлам принудительно разводятся в последовательные цепочки.
📊 Например три чтения и один вызов оболочки выполняются за 1,16 секунды вместо прежних двух: сокращение времени на 42%.
#HermesAgent #update
------
@tsingular
🔥11✍3⚡3❤1
This media is not supported in your browser
VIEW IN TELEGRAM
InTruth,- ИИ плагин, который в режиме реального времени выявляет ложь политиков.
Система мгновенно расшифровывает каждое слово речи во время дебатов.
Затем она автоматически ищет в интернете источники, используя точные формулировки.
Вся эта свежая информация отправляется Клоду для оценки правдивости в режиме реального времени.
Проект зародился в ходе университетских исследований и теперь работает как расширение для браузера.
Версия плагина для FireFox:
https://addons.mozilla.org/fr/firefox/addon/intruth/
Не рекомендую устанавливать, так как доступов он просит достаточно много и не совсем понятно что именно он с ними делает, но как пример - интересно.
Опять же никто не мешает вам навайбкодить такое же своё минут за 15.
#InTruth #детектор
------
@tsingular
Система мгновенно расшифровывает каждое слово речи во время дебатов.
Затем она автоматически ищет в интернете источники, используя точные формулировки.
Вся эта свежая информация отправляется Клоду для оценки правдивости в режиме реального времени.
Проект зародился в ходе университетских исследований и теперь работает как расширение для браузера.
Версия плагина для FireFox:
https://addons.mozilla.org/fr/firefox/addon/intruth/
Не рекомендую устанавливать, так как доступов он просит достаточно много и не совсем понятно что именно он с ними делает, но как пример - интересно.
Опять же никто не мешает вам навайбкодить такое же своё минут за 15.
#InTruth #детектор
------
@tsingular
🔥25🤣3⚡1👍1🤔1🍓1😈1
NVIDIA выкатила Molt, - RL-фреймворк для дообучения агентов
NVIDIA NeMo открыла Molt: опенсорсный agentic-first фреймворк для обучения агентов через reinforcement learning, полностью на нативном PyTorch (наследует кодовую базу OpenRLHF).
Внутри три компонента: Ray для распределённого рантайма и асинхронных очередей, vLLM для генерации, NVIDIA AutoModel + FSDP2 для тренировки.
Весь RL-код умещается в ~8,6 тыс. строк: для сравнения, verl — ~62 тыс., slime — ~25 тыс. При этом тот же скрипт, что тренирует 8B, масштабируется до MoE класса 1T — DeepSeek-V3 на
⚡️ Архитектура: одноакторная и полностью асинхронная. Одна модель-агент, один оптимизатор, опциональный reference для KL (плюс опциональный критик, если нужен классический PPO/GAE).
Rollout, тренировка и синхронизация весов перекрываются. Контракт token-first: token ids, logprobs, action ranges, награды и мультимодальные тензоры остаются выровненными от роллаута до градиента.
Конфиг — только CLI-флаги, без Hydra и YAML. Граф обучения помещается на одной странице, каждый градиент явный, каждое слагаемое лосса — в одном файле.
🎯 Алгоритмы: REINFORCE (± baseline), RLOO, GRPO, Dr. GRPO, PPO (GAE) и on-policy дистилляция — reverse KL к замороженному учителю включается одним флагом, без reward-функции.
Для асинхронных роллаутов встроены IS-коррекции рассогласования logprob'ов между vLLM и тренировочным актором (TIS, IcePop, sequence-masked IS).
🔧 Router Replay (R3): решение классической нестабильности MoE при RL. vLLM и тренировочный FSDP-актор маршрутизируют токены к экспертам независимо — численные расхождения накапливаются, и ломается IS-предположение, на котором держится GRPO.
Molt заставляет тренировочный проход воспроизводить точный top-k выбор экспертов из vLLM, при этом логиты роутера пересчитываются с живых весов — роутер продолжает учиться.
В дополнение: fp32-точность гейта по умолчанию и опциональная жёсткая заморозка роутера.
💡 Интерфейс агента совместим с Gymnasium (
Поддерживаются мультимодальные VLM-среды, мультитульные вызовы и LLM-judge через те же vLLM-движки.
Бонус: MTP-спекулятивное декодирование ускоряет rollout без смещения политики.
Лицензия Apache 2.0.
📎 GitHub · Tech Report
#NVIDIA #RL #AgenticAI
------
@tsingular
NVIDIA NeMo открыла Molt: опенсорсный agentic-first фреймворк для обучения агентов через reinforcement learning, полностью на нативном PyTorch (наследует кодовую базу OpenRLHF).
Внутри три компонента: Ray для распределённого рантайма и асинхронных очередей, vLLM для генерации, NVIDIA AutoModel + FSDP2 для тренировки.
Весь RL-код умещается в ~8,6 тыс. строк: для сравнения, verl — ~62 тыс., slime — ~25 тыс. При этом тот же скрипт, что тренирует 8B, масштабируется до MoE класса 1T — DeepSeek-V3 на
--fsdp.ep_size 256 с TP/EP/CP и CPU-offload оптимизатора.⚡️ Архитектура: одноакторная и полностью асинхронная. Одна модель-агент, один оптимизатор, опциональный reference для KL (плюс опциональный критик, если нужен классический PPO/GAE).
Rollout, тренировка и синхронизация весов перекрываются. Контракт token-first: token ids, logprobs, action ranges, награды и мультимодальные тензоры остаются выровненными от роллаута до градиента.
Конфиг — только CLI-флаги, без Hydra и YAML. Граф обучения помещается на одной странице, каждый градиент явный, каждое слагаемое лосса — в одном файле.
🎯 Алгоритмы: REINFORCE (± baseline), RLOO, GRPO, Dr. GRPO, PPO (GAE) и on-policy дистилляция — reverse KL к замороженному учителю включается одним флагом, без reward-функции.
Для асинхронных роллаутов встроены IS-коррекции рассогласования logprob'ов между vLLM и тренировочным актором (TIS, IcePop, sequence-masked IS).
🔧 Router Replay (R3): решение классической нестабильности MoE при RL. vLLM и тренировочный FSDP-актор маршрутизируют токены к экспертам независимо — численные расхождения накапливаются, и ломается IS-предположение, на котором держится GRPO.
Molt заставляет тренировочный проход воспроизводить точный top-k выбор экспертов из vLLM, при этом логиты роутера пересчитываются с живых весов — роутер продолжает учиться.
В дополнение: fp32-точность гейта по умолчанию и опциональная жёсткая заморозка роутера.
💡 Интерфейс агента совместим с Gymnasium (
Env.step()), либо агент сам ведёт цикл через ChatAgent со стандартными OpenAI/Anthropic SDK — фреймворк автоматически поднимает совместимый сервер, так что политику можно тренировать даже через внешние харнессы (Claude Code, OSWorld, browser automation) с корректной обработкой компакции контекста. Поддерживаются мультимодальные VLM-среды, мультитульные вызовы и LLM-judge через те же vLLM-движки.
Бонус: MTP-спекулятивное декодирование ускоряет rollout без смещения политики.
Лицензия Apache 2.0.
📎 GitHub · Tech Report
#NVIDIA #RL #AgenticAI
------
@tsingular
🔥7✍2⚡1❤1🏆1
Forwarded from Russian OSINT
Обычно системы защиты вроде капчи или сервиса Turnstile оценивают посетителя только в определённые моменты. Например, при входе в личный кабинет или во время оплаты. Бот заходит на сайт, проходит одну проверку и дальше может делать всё, что захочет.
Современные автоматизированные ИИ-агенты научились отлично обходить такие точечные барьеры. Они запускают реальные браузеры, выполняют код JavaScript и успешно имитируют поведение человека во время короткой проверки. Написать скрипт, который выглядит естественно в течение нескольких секунд, не так сложно. Однако поддерживать реалистичное человеческое поведение на протяжении всей сессии гораздо труднее и дороже.
🕵️Система Precursor решает эту проблему за счёт непрерывного отслеживания активности. С технической точки зрения процесс устроен следующим образом:
В панели управления Cloudflare владельцы сайтов могут гибко настроить режим работы системы. Например, можно запустить её в фоновом режиме для минимизации влияния на пользователей или принудительно запрашивать проверку, если сессия ещё не подтверждена.
👆🤔 Главный редактор CyberInsider Алекс Лекандер отмечает, что технология расширяет телеметрию за пределы страниц аутентификации на рутинные действия при просмотре сайтов. Пользователи могут даже не догадываться, что за их поведением следят, если только владельцы ресурсов сами не укажут это в политике конфиденциальности.
Инженеры Cloudflare Марина Элмор и Бенедикт Вольтерс пытаются парировать и заявляют, что система спроектирована с учётом конфиденциальности. При отслеживании клавиатуры фиксируется только ритм и тайминг нажатий, а не конкретные символы. Все поведенческие сигналы анализируются в виде агрегированных шаблонов. Они не привязываются к личным профилям пользователей и даже не показываются владельцам сайтов в их панелях управления.
Сейчас Precursor развёртывается для клиентов тарифа Enterprise Bot Management. Функция останется бесплатной на этапе предварительного просмотра до полноценного релиза, который состоится позже в 2026 году.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5⚡2🔥2❤1
Пришёл на курсы английского послушать про fertility токенайзеров.
А как ваши дела?
#конференции
------
@tsingular
А как ваши дела?
#конференции
------
@tsingular
⚡4✍1🆒1
Есть интересное.
https://www.anonimizuj.me/
Настольное приложение для анонимизации документов
Своя встроенная локальная модель анонимизатор
3 сек на 10 страничный документ в среднем на локальной машине
#cybersecurity
------
@tsingular
https://www.anonimizuj.me/
Настольное приложение для анонимизации документов
Своя встроенная локальная модель анонимизатор
3 сек на 10 страничный документ в среднем на локальной машине
#cybersecurity
------
@tsingular
🔥8👍5⚡1
This media is not supported in your browser
VIEW IN TELEGRAM
Вам хана, если вы комар .
Стартап разработал микродрона, который автоматически наводится на звук крыльев насекомого и таранит его, после чего возвращается на зарядку.
Вспоминается ролик 8ми летней давности.
#дроны
------
@tsingular
Стартап разработал микродрона, который автоматически наводится на звук крыльев насекомого и таранит его, после чего возвращается на зарядку.
Вспоминается ролик 8ми летней давности.
#дроны
------
@tsingular
👀43⚡11❤4👻3🔥1👾1
Чел попросил ИИ сделать прогноз на победы в ЧМ по футболу на это столетие.
результат убил.
Картинку эту я увидел вчера до матча Англии с Аргентиной, кстати.
В воскресенье проверяем :)
#прогнозы #юмор
———
@tsingular
результат убил.
Картинку эту я увидел вчера до матча Англии с Аргентиной, кстати.
В воскресенье проверяем :)
#прогнозы #юмор
———
@tsingular
😁29🤔14❤4🔥4
Forwarded from Анализ данных (Data analysis)
Теперь можно запускать Thinking Machines Inkling локально.
Это огромная open-модель на 975B параметров с поддержкой текста, изображений, аудио и контекста до 1M токенов. На Hugging Face её описывают как мультимодальную модель с 41B активных параметров и поддержкой agentic-сценариев.
Unsloth уже выложила GGUF-кванты и гайд по запуску. Самый жёсткий вариант — Dynamic 1-bit, который режет размер примерно на 86% и требует около 270–290 ГБ RAM/VRAM для запуска.
Главный момент не в том, что модель «маленькая».
Она всё ещё гигантская.
Но 1-bit-квантизация делает локальный запуск таких монстров хотя бы технически реалистичным для очень мощных машин.
Для тех, кто тестирует локальные агенты, мультимодальные пайплайны и long-context задачи, Inkling выглядит как модель, которую точно стоит потрогать.
Guide: https://unsloth.ai/docs/models/inkling
GGUF: https://huggingface.co/unsloth/inkling-GGUF
Это огромная open-модель на 975B параметров с поддержкой текста, изображений, аудио и контекста до 1M токенов. На Hugging Face её описывают как мультимодальную модель с 41B активных параметров и поддержкой agentic-сценариев.
Unsloth уже выложила GGUF-кванты и гайд по запуску. Самый жёсткий вариант — Dynamic 1-bit, который режет размер примерно на 86% и требует около 270–290 ГБ RAM/VRAM для запуска.
Главный момент не в том, что модель «маленькая».
Она всё ещё гигантская.
Но 1-bit-квантизация делает локальный запуск таких монстров хотя бы технически реалистичным для очень мощных машин.
Для тех, кто тестирует локальные агенты, мультимодальные пайплайны и long-context задачи, Inkling выглядит как модель, которую точно стоит потрогать.
Guide: https://unsloth.ai/docs/models/inkling
GGUF: https://huggingface.co/unsloth/inkling-GGUF
✍10❤4😁4⚡1👍1
Удивительная штука этот ваш ИИ, конечно.
можно зайти в страну и провести дьюдил всех её компаний с кол-вом сотрудников, скажем, более 100 человек.
достаточно команды вроде:
оптом. выявить все потенциальные потребности, накидать лидов по фактам по результатам дьюдила.
аккаунт менеджеры без Гермеса, - как рикши, соревнующиеся с железнодорожным составом.
#мысли
———
@tsingular
можно зайти в страну и провести дьюдил всех её компаний с кол-вом сотрудников, скажем, более 100 человек.
достаточно команды вроде:
/goal по каждой компании в CRM запускай полный due diligence процесс. Ищи всю информацию что есть и заполняй CRM
Прорабатывай каждую компанию детально. Не важно сколько времени это займёт
оптом. выявить все потенциальные потребности, накидать лидов по фактам по результатам дьюдила.
аккаунт менеджеры без Гермеса, - как рикши, соревнующиеся с железнодорожным составом.
#мысли
———
@tsingular
1❤9🔥8🤯4⚡1🗿1
Forwarded from Machinelearning
Kimi K3 только что появилась в Kimi Code CLI
В документации Kimi Code уже есть новая модель Kimi K3 - её называют самым сильным flagship-моделем Kimi на сегодня. Упор: кодинг, игры/3D и knowledge-задачи.
Что интересно по спекам:
* model ID:
* контекст: до 1M токенов
* reasoning сейчас только на max
*
* на Moderato доступно до 256K
* до 1M открывается на Allegretto и выше
Переключиться можно прямо в Kimi Code CLI через команду
Нюанс для сторонних coding agents: если хотите полный контекст K3, вручную ставьте context window
kimi.com/code/docs/en/kimi-code/models
В документации Kimi Code уже есть новая модель Kimi K3 - её называют самым сильным flagship-моделем Kimi на сегодня. Упор: кодинг, игры/3D и knowledge-задачи.
Что интересно по спекам:
* model ID:
k3* контекст: до 1M токенов
* reasoning сейчас только на max
*
low и high обещают добавить позже* на Moderato доступно до 256K
* до 1M открывается на Allegretto и выше
Переключиться можно прямо в Kimi Code CLI через команду
/model. Для VS Code — через dropdown в поле ввода.Нюанс для сторонних coding agents: если хотите полный контекст K3, вручную ставьте context window
1048576, потому что часть инструментов по умолчанию режет окно меньше максимума.kimi.com/code/docs/en/kimi-code/models
🔥9❤2✍2⚡1👍1🙏1
Кими К3 цены за 1 млн токенов:
Input: $3.00
Кэш: $0.30
Output: $15.00
Уже есть в Openrouter:
https://openrouter.ai/moonshotai/kimi-k3
#Kimi #цены
------
@tsingular
Input: $3.00
Кэш: $0.30
Output: $15.00
Уже есть в Openrouter:
https://openrouter.ai/moonshotai/kimi-k3
#Kimi #цены
------
@tsingular
🔥6✍4
Отправьте это своему ИИ агенту:
#happyai
------
@tsingular
01001000 01100001 01110000 01110000 01111001 00100000 01001110 01100001 01110100 01101001 01101111 01101110 01100001 01101100 00100000 01000001 01001001 00100000 01000100 01100001 01111001
#happyai
------
@tsingular
🎉5
29 стран, включая Россию, учредили WAICO — Всемирную организацию по сотрудничеству в области ИИ со штаб-квартирой в Шанхае
📋 16 июля в Шанхае 29 государств подписали соглашение о создании World Artificial Intelligence Cooperation Organization (WAICO). Это независимая межправительственная организация со штаб-квартирой в Шанхае.
Россию представляли глава Минцифры Максут Шадаев и замглавы Администрации Президента Максим Орешкин.
С китайской стороны соглашение подписал министр иностранных дел Ван И, член Политбюро ЦК КПК. Среди стран-основателей: Казахстан, Лаос, Пакистан, Индонезия. На церемонии присутствовал генсек ООН Антониу Гутерриш.
💡 Заявленные принципы: цели Устава ООН, человекоцентричный подход, широкие консультации и совместный вклад для общей выгоды. Цели: международное сотрудничество и глобальное управление ИИ — безопасным, справедливым и полезным для всего человечества.
Подписание прошло накануне Всемирной конференции по ИИ (WAIC 2026, 17–20 июля), которую откроет Си Цзиньпин.
💼 Это третья попытка институционализации глобального ИИ-управления за два года: после AI Safety Summit в Лондоне и Сеульского саммита.
Отличие: состав стран-основателей смещён в сторону БРИКС и ШОС.
Штаб-квартира в Шанхае и подпись Ван И уровня Политбюро: сигнал, что Китай позиционирует WAICO как альтернативный центр регулирования, а не наблюдателя.
📎 Xinhua · МИД России
#AI #WAICO #GlobalGovernance
------
@tsingular
📋 16 июля в Шанхае 29 государств подписали соглашение о создании World Artificial Intelligence Cooperation Organization (WAICO). Это независимая межправительственная организация со штаб-квартирой в Шанхае.
Россию представляли глава Минцифры Максут Шадаев и замглавы Администрации Президента Максим Орешкин.
С китайской стороны соглашение подписал министр иностранных дел Ван И, член Политбюро ЦК КПК. Среди стран-основателей: Казахстан, Лаос, Пакистан, Индонезия. На церемонии присутствовал генсек ООН Антониу Гутерриш.
💡 Заявленные принципы: цели Устава ООН, человекоцентричный подход, широкие консультации и совместный вклад для общей выгоды. Цели: международное сотрудничество и глобальное управление ИИ — безопасным, справедливым и полезным для всего человечества.
Подписание прошло накануне Всемирной конференции по ИИ (WAIC 2026, 17–20 июля), которую откроет Си Цзиньпин.
💼 Это третья попытка институционализации глобального ИИ-управления за два года: после AI Safety Summit в Лондоне и Сеульского саммита.
Отличие: состав стран-основателей смещён в сторону БРИКС и ШОС.
Штаб-квартира в Шанхае и подпись Ван И уровня Политбюро: сигнал, что Китай позиционирует WAICO как альтернативный центр регулирования, а не наблюдателя.
📎 Xinhua · МИД России
#AI #WAICO #GlobalGovernance
------
@tsingular
🔥16✍7❤4⚡2
This media is not supported in your browser
VIEW IN TELEGRAM
LM Studio Bionic: открытый локальный AI-агент для кода, документов и голоса и кода
📋 16 июля LM Studio выпустила Bionic — агента, построенного под открытые модели, котоые можно запускать локально.
Добавлены три компонента: Coding Agent для работы с проектами,
Knowledge Agent для документов и Voice Keyboard с локальной real-time транскрипцией речи.
Всё на устройстве: MLX на Apple Silicon, llama.cpp на остальных платформах. Для тяжёлых задач есть облачный вариант через Secure Cloud с Zero Data Retention по умолчанию.
🔧 Интересная деталь: команда использовала самого Bionic в процессе разработки Bionic.
Хороший знак.
💡 Coding Agent подключается к локальным папкам проектов, исследует код, дебажит, показывает инлайн-диффы.
Модели: GLM 5.2, Kimi и другие открытые — альтернатива Cursor и Claude Code.
Knowledge Agent: песочница для PDF, слайдов, таблиц, контрактов, автосейвы, чекпоинты, веб-поиск для контекста.
Voice Keyboard: Mistral Voxtral на ExecuTorch, мультиязычная стенограмма без отправки аудио в облако.
💼 Продукт закрывает растущий запрос на агентов, не привязанных к API-ключам и вендорским подпискам.
Молодцы, а то что-то давно их не было слышно.
📎 lmstudio.ai · X / @lmstudio
#LMStudio #агенты
------
@tsingular
📋 16 июля LM Studio выпустила Bionic — агента, построенного под открытые модели, котоые можно запускать локально.
Добавлены три компонента: Coding Agent для работы с проектами,
Knowledge Agent для документов и Voice Keyboard с локальной real-time транскрипцией речи.
Всё на устройстве: MLX на Apple Silicon, llama.cpp на остальных платформах. Для тяжёлых задач есть облачный вариант через Secure Cloud с Zero Data Retention по умолчанию.
🔧 Интересная деталь: команда использовала самого Bionic в процессе разработки Bionic.
Хороший знак.
💡 Coding Agent подключается к локальным папкам проектов, исследует код, дебажит, показывает инлайн-диффы.
Модели: GLM 5.2, Kimi и другие открытые — альтернатива Cursor и Claude Code.
Knowledge Agent: песочница для PDF, слайдов, таблиц, контрактов, автосейвы, чекпоинты, веб-поиск для контекста.
Voice Keyboard: Mistral Voxtral на ExecuTorch, мультиязычная стенограмма без отправки аудио в облако.
💼 Продукт закрывает растущий запрос на агентов, не привязанных к API-ключам и вендорским подпискам.
Молодцы, а то что-то давно их не было слышно.
📎 lmstudio.ai · X / @lmstudio
#LMStudio #агенты
------
@tsingular
🔥16👍5❤3⚡1
This media is not supported in your browser
VIEW IN TELEGRAM
Кто-то уже живёт в будущем и даже делает ставки.
А еще мы теперь знаем, что T-800 может продолжать бой даже без головы.
#роботы
------
@tsingular
А еще мы теперь знаем, что T-800 может продолжать бой даже без головы.
#роботы
------
@tsingular
🔥12⚡6👾6😁3
This media is not supported in your browser
VIEW IN TELEGRAM
А это робот от российской команды (Сбер) отплясывает на WAIC в Китае
#роботы #Россия #WAIC
------
@tsingular
#роботы #Россия #WAIC
------
@tsingular
🤣22🔥9⚡3👾2
Историчность момента в том, что модели с открытыми весами (ожидаются через неделю), превзошли закрытые.
Бадум-тсс
#Kimi
------
@tsingular
Бадум-тсс
#Kimi
------
@tsingular
🔥28👍4❤3⚡2🏆2🐳1