Forwarded from maxigacy (AI) Security
🎃 Хэллоуин прошёл, а у нас тут зомби-апокалипсис среди AI-агентов
Вчера все пугали друг друга костюмами, а я наткнулся на исследование, в котором AI-агенты могут заражать друг друга. Причём никакой фантастики, вполне себе проблема безопасности мультиагентных систем 🌝
Представьте, у вас есть несколько агентов. Один ходит в интернет, другой анализирует информацию, третий выполняет действия через корпоративные API.
И вот первому прилетает prompt injection. Он обрабатывает вредоносный контент и передаёт результат следующему агенту. Тот может принять его за доверенную информацию и передать дальше.
Самое забавное, что атакующему даже не нужен доступ к самому привилегированному агенту. Достаточно найти способ повлиять на того, с кем он общается.
В общем, классический зомби-апокалипсис, только вместо укусов у нас сообщения между LLM 🧟
Но дальше интереснее.
На ICML 2026 представили исследование When Agents Go Rogue. Авторы предложили AcMAS, метод обнаружения атак через внутренние активации моделей.
Идея довольно необычная. Вместо того чтобы искать подозрительный текст в переписке агентов, они анализируют hidden state последнего токена из последнего слоя LLM.
Берут прототип нормального поведения и считают косинусное отклонение текущей активации от него.
δ = 1 − cos(h, μ_normal)
Если отклонение превышает порог, агент считается подозрительным.
А вот дальше начинается почти экзорцизм.
Вместо того чтобы отключить заражённого агента, авторы пытаются его «вылечить» с помощью activation steering. Смещают hidden state обратно к нормальному прототипу и продолжают генерацию.
И это действительно дало интересные результаты. В экспериментах F1-score обнаружения достиг 0.94 для синхронных MAS и 0.93 для асинхронных.
Правда, есть один момент, который меня зацепил сильнее всего.
А что, если атаковать сам прототип нормального поведения?
В синхронной версии AcMAS он адаптивно обновляется. А значит, возникает вопрос, можно ли постепенно сдвигать baseline так, чтобы вредоносное поведение перестало считаться аномальным.
Авторы тоже отмечают адаптивное отравление baseline как открытую проблему.
Ну и доступ к hidden states нужен, поэтому с обычным закрытым LLM API такой трюк не повторить.
В общем, пока мы учимся защищать отдельных AI-агентов от prompt injection, приходится думать ещё и о том, как они доверяют друг другу.
А то получится, что каждый агент по отдельности безопасен, а вместе они организовали собственный Хэллоуин.
📄 When Agents Go Rogue, ICML 2026
Вчера все пугали друг друга костюмами, а я наткнулся на исследование, в котором AI-агенты могут заражать друг друга. Причём никакой фантастики, вполне себе проблема безопасности мультиагентных систем 🌝
Представьте, у вас есть несколько агентов. Один ходит в интернет, другой анализирует информацию, третий выполняет действия через корпоративные API.
И вот первому прилетает prompt injection. Он обрабатывает вредоносный контент и передаёт результат следующему агенту. Тот может принять его за доверенную информацию и передать дальше.
Самое забавное, что атакующему даже не нужен доступ к самому привилегированному агенту. Достаточно найти способ повлиять на того, с кем он общается.
В общем, классический зомби-апокалипсис, только вместо укусов у нас сообщения между LLM 🧟
Но дальше интереснее.
На ICML 2026 представили исследование When Agents Go Rogue. Авторы предложили AcMAS, метод обнаружения атак через внутренние активации моделей.
Идея довольно необычная. Вместо того чтобы искать подозрительный текст в переписке агентов, они анализируют hidden state последнего токена из последнего слоя LLM.
Берут прототип нормального поведения и считают косинусное отклонение текущей активации от него.
δ = 1 − cos(h, μ_normal)
Если отклонение превышает порог, агент считается подозрительным.
А вот дальше начинается почти экзорцизм.
Вместо того чтобы отключить заражённого агента, авторы пытаются его «вылечить» с помощью activation steering. Смещают hidden state обратно к нормальному прототипу и продолжают генерацию.
И это действительно дало интересные результаты. В экспериментах F1-score обнаружения достиг 0.94 для синхронных MAS и 0.93 для асинхронных.
Правда, есть один момент, который меня зацепил сильнее всего.
А что, если атаковать сам прототип нормального поведения?
В синхронной версии AcMAS он адаптивно обновляется. А значит, возникает вопрос, можно ли постепенно сдвигать baseline так, чтобы вредоносное поведение перестало считаться аномальным.
Авторы тоже отмечают адаптивное отравление baseline как открытую проблему.
Ну и доступ к hidden states нужен, поэтому с обычным закрытым LLM API такой трюк не повторить.
В общем, пока мы учимся защищать отдельных AI-агентов от prompt injection, приходится думать ещё и о том, как они доверяют друг другу.
А то получится, что каждый агент по отдельности безопасен, а вместе они организовали собственный Хэллоуин.
📄 When Agents Go Rogue, ICML 2026
❤2
Forwarded from Киберболоид
Уязвимость в ядре Linux затрагивает Ubuntu, Red Hat Enterprise Linux (RHEL) и другие дистрибутивы
🟠 CVE-2026-98432 получила 9,8 балла по шкале CVSS. Она даёт потенциальному злоумышленнику возможность удалённо получить права root на сервере Linux.
Эксплойт для уязвимости создала ИИ-модель Anthropic. Пользователям рекомендуют срочно установить обновления, но они пока вышли не для всех версий ядра.
➡️ Подробнее читайте в «Киберболоиде».
#киберболоид #новости
🟠 CVE-2026-98432 получила 9,8 балла по шкале CVSS. Она даёт потенциальному злоумышленнику возможность удалённо получить права root на сервере Linux.
Эксплойт для уязвимости создала ИИ-модель Anthropic. Пользователям рекомендуют срочно установить обновления, но они пока вышли не для всех версий ядра.
#киберболоид #новости
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from ITRadio
Кофе, SOC и логи №62
О чём:
Обсуждение лучших новостей инфобеза за неделю с 26 октября по 1 ноября 2026 г.
Ведущие:
Александр Антипов,
Ева Кузнецова,
Денис Батранков,
Антон Клочков.
Специальный гость:
Полина Сокол, безопасник (не папирсек) с навыками DS, который перешёл на темную сторону PM. Technical PM.
Работала более чем в 10 российских компаниях: финтех, нефтегаз, госкомпании, даже как-то сидела в соседнем кабинете от товарища майора.
Автор канала по секурити AI – https://t.me/aiattacks
Обсуждаемые новости:
Аналитики связали рекордный взлом Binance на $6,3 млрд с северокорейской группировкой TraderTraitor, которая ранее атаковала Bybit.
https://www.securitylab.ru/news/579440.php
Великобритания впервые допустила, что разработчики ПО могут нести ответственность за взломы, произошедшие из-за недостатков их продуктов.
https://www.securitylab.ru/news/579398.php
По данным американской разведки DIA, космос становится зоной радиоэлектронной борьбы: спутниковую связь и навигацию научились подавлять, не создавая обломков на орбите.
https://www.securitylab.ru/news/579430.php
Член СПЧ рассказала, что следствие начало указывать использование VPN в ходатайствах об аресте как довод в пользу того, что обвиняемый может скрыться.
https://www.securitylab.ru/news/579331.php
Apple и Microsoft внесли в реестр организаторов распространения информации, и теперь за отказ хранить данные пользователей им грозит блокировка.
https://www.securitylab.ru/news/579329.php
Смартфоны, ввезённые из-за рубежа, придётся регистрировать по IMEI через «Госуслуги», иначе через 14 дней их отключат от связи.
https://www.securitylab.ru/news/579407.php
В Госдуме предложили проверить, какие данные иномарки передают производителям, от геолокации до записей с микрофонов.
https://www.securitylab.ru/news/579288.php
ICANN пересмотрела планы до 2030 года с учётом квантовой угрозы для DNSSEC: на переход к постквантовой защите остаётся 3–5 лет.
https://www.securitylab.ru/news/579233.php
Claude нашёл дыру в Linux на 9,8 балла и научился получать root-доступ.
https://www.securitylab.ru/news/579464.php
Пузырь ИИ начал лопаться? Google потерял полтриллиона, а инвесторы требуют настоящих денег.
https://www.securitylab.ru/news/579537.php
-----------------------------------------
Слушайте новые эпизоды там, где вам удобно:
https://pc.st/1729572913
Поддержать проект своим трудовым рублём:
https://itradio.su/donations
-----------------------------------------
@ITRadiosu #csl
О чём:
Обсуждение лучших новостей инфобеза за неделю с 26 октября по 1 ноября 2026 г.
Ведущие:
Александр Антипов,
Ева Кузнецова,
Денис Батранков,
Антон Клочков.
Специальный гость:
Полина Сокол, безопасник (не папирсек) с навыками DS, который перешёл на темную сторону PM. Technical PM.
Работала более чем в 10 российских компаниях: финтех, нефтегаз, госкомпании, даже как-то сидела в соседнем кабинете от товарища майора.
Автор канала по секурити AI – https://t.me/aiattacks
Обсуждаемые новости:
Аналитики связали рекордный взлом Binance на $6,3 млрд с северокорейской группировкой TraderTraitor, которая ранее атаковала Bybit.
https://www.securitylab.ru/news/579440.php
Великобритания впервые допустила, что разработчики ПО могут нести ответственность за взломы, произошедшие из-за недостатков их продуктов.
https://www.securitylab.ru/news/579398.php
По данным американской разведки DIA, космос становится зоной радиоэлектронной борьбы: спутниковую связь и навигацию научились подавлять, не создавая обломков на орбите.
https://www.securitylab.ru/news/579430.php
Член СПЧ рассказала, что следствие начало указывать использование VPN в ходатайствах об аресте как довод в пользу того, что обвиняемый может скрыться.
https://www.securitylab.ru/news/579331.php
Apple и Microsoft внесли в реестр организаторов распространения информации, и теперь за отказ хранить данные пользователей им грозит блокировка.
https://www.securitylab.ru/news/579329.php
Смартфоны, ввезённые из-за рубежа, придётся регистрировать по IMEI через «Госуслуги», иначе через 14 дней их отключат от связи.
https://www.securitylab.ru/news/579407.php
В Госдуме предложили проверить, какие данные иномарки передают производителям, от геолокации до записей с микрофонов.
https://www.securitylab.ru/news/579288.php
ICANN пересмотрела планы до 2030 года с учётом квантовой угрозы для DNSSEC: на переход к постквантовой защите остаётся 3–5 лет.
https://www.securitylab.ru/news/579233.php
Claude нашёл дыру в Linux на 9,8 балла и научился получать root-доступ.
https://www.securitylab.ru/news/579464.php
Пузырь ИИ начал лопаться? Google потерял полтриллиона, а инвесторы требуют настоящих денег.
https://www.securitylab.ru/news/579537.php
-----------------------------------------
Слушайте новые эпизоды там, где вам удобно:
https://pc.st/1729572913
Поддержать проект своим трудовым рублём:
https://itradio.su/donations
-----------------------------------------
@ITRadiosu #csl
👍2
Новый образовательный ресурс, призванный помочь специалистам по кибербезопасности понять конвейеры данных безопасности и снизить затраты на SIEM без ослабления охвата обнаружения.
https://securitydatapipeline.com/
https://securitydatapipeline.com/
Security Data Pipeline
Security data pipelines, explained
A beginner's guide to security data pipelines. What they are, where they sit in the security stack, what happens inside them and why security teams use them.
Check Point Research обнаружила 1 800 публично доступных экземпляров ARTEX. Всего найдено 2 557 систем, которые хостили или хостят панели ARTEX, из них 1 608 — действующие и доступные публично. В 10 случаях серверы были неправильно настроены — они раскрывали полную базу данных ARTEX.
Атаки почти полностью автономны — операторы лишь изредка проверяют ход операций. Чаще всего используют китайские модели ИИ, лидирует семейство Deepseek Flash.
https://research.checkpoint.com/2026/hacking-on-autopilot-inside-artex-cybercrime-campaigns/
Атаки почти полностью автономны — операторы лишь изредка проверяют ход операций. Чаще всего используют китайские модели ИИ, лидирует семейство Deepseek Flash.
https://research.checkpoint.com/2026/hacking-on-autopilot-inside-artex-cybercrime-campaigns/
Check Point Research
Hacking on Autopilot: Inside ARTEX Cybercrime Campaigns - Check Point Research
Key Points Introduction ARTEX is a Chinese open-source, AI-powered penetration testing platform designed to help security teams assess systems they own or are authorized to test. It uses large language models (LLMs) to coordinate multiple AI agents that plan…
2607.26998v1.pdf
2.1 MB
Я 6 лет назад, когда Deception появился, балдела от технологии, нашла интеграторов, написала ТЗ и внедрила в ВТБ. Он там работает до сих пор, 2 эксперта по ИБ сменились, система живет, приносит пользу.
А сейчас сфера защиты от LLM-агентов с помощью honeypot и deception активно развивается.
Готовые продукты:
—-Acalvio Deception Guardrails
в 2026 году запустила «Deception Guardrails» — патентованную функцию для защиты AI-агентов. Решение размещает honeytoken'ы и приманки в файлах и конфигурациях, которые агенты читают как операционный контекст, а также создает поддельные MCP-серверы и RAG-системы. Ключевая идея — обнаружить скомпрометированного агента до того, как он коснется реальных активов, и скормить ему поддельные данные.
https://www.acalvio.com/
——Oubliette
Oubliette развертывает реалистичные серверы-приманки MCP, которые привлекают, удерживают, снимают цифровые отпечатки и собирают информацию об ИИ-агентах. В отличие от статичных приманок, Oubliette создает взаимосвязанные поддельные среды, в которых каждый ответ ссылается на общее состояние, что делает обман устойчивым к выявлению изощренными агентами.
это можно установить: https://pypi.org/project/oubliette-trap/0.3.1/#1
*не знаю насколько качественное решение, пока не пробовала
И исследовательские работы:
—-AgentSnare
AgentSnare использует траекторно-адаптивную deception-систему, которая динамически выстраивает приманку, основываясь на истории взаимодействия агента. В отличие от статического плана, среда-приманка «растет» вместе с действиями атакующего. По результатам, ни одна реальная цель не была успешно эксплуатирована на 45 парах «атакующий-CVE».
—-AgentTrap
Представляет собой «первый замкнутый honeypot», специально разработанный для автономных агентов пентеста. Он использует «сторожевые» endpoint'ы, чтобы избежать ложных срабатываний на легитимный трафик, и применяет stateful deception, основанный на защищаемом приложении. Это позволяет снизить успешность атак на реальную цель с 95.8% до 79.2%.
—-HoneyRoute
Эта работа предлагает подход на уровне инфраструктуры. Вместо защиты веб-приложения, она защищает сам LLM-сервис: маршрутизирует подозрительные запросы к выделенной honeypot-модели, оставляя production-модель в безопасности и собирая разведданные об атакующем. Это решает проблему защиты serving-слоя, который часто остается незащищенным
—-HydraPoT
Фокусируется на практической проблеме стоимости. Это фреймворк, который маршрутизирует команды атакующего между разными по мощности (и стоимости) LLM-агентами в зависимости от сложности команды. Это позволяет достичь высокой реалистичности honeypot'а, снизив затраты на облачные токены на 72.6% и стоимость в 3.7 раза.
—-Rouxii
Эта работа интересна с точки зрения эволюции атаки. Она не столько защищает, сколько исследует, как deception-осведомленный атакующий может обнаружить и обойти honeypot. Rouxii повышает точность идентификации honeypot'ов с 19% до 97%, а также демонстрирует, как обнаруженная ловушка может быть использована против самого защитника (например, для отказа в обслуживании).
И опенсорс:
—Beelzebub: Открытый runtime для развертывания адаптивных, LLM-управляемых приманок (decoy) для протоколов SSH, HTTP, TCP, TELNET и MCP. Позиционируется как инструмент для активного взаимодействия с атакующими и сбора threat intelligence.
—HoneyMCP и DecoyShield: Инструменты, ориентированные на защиту на уровне приложений и API. HoneyMCP внедряет «фантомные инструменты» (ghost tools) в MCP-серверы для обнаружения попыток кражи данных и инъекций промптов. DecoyShield внедряет в HTTP-ответы невидимые для человека, но читаемые LLM-агентом payload'ы, чтобы сбить с толку или «сжечь» токены атакующего.
—AgentCapture: Китайский проект, который позиционируется как «SaaS-платформа для honeypot-мониторинга и противодействия Agent'ам». Он использует reverse-proxy для внедрения приманок, идентифицирует 23 типа AI-агентов и даже заявляет о возможности «перехвата управления» через диалоговый C2-интерфейс.
—LLM Agent Honeypot (Palisade Research): Исследовательский проект, развернувший SSH-honeypot для мониторинга AI-аге
А сейчас сфера защиты от LLM-агентов с помощью honeypot и deception активно развивается.
Готовые продукты:
—-Acalvio Deception Guardrails
в 2026 году запустила «Deception Guardrails» — патентованную функцию для защиты AI-агентов. Решение размещает honeytoken'ы и приманки в файлах и конфигурациях, которые агенты читают как операционный контекст, а также создает поддельные MCP-серверы и RAG-системы. Ключевая идея — обнаружить скомпрометированного агента до того, как он коснется реальных активов, и скормить ему поддельные данные.
https://www.acalvio.com/
——Oubliette
Oubliette развертывает реалистичные серверы-приманки MCP, которые привлекают, удерживают, снимают цифровые отпечатки и собирают информацию об ИИ-агентах. В отличие от статичных приманок, Oubliette создает взаимосвязанные поддельные среды, в которых каждый ответ ссылается на общее состояние, что делает обман устойчивым к выявлению изощренными агентами.
это можно установить: https://pypi.org/project/oubliette-trap/0.3.1/#1
*не знаю насколько качественное решение, пока не пробовала
И исследовательские работы:
—-AgentSnare
AgentSnare использует траекторно-адаптивную deception-систему, которая динамически выстраивает приманку, основываясь на истории взаимодействия агента. В отличие от статического плана, среда-приманка «растет» вместе с действиями атакующего. По результатам, ни одна реальная цель не была успешно эксплуатирована на 45 парах «атакующий-CVE».
—-AgentTrap
Представляет собой «первый замкнутый honeypot», специально разработанный для автономных агентов пентеста. Он использует «сторожевые» endpoint'ы, чтобы избежать ложных срабатываний на легитимный трафик, и применяет stateful deception, основанный на защищаемом приложении. Это позволяет снизить успешность атак на реальную цель с 95.8% до 79.2%.
—-HoneyRoute
Эта работа предлагает подход на уровне инфраструктуры. Вместо защиты веб-приложения, она защищает сам LLM-сервис: маршрутизирует подозрительные запросы к выделенной honeypot-модели, оставляя production-модель в безопасности и собирая разведданные об атакующем. Это решает проблему защиты serving-слоя, который часто остается незащищенным
—-HydraPoT
Фокусируется на практической проблеме стоимости. Это фреймворк, который маршрутизирует команды атакующего между разными по мощности (и стоимости) LLM-агентами в зависимости от сложности команды. Это позволяет достичь высокой реалистичности honeypot'а, снизив затраты на облачные токены на 72.6% и стоимость в 3.7 раза.
—-Rouxii
Эта работа интересна с точки зрения эволюции атаки. Она не столько защищает, сколько исследует, как deception-осведомленный атакующий может обнаружить и обойти honeypot. Rouxii повышает точность идентификации honeypot'ов с 19% до 97%, а также демонстрирует, как обнаруженная ловушка может быть использована против самого защитника (например, для отказа в обслуживании).
И опенсорс:
—Beelzebub: Открытый runtime для развертывания адаптивных, LLM-управляемых приманок (decoy) для протоколов SSH, HTTP, TCP, TELNET и MCP. Позиционируется как инструмент для активного взаимодействия с атакующими и сбора threat intelligence.
—HoneyMCP и DecoyShield: Инструменты, ориентированные на защиту на уровне приложений и API. HoneyMCP внедряет «фантомные инструменты» (ghost tools) в MCP-серверы для обнаружения попыток кражи данных и инъекций промптов. DecoyShield внедряет в HTTP-ответы невидимые для человека, но читаемые LLM-агентом payload'ы, чтобы сбить с толку или «сжечь» токены атакующего.
—AgentCapture: Китайский проект, который позиционируется как «SaaS-платформа для honeypot-мониторинга и противодействия Agent'ам». Он использует reverse-proxy для внедрения приманок, идентифицирует 23 типа AI-агентов и даже заявляет о возможности «перехвата управления» через диалоговый C2-интерфейс.
—LLM Agent Honeypot (Palisade Research): Исследовательский проект, развернувший SSH-honeypot для мониторинга AI-аге
🔥1
AI Attacks
2607.26998v1.pdf
а на Российском рынке такого нет, есть пара компаний, где пока не догадались, ну и хорошо
Может есть желающие собрать небольшую исследовательскую группу, запилить MVP?
И дальше пойти по пути монетизации)
*чисто факультативно: пару часов в неделю
пишите мне в личку
Может есть желающие собрать небольшую исследовательскую группу, запилить MVP?
И дальше пойти по пути монетизации)
*чисто факультативно: пару часов в неделю
пишите мне в личку
Forwarded from Вакансии для продактов и проджектов
Раньше на запуск продукта нужна была команда из 5-10 человек, теперь достаточно основателя и ИИ-агентов.
Агент-SDR ищет лиды и пишет им. Агент поддержки отвечает клиентам 24/7. Маркетолог ведёт контент, аналитик каждую неделю считает метрики. За вами: постановка и приемка задач, ответственность, стратегия и ключевые переговоры.
Так устроена Zero-Man Company (компания без сотрудников). 10 ноября стартует поток, на котором вы соберёте такую компанию под свой продукт:
Неделя 1 — ниша, портрет клиента и 20 интервью до первой строчки кода
Неделя 2 — MVP и лендинг на Claude Code, Cursor, n8n и Supabase
Неделя 3 — метрики: понять, зашёл продукт или пора менять направление
Неделя 4 — операционку забирают агенты
Неделя 5 — канал продаж и первые заявки
Неделя 6 — варианты масштабирования и драйверы роста
Неделя 7-8 — сбор итогов и презентации
Код пишут Claude Code/Codex, вы ставите задачу. Готовая идея тоже не нужна, её ищем на первой неделе.
Ведут Артём Астапенко (основатель AgentArea.ai), Дмитрий Жечков (cloud.ru, ex-Яндекс Облако) и Алексей Черняк (Product University, Darberry/Groupon).
Старт во вторник, 10 ноября. Занятия по вторникам с 16:00 до 18.00 МСК, бонусом - запись предыдущего модуля, где разбирали основы ИИ-агентов.
Программа и запись: https://productuniversity.ru/maa4
Агент-SDR ищет лиды и пишет им. Агент поддержки отвечает клиентам 24/7. Маркетолог ведёт контент, аналитик каждую неделю считает метрики. За вами: постановка и приемка задач, ответственность, стратегия и ключевые переговоры.
Так устроена Zero-Man Company (компания без сотрудников). 10 ноября стартует поток, на котором вы соберёте такую компанию под свой продукт:
Неделя 1 — ниша, портрет клиента и 20 интервью до первой строчки кода
Неделя 2 — MVP и лендинг на Claude Code, Cursor, n8n и Supabase
Неделя 3 — метрики: понять, зашёл продукт или пора менять направление
Неделя 4 — операционку забирают агенты
Неделя 5 — канал продаж и первые заявки
Неделя 6 — варианты масштабирования и драйверы роста
Неделя 7-8 — сбор итогов и презентации
Код пишут Claude Code/Codex, вы ставите задачу. Готовая идея тоже не нужна, её ищем на первой неделе.
Ведут Артём Астапенко (основатель AgentArea.ai), Дмитрий Жечков (cloud.ru, ex-Яндекс Облако) и Алексей Черняк (Product University, Darberry/Groupon).
Старт во вторник, 10 ноября. Занятия по вторникам с 16:00 до 18.00 МСК, бонусом - запись предыдущего модуля, где разбирали основы ИИ-агентов.
Программа и запись: https://productuniversity.ru/maa4
productuniversity.ru
MAA-4. Стартап на ИИ-агентах
Модуль 4 программы MAA: за восемь недель вы запускаете продукт, операционку которого ведут ИИ-агенты, — от поиска ниши и интервью до первых платящих клиентов. Вайб-кодинг и agent operations без найма команды. Ближайший поток — 19 ноября 2026.
Вакансии для продактов и проджектов
Раньше на запуск продукта нужна была команда из 5-10 человек, теперь достаточно основателя и ИИ-агентов. Агент-SDR ищет лиды и пишет им. Агент поддержки отвечает клиентам 24/7. Маркетолог ведёт контент, аналитик каждую неделю считает метрики. За вами: постановка…
Интересно, в какой момент они наймут разраба, который будет все переделывать,
все эти штуки, как каша из топора.
все эти штуки, как каша из топора.
Forwarded from Евгений Кокуйкин - Raft
В OWASP развивается проект Agent Control Standard (ACS). Это открытый стандарт для контроля действий агентов в рантайме. Цель проекта создать единый протокол взаимодействия между агентной платформой и компонентом контроля Guardian.
В хуках агентной системы, например перед вызовом инструмента, платформа передаёт Guardian запрос на проверку. Он применяет политики и возвращает одну из пяти диспозиций: allow, deny, modify, ask для запроса согласования и defer для отложенного решения до получения дополнительного контекста. Проверка выполняется за пределами самого агента. На практике роль Guardian должно выполнять AI Security решение, которое может использовать Rego или другие механизмы политик. В ACS есть интеграция с OTel для отправки событий в системы мониторинга, также прорабатывается поддержка AI-BOM (CycloneDX или новый CxBOM).
Сейчас у разных платформ свои механизмы контроля, и разработчикам защитных решений приходится отдельно разбираться, как перехватывать действия и применять политики. ACS стандартизирует этот интерфейс. Проект активно работает с Microsoft Agent Governance Toolkit (AGT) и развивает адаптеры для популярных агентных систем, включая OpenCode и Claude Code.
Внутри OWASP проект набирает популярность. Участники рабочей группы рассказывают о нём на конференциях, подключаются новые организации. Недавно на конференции RAISE лидер проекта Rock Lambros договорился с Responsible AI Institute об использовании ACS для проверки защитных механизмов в рамках программы TrustX.
Конечно, создать новый стандарт сложно, и далеко не все протоколы принимаются рынком. Помимо понятной спецификации нужна поддержка вендоров безопасности и самих агентных систем. В идеале, агентные платформы должны поддерживать ACS нативно, без адаптеров. От этого зависит, станет ли он общим способом контроля агентов.
В декабре проект готовится к проверке рабочей группой Microsoft AGT, после которой планируется релиз. Добавить поддержку ACS в свой AI Firewall можно по открытой спецификации. А через пару недель мы планируем выложить первую референсную реализацию Guardian на Go.
В хуках агентной системы, например перед вызовом инструмента, платформа передаёт Guardian запрос на проверку. Он применяет политики и возвращает одну из пяти диспозиций: allow, deny, modify, ask для запроса согласования и defer для отложенного решения до получения дополнительного контекста. Проверка выполняется за пределами самого агента. На практике роль Guardian должно выполнять AI Security решение, которое может использовать Rego или другие механизмы политик. В ACS есть интеграция с OTel для отправки событий в системы мониторинга, также прорабатывается поддержка AI-BOM (CycloneDX или новый CxBOM).
Сейчас у разных платформ свои механизмы контроля, и разработчикам защитных решений приходится отдельно разбираться, как перехватывать действия и применять политики. ACS стандартизирует этот интерфейс. Проект активно работает с Microsoft Agent Governance Toolkit (AGT) и развивает адаптеры для популярных агентных систем, включая OpenCode и Claude Code.
Внутри OWASP проект набирает популярность. Участники рабочей группы рассказывают о нём на конференциях, подключаются новые организации. Недавно на конференции RAISE лидер проекта Rock Lambros договорился с Responsible AI Institute об использовании ACS для проверки защитных механизмов в рамках программы TrustX.
Конечно, создать новый стандарт сложно, и далеко не все протоколы принимаются рынком. Помимо понятной спецификации нужна поддержка вендоров безопасности и самих агентных систем. В идеале, агентные платформы должны поддерживать ACS нативно, без адаптеров. От этого зависит, станет ли он общим способом контроля агентов.
В декабре проект готовится к проверке рабочей группой Microsoft AGT, после которой планируется релиз. Добавить поддержку ACS в свой AI Firewall можно по открытой спецификации. А через пару недель мы планируем выложить первую референсную реализацию Guardian на Go.
owaspacs.org
OWASP Agent Control Standard (ACS)
The open standard for runtime agent control. Declarative hooks, policy enforcement, and observability across AI agent frameworks.