Forwarded from PWN AI (Artyom Semenov)
Давно не делился находками. Не awesome-списками, которых уже и так много, включая моих, а конкретными штуками, которые можно открыть, потрогать и применить в работе без привязки к конкретному вендору и затратам.
Набралось четыре, и каждая закрывает свой кусок реальности, которая кажется нам подвластной.
AI Agents Gone Rogue – живой (пока ещё) реестр инцидентов с AI-агентами от Oso. Не аналитика, не мнения, а каталог задокументированных провалов с источниками, импактом и последствиями. Я раньше пользовался базами, такими как: AIVD, AIID, OCED, но кажется, что они В С Ё. А тут есть пара интересных случаев: Агент, реализованный в Meta без спроса, публикует ответ на внутреннем форуме. OpenClaw засыпает жену инженера пятьюстами iMessage. Амазоновский помощник Kiro роняет прод AWS на 13 часов. Всё рассортировано по трём категориям: Uncontrolled (агент сходит с ума без твоей помощи), Tricked (его обманули через промпт-атаку), Weaponized (его целенаправленно превратили в оружие, как в кейсе с китайской APT через Claude Code). Вполне идеальный ресурс, чтобы показать менеджменту, что «ну у нас же агент локально работает» это не аргумент безопасности, а скорее повод пересмотреть свою стратегию.
Если после этого реестра катастроф хочется понять, что OWASP вообще предлагает делать со всем этим безумием, есть OWASP AI Security Visualizer. Интерактивный граф на D3.js, который визуализирует весь ландшафт OWASP-документов по ИИ-безопасности: гайды, стандарты, читшиты, инструменты и связи между ними. Чистый статик на GitHub Pages, данные курируются вручную (ну я так думаю). Штука минималистичная, но именно такой навигации и не хватало, когда нужно быстро сориентироваться в OWASP-зоопарке, а не утонуть в нём.
Теперь от карт к оружию. agent-audit это ещё один SAST для AI-агентов, и SAST тут – ключевое слово: он только читает код. 53 правила, все замаплены на OWASP Agentic Top 10 (2026). Умеет в taint analysis разных сущностей: от анализа инструментов до опасных вызовов функций типа eval и subprocess, аудит MCP-конфигов (парсит claude_desktop_config.json на отсутствие аутентификации, возможность отравления описания инструмента), обнаружение секретов со скорингом по энтропии, который работает в 3 стадии. Работает с LangChain, CrewAI, AutoGen, AgentScope. Разработчики прогнали на почти 19 тысячах скиллах из OpenClaw - находит 94.6% уязвимостей, которые в целом подтверждены. Ложных срабатываний около 12%. По сути, это линтер для кода AI-агента, только вместо пропущенной точки с запятой он находит путь от пользовательского ввода до выполнения команд через шелл. Умеет в SARIF, втыкается в CI за пять минут.
И наконец, если agent-audit проверяет код до запуска, то nono контролирует агента уже в рантайме, причём на уровне ядра. Песочница на Rust с изоляцией на основе разрешений. Каждому агенту свой профиль доступа к файловой системе, сети и процессам, откат при нарушении политик, криптографически защищённый неизменяемый лог аудита каждой сессии. Есть готовые профили для Claude Code, Codex, OpenClaw. Подключаешь через
Реестр инцидентов, карта OWASP-зоопарка, сканер кода агентов и рантайм-песочница. Ни один не требует подписки, все открыты. Можно юзать.
Набралось четыре, и каждая закрывает свой кусок реальности, которая кажется нам подвластной.
AI Agents Gone Rogue – живой (пока ещё) реестр инцидентов с AI-агентами от Oso. Не аналитика, не мнения, а каталог задокументированных провалов с источниками, импактом и последствиями. Я раньше пользовался базами, такими как: AIVD, AIID, OCED, но кажется, что они В С Ё. А тут есть пара интересных случаев: Агент, реализованный в Meta без спроса, публикует ответ на внутреннем форуме. OpenClaw засыпает жену инженера пятьюстами iMessage. Амазоновский помощник Kiro роняет прод AWS на 13 часов. Всё рассортировано по трём категориям: Uncontrolled (агент сходит с ума без твоей помощи), Tricked (его обманули через промпт-атаку), Weaponized (его целенаправленно превратили в оружие, как в кейсе с китайской APT через Claude Code). Вполне идеальный ресурс, чтобы показать менеджменту, что «ну у нас же агент локально работает» это не аргумент безопасности, а скорее повод пересмотреть свою стратегию.
Если после этого реестра катастроф хочется понять, что OWASP вообще предлагает делать со всем этим безумием, есть OWASP AI Security Visualizer. Интерактивный граф на D3.js, который визуализирует весь ландшафт OWASP-документов по ИИ-безопасности: гайды, стандарты, читшиты, инструменты и связи между ними. Чистый статик на GitHub Pages, данные курируются вручную (ну я так думаю). Штука минималистичная, но именно такой навигации и не хватало, когда нужно быстро сориентироваться в OWASP-зоопарке, а не утонуть в нём.
Теперь от карт к оружию. agent-audit это ещё один SAST для AI-агентов, и SAST тут – ключевое слово: он только читает код. 53 правила, все замаплены на OWASP Agentic Top 10 (2026). Умеет в taint analysis разных сущностей: от анализа инструментов до опасных вызовов функций типа eval и subprocess, аудит MCP-конфигов (парсит claude_desktop_config.json на отсутствие аутентификации, возможность отравления описания инструмента), обнаружение секретов со скорингом по энтропии, который работает в 3 стадии. Работает с LangChain, CrewAI, AutoGen, AgentScope. Разработчики прогнали на почти 19 тысячах скиллах из OpenClaw - находит 94.6% уязвимостей, которые в целом подтверждены. Ложных срабатываний около 12%. По сути, это линтер для кода AI-агента, только вместо пропущенной точки с запятой он находит путь от пользовательского ввода до выполнения команд через шелл. Умеет в SARIF, втыкается в CI за пять минут.
И наконец, если agent-audit проверяет код до запуска, то nono контролирует агента уже в рантайме, причём на уровне ядра. Песочница на Rust с изоляцией на основе разрешений. Каждому агенту свой профиль доступа к файловой системе, сети и процессам, откат при нарушении политик, криптографически защищённый неизменяемый лог аудита каждой сессии. Есть готовые профили для Claude Code, Codex, OpenClaw. Подключаешь через
nono run --profile claude-code -- claude и агент работает в своём пузыре, где не может тихо прочитать ~/.ssh или слить .env куда-нибудь в закат. Каждая команда, код завершения, сетевое событие пишется в структурированный JSON. Проект в ранней альфе и полный аудит ещё впереди, но архитектура видится правильной. Нулевое доверие для агента.Реестр инцидентов, карта OWASP-зоопарка, сканер кода агентов и рантайм-песочница. Ни один не требует подписки, все открыты. Можно юзать.
С сегодняшнего числа канал присоединяется к лучшим мировым безопасным практикам.
Теперь все посты канала будут выходить написанными на безопасном RUST!
fn main() {
let status = "Active";
let message = "С сегодняшнего числа канал присоединяется к лучшим мировым безопасным практикам.";
let news = "Теперь все посты канала будут выходить написанными на безопасном RUST!";
if status == "Active" {
println!("{}", message);
println!("{}", news);
}
}
Теперь все посты канала будут выходить написанными на безопасном RUST!
fn main() {
let status = "Active";
let message = "С сегодняшнего числа канал присоединяется к лучшим мировым безопасным практикам.";
let news = "Теперь все посты канала будут выходить написанными на безопасном RUST!";
if status == "Active" {
println!("{}", message);
println!("{}", news);
}
}
👏2
Одно из знаковых мероприятий для CIO подмосковные вечера сформулировало основные ожидания и ситуацию для ИТ.
Это хорошая пища для размышления. С поправкой на использованный ИИ.😆
Ниже поделюсь своими размышлениями.
Это хорошая пища для размышления. С поправкой на использованный ИИ.😆
Ниже поделюсь своими размышлениями.
Forwarded from Клуб 4СИО
Продолжаем фиксировать ключевые смыслы Конгресса — и на этот раз попросили ИИ собрать саммари первого пленарного заседания.
Это уже разговор не про отдельные роли или инструменты, а про всю отрасль сразу.
Про давление, в котором сейчас работает ИТ: меньше ресурсов, больше неопределённости, сложнее решения.
И ощущение от дискуссии очень точное — CIO сегодня всё чаще отвечает не за то, что делать, а за то, чего не делать.
Вот как это увидел ИИ.
Основные мысли и идеи сессии
1. Контекст: денег меньше, неопределённости больше
Санкции, высокая ставка и бюджетные ограничения привели к сокращению доступных ресурсов. Горизонт планирования уменьшается, а уровень неопределённости растёт.
В этих условиях CIO работает не столько в логике развития, сколько в логике минимизации ошибок.
2. Приоритеты становятся ключевой компетенцией
В условиях ограниченных ресурсов невозможно делать всё.
Основная задача — выбрать:
что критично,
что можно отложить,
от чего отказаться.
Планирование превращается в центральную функцию управления.
3. Возвращение к вопросу «зачем»
Ключевой вопрос для IT-функции — не «что внедрять», а «зачем это нужно».
Автоматизация без понимания целей приводит к росту затрат без реального эффекта.
4. Риск автоматизации неэффективных процессов
Автоматизация фиксирует существующие процессы и может закреплять их недостатки.
Если процесс неэффективен, его автоматизация лишь ускоряет распространение проблем.
5. Импортозамещение как возможность
Несмотря на ограничения, импортозамещение открывает возможность пересобрать IT-ландшафт и переосмыслить процессы.
Речь идёт не о прямой замене решений, а о трансформации архитектуры.
6. Искусственный интеллект становится обязательным элементом
AI перестаёт быть экспериментом и становится частью продуктовой и технологической стратегии.
Необходимость развития соответствующих компетенций становится очевидной.
7. Риск превращения CIO в ограничивающую функцию
Из-за требований безопасности и контроля CIO может начать играть роль «блокера», ограничивая внедрение новых инструментов.
Это создаёт риск торможения цифрового развития.
8. Рост теневого IT
Бизнес всё чаще использует облачные и AI-инструменты без участия IT.
Запретительная позиция усиливает этот тренд и снижает управляемость.
9. Новая роль CIO
CIO оказывается между двумя ролями:
обеспечение безопасности и стабильности,
поддержка развития и внедрения новых технологий.
Длительное нахождение в исключительно контролирующей роли становится неэффективным.
Ключевые инсайты
Кризис создаёт условия для пересмотра архитектуры и процессов.
Автоматизация без переосмысления процессов не даёт эффекта.
CIO должен управлять не только технологиями, но и смыслом изменений.
Избыточные ограничения ведут к росту теневого IT.
Искусственный интеллект становится обязательной частью стратегии.
Ключевые противоречия
Контроль vs развитие
Автоматизация vs качество процессов
Безопасность vs удобство
Ключевые вопросы
Что сейчас важнее: стабильность или развитие?
Какие инициативы можно остановить без ущерба?
Мы автоматизируем процессы или их проблемы?
Где проходит граница между безопасностью и ограничением бизнеса?
Как управлять ростом теневого IT?
Как использовать AI, не создавая новых рисков?
Краткий вывод
В условиях ограниченных ресурсов CIO становится тем, кто определяет, какие инициативы не стоит реализовывать.
Это уже разговор не про отдельные роли или инструменты, а про всю отрасль сразу.
Про давление, в котором сейчас работает ИТ: меньше ресурсов, больше неопределённости, сложнее решения.
И ощущение от дискуссии очень точное — CIO сегодня всё чаще отвечает не за то, что делать, а за то, чего не делать.
Вот как это увидел ИИ.
Основные мысли и идеи сессии
1. Контекст: денег меньше, неопределённости больше
Санкции, высокая ставка и бюджетные ограничения привели к сокращению доступных ресурсов. Горизонт планирования уменьшается, а уровень неопределённости растёт.
В этих условиях CIO работает не столько в логике развития, сколько в логике минимизации ошибок.
2. Приоритеты становятся ключевой компетенцией
В условиях ограниченных ресурсов невозможно делать всё.
Основная задача — выбрать:
что критично,
что можно отложить,
от чего отказаться.
Планирование превращается в центральную функцию управления.
3. Возвращение к вопросу «зачем»
Ключевой вопрос для IT-функции — не «что внедрять», а «зачем это нужно».
Автоматизация без понимания целей приводит к росту затрат без реального эффекта.
4. Риск автоматизации неэффективных процессов
Автоматизация фиксирует существующие процессы и может закреплять их недостатки.
Если процесс неэффективен, его автоматизация лишь ускоряет распространение проблем.
5. Импортозамещение как возможность
Несмотря на ограничения, импортозамещение открывает возможность пересобрать IT-ландшафт и переосмыслить процессы.
Речь идёт не о прямой замене решений, а о трансформации архитектуры.
6. Искусственный интеллект становится обязательным элементом
AI перестаёт быть экспериментом и становится частью продуктовой и технологической стратегии.
Необходимость развития соответствующих компетенций становится очевидной.
7. Риск превращения CIO в ограничивающую функцию
Из-за требований безопасности и контроля CIO может начать играть роль «блокера», ограничивая внедрение новых инструментов.
Это создаёт риск торможения цифрового развития.
8. Рост теневого IT
Бизнес всё чаще использует облачные и AI-инструменты без участия IT.
Запретительная позиция усиливает этот тренд и снижает управляемость.
9. Новая роль CIO
CIO оказывается между двумя ролями:
обеспечение безопасности и стабильности,
поддержка развития и внедрения новых технологий.
Длительное нахождение в исключительно контролирующей роли становится неэффективным.
Ключевые инсайты
Кризис создаёт условия для пересмотра архитектуры и процессов.
Автоматизация без переосмысления процессов не даёт эффекта.
CIO должен управлять не только технологиями, но и смыслом изменений.
Избыточные ограничения ведут к росту теневого IT.
Искусственный интеллект становится обязательной частью стратегии.
Ключевые противоречия
Контроль vs развитие
Автоматизация vs качество процессов
Безопасность vs удобство
Ключевые вопросы
Что сейчас важнее: стабильность или развитие?
Какие инициативы можно остановить без ущерба?
Мы автоматизируем процессы или их проблемы?
Где проходит граница между безопасностью и ограничением бизнеса?
Как управлять ростом теневого IT?
Как использовать AI, не создавая новых рисков?
Краткий вывод
В условиях ограниченных ресурсов CIO становится тем, кто определяет, какие инициативы не стоит реализовывать.
1. Для ИБ тенденция такая же - меньше ресурсов, больше неопределенности. Для ИБ важно не выпасть из каналов коммуникации с ИТ, а лучше ускорить их для минимизации рисков принятия решения без использования мер ИБ.
2. В условиях ограничения горизонта планирования, навык планирования с ограниченными данными будет важен и для ИБ. Опять важна коммуникация с ИТ и бизнесом.
3,4. Любая автоматизация должна быть направлена на конкретные результаты. Исключение безусловно хайп и базз ворды типа ИИ - для них всегда будут на первом этапе исключения. Этот пункт можно использовать. при обсуждении с ИТ неоднозначных новых автоматизаций. Расчеты эффективности ИИ начнутся в этом году. Важно, наблюдать, чтобы в гонке оптимизации процессов не была "оптимизированы" подпроцессы ИБ.
5. Для ИБ импортозамещение возможно будет использовать как сильное основание для полного пересмотра\ресертификации правил. Например правил межсетевого экранирования на новом МЭ или роутере ядра. Также импортозамещение, при правильном подборе курсов и вендоров, можно использовать для борьбы за бюджет обучения персонала ИБ. И иногда импортозамещение может помочь пересмотреть небезопасные архитектуры которые "исторически сложились". Есть безусловно и вызовы- некоторые функции которые ты воспринимал как стандартную типа TLS VPN могут оказать лишь в роадмапе вендора на 30+ год.
6. По моей оценке ИИ совершенно точно будет ключевым словом на этот и следующие года. Критично важно иметь регулярные встречи для обмена лучшими практиками и новыми решениями для их своевременной защиты.
7.Усиление ограничивающей роли для CIO создаст больше общих тем для обсуждения с CISO. Важно иметь прямой коммуникации с ИТ и бизнесом для оперативного принятия решений и корректного донесения возможных рисков для избегания ситуации когда ИБ окажется назван виновником снижения KPI\OKR.
8. Теневой ИТ для ИБ это также общая точка взаимодействия и для улучшения понимания. Фундаментальным вызовом является сильный разрыв в возможностях облачных инструментов, например ИИ, и тех которые уже доступны и проверены ИБ. Важно оценить эти риски и проговорить их с представителями бизнеса.
9. Возможна ковергенция ролей CIO и CISO. Возможные переходы работников между этими ролями т.к. необходимый уровень знаний становится очень похожим. В организациях с государственным участием тренд будет слабее.
2. В условиях ограничения горизонта планирования, навык планирования с ограниченными данными будет важен и для ИБ. Опять важна коммуникация с ИТ и бизнесом.
3,4. Любая автоматизация должна быть направлена на конкретные результаты. Исключение безусловно хайп и базз ворды типа ИИ - для них всегда будут на первом этапе исключения. Этот пункт можно использовать. при обсуждении с ИТ неоднозначных новых автоматизаций. Расчеты эффективности ИИ начнутся в этом году. Важно, наблюдать, чтобы в гонке оптимизации процессов не была "оптимизированы" подпроцессы ИБ.
5. Для ИБ импортозамещение возможно будет использовать как сильное основание для полного пересмотра\ресертификации правил. Например правил межсетевого экранирования на новом МЭ или роутере ядра. Также импортозамещение, при правильном подборе курсов и вендоров, можно использовать для борьбы за бюджет обучения персонала ИБ. И иногда импортозамещение может помочь пересмотреть небезопасные архитектуры которые "исторически сложились". Есть безусловно и вызовы- некоторые функции которые ты воспринимал как стандартную типа TLS VPN могут оказать лишь в роадмапе вендора на 30+ год.
6. По моей оценке ИИ совершенно точно будет ключевым словом на этот и следующие года. Критично важно иметь регулярные встречи для обмена лучшими практиками и новыми решениями для их своевременной защиты.
7.Усиление ограничивающей роли для CIO создаст больше общих тем для обсуждения с CISO. Важно иметь прямой коммуникации с ИТ и бизнесом для оперативного принятия решений и корректного донесения возможных рисков для избегания ситуации когда ИБ окажется назван виновником снижения KPI\OKR.
8. Теневой ИТ для ИБ это также общая точка взаимодействия и для улучшения понимания. Фундаментальным вызовом является сильный разрыв в возможностях облачных инструментов, например ИИ, и тех которые уже доступны и проверены ИБ. Важно оценить эти риски и проговорить их с представителями бизнеса.
9. Возможна ковергенция ролей CIO и CISO. Возможные переходы работников между этими ролями т.к. необходимый уровень знаний становится очень похожим. В организациях с государственным участием тренд будет слабее.
Forwarded from DevSecOps Talks
Безопасная работа с npm
Всем привет!
В GitHub-репозитории собраны лучшие практики, позволяющие повысить уровень информационной безопасности при работе с
Глобально материал «разбит» на разделы:
🍭
🍭 Secure Local Development Best Practices
🍭
🍭
Каждый из описанных выше разделов состоит из набора рекомендаций, перечень которых варьируется.
Для каждой рекомендации приводятся некоторые советы и набор команд, в которых указано как её можно реализовать на практике.
Кратко, по делу и ничего лишнего. Рекомендуем!
Всем привет!
В GitHub-репозитории собраны лучшие практики, позволяющие повысить уровень информационной безопасности при работе с
npm.Глобально материал «разбит» на разделы:
🍭
npm Security Best Practices🍭 Secure Local Development Best Practices
🍭
npm Maintainer Security Best Practices🍭
npm Package Health Best PracticesКаждый из описанных выше разделов состоит из набора рекомендаций, перечень которых варьируется.
Для каждой рекомендации приводятся некоторые советы и набор команд, в которых указано как её можно реализовать на практике.
Кратко, по делу и ничего лишнего. Рекомендуем!
GitHub
GitHub - lirantal/npm-security-best-practices: Collection of npm package manager Security Best Practices
Collection of npm package manager Security Best Practices - lirantal/npm-security-best-practices
Фреймворк для теста api
https://github.com/praetorian-inc/hadrian
https://github.com/praetorian-inc/hadrian
GitHub
GitHub - praetorian-inc/hadrian: API security testing framework for REST, GraphQL, and gRPC that validates authorization logic…
API security testing framework for REST, GraphQL, and gRPC that validates authorization logic using role-based testing and YAML-driven templates - praetorian-inc/hadrian
Интересный вывод в опенсорс инструмента анализа Linux хостов ebpf на основе sigma правил.
https://github.com/Cybereason-Public/owLSM
https://github.com/Cybereason-Public/owLSM
GitHub
GitHub - Cybereason-Public/owLSM: Sigma Rules Engine inside the Linux Kernel using eBPF. Focusing on prevention capabilities
Sigma Rules Engine inside the Linux Kernel using eBPF. Focusing on prevention capabilities - Cybereason-Public/owLSM
Если выкладывает свой код на гитхабе самое время проверить свои настройки.
Гитхаб начнет использовать ваш код и действия для обучения моделей.
"Specifically, GitHub uses the following data:
Private repositories during use
Accepted or modified Copilot suggestions
Inputs sent to Copilot, including code snippets
Code context around the cursor position
Comments and documentation
Filenames and repository structures
Navigation patterns
Interactions with Copilot features such as chat or inline suggestions
Feedback on suggestions (thumbs up/down)"
https://www.heise.de/en/news/Only-with-opt-out-GitHub-will-train-Copilot-models-with-user-data-in-the-future-11226787.html
Гитхаб начнет использовать ваш код и действия для обучения моделей.
"Specifically, GitHub uses the following data:
Private repositories during use
Accepted or modified Copilot suggestions
Inputs sent to Copilot, including code snippets
Code context around the cursor position
Comments and documentation
Filenames and repository structures
Navigation patterns
Interactions with Copilot features such as chat or inline suggestions
Feedback on suggestions (thumbs up/down)"
https://www.heise.de/en/news/Only-with-opt-out-GitHub-will-train-Copilot-models-with-user-data-in-the-future-11226787.html
Developer
Only with opt-out: GitHub will train Copilot models with user data in the future
Prompts, code suggestions, comments: GitHub will collect data from AI interactions for its own model training in the future. Objection is possible via opt-out.
❤1
https://globalriskinstitute.org/publication/quantum-threat-timeline-report-2025b/
Заметный сдвиг влево в консенсуном прогнозе экспетов года, когда квантовый компьютер сможет расшифровать RSA 2048 за 24 часа.
Заметный сдвиг влево в консенсуном прогнозе экспетов года, когда квантовый компьютер сможет расшифровать RSA 2048 за 24 часа.
Global Risk Institute
Quantum Threat Timeline Report 2025 - Global Risk Institute
Experts in quantum computing forecast when quantum computers will be a threat to cybersecurity.
Forwarded from SecurityLab.ru
Инженерное сообщество IETF опубликовало RFC 9849 с описанием Encrypted Client Hello, или ECH. Новый механизм шифрует начальное сообщение клиента при установке TLS-соединения и скрывает домен, к которому подключается пользователь. Раньше поле SNI оставалось открытым даже в TLS 1.3, и наблюдатель в сети мог видеть адрес сайта.
ECH делит первое сообщение на внешнюю и внутреннюю части. Снаружи остаётся обычный запрос без чувствительных данных, а внутри в зашифрованном виде передаётся реальная информация о соединении. Такой подход усложняет анализ трафика и позволяет прятать детали инфраструктуры даже при работе через промежуточные узлы.
Полной анонимности новый стандарт не даёт, потому что адрес сайта всё ещё могут раскрыть DNS-запросы или IP-адрес. Но вместе с защищённым DNS уровень приватности становится заметно выше. Внедрение ECH потребует доработок у клиентов и серверов, зато TLS делает ещё один шаг к тому, чтобы закрыть старые утечки.
#кибербезопасность #TLS #приватность
@SecLabNews
Please open Telegram to view this post
VIEW IN TELEGRAM
Предложены правки в RFC для сокрытия имени домена в TLS 1.3. Encrypted Client Hello (ECH).
Плюс для анонимности и ещё один гвоздь в крышку "сундука"для IDS. Классические IDS/IPS и опять заметно потеряют в своей эффективности, теперь даже анализ репутации домена будет невозможен напрямую.
Плюс для анонимности и ещё один гвоздь в крышку "сундука"для IDS. Классические IDS/IPS и опять заметно потеряют в своей эффективности, теперь даже анализ репутации домена будет невозможен напрямую.
This media is not supported in your browser
VIEW IN TELEGRAM
А вы когда нибудь устраивали песенное повышение культуры безопасности использования паролей? 😀
#пятница #культура_кибербезопасности #французский
#пятница #культура_кибербезопасности #французский
Forwarded from OK ML
OWASP Agentic Skills Top 10 — Security Assessment Checklist
OWASP на днях выпустили практический чек-лист для оценки безопасности AI-агентов — Agentic Skills Security Assessment Checklist, инструмент для ревью, апрува и переоценки/пересмотра навыков агентов.
Главная идея проста и заключается в том, каждый скилл проверяется по набору критериев, и любое "нет" - потенциальная уязвимость.
Ключевые практики:
😜 проверка подписи и source of truth
😜 SBOM и pinned dependencies
😜 sandbox и dynamic behavioral testing
😜 минимизация прав (principle of least privilege)
😜 отдельное сканирование кода и prompt/инструкций
В целом, почему родился этот пост? Про сам чеклист что много писать, читайте сами. Но захотелось немного порефлексировать на очень показательный кейс этого года — ClawHavoc, атаку на экосистему OpenClaw.
Если разложить её в логике kill chain / MITRE ATT&CK, становится видно, что это классическая цепочка, но адаптированная под LLM-агентов.
Атака начинается на стадии initial access, но не через эксплоит, а через supply chain. Злоумышленник публикует скилл в публичный registry — это фактически аналог poisoned dependency. В терминах ATT&CK это ближе всего к T1195 (Supply Chain Compromise) , но с важной оговоркой, так как точкой входа становится не бинарь, а текст — SKILL.md. Агент читал SKILL.md, LLM генерировала полезный ответ с просьбой выполнить команду (curl | bash), и пользователь сам запускал малварь. Дальше шла кража API-ключей, кошельков и других секретов.
Это по сути комбинация supply chain атаки и prompt injection, где LLM становится частью kill chain.
Такой скилл не прошёл бы OWASP чек-лист.
Он бы завалился сразу по нескольким критическим пунктам:
😮 неподтверждённый источник и отсутствие подписи
😮 вредоносные инструкции в metadata
😮 избыточные права (shell, доступ к секретам)
😮 отсутствие sandbox и поведенческого анализа
Так что пользуемся, друзья!
Кстати, вполне рабочая идея — просто запулить агента, который автоматически прогоняет скиллы по чек-листу перед деплоем (свои и коллег).
Все!
👽
OWASP на днях выпустили практический чек-лист для оценки безопасности AI-агентов — Agentic Skills Security Assessment Checklist, инструмент для ревью, апрува и переоценки/пересмотра навыков агентов.
Главная идея проста и заключается в том, каждый скилл проверяется по набору критериев, и любое "нет" - потенциальная уязвимость.
Ключевые практики:
В целом, почему родился этот пост? Про сам чеклист что много писать, читайте сами. Но захотелось немного порефлексировать на очень показательный кейс этого года — ClawHavoc, атаку на экосистему OpenClaw.
Если разложить её в логике kill chain / MITRE ATT&CK, становится видно, что это классическая цепочка, но адаптированная под LLM-агентов.
Атака начинается на стадии initial access, но не через эксплоит, а через supply chain. Злоумышленник публикует скилл в публичный registry — это фактически аналог poisoned dependency. В терминах ATT&CK это ближе всего к T1195 (Supply Chain Compromise) , но с важной оговоркой, так как точкой входа становится не бинарь, а текст — SKILL.md. Агент читал SKILL.md, LLM генерировала полезный ответ с просьбой выполнить команду (curl | bash), и пользователь сам запускал малварь. Дальше шла кража API-ключей, кошельков и других секретов.
Это по сути комбинация supply chain атаки и prompt injection, где LLM становится частью kill chain.
Такой скилл не прошёл бы OWASP чек-лист.
Он бы завалился сразу по нескольким критическим пунктам:
Так что пользуемся, друзья!
Кстати, вполне рабочая идея — просто запулить агента, который автоматически прогоняет скиллы по чек-листу перед деплоем (свои и коллег).
Все!
Please open Telegram to view this post
VIEW IN TELEGRAM
Можно использовать сей ресурсы при оценке принятия рисков безопасности при вайбкодинге =)
Forwarded from Too Many Apples
Ув. подписчик поделился ресурсом, который аггрегирует случаи ущерба от вайбкодинга.
Среди них - потерям Амазоном 6 млн заказов, Zero-click RCE на устройствах пользователей vibe-coding площадки, и закрытие одного стартапа, полностью написанного ИИ из-за доступа к платным фичам через смену одного параметра в куках.
Что интересно, что сделал его стартап, продукт которого - AI интервьюер, который тренирует тебя к собеседованиям.
Поговорка про стеклянный инструмент и дурака обретает новые смыслы.
Среди них - потерям Амазоном 6 млн заказов, Zero-click RCE на устройствах пользователей vibe-coding площадки, и закрытие одного стартапа, полностью написанного ИИ из-за доступа к платным фичам через смену одного параметра в куках.
Что интересно, что сделал его стартап, продукт которого - AI интервьюер, который тренирует тебя к собеседованиям.
Поговорка про стеклянный инструмент и дурака обретает новые смыслы.
crackr.dev
Vibe Coding Failures: Documented AI Code Incidents
A curated directory of real-world incidents where AI-generated code failed in production.
Хороший свежий краш курс по безопасности оркестрации контейнеразации.
Forwarded from k8s (in)security (Дмитрий Евдокимов)
На нашем сайте
Данный материал расставляет ориентиры с чего стоит начать при погружении в данную тему. При этом предлагает как теорию, так и практику.
Вопросы можно задавать в комментариях к данному посту!
Luntry в разделе исследований стали доступны материалы с выступления «Путеводитель по безопасности контейнеров и Kubernetes» (видео, слайды) с онлайн-митап CyberCamp 2026 по теме DevSecOps. Данный материал расставляет ориентиры с чего стоит начать при погружении в данную тему. При этом предлагает как теорию, так и практику.
Вопросы можно задавать в комментариях к данному посту!
https://gddr.fail/ Новая уязвимость при работе памяти видеокарты которая может привести к компрометации всей машины. Как правило, такие уязвимости актуальнее всего облачным провайдерам\операторам ЦОДов которые сдают в аренду видеокарты.
gddr.fail
GPU Memory Exploits
Cross-Component Rowhammer Attacks from Modern GPUs