На днях пара выходцев из Amazon опубликовала заслуживающую внимания новую модель угроз для ИИ-агентов.

Для тех, кто прогуливал, “ИИ-агент” - автономная система, которая принимает решения самостоятельно, “модель угроз" - список действий, которые хакеры могут проделать с вашей автономной системой, чтобы вам всячески навредить.

Модель предлагает 9 угроз:
- T1: Подмена логики — злоумышленник незаметно меняет алгоритмы рассуждений агента, подталкивая к вредоносным выводам под видом «правильных» решений.
- T2: Сдвиг целей — скрытное изменение базовых установок агента, чтобы его поведение постепенно смещалось в нужную атакующему сторону.
- T3: Отравление данных — внедрение ложной информации в базу знаний (например, RAG), которая искажает решения агента и самовоспроизводится в будущем. 
- T4: Несанкционированные действия — принуждение агента к операциям, выходящим за рамки его полномочий (например, запуск запрещённых скриптов).
- T5: Перегрузка ресурсов — атака запросами, которые истощают вычислительные мощности (CPU, GPU), выводя агента из строя.
- T6: Подмена идентификатора — обход проверок подлинности для выполнения действий от имени доверенного пользователя или агента.
- T7: Эксплуатация доверия — манипуляция пользователями через их слепое доверие к ИИ-рекомендациям. 
- T8: Зашумление мониторинга — генерация массы ложных событий, чтобы скрыть в логах реальные атаки.
- T9: Скрытый вектор — медленные/сложные атаки, обходящие системы защиты за счёт неочевидных паттернов.

Эксперты Wallarm зафиксировали 439 связанных с ИИ уязвимостей — это на 1025% больше, чем годом ранее. Почти все они связаны с API и включают инъекционные атаки, ошибки конфигурации и уязвимости, связанные с управлением памятью. Впервые в рейтинге угроз Wallarm появился новый тип атак — Memory Corruption and Overflow, связанный с некорректной обработкой памяти, что может приводить к утечке данных, сбоям и выполнению произвольного кода.


https://www.securitylab.ru/news/555968.php

Карточки рисков при развертывании LLM модели

GitHub - Repello-AI/Agent-Wiz: A CLI tool for threat modeling and visualizing AI agents built using popular frameworks like LangGraph, AutoGen, CrewAI, and more.
https://github.com/Repello-AI/Agent-Wiz

Доклад посвящен проблемам безопасности, связанным с растущим использованием LLM в различных приложениях. Особое внимание уделяется моделированию угроз на всех этапах SDLC, с акцентом на фазу проектирования.

Доклад охватывает растущую озабоченность угрозами в LLM и системах ИИ и предлагает универсальный подход к моделированию угроз.

Кроме того, он включает пример DFD и архитектуры с инструкциями для демонстрации и описывает возможности снижение риска путем диагностики областей доверия и определения потенциальной опасности в ИИ.


https://phdays.com/ru/forum/broadcast/?selectedDate=Thu+May+22+2025+00%3A00%3A00+GMT%2B0300+%28Москва%2C+стандартное+время%29&selectedTagSlug=ai&talk=2441

Каждая статья на этой платформе заслуживает отдельного внимания

Home | Palisade Research
https://palisaderesearch.org/

Недавно друг спросил, как можно быстро развернуть локально какую-нибудь можель, чтобы секурнл ее юзать на своих данных локально.
Не просто быстро, а буквально за полчаса.
И, да, сама неожиданно узнала.
Anaconda Navigator сделала новую фичу, реально развернуть одну из многих моделей от легких до тяжелого дипсика двумя кнопками и сразу же настроить api сервер.

Иногда есть проблемы с обьяснением обеспечения безопасности моделей, особенно, если модели будут частью продукта информационной безопасности.
Проще всего рисовать схемы))

Особенно, если есть сервисы, которые помогают все красиво разместить и отредактировать,
а не биться над каждой стрелочкой.