📌 Требования к среде разработки и эксплуатации ИИ #опытэкспертов
Материалом поделился Денис Батранков, в рамках образовательного курса «Директор по кибербезопасности 8.0».
Требования к среде эксплуатации ИИ:
1. Тотальное логирование
Обязательная регистрация абсолютно всех событий: промпты пользователей, ответы модели, метаданные сессии, latency, количество токенов. Логи
передаются в SIEM.
❗️Без логов расследование
инцидента невозможно — это
требование п. 61 Приказа №117
2. Фильтрация (Guardrails)
Обязательная установка систем
контроля, проверяющих входящие
запросы и генерируемые ответы. Для
шаблонных интерфейсов — белый
список команд. Для чат-ботов —
фильтр тематик.
❗️Фактически: обязательный AI/LLM
Firewall на уровне ввода/вывода
3. Квотирование запросов
Мониторинг и ограничение количества запросов к ИИ. Защита от
автоматизированного перебора (брутфорс), кражи архитектуры модели (Model Extraction) и Denial of Wallet.
❗️Rate-limiting по user_id, IP и сервису с автоблокировкой при превышении
Требования к среде разработки ИИ:
1. Строгая изоляция среды
Среда разработки ИИ выделяется в отдельный изолированный сегмент. В качестве усиления — физическая изоляция. Запрещено выполнять задачи, не связанные с
разработкой.
❗️ Аналог: DMZ, но для ML-инфраструктуры
2. Отказ от небезопасных форматов
Прямой запрет на использование формата pickle и других небезопасных форматов сериализации. Обязательный переход на безопасные аналоги: ONNX, protobuf.
❗️ Pickle позволяет выполнить произвольный код при загрузке модели
3. Защита обучающих датасетов
Наборы данных загружаются только из доверенных источников. Обязательная
антивирусная проверка каждого датасета перед использованием в обучении.
❗️Отравленный датасет = бэкдор в интеллекте модели
4. Контроль целостности весов
Обязательный контроль целостности параметров (весов) выходной модели. В качестве усиления — криптографическая верификация (SHA-256, HMAC).
❗️ Закрывает вектор Model Poisoning через подмену весов
💥 Подробнее в эту тему вы сможете углубиться, присоединившись к просмотру четвёртого модуля курса «Директор по кибербезопасности 8.0».
#ДиректорПоИБ
Материалом поделился Денис Батранков, в рамках образовательного курса «Директор по кибербезопасности 8.0».
Требования к среде эксплуатации ИИ:
1. Тотальное логирование
Обязательная регистрация абсолютно всех событий: промпты пользователей, ответы модели, метаданные сессии, latency, количество токенов. Логи
передаются в SIEM.
❗️Без логов расследование
инцидента невозможно — это
требование п. 61 Приказа №117
2. Фильтрация (Guardrails)
Обязательная установка систем
контроля, проверяющих входящие
запросы и генерируемые ответы. Для
шаблонных интерфейсов — белый
список команд. Для чат-ботов —
фильтр тематик.
❗️Фактически: обязательный AI/LLM
Firewall на уровне ввода/вывода
3. Квотирование запросов
Мониторинг и ограничение количества запросов к ИИ. Защита от
автоматизированного перебора (брутфорс), кражи архитектуры модели (Model Extraction) и Denial of Wallet.
❗️Rate-limiting по user_id, IP и сервису с автоблокировкой при превышении
Требования к среде разработки ИИ:
1. Строгая изоляция среды
Среда разработки ИИ выделяется в отдельный изолированный сегмент. В качестве усиления — физическая изоляция. Запрещено выполнять задачи, не связанные с
разработкой.
❗️ Аналог: DMZ, но для ML-инфраструктуры
2. Отказ от небезопасных форматов
Прямой запрет на использование формата pickle и других небезопасных форматов сериализации. Обязательный переход на безопасные аналоги: ONNX, protobuf.
❗️ Pickle позволяет выполнить произвольный код при загрузке модели
3. Защита обучающих датасетов
Наборы данных загружаются только из доверенных источников. Обязательная
антивирусная проверка каждого датасета перед использованием в обучении.
❗️Отравленный датасет = бэкдор в интеллекте модели
4. Контроль целостности весов
Обязательный контроль целостности параметров (весов) выходной модели. В качестве усиления — криптографическая верификация (SHA-256, HMAC).
❗️ Закрывает вектор Model Poisoning через подмену весов
Ключевое отличие от среды разработки: среда эксплуатации
работает в реальном времени — защита должна быть встроена в
архитектуру, а не добавлена поверх.
💥 Подробнее в эту тему вы сможете углубиться, присоединившись к просмотру четвёртого модуля курса «Директор по кибербезопасности 8.0».
#ДиректорПоИБ
❤1
OFFZONE 2026: обзор от Код ИБ
20–21 августа в Москве прошла OFFZONE 2026 — конференция о практической кибербезопасности, которую в этом году посетили более 3000 человек.
CEO «Код ИБ» Ольга Поздняк побывала на конференции и сняла видеообзор: показала интересные фишки, атмосферу площадки и то, чем запомнилась OFFZONE 2026.
Смотрите ролик в ВК или на YouTube — собрали главное в нескольких минутах.
20–21 августа в Москве прошла OFFZONE 2026 — конференция о практической кибербезопасности, которую в этом году посетили более 3000 человек.
CEO «Код ИБ» Ольга Поздняк побывала на конференции и сняла видеообзор: показала интересные фишки, атмосферу площадки и то, чем запомнилась OFFZONE 2026.
Смотрите ролик в ВК или на YouTube — собрали главное в нескольких минутах.
🔥4⚡1❤1👍1💘1
Продолжаем делиться подробностями деловой программы Код ИБ ПРОФИ в Сочи
Денис Макрушин, директор по продуктам безопасной разработки в "Яндексе", проведет в рамках интенсива Код ИБ ПРОФИ мастер-класс — "Безопасность Agentic Development Lifecycle: атаки на ИИ-инфраструктуру разработки и методы защиты".
Участники ПРОФИ, посетившие все мероприятия деловой программы, получат удостоверение установленного образца о повышении квалификации в объеме 16 академических часов.
Смотрите полную программу и присоединяйтесь к ПРОФИ!
#ИБнужныПРОФИ
Денис Макрушин, директор по продуктам безопасной разработки в "Яндексе", проведет в рамках интенсива Код ИБ ПРОФИ мастер-класс — "Безопасность Agentic Development Lifecycle: атаки на ИИ-инфраструктуру разработки и методы защиты".
🟢 С трансформацией процессов разработки в сторону Agentic Development Lifecycle (ADLC) количество уязвимостей и возможностей для атаки в инфраструктуре растёт пропорционально числу агентов. Каждый агент имеет привилегии для управления инфраструктурой, работы с инструментами, доступа к данным. Компрометация такого агента открывает доступ ко всему, с чем он работает.🟢 В докладе эксперт рассмотрит ключевые уязвимости инфраструктуры ADLC и на примерах покажет, как можно скомпрометировать весь процесс разработки с помощью некорректно настроенных инструментов. Эксперт вместе с участниками посмотрит, как архитектурные компоненты MCP, RAG и A2A открывают дополнительные возможности для изменения поведения агента, составит технологическую карту агентской разработки и определит для неё ландшафт угроз. Разберёт примеры для самостоятельной оценки защищённости. В результате получит методику и набор инструментов, которые помогут разработчику и архитектору безопасности построить устойчивый процесс ADLC.
Участники ПРОФИ, посетившие все мероприятия деловой программы, получат удостоверение установленного образца о повышении квалификации в объеме 16 академических часов.
Смотрите полную программу и присоединяйтесь к ПРОФИ!
#ИБнужныПРОФИ
Please open Telegram to view this post
VIEW IN TELEGRAM
Код ИБ в Новосибирске: теперь говорим не только о кибербезопасности
🗓 24 сентября 2026
📍 Grand Autograph, ул. Орджоникидзе, 31
В этом году программа конференции выйдет за рамки привычной повестки. Помимо ИБ обсудим, как ИИ меняет бизнес, какие риски он создает и как ИТ и ИБ работать с ними.
Что будет в программе:
▪️ «Голос отрасли: цифровизация, кибербезопасность, искусственный интеллект»
Какие задачи бизнеса уже решает ИИ и что мешает компаниям внедрять его масштабнее? Обсудим опыт региона, какие киберриски возникают при использовании ИИ и как компаниям защищать данные, инфраструктуру и бизнес-процессы.
▪️ Диалог с регулятором
Получим ответы на актуальные вопросы напрямую от представителей государственных органов.
▪️ Практические секции
— Кибербезопасность
— Инфраструктура
— ИИ в кибербезопасности
— ИИ в бизнесе
▪️ CIO vs CISO: как работать на общую цель бизнеса
Кто отвечает за безопасность при внедрении ИИ? Как распределять бюджеты и ответственность? Где проходит граница между скоростью ИТ и требованиями ИБ? И какие KPI помогут ИТ и ИБ перестать конфликтовать?
Конференция пройдет при поддержке Минцифры Новосибирской области, Опоры России, УЦ «Основание», Союза «Торгово-промышленной палаты Новосибирской области».
➡️ Зарегистрироваться на конференцию
В этом году программа конференции выйдет за рамки привычной повестки. Помимо ИБ обсудим, как ИИ меняет бизнес, какие риски он создает и как ИТ и ИБ работать с ними.
Что будет в программе:
▪️ «Голос отрасли: цифровизация, кибербезопасность, искусственный интеллект»
Какие задачи бизнеса уже решает ИИ и что мешает компаниям внедрять его масштабнее? Обсудим опыт региона, какие киберриски возникают при использовании ИИ и как компаниям защищать данные, инфраструктуру и бизнес-процессы.
▪️ Диалог с регулятором
Получим ответы на актуальные вопросы напрямую от представителей государственных органов.
▪️ Практические секции
— Кибербезопасность
— Инфраструктура
— ИИ в кибербезопасности
— ИИ в бизнесе
▪️ CIO vs CISO: как работать на общую цель бизнеса
Кто отвечает за безопасность при внедрении ИИ? Как распределять бюджеты и ответственность? Где проходит граница между скоростью ИТ и требованиями ИБ? И какие KPI помогут ИТ и ИБ перестать конфликтовать?
Конференция пройдет при поддержке Минцифры Новосибирской области, Опоры России, УЦ «Основание», Союза «Торгово-промышленной палаты Новосибирской области».
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍3🔥3
Лента айтишника в Телеграме — это либо копипаст новостей, либо мемы. Практику и реальный продакшен приходится собирать по крупицам среди гигабайтов шума.
При этом расти только в своем фреймворке невозможно: без понимания смежных процессов — от девопса и архитектуры до безопасности и менеджмента — сеньором не стать.
Чтобы не тратить часы на фильтрацию мусора, мы собрали авторов-практиков в одну папку IT.
Что внутри:
👉🏻 Добавить папку в Telegram в один клик
При этом расти только в своем фреймворке невозможно: без понимания смежных процессов — от девопса и архитектуры до безопасности и менеджмента — сеньором не стать.
Чтобы не тратить часы на фильтрацию мусора, мы собрали авторов-практиков в одну папку IT.
Что внутри:
— Бэкенд, архитектурные решения и разбор факапов
— DevOps, инфраструктура и CI/CD
— Безопасность, системный анализ и QA
— Тимлидство, архитектура процессов и управление командами
👉🏻 Добавить папку в Telegram в один клик
Telegram
[IT]
MediaBoost | Александр invites you to add the folder “[IT]”, which includes 21 chats.
Продолжаем делиться подробностями деловой программы Код ИБ ПРОФИ в Сочи
Никита Курганов, архитектор ИБ в "Т-Банке", проведет в рамках интенсива Код ИБ ПРОФИ мастер-класс — "Восстание машин!? Как в эпоху AI трансформации защитить свою инфраструктуру и что с этим делать?".
Участники ПРОФИ, посетившие все мероприятия деловой программы, получат удостоверение установленного образца о повышении квалификации в объеме 16 академических часов.
Смотрите полную программу и присоединяйтесь к нашему дружному сообществу!
#ИБнужныПРОФИ
Никита Курганов, архитектор ИБ в "Т-Банке", проведет в рамках интенсива Код ИБ ПРОФИ мастер-класс — "Восстание машин!? Как в эпоху AI трансформации защитить свою инфраструктуру и что с этим делать?".
🔘 Доклад направлен на описание текущей проблематики и обзор подходов, как можно защитить инфру от AI агентских атак. Порог входа для проведения атак и генерации кода сильно стал ниже, что несет за собой достаточно большие риски ИБ.🔘 Будут рассмотрены направления со стороны appsec, soc и безопасности инфры. Основной фокус будет на SOC и создании autosoc, что для этого надо сделать, чтобы на AI атаки реагировать быстро и эффективно.
Участники ПРОФИ, посетившие все мероприятия деловой программы, получат удостоверение установленного образца о повышении квалификации в объеме 16 академических часов.
Смотрите полную программу и присоединяйтесь к нашему дружному сообществу!
#ИБнужныПРОФИ
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
82% российских компаний малого и среднего бизнеса сталкивались с киберинцидентами за последний год.
Фишинг и BEС-атаки становятся все сложнее, и злоумышленники постоянно совершенствуют способы обхода защиты. Поэтому корпоративной почте нужна защита, которая успевает за этими изменениями.
Приглашаем на стрим от «Лаборатории Касперского»
«Не верь входящим! Почтовые угрозы 2026 и новые возможности KSMG 3.1»
📅 10 сентября | 11:00 МСК
Зарегистрироваться на стрим
На стриме эксперты «Лаборатории Касперского» разберут актуальные сценарии почтовых атак и покажут новые возможности Kaspersky Security для почтовых серверов.
Вы узнаете:
— Как меняются фишинг, BEC и методы обхода защиты;
— Что нового в KSMG 3.1: механизмы детекта и управление доставкой почты;
— Как KSMS Plus выявляет BEC, mail bombing и атаки с новых доменов;
— Как новые механизмы работают на практике — в демо KSMG 3.1.
Участие бесплатное, необходима регистрация.
«АО» Лаборатория Касперского. ИНН 7713140469. erid:2W5zFGktved
Фишинг и BEС-атаки становятся все сложнее, и злоумышленники постоянно совершенствуют способы обхода защиты. Поэтому корпоративной почте нужна защита, которая успевает за этими изменениями.
Приглашаем на стрим от «Лаборатории Касперского»
«Не верь входящим! Почтовые угрозы 2026 и новые возможности KSMG 3.1»
📅 10 сентября | 11:00 МСК
Зарегистрироваться на стрим
На стриме эксперты «Лаборатории Касперского» разберут актуальные сценарии почтовых атак и покажут новые возможности Kaspersky Security для почтовых серверов.
Вы узнаете:
— Как меняются фишинг, BEC и методы обхода защиты;
— Что нового в KSMG 3.1: механизмы детекта и управление доставкой почты;
— Как KSMS Plus выявляет BEC, mail bombing и атаки с новых доменов;
— Как новые механизмы работают на практике — в демо KSMG 3.1.
Участие бесплатное, необходима регистрация.
«АО» Лаборатория Касперского. ИНН 7713140469. erid:2W5zFGktved
📌 AI-BOM: четыре категории инвентаризации #опытэкспертов
Материалом поделился Денис Батранков, в рамках образовательного курса «Директор по кибербезопасности 8.0».
Четыре категории инвентаризации:
1. Модели
Название, версия, источник весов, хэш-сумма файлов модели, дата получения, лицензия.
2. API-интеграции
Эндпоинты, уровень доступа, класс передаваемых данных, наличие DPA с провайдером.
3. Агенты
Перечень прав доступа, доступные инструменты, оркестраторы, системные промпты.
4. RAG-базы
Источники документов, метки доступа, кто и когда добавил каждый источник.
Хотите глубже разобраться в вопросах безопасности ИИ? Тогда изучайте программу четвёртого модуля курса «Директор по кибербезопасности 8.0» и присоединяйтесь к обучению.
На курсе вы узнаете о современных угрозах, актуальных требованиях и практических решениях, которые уже сегодня помогают защищать корпоративные ИИ-системы.
#ДиректорПоИБ
Материалом поделился Денис Батранков, в рамках образовательного курса «Директор по кибербезопасности 8.0».
AI Bill of Materials-структурированный реестр
всех компонентов ИИ-инфраструктуры организации.
Полная инвентаризация того, что работает, откуда взято и у кого есть доступ.
Четыре категории инвентаризации:
1. Модели
Название, версия, источник весов, хэш-сумма файлов модели, дата получения, лицензия.
2. API-интеграции
Эндпоинты, уровень доступа, класс передаваемых данных, наличие DPA с провайдером.
3. Агенты
Перечень прав доступа, доступные инструменты, оркестраторы, системные промпты.
4. RAG-базы
Источники документов, метки доступа, кто и когда добавил каждый источник.
Аналог SBOM (Software Bill of Materials) для программного обеспечения — но для ИИ-систем. Функция: доказательная база для аудита ФСТЭК №117 и
внутреннего контроля.
Хотите глубже разобраться в вопросах безопасности ИИ? Тогда изучайте программу четвёртого модуля курса «Директор по кибербезопасности 8.0» и присоединяйтесь к обучению.
На курсе вы узнаете о современных угрозах, актуальных требованиях и практических решениях, которые уже сегодня помогают защищать корпоративные ИИ-системы.
#ДиректорПоИБ
Forwarded from 3side кибербезопасности
Вебинар: Слепые зоны CEO: что происходит в компании вне вашего контроля
Дата проведения:
15 сентября 2026г. | 14.00 (МСК)
Формат: онлайн
Регистрация по ссылке
15 сентября в 14:00 проведём вебинар о том, что происходит с IT компании, когда ключевой технический специалист внезапно уходит.
CTO может годами управлять всей технической частью бизнеса, пока собственник не знает, где находятся серверы, доступы, код и резервные копии. А что произойдёт, если завтра этот человек уйдёт из компании?
Что разберем:
· Что на самом деле находится в руках CTO: доступы, серверы, облака, код, домены и резервные копии
· Что произойдёт с бизнесом, если CTO завтра уйдёт
· Как понять, насколько компания зависит от одного человека и его знаний
· Действительно ли IT-ресурсы принадлежат компании и кто имеет к ним доступ
· Кто может «выключить» бизнес и как должна быть устроена система доступов
· Как контролировать расходы на IT, не разбираясь в технологиях
· Как не создать новую зависимость от IT-подрядчиков
Этот вебинар для вас, если вы хотя бы раз ловили себя на мысли:
· «Если наш CTO завтра уйдёт, кто знает, как всё устроено?»
· «А у компании точно есть доступ ко всем серверам и облакам?»
· «Где находятся наши данные и резервные копии?»
· «Что будет, если критичный сервис находится на аккаунте CTO?»
· «Может ли новый специалист быстро принять IT-инфраструктуру?»
После вебинара у вас будет понимание, как проверить зависимость компании от CTO и IT-подрядчиков, а также чек-лист для собственника.
Регистрация
Дата проведения:
15 сентября 2026г. | 14.00 (МСК)
Формат: онлайн
Регистрация по ссылке
15 сентября в 14:00 проведём вебинар о том, что происходит с IT компании, когда ключевой технический специалист внезапно уходит.
CTO может годами управлять всей технической частью бизнеса, пока собственник не знает, где находятся серверы, доступы, код и резервные копии. А что произойдёт, если завтра этот человек уйдёт из компании?
Что разберем:
· Что на самом деле находится в руках CTO: доступы, серверы, облака, код, домены и резервные копии
· Что произойдёт с бизнесом, если CTO завтра уйдёт
· Как понять, насколько компания зависит от одного человека и его знаний
· Действительно ли IT-ресурсы принадлежат компании и кто имеет к ним доступ
· Кто может «выключить» бизнес и как должна быть устроена система доступов
· Как контролировать расходы на IT, не разбираясь в технологиях
· Как не создать новую зависимость от IT-подрядчиков
Этот вебинар для вас, если вы хотя бы раз ловили себя на мысли:
· «Если наш CTO завтра уйдёт, кто знает, как всё устроено?»
· «А у компании точно есть доступ ко всем серверам и облакам?»
· «Где находятся наши данные и резервные копии?»
· «Что будет, если критичный сервис находится на аккаунте CTO?»
· «Может ли новый специалист быстро принять IT-инфраструктуру?»
После вебинара у вас будет понимание, как проверить зависимость компании от CTO и IT-подрядчиков, а также чек-лист для собственника.
Регистрация
Как защищать ИИ-агентов с доступом к коду и проду? Что произойдёт, если агент примет текст из pull request за команду? Получит избыточные права через MCP? Обойдёт guardrails или передаст наружу чувствительные данные?
11 сентября в 10:00 МСК Денис Макрушин проведёт бесплатный онлайн-эфир и разберёт, что ломается, когда ИИ получает доступ к корпоративной инфраструктуре, и как выстроить защиту.
Это будет практический разбор реальных кейсов с ответами на вопросы участников.
Ведущий эфира
Денис Макрушин — директор по продуктам безопасной разработки в Яндексе.
Отвечает за безопасную разработку, развивает подходы Secure by Design, DevSecOps и bug bounty; ранее был техническим директором по кибербезопасности в МТС.
Поговорим о том:
— Как ИИ-агенты меняют поверхность атаки и где теперь проходят границы доверия;
— Почему недоверенные данные могут превратиться в инструкции для агента;
— Как происходят prompt injection через pull request, утечки через MCP и обход защитных
ограничений;
— Почему привычный Secure SDLC перестаёт покрывать новые риски и что меняется при переходе к
ADLC;
— Как контролировать агента после внедрения и какие навыки становятся востребованными в
эпоху агентной разработки.
Эфир Код ИБ × CyberED.
Принять участие
11 сентября в 10:00 МСК Денис Макрушин проведёт бесплатный онлайн-эфир и разберёт, что ломается, когда ИИ получает доступ к корпоративной инфраструктуре, и как выстроить защиту.
Это будет практический разбор реальных кейсов с ответами на вопросы участников.
Ведущий эфира
Денис Макрушин — директор по продуктам безопасной разработки в Яндексе.
Отвечает за безопасную разработку, развивает подходы Secure by Design, DevSecOps и bug bounty; ранее был техническим директором по кибербезопасности в МТС.
Поговорим о том:
— Как ИИ-агенты меняют поверхность атаки и где теперь проходят границы доверия;
— Почему недоверенные данные могут превратиться в инструкции для агента;
— Как происходят prompt injection через pull request, утечки через MCP и обход защитных
ограничений;
— Почему привычный Secure SDLC перестаёт покрывать новые риски и что меняется при переходе к
ADLC;
— Как контролировать агента после внедрения и какие навыки становятся востребованными в
эпоху агентной разработки.
Эфир Код ИБ × CyberED.
Принять участие
🔥1👌1
This media is not supported in your browser
VIEW IN TELEGRAM
Сегодня стартовал долгожданный Код ИБ ПРОФИ в Сочи 🔥
Участники и эксперты максимально заряжены провести ближайшие дни ярко, продуктивно и весело — с комьюнити Код ИБ иначе не бывает 😉
Участники и эксперты максимально заряжены провести ближайшие дни ярко, продуктивно и весело — с комьюнити Код ИБ иначе не бывает 😉
🔥5❤3
Вредоносная инструкция может быть в репозитории уже сейчас ✅
Коммит, тикет или pull request способен передать ИИ-агенту не только данные, но и скрытую команду. Разберём путь такой атаки и способы защиты.
На бесплатном эфире CyberED и Код ИБ Денис Макрушин разберёт безопасность ИИ-агентов на реальных примерах.
Записаться на эфир
Как инструкция добирается до сборки.💘
1. Атакующий оставляет текст. Вредоносная инструкция попадает в коммит, тикет или pull request, который будет обрабатывать агент.
2. Агент принимает данные за команду. Модель читает недоверенный текст вместе с рабочим контекстом и может выполнить внедрённую инструкцию.
3. Доступы усиливают последствия. Агент использует разрешённые ему инструменты и получает возможность менять код или обращаться к компонентам инфраструктуры.
4. Команда уходит в CI/CD. Изменение попадает в процесс сборки, где агент способен запустить действие с привилегиями среды.
5. Обычная проверка не замечает подмену. Поведение агента недетерминировано и может меняться без изменения кода. Поэтому pull request уже нельзя считать достаточной контрольной точкой.
Что проверить в своём процессе
⚔️какие внешние тексты читает агент и считает ли он их инструкциями;
⚔️какие права и инструменты доступны агенту в репозитории и CI/CD;
⚔️фиксируются ли действия агента и вызовы подключённых МСР-серверов;
⚔️проверяются ли входные и выходные данные с помощью guardrails;
⚔️включены ли Al red teaming и аудит МСР-серверов в CI/CD
Разбери реальные атаки вместе с экспертом
На эфире Денис Макрушин разберёт prompt injection через pull request, утечки через МСР, обход guardrails и переход от Secure SDLC к ADLC.
Встреча пройдёт в формате живого разбора. Ты сможешь задать свой вопрос и понять, какие контроли нужны агенту после подключения к коду, АРІ и рабочей инфраструктуре.
Коммит, тикет или pull request способен передать ИИ-агенту не только данные, но и скрытую команду. Разберём путь такой атаки и способы защиты.
На бесплатном эфире CyberED и Код ИБ Денис Макрушин разберёт безопасность ИИ-агентов на реальных примерах.
Записаться на эфир
Как инструкция добирается до сборки.
1. Атакующий оставляет текст. Вредоносная инструкция попадает в коммит, тикет или pull request, который будет обрабатывать агент.
2. Агент принимает данные за команду. Модель читает недоверенный текст вместе с рабочим контекстом и может выполнить внедрённую инструкцию.
3. Доступы усиливают последствия. Агент использует разрешённые ему инструменты и получает возможность менять код или обращаться к компонентам инфраструктуры.
4. Команда уходит в CI/CD. Изменение попадает в процесс сборки, где агент способен запустить действие с привилегиями среды.
5. Обычная проверка не замечает подмену. Поведение агента недетерминировано и может меняться без изменения кода. Поэтому pull request уже нельзя считать достаточной контрольной точкой.
Что проверить в своём процессе
⚔️какие внешние тексты читает агент и считает ли он их инструкциями;
⚔️какие права и инструменты доступны агенту в репозитории и CI/CD;
⚔️фиксируются ли действия агента и вызовы подключённых МСР-серверов;
⚔️проверяются ли входные и выходные данные с помощью guardrails;
⚔️включены ли Al red teaming и аудит МСР-серверов в CI/CD
Разбери реальные атаки вместе с экспертом
На эфире Денис Макрушин разберёт prompt injection через pull request, утечки через МСР, обход guardrails и переход от Secure SDLC к ADLC.
Встреча пройдёт в формате живого разбора. Ты сможешь задать свой вопрос и понять, какие контроли нужны агенту после подключения к коду, АРІ и рабочей инфраструктуре.
Please open Telegram to view this post
VIEW IN TELEGRAM