Если ты тоже хочешь iPhone
Duo, набери🤙

Шучу, айфон я вам конечно не дам, но я чет только сегодня узнала что мои коллеги во главе с вообще любимой коллегой делают вебинар по WAF:) там обещают показать интересное, например, атаки на магазины, как защищаться от атак с помощью ИИ и обсудим таки уже IPhone в первые дни выхода 💅

Мои хорошие, по-моему пора написать это тут. Я не размещаю рекламу вообще. Вот никак, никому, ни почему, просто не размещаю и всё.

Любая публикация мероприятия или компании или какого-то чего-то коммерческого или нет здесь бывает ровно по одной причине - я приложила к этому руку. Все. Мы здесь странное комьюнити аппсеков/продсеков/девсеков и живем как хотим 😁 максимум, можете увидеть вакансию, и то, если я там сама как-то есть:)

Поэтому, ноу, никаких реклам🥰люблю и надеюсь на понимание!

Пожалуй, одна из самых показательных supply chain историй за последний квартал. Просто домен-заглушка, который годами считался безобидным текстом в документации, начал отвечать.
Исследователи Manifold Security нашли third-party[.]com в документации, тестах, skills для ИИ-агентов и инструкциях к MCP-серверам. GitHub показывает упоминания более чем в 1 700 публичных репозиториях, включая капец какие популярные проекты типа Chromium, Vercel и Sanity. Проблема в одной мелочи: в отличие от example[.]com, этот домен не зарезервирован IANA для примеров. У него есть реальный владелец, а содержимое можно поменять в любой момент. Минимум с июня 2026 года Windows-пользователям там показывали поддельную проверку Cloudflare. Страница незаметно помещала PowerShell-команду в буфер обмена, а потом предлагала нажать Win+R, вставить её и запустить…

В родненьком SSDLC мы привыкли учитывать пакеты, образы, библиотеки, скрипты и внешние компоненты. Домен внутри комментария или README обычно воспринимается как строка. Но для ИИ-агента строка с URL уже является вполне себе инструкцией: сходи по адресу, получи данные и что-нибудь с ними сделай. Ходи туда - делай сё💅 Потом ребята проверили и другие популярные заглушки. Нашли ещё 13 незарезервированных доменов, упомянутых в 1 536 agent skills. Два из них, yoursite[.]com и your-domain[.]com, уже перенаправляли посетителей на scareware и мошеннические инвестиционные страницы. Вместе они встречаются более чем в 350 тысячах файлов на GitHub и примерно в 350 скиллов.

Статический анализ содержимого файла здесь кстати почти бессилен: файл-то остался прежним. А я говорила, как ИИ изменит аппсек и мы все охренеем…

Я бы в целом, наверно, сходила и проверила что у сейчас в коде у вас все в порядке в этом плане. Вот этот списочек чекните:
- незарезервированные домены-заглушки в коде, промптах, skills, MCP-конфигурациях и внутренней документации
- использование только example[.]com, example[.]org, example[.]net и .example только там, где нужен пример
- egress для CI-раннеров и агентных песочниц по allow листу
- контроль внешних URL не только при коммите, но и в момент обращения к ним.

Какой-то долгий философский пост получился…

Я все-таки всем своим сердечком люблю аппсек♥️

И я не могу про него не говорить и не быть в нем - приходите вот сюда, обсудим полезное да и просто увидимся!

Установить SDK для безопасного запуска AI-кода и получить стилер ещё до запуска песочницы: это число на приколе как будто

8 октября в tensorlake 0.5.144 обнаружили Shai-Hulud: вредонос запускался через preinstall и собирал секреты из локальных файлов, CI, Kubernetes и Vault. Агенту даже не нужно было начинать работать, достаточно установки пакета с разрешёнными lifecycle-скриптами. Кажется, в threat model безопасной песочницы стоит первым пунктом добавить вопрос про то, как ее вообще ставят...

Ты должен был бороться со злом, а не примкнуть к нему

GitLab и критическая уязвимость AI Gateway с CVSS 9.9 (а чего не 10?): пользователь с доступом к Duo Agent Platform при определённых условиях мог через специально подготовленную конфигурацию workflow выйти из песочницы шаблонов промптов и выполнять команды на шлюзе. GitLab уже исправил свои шлюзы, владельцам self-hosted установок нужно обновляться самим. Меня в этой истории цепляет граница доверия и вообще, я тут как бы про ИБ в ИИ и ИБ в разработке, а Гитлаб и тут и тут немного лажанул (почти десятОЧКА)

Помните, в далеком 2023 мы тут голосовали за наполнение канала всякими полезностями. Помню, был месяц API Security, разборы подходов к моделированию угроз и прочее. Хотите такое?

Или может еще какой интерактив ? Мы тут с вами как-то разыгрывали учпочмаки за лучший мем.. короче, велком в опрос котёнки 🐈‍⬛🐈!