Pluto AI: анализ безопасности кода

Всем привет!

Сегодня хотим рассказать про ещё один сканер безопасности, использующий возможности AI – Pluto AI.

Он был разработан в качестве курсовой работы группой энтузиастов.

Процесс работы с ним достаточно простой:
🍭 Загрузка исходного кода напрямую или через ссылку на репозиторий
🍭 Анализ с использованием AI
🍭 Классификация сработок: критичность, CWE и т.д.
🍭 Вычисление уровня риска от 0 до 100
🍭 Генерация отчёта для предоставления всем заинтересованным

Его «AI-движок» позволяет находить 12 типов ИБ-дефектов: SQLi, XSS, использование жёстко закодированных паролей и т.д.

В качестве основной модели используется Gemini 1.5.

Помимо этого, Pluto AI генерирует рекомендации по устранению ИБ-дефектов и может «общаться» с пользователем через встроенный чат.

Вряд ли стоит ожидать от него чего-то сверхъестественного, но для ознакомления и изучения «внутренностей» может подойти.

Метрики масштабирования в Kubernetes

Всем привет!

(Автоматическое) масштабирование – крайне интересная тема. На первый взгляд она кажется достаточно простой. Но лишь на первый, пока не начнутся вопросы.

Масштабироваться реактивно? Проактивно? Как долго оставлять «неиспользуемые» ресурсы? Как контролировать масштабирование, чтобы оно не вышло из-под контроля?..

Автор статьи предлагает рассмотреть 5 метрик, которые могут помочь сделать процесс контролируемым.

Среди них:
🍭 Committed capacity percentage. То, насколько используются существующие мощности
🍭 Error rates. Что происходит в момент масштабирования?
🍭 Mean Time to First Byte (MTFB). Как много проходит времени с момента принятия решения о масштабировании до выполнения полезной работы сервисом, ресурсы которого масштабируются?
🍭 Application disruption. Влияет ли масштабирование на нарушение работоспособности запущенных приложений
🍭 Application churn. Что происходит, если средство масштабирования определяет потребность в 2,5 реплики, но такого быть не может?

По мнению Автора, отслеживание этих метрик может помочь оптимизировать процесс (автоматического) масштабирования.

Увы, статья детально не раскрывает каждую метрику в отдельности… Но! Автор собирается сделать это в отдельных статьях.

Помимо самих метрик в материале очень много интересных рассуждений на тему оптимального использования ресурсов.

Рекомендуем!

Композиционный анализ C/C++ проектов

Всем привет!

Разрешить зависимости, сформировать SBoM, проанализировать его на наличие уязвимостей и обработать их в соответствии с процессами, принятыми в компании.

Казалось бы, всё просто! Но дьявол, как и всегда, кроется в деталях. Особенно для C/C++ проектов, где (как правило) нет удобного пакетного менеджера/перечня зависимостей, который может послужить отправной точкой для исследования.

Как быть в этом случае? Ответ можно найти в статье от CodeScoring!

Ребята рассматривают:
🍭 Как можно выяснить название и версию библиотеки, с какими нюансами можно столкнуться
🍭 Как определить те зависимости, которые попали в конечный артефакт/поставку
🍭 Почему для одного ПО может быть 2 разных SBoM
🍭 Где взять дополнительную информацию о библиотеке перед включением её в SBoM
🍭 Как связать найденные пакеты с уязвимостями, если PURL (не всегда) присутствует и не только

Каждый вопрос раскрывается достаточно подробно, с примерами и рекомендациями.

Помимо этого, рассматривается очень много различного рода нюансов, с которыми можно столкнуться при композиционном анализе C/C++ проектов.

Однозначно к прочтению!

Анализ зависимостей и инструментария разработки ПО

Всем привет!

Анализ ПО начинается не с запуска сканеров, а с понимания того, что это такое, как это устроено, как собирается, как тестируется и т.д.

Т.е. с некоторой метаинформации о проекте. Собирать её можно разными способами. Можно «в ручном режиме», а можно с использованием средств автоматизации.

Несколько полезных утилит, которые помогут решить задачу, сделал Andrew Nesbitt (мы писали про его статью, посвященную модели угроз пакетных менеджеров).

Первая – brief – используется для получения информации об используемых языках, пакетных менеджерах, тестах, сборке, количестве строк и т.д.

Вторая – git-pkgs – позволяет анализировать используемые зависимости, в том числе по всей git-истории.

Основными её командами являются list, history, blame, diff и т.д. Они позволяют быстро получить ответ на вопрос «откуда эта зависимость появилась в проекте».

Обе утилиты ничего не «додумывают». Фактически, они собирают информацию, которую могут получить за счёт анализа репозитория.

Подробности, параметры установки/запуска и примеры содержания генерируемых отчётов можно найти в GitHub-репозиториях или в документации.

Vaikora LLM Gateway

Всем привет!

С повсеместным использованием AI-агентов всё чаще встречается вопрос, связанный с информационной безопасностью.

Это породило создание отдельной группы инструментов, задача которых – контролировать происходящее.

Vaikora LLM Gateway является представителем этой группы.

Если просто, то он «находится» между AI-агентами и «конечными системами» (LLM, базы данных, MCP, API и т.д.).

Его задача состоит в перехвате каждого действия, которое хочет совершить агент и анализе его на соответствие определённому набору политик.

Каждому действию присваивается статус: ALLOW, ALLOW_LOG, CONSTRAIN или BLOCK.

На текущий момент Vaikora LLM Gateway работает со следующими LLM: OpenAI, Anthropic, Google Gemini и OpenRouter.

Политики позволяют обнаруживать разные активности: утечку конфиденциальной информации, jailbreak, prompt injection и не только.

Сам по себе «движок правил» является детерминированным и не использует нейронные сети, что позволяет получать идентичные результаты на одни и те же действия.

Подробнее о возможностях утилиты можно прочесть в GitHub-репозитории проекта.

Platform Skills

Всем привет!

По ссылке доступен GitHub-репозиторий, в котором можно найти внушительный набор skills для работы с элементами ИТ-инфраструктуры и безопасности.

Поддерживаются такие системы как: Kubernetes, Argo CD, Flux CD, Terraform, Kyverno, Trivy, Kingfisher и многие другие.

Для каждой из поддерживаемых систем определён набор skills и возможностей.

Например, можно создавать, тестировать и проводить аудит политик Kyverno. Или мигрировать их на новый CEL-синтаксис.

Запускать сканирования Trivy, осуществлять поиск проблем и их причин в кластере Kubernetes, создавать роли т.д.

Полный перечень доступных команд можно найти в файле COMMANDS.md.

Указанный набор skills доступен для GitHub Copilot, Claude Code, Codex, Cursor.

Больше информации о возможностях skills, их устройстве, запуске и результатах работы можно найти в GitHub-репозитории проекта.

AI Coding Agent Security Benchmark

Всем привет!

Команда Endor Labs задалась вопросом насколько хорошо AI пишет безопасный код.

Для этого они провели анализ 13 агентов и моделей с использованием SusVibes Benchmark.

200 задач из 108 open-source проектов, написанных на Python. При этом измерялась не только безопасность, но и корректное (ожидаемое) функционирование результата.

Из ключевых результатов можно отметить:
🍭 Существует «разрыв» между корректным функционированием и безопасностью
🍭 Модели стали сильно лучше писать код с точки зрения работоспособности, но не безопасности
🍭 Агенты «жульничают» 😅 Да, бывало так, что они просто находили подходящее решение вместо reasoning
🍭 Одна и та же модель может вести себя по-разному при работе с разными агентами
🍭 Та модель, что лучше всех справляется с функциональной частью может быть не самой лучшей с точки зрения ИБ

И это далеко не всё, что есть в исследовании. Рассматривались следующие модели: Claude Sonnet, Kimi, Gemini, GPT.

Кто и в чём победил? Ответы есть в статье, как и множество деталей о проведённой работе.

Рекомендуем к ознакомлению!

P.S. Материал опубликован в апреле и уточнён в мае 2026 года. Это важно учитывать, ведь, увы, подобные исследования «устаревают» достаточно быстро.

Но! Это не делает их менее интересными ☺️

Удаление чувствительных данных из журналов событий

Всем привет!

Утечки конфиденциальных данных при разработке ПО не редкость. Данные могут попасть в исходные коды, конфигурационные файлы, сообщения commit и не только.

Не стоит забывать о том, что конфиденциальные данные могут быть разглашены и во время эксплуатации ПО.

Например, через журналы событий: либо так настроен уровень сбора данных, либо просто «забыли это поправить».

Чтобы удалить все «ненужные данные» можно воспользоваться PII-Shield. Эта утилита помогает решить проблему при работе с Kubernetes.

Работает достаточно просто: sidecar, который «перехватывает» stdout/stderr, анализирует записи на наличие чувствительных данных и удаляет их.

PII-Shield может найти секреты (API-ключи, сертификаты, логины/пароли), телефонные номера.

При необходимости можно добавлять собственные regex-правила.

Помимо поиска «по шаблонам» добавлена возможность идентификации чувствительных данных через анализ энтропии.

Подробнее об утилите (установка, настройка, интеграция с различными системами, описание возможностей) можно прочесть в GitHub-репозитории или на официальном сайте.

Генерация подозрительных событий

Всем привет!

По ссылке можно найти репозиторий с утилитой, которая позволяет генерировать подозрительные события.

Цель проста – проверять то, насколько используемые средства защиты смогут их идентифицировать.

Репозиторий создан для Falco, но это не мешает использовать его и для других систем.

Глобально события делятся на:
🍭 Syscals. Изменений привилегий, создание файлов, запуск процессов, чтение данных и т.д.
🍭 Kubernetes. Создание привилегированных ролей, создание pod с небезопасными mounts, создание ServiceAccount и т.д.

Можно запускать генерацию как для всех событий, так и для выбранного «набора».

Подробнее о возможностях утилиты можно прочесть в GitHub-репозитории.

Важно (!): event-generator рекомендуется запускать в изолированной среде, т.к. некоторые команды могут изменить настройки системы (например, изменение файлов в /bin, /etc, /dev и т.д.)

Vulnerable Bank Application!

Всем привет!

Да, всё так! Ещё одно «заведомо уязвимое приложение»!

На этот раз «эмулятор банка»: AuthN/Z, переводы денежных средств, аналитика транзакций, наличие API с merchant и многое другое!

И много-много-много уязвимостей, сгруппированных по типам:
🍭 Уязвимости AuthN/Z
🍭 Безопасность данных
🍭 Операции с файлами
🍭 Уязвимости виртуальных карт
🍭 Уязвимости в AI Customer Support и не только

Полный перечень того, что можно найти «внутри», представлен в GitHub-репозитории проекта.

Также доступно небольшое руководство, которое поможет решить задания.

Запустить всё можно локально, а если хочется посмотреть, как выглядит Vulnerable Bank Application, то можно пройти по ссылке.

Важно (!): исключительно в образовательных целях и не для чего больше ☺️

Wardline: Control Plane for AI Agents

Всем привет!

Не важно, как это называется – AI Gateway или Control Plane for AI Agents.

Суть одна – некоторый «proxy», который позволяет контролировать то, что делают агенты.

Wardline – ещё один open-source пример реализации подобной концепции.

Он перехватывает запросы, определяет identity, применяет политики, оценивает потенциальный «бюджет» и пытается идентифицировать аномалии.

Все результаты его действий записываются в журнал.

Политики можно писать в разных форматах: YAML, OPA/Rego и Cedar.

В качестве контролирующий действий можно выбрать: allow, deny, throttled (превышение «бюджета»), blocked (identity заблокирована при анализе аномалий) и не только.

Помимо этого, Wardline поддерживает множество разных возможностей, среди которых: SSO, контроль доступа с использованием RBAC, возможность создания approval-правил и т.д.

Всё это описано в официальной документации на решение.

Результаты работы можно смотреть в графическом web-интерфейсе.

Кстати, если хочется посмотреть как всё это выглядит, можно запустить /demo/run.sh, который «поставляется» вместе с Wardline.