Всеобъемлющая коллекция уязвимостей языковых моделей, составленная на основе передовых научных работ и реальных открытий.

https://www.promptfoo.dev/lm-security-db

Agentic platform, диалоговый интерфейс для обширной базы данных Google об угрозах, позволяет пользователям взаимодействовать со специализированными ИИ-агентами, чтобы ускорять расследования в сфере безопасности, анализировать потенциальные угрозы и получать мгновенные ответы на вопросы, связанные с безопасностью.
Платформа призвана упростить анализ угроз, позволяя пользователям общаться напрямую с нашими агентами, работающими на основе больших языковых моделей (БЯМ) и опирающимися на наши обширные данные о безопасности.

Agentic, созданный на базе Gemini 3, обеспечивает беспрепятственный доступ ко всей экосистеме Google Threat Intelligence. Благодаря интеграции отчетов о доказательствах компрометации (файлы, URL-адреса, IP-адреса доменов), объектов угроз (действующие лица, вредоносное ПО, кампании, отчеты, уязвимости), портала с документацией, функции частного сканирования и IoC Stream и других инструментов, он позволяет пользователям решать сложные многоязычные задачи, такие как:
"Что такое приватное сканирование в Google Threat Intelligence?"
"Как мне запросить GTI для файлов конфигурации вредоносного ПО RedLine?" - который позволяет выполнить запрос и вычислить общность IOC в Agentic или открыть в Google Threat Intelligence.
"Получаю ли я уведомления от какого-либо профиля угрозы в моем потоке IoC?"
"Генерировал ли какой-либо субъект угрозы уведомления в моем потоке IoC?"


https://gtidocs.virustotal.com/docs/agentic-platform

Для аналитиков разведки отслеживание киберпреступников в даркнете — чрезвычайно трудоемкий и зачастую изматывающий процесс.
Сложность этой задачи постоянно возрастает из-за распространения форумов, посвященных различным видам киберпреступлений, в том числе кардингу, продаже различных типов данных, утечкам и хищениям. Эта проблема отслеживания усугубляется еще и тем, что многие форумы блокируются в ходе совместных операций правоохранительных органов, но на их месте быстро появляются новые, что значительно усложняет непрерывный мониторинг.
В этом посте мы расскажем о реальных случаях из наших внутренних расследований, демонстрирующих возможности GTI Agentic и недавно запущенного модуля Dark Web (DDW). Мы также добавили новые модификаторы для расширения возможностей поиска на платформе.
Agentic и новый модуль DDW позволяют нам гораздо проще осуществлять поиск и смену направления, используя либо естественный язык, либо специальные модификаторы для сложных сценариев, с которыми ИИ пока не справляется. Это действительно просто и удобно, поскольку мы активно собираем данные со всевозможных форумов и из других источников. Вместо того чтобы переходить с одного форума на другой, вы можете использовать эти функции для оптимизации текущих расследований.

https://security.googlecloudcommunity.com/community-blog-42/active-dark-web-monitoring-with-google-threat-intelligence-and-agentic-ti-7366

прочитала лучшую научную фантастику на сегодняшний день: https://t.me/abstractDL

на ночь оставила это:

#короткие_ответы_на_серьезные_вопросы

Runtime-безопасность ИИ-агентов::
-Наблюдаемость (Observability): Полное логирование всей "траектории исполнения": входной контекст, цепочка мыслей (Chain of Thought), вызовы инструментов, параметры, ответы, изменения в памяти и результаты политик безопасности.
-Детекция аномалий (Anomaly Detection): Выявление отклонений от ожидаемого поведения агента.
-Аварийная остановка (Kill Switch): Возможность в любой момент принудительно остановить выполнение агента.

OWASP Agentic AI CTF — FinBot AI Assistant - CTF, предназначенную для изучения уязвимостей в системах агентного ИИ.

https://github.com/OWASP-ASI/finbot-ctf-demo

все чаще вендоры ИБ в МЛ делают свои собственные блоги на своих сайтах,
для того, чтобы покупатели прониклись их экспертизой,
я собираю коллекцию таких блогов, вот еще один:

https://aiceberg.ai/blogs

Госдума приняла в третьем чтении закон о «суверенном» и «национальном» искусственном интеллекте.

Документ вводит два типа ИИ-моделей. «Суверенные» должны полностью разрабатываться российскими компаниями и хранить данные на российских серверах, «национальным» разрешат использовать зарубежные компоненты.

Применять такие системы в чувствительных сферах можно будет только с одобрения правительства, а для работы с банковской системой потребуется согласование с Центробанком. Минцифры станет единым регулятором в сфере ИИ. Основные положения закона вступят в силу 1 сентября 2026 года.

Глава комитета Госдумы по информационной политике Сергей Боярский заявил, что суверенный ИИ должен соответствовать «традиционным ценностям».

Президент InfoWatch Наталья Касперская раскритиковала закон, заявив, что он закрепляет доминирующее положение «Сбера» и «Яндекса», игнорирует вопросы безопасности и «приведёт к краху отечественной отрасли ИИ».

ACS — Agent Control Standard
https://agentcontrolstandard.org/

Что должно быть в AI SOC:

-База коррелированных данных в режиме реального времени. Вердикт ИИ хорош ровно настолько, насколько хорош контекст, на котором он основан. Спросите, коррелируются ли данные об идентификации, конфигурации, ресурсах и базовых показателях постоянно (подход на основе графа знаний) или собираются из необработанных журналов во время выполнения запроса. Сама по себе скорость мало что значит: быстрый механизм выполнения запросов также возвращает результаты за секунды. Вместо этого выберите случайную личность и выясните, какие у нее права (администратор или нет), как изменилась ее конфигурация и каковы ее базовые поведенческие характеристики (обычное местоположение, IP-адрес, автономная система нумерации, пользовательский агент и т. д.). Ничто из этого нельзя подделать во время запроса.
-Агенты полного цикла. Попросите поставщика пройти весь путь от обнаружения инцидента до его сортировки, расследования и ответных действий, а также проследите, сохраняется ли контекст на каждом этапе или собирается заново. Многие платформы автоматизируют сортировку по приоритетам первого уровня и на этом останавливаются, что ускоряет обработку очереди оповещений, но не ускоряет работу SOC.
-Вердикты, подкрепленные доказательствами и поддающиеся проверке. Попросите предоставить доказательства, лежащие в основе вердикта, — каждую строку журнала, корреляцию и вывод, которые привели к вердикту, — и убедитесь, что ваши аналитики могут воспроизвести результат на основе тех же данных. Вердикт, который нельзя проверить, — это всего лишь мнение.
-Обнаружение за пределами SIEM. Реальные инциденты связаны с облаком, SaaS, идентификацией и кодом, однако большая часть этой телеметрии никогда не доходит до SIEM, потому что ее получение обходится слишком дорого. Перечислите источники, которые ваш стек оставляет недоступными, такие как журналы облачного аудита большого объема, GitHub и Google Workspace, затем попросите поставщика показать срабатывание обнаружения на них и провести расследование по ним.
-Поэтапная автономия под контролем человека. Полная автономия в первый день - это предупреждающий знак, как и платформа, которая никогда не зарабатывает больше, чем доступ только для чтения. Выясните, как формируется доверие, какие действия начинаются как рекомендации, какие записи доказательств открывают доступ к автоматическому выполнению и где по-прежнему требуется подтверждение человека. Убедитесь, что вы можете настраивать эти пороговые значения для каждого типа действий.
-Измеримые результаты. Определите показатели до начала пилотного проекта: процент ложноположительных срабатываний и среднее время, затрачиваемое на расследование и реагирование. Сравните результаты с текущими показателями и узнайте у клиентов, что изменилось в их работе за первый квартал. Если в конечном итоге вы захотите, чтобы поставщик выполнял эту работу за вас, убедитесь, что в рамках управляемой услуги используется тот же продукт, с которым работает ваша команда.

https://thehackernews.com/2026/07/how-to-evaluate-ai-soc-platform-in-2026.html

Исследователи из подразделения 42 выявили, что LLM постоянно генерируют «галлюцинации» в виде веб‑доменов законных брендов.
Злоумышленники используют это, заранее регистрируя такие домены. Атака проходит в четыре этапа:

-Discover: злоумышленники выявляют паттерны «галлюцинаций» LLM для целевого бренда.
-Act: превентивная регистрация наиболее ценных фантомных доменов.
-Lure: LLM выступает механизмом доставки атаки — рекомендует пользователям перейти на подконтрольный злоумышленникам домен.
-Bypass: новый домен не имеет репутации, поэтому обходит традиционные средства защиты.

Результаты исследования
Авторы проанализировали 913 мировых брендов и выполнили 685 339 URL‑запросов к двум моделям LLM. Итоги: 2
сгенерировано 2,1 млн URL‑адресов;
выявлено 13 229 подтверждённых вредоносных URL (0,61 % от общего числа);
обнаружено около 250 000 «галлюцинаторных» доменов, которые ещё не зарегистрированы.
Среди вредоносных URL: 67,2 % — сайты с вредоносным ПО, 16,2 % — фишинговые страницы, 13,7 % — Grayware (например, рекламное ПО), а также 3 % — инфраструктура командного управления (C2).

Реальные случаи атак
Зафиксированы примеры использования фантомного сквоттинга: фишинговая кампания с набором Montana Empire (окно эксплуатации — 23 дня), распространение вредоносного Android‑приложения под видом сервиса национальной почты (окно эксплуатации — 51 день), а также другие атаки, в том числе нацеленные на банк в ОАЭ.

Особенности защиты
Традиционные средства защиты неэффективны, потому что новые домены не имеют негативной репутации. Единственный действенный способ защиты — проактивное обнаружение: составить список потенциальных фантомных доменов на основе «галлюминаций» LLM, мониторить регистрацию доменов в реальном времени, а также реагировать до того, как злоумышленник использует домен.

https://unit42.paloaltonetworks.com/phantom-squatting-hallucinated-web-domains/