🤖❗️ИИ-сингулярность в кибербезопасности всё ближе?

Наконец-то добрался до новости, о которой собирался написать ещё на прошлой неделе. В CSO Online вышла занимательная статья, которая задаёт определенный вектор дискуссии применении ИИ-технологий в кибербезопасности. Авторами выступили такие именитые эксперты, как Брюс Шнайер (гуру криптографии), Хизер Адкинс (вице-президент по инженерной безопасности в Google и глава Google’s Office of Cybersecurity Resilience) и Гади Эврон (CEO компании Knostic, AI security market leader).

Эксперты пишут, что 🤖 ИИ-агенты с каждым днём становятся всё более компетентными в вопросах автономного пентестинга. За последние месяцы зафиксированы случаи, когда ИИ-агенты не просто находили уязвимости, но и самостоятельно проводили 😘разведку, проникали в сети, похищали данные и, внимание, 🤔вели даже первичную переписку с ransomware-жертвами через панель.

....После входа в систему жертва встречается с чат-ботом на базе искусственного интеллекта, предназначенным для автоматизации общения и оказания психологического давления [на жертву]...

— сообщается в летнем отчёте Picus.

Любопытные факты:

📖ИИ-агент компании XBOW занял первое место в рейтинге лидеров 💻HackerOne в США, обнаружив более 1000 новых уязвимостей за несколько месяцев.

📖ИИ-агенты уже способны патчить и тестировать ПО на наличие уязвимостей без участия человека — примеры показаны на соревнованиях DARPA и AIxCC.

📖 В рамках конкурса DARPA AI Cyber Challenge семь команд из 🤖 CRS-агентов обнаружили 54 уникальные искусственно внедренные уязвимости и успешно исправили 43 из них. ИИ-системы анализировали более 54 миллионов строк кода реального программного обеспечения.

📖Google объявил, что их ИИ-сервис Big Sleep нашел десятки новых уязвимостей в проектах с открытым исходным кодом.

📖По данным Checkpoint, хакеры используют HexStrike-AI для создания автономных агентов, способных сканировать, эксплуатировать и закрепляться в целевых сетях.

📖Китайская компания Cyberspike выпустила инструмент для пентестинга Villager, который использует модель Deepseek для полной автоматизации цепочек атак.

🛡 Как меняется ландшафт угроз по мере прогрессирования наступательных возможностей ИИ-агентов:

⏳Временной лаг. Временное окно между обнаружением уязвимости и ее исправлением практически исчезает. Уже сейчас ИИ-агенты способны сократить время на исследование, создание и эксплуатацию эксплойта до нескольких минут, а в некоторых случаях даже до секунд.

Наблюдается так называемая 🥷 демократизация элитарных навыков. Сложные многоэтапные атаки, ранее доступные только группам APT-уровня, теперь могут быть выполняться автономными ИИ-агентами по команде оператора с минимальными знаниями при условии грамотной настройки системы.

В совокупности вышеописанные два фактора создают угрозу в контексте 🚤масштаба и скорости, на которую существует единственно адекватный ответ — защита, работающая на таких же скоростях. Человек-аналитик физически не способен реагировать на атаки, которые разворачиваются за миллисекунды. Следовательно, защитные меры должны эволюционировать от реагирования по факту инцидента к проактивному, непрерывному поиску и устранению уязвимостей (концепция CD/CR), а также автономному отражению атак.

Параллельно с развитием наступательных систем ускоряется эволюция защиты, и даже вводится понятие ❗️VulnOps. По аналогии с DevOps, VulnOps делает акцент на автоматизации и интеграции поиска уязвимостей. Предполагается, что исследование уязвимостей станет неотъемлемой частью ежедневных операционных задач, выполняемых автоматически и непрерывно для защиты ИТ-инфраструктуры.

👆Если прислушаться к авторитетному мнению экспертов, то мы потенциально приближаемся к сингулярности в сфере кибератак. Рубикон ещё не пройден, но всё впереди...

Примечательно, что у 👮DARPA (пресс-релиз от 8 августа 2025 года) приводит интересную цифру:

😮💸Цифры шокируют: средняя стоимость выполнения одной задачи по поиску и исправлению уязвимости в рамках конкурса составила 🤔всего $152.

✋ @Russian_OSINT

Cloudflare обвиняет Perplexity в том, что те незаконно парсят сайты

Незаконно – это значит обходя предпочтения самого сайта, то есть файл Robots.txt. В последнее время многие добавляют себе такой. В нем содержатся инструкции о том, что ИИ-системам нельзя индексировать страницу.

И, по идее, это должно означать, что твой контент не будет использован для обучения моделей или для, например, агентного поиска, как у Perplexity.

Но Perplexity похоже плевать хотели на чьи-то там предпочтения  😎

По словам Cloudflare, они специально меняют ASN, user agent и другие айдишники, с помощью которых можно идентифицировать ботов, чтобы получать заветные данные.

«Эта активность наблюдалась в десятках тысяч доменов и насчитывала миллионы запросов в день»

Вот ссылка на расследование, если что. Рисерчеры там использовали смесь машинного обучения и сетевой аналитики.

Perplexity, конечно, все отрицают, но самое интересное не это. Самое интересное – что в соцсетях сотни людей встали на защиту стартапа.

По распространенному мнению, Perplexity получает информацию с сайтов «от имени пользователей» и всегда указывает ссылки, а значит – это не считается. В чем они не правы?  💡

Enhancing Video Super-Resolution via Implicit Resampling-based Alignment

🖥 Github: https://github.com/kai422/iart

📕 Paper: https://github.com/kai422/IART/blob/main/arxiv.pdf

🔥Datasets: https://paperswithcode.com/task/video-super-resolution

@ArtificialIntelligencedl

🚀 Diving into Underwater: Segment Anything Model Guided Underwater Salient Instance Segmentation and A Large-scale Dataset


🖥 Github: https://github.com/liamlian0727/usis10k

📕Paper: https://arxiv.org/abs/2406.06039v1

@ArtificialIntelligencedl

🎉Сегодня знаменательный день. Моя первая заметка будет опубликована на портале Ведомости. Отлично )))

Ссылку я сюда залью, публикация завтра