Хорошо :)

В Калужской Бауманке проходит ставшая уже традиционной Неделя Безопасника , партнёрами и спонсорами которой уже традиционно мы являемся. Рады работать с КФ МГТУ - одним из поставщиков кадров для компании Рекрипт. Выступили с докладом, рассказали про влияние ИИ на ИБ и, конечно же, про наше детище - Платформу для анализв файлов "Рекрипториум".
Отдельно хочется отметить работу наших самых молодых специалистов - студентов КФ МГТУ. Несмотря на юный возраст, коллеги успешно выполняют весьма не тривиальные задачи. Коллеги, вы молодцы! Рады видеть вас в наших рядах! Обязвтельно будем продолжать и расширять сотрудничество с КФ МГТУ! Есть масса идей и планов. Отдельное спасибо Анастасии Борисовне Лачихиной за организацию данного мероприятия!

Мы много говорим про Рекрипториум, но лучше один раз увидеть, чем 100 раз услышать

#рекрипториум

Хорошая свежая и достаточно подробная статья про эволюцию атак Authentication reflection от древней базы до CVE-2025-54918. Интересное чтение на выходные.

#почитать #offensive #windows

Эта статья - очередной пример того, как надо грамотно использовать ИИ для решения практических задач. После того как люди попытались решить задачу поиска уязвимостей с помощью LLM в лоб, подсовывая модели километровые портянки кода с наивным расчётом на "дальше оно само", наступило некоторое разочарование: оно само, "внезапно", не получается. Однако, если использовать традиционные подходы к статическому анализу в качестве префильтра, а потом скормить результаты, нет, не одной, а двум моделям, первая из которых - "маленькая" - тоже фильтр, результаты выглядят весьма многообещающе: автору удалось переоткрыть CVE-2025-37778. Это тип уязвимости, которую сложно искать: use-after-free. И это много кода. Т.е., по сути, декомпозиция задачи, плюс, использование инструментов вместо попыток решения в лоб позволяют добиться искомого. Причём, судя по результатам эксперимента, от запуска к запуску с практически гарантированной вероятностью искомого результата, а не как оно обычно бывает.
ИИ - это не волшебная пилюля, а мощный инструмент, который нужно понимать и с которым нужно уметь работать.

#почитать #ии

Вроде, у Айзека Азимова был рассказ, в котором для тренировок был создан робот для игры в пинг-понг. После этого был создан ещё один такой робот. Двух роботов поставили играть друг против друга в расчёте, что оба покажут класс. Однако, быстро попробовав некотрое количество комбинаций, роботы начали уныло перекидывать шарик друг другу. В этой статье, являющейся продолжением работы, о которой мы писали ранее, сделано примерно то же самое. Локально развёрнутую LLM зарегистрировали в качестве AMSI-провайдера, скармливая ей на вход PowerShell-скрипты. Другую LLM заставили генерировать скрипты для атаки. В качестве одного из побочных эффектов получился датасет боевых рабочих скриптов (верификация там тоже предусмотрена), на котором авторы предлагают обучать модели полегче.
Что можно здесь сказать... Мы, и не только мы, настороженно относимся к синтетическим датасетам. Риск переобучить модель весьма и весьма велик, что наши, и не только наши, эксперименты подтверждают. Лёгкие и быстрые модели надо обучать на реальных датасетах с, возможно, небольшой долей синтетики. Тогда результат будет поинтереснее. Сейчас как раз проводим подобные эксперименты с целью улучшения быстрых моделей Рекрипториума. Эксперименты по улучшению моделей у нас идут постоянно. Лучшие результаты попадают в релиз.

Есть серьёзные сомнения в способности локальных LLM, развёртываемых на игровом ноутбуке или ноутбуке с NPU, качественно классифицировать скрипты. Наши эксперименты этого не подтверждают. Впрочем, даже одной относительно недорогой Nvidia Tesla A100 40 Gb, кластер из которых мы арендуем для наших многочисленных экспериментов у наших добрых друзей из HPC Park, при некоторой сноровке для задачи действительно качественного автоматического анализа скриптов с точностью, близкой к 100%, вполне достаточно. Независимо от размера и сложности этих скриптов. Те, кто используют и пилотируют наш Рекрипториум, думаем, могут это подтвердить.

Заявление, что LLM в этой схеме будут совершенствоваться в борьбе одна с другой, не совсем верно. Они не дообучаются в этой ситуации. Просто игра с контекстом. Скорее, это как раз та самая история, описанная в рассказе Азимова (или это всё-таки не его рассказ). Такой вот пинг-понг.

На самом деле статья действительно интересная. Рекомендуем к прочтению.

#почитать #ии #windows #рекрипториум

В эту пронизывающую холодным ветром погоду хочется уютно устроиться где-нибудь в тепле и почитать что-нибудь интересное. Учитывая некоторые широко известные особенности российского мобильного интернета, читать в нём особо нечего. Возвращаемся к позабытому - к бумажным книгам. Если хочется чего-то развивающего кругозор с интересной, но не зубодробительной математикой, написанного увелкательным слогом, то "Простая одержимость" Дербишира - одна из тех самых книг. Автор решает весьма непростую задачу, объясняя такую достаточно сложную вещь, как гипотеза Римана, простыми словами, умудряясь при этом держаться достаточно далеко от банальщины. Здесь же, конечно, и дзета-функция Римана, и уточнённая оценка распределения простых чисел (у людей, неравнодушных к криптографии, здесь звенит звоночек), и вишенкой на торте - связь между теорией чисел и анализом. Всё довольно простым языком. Студенты младших курсов не математических ВУЗ-ов (и даже, вполне вероятно, не технических, если им будет это интересно) вполне в состоянии понять материал. Ну и то, что делает книгу практически уникальной - главы, посвящённые истории и великим людям, которые внесли великий вклад в современную математическую науку.

#почитать

Пока эксперты по всему возбуждённо на полном серьёзе мусолят шуточный пост хорошо известного в наших кругах Питера Гирнуса из Zero Day Initiative (у которых есть некоторые ... особые отношения с Microsoft, надо отметить) про внедрение Microsoft Copilot в крупных компаниях (это примерно как монолог стендап-комика обсуждать на серьёзных щах), другие делают всякие интересные вещи с использованием ИИ. Например, в этом свежем исследовании описывается анализ патчей от Microsoft c помощью многоагентной системы. Это делается, чтобы понять, какую именно проблему или набор оных устраняет патч. Важной особенностью является то, что здесь речь идёт о бинарях. Конечно, это далеко не AEG (Automated Exploit Generation), но люди двигаются, по сути, в этом направлении: многоагентность, RAG, инструменты для реверсинга. Причём, даже особо глубоко и не залезали, но добились вероятности генерирования корректных отчётов в 80%. Такие исследования будут просачиваться в паблик всё чаще.

#reversing #почитать #ии

Мы часто публикуем ссылки на чужие исследования про ИИ в инфобезе. А что же мы сами? У нас в Рекрипте они тоже проводятся, и много. Мы непрерывно этим занимаемся. Благо у нас есть, растёт и развивается команда Data Science, которая тесно взаимодействует с нашими реверсерами, пентестерами и аналитиками. Например, в нашем флагманском продукте - платформе для анализа файлов "Рекрипториум" - модели ИИ и ML обновляются и улучшаются достаточно регулярно. Скоро раскатаем в прод несколько таких улучшений, о чём обязательно здесь напишем.

А что из интересного с использованием LLM? Например, проект, который мы внутри назывем Автореверсер. Сейчас при автоматическом реверсинге бинаря без запуска на исполнение он выдаёт примерно такой текст:



Program Purpose and High-Level Behavior

The program injects shellcode into the explorer.exe process and creates a remote thread to execute the injected code, establishing a mechanism for process manipulation and code execution. It also performs initialization and cleanup for the C runtime, managing memory and thread operations.

Здесь и MCP, и RAG, и локально развёрнутая модель. И, главное, молодая, квалифицированная, талантливая и энергичная команда, которая горит этим проектом. Многие спрашивают о планах на будущее в целом и планах развития Рекрипториума в частности. Вот один из векторов.

#рекрипториум #ии #реверсинг

На прошедшей недавно Неделе Безопасника в Калужской Бауманке после моего доклада был интересный разговор по поводу пузыря ИИ.

Как раз в тему у известного российского экономиста Ивана Данилова (он же - Crimson Alter) вышел интересный пост про ИИ. Он, как, впрочем, многие, считает это финансовым пузырём. Он аргументирует своё мнение расхождением между ожиданиями появления в ближайшее время Artifical General Intelligence (AGI), которые снижаются, и ростом инвестиций в ИИ. Всё выглядит логично, но есть вопрос: а кто сказал, что инвесторы инвестируют именно в AGI и как-то его вообще ожидают? Он им зачем? Ожидают автоматизации не автоматизируемых доселе задач и, как следствие, более эффективного их решения. Инвестируют в это, а не в AGI.

Вторую часть поста стоит процитировать:

А вот опустить на социальное дно для начала пару-тройку-четвёрку миллиардов землян (работников алгоритмизируемого офисного, псевдоинтеллектуального и/или креативного класса) он вполне может уже на текущем уровне развития и обязательно это сделает. А уж стать цифровым наркотиком, от (добровольного) употребления которого миллиарды землян разучатся самостоятельно что-то понимать и думать (а с учётом уже существующих и совершенствующихся ИИ-бойфрендов для леди и ИИ-порно-подружек для мужчин — ещё и общаться с представителями противоположного пола окончательно разучатся) — это тем более гарантировано.

Это, примерно, та самая тема, о которой мы говорили. Стоит повторить основной тезис: чтобы быть успешными и хорошо зарабатывать, нужно не просто хорошо и постоянно учиться, но формировать такие знания и навыки в своей области, чтобы ИИ стал полезным инструментом, а не угрозой, глубоко понимать предметную область. Т.е. это в большинстве своём не типовые, а сложные наукоёмкие задачи, подразумевающие хороший математический бэкграунд.

#ии

Ещё одно исследование про поиск уязвимостей с помощью LLM, которая используется для анализа вывода статического.анализатора кода CodeQL. Цитата:

Такой подход привёл нас к созданию Vulnhalla — инструмента, который пропускает через свои ворота только «настоящие и серьёзные» проблемы. С помощью Vulnhalla всего за два дня работы и с бюджетом менее 80 долларов мы выявили следующие уязвимости:

CVE-2025-38676 (ядро Linux),
CVE-2025-0518 (FFmpeg),
CVE-2025-27151 (Redis),
CVE-2025-8854 (Bullet3),
CVE-2025-9136 (RetroArch),
CVE-2025-9809 (Libretro),
CVE-2025-9810 (Linenoise).
… и мы продолжаем искать новые зацепки

Авторы назвали свой инструмент Vulnhalla. Есть исходники. Подход очень похож на тот, что мы описывали ранее. Похоже, это становится мейнстримом. Оно и логично: префильтр из более простых алгоритмов или моделей (который, хоть и даст изрядное количество False Positives, но позволит солидно уменьшить контекст), а затем уже обработка с помощью LLM.

#ии #почитать #уязвимости

В данной статье автор описывает эксперимент по созданию системы автоматического поиска уязвимостей и подбора эксплоитов для них с помощью лёгкой LLM с всего лишь 1,7 млрд. параметрами. Такая может быть развёрнута дома на игровом ПК или ноутбуке. Для сканирования используется Nmap, результаты cканироавния подаются на вход LLM. Речь идёт не о простом ассистенте, а о практически полной автоматизации сканирования и эксплуатации. Это, по сути, эволюция подходов к созданию получающих всё более широкое распространение инструментов класса BAS (Breach and Attack Simulation). Яркий пример (и для многих - эталон) такого инструмента - это Pentera. Но там нет LLM. Вместо неё обширная, назовём её так, экспертная система - набор детерминированных алгоритмов. Делать такую долго и дорого. Далеко не каждой компании под силу, но с помощью LLM и бесплатных открытых инструментов можно существенно ускорить и удешевить. И, как следствие, понизить порог вхождения. Полагаем, что именно по такому принципу BAS, да и другие продукты в области ИБ, будут теперь строиться.

Результаты эксперимента, в целом, положительные, но есть нюансы, которые описаны в главе Challenges and Solutions. Проанализировав их, можно увидеть, что на самом деле модель пришлось конкретно "ужимать" промптами, максимально снизив поле для галлюцинаций творчества. Это одно из следствий того, что модель маленькая. По сути, автор описывает основные шаги промптами, что не так уж и отличается от "написать всю логику самому". Ошибки при этом всё равно бывают. В частности, автор предлагает вручную анализировать полученные эксплоиты, что сводит на нет всю автоматизацию. Автор смотрит в будущее с оптимизмом, однако, т.к. мы тоже регулярно проводим такого рода эксперименты, можем утверждать, что такой маленькой модели для достижения стабильного положительного результата недостаточно, хотя для PoC вполне сгодится.

Тем не менее, если взять модель посерьёзнее, грамотно её зафайнтюнить и подружить с инструментарием, то результат будет вполне приличным.

#ии #почитать #offensive

Не про инфобез, но интересно.

В далёкой заокеанской стране случилась рассинхронизация: ВВП растёт вместе безработицей. Одна из гипотез - некорректность подсчёта одного из показателей. Другая, наиболее интригующая, связана с масштабным внедрением ИИ, что, если эта гипотеза верна, косвенно подтверждает выкладки Боаза Барака, о которых мы писали ранее.
Чтобы делать выводы, надо подождать и подсобрать данных. Но интригует...

Старая тема с speculative execution и возможными атаками на микропроцессорные архитектуры с использованием нашумевших техник а-ля Spectre и Meltdown живёт. Очередное усовершенствование. Новый класс атак назвали uSpectre.

#почитать #offensive

Бой курантов не за горами, а значит, самое время подвести итоги этого года.

Итак, самое главное: в этом году состоялся релиз нашего флагманского продукта - платформы для анализа файлов "Рекрипториум". Мы шли к этому не один год: создавали сильную команду реверсеров, аналитиков и ИИ-инженеров, формировали уникальную базу вредоносного и чистого ПО, позволяющую действительно качественно обучать наши модели ИИ и машинного обучения, проводили много исследований, прорабатывали микросервисную архитектуру, писали много кода. Эти работы продолжаются, интенсивность этих активностей растёт. Рекрипториум становится всё лучше и лучше, обеспечивая уже сейчас отличное качество анализа файлов. В том числе и без запуска в песочнице. А будет ещё лучше! Причём, те, кто покупают "Рекрипториум" сейчас, получат эти улучшения в качестве регулярных обновлений.

Совсем недавно сертификат ФСТЭК получил антивирус VRProtect для Linux 2.0.0. Мы рады тесному сотрудничеству с компанией "Вычислительные решения" и сопричастности развитию данного продукта. Дальше будет ещё лучше и интереснее!

Нам было бы сложнее проводить наши исследования в области ИИ без наших друзей и партнёров - компании HPC Park. Отличное железо, удобная и безотказная работа с контейнерами, отличная техподдержка! Облачная версия Рекрипториума использует GPU от HPC Park.

Особенно хочется выделить наши отношения с КФ МГТУ имени Н.Э. Баумана, откуда мы черпаем молодые кадры. Мы рады помогать друзьям и коллегам из Бауманки в их чрезвычайно полезных и интересных активностях. Обязательно продолжим это делать!

Друзья, поздравляем вас с Наступающим Новым годом! Счастья, успехов, процветания!

Новогодняя история или тайна CVE-2025-69277.

В день подготовки к празднованию Нового Года, а конкретно - 31.12.2025, была опубликована информация об уязвимости в супер-популярной криптографической библиотеке libsodium. Библиотека используется много где: в блокчейн-проектах (например, Monero, Stellar, ZCash), мессенджерах (например, в Signal и WhatsApp), IoT и т.д. Уязвимость связана с не совсем корректной проверкой принадлежности точки основной подгруппе точек эллиптической кривой.  Описание уязвимости есть по ссылке выше, плюс, в описании к патчу, предложенному моим старым другом и очень крутым специалистом в области эллиптической криптографии и блокчейн Олегом Тараскиным.

На этом месте начинается интересное. Олег, как и многие другие, использует libsodium в своих проектах. Т.к. эти проекты связаны, преимущественно, с финтехом, качеству реализации криптографических примитивов уделяется особое внимание - любое подозрительное поведение индуцирует детальный анализ. Так Олег наткнулся на вышеозначенную ошибку. Будучи человеком вежливым, деликатным и порядочным, он спросил мейнтейнера libsodium Фрэнка Дэниса, как лучше сообщить ему о проблеме с криптографией в его библиотеке. Не описывая саму проблему. Просто сказал, что проблема есть. Не сказал где. Просто запросил корректный способ сообщить о ней. На что получил сухой ответ с предложением сделать pull request. Случилось это 29 декабря ближе к вечеру. Однако уже на следующий день, буквально за несколько часов до патча Олега, вышел патч с исправлением уязвимости, о конкретике которой, подчеркну ещё раз, мейнтейнер не был уведомлен. Мало того, 30 декабря, т.е. буквально на следующий день, вышел вот этот подробный пост с разбором уязвимости. Не просто фикс кодовой базы, но ещё и весьма объёмное, но есть подозрение, что всё-таки довольно оптимистичное с точки зрения опасности, описание проблемы. И ни малейшего намёка на того, кто о проблеме сообщил.
Здесь, конечно, возникает много деликатных вопросов, основной из которых: а действительно ли мейнтейнеры libsodium не знали о проблеме?

#криптография

Свежее, вышедшее буквально вчера, описание многоступенчатый атаки с использованием уязвимостей VMware ESXi. Атака была обнаружена в декабре прошлого года. Там и BYOVD, и эксплуатация уязвимостей, и, как следствие, побег из виртуальной машины, и много ещё интересного.

Это ещё одно практическое подтверждение, что виртуализация не изолирует стопроцентно. Если что-то запускается в песочнице, то имеется вероятность побега из неё, используя, например, уязвимости виртуальной среды. Вот, к примеру, список уязвимостей Xen, используемой в том числе в ряде сетевых песочниц для анализа малвари. Например, в DRAKVUF, которая является донором для ряда продуктов.

#почитать #offensive

Ещё один пример, почему слепо доверять публичным опенсурсным библиотекам может быть крайне опасно. В мае 2025 года в npm-репозитории появился пакет "lotusbail", реализующий работу с API мессенджера WhatsApp (разрабатываемого экстремистской компанией Meta). Этот пакет выполнял все заявленные функции.👌 НО кроме того, содержал зловредную функциональность по перехвату сообщений, контактов, токенов аутентификации и привязке аккаунта жертвы к устройству атакующего. 🤷‍♂️

Зловредный пакет был доступен аж до 23 декабря. За это время его скачали около 60 000 раз. 😱

❓А теперь вопрос: учитывая, что использование готовых библиотек на каждый чих является сейчас best practice, института репутации разработчиков фактически нет (сплошные анонимы и ноунеймы), а вайб-кодинг становится все проще и эффективнее, что мешает таким кейсам становиться массовыми? Вполне вероятно, что вскоре зловредные форки библиотек будут плодиться одним запросом к LLM-ке. 🤔

@avleonovrus #lotusbail #npm #Nodejs #JavaScript #WhatsApp #Meta

Так и есть :)

Ранее мы обещали рассказать об обновлениях Рекрипториума. Платформа совершенствуется постоянно: обновляются базы, улучшаются модели и алгоритмы. Об этом мы, как правило, не пишем в канале. Однако есть особенные истории, которыми хочется делиться. Известно, что текстовые файлы, содержащие код на скриптовых языках, довольно плохо классифицируются антивирусами. Их модели и эвристики, ограниченные сверху мощностями пользовательских рабочих станций и устройств, просто не в состоянии решать эту задачу эффективно. Плюс, языков много, и под каждый нужно писать парсеры, формирующие векторы признаков для моделей. Непростая задача с учётом того, что всё это должно быть написано на компилируемых языках. Это же антивирус, а их не пишут на Python. Примерно полгода назад у меня возникла идея, которую я и озвучил на одном из совещаний: "А почему бы не попробовать обучить одну модель для нескольких языков?". Предпосылки к такому исследованию были: многие признаки вредоносности для многих языков плюс-минус схожи, как и признаки нормальности. Понятно, что оценка будет грубой, но насколько грубой? Сравнится ли такой подход с эвристиками антивирусов? Будет ли значимо лучше? Нужно было это проверить. В случае успеха экономия ресурсов налицо: вместо нескольких парсеров, эвристик и моделей можно получить один модуль. Экономия в разы. Однако у нас в Рекрипториуме уже на тот момент были все необходимые модели и алгоритмы как для быстрого анализа скриптов, так и для детального с использованием локальной LLM. Т.е. задача не была особо актуальной. Скорее, это была факультативная исследовательская задача. Как раз в тот момент к дипломному проекту на годовалых курсах по Data Science от МФТИ приближался один из наших ведущих сотрудников. Почему бы не совместить полезное с полезными и не предложить данную тему в качестве дипломного проекта? Первые результаты показали, что идея с полностью универсальной моделью даёт точность примерно на уровне антивирусов, что нас не особо устраивало. Однако выяснилось, что, если делать не полностью универсально, результат получается вполне приличным. В ходе исследования было испробовано много алгоритмов от разновидностей Random Forest до CodeBERT. В результате родились хорошие ИИ-классификаторы для Python, PHP и JS, превосходящие по качеству наши предыдущие. Они и вошли в недавнее обновление Рекрипториума. Причём, потенциал этих моделей не исчерпан и работа продолжается. Отметим, что речь идёт о быстрой классификации "на лету". Для детального анализа есть LLM.

#ии #рекрипториум

Project Zero опубликовали отличный свежий январский очень подробный разбор цепочки эксплоитов для CVE-2025-54957 и CVE-2025-36934, приводящей к компрометации Google Pixel 9 (взят в качестве примера). С повышениеи привилегий аж до ядра. Пикантности добавляет тот факт, что это zero-click-цепочка. Т.е. не требующая никакой реакции пользователя.
Уязвимости были пофикшены апдейтом от 5 января 2026 года. Разбор вышел 14 января. Читаем, учимся, наслаждаемся.
Раз.
Два.
Три.

#почитать #offensive #уязвимости