Оценка защищенности ИИ: что это такое и какие есть сложности?
 
С начала 2026 г. примерно в 20% запросов на проведение пентеста заказчики интересовались возможностью оценки защищенности ИИ-моделей, используемых в их инфраструктуре. Руководитель департамента оценки защищенности Анастасия Мельникова рассказала, как обстоят дела в этом направлении.
 
➡️ Что проверяем?

Мы оцениваем безопасность как самой LLM, так и окружающей ее инфраструктуры: системных промптов, внешних интеграций, RAG-механизмов, методов авторизации и разграничения доступа и т.д.
 
Моделируем наиболее распространенные сценарии атак, включая prompt injection, jailbreak, атаки на RAG, попытки извлечения конфиденциальных данных через модель, обход ограничений.
 
➡️ Какие есть проблемы?

1. Нет единой методологии. Поэтому качество проверки во многом зависит от глубины экспертизы команды, выбранных подходов и набора тестовых сценариев.
 
2. Нет общепринятых метрик эффективности. Одна и та же атака может оказаться успешной при повторной попытке или после незначительного изменения формулировки запроса. Для генеративных моделей результат не всегда воспроизводим так же, как при классическом тестировании инфраструктуры.
 
3. Протестировать все сценарии невозможно. Модели быстро эволюционируют: регулярно появляются новые версии, способы интеграции и сценарии атак. Кроме того, пространство возможных пользовательских промптов практически не ограничено.

#инструменты

Мы в Max | VK

ИБ-инфраструктура похожа на оркестр. Представьте, что каждый музыкант играет свою партию безупречно, но не обращает внимания на остальных. Слушать такое невозможно. То же самое можно сказать о работе СЗИ. Почему СЗИ не работают слаженно и каких "дирижеров" предлагает рынок, рассказывают архитектор Егор Норкин и руководитель направления «Защита данных» Вячеслав Сенько ➡️ https://securitymedia.org/info/orkestratsiya-szi-kak-prevratit-shum-v-muzyku.html

#экспертиза

Мы в Max | VK

Сделал бэкап = защитился? Да, но не совсем. Руководитель направления по защите данных Вячеслав Сенько рассказывает, почему бэкап нельзя просто положить на полку и рекомендует, как правильно бэкапить 🔼

#экспертиза

Мы в Max | VK

Мошенники нашли новый источник данных: домовые чаты. Как сообщил изданию Lenta.ru руководитель сервиса SBA Сергей Трухачев, теперь злоумышленники используют вполне легальные сервисы мониторинга для изучения сообщений в домовых и районных чатах. Они ищут новые сообщения по заданным ключевым словам, например, «посоветуйте сантехника», «сломался домофон», «нужен электрик», «кто делает поверку счетчиков» или «посоветуйте мастера».

Детали ➡️ https://lenta.ru/news/2026/08/26/moshenniki-stali-monitorit-domovye-i-rayonnye-chaty-dlya-poiska-zhertv/

#аналитика

Спрос на системы класса «сетевое детектирование и реагирование» (Network Detection and Response, NDR) среди зрелых заказчиков в I квартале 2026 года вырос на 16 % по сравнению с тем же периодом 2025 года. Это отражение поступательной тенденции: базовых средств защиты сети перестаёт хватать, нужны передовые инструменты, считает руководитель направления защиты инфраструктуры Дмитрий Семёнов. Дмитрий рассказал изданию Anti Malware:
➡️ каково место NDR в сетевой безопасности;
➡️ что он позволяет делать и в чём ограничения;
➡️ как происходит внедрение и как жить после него.
ㅤ
Читать ➡️ https://www.anti-malware.ru/analytics/Technology_Analysis/Why-do-companies-implement-NDR
ㅤ
#инструменты

Хотя сам по себе аудит ИБ не решает проблемы, но становится отправной точкой для их решения.

Задача аудита — сделать проблемы видимыми и понятными, а затем предложить пути решения. Как именно, рассказывает ведущий аудитор Кросстеха Ашраф Садыхбеков.

Аудит ИБ позволяет оценить:
➡️Актуальный уровень информационной безопасности: как средства защиты информации внедрены, как они работают, какие политики используются, насколько они отражают реальную ситуацию и т.д.

➡️Риски. Важно не только детально описать ситуацию, но и осознавать критичность проблем и вероятные сценарии их эксплуатации, чтобы приоритизировать дальнейшие проекты.

➡️Еще одна составляющая аудита — планы по развитию системы информационной безопасности. Когда есть представление об активах, проблемах, их критичности можно сформировать план проектов по совершенствованию имеющихся процессов и системы ИБ.

Кому-то может понадобиться внедрение целого стека СЗИ и переработка политик, а кому-то потребуется обновление правил мониторинга. Но в обоих случаях работы стартуют с аудита.

Подробнее о видах и регулярности аудита ➡️ https://www.itweek.ru/security/article/detail.php?ID=235220

#инструменты

Выбираем новую элиту кибербеза

В сфере ИБ появился рейтинг, при помощи которого смогут заявить о себе CISO, предприниматели и технические эксперты. Рейтинг проводит издание SecPost, он получил название «Новая элита кибербеза».

Победителей рейтинга выберут в два этапа: первый – народное голосование, второй – голосование экспертного совета. В состав совета вошли три эксперта Кросстеха:
➡️ Андрей Маклаков, руководитель технического дивизиона;
➡️ Евгений Балк, руководитель департамента развития и архитектуры;
➡️ Василий Коровицын, ведущий эксперт департамента оценки защищенности.

Мы благодарим @sec_post за доверие к нашему опыту, а вас, уважаемые подписчики, приглашаем участвовать в рейтинге! Подать заявку можно до 30 сентября. Подробнее: https://secpost.ru/rating-eleet#

#кросс_новости

Заключили партнерское соглашение с @rdw_computers! Партнерство позволит сформировать безопасные решения для госсектора и объектов КИИ. За аппаратную часть будет отвечать РДВ Технолоджи, а за экспертизу в сфере информационной безопасности — Кросстех.

Подробнее ➡️ https://crosstech.ru/press/krosstekh-obyavlyaet-o-partnyerstve-s-vendorom-rdv-tekhnolodzhi/?utm_source=tg-ct-150926

#кросс_новости

От технологий - к психологии принятия решений

Кросстех и AM Livе запустили совместный проект - шоу 💻«Периметр доверия». Каждый выпуск - встреча спикеров с разными мнениями по важным вопросам из мира кибербезопасности. В роли «ИБ-психолога», ведущего дискуссию, выступает Станислав Дарчинов, исполнительный директор Кросстеха.

👥 В первом эпизоде «Периметра доверия» мы обсудили Open Source и вендорские решения: что и почему выбирает бизнес в 2026 году?

На стороне внутренней разработки выступил ➡️Александр Ишанов, директор департамента защиты информации «Газпромбанк Мобайл», а позицию разработчиков ИБ-решений занял ➡️Александр Лискин, руководитель управления исследования угроз «Лаборатории Касперского».

Эксперты обсудили:
➡️Какие условия нужны для собственной разработки?
➡️Для какого бизнеса вендор привлекательнее Open Source?
➡️Насколько важно владеть технологией?

«Периметр доверия» уже на всех площадках АМ Live! Смотрите, делитесь, оставляйте комментарии.

😄VK 🎞 YouTube 📹 RuTube

С чего начинается результативная кибератака? Очень часто – с получения доступа к службе Active Directory, которая содержит карту всей организации. Хакеры пытаются получить доступ к ней еще на этапе разведки, причем зачастую они используют вполне себе легитимные инструменты, поэтому оказываются незамеченными службой ИБ.

Пентестер Кирилл Захаров рассказал в статье для ITSec, как работает тихая разведка Active Directory и как от нее защититься ➡️ https://www.itsec.ru/articles/tihaya-razvedka-v-active-directory-pered-atakoj

#мыслим_как_хакеры

Без BYOD никак: наша практика показывает, что 📈 90% сотрудников организаций используют личные устройства для рабочих задач. Вопрос в том, как внедрять этот подход.

«Около 70% компаний внедряют BYOD с ошибками, создавая дополнительные киберриски», — говорит архитектор Егор Норкин.

Как правило, компании или позволяют сотрудникам все, или занимаются тотальной слежкой. В первом случае организация теряет контроль над своими данными, а во втором возникает риск развития «теневого ИТ»: когда вместо разрешенных каналов специалисты начинают пересылать рабочие документы в личные мессенджеры и сторонние хранилища.

«Адекватный путь внедрения BYOD строится не на полном контроле устройства, а на понятном разделении личного и рабочего пространства. Главный принцип — компании должно быть важно только то, как обрабатываются ее данные, а не то, чем занимается человек в свое свободное время на своем устройстве», — отмечает Егор.

➡️ Эффективный подход к BYOD строится на трех ключевых мерах:
1. Изоляция рабочего контура на личных устройствах;
2. Разграничение доступа к критичным системам;
3. Прозрачные правила взаимодействия.

Если вам нужна поддержка в реализации этих принципов — будем рады помочь.

#экспертиза