Безопасники будущего, или как стать дирижером нейросетей

Все уже привыкли, что ИИ постепенно забирает на себя всякую рутину: пишет код, анализирует данные, ищет уязвимости и все больше убеждает нас всех, что без него теперь никуда. Но вот тут интересный момент о том, что же в таком случае будет с самими специалистами по информационной безопасности.

На эту тему как раз порассуждали на конференции Security Shift в Т-Банке, которую приурочили к завершению открытых кибериспытаний. К слову, за время испытаний специалисты обнаружили несколько атак с использованием ИИ, но ни одного недопустимого события, способного нанести серьезный ущерб компании, реализовано не было.

CISO Т-Банка Дмитрий Гадарь считает, что с развитием искусственного интеллекта роль безопасников существенно изменится. Вместо того чтобы самостоятельно выполнять кучу рутинных операций, специалисты будут управлять целыми командами ИИ-агентов. Причем речь не просто про очередного чат-бота, которому можно поручить написать скрипт или проверить конфиг. По прогнозу Гадаря, ИИ-агенты смогут самостоятельно принимать решения и выполнять часть задач по защите систем. А человек будет выступать в роли своеобразного оркестратора, который управляет их работой.

То есть вместо ручного выполнения каждой операции, безопасник будет координировать автоматизированные процессы и следить за тем, как агенты справляются с поставленными задачами.

И тогда, если раньше специалисту нужно было самому разбираться с огромным количеством отдельных операций, то теперь на первый план может выйти умение грамотно организовать работу ИИ-агентов. При этом понимать, что именно они делают и какие решения принимают, все равно придется.

Осталось только выяснить, кто будет отвечать, если весь оркестр сыграет не ту симфонию. Всем мир.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

Я не закончил ☝️

Вчера я уже начал рассуждать о том, как ИИ меняет кибербезопасность. И, судя по тому, что сейчас обсуждают в индустрии, главная проблема даже не в новых способах атак, а в том, насколько быстро они происходят.

На сессии «Киберустойчивость в эпоху ИИ», которую Т-Банк организовал в рамках того же Security Shift, CISO банка Дмитрий Гадарь рассказал, что раньше от обнаружения уязвимости до ее эксплуатации могли проходить годы, а сейчас речь идет буквально о часах. К 2027–2028 годам этот промежуток может сократиться до минут. К слову, добро пожаловать в новую терминологию, где на место 0-day приходит 0-hour, ю ноу.

И вот тут возникает закономерный вопрос: как защищаться, если злоумышленник успевает провести атаку быстрее, чем безопасник согласует исправление уязвимости?

Масштаб изменений хорошо иллюстрируют примеры участников дискуссии (той же самой, да). Антон Карпов из VK рассказал, что ИИ-агенты уже способны за короткое время находить уязвимости, на поиск которых раньше уходили месяцы. А Владимир Бенгин из ГК «Солар» привел случай, когда злоумышленнику хватило всего 5–10 минут, чтобы переместиться по инфраструктуре компании.

Как вы понимаете, при таких скоростях рассчитывать исключительно на ручное реагирование уже не приходится. Поэтому индустрия постепенно движется к автоматизации защиты. Например, в том же Т-Банке развивают инструменты Nulla и Safeliner (видел вчера их стенды на митапе) для поиска, проверки и устранения уязвимостей. Уже сейчас около трети из них исправляются практически без участия разработчиков.

При этом замглавы Минцифры Александр Шойтов отметил, что принципиально нового ответа на риски ИИ у индустрии пока нет. А Андрей Дугин из RED Security (привет, Андрей) напомнил, что прежде чем переходить к автономной защите, компаниям необходимо выстроить базовые процессы ИБ.

Кстати, тема уже обсуждается и на государственном уровне. На совещании 14 октября Владимир Путин заявил о необходимости совершенствовать инструменты оперативного реагирования на кибератаки и усиливать координацию правоохранительных органов и спецслужб с операторами связи, финансовыми организациями и интернет-компаниями.

В общем, похоже, мы постепенно приходим (ура) к тому, что защищаться от машин придется тоже машинами. Но автоматизировать хаос – еще не значит построить киберустойчивую инфраструктуру.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

Как устроен антифрод и почему одних алгоритмов недостаточно

Есть у финансового мошенничества одна особенность: даже самая продвинутая система защиты не всегда спасает, если злоумышленник сумел убедить человека самостоятельно перевести деньги. Поэтому антифрод — это не только про скоринг, ML-модели и подозрительные транзакции, но и про психологию.

С чего это меня понесло в антифрод, спросите вы. А я вам расскажу. Я тут наткнулся на бесплатный курс от СберУниверситета «Финансовый антифрод: лаборатория защиты».

Там предлагают посмотреть на мошенническую атаку сразу с трех сторон: технического специалиста, сотрудника банка и клиента. Разбирают социальную инженерию, Kill Chain (ю ноу), графовую аналитику, поведенческие маркеры и даже правовые механизмы возврата денег со счетов дропов (про них мы уже говорили).

Как по мне, инициатива, вполне своевременная. По данным «Работы.ру», спрос на специалистов по кибербезопасности с 2021 года вырос более чем на 30% (нет, ну вы видели?). А 74% российских компаний уже сообщают о кадровом дефиците в ИБ.

Так что разобраться в антифроде сейчас полезно не только тем, кто непосредственно занимается банковской безопасностью (фрод есть не только там, да). Особенно если учитывать, что мошенники тоже на месте не стоят.

Кстати, как вы считаете, антифрод стоит относить к кибербезу, инфобезу или просто службе безопасности? Правильного ответа, кстати, нет.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

На криптографию надейся, а сам не плошай

Настало время разобраться в одном важном вопросе – как работает шифрование в мессенджерах. Вот захотел я, да. Но для начала давайте разберемся на простом примере, что вообще такое шифрование и для чего оно нужно. Представьте, что ваше сообщение – это письмо. В обычной жизни вы кладете письмо в конверт, и любой почтальон может его вскрыть и прочитать. Или кто-то может подойти к почтальону, попросить открыть нужный конверт, прочитать содержимое и вернуть обратно.

В мессенджерах с шифрованием вы кладете письмо в условный несгораемый сейф. У вас и у друга есть по уникальному ключу. Вы закрываете сейф своим ключом, а открыть его может только ключ вашего друга. Так обеспечивается конфиденциальность вашей переписки.

Вот только когда мессенджер утверждает, что «ваши сообщения зашифрованы», это еще ничего не значит. Правильный вопрос: зашифрованы от ĸого? Вся криптография тут сводится ĸ важному моменту – у ĸого лежат ключи.

С точки зрения архитектуры, существует 2 основных вида шифрования:

1. Транспортное шифрование (клиент-сервер)

Ваше сообщение шифруется только во время отправки с вашего устройства на сервер. Сервер получает его, дешифрует, сохраняет, а потом снова шифрует для отправки другому клиенту. То есть при большом желании оператор/посредник может прочитать его содержимое (или кому-то показать). Грубо говоря, шифруется тут канал, по которому ваше сообщение проходит путь от устройства до сервера.

Плюсы такого подхода: облачная история, мгновенная синхронизация между устройствами, поиск по переписке с любого девайса.
Минус один, зато фундаментальный: сервер становится точкой доверия. Взлом, недобросовестный сотрудник, юридическое принуждение – и переписка оказывается доступна третьей стороне.

Транспортное шифрование используется во всех мессенджерах, но есть те, кто не добавляет сверху никакой защиты. Например, так работают обычные (не секретные) чаты Telegram, наши любимые мессенджеры VK и Max, корпоративные Google Chat и Microsoft Team и др.

2. Сквозное шифрование (end-to-end, E2EE)

Ключи генерируются и хранятся тольĸо на устройствах собеседников. Сервер видит и передает лишь зашифрованный текст, который не может расшифровать даже сам оператор/посредник. Проще говоря, в этом случае шифруется уже не канал передачи, а само сообщение. То есть при перехвате данных все, кроме получателя, увидят лишь бессмысленный набор символов.

Плюсы этого вида: никто не сможет получить доступ к вашей переписке – даже при взломе сервера или по запросу спецслужб. Защищены не только тексты, но и фото, видео, файлы, звонки.
Минусы: ваши метаданные все равно оседают у оператора/посредника (кому вы пишете, в какое время, с какого устройства и как долго длился разговор).

Сквозное шифрование доступно в режиме «секретный чат» в ТГ, а также является основной защитой для WhatsApp, Signal, Viber, iMessage и Threema.

Так что, получается, WhatsApp безопаснее Telegram?
По сути, с точки зрения архитектуры, да, сквозное шифрование надежнее транспортного. Но на практике, уязвимости всплывали у каждого мессенджера хотя бы раз.

Кроме того, шифрование канала не гарантирует полную безопасность. Метаданные, незашифрованные бэĸапы, зараженное устройство, где переписку читают до всяĸого шифрования – все это выносит атаку за пределы криптографии.

Ну и стоит помнить, что ни один вид шифрования не защитит вас от перехода по фишинговым ссылкам или добровольной передачи личной информации мошенникам. Так что будьте бдительны и следите, кому вы доверяете свои данные. Всем добра.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

Ну что, культисты, держите опт.

Мы не стали вас тревожить новостями о том, что был взломан VMmanager. Злоумышленники в итоге получили доступ к данным панелей управления нескольких хостинг-провайдеров, а в отдельных случаях смогли добраться до узлов виртуализации и содержимого клиентских дисков.

А когда утекли промежуточные индийские сертификаты от eMudhra, мы понадеялись, что вас этого не коснется. Последствия этого пока не выявились, но если плохие ребята успели подсуетиться, то они будут нехилыми.

Затем, у старого-доброго PHP, на плечах которого все еще стоит половина интернетов, нашли две критические уязвимости (с оценкой CVSS 9,2). Там, если правильно покрутить эти баги, можно дойти до удалённого выполнения кода без аутентификации.

Ну и вишенкой на торте стал вчерашний GitLab со своим новоиспеченным CVE-2026-110264 (тут уже покруче – CVSS 10.0). Уязвимость при определённых условиях позволяет выполнять произвольный код на сервере также без аутентификации.

И это всё произошло буквально за 2 дня. И все это время безопасники по всему миру бегают в мыле и пытаются либо все это починить, либо выяснить, где надо чинить, потому что чинить точно надо. А мы бегаем вместе с ними, да.

Так что и вас мы от этих новостей не уберегли, простите. Но весь мир подкапотного IT сейчас действительно в таком стрессе, которого не видел давно.

За фактуру для поста спасибо коллегам по цеху @tech_b0lt_Genona @By3side @blondandinfosec

Join our club Cult 👁

Ну что, открывайте шампанское – мы это сделали (теперь у нас есть патент)!

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT