⭐️ В 2026 году увеличится спрос на специалистов по безопасности ИИ, это одни из самых востребованных специалистов

Появление автономных решений на базе искусственного интеллекта, а также активное внедрение таких технологий приведет к тому, что в 2026 году возрастет спрос на специалистов по безопасности искусственного интеллекта, рассказал руководитель отдела информационной безопасности MWS AI (входит в Erion, объединяющую нетелеком-активы МТС) Андрей Коршунов.

"На фоне появления автономных решений на базе искусственного интеллекта (ИИ-агентов) и активного внедрения ИИ в критически важные сферы - такие как финансы, промышленность и государственные сервисы - в 2026 году значительно вырастет спрос на специалистов по безопасности искусственного интеллекта", - сказал Коршунов.

Он объяснил, что ИИ-агенты, которые внедряются в компаниях, могут взаимодействовать с внешней средой - например почтой, календарем, корпоративными системами. И из-за этого к ним должны предъявляться повышенные требования к безопасности.

Эксперт считает, что такие условия приведут либо к появлению узкопрофильных специалистов по безопасности ИИ, либо к развитию необходимых компетенций у существующих специалистов по информационной безопасности. По его мнению, наиболее реалистичным является второй сценарий - спрос на такие навыки кратно вырастет именно в компаниях-потребителях ИИ-решений. А узкопрофильные сотрудники будут востребованы у разработчиков ИИ-решений и в компаниях, специализирующихся на информационной безопасности.
Он отметил, что в дальнейшем росту спроса на таких специалистов будет способствовать развитие регуляторики по части безопасности ИИ-решений.

Продолжение: https://vk.com/wall-210601538_2009

⭐️ Серия лекций про MCP-протокол от Андрея Созыкина

На прошлом потоке учебной программы MLSecOps один из слушателей просил более детально разобрать MCP-протокол. Конечно, я расширил слайды про этот инструмент, ответил на все вопросы.

В то же время сегодня увидел, что мой преподаватель из МФТИ Андрей Созыкин запустил открытый курс про MCP-протокол. Очень рекомендую послушать Андрея всем желающим, так как понимание это обязательно для разработчиков ИИ-агентов.

Андрей всегда очень подробно и детально объясняет, понятным языком для широкой аудитории, отлично прорабатывает лекции, глубоко погружаясь при этом в тему. И, конечно же я сам все лекции прослушаю, потому что всегда есть что-то новое!

Ссылка на первое видео (остальные будут выходить позже): https://vkvideo.ru/video-211221104_456239083

Global MLSecOps & AI Governance Architect
Николай Павлов

⭐️ Важные факты и тренды MLSecOps и AI Governance. То, что уже нельзя игнорировать

Всем привет, мои дорогие друзья и талантливые коллеги!
Как специалист по AI Governance и MLSecOps, собрал для вас проверенную статистику, даю только достоверные цифры:

1. По данным международной базы OECD AI (на декабрь 2025), 72 государства официально приняли национальные стратегии или законодательные инициативы в области ИИ.
Причем в 2020 году таких стран было всего 18, что еще раз доказывает чистую экспоненту по регулированию сферы ИИ во всем мире (значит, и в России).

2. По данным Стэнфорда только в 2024 году официально было 233 зафиксированных инцидента с ИИ - и рост составил целых 56.4% за год (в 2023 году было 149).
Среди них были ошибки в диагностике, дискриминация при найме, аварии с автопилотом, утечки данных.
Это значит что в России рост числа инцидентов ИИ, вероятно, тоже будет идти по экспоненте и мы их увидим официально уже в 2026.

3. Рынок AI Governance взорвётся с $308 млн (2025) до $3.6 млрд (2033), здесь мы наблюдаем даже чуть более быструю экспоненту, чем в MLSecOps. По прогнозу Grand View Research, глобальный рынок инструментов управления ИИ (аудит, мониторинг, compliance, этика, проектное и стратегическое управление) вырастет почти в 12 раз за 8 лет при CAGR 36%, что экспоненциально полностью соответствует росту числа ИИ-систем в мире.

4. Независимые исследования (включая LinkedIn-аналитику от экспертов по регуляторике) показывают, что средняя стоимость внедрения требований EU AI Act для стартапа в Европе около €200 000/год, время на обеспечение таких требований более года. Причем эта длительность будет только расти.
Соответственно учиться правильно внедрять и надежно управлять ИИ-системами нужно прямо сейчас, и в целом AI Governance компаниям нужен ещё вчера.

5. Несмотря на то, что 93% организаций в мире уже используют ИИ в работе (по данным Knostic, ноябрь 2025), лишь только 7% (!!!) имеют зрелую систему AI Governance (опять же с их слов, значит, реально еще меньше), то есть: документированные процессы, ответственных лиц, регулярный аудит, комиссия по этике, каталоги и глоссарии ИИ-данных, терминов и систем, а также роли/должности AI Steward и AI Auditor и многое другое.

6. ISO/IEC 42001:2023 - это первый международный стандарт для управления ИИ, выпущен в декабре 2023. К февралю 2026 по нему сертифицировано пока менее 200 компаний по всему миру (для сравнения: ISO 27001 имеет десятки тысяч сертификатов). Тем не менее, он уже принят как обязательный в Колумбии и рекомендован ЕС как «дорожная карта» для соответствия AI Act.
В России также обсуждается обязательная стандартизация ИИ-систем и, вероятно, в ближайшие 2 года она будет введена.

Итак, мои надежные друзья и коллеги-профессионалы, регулирование ИИ в мире перешло от теории к практике. В 2026 году компании уже не думают нужно ли нам централизованно управлять ИИ, а решают как именно внедрить AI Governance. Те, кто начал внедрять это направление ещё в 2024-2025 годах, сегодня, конечно, подготовлены и имеют надежные ИИ-системы, соответствующие ожидаемым требованиям и стандартам. А что еще важнее, они умеют и готовы внедрять ИИ так, чтобы полностью соответствовать как текущим, так и ожидаемым нормативно-правовым требованиям 2026-2027.

Global MLSecOps & AI Governance Architect
Николай Павлов

⭐️ Сегодня выступаю на двух прямых эфирах ⚡️

🔥 17 февраля с 12:00 до 13:30 по Москве собираемся в прямом эфире, чтобы обсудить, как сегодня выглядит DevSecOps в России — от требований ФСТЭК для КИИ до стандартов безопасности ИИ.

В программе:
▪️Приказ №117 ФСТЭК: что важно учесть разработчикам ПО в КИИ и ГИС
▪️Shift Left на практике, SCA, SBOM, отечественные анализаторы
▪️Безопасность ИИ: стандарты, доверенные данные, ИИ в ИБ
▪️Импортозамещение, кадровый голод, баланс скорости и безопасности
▪️Прогноз на 2026–2027 и экономика безопасности

Регистрация: https://sec.ussc.ru/ussc-renue

🔥 17 февраля с 15:00 до 17:15 по Москве приглашаю на большой бесплатный мастер-класс в Академии Softline для специалистов, работающих с данными и использующих ИИ-системы в рабочих процессах.

За два с лишним часа мы рассмотрим вопросы обеспечения качества данных, построения эффективной архитектуры данных в целях развития Data Governance, а также обсудим ключевые принципы безопасной разработки и использования ИИ-систем в контуре современной организации.

Покажу важнейшие тренды, сделаю прогнозы о том, что ждет IT-сферу в 2026 году. Расскажу про принципиально новое направление AI Governance, как оно связано с MLSecOps, в чем отличие AI Governance от Data Governance и какие у него перспективы. Объясню как стать таким специалистом. Расскажу и про текущее состояние MLSecOps в России, текущие особенности этого направления, требования регуляторов и что уже изменилось за 2025 год. А также отвечу на вопросы онлайн.

Как обычно буду рад друзьям, коллегам и всем желающим!

Регистрация: https://academyit.ru/deals/activity/events/data-governance-kultura-obespecheniya-kachestva-i-bezopasnosti-dannykh/?utm_source=blog&utm_medium=mlsecops_plus&utm_campaign=mk170226

Global MLSecOps & AI Governance Architect
Николай Павлов

🔥 Запись эфира "Data Governance – культура обеспечения качества и безопасности данных"

Привет, мои талантливые друзья и самые опытные коллеги!

По просьбам подписчиков даю ссылку на запись второго моего эфира 17 февраля на темы MLSecOps, Data Governance, AI Governance:
https://academyit.ru/deals/activity/seminars/data-governance-kultura-obespecheniya-kachestva-i-bezopasnosti-dannykh/

Приятного просмотра!

Global MLSecOps & AI Governance Architect
Николай Павлов

📣 18.02.2026 г. приняты следующие стандарты

ГОСТ Р 72514-2026 Искусственный интеллект. Оценка воздействия системы искусственного интеллекта

ГОСТ Р 72515-2026 Искусственный интеллект. Таксономия прозрачности систем искусственного интеллекта

✍ подписаться: ИБ в "Законе"

⭐️ Запускаем первый поток новой учебной программы по AI Governance!

Учитывая стремительный рост и востребованность нового направления AI Governance, Академия Softline 24 февраля запускает первую корпоративную учебную программу «AI Governance в критических отраслях: от рисков и угроз к этике и доверию».

Эта программа составлена на основе самых передовых трендов в сфере ИИ и опирается на практический опыт, полученный в ходе реальных аудитов ИИ-систем в России, Китае и странах СНГ.

В рамках обучения слушатели узнают:
1. Как обеспечить нормативно-правовое соответствие и юридическую защиту при внедрении и эксплуатации ИИ-систем?
2. Как избежать рисков нарушения этики и дискриминации?
3. Как добиваться того, чтобы ИИ-системы приносили максимальную пользу бизнесу? Как оценить эту пользу?
4. Как правильно оценивать риски, потенциальный и мультипликативный экономический ущерб от угроз ИИ?
5. Как эффективно управлять ИИ-проектами, какие роли и должности в разработке ИИ за что отвечают?
6. Как обучать пользователей безопасной работе с ИИ? Какие есть явные и неявные требования?
7. Какие требования к архитектуре ИИ-систем есть в AI Governance?
8. Как работать с Каталогом и Глоссарием данных в AI Governance?
9. Какие есть методы, инструменты и фреймворки для AI Governance?
10. Как выстроить процессы AI Governance в компании.
11. Многое другое.

Важно, что все практические задания будут связаны между собой и направлены на выстраивание процессов AI Governance, поэтому слушатели могут выполнять их на примере собственных компаний, что уже поможет Вам построить базовую архитектуру.

Сильные стороны программы:

1. Опора на лучшие практики AI Governance российских и китайских компаний (города Гуань-Чжоу, Шень-Чжень).

2. Бесплатная техническая поддержка всех слушателей программы по вопросам AI Governance в процессе и после проведения учебной программы бессрочно.

3. Через практические задания строится архитектура AI Governance в компаниях слушателей программы силами самих слушателей при поддержке опытного эксперта. По итогам Вы программы Вы получите реальные рекомендации по внедрению и обеспечению комплаентности, этичности, нормативно-правового соответствия ИИ-систем. А также реализуете практические меры, создавая этим реальную пользу для бизнеса, оцененную в денежном эквиваленте на основе оценки рисков.

4. Направление AI Governance, как и направление MLSecOps - очень перспективное и стремительно растущее по экспоненте. Это направление только зарождается и обучение сейчас принесет очень существенные преимущества в будущем.

5. Программа на полностью согласуется с российскими ГОСТ для ИИ и особенно актуальна сейчас, когда с 1 марта вступает в силу 117 Приказ ФСТЭК. В течение 2026 года ожидается принятие закона об ИИ в России. Будем разбирать, как именно соблюдать все необходимые и ожидаемые требования.

6. Автор программы принимает участие в разработке ГОСТ и других регламентов в сфере безопасности и отказоустойчивости ИИ-систем в России, регулярно проводит аудиты ИИ-систем в разных отраслях.

Более подробная информация и возможность записаться по ссылке (смотреть без включенного VPN):
https://academyit.ru/courses/ai_g

Дополнительная ссылка:
https://edu.softline.com/vendors/akademiya-ayti/ai-governance-v-kriticheskih-otraslyah-ot-riskov-i-ugroz-k-etike-i-doveriyu

Global MLSecOps & AI Governance Architect
Николай Павлов

⭐️ Квантовые вычисления: основные идеи и современное состояние технологии

Привет, мои талантливые друзья и экспертные коллеги!

Как и обещал, продолжаю находить кусочки времени на погружение в квантовые технологии. И сегодня предлагаю вам посмотреть очень понятное и интересное выступление научного руководителя Центра квантовых технологий Сбера Станислава Страупе.

В видео рассмотрены ключевые идеи, лежащие в основе квантовых вычислений, понятие вычислительной сложности алгоритмов. Определен круг задач, которые сложны для классического компьютера, но могут быть решены с использованием квантовых вычислителей. Какие именно принципы квантовой теории позволяют получить эти вычислительные преимущества и простейшие примеры квантовых алгоритмов.

Во второй части речь идет о современном состоянии технологии и экспериментальном прогрессе в области создания первых квантовых процессоров. Рассмотрены различные варианты их реализации и обсудим перспективы на ближайшее будущее. Отдельно рассказывается о возможных областях применения и коммерческом потенциале этой технологии.

Ссылка на видео: https://vk.com/video-22522055_456244290

Global MLSecOps & AI Governance Architect
Николай Павлов

⭐️ Дорогие друзья, коллеги и единомышленники!

Поздравляю вас с Днем защитника Отечества!
Быть защитником в эпоху цифровых трансформаций означает не только охранять границы, но и обеспечивать безопасность, отказоустойчивость и этичность национальных ИИ-систем. Особенно в критической инфраструктуре и даже в сфере ВПК.

В ускоряющемся мире, где технологический разрыв растет каждый день, а за реальным развитием ИИ уследить почти невозможно, ваша компетенция - это тот самый щит, который позволяет России и ее союзникам безопасно проходить через вызовы будущего. Ваша работа поддерживает критическую инфраструктуру, сохраняя ресурсы, время, финансы и даже жизни людей! Ваши продвинутые знания, навыки дают окружающим уверенность в завтрашнем дне и демонстрируют достойный для подражания пример.

Желаю вам непрерывного развития, огромной дисциплины, крепкого здоровья, семейного благополучия и веры в свои силы! Пусть будущее будет стабильным, безопасным и светлым. Мы создаем его вместе! 🇷🇺

С уважением,
Николай Павлов

⭐️ Только в 9% российских компаний строят автономные ИИ-системы

В 80% компаний в России внедрение ИИ пока ограничено использованием чат-ботов. 11% уже автоматизировали с помощью ИИ один блок бизнес-процессов, но он не интегрирован с другими звеньями цепочки, поэтому данные из него нужно забирать вручную. И только в 9% российских компаний строят системы, где ИИ сам извлекает данные и сам выполняет действие (без участия человека).

Такие результаты показало исследование WMT AI. Компания проанализировала данные аудита среднего и крупного бизнеса, проводимого экспертной группой в 2024 и 2025 годах.

Игорь Никитин, основатель WMT AI и эксперт по AI-трансформации, поясняет, что самые распространенные в России сценарии внедрения ИИ — это “костыль” для бизнеса, а не полноценная автоматизация.

“Есть простой, но ключевой критерий оценки эффективности внедрения ИИ — «тест буфера обмена». Вам необходимо изучить физику работы — например, как сотрудник использует результат от нейросети. Если он получает ответ, выделяет его мышкой, копирует и вручную вставляет в CRM, Excel или почту, это провал. Это наглядно показывает нам, что процесс остался старым. Просто человек стал быстрее набирать текст. Это не является трансформацией бизнеса, и это важно понимать. От такого формата внедрения ИИ ждать результатов не стоит”, — поясняет Никитин.

Данные статистики WMT AI подтверждаются международными и российскими исследованиями. Международное консалтинговое агентство McKinsey&Company в своем отчете фиксирует, что 95% организаций используют нейросети неправильно, создавая разрозненные «островки автоматизации» вместо единой эффективной среды. Аналитики российской консалтинговой компании KT Team пришли к выводу, что 92% компаний увеличивают инвестиции в ИИ, но лишь 1% достигает полной операционной интеграции.

«Большинство компаний буквально попали в ловушку: они подключили сотрудников к чат-ботам, но не перестроили процессы. Доступ к нейросетям — это лишь фундамент, первый шаг. Но если организации останавливаются на нем, то просто получают дорогой «калькулятор слов». Настоящая эффективность (ROI) начинается там, где ИИ встроен в системы компании (по API или On-premise) и работает автономно», — отмечает Игорь Никитин.

iksmedia

⭐️ Автоматизация с помощью ИИ-агентов в 67% случаев приносит реальную пользу

67% компаний, внедривших автономные ИИ-системы, фиксируют рост продуктивности, но масштабирование сдерживает высокая стоимость инференса, говорится в отчете DigitalOcean, основанном на опросе более 1100 технических директоров, разработчиков и основателей стартапов.

Использование ИИ-агентов в бизнесе выходит на стадию массового внедрения. Наиболее популярные сценарии применения связаны с разработкой и автоматизацией. Сегодня 52% компаний уже применяют искусственный интеллект в операционной работе, а 46% используют именно автономных агентов.

Агенты используют для генерации и рефакторинга кода (54%), оптимизации внутренних процессов (49%), поддержки клиентов (45%), оркестрации бизнес-логики (43%) и создания текстового контента (41%).

По данным опроса, 67% компаний, внедривших агентов, отмечают измеримый рост продуктивности, а 9% сообщают о приросте более чем на 75%. Среди наиболее заметных эффектов респонденты называют экономию рабочего времени (53%), появление новых бизнес-возможностей (44%), снижение потребности в найме персонала (32%), сокращение затрат (27%) и улучшение клиентского опыта (26%).

При этом масштабирование агентных систем остаётся серьёзной проблемой. Лишь около 10% компаний смогли полноценно внедрить их в продакшн-среду. Главный барьер — стоимость инференса, то есть выполнения запросов к языковым моделям. Эту проблему отмечают 49% участников исследования. Почти половина компаний тратит на инференс от 76% до 100% всего бюджета, выделенного на ИИ. Причина — в архитектуре агентных систем: каждый шаг рассуждения и каждое действие требуют отдельного запроса, а длинные цепочки задач быстро увеличивают расходы.

«ИИ-агенты действительно начинают приносить измеримую пользу бизнесу, автоматизируя часть процессов и снижая нагрузку на команды. Однако за каждым таким сервисом стоит инфраструктура — вычислительные ресурсы, контейнерные кластеры, системы хранения, обновления зависимостей. Без централизованной автоматизации управление этой средой становится источником дополнительных затрат и рисков. Платформенный подход позволяет обеспечить предсказуемость масштабирования, контроль конфигураций и устойчивость сервисов, на которых работают ИИ-агенты», — сказал Кирилл Добрынин, директор департамента автоматизации «Группы Астра».

ict-online

⭐️ Запись прямого эфира "Безопасная разработка
под новые требования: от 117 приказа ФСТЭК России до стандартов безопасности ИИ"

Привет, мои замечательные друзья и самые лучшие коллеги!
По вашим просьбам выкладываю запись прямого эфира от 17 февраля с моим участием и ответы на вопросы слушателей, на которые мы не ответили онлайн.

Ссылка: https://sec.ussc.ru/devsecops_faq

Global MLSecOps & AI Governance Architect
Николай Павлов

⭐️ Предварительная версия закона об ИИ в России

В России готовится законопроект об искусственном интеллекте, предварительная версия которого вводит разделение ИИ-моделей на суверенные и национальные. Документ предполагает обязательную предустановку приложений с доступом к таким моделям на все смартфоны и планшеты, продаваемые в стране. Ожидаемая дата вступления закона в силу — 1 сентября 2027 года, его детали ещё находятся в стадии проработки.

Суверенной будет считаться модель, все стадии разработки, обучения и эксплуатации которой провели на территории России гражданами страны или российскими компаниями. Датасеты для таких моделей также должны быть сформированы исключительно на территории нашей страны. Национальные модели, в отличие от суверенных, могут создаваться с использованием иностранных open-source решений и наборов данных, что допускает определённую степень заимствования зарубежных технологий.

Отдельная статья законопроекта посвящена «доверенным» моделям, предназначенным для работы с критической информационной инфраструктурой. Такими будут считаться системы, безопасность которых подтверждена ФСТЭК и ФСБ, конкретные критерии «доверенности» предстоит разработать правительству. Это положение перекликается с недавним поручением президента РФ о приоритетном использовании отечественных моделей ИИ в госуправлении и на объектах критической инфраструктуры.

Документ также регулирует вопросы авторского права и взаимодействия с пользователями. Автором созданных с использованием ИИ работ будет признаваться пользователь сервиса «в случае наличия его творческого вклада в их создание». Исключительные права также будут принадлежать пользователю, если договором между ним и сервисом не предусмотрено иное. Законопроект обязывает информировать граждан о том, что они взаимодействуют с ИИ, например, в случае продаж через чат-боты, и вводит требования к маркировке сгенерированного контента.

26 февраля президент РФ Владимир Путин подписал указ о создании комиссии по вопросам развития технологий искусственного интеллекта при главе государства. Сопредседателями нового органа назначены вице-премьер Дмитрий Григоренко и заместитель руководителя администрации президента Максим Орешкин. В состав комиссии вошли министр обороны Андрей Белоусов, директор ФСБ Александр Бортников, глава «Сбербанка» Герман Греф, мэр Москвы Сергей Собянин, экс-руководитель «Яндекса» Тигран Худавердян.

Новая структура будет координировать работу федеральных органов власти, Банка России и регионов по внедрению ИИ в экономику, социальную сферу и госуправление. В задачи комиссии входит анализ основных рисков и угроз, возникающих в связи с использованием технологий искусственного интеллекта, а также выработка мер по их нейтрализации. Отдельное внимание планируется уделить вопросам национальной обороны и безопасности страны. Руководителям российских субъектов поручено до 1 июня создать аналогичные межведомственные комиссии на региональном уровне.

В конце 2025 года на заседании Госсовета Владимир Путин назвал развитие искусственного интеллекта крупнейшим технологическим прорывом в истории. Президент подчеркнул, что ближайшие 10–15 лет станут временем колоссальной технологической трансформации, а ИИ является «намного более прорывной, всеохватывающей» технологией по сравнению с предшествующими инновациями. Выступая на конгрессе Русского географического общества, Путин отмечал, что создание суверенных моделей ИИ возможно только с опорой на отечественную культуру, историю и традиционные ценности.

Коммерсант

⭐️ Специалисты по ИИ остаются самыми высокооплачиваемыми в мире с компенсационным пакетом в сотни миллионов долларов

Конкуренция за умы в сфере искусственного интеллекта в Кремниевой долине накаляется до небывалых сумм. OpenAI удалось переманить одного из самых ценных исследователей — Руомина Панга, который всего несколько месяцев назад перешел из Apple в Meta (признана экстремистской организацией, деятельность запрещена в РФ) с компенсационным пакетом более $200 млн.

До этого Панг возглавлял направление разработки моделей в Apple, но летом прошлого года присоединился к элитному подразделению Meta* — Superintelligence Labs. Там он занимался инфраструктурой для ИИ нового поколения и получал вознаграждение, построенное на высокой фиксированной ставке и бонусах, достигающих десятков миллионов долларов.

Продолжение: https://vk.com/wall-210601538_2021