⭐️ Онлайн-конференция по проектированию комплексных систем безопасности «ЦеСИС-2026»

Это одна из ведущих в России конференций по безопасности и отказоустойчивости автономных и киберфизических систем, проектированию комплексных систем безопасности.

Мероприятие состоится 19 марта с 11:00 до 14:00 по Москве и ориентировано на проектировщиков, инженеров систем безопасности, специалистов служб безопасности и эксплуатации, интеграторов, а также представителей государственных и контролирующих органов, отвечающих за физзащиту объектов.

Конференция пройдёт в режиме онлайн.

Ключевые темы:

— бронированные конструкции и защищенные наблюдательные посты;

— подходы к пассивным системам защиты от БПЛА;

— системы принудительной остановки транспорта и их развитие;

— технические средства охраны, электротехнические шкафы и шкафы управления;

— взломостойкие замки и замки с мастер-системой;

— направление развития модульных конструкций выпускаемых предприятием.

Выступления по темам проводят ведущие специалиста предприятия и наши партнеры. Формат конференции предполагает общение в формате дискуссии.

Основная цель конференции — познакомить участников с направлениями развития тематических направлений и услышать мнение потенциальных потребителей нашей продукции и услуг.

Начало мероприятия 19 марта в 11:00 по московскому времени.
Регистрация онлайн-слушателей на платформе Groteck: https://www.secuteck.ru/2026/integrated-security

Архитектор MLSecOps & AI Governance
Николай Павлов

Во вторник проведем вебинар об уязвимостях AI-систем и подходах к их тестированию. Поговорим про:
🔹 где именно в архитектуре возникают уязвимости и какие атаки реально работают против LLM
🔹 как выглядит процесс AI-пентеста: от гипотез и экспериментов до отчета об устойчивости
🔹 какие инструменты и подходы позволяют это автоматизировать, и покажем реальные атаки на примерах

Приходите, если интересуетесь темой уязвимостей AI-систем и хотите обсудить актуальные вопросы в области тестирования AI-агентов.

Ссылка: https://aisecuritylab.timepad.ru/event/3868359/

⭐️ Суверенный ИИ под традиционные ценности: что меняет новый законопроект о регулировании искусственного интеллекта в России

В России на обсуждение вынесли проект первого рамочного закона об искусственном интеллекте, который одновременно закрепляет базовые принципы регулирования ИИ и прямо требует учитывать традиционные российские духовно-нравственные ценности при создании и внедрении таких систем. Для инженеров, проектировщиков, айти-специалистов и госслужащих это не абстрактная политическая декларация, а новая нормативная реальность, к которой придётся готовить и технологии, и документы, и внутренние регламенты.

I. Зачем отрасли закон об ИИ?

Министерство цифрового развития подготовило проект федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации» (ID 166424 на портале проектов нормативных правовых актов). Документ впервые на уровне федерального закона даёт определение искусственного интеллекта и вводит систему базовых понятий для отрасли - от суверенного ИИ до доверенных моделей. По данным Минцифры, основной замысел закона - создать правовые условия для ускоренного внедрения ИИ, но одновременно обеспечить безопасность личности, общества и государства и технологический суверенитет России. Вице-премьер Дмитрий Григоренко характеризует законопроект как рамочный: он задаёт общие принципы и контуры регулирования, а конкретные технические требования и отраслевые регламенты будут разворачивать последующими актами.

Обсуждение проекта началось в марте 2026 года, общественная дискуссия организована через официальный портал проектов нормативных правовых актов. По состоянию на конец марта документ ещё не прошёл процедуру рассмотрения в Госдуме и формально остаётся законопроектом, а не принятым актом. Планируется, что при успешном прохождении всех стадий он вступит в силу с 1 сентября 2027 года, то есть у рынка и госструктур остаётся несколько лет на подготовку. Для технических специалистов это редкая ситуация: есть возможность заранее перестроить процессы, не дожидаясь «вчерашнего» срока вступления норм в силу.

Продолжение: https://vk.com/wall-210601538_2030

⭐️ Проект Федерального закона "Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации"

Проектом в том числе:

+ устанавливается риск-ориентированный подход к регулированию применения искусственного интеллекта;

+ вводятся понятия суверенных, национальных и доверенных моделей искусственного интеллекта;

+ предусматривается, что гражданам должна быть обеспечена возможность досудебного обжалования решений, принятых или совершенных с использованием технологий искусственного интеллекта;

+ закрепляется право граждан на компенсацию вреда, причиненного неправомерным использованием технологий искусственного интеллекта;

+ устанавливаются обязанности разработчика модели искусственного интеллекта, оператора системы искусственного интеллекта, владельца и пользователя сервиса искусственного интеллекта

Вступление в силу закона планируется с 1 сентября 2027 года.

КонсультантПлюс

⭐️ Gartner: К 2028 году 80% госструктур внедрят ИИ-агентов для автоматизации рутинных решений

По мнению аналитиков Gartner, к 2028 году по меньшей мере 80% госструктур внедрят ИИ-агентов для автоматизации рутинного процесса принятия решений, повышения эффективности и расширения предоставляемых услуг. Развитие мультимодального ИИ, диалоговых и агентных систем открывает перед государственными организациями новые возможности для автоматизации, анализа и прогнозирования.

Одним из наиболее серьезных препятствий на пути использования искусственного интеллекта в государственном управлении становится фрагментация. Согласно опросу Gartner, ключевыми проблемами при внедрении цифровых решений считаются изолированные стратегии (41% респондентов) и устаревшие системы (31%).

Традиционно управление ИИ было сосредоточено на управлении моделями, данными и алгоритмами. Однако теперь акцент смещается в сторону управления самими решениями – их подготовкой, выполнением, контролем и аудитом. Это особенно важно для госсектора, где легитимность власти напрямую зависит от прозрачности и справедливости процессов.

Опрос Gartner показал, что основными причинами для инвестирования в укрепление доверия 39% респондентов считают улучшение обслуживания и удовлетворенность граждан. Концепция интеллектуального принятия решений (Decision Intelligence, DI) закладывает структурную основу для укрепления этого доверия, предлагая четкие и контролируемые пути принятия решений.

Управляя решениями, а не просто изолируя компоненты ИИ, госструктуры могут лучше сочетать автоматизацию с человеческим суждением, особенно в ситуациях, когда ставки высоки или затрагивают права человека. При принятии решений регулируемые отрасли и государственные организации не могут полагаться на непрозрачные системы в стиле черного ящика.

Согласно прогнозам Gartner, из-за необходимости обеспечения прозрачности к 2029 году 70% государственных учреждений потребуют оснащения систем принятия решений, влияющих на предоставление услуг гражданам, искусственным интеллектом, объясняющим сделанный выбор, и ИИ с участием человека. Такой подход гарантирует, что логика принятия решений может быть проверена, объяснена и при необходимости оспорена.

Доверие граждан к способности государства предоставлять эффективные услуги становится ключевым фактором цифровой трансформации. Одним из главных приоритетов 50% респондентов назвали улучшение пользовательского опыта граждан. Когда граждане получают от госорганизаций ответ на свой запрос автоматически, уровень прямого взаимодействия снижается, что делает доверие к надежности, справедливости и прозрачности системы еще более критичным. Способность прогнозировать потенциальные потребности может полностью изменить порядок предоставления государственных цифровых услуг. DI позволяет госструктурам перестраивать процессы принятия решений, переходя от реактивного, управляемого процессами взаимодействия к активному и персонализированному обслуживанию. Это не только повышает согласованность и сокращает задержки, но и способствует укреплению общественного доверия.

osp ru

⭐️ Вебинар "AI-ассистенты для сбытовых компаний: возможности и эффекты"

На вебинаре совместно с партнёром ГК АТС разобрали, как AI и речевые технологии могут работать на пользу вашего бизнеса. Как голосовые роботы повышают удовлетворённость клиентов за счёт быстрых и точных ответов, а также каких бизнес‑эффектов можно достичь, используя AI‑ассистентов и ботов в сбытовых компаниях.

Вместе с экспертами разобрали практические кейсы, которые показали, как внедрить AI-решения без потери качества обслуживания.

О чем вебинар:

+ Как с помощью голосовых роботов обеспечить клиентам быстрые, точные и персонализированные ответы — 24/7.
+ Как AI помогает оптимизировать ключевые бизнес‑процессы и высвобождать ресурсы для стратегических задач.
+ Про бизнес‑эффекты использования AI‑ассистентов в сбытовых компаниях.
+ Как разгрузить операторов и быстро масштабировать решения без потери качества обслуживания.
+ Как с помощью аналитики коммуникаций получить новые возможности для управления клиентским опытом.
+ Вебинар будет полезен операционным менеджерам в сбытовых и сервисных компаниях, а также СТО, CIO и специалистам по цифровой трансформации.

Ссылка на вебинар: https://yandex.cloud/ru/events/1428

Архитектор MLSecOps и AI Governance
Николай Павлов

⭐️ MLечный путь 2026

Большая конференция компании Selectel о том, как искусственный интеллект перестает быть экспериментом и становится рабочим бизнес-инструментом.

На конференции объединим технический трек с продуктовым видением, чтобы вместе проложить маршрут по MLечному пути от идеи до продакшена. Очень рекомендую!

Ссылка для регистрации: https://mlconf.selectel.ru

Архитектор MLSecOps и AI Governance
Николай Павлов

⭐️ Вебинар HiveTrace Red

На вебинаре обсудили:

👉 Что такое AI-пентест / редтиминг ИИ-систем
👉 Почему растет рынок ИИ-пентеста
👉 Как делать проекты
👉 Как на этом заработать интегратору

Ссылка на презентацию: https://drive.google.com/file/d/1y0NI2T9sBeBJssb-nDtSHKBEPDIMEZIL/view?pli=1

Ссылка на вебинар: https://vkvideo.ru/video-237009145_456239017

Архитектор MLSecOps и AI Governance
Николай Павлов

⭐ Архитектура Безопасных AI-Агентов

Приветик, мои дорогие коллеги и самые талантливые друзья!

Весьма интересное и хорошо структурированное руководство по безопасной архитектуре ИИ-агентов, полностью доступное онлайн и бесплатно. Рекомендую к изучению (хотя бы сделайте беглый обзор). Подобный работ я еще не встречал, тем более тема горячая (да все только и делают, что говорят про ИИ-агентов))), поэтому важно находить крупицы времени и продолжать изучение этого направления.

Ссылка: https://agent-axiom.github.io/agent-arch/

Архитектор MLSecOps и AI Governance
Николай Павлов

⭐️ Запускаем шестой поток учебной программы по MLSecOps с международным участием!

В январе успешно завершился пятый поток корпоративной учебной программы "MLSecOps. Обеспечение безопасности и отказоустойчивости систем машинного обучения" в Академии Softline. В 2025 году эта программа вышла на Международный уровень (страны СНГ). От слушателей регулярно поступают позитивные отзывы, при этом программа непрерывно обновляется, по мере накопления опыта, повышения нормативно-правового регулирования и стремительного развития направления MLSecOps в России и в мире.

В рамках обучения слушатели проводят базовый аудит ИИ-систем своих компаний, что помогает многим улучшить безопасность и отказоустойчивость прямо в процессе обучения. Для отдельных компаний потенциальный экономический эффект от такого аудита превысил 3 млн. рублей за 2025 год.

По заявкам новых слушателей c 7 апреля мы запускаем новый поток этой обучающей программы и приглашаем всех желающих!

Сильные стороны программы:

1. Опора на передовой опыт обеспечения безопасности ИИ-систем китайских компаний из Гуань-Чжоу и Шень-Чженя.

2. Привлечение к проведению программы топовых экспертов-разработчиков самых передовых российских инструментов HIVETRACE, HIVETRACE RED и LLAMATOR - Евгения Кокуйкина и Тимура Низамова.

3. Бесплатная техническая поддержка всех слушателей программы по вопросам безопасности и отказоустойчивости ИИ-систем в процессе и после проведения программы - бессрочно.

4. Реализуется базовый аудит MLSecOps в компаниях слушателей программы силами самих слушателей при поддержке опытного эксперта. Все практические задания программы ориентированы на улучшение безопасности и отказоустойчивости ИИ-систем в компаниях, где работают слушатели и по итогам все желающие формулируют рекомендации по улучшению, практические меры, создавая реальную пользу для бизнеса, оцененную в денежном эквиваленте на основе оценки рисков.

5. Направление MLSecOps - крайне обширное, перспективное и стремительно растущее по экспоненте и большинство российских компаний имеющих ИИ-системы уже столкнулись с необходимостью введения такой должности или роли в ближайший год. Особенно компании из сферы FinTech.

6. Программа полностью согласуется с российскими ГОСТ для ИИ и особенно актуальна сейчас, когда с 1 марта вступил в силу 117 Приказ ФСТЭК. А новый закон об ИИ уже активно обсуждается в Государственной Думе. Автор программы принимает участие в разработке ГОСТ и других регламентов в сфере безопасности и отказоустойчивости ИИ-систем в России, а также внес свои предложения в проект закона об ИИ в России. В учебной программе будет детально разобрано, как соблюдать все эти требования.

Более подробная информация и возможность записаться по ссылке (смотреть без включенного VPN):
https://academyit.ru/courses/mlsecops

Дополнительная ссылка:
https://edu.softline.com/vendors/akademiya-ayti/osnovy-mlsecops-obespechenie-bezopasnosti-sistem-mashinnogo-obucheniya/

Московские работодатели могут вернуть до 95% затрат на обучение персонала по данной учебной программе.

Архитектор MLSecOps и AI Governance
Николай Павлов

Если говорить уже про настоящее участие в конференциях, то в апреле будем рады увидеться офлайн в Москве 📅.

🔹 Завтра нас можно будет найти на форуме «Территория безопасности». Иван Василенко на нашем стенде расскажет вам о свежем релизе HiveTrace Red.
🔹 8 апреля я буду участвовать в дискуссии на Data Fusion вместе с Владиславом Тушкановым и коллегами из индустрии.
🔹 9 апреля мы участвуем в мероприятии Cloud.ru, где у Raft будет стенд, а у Анны Тищенко доклад.
🔹 13 апреля на форуме в Кибердоме мы проводим сессию, где вместе с CISO поговорим про генеративный ИИ и другие насущные вопросы.

До встречи в Москве!

⭐️ Провел серию встреч с ребятами по безопасной и эффективной работе в нейронных сетях в лагере "Антоновский"

Это один из лучших лагерей Свердловской области, который, традиционно воспитывает в ребятах стремление к труду, знаниям, дисциплине. Особенно важна нацеленность команды лагеря на использование передовых технологий, включая нейронные сети.

Я встречался с отрядами от 7 до 17 лет, мы изучали самые современные нейронные сети, способы их ответственного и безопасного применения в реальной жизни и в профессиях. Поговорили о дипфейках и современных трендах.

Ежегодно интерес к нейронным сетям среди ребят растет. И если еще года два назад я общался только с 1 и 2 отрядами (ребята с 14 до 17 лет), то теперь работать с нейронными сетями учатся дети уже с 7 лет! Это говорит о колоссальном прогрессе за два последних года и явно этот навык критически им необходим.

Таким образом, нам удалось создать одну из первых в России программ дополнительного образования по освоению нейронных сетей для самых младших ребят. Конечно, я и далее в свободное время буду продолжать оказывать поддержку этим детям, развивать и это крайне важное направление активности. Тем более, что и оно в небольшой степени включает в себя элементы MLSecOps и AI Governance (на уровне пользователей).

Я не прощаюсь с этими ребятами, а говорю им "до новых встреч!".

Архитектор MLSecOps и AI Governance
Николай Павлов

https://vk.com/wall-210601538_2038

⭐️ В Китае резко возросло число компаний, состоящих из одного человека и агентов ИИ

В Китае наблюдается взрывной рост числа «компаний, состоящих из одного человека» (OPC). Президент Alibaba Куо Чжан оценил, что 40% клиентов платформы сегодня — это предприниматели-одиночки. Драйвером к этому явлению стали агенты искусственного интеллекта, включая популярный OpenClaw, которые берут на себя рутинные задачи: маркетинг, логистику, налоговую отчетность, обслуживание клиентов и управление соцсетями.

Вместо того чтобы заменять людей, они фактически являются сотрудниками этого предпринимателя, — заявил Чжан.
Компании из одного человека — это бизнес-модель, при которой основатель ведет все операции самостоятельно, без найма сотрудников. Раньше это было возможно только в микро-нишах, но теперь ИИ-агенты автоматизируют задачи, требующие целых отделов.

Чжан объяснил: загрузка товаров на разные сайты, управление аккаунтами в соцсетях, обработка жалоб — все это «легко для крупной компании, но критически необходимо для успеха малого бизнеса». ИИ-агенты стали тем недостающим звеном.

Особый ажиотаж вызвал OpenClaw — агент с открытым исходным кодом. В Китае началась настоящая «золотая лихорадка»: энтузиасты создают агентов для торговли акциями, организации свиданий вслепую и управления бизнесом. Многие OPC-компании построили свои сервисы именно на OpenClaw.

Продолжение: https://vk.com/wall-210601538_2039

⭐️ Microsoft представила стандарт защиты ИИ-агентов по градации OWASP

Microsoft выпустила Agent Governance Toolkit – открытый инструментарий для защиты автономных ИИ-агентов от взлома, манипуляций и несанкционированных действий.

Автономные ИИ-агенты становятся всё мощнее – и всё опаснее. Пока разработчики наперегонки внедряют их в бизнес-процессы, вопрос безопасности остаётся без ответа: кто следит за тем, что агент делает прямо сейчас, в реальном времени? Microsoft решила взяться за эту проблему и опубликовала Agent Governance Toolkit – бесплатный инструментарий с открытым исходным кодом под лицензией MIT.

По заявлению компании, новый проект – первый в мире, покрывающий все десять рисков агентного ИИ, которые организация OWASP зафиксировала в прошлом году. В список угроз вошли: перехват целей, злоупотребление инструментами, кража идентификаторов, атаки на цепочку поставок, несанкционированное выполнение кода, отравление памяти, небезопасные коммуникации, каскадные сбои, манипуляции доверием между человеком и агентом, а также появление «агентов-изгоев».

Toolkit состоит из нескольких модулей. Agent OS работает как политический движок и перехватывает каждое действие агента до его выполнения. Agent Mesh защищает коммуникацию между агентами. Agent Runtime управляет динамическими кольцами исполнения. Agent SRE отвечает за общие защитные механизмы. Agent Compliance автоматически проверяет соответствие требованиям и выставляет оценки. Agent Marketplace управляет жизненным циклом плагинов. Agent Lightning обеспечивает управление обучением с подкреплением.

Инструментарий поддерживает Python, Rust, TypeScript, Go и .NET, а его код уже доступен на GitHub.

Ссылка: https://opensource.microsoft.com/blog/2026/04/02/introducing-the-agent-governance-toolkit-open-source-runtime-security-for-ai-agents

securitylab

⭐️ Управление ИИ-системами (AI Governance) в критических отраслях: как управлять рисками, соответствовать требованиям регуляторов и эффективно внедрять ИИ

Искусственный интеллект уже давно перестал быть экспериментом и стал обязательной инфраструктурой критических отраслей. Но вместе с возможностями растут и риски: от отравления данных и утечек информации до несоответствия новым требованиям регуляторов.

Ошибки ИИ-системы в финансовом секторе, медицине или промышленности стоят слишком дорого. Хаотичное внедрение ИИ без стратегического управления (AI Governance) — это путь к репутационным потерям и штрафам.

Приглашаем на вебинар, на котором рассмотрим, как эффективно управлять рисками и соответствовать требованиям регуляторов при внедрении искусственного интеллекта в критических отраслях.

Дата: 23 апреля 2026
Время: 11:00 - 12:30 мск
Участие бесплатное

Спикер: Николай Павлов, архитектор MLSecOps и AI Governance, Академия АйТИ (ГК Softline).

Николай регулярно вносит предложения и дополнения в нормативно-правовые акты, регулирующие ИИ в России (ГОСТ, ПНСТ, ФЗ).

На вебинаре разберём:


1. Архитектура AI Governance и управление рисками
+ В чем отличие AI Governance от направлений Data Governance и MLSecOps?
+ Классификация ИИ-систем по уровням риска: от «минимального» до «неприемлемого» - что ожидает российские ИИ-системы?
+ Примеры инцидентов AI Governance, методы оценки ущерба и построение риск-матриц (включая оценку мультипликативного эффекта).

2. Регуляторный ландшафт и вызовы времени
+ Обзор ключевых требований: 117 Приказа ФСТЭК, национальных стандартов РФ, включая ПНСТ «ИИ в КИИ» и ожидаемый Федеральный закон «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации»
+ Почему этика и ответственность становятся критическими факторами для бизнеса? Что нужно сделать уже сейчас?

3. Практическое внедрение и управление ИИ-системами
+ Пошаговый план внедрения: от оценки зрелости до дорожной карты.
+ Ролевая модель AI Governance: Data Steward, Data Owner в контексте ИИ.
+ Инцидент-менеджмент: роли, плэйбуки и постмортемы.
+ Как обосновать экономический эффект от защитных мер и рассчитать KPI системы AI Governance?
+ Как провести базовый аудит AIG в компании?

Регистрация по ссылке: https://academyit.ru/deals/activity/events/ai-governance-v-kriticheskikh-otraslyakh-kak-upravlyat-riskami-sootvetstvovat-regulyatoram-i-effekti/?bx_sender_conversion_id=19832312&utm_source=email&utm_medium=email&utm_campaign=w23042026_AIGovernance

Архитектор MLSecOps и AI Governance
Николай Павлов

⭐️ Владимир Путин назвал ИИ одним из решающих факторов развития России

Привет, мои дорогие друзья и коллеги!

Настоятельно рекомендую посмотреть совещание по вопросам развития технологий искусственного интеллекта, проводимое Президентом РФ Владимиром Путиным.

Указаны фундаментальные тезисы, на которые всем специалистам, связанным с ИИ, крайне важно ориентироваться в настоящем и будущем: https://rutube.ru/video/dbeb25bbd3d92506ef247399c80b80b0/

Архитектор MLSecOps и AI Governance
Николай Павлов

⭐️ Внес ряд предложений в законопроект "Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации" - и часть из них была принята.

Архитектор MLSecOps и AI Governance
Николай Павлов

⭐️ Статистика использования ИИ в России

Большинство россиян (63%) пользовались технологиями искусственного интеллекта в течение 2025 года, также их применяли 86% среди представителей поколения цифры (рожденные после 2001 года) и 87% среди младших миллениалов (рожденные с 1992 по 2000 год), сообщил руководитель департамента политических исследований аналитического центра ВЦИОМ Михаил Мамонов.

"Шестьдесят три процента россиян заявляют о том, что они применяли технологии искусственного интеллекта в своей повседневной жизни в течение последнего года. При этом среди самых молодых эта цифра носит почти абсолютный характер. То есть порядка 90% заявляют о том, что они это уже используют, применяют", - сказал Мамонов в ходе круглого стола.

Он отметил, что 54% россиян воспринимают искусственный интеллект прежде всего как помощника. Этот показатель выше среди молодых людей. В такой роли ИИ воспринимают 67% представителей поколения цифры (рожденные после 2001 года) и 66% среди младших миллениалов (рожденные с 1992 по 2000 год).

При этом больше половины респондентов (52%) доверяют искусственному интеллекту, и 38% - не доверяют. Среди причин доверия граждане РФ назвали то, что технология может выполнять опасные для жизни человека виды работ (34%), улучшает, упрощает жизнь и работу человека (33%), объективна, так как у нее нет эмоций (32%).

"Почему не доверяют и по каким направлениям возможно ухудшение оценок искусственного интеллекта? Прежде всего, это допустимость ошибок - 28% заявили о том, что в работе искусственного интеллекта бывают сбои и ошибки. Второе - страх, опасение, что искусственный интеллект может выйти из-под контроля человека. Третье - что искусственный интеллект может использоваться в корыстных целях, соответственно, 23%.

Он также подчеркнул, что 21% россиян не доверяют ИИ, потому что он собирает данные, которые потом могут быть похищены, а каждый пятый (20%) считает, что технология проведет к деградации населения. В то же время, 80% опрошенных скорее положительно относятся к использованию искусственного интеллекта в сфере промышленности, 76% - в сфере науки, и по 72% - в строительстве, энергетике и торговле.

"При этом надо отметить, что люди допускают использование технологии искусственного интеллекта в абсолютном большинстве сфер, за исключением одной... Это сфера государственного управления. В государственном управлении все-таки предполагается наличие человека, к которому можно обратиться. Поэтому скорее положительно относится к использованию технологий искусственного интеллекта в государственном управлении 37%, отрицательно 53%".

ria

⭐️ Ответы на вопросы слушателей международных учебных программ по MLSecOps и AI Governance

ВОПРОС:

Николай, какой должна быть структура документа стратегии по развитии искусственного интеллекта в компании (по направлению MLSecOps), какие эффекты для бизнеса она должна учитывать (возврат инвестиций, увеличение выручки)?

ОТВЕТ:

Добрый день и благодарю за Ваш вопрос!

Важно подчеркнуть сразу, что я опишу Вам примерный типовой обезличенный шаблон. А Вы уже можете адаптировать его под свою компанию. Данный шаблон не является однозначной рекомендацией, Вам обязательно нужно внести в него корректировки и доработки с учетом специфики Вашей компании и её ИИ-систем.

1. ТИТУЛЬНЫЙ ЛИСТ.

Оформляется стандартно, в соответствии с внутренними методическими требованиями Вашей компании. В шапке название компании, ниже справа - "Утверждаю", фамилия, инициалы, должность утверждающего лица, место для подписи.

Далее ниже по центру название документа, например, "Стратегия по развитию ИИ в компании (направление MLSecOps). Версия 1.0". Обязательно указываем, что версия первая, так как этот документ (стратегия) будет изменяться и дорабатываться со временем.

В нижней части титульной страницы указываем город и год.

2. РЕЗЮМЕ.

Как правило, занимает одну, максимум две страницы. Здесь можно написать определение стратегии по развитию ИИ компании в направлении именно MLSecOps (или даже просто можно называть "Стратегия MLSecOps", или "Политика по безопасности и отказоустойчивости ИИ-систем" компании).

Далее пишем цель этой стратегии, можно добавить задачи ("для достижения указанной цели поставлены следующие задачи..."). Задачи пишем в неопределенной форме ("разработать...", "установить..." и т.п.).

Далее либо в этом пункте, либо в отдельном, следующем, мы указываем ключевые инвестиции, потребности и ожидаемый ROI (то есть отдачу от возврата инвестиций).

Желательно указать также 3 наиболее ярких и очевидных бизнес-эффекта, может быть и не переводить их в деньги, но так, чтобы было ясно, что это точно нужно, нужно защищать ИИ-системы и обеспечивать их отказоустойчивость.

То есть в кратком Резюме мы цепляем бизнес, погружаем в тему и тут же говорим на языке денег почему нужно изучать документ дальше, в чем его конкретная выгода.

Продолжение: https://vk.com/wall-210601538_2045

⭐️ Ответы на вопросы слушателей международных учебных программ по MLSecOps и AI Governance

ВОПРОС:
Как связать ущерб от ИИ-инцидентов с бизнес-стратегией бизнеса (стратегические цели/проекты) и возвратом инвестиций (ROSI или ROI)?

ОТВЕТ:
Чтобы связать ущерб от ИИ-инцидентов с бизнес-стратегией компании и рассчитать возврат инвестиций (так называемый ROSI), нужно уметь говорить с руководством в первую очередь на языке денег и целей, а не только в части технических уязвимостей. И нужно оценивать это с позиции уже работающей ИИ-системы, исходить из того, что будет если она остановится, сколько денег мы тут потеряем, а не только анализировать последствия инцидента.

Здесь можно выделить такие шаги:

Шаг 1. Берем стратегическую ИИ-систему. Например: «Запустить ИИ-помощника для клиентов и увеличить продажи на 10%».

Шаг 2. Оцениваем, что будет, если такая ИИ-система сломается. Не «хакеры атакуют модель», а вообще, что будет если «помощник начнет выдавать ошибки»? Сколько мы потратим на восстановление, на ликвидацию угрозы. Сколько потеряем потом денег в результате последствий – какой будет мультипликативный ущерб? Например, клиенты уйдут, значит, мы потеряем около 5% выручки (50 млн.) + заплатим штрафы + рухнет цена акций на бирже, значит, придется повысить дивиденды.

Шаг 3. Считаем риск. Умножаем вероятность этого сбоя (например, 20% в год) на сумму всех потерь (50 млн.). Получаем «ожидаемый ущерб» или «потенциальный ущерб» - 10 млн. в год.

Шаг 4. Оцениваем защиту. Если решение за 4 млн. в год предотвращает 80% таких инцидентов, мы этим «спасаем» 8 млн. тыс. (80% от $10 млн.). И экономим этим условно тоже 4 млн.

Шаг 5. Считаем ROSI. Формула простая: (Спасенные деньги − Стоимость защиты) / Стоимость защиты. В нашем примере: (8 млн. – 4 млн.) / 4 млн. = 100%. То есть защитная мера очень эффективна и окупится в течение полугода.

Архитектор MLSecOps и AI Governance
Николай Павлов