Автор канала Похек, Сергей Зыбнев высказал на Йопрстконфе разумный компромисс: между ИИ guardrail на regexp и недешевой моделью как судья выбором может стать классический ML которому хватит процессора.

Формат презентации - html, но сама презентация рекомендуется к изучению. Презентация про самонописанную замену defectdojo (опенсорс платформа для менеджмента уязвимостей в коде) с ИИ автоматизацией.

Радует, что каждый доклад про ИИ инструменты обсуждает в как минимум встроенный базовый гардрейл на регэкспах.

Тем кто надеялся, что в опасные производственные процессы ИИ придет повзрослевшим придется переоценить свои риски.
Прекрасная цитата:
"По словам Бутко, СИПО – первый шаг к "умным" АЭС, где оператор получает не просто данные, а готовые решения с применением так называемого "слабого" (или прикладного) ИИ: расчеты по алгоритмам и обработку данных система берет на себя, переводя мыслительную деятельность оператора на уровень визуального восприятия."

Надежда, что
1. Есть реальный воздушный зазор или диоды отделяющие умного помощника от средств управления.
2. У оператора останутся запасные источники предоставляемых данных, а не только "СИПО".

Не хотите оставить комментариев в посте у Романа ? Какие роли в профессии ИБ будут скорее всего в топчике, а какие не очень.

Формат и содержание у поста получились интересными и аргументированными.

Вот мое ИМХО к оценке Романа:
0. VM инженеры будут более востребованы если тренд на рекорды ИИ уязвимостей останется.
1. SOC L1 первым рискует в уйти ИИфикацию (будет меньше вакансий) из других ролей SOC.
2. Антифрод аналитики - уже сейчас бизнес в недоумении как ИИ агентов отличать от нормальных клиентов. Антифрод может стать перспективным.
3. CISO можно выше поднять по привлекательности роли, если компания не субъект КИИ. Оборотные штрафы за ПДн все равно правда ограничивают привлекательность.
4. Ну и DPO по факту это комплаенс специалист, только CISO Роман из-за ответственности положил в "подвал". Если без КИИ - у DPO ответственность не меньше, а польза для бизнеса ещё меньше чем у CISO, по крайней мере пока.

Любопытный опрос от Чекпойнт про проблемы с безопасностью ИИ:
1. Акцент смещен на использование внешних по отношению к ИИ средств безопасности - межсетевых экранов уровня сети, EDR. Оценки рисков по безопасности использования самой модели почти нет. Нет оценки безопасности использования для самого кибербеза.

2. Предлагаемые меры не технические, а организационные в формате: "проинвентаризируй все ИИ объекты".

3. Далеко не каждый опрос высчитывает доверительный интервал и погрешность. Этот опрос высчитывает. Из методологических рисков - нет географии опроса.

Самые любопытные графики ниже. За полным отчётом рекомендую сходить по ссылке.