AI SecOps

Буквально пока мы находились на PHDays, Национальный центр кибербезопасности Великобритании сделали git commit для своего документа Machine Learning principles.

🐇Чего в нём вообще происходит ? Этот документ показывает разным категориям людей - инженерам, разработчикам и секьюрити - какие вообще есть риски связанные с ИИ, и как их можно решить. Это не совсем фреймворк ...

➡️Принципы показывают как можно реализовать защиту и тестирование на разных этапах - соблюдая несколько свойств доверенного ИИ. В документе идёт конечно же упор на закрытие конкретных рисков - в этом обновлении кстати добавили LLM, а также обновили инструменты которые можно использовать для реализации безопасного MLOPS. С тестированием, верификацией и анонимизацией данных.

🌐тык на скачать pdf

🌐тык на сайт с ncsc

Please open Telegram to view this post

VIEW IN TELEGRAM

61 views19:56

AI SecOps

Forwarded from Makrushin (Denis)

Как атакующие используют ИИ: подборка сценариев

Встретил репозиторий с набором сценариев использования ИИ в реальных атаках. Автор этой коллекции сопоставил техники матрицы MITRE ATT&CK с известными случаями применения генеративных моделей в реальных атаках.

Примеры интересных кейсов:

* проведение разведки с использованием LLM: сбор и анализ информации из открытых источников о цели для точного определения поверхности атаки;
* применение LLM для ускорения процесса разработки имплантов;
* упрощение процесса исследования уязвимостей с помощью LLM.

Эти же сценарии может позаимствовать Red Team для своих задач.

🔥1

87 views08:12

AI SecOps

MLSecOps.pdf

585.5 KB

ИСП РАН, От DevOps к MLSecOps

103 views09:18

AI SecOps

MlSecOps fin.pdf

5.2 MB

Positive, «MLSecOps, или как мы делаем тренды».

104 views09:20