В России обновили концепцию регулирования искусственного интеллекта
В документе зафиксировали ответственность за вред, причиненный нейросетью.

#technique #llm

Alignment faking in large language models

https://arxiv.org/abs/2412.14093v1

NIST готовит рекомендации по адаптации NIST CSF при защите ИИ. И подготовила концептуальный документ с обоснованием почему для ИИ нужен специальный поход в стандартах.

https://www.nccoe.nist.gov/projects/cyber-ai-profile

AI Red Teamer Job Role Path, in collaboration with Google. (2025)

Программа AI Red Teamer Job Role Path, разработанная совместно с компанией Google, готовит специалистов по кибербезопасности к оценке, эксплуатации и защите систем искусственного интеллекта. Охватывая такие темы, как оперативное внедрение, атаки на конфиденциальность моделей, враждебный ИИ, риски в цепочке поставок и угрозы развертывания, программа сочетает теорию с практическими занятиями. Согласованный с Secure AI Framework (SAIF) от Google, он обеспечивает актуальность реальных проблем безопасности ИИ. Учащиеся получат навыки манипулирования поведением моделей, разработки стратегий «красной команды», ориентированных на ИИ, и проведения наступательных испытаний безопасности приложений, управляемых ИИ. Курс будет постепенно расширяться за счет смежных модулей вплоть до его завершения.

#cours

АЙТИ КРАЙМ
https://soundstream.media/playlist/ayti-kraym