Полезные ссылки на материалы по ИИ:
1. Национальный портал в сфере Искусственного интеллекта https://ai.gov.ru/
2. Подборка инструментариев для проверки ИИ https://cyberorda.com/MlSecOps/
3. AI Security карта рынка https://menlovc.com/perspective/security-for-ai-genai-risks-and-the-emerging-startup-landscape/
4. Архитектура экосистемы генеративного ИИ от АФТ https://t.me/aisecops/6
#материалы #ссылки
1. Национальный портал в сфере Искусственного интеллекта https://ai.gov.ru/
2. Подборка инструментариев для проверки ИИ https://cyberorda.com/MlSecOps/
3. AI Security карта рынка https://menlovc.com/perspective/security-for-ai-genai-risks-and-the-emerging-startup-landscape/
4. Архитектура экосистемы генеративного ИИ от АФТ https://t.me/aisecops/6
#материалы #ссылки
Архитектура_экосистемы_генеративного_искусственного_интеллекта_участники.pdf
1.9 MB
Архитектура экосистемы генеративного искусственного интеллекта от Ассоциации Финтех
#генИИ #архитектура
#генИИ #архитектура
OWASP Top 10 for Large Language Model Applications https://owasp.org/www-project-top-10-for-large-language-model-applications/
#security #llm #owasp
#security #llm #owasp
owasp.org
OWASP Top 10 for Large Language Model Applications | OWASP Foundation
Legacy entry point for the OWASP Top 10 for Large Language Model Applications. Get the current 2026 release from the OWASP GenAI Security Project.
Предстоящие мероприятия по ИИ в России:
1. 27.05.2024 Форум "Цифровая экономика. Технологии доверенного искусственного интеллекта" https://ib-bank.ru/trust-ai/
#мероприятия #год_2024
1. 27.05.2024 Форум "Цифровая экономика. Технологии доверенного искусственного интеллекта" https://ib-bank.ru/trust-ai/
#мероприятия #год_2024
https://www.vedomosti.ru/technology/articles/2024/04/03/1029521-mintsifri-obsuzhdaet-s-otraslyu-sozdanie-edinogo-tsentra-bezopasnosti
#security #минцифры
#security #минцифры
Ведомости
Минцифры обсуждает с отраслью создание единого центра безопасности в области ИИ
Объединение может бороться с дипфейками и «отравлением» данных
Forwarded from Ассоциация ФинТех
Интерактивная карта регулярно обновляется. Так, в последнем обновлении добавлены новые сервисы, а также категория отслеживания дипфейков.
У пользователей также появилась возможность скачать актуальный вариант карты в кратком и общем представлениях и предложить сервис для добавления в карту.
Please open Telegram to view this post
VIEW IN TELEGRAM
https://atlas.securityhub.ru/
MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems), это база знаний о кейсах, тактиках и техниках, применяемых злоумышленниками для атак на системы машинного обучения (МО). Матрица основана на реальных наблюдениях, исследованиях red teams и групп по безопасности, академических исследованиях. ATLAS создан по образцу фреймворка MITRE ATT&CK®, ее тактики и техники дополняют матрицу ATT&CK.
ATLAS позволяет исследователям ориентироваться в ландшафте угроз для систем машинного обучения. МО все чаще используется в различных областях. Количество уязвимостей в МО растет, и его использование увеличивает поверхность атаки в существующих системах. Матрица ATLAS была разработана для повышения осведомленности об угрозах МО и представлениях их в виде, знакомом исследователям безопасности.
На русском языке.
#mitre #framework
MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems), это база знаний о кейсах, тактиках и техниках, применяемых злоумышленниками для атак на системы машинного обучения (МО). Матрица основана на реальных наблюдениях, исследованиях red teams и групп по безопасности, академических исследованиях. ATLAS создан по образцу фреймворка MITRE ATT&CK®, ее тактики и техники дополняют матрицу ATT&CK.
ATLAS позволяет исследователям ориентироваться в ландшафте угроз для систем машинного обучения. МО все чаще используется в различных областях. Количество уязвимостей в МО растет, и его использование увеличивает поверхность атаки в существующих системах. Матрица ATLAS была разработана для повышения осведомленности об угрозах МО и представлениях их в виде, знакомом исследователям безопасности.
На русском языке.
#mitre #framework
#ИИ NIST выпустил 4 новых проекта публикаций, которые должны быть опубликованы до 2 июня 2024 года:
- Профиль генеративного искусственного интеллекта AI RMF (NIST AI 600-1),
- Практика безопасной разработки ПО для генеративного ИИ (NIST SP 800-218A),
- Снижение рисков, связанных с синтетическим контентом (NIST AI 100-4), и -...
- План глобального взаимодействия по стандартам ИИ (NIST AI 100-5)
- а также программа GenAI challenge для улучшения оценок GenAI. Здесь: https://www.nist.gov/news-events/news/2024/04/department-commerce-announces-new-actions-implement-president-bidens
- Профиль генеративного искусственного интеллекта AI RMF (NIST AI 600-1),
- Практика безопасной разработки ПО для генеративного ИИ (NIST SP 800-218A),
- Снижение рисков, связанных с синтетическим контентом (NIST AI 100-4), и -...
- План глобального взаимодействия по стандартам ИИ (NIST AI 100-5)
- а также программа GenAI challenge для улучшения оценок GenAI. Здесь: https://www.nist.gov/news-events/news/2024/04/department-commerce-announces-new-actions-implement-president-bidens
NIST
Department of Commerce Announces New Actions to Implement President Biden’s Executive Order on AI
Announcements include draft guidance documents, a draft plan for international standards, and a new measurement program opening for public comment.
👍1🔥1
RSA Conference 2024:
На этой неделе прошло крупное мероприятие в ИБ. Изучаем интересные анонсы:
* ArmorCode, компания-разработчик решения класса Application Security Posture Management (ASPM), интегрировала в свою платформу ИИ для корреляции уязвимостей и ускорения обработки дефектов.
* Checkmarx выпустила функции AI Security для защиты кода, который был сгенерирован с помощью LLM. И также добавила возможности авто-исправления уязвимостей.
* Cloud Security Alliance выпустил руководство для безопасного внедрения ИИ. Опубликованы три ключевых документа, с которыми обязательно должны ознакомиться директор по информационной безопасности и руководители направлений AI: “AI Organizational Responsibilities”, “AI Resilience” и “Principles to Practice”.
* Компания Protect AI запустила базу данных уязвимостей в ИИ/ML. По мнению компании, существующие базы уязвимостей CVE и NVD не закрывают потребности в информации об уязвимых ML-моделях и проблемах ИИ.
#ии #ai
На этой неделе прошло крупное мероприятие в ИБ. Изучаем интересные анонсы:
* ArmorCode, компания-разработчик решения класса Application Security Posture Management (ASPM), интегрировала в свою платформу ИИ для корреляции уязвимостей и ускорения обработки дефектов.
* Checkmarx выпустила функции AI Security для защиты кода, который был сгенерирован с помощью LLM. И также добавила возможности авто-исправления уязвимостей.
* Cloud Security Alliance выпустил руководство для безопасного внедрения ИИ. Опубликованы три ключевых документа, с которыми обязательно должны ознакомиться директор по информационной безопасности и руководители направлений AI: “AI Organizational Responsibilities”, “AI Resilience” и “Principles to Practice”.
* Компания Protect AI запустила базу данных уязвимостей в ИИ/ML. По мнению компании, существующие базы уязвимостей CVE и NVD не закрывают потребности в информации об уязвимых ML-моделях и проблемах ИИ.
#ии #ai
👍1