Мощная подборка материалов по безопасности ИИ систем⚡

https://github.com/TalEliyahu/Awesome-AI-Security

#github #aisecurity #ai #cybersecurity

The Engine Room⬅

Не менее мощная подборка материалов по безопасности ИИ систем и не только⚡

Блог
YouTube
GitHub

#github

The Engine Room⬅

Инструмент для оценки устойчивости больших языковых моделей (LLM) к атакам- adversarial testing🔋

#github #aisecurity #ai #cybersecurity

https://github.com/IntelLabs/LLMart

The Engine Room⬅

Консольный групповой чат с серверной и клиентской частью написанный на Go📞

#github #cli #chat

https://github.com/Cod-e-Codes/marchat

The Engine Room⬅

Anthropic выложил сборник рецептов по применению - Claude Cookbooks. Репозиторий служит как образовательный и практический ресурс, где показывается, как использовать Claude API в реальных сценариях.

#github #claude #аnthropic

https://github.com/anthropics/claude-cookbooks

The Engine Room⬅

Go-реализация MCP протокола (Model Context Protocol). Поддерживает разный транспорт - STDIO, SSE, HTTP. Умеет управлять сессиями и контекстами. Есть встрленные промты и возможность добавлять middleware, хуки, телеметрию.

#github #mcp #go

https://github.com/mark3labs/mcp-go

The Engine Room⬅

Инструмент для безопасной передачи файлов с полным сквозным шифрованием. Позволяет обмениваться файлами через веб-интерфейс или командную строку.

#github #cli #e2ecp

https://github.com/schollz/e2ecp

The Engine Room⬅

Библиотека на Go для локального запуска и интеграции моделей (LLM, SLM, TLM, VLM). Использует llama.cpp и реализована без CGo.

#github #llama #go

https://github.com/hybridgroup/yzma

The Engine Room⬅

Google ожидаемо выкатили ADK-Go - открытый фреймворк для создания и развёртывания AI-агентов на Go. Ещё один типобезопасный, производительный и расширяемый способ строить LLM-агентов с инструментами, памятью и мультиагентными сценариями.
Проект пока в альфа-версии, но пользоваться уже можно.

#github #google #go #adkgo

https://github.com/google/adk-go

The Engine Room⬅

Репозиторий представляет собой несколько направлений:
1) AI/LLM Red Team Field Manual - включает в себя инструкции, примеры атак и ссылки на инструменты
2) AI/LLM Red Team Hand book - содержит методологию, шаблоны и рабочие процессы для проведения аудитов безопасности
3) Дополнительные материалы - шаблоны отчетов, руководство по созданию Red Team команды

#github #ai #cybersecurity #aisecurity

https://github.com/Shiva108/ai-llm-red-team-handbook

The Engine Room⬅

Репозиторий является программным сопровождением одноименной книги «Building Agentic AI Systems», которая посвящена проектированию и разработке автономных ИИ-агентов, способных планировать, рассуждать и действовать с минимальным вмешательством человека.
Основные разделы:
1) Главы 1–3 — теоретический фундамент
2) Главы 4–7 — проектирование и реализация
3) Главы 8–11 — безопасность и этика

#github #ai #cybersecurity #aisecurity #ai #agents #agenticai

https://github.com/PacktPublishing/Building-Agentic-AI-Systems

The Engine Room⬅

О, как!
Инструмент предназначенный для раннего обнаружения исправлений уязвимости в open-source проектах. Для счастья нужен только API-ключ Anthropic.
Как работает:
1. Отслеживает выбранные репозитории
2. С помощью Claude анализирует каждый новый коммит и диф код
3. Ищет паттерны, характерные для исправлений безопасности
4. Claude пишет отчет со сценарием атаки и демонстрирует PoC
5. Оповещает пользователя
Единственный минус - TypeScript...

#github #ai #cybersecurity

https://github.com/spaceraccoon/vulnerability-spoiler-alert-action

The Engine Room ⬅️

open-source инструмент для генерации и анализа AI SBOM.
Сканирует ML-артефакты в том числе и бинари моделей.
Также проверяет на потенциальные уязвимости и лицензионные риски.
Всё отдает в отчётах по стандартам SPDX и CycloneDX для дружбы с CI/CD.

#github #ai #cybersecurity #aisecurity

https://github.com/Lab700xOrg/aisbom

The Engine Room ⬅️

PoC для эксплуатации CVE-2026-21852 в Claude Code.
Уязвимость приводит к скрытой утечке API-ключей разработчика при клонировании и открытии стороннего проекта.

#github #ai #cybersecurity #aisecurity #claude

https://github.com/atiilla/CVE-2026-21852-PoC

The Engine Room ⬅️

PoC для эксплуатации уязвимости CVE-2026-2472 в Python SDK Google Cloud Vertex AI.
Уязвимость позволяет выполнить XSS атаку в средах разработки Jupyter и Google Colab.

#github #ai #cybersecurity #aisecurity #google

https://github.com/JoshuaProvoste/CVE-2026-2472-Vertex-AI-SDK-Google-Cloud

The Engine Room ⬅️

Skill для Claude Code. Предназначен для реверс-инжиниринга Android-приложений.
Умеет:
* Декомпиляция APK, XAPK, JAR и AAR файлов c использованием jadx и Fernflower/Vineflower
* Извлечение API - автоматический поиск HTTP-запросов, захардкоженных URL и токенов авторизации.
* Отслеживание цепочек вызовов и разбор структуры приложения, в том числе при обфускации.

#github #ai #cybersecurity #android #claude

https://github.com/SimoneAvogadro/android-reverse-engineering-skill

The Engine Room ⬅

Подробный roadmap по AI Red Teaming.
Содержит в себе:
1) Prerequisites: Требуемая база - основы безопасности, знание Python и понимание работы REST API и HTTP
2) Phase 1 — Foundations: Базовые концепции машинного обучения и ИИ. Ссылки на бесплатные курсы и материалы по устройству LLM
3) Phase 2 — AI/ML Security Concepts: Обзор поверхности атак, стандарты безопасности, MLOps и защита инфраструктуры
4) Phase 3 — Prompt Injection & LLM Attacks: Методы манипуляции моделями. Включает прямые и непрямые инъекции промптов, техники джейлбрейка и обход системных инструкций
5) Phase 4 — Hands-On Practice: Практические тренажеры, платформы для тренировок, намеренно уязвимые проекты и разборы CTF
6) Phase 5 — Advanced Exploitation Techniques: Сложные векторы атак, эксплуатация LLM-агентов с доступом к инструментам, скрытая эксфильтрация данных, XSS через чат-боты и атаки на RAG
7) Phase 6 — Real-World Research & Bug Bounty: Разбор реальных найденных уязвимостей и чек-листы для поиска багов в рабочих системах
8) Standards, Frameworks & References: Официальные стандарты и гайдлайны от NIST, ENISA и Google
9) Tools & Repositories: Инструменты для фаззинга и сканирования, а также защитные механизмы
10) Books, PDFs & E-Books: Специализированная литература и справочники
11) Video Resources: Записи докладов с конференций и обучающие плейлисты
12) CTF & Competitions: Ссылки на платформы и соревнования по практической безопасности ИИ
13) Bug Bounty Programs: Ссылки на программы вознаграждения за найденные уязвимости от OpenAI, Google, Meta и Huntr.
14) Community & News: Ресурсы для отслежвания актуальных трендов и общения с исследователями.

#github #ai #cybersecurity #aisecurity #roadmap

https://github.com/anmolksachan/AI-ML-Free-Resources-for-Security-and-Prompt-Injection

The Engine Room ⬅

Open-source фреймворк для исследования.
Как работает:
- самостоятельно ищет информацию в arXiv, Semantic Scholar, OpenAlex;
- формулирует гипотезу и планирует исследование;
- пишет код, запускает его в изолированной песочнице и анализирует результаты;
- ищет ошибки в методологии и логике своей работы встроенными агентами;
- запоминает неудачные решения и не повторяет их.

#github #ai #openсlaw

https://github.com/aiming-lab/AutoResearchClaw

The Engine Room ⬅

PoC для эксплуатации уязвимости CVE-2026-33017 в фрейморке Langflow.
Уязвимость позволяет выполнить RCE на сервере без авторизации.

#github #ai #cybersecurity #aisecurity #langflow

https://github.com/MaxMnMl/langflow-CVE-2026-33017-poc

The Engine Room ⬅️

Прокси-инструмент для безопасной работы с LLM через анонимизацию чувствительных данных.
Предназначен для пентеста и работы с приватной инфраструктурой без утечек.

Умеет:
* Перехват и модификация запросов к LLM API с заменой чувствительных данных на суррогаты
* Деанонимизация ответов — возвращает оригинальные значения пользователю
* Детекция PII через комбинацию regex и LLM
* Поддержка IP, доменов, email, токенов, имён хостов и других сущностей
* Локальное хранилище соответствий (PII vault)

#github #ai #cybersecurity #aisecurity

https://github.com/zeroc00I/LLM-anonymization

The Engine Room👾