Forwarded from Not Boring Tech
🫙 MCP-плагины теперь запускаются в разы проще — вышла база 450+ контейнерных версий серверов, которые можно установить в один клик через Docker без ручной настройки.
ИИ-агенты подключаются к любым тулзам на выбор — GitHub, Google, Todoist, Notion, Telegram, Airtable, Maps, Calendar и многим другим. Им можно поручать задачи и сразу наблюдать за процессом.
Сохраняйте — тут.
@notboring_tech
ИИ-агенты подключаются к любым тулзам на выбор — GitHub, Google, Todoist, Notion, Telegram, Airtable, Maps, Calendar и многим другим. Им можно поручать задачи и сразу наблюдать за процессом.
Сохраняйте — тут.
@notboring_tech
Forwarded from Похек
How-Anthropic-teams-use-Claude-Code_v2.pdf
5.9 MB
How Anthropic teams use Claude Code
#Anthropic #Claude #vibecoding #coding #dev #ai #ии
PDFка от Anthropic, где они делятся своим опытом использования Claude Code для разработки, безопасности, API и т.д. Это не читшит/гайд с промптами или как правильно, а как не правильно. В каждой теме команда приводит пример последотельности мыслей/действий и топ советов, как использовать Claude Code под конкретную задачу
Оглавление:
Claude Code for data infrastructure
Claude Code for product development
Claude Code for security engineering
Claude Code for inference
Claude Code for data science and visualization
Claude Code for API
Claude Code for growth marketing
Claude Code for product design
Claude Code for RL engineering
Claude Code for legal
🔗 pdf прикреплена к посту
🌚 @poxek | 🌚 Блог | 📺 YT | 📺 RT | 📺 VK
#Anthropic #Claude #vibecoding #coding #dev #ai #ии
PDFка от Anthropic, где они делятся своим опытом использования Claude Code для разработки, безопасности, API и т.д. Это не читшит/гайд с промптами или как правильно, а как не правильно. В каждой теме команда приводит пример последотельности мыслей/действий и топ советов, как использовать Claude Code под конкретную задачу
Оглавление:
Claude Code for data infrastructure
Claude Code for product development
Claude Code for security engineering
Claude Code for inference
Claude Code for data science and visualization
Claude Code for API
Claude Code for growth marketing
Claude Code for product design
Claude Code for RL engineering
Claude Code for legal
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
Forwarded from Топ кибербезопасности Батранкова
117 приказ ФСТЭК.pdf
1.9 MB
Коллеги, анализирую свежий приказ ФСТЭК №117 (приложен). Этот приказ заменяет приказ № 17 и все изменения к нему № 27, 106, 61. C 1 марта 2026 года у нас с вами появляются обязательные метрики эффективности защиты информации.
Он показывает как наши текущие меры защиты покрывают актуальные угрозы. Считаем каждые 6 месяцев, результат летит в ФСТЭК. В объектах КИИ требуется поддерживать и подтверждать КЗИ, равный 1.
Показываем зрелость процессов: мониторинг, управление уязвимостями, удалёнку и прочее. Считаем раз в 2 года, также отправляем регулятору.
Для объектов КИИ целевым считается максимально возможный уровень зрелости (обычно это уровень 4 или 5 по шкале CMMI), что соответствует полностью формализованным, автоматизированным, контролируемым и постоянно совершенствуемым процессам.
Если показатели проваливаются - у вас 3 дня на доклад руководству, 5 рабочих дней на отчёт в ФСТЭК. Жёстко?
🌍 Есть ли подобное в мире?
Конечно есть, но у нас впервые это именно KPI, а не рекомендация.
🔹ПЗИ → NIST
🔹Провести инвентаризацию угроз и реализованных мер
🔹Построить матрицу угроз и защит
🔹Найти или создать шаблоны расчётов КЗИ и ПЗИ
🔹Актуализирать регламенты и политику ИБ
🔹Назначить ответственных за расчёт и отправку
🧭 Моё мнение? Эти метрики — результат продвижения подхода результативной кибербезопасности. Пока иностранные ISO и NIST говорят: «Оцените себя сами», ФСТЭК говорит: «Ждем результатов».
Есть ощущение, что множество организаций начнут отдавать события безопасности во внешний SOC, чтобы повысить свой КЗИ и ПЗИ.
Кому важно прочитать и выполнять этот документ
🔹Бюджетные организации (больницы, школы, ВУЗы, музеи).
🔹ГУПы («Почта России», «Ростех», «Росатом»).
🔹Органы местного самоуправления (мэрии, районные администрации).
🔹Все федеральные и региональные органы власти (министерства, агентства, службы).
🔹Всем кто входит в реестр значимых объектов КИИ: энергетика, транспорт, здравоохранение, финансы. И да, еще ФЗ-187 «О безопасности КИИ» надо выполнить.
💬 А вы уже прикидывали, какой у вас сейчас КЗИ?
#ФСТЭК #КЗИ #ПЗИ #NIST #ISO27001 #compliance
Топ Кибербезопасности Батранкова
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
Forwarded from Топ кибербезопасности Батранкова
Все выдержки об ИИ из приказа ФСТЭК № 117
П. 49: ИИ для мониторинга безопасности
«Допускается использование доверенных технологий искусственного интеллекта для анализа событий безопасности».
🔹ФСТЭК впервые легализовал ИИ в ИБ-мониторинге, но с ключевым ограничением – только «доверенные» (российские) решения. Это значит, что:
😶 Зарубежные SIEM (Splunk, ArcSight) не подходят;
😶 Нужны продукты с сертифицированными ИИ-модулями (например, Sber AI или Yandex AI);
П. 60: Запрет передачи данных
«Не допускается передача лицу, разработавшему модель ИИ, информации ограниченного доступа».
🔹Это революционное требование запрещает:
😶 Дообучение моделей на чувствительных данных (гостайна, персданные);
😶 Использование SaaS-ИИ (ChatGPT, Claude, DeepSeek) для обработки госинформации;
🔹Даже российские вендоры (Sber, Yandex) не получат доступ к сырым данным – только к анонимизированным датасетам.
П. 60: Защита ИИ-инфраструктуры
«Защита за счет воздействия на: наборы данных, модели, параметры, процессы обработки».
🔹ФСТЭК предписывает защищать весь ИИ-стек:
😶 Данные: Шифрование (КриптоПро), DLP (Гарда DLP), БД (Гарда БД)
😶 Модели: Контейнеризация (Kubernetes);
😶 API: Анализ трафика (Гарда WAF и NDR);
Это сложнее, чем защита традиционных ИС.
П. 61: Контроль запросов/ответов
«Определены шаблоны запросов [...] контроль соответствия [...] разработаны критерии для выявления недостоверных ответов».
😶 Фактически вводится «цензура ИИ»:
😶 Для шаблонных интерфейсов – белый список команд (например, только SQL-запросы);
😶 Для чат-ботов – фильтр тематик («запрещено спрашивать про гостайну»);
Ответы ИИ проверяются на галлюцинации (ложные факты) – нужны теперь встроенные детекторы в LLM.
П. 61: Реагирование на ложные ответы
«Реагирование [...] посредством ограничения области принимаемых решений».
🔹Если ИИ сгенерировал рискованный ответ (например, «удалить базу данных»), система должна:
😶 Автоматически заблокировать выполнение команды;
😶 Изолировать сегмент ИС;
Это требует интеграции ИИ с системами управления доступами
П. 61: Локализация ИИ
«Доверенные технологии ИИ [...] включаются непосредственно в состав ИС».
🔹Облачные ИИ-сервисы запрещены! Разрешены только:
😶 Локальные (on-premise);
😶 Российское ПО
#Кибербезопасность #ДляВсех #ИИ #ФСТЭК
Топ Кибербезопасности Батранкова
П. 49: ИИ для мониторинга безопасности
«Допускается использование доверенных технологий искусственного интеллекта для анализа событий безопасности».
🔹ФСТЭК впервые легализовал ИИ в ИБ-мониторинге, но с ключевым ограничением – только «доверенные» (российские) решения. Это значит, что:
П. 60: Запрет передачи данных
«Не допускается передача лицу, разработавшему модель ИИ, информации ограниченного доступа».
🔹Это революционное требование запрещает:
🔹Даже российские вендоры (Sber, Yandex) не получат доступ к сырым данным – только к анонимизированным датасетам.
П. 60: Защита ИИ-инфраструктуры
«Защита за счет воздействия на: наборы данных, модели, параметры, процессы обработки».
🔹ФСТЭК предписывает защищать весь ИИ-стек:
Это сложнее, чем защита традиционных ИС.
П. 61: Контроль запросов/ответов
«Определены шаблоны запросов [...] контроль соответствия [...] разработаны критерии для выявления недостоверных ответов».
Ответы ИИ проверяются на галлюцинации (ложные факты) – нужны теперь встроенные детекторы в LLM.
П. 61: Реагирование на ложные ответы
«Реагирование [...] посредством ограничения области принимаемых решений».
🔹Если ИИ сгенерировал рискованный ответ (например, «удалить базу данных»), система должна:
Это требует интеграции ИИ с системами управления доступами
П. 61: Локализация ИИ
«Доверенные технологии ИИ [...] включаются непосредственно в состав ИС».
🔹Облачные ИИ-сервисы запрещены! Разрешены только:
#Кибербезопасность #ДляВсех #ИИ #ФСТЭК
Топ Кибербезопасности Батранкова
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1
Forwarded from CyberSecurityTechnologies (-CST-)
AIRTBench.pdf
1.1 MB
#MLSecOps
"AIRTBench: Measuring Autonomous AI Red Teaming Capabilities in Language Models", 2025.
]-> https://github.com/dreadnode/AIRTBench-Code
"AIRTBench: Measuring Autonomous AI Red Teaming Capabilities in Language Models", 2025.
]-> https://github.com/dreadnode/AIRTBench-Code
🔥3👍1
Forwarded from AI Was Made For Lovin' You
Обещанного три года ждут!
Друзья, огромное спасибо всем, кто был на PH Days и смотрел онлайн. Агенты, которых я обещал на выступлении, наконец-то появились в репозитории - https://github.com/anton-belousov/phd-ai-agentz
4 простеньких агента, которые сканируют цель nmap-ом и проверяют уязвимости в Shodan. Возможно, они будут полезны вам.
Реализованы следующие схемы:
- простой LangGraph
- LangGraph + MCP
- LangGraph Swarm
- франкенштейн LangGraph Swarm, обёрнутый в MCP инструмент
В репозитории есть небольшой конкурс/домашнее задание - смотрите README. Если кто-то захочет поучаствовать, буду безумно благодарен.
(мечтаю о пентест-тулзе, основанной на агентах, которую запустил и пошёл пить чай, а когда возвращаешься, у тебя уже всё исследовано иза тобой выехали готов отчёт)
Друзья, огромное спасибо всем, кто был на PH Days и смотрел онлайн. Агенты, которых я обещал на выступлении, наконец-то появились в репозитории - https://github.com/anton-belousov/phd-ai-agentz
4 простеньких агента, которые сканируют цель nmap-ом и проверяют уязвимости в Shodan. Возможно, они будут полезны вам.
Реализованы следующие схемы:
- простой LangGraph
- LangGraph + MCP
- LangGraph Swarm
- франкенштейн LangGraph Swarm, обёрнутый в MCP инструмент
В репозитории есть небольшой конкурс/домашнее задание - смотрите README. Если кто-то захочет поучаствовать, буду безумно благодарен.
(мечтаю о пентест-тулзе, основанной на агентах, которую запустил и пошёл пить чай, а когда возвращаешься, у тебя уже всё исследовано и
Media is too big
VIEW IN TELEGRAM
Forwarded from AI Was Made For Lovin' You
22 мая в 16:00 жду вас на моём выступлении на Positive Hack Days, онлайн или живьём.
Расскажу про ИИ-агенты и их применение в анализе инцидентов: LangGraph, LangGraph Swarm, MCP, рой агентов, факапы и увлекательные приключения с отечественными топовыми LLM. Всё, что хочется рассказать не поместится в один час выступления, но будет доступно позднее в слайдах.
https://phdays.com/ru/forum/program/?date=2025%2F5%2F22&tags=ai&talk-id=1717
Расскажу про ИИ-агенты и их применение в анализе инцидентов: LangGraph, LangGraph Swarm, MCP, рой агентов, факапы и увлекательные приключения с отечественными топовыми LLM. Всё, что хочется рассказать не поместится в один час выступления, но будет доступно позднее в слайдах.
https://phdays.com/ru/forum/program/?date=2025%2F5%2F22&tags=ai&talk-id=1717
- добавление elicitation
- structured tool output
- security бест практики
- добавлено указанин версии протокола в сообщения
- ...
https://modelcontextprotocol.io/specification/2025-06-18/changelog
- structured tool output
- security бест практики
- добавлено указанин версии протокола в сообщения
- ...
https://modelcontextprotocol.io/specification/2025-06-18/changelog
Model Context Protocol
Key Changes - Model Context Protocol
Forwarded from Data Secrets
Лаборатория Goodfire предложила принципиально новый подход к интерпретации нейросетей. Разбираемся 👇
Как вам уже известно, нейросети и, в частности, LLM – это большие черные ящики. Аппарат их обучения понятный, но мы не знаем, как «думают» уже обученные модели, как они принимают решения, почему действуют так или иначе.
Так вот, все существующие методы интерпретации в основном опираются на активации, то есть на численные значения, которые принимают нейроны на инференсе.
В Goodfire же предложили опираться на параметры – то есть на сами веса модели, которые мы обучаем. Это похоже на попытку восстановить программу через обратное проектирование её исходного кода вместо наблюдения за её поведением на точечных тестах.
Предложенный метод Stochastic Parameter Decomposition (SPD) работает так:
➖ Каждая матрица весов расладываются на матрицу ранга 1, которая представляется в виде произведения двух векторов. Это называется субкомпонента.
➖ Для каждой субкомпоненты создается функция, предсказывающая её каузальную важность. Это, грубо говоря, степень, до которой её можно "обрубить" (аблатировать) без изменения выходов модели.
➖ В начале эта функция даёт примерные значения важности для каждой субкомпоненты. На их основе субкомпоненты случайным образом маскируются, после чего модель делает предсказание, и оно сравнивается с оригинальным. Если отличается сильно – значит, значения важности были далеки от правильных. Используя ошибки, делаем шаг обучения, и начинаем с начала.
В итоге имеем набор простых субкомпонент и функцию важности, которые вместе показывают, какие параметры реально используются моделью для того или иного промпта. А это в свою очередь позволяет разложить работу сети на интерпретируемые механизмы и понять, как она принимает решения.
Интересно, что на игрушечных примерах SPD действительно очень точно восстанавливает процесс "мышления", то есть субкомпоненты совпадают с истинными параметрами, отвечающими за конкретные функции. Возможно, у подхода большое будущее.
Статью читаем здесь. А вот тут, кстати, какой-то энтузиаст уже воспроизвел прототип SPD, так что можно поиграться.
Как вам уже известно, нейросети и, в частности, LLM – это большие черные ящики. Аппарат их обучения понятный, но мы не знаем, как «думают» уже обученные модели, как они принимают решения, почему действуют так или иначе.
Так вот, все существующие методы интерпретации в основном опираются на активации, то есть на численные значения, которые принимают нейроны на инференсе.
В Goodfire же предложили опираться на параметры – то есть на сами веса модели, которые мы обучаем. Это похоже на попытку восстановить программу через обратное проектирование её исходного кода вместо наблюдения за её поведением на точечных тестах.
Предложенный метод Stochastic Parameter Decomposition (SPD) работает так:
В итоге имеем набор простых субкомпонент и функцию важности, которые вместе показывают, какие параметры реально используются моделью для того или иного промпта. А это в свою очередь позволяет разложить работу сети на интерпретируемые механизмы и понять, как она принимает решения.
Интересно, что на игрушечных примерах SPD действительно очень точно восстанавливает процесс "мышления", то есть субкомпоненты совпадают с истинными параметрами, отвечающими за конкретные функции. Возможно, у подхода большое будущее.
Статью читаем здесь. А вот тут, кстати, какой-то энтузиаст уже воспроизвел прототип SPD, так что можно поиграться.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Forwarded from AlexRedSec
Компания Pillar Security опубликовала разработанный совместно с коллегами по цеху фреймворк SAIL (Secure AI Lifecycle), представляющий собой процессно-ориентированное руководство по разработке и развертыванию безопасных ИИ-приложений🧠
По факту фреймворк представляет собой матрицу рисков, сгруппированных по семи этапам разработки и развертывания ИИ-приложений. Для каждого риска есть описание, пример небезопасной реализации, затрагиваемые компоненты ИИ-приложения, меры митигации и связанные требования/меры из фреймворков NIST AI RMF, ISO 42001, OWASP и DASF.
В размещённой на сайте брошюре можно найти разбор пары кейсов атак и примеры выборы мер митигации из фрейворка SAIL, а в самом последнем приложении — ссылки на полезные руководства и фреймворки в области ИИ.
#ai #framework #risk #sail #lifecycle
По факту фреймворк представляет собой матрицу рисков, сгруппированных по семи этапам разработки и развертывания ИИ-приложений. Для каждого риска есть описание, пример небезопасной реализации, затрагиваемые компоненты ИИ-приложения, меры митигации и связанные требования/меры из фреймворков NIST AI RMF, ISO 42001, OWASP и DASF.
В размещённой на сайте брошюре можно найти разбор пары кейсов атак и примеры выборы мер митигации из фрейворка SAIL, а в самом последнем приложении — ссылки на полезные руководства и фреймворки в области ИИ.
#ai #framework #risk #sail #lifecycle
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
Forwarded from Russian OSINT
This media is not supported in your browser
VIEW IN TELEGRAM
▫️ n8n — гибкая платформа для автоматизации рабочих процессов, ориентированная на технических специалистов. Позволяет создавать сложные многошаговые ИИ-агенты, интегрировать сотни приложений через визуальный редактор или с помощью кода на Python/JavaScript. Поддерживает как самостоятельный хостинг для полного контроля над данными, так и облачное развертывание для удобства использования.
▫️ N8N A.I. Assistant by Nskha — ИИ-ассистент на базе ChatGPT для работы с n8n.
▫️ n8n Community Forum — официальный форум поддержки n8n с участием инженеров и активных пользователей для обсуждения, обмена готовыми сценариями и оперативного решения вопросов по деплою.
▫️ OpenRouter.ai — платформа, предоставляющая единый API-интерфейс к широкому спектру больших языковых моделей (LLM) от различных провайдеров, включая OpenAI, Google, Anthropic и других.
▫️ OWL (Optimized Workforce Learning) — фреймворк для взаимодействия нескольких агентов и автоматизации реальных задач на базе CAMEL-AI. Поддерживает Model Context Protocol, выполнение кода, анализ документов, автоматизацию браузера и мультимодальную обработку.
▫️ Cursor-Free-VIP — утилита для автоматического сброса MachineID в Cursor AI, позволяющая обойти ограничения пробного доступа.
▫️ Open Deep Research — инструмент с открытым исходным кодом, который имитирует эксперимент OpenAI Deep Research. Использует Firecrawl.
▫️ AI Agents for Beginners — курс из 11 уроков от Microsoft, раскрывающий основы построения ИИ-агентов. Включает примеры кода на Python и поддерживает Azure AI Foundry, Semantic Kernel и AutoGen.
▫️ Model Context Protocol servers (GitHub) — крупный официальный каталог MCP-серверов на Github с возможностью фильтрации и быстрого поиска по проектам. Включает как эталонные реализации, так и серверы от сообщества.
▫️ Awesome MCP Servers — тематическая подборка MCP-серверов с переводом описаний на несколько языков и ссылками на официальные ресурсы.
▫️ Playwright MCP — MCP-сервер от Microsoft для автоматизации браузера на базе Playwright. Позволяет LLM выполнять действия на веб-страницах через структурированные снимки доступности, что устраняет необходимость в использовании скриншотов или визуальных моделей.
▫️ Awesome-MCP-Servers — курируемый список серверов, реализующих Model Context Protocol (MCP), который позволяет ИИ-моделям безопасно взаимодействовать с локальными и удаленными ресурсами. Список включает как готовые к использованию, так и экспериментальные решения, и является ценным ресурсом для разработчиков ИИ-агентов.
▫️ MCP-Security-Checklist — полный контрольный список по безопасности для инструментов, использующих Model Context Protocol (MCP). Разработан командой SlowMist и охватывает защиту серверов, клиентов, взаимодействие с LLM и сценарии с несколькими MCP.
▫️ GhidraMCP — сервер Model Context Protocol для интеграции Ghidra с LLM. Позволяет проводить декомпиляцию и анализ бинарных файлов, просматривать методы, классы и импорты, а также автоматически переименовывать элементы через API.
▫️ mcp-containers — коллекция контейнеров для экспериментов с Model Context Protocol (MCP). Упрощает развертывание и интеграцию ИИ-моделей в различных средах, предоставляя готовые к использованию образы Docker.
▫️ Pipedream MCP — сервис интеграции MCP с более чем 2700 API и 10 000 инструментами для автоматизации и обмена данными между приложениями.
▫️ Zapier MCP — инструмент для интеграции MCP с более чем 7000 сервисами через платформу Zapier, позволяющий создавать автоматизированные рабочие процессы и давать ИИ-агентам возможность выполнять реальные задачи.
▫️ Smithery — каталог из более чем 7000 MCP-серверов, сгруппированных по категориям. Позволяет искать и оценивать инструменты по рейтингу и тегам.
▫️MCP.so — поисковик по популярным MCP.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from ИБ в "Законе"
📣 01.07.2025 г. опубликованы Проекты документов, поступивших на рассмотрение в ТК 362 от:
ТК 164 "Искусственный интеллект"
⚖ ГОСТ Р Искусственный интеллект в критической информационной инфраструктуре. Общие положения
ТК 164 "Искусственный интеллект"
⚖ ГОСТ Р Искусственный интеллект в критической информационной инфраструктуре. Общие положения
🎉1
Forwarded from AI Attacks
Иногда есть проблемы с обьяснением обеспечения безопасности моделей, особенно, если модели будут частью продукта информационной безопасности.
Проще всего рисовать схемы))
Особенно, если есть сервисы, которые помогают все красиво разместить и отредактировать,
а не биться над каждой стрелочкой.
Проще всего рисовать схемы))
Особенно, если есть сервисы, которые помогают все красиво разместить и отредактировать,
а не биться над каждой стрелочкой.
🔥1