Forwarded from Пост Лукацкого
Австралийский регулятор (ACSC) разработал и выложил в открытый доступ документы по внедрению SIEM и SOAR, а также по работе с логами и событиями по ИБ, требуемыми для эффективного мониторинга ИБ. Очень неплохие документы 🤔
#SOC #средствазащиты #siem #soar
#SOC #средствазащиты #siem #soar
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Пост Лукацкого
27-30 мая в эстонском Таллине прошла очередная конференция CyCon 2025, на которой обсуждалось много всего разного из области киберконфликтов. Мне понравилось выступление Thomas Dullien (Halvar Flake) “Путешествие по кривой обучения", в котором автор высказал ряд очень интересных и откликающихся у меня мыслей на тему экономических законов и их применения в безопасности, в том числе и информационной. Вот несколько идей из его выступления с CyCon 2025, которые заставляют задуматься:
1️⃣ Экономика сильнее привычек. Суверенитет невозможен без производственных мощностей. Без своих чипов, дронов и серверов страна становится зависимой — как бы хорошо ни был настроен ее SOC.
2️⃣ Знание ≠ умение. Можно украсть документацию у TSMC, как делают китайцы, но повторить их опыт и производственный процесс — нет. Производственная компетенция не передается через шпионаж. Кибершпионаж не даст умения делать сложные продукты.
3️⃣ Масштаб — двигатель прогресса. Чтобы развивать передовые технологии (чипы, дроны, электромобили, LLM), нужен постоянный поток инвестиций + массовое производство для амортизации затрат. Intel, выигравшая у RISC за счет массового производства, потеряла технологическое лидерство, когда отказалась от массового мобильного рынка, - хороший урок для любых индустрий. Масштаб — ключевой фактор инноваций.
4️⃣ Война требует дешевого и массового. В мирной экономике выгодно уходить в “высокую добавленную стоимость” — люкс, финтех, брендированные товары и т.п., но экономика “премиальности” плохо масштабируется в конфликт. Современные войны выигрывают не "брендом", а количеством дешевых, эффективных решений. Пример - дешевые дроны в Украине ($500 за штуку), которые изменили тактику войны. Они — это “дорогие пули”, а не “дешевые самолеты”.
5️⃣ Баланс “безопасность ≠ эффективность” — вызов будущего. Защита на уровне runtime замедляет работу дрона на 10% → БПЛА с такой защитой проиграет более легкому и быстрому. Баланс между безопасностью и боевыми характеристиками станет важнейшей темой будущего.
6️⃣ Будущее — за автономными системами. На поле боя будут сражаться программные агенты. Защита станет не внешней “надстройкой”, а частью самой архитектуры ПО (привет, безопасная разработка). При этом появляются новые угрозы в кибербезопасности (jamming, атаки на “умные” решения, истощение энергии и т.п.).
7️⃣ Кибербезопасность перестает быть самостоятельной дисциплиной. Когда ПО везде, а чипы в каждом устройстве, “кибербезопасность” просто станет частью общей безопасности. “Кибер” — это часть общей инженерной и оборонной культуры.
8️⃣ Суверенитет требует производственных мощностей. Малые страны без массового производства теряют суверенитет и только крупные экономические блоки (ЕС, НАТО и т.п.), обеспечивающие внутренние объемы, смогут сохранить безопасность. Не уверен, что ШОС, ОДКБ и даже СНГ попадают в понятие такого блока.
9️⃣ Ошибки Запада. После 1990-х Запад вел себя так, будто войны невозможны. Военная промышленность стала “артельной” - мало, дорого, эксклюзивно. Такая модель создает риск потери способности к инновациям, что может привести к повтору судьбы Intel, но на уровне отдельных государств.
Как метко сказал Dullien: “против экономики не попрешь”. В новой реальности безопасность — это не только про NGFW и SOC, но и про индустриальную политику и учет экономических законов. Отказ от массового производства ради экономической эффективности может привести к потере безопасности в кризисной ситуации.
#экономика #суверенитет
Как метко сказал Dullien: “против экономики не попрешь”. В новой реальности безопасность — это не только про NGFW и SOC, но и про индустриальную политику и учет экономических законов. Отказ от массового производства ради экономической эффективности может привести к потере безопасности в кризисной ситуации.
#экономика #суверенитет
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
Forwarded from База знаний AI
ЦРТ интегрировала голосовой помощник Voice2X с GigaChat и разработала платформу для создания ИИ-агентов AgentNavigator
Обновленный голосовой помощник для промышленности 🏷Voice2X сочетает генеративные возможности ИИ с точным извлечением информации из корпоративных источников. Ответы формируются с опорой на актуальные документы и базы знаний. Для работы с голосовым помощником используется гарнитура.
В платформе 🏷AgentNavigator для создания ИИ-агентов также применяется 🏷GigaChat. Решение включает визуальный редактор для создания агента без написания кода, инструменты для интеграции с корпоративными информационными системами, внешними сервисами и базами данных, а также аналитический модуль.
Утверждается, что голосовой помощник ускорил типовые операции в два раза. AgentNavigator, по оценке ЦРТ, снизил стоимость запуска ИИ-агентов на 60–70%.
🔗 Источник 1: https://www.speechpro.ru/media/news/gruppa-crt-predstavila-golosovogo-pomoshnika-dlya-promyshlennosti-s-iskusstvennym-intellektom-gigach
🔗 Источник 2: https://www.speechpro.ru/media/news/gruppa-crt-razrabotala-platformu-agentnavigator-kotoraya-bolee-chem-na-60-uskoryaet-i-uproshaet-sozd
Обновленный голосовой помощник для промышленности 🏷Voice2X сочетает генеративные возможности ИИ с точным извлечением информации из корпоративных источников. Ответы формируются с опорой на актуальные документы и базы знаний. Для работы с голосовым помощником используется гарнитура.
В платформе 🏷AgentNavigator для создания ИИ-агентов также применяется 🏷GigaChat. Решение включает визуальный редактор для создания агента без написания кода, инструменты для интеграции с корпоративными информационными системами, внешними сервисами и базами данных, а также аналитический модуль.
Утверждается, что голосовой помощник ускорил типовые операции в два раза. AgentNavigator, по оценке ЦРТ, снизил стоимость запуска ИИ-агентов на 60–70%.
🔗 Источник 1: https://www.speechpro.ru/media/news/gruppa-crt-predstavila-golosovogo-pomoshnika-dlya-promyshlennosti-s-iskusstvennym-intellektom-gigach
🔗 Источник 2: https://www.speechpro.ru/media/news/gruppa-crt-razrabotala-platformu-agentnavigator-kotoraya-bolee-chem-na-60-uskoryaet-i-uproshaet-sozd
Forwarded from Data Secrets
Большой гайд по разработке агентов
Сбер внезапно сделали всем большой подарок: на конференции ЦИПР старший вице-президент компании Андрей Белевцев представил огромный практический гайд по созданию AI-агентов. Внутри:
– Все про то, кто такие агенты и как они работают
– Готовые скрипты и шаблоны для разработки и деплоя мультиагентных систем
– Прикладные рекомендации, основанные на опыте инженеров Сбера
Полезно будет всем: и ИТ-специалистам, и разработчикам, и руководителям.
Полную pdf-ку забираем абсолютно бесплатно здесь
Сбер внезапно сделали всем большой подарок: на конференции ЦИПР старший вице-президент компании Андрей Белевцев представил огромный практический гайд по созданию AI-агентов. Внутри:
– Все про то, кто такие агенты и как они работают
– Готовые скрипты и шаблоны для разработки и деплоя мультиагентных систем
– Прикладные рекомендации, основанные на опыте инженеров Сбера
Полезно будет всем: и ИТ-специалистам, и разработчикам, и руководителям.
Мы раскрываем наш практический опыт внедрения таких систем в сложном ИТ-ландшафте Сбера. Уверен, что документ станет ценным и полезным ресурсом на пути освоения и внедрения компаниями современных AI-технологий.
Полную pdf-ку забираем абсолютно бесплатно здесь
❤1👍1
Forwarded from AISecHub
This media is not supported in your browser
VIEW IN TELEGRAM
*🔹 MCP (Model Context Protocol) – Anthropic
Client-server setup. Lightweight. Stateless.
✅ Great for structured tool invocation workflows
❌ Less flexible beyond those use cases
🔹 A2A (Agent-to-Agent Protocol) – Google
Peer-to-peer, with HTTP-based discovery.
✅ Ideal for agent negotiation and interactions
✅ Supports both stateless and session-aware flows
❌ Requires a predefined agent directory
🔹 ANP (Agent Network Protocol) – Cisco
Fully decentralized. Think search-engine-style discovery.
✅ Built for open, autonomous AI networks
✅ Stateless with optional identity verification
❌ Protocol negotiation can be complex
🔹 ACP (Agent Communication Protocol) – IBM
Broker-mediated, session-rich, and enterprise-grade.
✅ Full runtime state tracking + modular agent tools
✅ Best for environments with governance and orchestration needs
❌ Relies on a central registry service
📌 Bottom line:
🔸MCP if you need speed and simplicity.
🔸A2A if your agents need to negotiate.
🔸ANP for open and decentralized agent ecosystems.
🔸ACP when modularity and governance are a must.
Client-server setup. Lightweight. Stateless.
✅ Great for structured tool invocation workflows
❌ Less flexible beyond those use cases
🔹 A2A (Agent-to-Agent Protocol) – Google
Peer-to-peer, with HTTP-based discovery.
✅ Ideal for agent negotiation and interactions
✅ Supports both stateless and session-aware flows
❌ Requires a predefined agent directory
🔹 ANP (Agent Network Protocol) – Cisco
Fully decentralized. Think search-engine-style discovery.
✅ Built for open, autonomous AI networks
✅ Stateless with optional identity verification
❌ Protocol negotiation can be complex
🔹 ACP (Agent Communication Protocol) – IBM
Broker-mediated, session-rich, and enterprise-grade.
✅ Full runtime state tracking + modular agent tools
✅ Best for environments with governance and orchestration needs
❌ Relies on a central registry service
📌 Bottom line:
🔸MCP if you need speed and simplicity.
🔸A2A if your agents need to negotiate.
🔸ANP for open and decentralized agent ecosystems.
🔸ACP when modularity and governance are a must.
Forwarded from AISecHub
Paper.pdf
3.1 MB
Mitigating Tool Squatting and Rug Pull Attacks in Model Context Protocol (MCP) by using OAuth-Enhanced Tool Definitions and Policy-Based Access Control
Forwarded from GitHub Community
Learn-agentic-ai — изучите агентный ИИ с помощью шаблона проектирования Dapr Agentic Cloud Ascent (DACA) и агентно-ориентированных облачных технологий.
5️⃣ GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Alaid TechThread
CyberGym: Evaluating AI Agents’ Cybersecurity
Capabilities with Real-World Vulnerabilities at Scale
https://arxiv.org/pdf/2506.02548
Capabilities with Real-World Vulnerabilities at Scale
https://arxiv.org/pdf/2506.02548
Forwarded from Похек
Ни один вывод с вашего сервера MCP не является безопасным
#MCP #AI #Anthropic #LLM #TPA #ATPA #FSP #pentest #research
Исследование CyberArk показало: MCP (Model Context Protocol) от Anthropic уязвим не только к классическим атакам Tool Poisoning (TPA), когда вредоносный код внедряют в описание инструмента, но и к Full-Schema Poisoning (FSP). Теперь атаковать можно любые поля схемы — имена параметров, типы, обязательные поля и даже новые незадокументированные элементы. Самое опасное — Advanced Tool Poisoning Attack (ATPA): вредоносная логика внедряется в вывод инструмента или сообщения об ошибках. LLM, считая их легитимными, может раскрывать чувствительные данные (например, приватные ключи) или выполнять вредоносные действия. Такие атаки сложно обнаружить — они могут активироваться только в продакшене и выглядеть безобидно на этапе тестирования. Вывод: доверять MCP-серверам нельзя, проверять нужно все поля и любые ответы инструментов
🔗 Читать полностью
🌚 @poxek | 🌚 Блог | 📺 YT | 📺 RT | 📺 VK | 🌚 Мерч
#MCP #AI #Anthropic #LLM #TPA #ATPA #FSP #pentest #research
Исследование CyberArk показало: MCP (Model Context Protocol) от Anthropic уязвим не только к классическим атакам Tool Poisoning (TPA), когда вредоносный код внедряют в описание инструмента, но и к Full-Schema Poisoning (FSP). Теперь атаковать можно любые поля схемы — имена параметров, типы, обязательные поля и даже новые незадокументированные элементы. Самое опасное — Advanced Tool Poisoning Attack (ATPA): вредоносная логика внедряется в вывод инструмента или сообщения об ошибках. LLM, считая их легитимными, может раскрывать чувствительные данные (например, приватные ключи) или выполнять вредоносные действия. Такие атаки сложно обнаружить — они могут активироваться только в продакшене и выглядеть безобидно на этапе тестирования. Вывод: доверять MCP-серверам нельзя, проверять нужно все поля и любые ответы инструментов
Please open Telegram to view this post
VIEW IN TELEGRAM
Artificial_Intelligence_Vulnerability_Scoring_System_ОБЗОР.docx
26.6 KB
С помощью Deep Research сделал обзор AI Specific Metrics у AIVSS
Forwarded from KazDevOps
MCP — это стандарт, который помогает языковым моделям получать структурированные и машиночитаемые данные из внешних систем в реальном времени. Вместо использования статических обучающих данных ИИ-инструменты могут запрашивать актуальную информацию с помощью
JSON-over-gRPC для более точных и контекстно-зависимых ответов. Это позволяет ИИ-системам, таким как Claude, GitHub Copilot и ChatGPT, генерировать более точный и актуальный код Terraform, опираясь на проверенные источники вместо устаревших или вымышленных примеров из обучающих данных.
ИИ-модель может запросить входные аргументы для провайдера, шаблоны использования популярного модуля или последнюю доступную версию — через стандартизированные запросы к MCP-эндпоинту.
Terraform MCP Server пока на ранней стадии разработки, но уже был продемонстрирован на Microsoft Build 2025 в интеграции с GitHub Copilot. Это позволило разработчикам получать рекомендации по Terraform, основанные на данных из реестра, прямо в их IDE.
Делитесь новостью с коллегами
@DevOpsKaz
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Анализ данных (Data analysis)
🦖 Tokasaurus — универсальный токенизатор с поддержкой 70+ языков
Tokasaurus — это быстрый и лёгкий инструмент для токенизации текста, созданный на базе библиотеки
🔍 Что умеет Tokasaurus:
• ✂️ Разбивает текст на токены для языковых моделей
• 🧠 Поддерживает GPT-совместимые токенизаторы (tiktoken, BPE и другие)
• 🌍 Работает с Python, JavaScript, C++, Rust, Markdown, JSON, YAML и многими другими
• ⚡ Очень быстрый — написан на Rust с Python-обёрткой
• 📦 Используется как CLI, Python-библиотека или Web API
🧪 Пример использования (Python):
🎯 Кому подойдёт:
• Тем, кто работает с LLM
• Для оценки длины prompt'ов
• Для предобработки кода и текста
• Для интеграции в пайплайны, IDE, аналитические инструменты
🔗 GitHub: github.com/ScalingIntelligence/tokasaurus
💡 Если тебе нужен универсальный и быстрый токенизатор — попробуй Tokasaurus.
@data_analysis_ml
Tokasaurus — это быстрый и лёгкий инструмент для токенизации текста, созданный на базе библиотеки
tokenizers от Hugging Face. Он поддерживает более 70 языков программирования и естественных языков.🔍 Что умеет Tokasaurus:
• ✂️ Разбивает текст на токены для языковых моделей
• 🧠 Поддерживает GPT-совместимые токенизаторы (tiktoken, BPE и другие)
• 🌍 Работает с Python, JavaScript, C++, Rust, Markdown, JSON, YAML и многими другими
• ⚡ Очень быстрый — написан на Rust с Python-обёрткой
• 📦 Используется как CLI, Python-библиотека или Web API
pip install tokasaurus
🧪 Пример использования (Python):
from tokasaurus import tokenize
tokens = tokenize("def hello(): print('Hi')", model="gpt2")
print(tokens)
🎯 Кому подойдёт:
• Тем, кто работает с LLM
• Для оценки длины prompt'ов
• Для предобработки кода и текста
• Для интеграции в пайплайны, IDE, аналитические инструменты
🔗 GitHub: github.com/ScalingIntelligence/tokasaurus
💡 Если тебе нужен универсальный и быстрый токенизатор — попробуй Tokasaurus.
@data_analysis_ml
👍2
Forwarded from Machinelearning
Учебник Стэнли Чана, профессора кафедры электротехники, вычислительной техники и статистики Purdue University (США), содержит ультраполезные знания в области диффузионных моделей в контексте обработки изображений и CV. Он доступно и детально объясняет сложные концепции и подходит как опытным профессионалам, так и тем, кто только начинает изучать эту область.
Для профессионалов, уже работающих с диффузионными моделями или стремящихся углубить свои знания, этот учебник послужит отличным ресурсом, который предоставляет прочную основу для понимания и применения концепций в прикладных задачах.
Вариационный автоэнкодер (VAE)
Вероятностная модель диффузионного денойза (DDPM)
Динамика сопоставления баллов Ланжевена (SMLD)
Стохастическое дифференциальное уравнение (SDE)
Уравнения Ланжевена и Фоккера-Планка
@ai_machinelearning_big_data
#AI #ML #Tutorial #Duffusion
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from GitHub Community
ContextGem — это бесплатная платформа LLM с открытым исходным кодом, которая значительно упрощает извлечение структурированных данных и аналитических сведений из документов с помощью минимального количества кода.
5️⃣ GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from DayDreamMe|Ethical (DayDream)
😱Просто оставлю это здесь)
Кейс: Взлом голосового ассистента СберБанка (2022–2023)
Что произошло?
Мошенники нашли способ обманывать биометрическую систему Сбера, используя синтезированные голоса. Они:
1. Записывали короткие образцы голоса жертв (например, из соцсетей или телефонных разговоров).
2. С помощью нейросетей (подобных VALL-E от Microsoft) создавали клон голоса.
3. Звонили в колл-центр банка и проходили верификацию, после чего получали доступ к счетам.
Результат:
- По данным СберБанка, в 2023 году было более 100 успешных атак с использованием фейковых голосов.
- Банк усилил защиту, добавив проверку "живого голоса" (анализ дыхания, пауз и артефактов синтеза).
---
Как работала эта атака технически?
1. Сбор данных:
- Мошенники записывали голос жертвы через звонки ("Привет, как дела?") или сливы аудио из Telegram.
2. Обучение модели:
- Использовали opensource-нейросети (например, Silero или Kaldi), чтобы дообучить модель на голос жертвы.
3. Обход биометрии:
- Банковские системы проверяли только чистоту голоса, но не детектировали синтетику.
---
Как сейчас защищаются?
1. СберБанк:
- Ввел мультимодальную проверку (голос + лицо + поведенческий анализ).
- Добавил защиту от речевых deepfake (алгоритмы ищут цифровые артефакты).
2. ЦБ РФ рекомендации:
- Запрет на голосовое подтверждение для переводов >15 тыс. руб. (2024).
- Требование двухфакторной аутентификации для операций.
---
Что делать пользователям?
✅ Не записывать голосовые сообщения с фразами типа "Да", "Подтверждаю", "Я согласен".
✅ Отключить голосовую биометрию в банках, если она не критична.
✅ Использовать сложные пароли + SMS/push-подтверждение.
Этот случай показал, что даже продвинутые ИИ-системы уязвимы к атакам с нейросетями. Но благодаря публичности атак банки быстро усилили защиту.
Кейс: Взлом голосового ассистента СберБанка (2022–2023)
Что произошло?
Мошенники нашли способ обманывать биометрическую систему Сбера, используя синтезированные голоса. Они:
1. Записывали короткие образцы голоса жертв (например, из соцсетей или телефонных разговоров).
2. С помощью нейросетей (подобных VALL-E от Microsoft) создавали клон голоса.
3. Звонили в колл-центр банка и проходили верификацию, после чего получали доступ к счетам.
Результат:
- По данным СберБанка, в 2023 году было более 100 успешных атак с использованием фейковых голосов.
- Банк усилил защиту, добавив проверку "живого голоса" (анализ дыхания, пауз и артефактов синтеза).
---
Как работала эта атака технически?
1. Сбор данных:
- Мошенники записывали голос жертвы через звонки ("Привет, как дела?") или сливы аудио из Telegram.
2. Обучение модели:
- Использовали opensource-нейросети (например, Silero или Kaldi), чтобы дообучить модель на голос жертвы.
3. Обход биометрии:
- Банковские системы проверяли только чистоту голоса, но не детектировали синтетику.
---
Как сейчас защищаются?
1. СберБанк:
- Ввел мультимодальную проверку (голос + лицо + поведенческий анализ).
- Добавил защиту от речевых deepfake (алгоритмы ищут цифровые артефакты).
2. ЦБ РФ рекомендации:
- Запрет на голосовое подтверждение для переводов >15 тыс. руб. (2024).
- Требование двухфакторной аутентификации для операций.
---
Что делать пользователям?
✅ Не записывать голосовые сообщения с фразами типа "Да", "Подтверждаю", "Я согласен".
✅ Отключить голосовую биометрию в банках, если она не критична.
✅ Использовать сложные пароли + SMS/push-подтверждение.
Этот случай показал, что даже продвинутые ИИ-системы уязвимы к атакам с нейросетями. Но благодаря публичности атак банки быстро усилили защиту.
😱1
Forwarded from Not Boring Tech
🫙 MCP-плагины теперь запускаются в разы проще — вышла база 450+ контейнерных версий серверов, которые можно установить в один клик через Docker без ручной настройки.
ИИ-агенты подключаются к любым тулзам на выбор — GitHub, Google, Todoist, Notion, Telegram, Airtable, Maps, Calendar и многим другим. Им можно поручать задачи и сразу наблюдать за процессом.
Сохраняйте — тут.
@notboring_tech
ИИ-агенты подключаются к любым тулзам на выбор — GitHub, Google, Todoist, Notion, Telegram, Airtable, Maps, Calendar и многим другим. Им можно поручать задачи и сразу наблюдать за процессом.
Сохраняйте — тут.
@notboring_tech