Forwarded from AISecHub
Forwarded from GitHub Community
Deep Agents — это готовый к использованию фреймворк для ИИ-агентов, включающий встроенные инструменты планирования, управления файлами и делегирования задач.
Он разбивает сложные задачи на управляемые шаги, поддерживает контекст в ходе бесед и может создавать специализированных под-агентов для самостоятельного выполнения сфокусированной работы.
🐱 GitHub
Он разбивает сложные задачи на управляемые шаги, поддерживает контекст в ходе бесед и может создавать специализированных под-агентов для самостоятельного выполнения сфокусированной работы.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Machinelearning
Liquid AI выкатили LFM2.5-8B-A1B - MoE на 8B параметров с 1.5B активных, заточенную под запуск на телефонах, ноутбуках и роботах.
Что внутри:
- гибридная MoE-архитектура линейки LFM2.5
- контекст 128K
- 38T токенов претрейна плюс крупномасштабный RL поверх
- LFM2 open-weight лицензия
- дообучение под узкую задачу влезает на одну GPU
По заявлениям команды, модель уверенно работает с tool calling и тягается с моделями в 3-4 раза тяжелее.
Веса уже на HF. Ждём первых замеров на MMLU-Pro, IFEval и BFCL - особенно интересно, как 1.5B активных параметров поведут себя на длинных tool-use цепочках.
• Блог: http://liquid.ai/blog/lfm2-5-8b-a1b
• Веса: https://huggingface.co/LiquidAI/LFM2.5-8B-A1B
• Документация: http://docs.liquid.ai
• Потестить: http://playground.liquid.ai
@ai_machinelearning_big_data
Что внутри:
- гибридная MoE-архитектура линейки LFM2.5
- контекст 128K
- 38T токенов претрейна плюс крупномасштабный RL поверх
- LFM2 open-weight лицензия
- дообучение под узкую задачу влезает на одну GPU
По заявлениям команды, модель уверенно работает с tool calling и тягается с моделями в 3-4 раза тяжелее.
Веса уже на HF. Ждём первых замеров на MMLU-Pro, IFEval и BFCL - особенно интересно, как 1.5B активных параметров поведут себя на длинных tool-use цепочках.
• Блог: http://liquid.ai/blog/lfm2-5-8b-a1b
• Веса: https://huggingface.co/LiquidAI/LFM2.5-8B-A1B
• Документация: http://docs.liquid.ai
• Потестить: http://playground.liquid.ai
@ai_machinelearning_big_data
Forwarded from Похек AI (Сергей Зыбнев)
Zero Trust для AI-агентов: как безопасно давать LLM доступ к инструментам, данным и действиям
#zerotrust #ai #llm #agents #offensive #defensive
AI-агенты уже вышли за пределы чат-ботов. Они читают документы, вызывают API, анализируют логи, создают тикеты, готовят правки в коде и выполняют многошаговые задачи без ручного подтверждения каждого шага. Это делает их полезными, но меняет модель риска: агент с инструментами становится явным риском внутри инфраструктуры.
Главная идея Zero Trust для таких систем проста: агенту нельзя доверять по умолчанию только потому, что он запущен внутри компании или работает от имени легитимного пользователя. Его идентификация, права, вызовы инструментов (tool calls), память и действия нужно проверять так, будто компрометация рано или поздно случится.
Идея для статьи была придумана после прочтения PDF от Anthropic Zero Trust for AI Agents. Но все принципы изложенные в статье применимы к любому LLM-агенту: юридическому помощнику, SOC-агенту, агентам для разработки, RAG-системе, внутреннему ассистенту или многоагентному workflow.
🔗 Инструкция для AI агентов: почитай статью
🌚 @poxek_ai / Чат канала
#zerotrust #ai #llm #agents #offensive #defensive
AI-агенты уже вышли за пределы чат-ботов. Они читают документы, вызывают API, анализируют логи, создают тикеты, готовят правки в коде и выполняют многошаговые задачи без ручного подтверждения каждого шага. Это делает их полезными, но меняет модель риска: агент с инструментами становится явным риском внутри инфраструктуры.
Главная идея Zero Trust для таких систем проста: агенту нельзя доверять по умолчанию только потому, что он запущен внутри компании или работает от имени легитимного пользователя. Его идентификация, права, вызовы инструментов (tool calls), память и действия нужно проверять так, будто компрометация рано или поздно случится.
Идея для статьи была придумана после прочтения PDF от Anthropic Zero Trust for AI Agents. Но все принципы изложенные в статье применимы к любому LLM-агенту: юридическому помощнику, SOC-агенту, агентам для разработки, RAG-системе, внутреннему ассистенту или многоагентному workflow.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Forwarded from AM Live
Обзор решений класса Security Orchestration, Automation and Response (SOAR)
SOC тонет в алертах — тысячи событий в день, большинство из которых рутина. SOAR берёт эту рутину на себя: агрегирует, обогащает, реагирует автоматически, оставляя аналитикам только то, что требует реального внимания.
Разобрали концепцию и рынок, и сделали обзор шести отечественных решений — от классических SOAR до метапродуктов нового поколения.
→ Читать https://go.amlive.ru/gz4wg
SOC тонет в алертах — тысячи событий в день, большинство из которых рутина. SOAR берёт эту рутину на себя: агрегирует, обогащает, реагирует автоматически, оставляя аналитикам только то, что требует реального внимания.
Разобрали концепцию и рынок, и сделали обзор шести отечественных решений — от классических SOAR до метапродуктов нового поколения.
→ Читать https://go.amlive.ru/gz4wg
Forwarded from Анализ данных (Data analysis)
PewDiePie выпустил бесплатный open-source ИИ-агент, который работает локально и не сливает ваши данные корпорациям
За первый день проект собрал почти 20 000 звёзд.
Человек, который больше десяти лет был лицом YouTube-летсплеев и развлекательного контента, теперь собирает железо под LLM, дообучает модели и выкатывает open-source инструменты для локальных агентов.
Сначала он показал домашнюю машину примерно за $20 000, собранную под запуск ИИ-моделей без облачных сервисов. Аргумент у него простой: не отправлять личные данные в чужие API, не зависеть от подписок и держать весь стек у себя.
Потом он начал экспериментировать с дообучением моделей и заявлял, что его вариант на отдельном бенчмарке обгоняет даже топовые закрытые решения.
Теперь появился Odysseus - open-source оболочка для self-hosted AI-среды.
Это уже не просто «запусти модель через терминал». Идея ближе к локальному ChatGPT для своих задач:
- удобный интерфейс
- память
- работа с инструментами
- хранение данных у себя
- поддержка агентов
- подключение моделей через Ollama, llama.cpp и vLLM
- гибкая настройка доступов
Видео: https://youtu.be/rAzT5lcezPs
GitHub: github.com/pewdiepie-archdaemon/odysseus
За первый день проект собрал почти 20 000 звёзд.
Человек, который больше десяти лет был лицом YouTube-летсплеев и развлекательного контента, теперь собирает железо под LLM, дообучает модели и выкатывает open-source инструменты для локальных агентов.
Сначала он показал домашнюю машину примерно за $20 000, собранную под запуск ИИ-моделей без облачных сервисов. Аргумент у него простой: не отправлять личные данные в чужие API, не зависеть от подписок и держать весь стек у себя.
Потом он начал экспериментировать с дообучением моделей и заявлял, что его вариант на отдельном бенчмарке обгоняет даже топовые закрытые решения.
Теперь появился Odysseus - open-source оболочка для self-hosted AI-среды.
Это уже не просто «запусти модель через терминал». Идея ближе к локальному ChatGPT для своих задач:
- удобный интерфейс
- память
- работа с инструментами
- хранение данных у себя
- поддержка агентов
- подключение моделей через Ollama, llama.cpp и vLLM
- гибкая настройка доступов
Видео: https://youtu.be/rAzT5lcezPs
GitHub: github.com/pewdiepie-archdaemon/odysseus
👎4😁3
Forwarded from AM Live
Positive Technologies научила ИИ замечать подозрительные сценарии в коде
Positive Technologies сообщила о разработке нейросети MOLOT, предназначенной для поиска вредоносного кода в проектах на Python, JavaScript и TypeScript. Технология уже используется в составе анализатора исходного кода PT Application Inspector версии 6.0.
🔥 AM Live
Positive Technologies сообщила о разработке нейросети MOLOT, предназначенной для поиска вредоносного кода в проектах на Python, JavaScript и TypeScript. Технология уже используется в составе анализатора исходного кода PT Application Inspector версии 6.0.
Please open Telegram to view this post
VIEW IN TELEGRAM
🥱4👍1
Forwarded from False Positive
Помните кейс LiteLLM?
Мы дропаем OMCBench (Open Malicious-Code Benchmark) - бенчмарк оценки качества по обнаружению вредоносного кода:
- 3 языка: Python, JavaScript, TypeScript
- 400 вредоносных пакетов, 400 чистых из pypi/npm
- пофайловая LLM разметка, о которой говорили на OFFZONE прошлым летом
- Открытая лицензия, BSD-2
Открытые решения на нем набирают не больше 75% F1, выдавая ~50% False Positive результатов...
Те, кто уже нажал звездочку на гитхабе, могли заметить, что в таблицемы также анонсим MOLOT - нашу модель для решения этого класса задач . Ловите блогпост, а на подходе arxiv статья с подробностями про анализ графов вызовов бертами, LLM разметку и выкатку в prod!
Ждите дроп статьи в канале, stay tuned!
Мы дропаем OMCBench (Open Malicious-Code Benchmark) - бенчмарк оценки качества по обнаружению вредоносного кода:
- 3 языка: Python, JavaScript, TypeScript
- 400 вредоносных пакетов, 400 чистых из pypi/npm
- пофайловая LLM разметка, о которой говорили на OFFZONE прошлым летом
- Открытая лицензия, BSD-2
Открытые решения на нем набирают не больше 75% F1, выдавая ~50% False Positive результатов...
Те, кто уже нажал звездочку на гитхабе, могли заметить, что в таблице
Ждите дроп статьи в канале, stay tuned!
❤1
Forwarded from AlexRedSec
Небольшой портал со статистикой и аналитикой по уязвимостям, обнаруженным с помощью автономных ИИ-агентов.
Ключевые выводы:
➡️ В 2026 году наблюдается резкое сокращение (–68%) количества обнаруженных агентами классических веб-уязвимостей, таких как XSS, SQLi и CSRF, по сравнению с 2025 годом.
➡️ Уязвимости, найденные ИИ, чаще (по сравнению с остальными) получают высокие или критические оценки по CVSS, однако, вероятность эксплуатации (по EPSS) почти всегда околонулевая. Например, EPSS > 80% зафиксирован только у трех уязвимостей.
➡️ Чаще всего ИИ-агенты успешно находят уязвимости XSS, Code Injection и Path Traversal. Совсем плохи дела с Resource Management Errors, PHP File Inclusion, Embedded Malware и Protection Failure.
➡️ Разные компании (разработчики ИИ-агентов) доминируют в различных метриках. Например, Anthropic лидирует по количеству найденных критических уязвимостей (40), в то время как Hacktron AI находит наиболее опасные с точки зрения эксплуатации уязвимости (самый высокий средний показатель EPSS — 12,77%). Организация AISLE Research Team лидирует по общему объему и разнообразию найденных типов уязвимостей.
#ai #vulnerability #cve #epss #cwe
Ключевые выводы:
#ai #vulnerability #cve #epss #cwe
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from ИИ что дальше?
Alexa, купи 200 кг корма для кота
Представьте: вы сидите на созвоне в Zoom, а на фоне тихо играет нейтральная музыка. Ничего подозрительного, правда? Но в этот самый момент ваш корпоративный ИИ-транскрибатор может получать скрытые команды на поиск секретных файлов и их отправку злоумышленникам.
Исследователи из нескольких азиатских университетов представили новую технику атаки под названием AudioHijack. Она позволяет прятать вредоносные инструкции для ИИ-моделей прямо в аудио: подкастах, песнях, видеороликах или голосовых сообщениях на YouTube и других платформах.
Хакеры слегка изменяют звуковые волны — для человеческого уха это звучит просто как легкое эхо в комнате. Но ИИ-ассистенты считывают эти микроскопические изменения как прямые команды к действию.
Для такой атаки не нужны вирусы, вредоносное ПО или физический доступ к устройству. Атака идет напрямую через звук. Во время тестов 13 популярных аудиомоделей ИИ успешно выполняли скрытые команды в 79-96% случаев.
Представьте: вы сидите на созвоне в Zoom, а на фоне тихо играет нейтральная музыка. Ничего подозрительного, правда? Но в этот самый момент ваш корпоративный ИИ-транскрибатор может получать скрытые команды на поиск секретных файлов и их отправку злоумышленникам.
Исследователи из нескольких азиатских университетов представили новую технику атаки под названием AudioHijack. Она позволяет прятать вредоносные инструкции для ИИ-моделей прямо в аудио: подкастах, песнях, видеороликах или голосовых сообщениях на YouTube и других платформах.
Хакеры слегка изменяют звуковые волны — для человеческого уха это звучит просто как легкое эхо в комнате. Но ИИ-ассистенты считывают эти микроскопические изменения как прямые команды к действию.
Для такой атаки не нужны вирусы, вредоносное ПО или физический доступ к устройству. Атака идет напрямую через звук. Во время тестов 13 популярных аудиомоделей ИИ успешно выполняли скрытые команды в 79-96% случаев.
❤1😱1
Forwarded from Security samurAI
MCP анонсировали крупнейшее обновление протокола
Стоило мне в прошлом посте написать, что интерес к MCP-инструментам постепенно снижается, а к агентным навыкам — растет, как разработчики MCP анонсировали крупнейшее обновление протокола с момента его релиза.
Ключевым изменением стал уход от хранения сессий на уровне протокола в сторону stateless-архитектуры. Вместе с этим исчезают отдельный запрос
Теперь каждый запрос содержит поле
При этом MCP позволяет работать со stateful-приложениями, но состояние теперь должно передаваться явно. В примере из блога показан процесс создания и использования корзины, где в запросах используются идентификаторы
Первая мысль при прочтении: появляется новая поверхность, где разработчик может оставить очередной IDOR. С точки зрения безопасности теперь нужно добавлять дополнительные меры управления доступом непосредственно в бизнес-логику приложения: проверять владельца объекта и корректность использования идентификаторов.
Изменения также частично касаются авторизации. Теперь спецификация ближе к классическому OIDC-процессу:
▸ Клиенты должны валидировать параметр
▸ Учетные данные клиента теперь должны быть привязаны к конкретному
Но это все еще не полноценная модель разграничения доступа в MCP: проверка того, какой пользователь может вызвать конкретный инструмент и с какими параметрами, остается задачей MCP-сервера или отдельного policy engine.
Из других изменений: обязательные заголовки
Это лишь предложения по изменениям, и к релизу ситуация может измениться. Может, рано я все-таки списал их со счетов?..
Стоило мне в прошлом посте написать, что интерес к MCP-инструментам постепенно снижается, а к агентным навыкам — растет, как разработчики MCP анонсировали крупнейшее обновление протокола с момента его релиза.
Ключевым изменением стал уход от хранения сессий на уровне протокола в сторону stateless-архитектуры. Вместе с этим исчезают отдельный запрос
initialize и заголовок Mcp-Session-Id, который раньше использовался для привязки последующих запросов к конкретной сессии.Теперь каждый запрос содержит поле
_meta с информацией о клиенте и версии протокола. Подробный разбор принципов работы текущей версии MCP можно посмотреть в одном из моих первых постов.При этом MCP позволяет работать со stateful-приложениями, но состояние теперь должно передаваться явно. В примере из блога показан процесс создания и использования корзины, где в запросах используются идентификаторы
basket_id.Первая мысль при прочтении: появляется новая поверхность, где разработчик может оставить очередной IDOR. С точки зрения безопасности теперь нужно добавлять дополнительные меры управления доступом непосредственно в бизнес-логику приложения: проверять владельца объекта и корректность использования идентификаторов.
Изменения также частично касаются авторизации. Теперь спецификация ближе к классическому OIDC-процессу:
▸ Клиенты должны валидировать параметр
iss в authorization response. В будущем ответы без iss планируется отклонять, поэтому инфраструктуру стоит готовить уже сейчас.▸ Учетные данные клиента теперь должны быть привязаны к конкретному
issuer, чтобы снизить риск путаницы между разными MCP-серверами, когда токен отправляется не на тот сервер.Но это все еще не полноценная модель разграничения доступа в MCP: проверка того, какой пользователь может вызвать конкретный инструмент и с какими параметрами, остается задачей MCP-сервера или отдельного policy engine.
Из других изменений: обязательные заголовки
Mcp-Method и Mcp-Name для более удобной балансировки трафика и кэширования, например запросов tools/list, а также новый механизм Extensions. С его помощью новые возможности MCP можно добавлять как отдельные расширения, не меняя базовую часть протокола.Это лишь предложения по изменениям, и к релизу ситуация может измениться. Может, рано я все-таки списал их со счетов?..
Forwarded from Seguridad de IA
Anthropic presentó Attack Navigator, una herramienta que adapta el marco MITRE ATT&CK al análisis de amenazas potenciadas por IA tras estudiar 832 cuentas bloqueadas por actividades ciberofensivas entre marzo de 2025 y marzo de 2026. El análisis muestra un cambio relevante: los actores maliciosos ya no utilizan modelos principalmente para phishing o generación de malware básico, sino cada vez más para etapas avanzadas de las operaciones, como movimiento lateral, descubrimiento de cuentas y otras actividades posteriores al compromiso. Según Anthropic, la autonomía creciente de los sistemas de IA está reduciendo la importancia del nivel técnico del atacante como indicador principal de riesgo.
El informe también concluye que los marcos tradicionales de clasificación de amenazas no reflejan completamente los riesgos introducidos por agentes de IA capaces de encadenar múltiples acciones de forma autónoma. Anthropic sostiene que la combinación de razonamiento, uso de herramientas y automatización permite que actores menos sofisticados ejecuten operaciones que antes requerían capacidades avanzadas, dificultando distinguir entre amenazas de bajo y alto nivel únicamente por su complejidad técnica.
https://red.anthropic.com/2026/attack-navigator/
El informe también concluye que los marcos tradicionales de clasificación de amenazas no reflejan completamente los riesgos introducidos por agentes de IA capaces de encadenar múltiples acciones de forma autónoma. Anthropic sostiene que la combinación de razonamiento, uso de herramientas y automatización permite que actores menos sofisticados ejecuten operaciones que antes requerían capacidades avanzadas, dificultando distinguir entre amenazas de bajo y alto nivel únicamente por su complejidad técnica.
https://red.anthropic.com/2026/attack-navigator/
🔥3