ML&|Sec Feed
1.38K subscribers
1.3K photos
88 videos
293 files
2.02K links
Feed for @borismlsec channel

author: @ivolake
Download Telegram
На Хабре вышла статья о том, что ИИ изменил в кибератаках от нашей Red Team команды (tl;dr: методы остались прежними, изменилась скорость, на реакцию остаются часы; в статье собран практический минимум для защиты).

Разбираем кейсы:
• PaperCut, 31 августа. Один атакующий с роем ИИ-агентов взломал больше 440 серверов, на пике 11 организаций за 26 секунд.
• Marimo, CVE-2026-39987. От открытого терминала до внутренней инфраструктуры прошло 8 секунд.
• RubyGems, май. Агенты OpenAI залили больше 2000 пакетов-пустышек, часть из них охотилась за API-ключами.
❤1
GLM-5.3 без цензуры: вышел EXL3-квант на 3 бита

На Hugging Face появилась uncensored-версия GLM-5.3, квантованная в формат EXL3 под ExLlamaV3. Средняя разрядность 3.04 bpw, веса весят 273 GiB.

В основе лежит полноценная GLM-5.3 от Z.ai. Это MoE на 753B параметров: 256 роутируемых экспертов, из которых 8 активны на каждом токене, плюс один общий эксперт. Отказы сняли правкой весов без файнтюна, изменения описаны в файле CRACK_SURGERY.json. Сам EXL3-квант сделан поверх этой правки.

Качество сжатия измерили. KL-дивергенция против FP8 составляет 0.089, перплексия выросла с 3.302 до 3.440. На tau2-bench агентные метрики почти не просели.

Модель запускали на 8× A100 40GB через TabbyAPI с разбиением слоёв по картам, контекст ограничили 65K токенов.

Есть важная ловушка с tool calling. GLM пишет аргументы инструментов как сырой текст, а парсер glm4_5 в TabbyAPI пытается разобрать каждое значение как JSON. Из-за этого около 70% вызовов в retail-задачах падают, пока парсер не поправишь.

Модель подойдёт тем, кто гоняет большие MoE локально и хочет модель без отказов. Защитных ограничений у неё нет, так что за то, что она выдаёт, отвечает тот, кто её развернул.

https://huggingface.co/Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw
👍1
Forwarded from CodeCamp
Bitdefender внезапно выпустила свой бесплатный антивирус для ИИ-агентов 💪

AI Guardian следит за тем, что агент собирается сделать до выполнения действия: ловит скрытые вредоносные инструкции, проверяет MCP-инструменты и скиллы, защищает SSH-ключи и другие учётные данные и может просто заблокировать подозрительную операцию.

Пока AI Guardian работает на macOS с Claude Code и OpenClaw и доступен бесплатно.

Вайб-защита здесь 🫡
Please open Telegram to view this post
VIEW IN TELEGRAM
https://huggingface.co/spaces/AlexWortega/openjev

чат а го накидаем лайков жеска, я чет забыл что у меня это есть
👍1
Forwarded from Kaspersky
This media is not supported in your browser
VIEW IN TELEGRAM
🔥 Первый день Форума «Цифровые решения» — работаем

Мы представили два руководства по безопасной работе с ИИ-агентами. Скачиваем и изучаем:

▶️Безопасность ИИ-агентов через призму кибериммунитета
Внутри: разбор реальных атак через контекст (Echoleak, Searchleak, Camoleak) и практические советы по изоляции агента и контролю его инструментов. Полезно будет почитать и разработчикам, и руководителям.

▶️Безопасное внедрение облачных ИИ-агентов в процессы разработки: опыт «Лаборатории Касперского»
Здесь разбираем основные риски внедрения облачных ИИ-агентов в разработку ПО, показываем подход компании к их снижению и делимся практическим опытом R&D-команды.

А ещё — смотрим видео с Максимом Лызаевым, менеджером по сопровождению корпоративных продаж «Лаборатории Касперского», о том, как проходит первый день Форума ⬆️
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7
Forwarded from GitHub Community
Research-first-builder — заставьте вашего агента по программированию обосновать архитектуру реальными исходными текстами, прежде чем она будет собрана.

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Progressive Disclosure для MCP/API - экономия токенов в ~99%

Я вчера писал про 12 итерацию эксперимента с Personal OS, где я упаковал весь интерфейс для работы агентов и людей с версионированными документами (аналог своего GitHub + markdown) в две команды для CLI/MCP:

(1) start “task name” - начинает сессию и получает описание текущего SDK
(2) run “Python script”

Это позволило упаковать сложный функционал работы с документами, версиями в SDK. Агент начинает новую сессию, получает текущий SDK, видит его возможности и начинает писать код для выполнения задач. Код выполняется на сервере в песочнице (настоящей, а не контейнер) с ограничениями пользователя.

Это позволило перестать, наконец, делать новый деплой серверов API-шек и всех клиентов на каждое улучшение тулзов. Я смог прогнать пяток экспериментов по оптимизации SDK (более удобные функции) и сократил время праздношатания агентов в два раза.

А потом Дима @kuchin (спасибо тебе!) скинул ссылку на Cloudflare Code Mode, где сделали что-то подобное, только масштабом сильно больше - им надо было паковать 1M-2M токенов описывающих их 2549 AI tools. Благодаря progressive disclosure и Code Mode + SDK они смогли уменьшить расход токенов для типичных задач агентов этак раз в 1000, а число инструментов сократить до двух.

И вот тут я понял, что с таким подходом у нас не просто появилась среда, которая чуть улучшает подход с shared git repo + markdown и позволяет людям с агентами быстро обмениваться информацией без риска что-то безвозвратно потерять.

Теперь же можно в этот SDK вшивать процессы по работе с информацией в компании не словами, а кодом (например - как создавать инвойсы, где их хранить, откуда брать статистику, как версионировать), выкатывая новые версии SDK на лету (они подхватываются новыми сессиями агентов). И все это без опасения, что контекст моделек переполнится. Благодаря progressive disclosure, он как был в 1000 токенов, так и останется, даже если SDK вырастет до двух с половиной тысяч инструментов, как у Cloudflare.

Теперь только остается осознать все открывающиеся возможности.

Ваш, @llm_under_hood 🤗
Forwarded from GitHub Community
Mensarium — self-hosted обвязка для AI-агента: ставите Core на сервер или ноутбук, подключаете остальные Mac и Linux одной командой и отдаёте агенту задачи из браузера или Telegram.

Агент читает и правит файлы, запускает bash, работает с репозиториями в отдельных ветках и выполняет задачи по расписанию на любой модели (Claude Code, Codex, Ollama, OpenAI-совместимые API).

Любое изменение на машине он делает только после вашего подтверждения, и всё хранится на вашем железе.

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Makrushin
Когнитивные артефакты для поиска ИИ-малвари

Для поиска ИИ-малвари традиционные индикаторы дополняются новым набором признаков:
* промпты и тексты для jailbreak и обмана ИИ-анализаторов
* LLM API-эндпоинты
* префиксы API-ключей
* строки с синтаксисом tool call
* упоминания компонентов инференса (Ollama, llama.cpp, vLLM и прочее)
* следы импортов ИИ-фреймворков
* строковые признаки агентской оркестрации.

На основе этого набора исследователи предложили трехуровневую модель детекта. На первом “примитивном” уровне анализируются доступные агентские примитивы (например, LLM-запросы и ответы, вызовы тулов через MCP, работа агента напрямую с операционной системой и сетью). На втором уровне проводится оценка их комбинаций и поведения агента на основе анализа входящего контекста, цепочки рассуждения, принятого решения, критичности используемого инструмента и ценности данных, к которым получен доступ. На третьем уровне цепочка действий сопоставляется с подтверждёнными признаками известных семейств ИИ-малвари.

Так что YARA-правила никуда не пропадают, а пополняются новыми индикаторами.

@makrushin