Forwarded from AI4Dev — AI for Development
На Хабре вышла статья о том, что ИИ изменил в кибератаках от нашей Red Team команды (tl;dr: методы остались прежними, изменилась скорость, на реакцию остаются часы; в статье собран практический минимум для защиты).
Разбираем кейсы:
• PaperCut, 31 августа. Один атакующий с роем ИИ-агентов взломал больше 440 серверов, на пике 11 организаций за 26 секунд.
• Marimo, CVE-2026-39987. От открытого терминала до внутренней инфраструктуры прошло 8 секунд.
• RubyGems, май. Агенты OpenAI залили больше 2000 пакетов-пустышек, часть из них охотилась за API-ключами.
Разбираем кейсы:
• PaperCut, 31 августа. Один атакующий с роем ИИ-агентов взломал больше 440 серверов, на пике 11 организаций за 26 секунд.
• Marimo, CVE-2026-39987. От открытого терминала до внутренней инфраструктуры прошло 8 секунд.
• RubyGems, май. Агенты OpenAI залили больше 2000 пакетов-пустышек, часть из них охотилась за API-ключами.
❤1
Forwarded from Анализ данных (Data analysis)
GLM-5.3 без цензуры: вышел EXL3-квант на 3 бита
На Hugging Face появилась uncensored-версия GLM-5.3, квантованная в формат EXL3 под ExLlamaV3. Средняя разрядность 3.04 bpw, веса весят 273 GiB.
В основе лежит полноценная GLM-5.3 от Z.ai. Это MoE на 753B параметров: 256 роутируемых экспертов, из которых 8 активны на каждом токене, плюс один общий эксперт. Отказы сняли правкой весов без файнтюна, изменения описаны в файле
Качество сжатия измерили. KL-дивергенция против FP8 составляет 0.089, перплексия выросла с 3.302 до 3.440. На tau2-bench агентные метрики почти не просели.
Модель запускали на 8× A100 40GB через TabbyAPI с разбиением слоёв по картам, контекст ограничили 65K токенов.
Есть важная ловушка с tool calling. GLM пишет аргументы инструментов как сырой текст, а парсер glm4_5 в TabbyAPI пытается разобрать каждое значение как JSON. Из-за этого около 70% вызовов в retail-задачах падают, пока парсер не поправишь.
Модель подойдёт тем, кто гоняет большие MoE локально и хочет модель без отказов. Защитных ограничений у неё нет, так что за то, что она выдаёт, отвечает тот, кто её развернул.
https://huggingface.co/Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw
На Hugging Face появилась uncensored-версия GLM-5.3, квантованная в формат EXL3 под ExLlamaV3. Средняя разрядность 3.04 bpw, веса весят 273 GiB.
В основе лежит полноценная GLM-5.3 от Z.ai. Это MoE на 753B параметров: 256 роутируемых экспертов, из которых 8 активны на каждом токене, плюс один общий эксперт. Отказы сняли правкой весов без файнтюна, изменения описаны в файле
CRACK_SURGERY.json. Сам EXL3-квант сделан поверх этой правки.Качество сжатия измерили. KL-дивергенция против FP8 составляет 0.089, перплексия выросла с 3.302 до 3.440. На tau2-bench агентные метрики почти не просели.
Модель запускали на 8× A100 40GB через TabbyAPI с разбиением слоёв по картам, контекст ограничили 65K токенов.
Есть важная ловушка с tool calling. GLM пишет аргументы инструментов как сырой текст, а парсер glm4_5 в TabbyAPI пытается разобрать каждое значение как JSON. Из-за этого около 70% вызовов в retail-задачах падают, пока парсер не поправишь.
Модель подойдёт тем, кто гоняет большие MoE локально и хочет модель без отказов. Защитных ограничений у неё нет, так что за то, что она выдаёт, отвечает тот, кто её развернул.
https://huggingface.co/Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw
👍1
Forwarded from CodeCamp
Bitdefender внезапно выпустила свой бесплатный антивирус для ИИ-агентов 💪
AI Guardian следит за тем, что агент собирается сделать до выполнения действия: ловит скрытые вредоносные инструкции, проверяет MCP-инструменты и скиллы, защищает SSH-ключи и другие учётные данные и может просто заблокировать подозрительную операцию.
Пока AI Guardian работает на macOS с Claude Code и OpenClaw и доступен бесплатно.
Вайб-защита здесь🫡
AI Guardian следит за тем, что агент собирается сделать до выполнения действия: ловит скрытые вредоносные инструкции, проверяет MCP-инструменты и скиллы, защищает SSH-ключи и другие учётные данные и может просто заблокировать подозрительную операцию.
Пока AI Guardian работает на macOS с Claude Code и OpenClaw и доступен бесплатно.
Вайб-защита здесь
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Love. Death. Transformers.
https://huggingface.co/spaces/AlexWortega/openjev
чат а го накидаем лайков жеска, я чет забыл что у меня это есть
чат а го накидаем лайков жеска, я чет забыл что у меня это есть
huggingface.co
openjev - a Hugging Face Space by AlexWortega
NLI cross-encoder for text and images
👍1
Forwarded from Kaspersky
This media is not supported in your browser
VIEW IN TELEGRAM
Мы представили два руководства по безопасной работе с ИИ-агентами. Скачиваем и изучаем:
Внутри: разбор реальных атак через контекст (Echoleak, Searchleak, Camoleak) и практические советы по изоляции агента и контролю его инструментов. Полезно будет почитать и разработчикам, и руководителям.
Здесь разбираем основные риски внедрения облачных ИИ-агентов в разработку ПО, показываем подход компании к их снижению и делимся практическим опытом R&D-команды.
А ещё — смотрим видео с Максимом Лызаевым, менеджером по сопровождению корпоративных продаж «Лаборатории Касперского», о том, как проходит первый день Форума
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
Forwarded from Кибер-Миша | ИИ для бизнеса
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7
Forwarded from GitHub Community
Research-first-builder — заставьте вашего агента по программированию обосновать архитектуру реальными исходными текстами, прежде чем она будет собрана.
🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from LLM под капотом
Progressive Disclosure для MCP/API - экономия токенов в ~99%
Я вчера писал про 12 итерацию эксперимента с Personal OS, где я упаковал весь интерфейс для работы агентов и людей с версионированными документами (аналог своего GitHub + markdown) в две команды для CLI/MCP:
(1) start “task name” - начинает сессию и получает описание текущего SDK
(2) run “Python script”
Это позволило упаковать сложный функционал работы с документами, версиями в SDK. Агент начинает новую сессию, получает текущий SDK, видит его возможности и начинает писать код для выполнения задач. Код выполняется на сервере в песочнице (настоящей, а не контейнер) с ограничениями пользователя.
Это позволило перестать, наконец, делать новый деплой серверов API-шек и всех клиентов на каждое улучшение тулзов. Я смог прогнать пяток экспериментов по оптимизации SDK (более удобные функции) и сократил время праздношатания агентов в два раза.
А потом Дима @kuchin (спасибо тебе!) скинул ссылку на Cloudflare Code Mode, где сделали что-то подобное, только масштабом сильно больше - им надо было паковать 1M-2M токенов описывающих их 2549 AI tools. Благодаря progressive disclosure и Code Mode + SDK они смогли уменьшить расход токенов для типичных задач агентов этак раз в 1000, а число инструментов сократить до двух.
И вот тут я понял, что с таким подходом у нас не просто появилась среда, которая чуть улучшает подход с shared git repo + markdown и позволяет людям с агентами быстро обмениваться информацией без риска что-то безвозвратно потерять.
Теперь же можно в этот SDK вшивать процессы по работе с информацией в компании не словами, а кодом (например - как создавать инвойсы, где их хранить, откуда брать статистику, как версионировать), выкатывая новые версии SDK на лету (они подхватываются новыми сессиями агентов). И все это без опасения, что контекст моделек переполнится. Благодаря progressive disclosure, он как был в 1000 токенов, так и останется, даже если SDK вырастет до двух с половиной тысяч инструментов, как у Cloudflare.
Теперь только остается осознать все открывающиеся возможности.
Ваш, @llm_under_hood 🤗
Я вчера писал про 12 итерацию эксперимента с Personal OS, где я упаковал весь интерфейс для работы агентов и людей с версионированными документами (аналог своего GitHub + markdown) в две команды для CLI/MCP:
(1) start “task name” - начинает сессию и получает описание текущего SDK
(2) run “Python script”
Это позволило упаковать сложный функционал работы с документами, версиями в SDK. Агент начинает новую сессию, получает текущий SDK, видит его возможности и начинает писать код для выполнения задач. Код выполняется на сервере в песочнице (настоящей, а не контейнер) с ограничениями пользователя.
Это позволило перестать, наконец, делать новый деплой серверов API-шек и всех клиентов на каждое улучшение тулзов. Я смог прогнать пяток экспериментов по оптимизации SDK (более удобные функции) и сократил время праздношатания агентов в два раза.
А потом Дима @kuchin (спасибо тебе!) скинул ссылку на Cloudflare Code Mode, где сделали что-то подобное, только масштабом сильно больше - им надо было паковать 1M-2M токенов описывающих их 2549 AI tools. Благодаря progressive disclosure и Code Mode + SDK они смогли уменьшить расход токенов для типичных задач агентов этак раз в 1000, а число инструментов сократить до двух.
И вот тут я понял, что с таким подходом у нас не просто появилась среда, которая чуть улучшает подход с shared git repo + markdown и позволяет людям с агентами быстро обмениваться информацией без риска что-то безвозвратно потерять.
Теперь же можно в этот SDK вшивать процессы по работе с информацией в компании не словами, а кодом (например - как создавать инвойсы, где их хранить, откуда брать статистику, как версионировать), выкатывая новые версии SDK на лету (они подхватываются новыми сессиями агентов). И все это без опасения, что контекст моделек переполнится. Благодаря progressive disclosure, он как был в 1000 токенов, так и останется, даже если SDK вырастет до двух с половиной тысяч инструментов, как у Cloudflare.
Теперь только остается осознать все открывающиеся возможности.
Ваш, @llm_under_hood 🤗
Forwarded from GitHub Community
Mensarium — self-hosted обвязка для AI-агента: ставите Core на сервер или ноутбук, подключаете остальные Mac и Linux одной командой и отдаёте агенту задачи из браузера или Telegram.
Агент читает и правит файлы, запускает bash, работает с репозиториями в отдельных ветках и выполняет задачи по расписанию на любой модели (Claude Code, Codex, Ollama, OpenAI-совместимые API).
Любое изменение на машине он делает только после вашего подтверждения, и всё хранится на вашем железе.
🐱 GitHub
Агент читает и правит файлы, запускает bash, работает с репозиториями в отдельных ветках и выполняет задачи по расписанию на любой модели (Claude Code, Codex, Ollama, OpenAI-совместимые API).
Любое изменение на машине он делает только после вашего подтверждения, и всё хранится на вашем железе.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Makrushin
Когнитивные артефакты для поиска ИИ-малвари
Для поиска ИИ-малвари традиционные индикаторы дополняются новым набором признаков:
* промпты и тексты для jailbreak и обмана ИИ-анализаторов
* LLM API-эндпоинты
* префиксы API-ключей
* строки с синтаксисом tool call
* упоминания компонентов инференса (Ollama, llama.cpp, vLLM и прочее)
* следы импортов ИИ-фреймворков
* строковые признаки агентской оркестрации.
На основе этого набора исследователи предложили трехуровневую модель детекта. На первом “примитивном” уровне анализируются доступные агентские примитивы (например, LLM-запросы и ответы, вызовы тулов через MCP, работа агента напрямую с операционной системой и сетью). На втором уровне проводится оценка их комбинаций и поведения агента на основе анализа входящего контекста, цепочки рассуждения, принятого решения, критичности используемого инструмента и ценности данных, к которым получен доступ. На третьем уровне цепочка действий сопоставляется с подтверждёнными признаками известных семейств ИИ-малвари.
Так что YARA-правила никуда не пропадают, а пополняются новыми индикаторами.
@makrushin
Для поиска ИИ-малвари традиционные индикаторы дополняются новым набором признаков:
* промпты и тексты для jailbreak и обмана ИИ-анализаторов
* LLM API-эндпоинты
* префиксы API-ключей
* строки с синтаксисом tool call
* упоминания компонентов инференса (Ollama, llama.cpp, vLLM и прочее)
* следы импортов ИИ-фреймворков
* строковые признаки агентской оркестрации.
На основе этого набора исследователи предложили трехуровневую модель детекта. На первом “примитивном” уровне анализируются доступные агентские примитивы (например, LLM-запросы и ответы, вызовы тулов через MCP, работа агента напрямую с операционной системой и сетью). На втором уровне проводится оценка их комбинаций и поведения агента на основе анализа входящего контекста, цепочки рассуждения, принятого решения, критичности используемого инструмента и ценности данных, к которым получен доступ. На третьем уровне цепочка действий сопоставляется с подтверждёнными признаками известных семейств ИИ-малвари.
Так что YARA-правила никуда не пропадают, а пополняются новыми индикаторами.
@makrushin