Уже через час с командой HiveTrace в лайв-демо разберем, как обеспечить безопасность при использовании этих нашумевших инструментов в AI-агентах
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
Сегодня на вебинаре показали, как с помощью HiveTrace Hooks контролировать работу Claude, рассказали о способах защиты OpenClaw и продемонстрировали атаки на агентов.
Поделитесь в комментариях: какие действия AI-агентов в вашей инфраструктуре требуют особого контроля?
Please open Telegram to view this post
VIEW IN TELEGRAM
Релиз HiveTrace 4.2: от проверки файлов до блокировки tool calls
Главное обновление версии - теперь HiveTrace поддерживает работу с файлами. Также мы добавили мониторинг вызовов инструментов AI-агентов, поддержку новых API, расширили возможности DataClean и переработали детализацию сессий. Рассказываем, что вошло в релиз.
✔️ Теперь HiveTrace проверяет файлы
✔️ Вызовы инструментов можно проверить до выполнения
✔️ Поддержали Anthropic API и OpenAI Responses API
✔️ DataClean проверяет всю историю диалога
✔️ Больше контроля над длиной запросов и ответов
✔️ Обновили детализацию сессий и контроль сервисов
HiveTrace 4.2 расширяет контроль не только текстовых запросов, но и файлов, истории диалогов и действий AI-агентов. Это позволяет использовать единые политики защиты для большего количества сценариев работы с корпоративными LLM-приложениями.
Главное обновление версии - теперь HiveTrace поддерживает работу с файлами. Также мы добавили мониторинг вызовов инструментов AI-агентов, поддержку новых API, расширили возможности DataClean и переработали детализацию сессий. Рассказываем, что вошло в релиз.
HiveTrace может анализировать файлы, передаваемые в запросах пользователей и ответах языковой модели.
Из документов извлекается текст, после чего он проверяется с помощью DataClean и чёрных списков. Поддерживаются DOCX, XLSX, PDF, CSV, ODT.
В детализации сессии стало возможно:⏺ просматривать и скачивать переданные файлы;⏺ видеть результаты проверок;⏺ отдельно настраивать обработку файлов для каждого приложения.
Начали фиксировать и проверять вызовы инструментов AI-агентов, в том числе вызовы из Claude Code.
Если действие нарушает заданные политики, его можно заблокировать до фактического выполнения.
В отдельной вкладке детализации сессии отображаются:⏺ название инструмента;⏺ аргументы вызова;⏺ результат выполнения;⏺ сработавшие проверки;⏺ причина блокировки.
Шлюз HiveTrace теперь принимает запросы в нативных форматах Anthropic Messages API и OpenAI Responses API.
К ним применяются те же проверки и механизмы защиты, что и при работе с Chat Completions. Поддерживаются как обычные, так и потоковые ответы.
При работе через Anthropic API также можно передавать и проверять файлы.
Раньше DataClean на уровне шлюза обрабатывал только последнее сообщение пользователя. Теперь проверка и очистка чувствительных данных выполняются для всех сообщений, переданных в истории диалога.
В настройках приложения теперь можно установить максимальную длину запросов пользователей и ответов модели в токенах.
При превышении лимита сообщение можно заблокировать с заданным текстом предупреждения или автоматически сократить до разрешённого объёма.
Лимиты для запросов и ответов настраиваются отдельно.
Страница сессии разделена на тематические вкладки: обзор, вызовы инструментов, файлы, очистка данных, цензоры и конфигурация валидации.
Если система обнаружила нарушение или заблокировала запрос, информация об этом отображается в верхней части страницы вместе с причиной срабатывания.
Также появилась отдельная страница «Статус сервисов», где можно проверить состояние компонентов HiveTrace, время их отклика и время последней проверки.
HiveTrace 4.2 расширяет контроль не только текстовых запросов, но и файлов, истории диалогов и действий AI-агентов. Это позволяет использовать единые политики защиты для большего количества сценариев работы с корпоративными LLM-приложениями.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3❤🔥2
Мы развернули HiveTrace AI Firewall на инфраструктуре Cloud.ru Evolution и подготовили воспроизводимый сценарий для промышленной эксплуатации.
Что уже работает:
✅ Развертывание на Evolution Managed Kubernetes с GPU NVIDIA A100.
✅ Изолированное окружение под каждого клиента с учетом требований к безопасности и обработке данных (ПДн, ГИС, КИИ, финансы) — Cloud.ru закрывает часть сертификационных требований на уровне инфраструктуры.
✅ Модель HiveTracePro доступна в сервисе Evolution Foundation Models как дополнительный уровень защиты GenAI-приложений.
Для интеграторов и корпоративных заказчиков это готовый путь «от идеи до пилота» без отдельного согласования инфраструктуры. Используете LLM на Cloud.ru – подключаете HiveTrace как защитный слой в том же контуре.
🔗 Подробности и архитектура развертывания в кейсе Cloud.ru
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7👍1
Встречаемся на Scoring Day 2026🔥
Приходите познакомиться и поговорить с командой HiveTrace.
Приходите познакомиться и поговорить с командой HiveTrace.
Forwarded from Scoring Day | Форум риск-менеджеров
This media is not supported in your browser
VIEW IN TELEGRAM
См. видеоприглашение на Scoring Day 2026 от Евгения Кокуйкина, основателя HiveTrace и руководителя лаборатории безопасности искусственного интеллекта ИТМО.
На Форуме Евгений расскажет о рисках агентных систем и актуальных подходах к их защите.
Из его выступления вы узнаете:
✅ чем риски агентных ИИ-систем отличаются от угроз для классических LLM-приложений;
✅ какие уязвимости характерны для enterprise-агентов, coding-агентов, персональных OpenClaw и инфраструктурных AI-систем;
✅ какие реальные сценарии воздействия на агентные системы были выявлены за последние годы;
✅ как работают популярные методы защиты (runtime monitoring, guardrails, контроль tool calls, управление agent identity и пр.).
И многое другое.
Евгений Кокуйкин — основатель компании HiveTrace, руководитель лаборатории безопасности искусственного интеллекта ИТМО. Специализируется на безопасности LLM и агентных систем, защите от промпт-атак и разработке инструментов для тестирования ИИ. Участвует в создании международных стандартов в сообществе OWASP Agentic Security Initiative.
👉 Сайт и программа Форума
На Форуме Евгений расскажет о рисках агентных систем и актуальных подходах к их защите.
В отличие от классических LLM-приложений, AI-агенты не только отвечают на запросы, но и самостоятельно действуют: вызывают инструменты, обращаются к данным и памяти, взаимодействуют с другими агентами и выполняют операции без постоянного участия человека. Вместе с новыми возможностями возникает и новый класс угроз.
Из его выступления вы узнаете:
✅ чем риски агентных ИИ-систем отличаются от угроз для классических LLM-приложений;
✅ какие уязвимости характерны для enterprise-агентов, coding-агентов, персональных OpenClaw и инфраструктурных AI-систем;
✅ какие реальные сценарии воздействия на агентные системы были выявлены за последние годы;
✅ как работают популярные методы защиты (runtime monitoring, guardrails, контроль tool calls, управление agent identity и пр.).
И многое другое.
Евгений Кокуйкин — основатель компании HiveTrace, руководитель лаборатории безопасности искусственного интеллекта ИТМО. Специализируется на безопасности LLM и агентных систем, защите от промпт-атак и разработке инструментов для тестирования ИИ. Участвует в создании международных стандартов в сообществе OWASP Agentic Security Initiative.
👉 Сайт и программа Форума
👍6🥰5