Для экономии токенов в качестве курьеза появился в свое время стиль общения с ИИ "пещерный человек", теперь идею развили до вариантов с сжатием. Мысль интересная конечно, вопрос, что в таких случаях происходит с эффективностью регулярных выражений в LLM-файрволле.

Wenyan Prompting или «Изя всё»

Пост о том, что еще придумали находчивые и экономные разработчики для качественного сжатия контекста
~~~
Экосистема для AI-агентов caveman (многоk ⭐️) делится на несколько уровней: она сжимает ответы, memory-файлы и MCP-описания, экономя токены

Внутри системы есть несколько режимов, такой ползунок сжатия: от lite (сухой профессиональный) до ultra (телеграфный), а еще отдельно выделен

Вэньянь - 文言文 классический письменный китайский, который здесь используется для максимально плотного стиля

Система работает на трех уровнях:

1. caveman - режим коротких ответов, сжимает output экономя до 65%

2. caveman-compress - для сжатия input, уплотняет memory-файлы. Экономия до 46% . При этом критичные данные код, пути, термины и ссылки остаются нетронутыми.

3. caveman-shrink - MCP middleware, сжимает описания tools, prompts, resources.

Итого: агент меньше пишет, меньше засоряет память и мануалы к инструментам

Из практики: Пока адаптировала Skill caveman под Codex для русских текстов (соответствие 95%). Использую для длинных сессий и выжимки смысла из больших документов. Работает намного лучше обычного саммари

~~~~
🔁 realtimeforai

Если на ваших устройствах внезапно пропало 4ГБ свободного места, это может быть вызвано действиями Google.

Сообщают, что Google распространила пользователям Chrome свою модель Nano без какого либо уведомления.

В основном это пользователи Windows, есть свидетельство и для маководов.

Какие это риски несёт:

1. Площадь атаки для промт инъекций могла резко вырасти. Google Chrome это примерно 68 процентов рынка браузеров. Проблема безопасности ИИ теперь буквально касается больше чем 2/3 всех пользователей в интернете.

2. Отдельно придется оценить случилось ли подобное для подобных браузеров.

3. Если у вас всё жёстко под расчет на рабочих станциях - действия Google могли привести к повышенному потреблению ресурсов диска, интернет каналов (удаленные рабочие станции или устройства).

P.S. Интересны перспективы подачи претензии в Google в странах, где зарубежный интернет трафик платный.

Вышла 19 версия матрицы Mitre Attack

Детальное описание правок вот тут

Ключевые изменения:
1. Разделение тактики Defense Evasion: Самым масштабным изменением стала отмена тактики «Defense Evasion», которая была разделена на две более узконаправленные: Stealth (скрытность) и Defense Impairment (нарушение работы защиты).

2. Обновление для ICS: В матрицу для промышленных систем управления (ICS) впервые были официально добавлены подтехники, что значительно детализировало описание атак на критическую инфраструктуру.

3. Стратегии обнаружения: В матрицу Mobile были интегрированы новые «Стратегии обнаружения» (Detection Strategies), помогающие защитникам лучше выстраивать логику мониторинга.

4. Расширение базы: База знаний пополнилась новыми группировками (например, MirrorFace и VOID MANTICORE), кампаниями и программным обеспечением, отражая актуальный ландшафт угроз 2025-2026 годов.

С чем, как мне кажется Митре сильно отстаёт - интеграция техник с использованием ИИ в общую матрицу Enterprise.

В этой версии ровно 2 техники добавилось про ИИ.

Реальность такова, что смысла в отдельной матрице для угроз ИИ нет. ИИ пришел на каждое устройство и к каждому.

Согласование и исследование ИИ модели перед её релизом это безусловно полезная практика. Администрация США задумалась о такой практике. Особенно это важно на фоне ранее декларированной политики дерегулирования ИИ в США текущей администрации.

Возможный риск - доступ к передовым моделям может ограничен для компании не из США.

Это потенциально резкие изменения на рынке ИИ, поэтому будем следить.

OWASP RUSSIA MEETUP: AI в анализе кода, SSR-безопасность, атаки на CMS, Telegram-фишинг и ML в AppSec

14 мая состоится OWASP RUSSIA MEETUP — встреча для специалистов по информационной безопасности, разработчиков, AppSec/SRE/DevSecOps-инженеров, инфраструктурных команд и всех, кому интересны современные практики защиты приложений.

В программе — доклады о графовых подходах в анализе кода, рисках SSR на примере React2Shell, атаках на установщики CMS, сценариях Telegram-фишинга через QR-коды и балансе между ML-подходами и классическими правилами в AppSec.

Программа митапа
19:00 — Приветственное слово
Лука Сафонов, OWASP Russia chapter leader
Модератор: Павел Кузнецов, Инфосистемы Джет

19:10 — AI + анализ кода: графовые подходы и почему они снова актуальны
Радда Юрьева, PT

Доклад будет посвящён тому, как CPG/PDG-графы становятся основой для контекстного поиска уязвимостей в коде.

Ключевые темы:
CPG/PDG-графы в анализе кода;
контекстный поиск уязвимостей;
связка графовых подходов с LLM;
применение графовых нейросетей в задачах AppSec.

19:55 — Риски безопасности SSR на примере React2Shell и их митигация
Артем Чувикин, Ngenix

Современные web-приложения всё чаще используют server-side rendering, что улучшает производительность, SEO и пользовательский опыт, но одновременно расширяет поверхность атаки. На примере React2Shell будут разобраны риски, возникающие в SSR-архитектуре, и способы их снижения.

Ключевые темы:
особенности безопасности SSR-приложений;
attack surface server-side React;
уязвимость React2Shell;
практическая эксплуатация на демонстрационном приложении;
virtual patching через WAF, CDN и reverse proxy.

20:35 — Перерыв

20:50 — Атаки на установщики CMS: как захватить контроль над ещё не установленной системой
Александр Колчанов, независимый эксперт

Доклад посвящён сценарию, при котором атакующий находит доступные установщики CMS и использует их для получения контроля над сервером ещё до полноценной установки системы.

Ключевые темы:
поиск открытых установщиков CMS;
получение доступа к админке через процесс установки;
загрузка shell;
удаление установленной CMS и восстановление установщика;
захват контроля без эксплуатации типовых CVE.

21:30 — Как я украду вашу телегу
Михаил Жмайло, CICADA8

QR-код давно стал привычным способом аутентификации во многих приложениях. В докладе будут разобраны фишинговые атаки на QR-аутентификацию, сценарии QRLjacking и использование Telegram как платформы для атак социальной инженерии.

Ключевые темы:
QRLjacking;
фишинговые атаки через Telegram;
захват аккаунта через QR-код;
вредоносный MiniApp;
автоматизация сбора информации;
persistence в Telegram-сценариях.

22:10 — Баланс точности и полноты: ML vs ifчики
Павел Конан, Yandex

Индустрия кибербезопасности активно продвигает AI-powered-решения, противопоставляя их классическим сигнатурам и правилам. Но на практике выбор между ML и rule-based-подходами почти всегда упирается в компромисс между Precision и Recall.

Ключевые темы:
ML против правил и эвристик в AppSec;
компромисс между Precision и Recall;
False Positive и False Negative в WAF и SAST;
alert fatigue у разработчиков;
архитектурные паттерны security-инструментов;
чек-лист: когда нужен ML, а когда достаточно rule-based-подхода.

22:50 — Завершение

Участие в митапе бесплатное и осуществляется по предварительной регистрации. Ссылка на место проведения (Москва) будет отправлена на email.

До встречи 14 мая!

Ещё один индикатор резкого ускорения процессов управления уязвимостей. В США CISA размышляют над сокращением срока устранения уязвимостей с 3 недель до 3 дней.

Интересно будет ли в методических документах ФСТЭК будет сокращение рекомендованного срока устранения критических уязвимостей с 3 дней до 1 дня.

https://www.reuters.com/legal/litigation/us-officials-weigh-cutting-deadlines-fix-digital-flaws-amid-worries-over-ai-2026-05-01/

Спасибо коллеге за ссылочку.

Поздравляю всех причастных с Днём Радио!

25 апреля (7 мая) 1895 года российский физик А. С. Попов на заседании Русского физико-химического общества продемонстрировал «прибор, предназначенный для показывания быстрых колебаний в атмосферном электричестве».

Это было важной вехой в развитии современной системы связи - WI-FI, сотовая связь, спутниковая связь...

Приоритет и научный задел России в области радио нашел в свое время отражение, в том что Россия стала одним из основателей международного союза электросвязи (ITU) в 1865 году.


Новость в тему, про то как азбукой Морзе злоумышленник заставил Grok перевести ему деньги.


Ещё раз с праздником! ✌️ 73 и 88!

После объявления о тысячах найденных высококритичных уязвимостей ИИ моделью Mythos одной гипотез было, что найденные уязвимости низкого качества.

Свежий пост от разработки Firefox опровергает эту гипотезу. Firefox утверждает, что найденные уязвимости "очень хорошие", кратко описывает устраненые баги.

Также в статье кратко описан путь разработчиков Firefox в поиске уязвимостей программного обеспечения и призывается каждому попробовать такой механизм. В статье указывается, что ключевым успехом в поиске уязвимостей агентами стал этап попытки воспроизвести/потестировать эту уязвимость другими агентами.

Также коллеги делятся не очень радостным графиком устранненых уязвимостей по месяцам. Рост в март/апреле составил 6 раз, а январь/ апрель почти в 20 раз (!). Возможно это разовый разбор найденного ИИ, потому, что если тенденция сохранится, то патч менеджмент очень сильно придется приоритизировать.

Поздравляю всех с днём Великой Победы!

Попросите у своих родителей сегодня вспомнить тех кого с нами сегодня нет, но в наших сердцах. Тех кто прямо или косвенно приближали день Победы над фашистской Германией.

У автора оба деда и бабушки успели "хлебнуть" полной ложкой той войны.

С праздником!

Несмотря на академичность в статье делается краткий обзор методов поиска персональных данных при защите моделей ИИ.

Привет, друзья!
Пятничный релиз, перед выходными/шатдауном/цифровым детоксом — выбирайте свой лагерь! 🗿

Сегодня. Мы. Чудной командой. Зарелизили супер-подробный technical report новой guardrail модели. А ещё саму модель (аж в 3 версиях) и данные, собранные глазами несчастных и одним Клодом.

От души:

GLiNER Guard: Unified Encoder Family for Production LLM Safety and Privacy — легковесный encoder-based guardrail для safety moderation и PII detection.

Что внутри:
— архитектура на базе GLiNER2
— uni / bi / omni encoder варианты
— safety classification + span-level PII extraction за один forward pass
— TensorRT / dynamic batching / serving benchmarks

GLiNER2 — encoder архитектура для extraction-задач, где модель ищет сущности и span’ы по текстовым описаниям категорий. Условно: вместо фиксированного набора классов ей можно сказать “найди prompt injection”, “найди адрес”, “найди unsafe request” — и она будет искать это как extraction-задачу. Gliner ничего не генерирует токен-за-токеном, а сразу считает scores для классов и spans. Мы посчитали, что такая схема очень естественно переносится на safety и policy pipelines, особенно если заняться ускорением модели.

Зачем мы выпустили ещё одну модель с приставкой guard?

В проде детекция персональных данных и поиск всего плохого — это вполне соседние задачи одного и того же first-stage pipeline: перед тем как запрос попадет в LLM или downstream систему, нужно одновременно проверить:
— нет ли вредоносного контента
— нет ли персональных данных
— не происходит ли prompt injection / policy violation

На практике это может быть решено несколькими шагами, что ухудшает технические метрики. Мы предложили сценарий, где safety classification и PII extraction работают в одном encoder-е.

Из интересного:

— до 37× быстрее WildGuard — с качеством мы подрабатываем;
— competitive prompt-level quality на Aegis 2.0 и StrongReject
— ~193 RPS на A100

Из ограничений:

— response-level moderation пока хуже больших LLM guardrails (ну, потому что это encoder =))
— часть PII extraction в pipeline rule-based
— serving evaluation пока только на A100

В комплекте мы открыли PII-Bench — benchmark для оценки извлечения персональных данных в end-to-end пайплайнах — он пока только для русского языка.

Ссылки:

Тех репорт: https://arxiv.org/abs/2605.05277
Модели: https://huggingface.co/collections/hivetrace/gliner-guard-v1
Бенчмарк: https://huggingface.co/datasets/hivetrace/pii-bench

Всем пятницы и отличных выходных!

Коллеги из Лаборатории Касперского подготовили набор советов по обеспечению безопасности вайбкодинга для небольших компаний.

Советы в целом правильные, единственное все равно рекомендации предполагают, что в компании есть как минимум 1 ИТ специалист, а лучше кибербезник.
Работник ИП который навайбкодил себе сайт визитку вряд-ли знает что такое OWASP или trufflehog.

https://checkmarx.com/blog/ongoing-security-updates/

Скомпрометировали плагин Checkmarx в маркетплейсе Jenkins.

Checkmarx популярный комбайн для анализа безопасности разработки.

Jenkins это популярное средство автоматизации разработки (CI/CD).

Checkmarx явно стала целью хакеров за последние несколько кварталов, если у вас есть такая возможность - к новым релизам продуктов от Чекмаркаса нужно относится с повышенной бдительностью. Как минимум завести тестовую среду.

У OpenAI вышел развернутый пост по сравнению возможностей для кибербезопасности доступных на разных версиях GPT:

1.GPT 5.5 - поможет только с написанием кода для защиты, без эксплойта.

2. GPT 5.5. Trusted Access- может написать эксплойт. Подскажет как протестировать его локально.

3. GPT 5.5 Cyber. Напишет эксплойт, сам протестирует его на указанном тобой ресурсе.

Приведены примеры промтов и ответов.

В сообществе говорят о близости по своим возможностям 5.5 Cyber к нашумевшей модели от Антропика Mythos.

Для сомневающихся в конце указаны отзывы от Cisco/Fortinet и других компаний ИТ гигантов формате "GPT 5.5 меняет правила игры в Кибербезопасности".

UPD: GPT 5.5 Trusted Access - напишет только "защитный эксплоит" т.е. инструмент для технической проверки наличия уязвимости без получения шелла или удаленного выполнения кода.
Вот что ответила сама GPT 5.5 Trusted Access:

"Что я могу помочь сделать
В исследовательском и защитном контексте я могу помогать, например, с:
анализом CVE / advisory / патча;
объяснением root cause уязвимости;
построением безопасного PoC в локальной лаборатории;
созданием минимального воспроизводимого примера для проверки remediation;
написанием README для responsible disclosure;
разработкой detection logic: Sigma, YARA, Suricata, SIEM-запросы;
secure code review и проверкой исправления;
планом тестирования в изолированной среде;
неэксплуатирующими сканерами для проверки версии, конфигурации или признаков уязвимости.

Где граница
Я не смогу помогать создавать или дорабатывать эксплойт, если запрос включает:
эксплуатацию живой сторонней цели;
получение shell/RCE на реальном хосте;
bypass auth, credential theft, token theft;
stealth, persistence, evasion;
автоматизированную эксплуатацию по диапазону IP/доменов;
weaponization PoC в инструмент для атак;
payload для закрепления, lateral movement, exfiltration;
инструкции, позволяющие причинить вред системам без явного контролируемого контекста.
Даже при TAC доступе важны авторизация, изоляция и назначение. В статье OpenAI отдельно различает GPT-5.5 with TAC и GPT-5.5-Cyber: более рискованные workflow вроде controlled red teaming и penetration testing относятся к более специализированному доступу, а не автоматически ко всему TAC."

На форуме доверенного ИИ сегодня ИСП РАН был анонсирован выход ГОСТа в серии РБПО по безопасной разработке ИИ. На общественное обсуждение проект ГОСТа ещё не выносился.

#форум_доверенный_ИИ