В целом интересное руководство по ZeroTrust от MS и особенно его раздел про ИИ. Можно смело использовать как источник для своего стандарта.
Рекомендации даны для облачных решений MS, но принцип применим и для он-према.

Особенно может быть полезным если основа вашей инфраструктуры управляется Windows администраторами, рекомендация от MS для них это всегда аргумент.

Стали доступны новые версия моделей Антропик Fable\Mythos - 5.1.

Из ключевых изменений по кибербезопасности:
1. Заметное увеличение возможностей модели с заметным увеличением условной стоимости 1 токена. Модели Антропика теперь заметно отрываются по своим возможностям от Chat GPT Sol 5.6. Если сравнивать по соотношению стоимости возможностям Fable 5.1 с усилием medium равна Chat GPT Sol 5.6 с усилием max.
2. Для компаний теперь предлагают гибридный вариант сервиса когда инструменты guardrail частично находятся на инфраструктуре компании и часть данных больше не должна передаваться в облако Антропика - Enterprise Frontier Safeguards. Функция будет доступна заказчикам поэтапно, а не сразу всем.
3. Обещано 60% снижение ложноположительных срабатываний для вопросов кибербезопасности. Усложнение процессов дистиляции -теперь новым аккаунтам работающим через API запрещено будет менять контекст в многостадийных решениях.
4. Обещано снижение стоимости использования по сравнению с версией 5, что пока не подтверждено независимыми тестами.
5. Антропик уверяет, что новая версия модели ловит 100% вредоносных запросов по внутреннему тесту "Cyber harm coverage".
6. В карточке модели приводится интресный внешний бенч от GraySwan по которому модели Антропик наиболее безопасны в агентских сценариях с точки зрения непрямых промт инъекций.
7. Тенденция по увеличению эффективности встроенных мер продолжается, некоторых сценариях появились нули в процентах успешных атак ( Attack success rate of professional red teamer prompt injection attacks in browser use
environments run through Claude Cowork - Attack success rate with auto mode). Это обнадеживающая тенденция, т.к. альтернативы встроенным мерам безопасности значительно более дорогие.

Больше деталей в самой новости и в карточке моделей. Пару интересных рисунков из карточки моделей приведу ниже.
В целом карточка моделей Антропик самая подробная карточка передовых моделей описывающих проделанные тесты и интерпретацию их результатов в целом и по направлению кибербезопасности.

Qwen 3.8 27B, локальный инференс и мои эксперименты с подбором железа

Про эту модель уже несколько недель пишут "Opus 4.6 у себя дома". Нет, конечно. Но, черт, это первая небольшая локальная модель, которую я готов всерьез обсуждать в агентных сценариях, а не для чата по базе знаний.

Небольшие локальные модели (которые влезут в домашний GPU) на агентных задачах часто зацикливается, либо ломают tool-calling. Qwen 3.8 27B, пожалуй первая в моих тестах, у которой это не разваливается. На агентном индексе Artificial Analysis она #8 из 140 моделей, сразу за Kimi K2, которая в сто раз больше по параметрам, и реддите ее дружно хвалят и тд.

Мои тесты этой (и не только) модельки совпали с вполне прикладной задачей - выбрать железо для локального AI-периметра. Надо выбрать одновременно и модель, и железо. Для этого решил арендовать стенды на Vast.ai: 3090 за $0.13/час, там же брал 4090, 5090 и GB10 (тот же DGX Spark). Написал skill поверх их CLI, и дальше вместе с Claude поднимал и тушил машины для экспериментов, гонял бенчмарки по SSH и вел журнал. Десятки замеров, четыре типа железа, ряд моделей - все вместе примерно пару десятков баксов.

Вот на контрасте с соседями по весовой категории (уместиться в 5090 или пару 3090) плотная Qwen 3.8 и выстрелила. Единственная из всех стендов дважды нашла все 10 заложенных дефектов в тестовом договоре. 100 из 100 по tool-calling. На заведомо нерешаемой задаче остановилась за 4 шага и честно отчиталась, пока конкуренты (в том числе MoE) зацикливались. Ну и да - первая локальная модель, которая осилила мой лифтовый вайб-чек (посмотрите пост, в декабре у ChatGPT лифт не ехал!). Минусы тоже есть: например, модель требует высокой полосы (на маке и Spark работает медленно) и, главное - знаний о мире у 27B, заметно меньше. Но знания агенту приносят тулы и поиск, а вот дисциплину в цикле извне не принесешь.

Если присматриваетесь к локальному инференсу под агентов, вот что я бы хотел знать заранее:

1. Считайте секунды на шаг агента, а не только токены в секунду. У меня модель с втрое большим декодом делала шаг за 2.1 секунды против 1.2 у "медленной" и решала задачу за большее кол-во шагов.

2. Часто говорят только про память, но тут есть как минимум три оси. VRAM решает влезет ли модель и останется ли место под кэш. Пропускная способность памяти - очень важный параметр, влияет в первую очередь на скорость генерации ответа (поэтому старенькая 3090 все еще тащит). Compute решает, как быстро модель переваривает входящий промпт. Это упрощенно, вот например неплохой визуальный разбор roofline-модели. Отсюда следует много всего, например что при низкой полосе (на маках, спарках) лучше брать MoE модели.

3. Чат упирается в память, агент - в compute, контекст и кэш. Самое дорогое в агентном цикле - не ответ, а чтение промпта. Шагов много и на каждом шаге агент заново отправляет всю историю. Тут экстремально важен префикс-кэш.

4. Смена движка или его настроек может дать разницу в разы. Вариантов много: vLLM, SGLang, llama.cpp, кастомные движки вроде NInfer. Перебирать это руками долго, поэтому у меня этим занимался агент в стиле авторесерча: поднял ряд стендов, прогнал матрицу экспериментов параллельно, записал в журнал и тд.

5. Комьюнити уже прошло часть пути за вас: есть и готовые рецепты типа 3090-club и тулы вроде llmfit: сканирует железо и подтягивает реальные замеры других пользователей. Только эти бенчмарки регулярно не сходятся с реальностью. Тестируйте на своих задачах.

По итогам, кстати, для этой модели по соотношению цена/качество победила пара 3090. А самое интересное в этой системе - архитектура "советника": локальная модель делает всю работу, а для редких сложных вопросов зовет фронтир через строгий гейт, который не выпускает приватные данные за периметр. Но это уже отдельный пост.

upd: кстати, если хочется уже сейчас протестить, то у Валеры на neuraldeep она доступна бесплатно

🔥 ➕ 🔁 @nobilix

Лаборатория METR известна своими исследованиями в области безопасности использования ИИ, её же привлекли для расследования недавних инцидентов с побегами автономных агентов ИИ OpenAI и Anthropic.

31.08.26 Лаборатория METR сообщила о 2 инцидентах ИБ:
1. В марте 2026 хакер украл API ключ и израсходовал эквивалент токенов в 600 000 $ тестируемой модели.
2. В мае 2026 хакеры могли получить доступ к базе данных, которая могла содержать ключи доступа к скрытым размышлениям моделей, не публичные модели, модели без средств защиты, информацию об архитектуре и данных обучения моделей и т.д.

Если немного поисследовать ссылки в новости, то можно найти несколько интересных фактов о METR:
1. Облачная инфраструктура на базе Google Workspace и AWS. Без он према.
2. Средства защиты и инфраструктуры облачные, он прем маловероятен.
3. До недавнего времени в компании не было выделенного нанятого руководителя\инженера по кибербезопасности.
4. Компания полагалась в кибербезопасности на другую относительно новую компанию Calif (фактически стартап в стадии масштабирования) с общей численностью персонала в 60 человек, где собрались довольно квалифицированные эксперты.
5. Формулировки из второго инцидента, говорят, о том, что логов для полноценного расследования у компании не осталось. Почему так могло получится - например не был включен детальный лог чтений базы данных (pgaudit.log, log_statement) , где оказались чувствительные данные.

Мы находимся в уникальной ситуации когда компании с оценкой капитализации до триллионов долларов и количеством работников ~4000-5000 человек (Anthropic, OpenAI) привлекают для помощи некоммерческую организацию со штатом в ~37 человек (Metr), а та в свою очередь аутсорсит кибербез в компанию с общим штатом в ~60 человек (Calif).

Какие полезные практики можно выделить по итогу инцидента:
1. Устанавливайте и мониторьте использование ваших квот облачных ИИ моделей.
2. Не останавливайтесь на классификации чувствительных данных, производите регулярную проверку фактического состава баз данных которые могут быть доступны через Интернет или пользователям с низким уровнем доверия.
3. В случае если вы отдаете свои данные, например ИИ модель, на оценку в третью организацию оцените фактический уровень безопасности этой организации, как минимум, на уровне наличия в ней выделенного эксперта по кибербезопасности.

p.s. Бонус - свежая вакансия инженера кибербезопасности в Metr.

Прекрасный пример показывающий допустимый уровень доверия к производителям передовых больших языковых моделей.
1. 31.08.26 выходит новость Антропик о произошедшей приостановке внешних проверок по кибербезопасности новых моделей.
2. На следующий день 01.09.26 Антропик выпускает новые версии моделей Fable/Mythos 5.1 в доступ.

При этом о последнем инциденте было сообщено меньше месяца назад 4 августа.

Как выдумаете на сколько реалистичен такой сценарий для крупной компании типа Антропик:
1. Вместе с партнерами проводит полноценное расследование инцидента. Останавливает разработку\оценку новых версий моделей.
2. Предпринимает корректирующие меры для неповторения ситуации.
3. После принятия корректирующих мер производит полный цикл оценки возможностей новой версии продукта.

Все три пункта меньше чем за 1 календарный месяц.

Председатель FSB, Andrew Bailey, подготовил предупреждение в адрес Центробанков и министерств финансов G20.
FSB (The Financial Stability Board) это международная организация созданная после финансового кризиса 2008 центральным банками и министерствами экономики\финансов 25 стран, Россия добровольно больше не участвует в заседаниях этого органа.
Основные идеи письма:
1. На фоне кризиса ближнего Востока, нестабильности на рынках суверенного долга (включая повышенные объемы эмиссии, сокращение сроков погашения и более активное использование заемных средств некоторыми участниками рынка) и более широкого использования биржевых инвестиционных фондов (ETF) с кредитным плечом взаимные инвестиции на рынке ИИ могут усилить будущую рыночную коррекцию.
2. Вашу юрисдикцию (страну) может затронуть риски инцидент связанный с ИИ начавшийся в другой стране и их не остановят различия в правовой системе или разница в возможностях кибербезопасности вашей юрисдикции и юрисдикции источника риска.
3. Организации и власти должны быть готовы устранять уязвимости быстро и в большом объеме, даже когда устранение уязвимостей может привести само по себе к вызовам для устойчивости и надежности. Процессы тестирования и восстановления неспособны безопасно адаптироваться.
4. Финансовым институтам, финансовой инфраструктуре и технологическим провайдерам необходимо подготовится к более серьезным сценариям одновременной остановки нескольких организаций и технологических инфраструктур. Такая ситуация усиливает важность возможностей восстановить критические системы с "голого железа" (bare metal).


Я бы воспринимал это письмо как дополнительное косвенное доказательство "ИИ пузыря" и ещё один PR Антропика.
Почему?
1. Сам Andrew Bailey не имеет опыта в ИТ, в кибербезе или в ИИ.
2. Предупреждение направлено им персонально без ссылок на материалы работы экспертных групп.
3. Публичных следов каких либо постоянно действующих комитетов по кибербезопасности найти не удалось. Последний публичный активный проект это фреймворк для сообщения финансовым регуляторам нескольких стран по киберинциденту в формате xlsx и xbrl - Format for Incident Reporting Exchange (FIRE): Taxonomy package. FIRE закончился чуть больше года назад в апреле 2025 года.
4. Andrew Bailey по сути повторил свое предыдущее предупреждение. В апреле этого года подобное предупреждение он сделал, с позиции управляющего банка Англии (Центробанк Великобритании). Т.е. за 4,5 месяца ему не удалось сформировать доказательную базу или по ряду причин он не готов её опубликовать.