🧠🔍 Anthropic выложили в открытый доступ «рентген» для LLM

Сегодня ребята из Anthropic выложили в open-source свежайший circuit-tracer — библиотеку + веб-интерфейс, которые позволяют буквально «посветить фонариком» внутрь любых открытых LLM и посмотреть, как токены влияют друг на друга.

Что дают?

• Attribution graphs — автоматически строят граф «кто-на-кого влияет» (токены → фичи → логиты).
• Neuronpedia UI — кликаешь 👉 смотришь цепочки рассуждений, группируешь узлы, подписываешь и делишься ссылкой.
• Интервенции — в ноутбуке можно подкрутить найденные фичи и сразу увидеть, как меняется ответ модели.

Зачем это нам?
🔑 Интерпретируемость давно отставала от «качаем ещё 10B параметров». Теперь любой энтузиаст может проверить, какие цепочки выводят модель к финальному слову, найти баги рассуждений и даже чинить их on-the-fly.

Пробуйте, делитесь самыми странными цепочки — интересно, какие «мысленные кроличьи норы» вы откопаете! 🐇👆

Ссылка

Австралийский регулятор (ACSC) разработал и выложил в открытый доступ документы по внедрению SIEM и SOAR, а также по работе с логами и событиями по ИБ, требуемыми для эффективного мониторинга ИБ. Очень неплохие документы 🤔

#SOC #средствазащиты #siem #soar

27-30 мая в эстонском Таллине прошла очередная конференция CyCon 2025, на которой обсуждалось много всего разного из области киберконфликтов. Мне понравилось выступление Thomas Dullien (Halvar Flake) “Путешествие по кривой обучения", в котором автор высказал ряд очень интересных и откликающихся у меня мыслей на тему экономических законов и их применения в безопасности, в том числе и информационной. Вот несколько идей из его выступления с CyCon 2025, которые заставляют задуматься:

1️⃣ Экономика сильнее привычек. Суверенитет невозможен без производственных мощностей. Без своих чипов, дронов и серверов страна становится зависимой — как бы хорошо ни был настроен ее SOC.

2️⃣ Знание ≠ умение. Можно украсть документацию у TSMC, как делают китайцы, но повторить их опыт и производственный процесс — нет. Производственная компетенция не передается через шпионаж. Кибершпионаж не даст умения делать сложные продукты.

3️⃣ Масштаб — двигатель прогресса. Чтобы развивать передовые технологии (чипы, дроны, электромобили, LLM), нужен постоянный поток инвестиций + массовое производство для амортизации затрат. Intel, выигравшая у RISC за счет массового производства, потеряла технологическое лидерство, когда отказалась от массового мобильного рынка, - хороший урок для любых индустрий. Масштаб — ключевой фактор инноваций.

4️⃣ Война требует дешевого и массового. В мирной экономике выгодно уходить в “высокую добавленную стоимость” — люкс, финтех, брендированные товары и т.п., но экономика “премиальности” плохо масштабируется в конфликт. Современные войны выигрывают не "брендом", а количеством дешевых, эффективных решений. Пример - дешевые дроны в Украине ($500 за штуку), которые изменили тактику войны. Они — это “дорогие пули”, а не “дешевые самолеты”.

5️⃣ Баланс “безопасность ≠ эффективность” — вызов будущего. Защита на уровне runtime замедляет работу дрона на 10% → БПЛА с такой защитой проиграет более легкому и быстрому. Баланс между безопасностью и боевыми характеристиками станет важнейшей темой будущего.

6️⃣ Будущее — за автономными системами. На поле боя будут сражаться программные агенты. Защита станет не внешней “надстройкой”, а частью самой архитектуры ПО (привет, безопасная разработка). При этом появляются новые угрозы в кибербезопасности (jamming, атаки на “умные” решения, истощение энергии и т.п.).

7️⃣ Кибербезопасность перестает быть самостоятельной дисциплиной. Когда ПО везде, а чипы в каждом устройстве, “кибербезопасность” просто станет частью общей безопасности. “Кибер” — это часть общей инженерной и оборонной культуры.

8️⃣ Суверенитет требует производственных мощностей. Малые страны без массового производства теряют суверенитет и только крупные экономические блоки (ЕС, НАТО и т.п.), обеспечивающие внутренние объемы, смогут сохранить безопасность. Не уверен, что ШОС, ОДКБ и даже СНГ попадают в понятие такого блока.

9️⃣ Ошибки Запада. После 1990-х Запад вел себя так, будто войны невозможны. Военная промышленность стала “артельной” - мало, дорого, эксклюзивно. Такая модель создает риск потери способности к инновациям, что может привести к повтору судьбы Intel, но на уровне отдельных государств.

Как метко сказал Dullien: “против экономики не попрешь”. В новой реальности безопасность — это не только про NGFW и SOC, но и про индустриальную политику и учет экономических законов. Отказ от массового производства ради экономической эффективности может привести к потере безопасности в кризисной ситуации.

#экономика #суверенитет

PraisonAI — это готовая к производству среда Multi AI Agents, разработанная для создания агентов AI для автоматизации и решения проблем от простых задач до сложных задач.

5️⃣ GitHub

Learn-agentic-ai — изучите агентный ИИ с помощью шаблона проектирования Dapr Agentic Cloud Ascent (DACA) и агентно-ориентированных облачных технологий.

5️⃣ GitHub