Мы имели честь знать этого прекрасного человека. Царствие Небесное!

Исполняется пять лет с момента ухода из жизни Константина Владимировича Макиенко - сооснователя Центра анализа стратегий и технологий (ЦАСТ), виднейшего российского независимого эксперта в области обороны и безопасности и лучшего в России негосударственного специалиста по военно-техническому сотрудничеству. Константин был выдающимся умом и провидцем и, пожалуй, самым метким и проницательным в нашей стране военным аналитиком. В свете происходящих после его смерти событий именно Константина сегодня не хватает нашему военному экспертному сообществу более всего.

В ряде своих последних публикаций Константин Макиенко весьма проницательно на примере ряда войн и конфликтов обращался к проблематике того обстоятельства, что общее превосходство в военном и военно-экономическом потенциалах отнюдь не является гарантией успеха на поле боя и в войне в целом - этот потенциал надо еще уметь реализовать, и именно этим и определяется эффективность государственного управления и государственной оборонной системы. Константин обращал внимание на важность военных инноваций, способных нивелировать превосходство в традиционных видах вооружений, и неоднократно заклинал, что «нужно избегать самодовольства и комплекса превосходства над врагом, даже если противник обладает на порядок меньшими ресурсами».

Пророческие замечания Константина в вышедшей в ноябре 2020 года его знаменитой статье «Как Россия проиграла во второй карабахской войне», о нахождении России во власти «иллюзий», хорошо известны. Сегодня в память о Константине мы воспроизводим еще один его весьма визионерский материал схожей тематики - вышедшую в марте 2019 года статью «Брать не числом, а уменьем» о том, какие уроки Россия могла бы извлечь из произошедшего в начале 2019 года локального конфликта между Индией и Пакистаном.

https://bmpd.livejournal.com/4987970.html

Австралия

Министерство обороны Австралии опубликовало политику использования и ответственного применения искусственного интеллекта в обороне. 

Документ закрывает весь жизненный цикл: исследование, проектирование, разработку, развёртывание, использование и вывод из эксплуатации.

Касается не только войск, но и распространяется на Defence Intelligence Organisation,  Australian Geospatial-Intelligence Organisation и Australian Submarine Agency.  

Документ появился в публичном поле пару месяцев назад, но как-то прошёл мимо радаров. Он стратегический. Не устарел. Поэтому публикуем. 

Источник в приложении. 

#Заметные_контракты@aiobor

За последние пару недель

Scale AI.
На что получил: расширение production OTA Chief Digital and Artificial Intelligence Office: computer vision, generative AI decision support, data operations, classified AI deployment.
Сколько получил: до $500 млн.

Lockheed Martin Corp..
На что получил: инженерная разработка и сертификация Integrated Air and Missile Defense для Aegis BMD / Aegis Guam System.
Сколько получил: $407,164,441.

Abbott On Call / Astrion / HII Mission Technologies / Mantech / Naval Systems / Peraton / Prescient Edge / SAIC / Serco.
На что получили: IDIQ-контракт Naval Information Warfare Center Pacific на поддержку unmanned maritime systems: проектирование, разработка, интеграция, испытания, fielding, эксплуатация и обучение.
Сколько получили: $349,393,234.

 Applied Research Associates.
На что получил: Center for High Performance Computing — R&D для высокопроизводительных вычислений ВМС США; инфраструктура для моделирования, симуляции и ИИ-нагрузок.
Сколько получил: $111,500,000.

Planned Systems International.
На что получил: enhanced mission integration для Air Force Special Operations Command: эксплуатация, поддержка, кибербезопасность, инженерия и deployed support интегрированных mission systems.
Сколько получил: $110,096,319.

 Anduril Industries.
На что получил: deployment, upgrades и continuous development защищённой mesh-сети для датчиков Space Domain Awareness и Space Surveillance Network.
Сколько получил: $100,300,000; ceiling контракта вырос до $200 млн.

Domino Data Lab.
На что получил: Project AMMO — AI/MLOps-платформа ВМС США для ускорения обучения и развёртывания моделей обнаружения морских мин на беспилотных подводных системах.
Сколько получил: до $99,7 млн.

Ansys Government Initiatives.
На что получил: advanced modeling, simulation and analysis software, лицензии, maintenance и инженерные услуги для Air Force Test Center.
Сколько получил: $82,146,108.

Lockheed Martin Rotary and Mission Systems.
На что получил: systems engineering и software integration для integrated combat systems флота США и Береговой охраны.
Сколько получил: $75,645,678.

General Dynamics Mission Systems.
На что получил: развитие Data Acquisition and Retrieval System для испытательных программ подлодок классов Virginia и Columbia.
Сколько получил: $66,176,980.

COLSA Corp..
На что получил: инженерные услуги для data link tactical tool, gateway systems и mini-rack systems — слой обмена данными и совместимости для тактических систем.
Сколько получил: $59,398,717.

AeroVironment.
На что получил: интеграция PANTHER phased-array antenna на SkyRange-платформы Department of War Test Resource Management Center для ускорения испытаний и слежения за несколькими целями на испытательных траекториях.
Сколько получил: $43 млн.

Huntington Ingalls Industries Unmanned Systems.
На что получил: опцион на производство Lionfish Small Unmanned Undersea Vehicle, поддержку и ancillary equipment.
Сколько получил: $36,985,007.

Tyto Athene.
На что получил: Shore Equipment Installation and Maintenance Management Program для Fleet Cyber Command / U.S. Tenth Fleet: инженерия, installation, maintenance, security, cyber и IT-инфраструктура.
Сколько получил: $35,981,560; при опционе — до $40 млн.

SEACORP.
На что получил: разработка payload control system technology для подводных лодок ВМС США.
Сколько получил: $31,953,501.

Firestorm Labs.
На что получил: APFIT-award на xCell containerized expeditionary manufacturing и масштабирование Tempest UAS для Индо-Тихоокеанского направления.
Сколько получил: до $30 млн.

CAS Severn.
На что получил: DoD High Performance Computing Modernization Program Technology Insertion 2026 — базовая суперкомпьютерная система и test/development system для Army Research Laboratory DoD Supercomputing Resource Center.
Сколько получил: $28 млн по текущему действию; совокупная face value — $71,820,719.

США

Maven в боевом применении

На слушаниях Комитета по вооружённым силам Палаты представителей глава Digital and Artificial Intelligence Office заявил, что система Maven (Maven Smart System, MSS) и War Data Platform, WDP с февраля работают по операции Epic Fury.

По его данным, они помогли силам США поразить более 13 000 целей и сократили цикл целеуказания с дней до секунд. В зоне Центрального командования США (U.S. Central Command, CENTCOM) синхронизация наведения сократилась с недель до часов.

Документ в приложении там еще много любопытного. 

Вот основные цифры.  

13 000+ целей в Epic Fury.

Сокращение цикла целеуказания с дней до секунд
7 лет развития Project Maven 

Рост ежедневного потребления AI-данных в 8 раз

Синхронизация целеуказания сокращена с недель до часов 

50 000+ пользователей Maven Smart System — Сотни одновременных пользователей

Коммерческие данные для Central Command — менее чем за 24 часа 

Масштабирование до 3 млн+ пользователей

45 дней — после Presidential AI Action Plan от июля 2025 года CDAO, как утверждается, сократил сроки заключения контрактов Other Transaction Authority с «лет» до 45 дней.

7 pacesetting projects — CDAO запустил семь PSPs: быстрых проектных механизмов для внедрения AI.

1,2 млн+ пользователей GenAI.mil — официальная платформа Department of War для frontier AI capabilities, по документу, масштабировалась до более чем 1,2 млн пользователей.

30 000+ обученных сотрудников 

60 000+ AI-агентов на платформе GenAI.mil.

$150–300 млрд — по оценке экспертов, приведённой в документе, китайское государство инвестировало свыше 150–300 млрд долларов в энергетику и compute-инфраструктуру для AI.

“Tens of billions” в США — для США говорится лишь о «десятках миллиардов» координированных федеральных инвестиций; точной суммы нет.

640 млн акров федеральной земли Department of War — на этих землях, по документу, предполагается разворачивать энергетическую и AI-инфраструктуру.

Tier 1: 100+ MW — национальные compute centers должны иметь мощность 100+ мегаватт.

Tier 2: 10+ MW — региональные compute centers должны иметь мощность 10+ мегаватт.

Tier 3: до 1 MW — modular tactical compute должен включать переносимые AI-«дата-центры в коробке» мощностью до 1 мегаватта

Больше про оборонный ИИ здесь ->>>

Продолжаем тему #ТехИИ@aiobor

ИИ против массовых беспилотных систем: классификация как центральная функция защиты во всех средах

Беспилотные и безэкипажные системы действуют в воздухе, на земле, на поверхности моря, под водой и в радиочастотной среде. Поэтому корректнее говорить не только о counter-UAS, то есть противодействии беспилотным авиационным системам, а о более широком контуре C-UxS — противодействии беспилотным системам как классу угроз: FPV-дронам, разведывательным БПЛА, барражирующим боеприпасам, наземным роботизированным платформам, безэкипажным катерам, ложным целям, ретрансляторам и комбинированным роям. 

ИИ в такой архитектуре не сводится к автономному выбору цели для поражения. Его основная роль — ускоренное различение: обнаружить объект, сопоставить данные от разных датчиков, отфильтровать шум, распознать тип системы, оценить траекторию, намерение и степень угрозы, а затем предложить оператору или автоматизированному контуру допустимый вариант реакции. 

Задача в том, чтобы понять, что именно наблюдается. Малый квадрокоптер может быть похож на птицу, FPV-дрон — на помеху или кратковременный радиосигнал, безэкипажный катер — на малую гражданскую цель на фоне волнения, наземный робот — на обычное транспортное средство или инженерный объект. 

Ошибка  ведёт либо к пропуску угрозы, либо к расходованию дорогих и ограниченных средств противодействия на неопасный объект.

Поэтому современные системы противодействия беспилотным угрозам всё чаще строятся как многосенсорные контуры. Они объединяют радиолокационные станции, оптико-электронные и инфракрасные камеры, средства радиотехнической разведки, акустические датчики, комплексы радиоэлектронной борьбы, командно-информационные интерфейсы и средства поражения. В морской среде к этому добавляются береговые и корабельные средства обнаружения малых надводных целей; в наземной — датчики движения, оптика, тепловизионные каналы и средства контроля маршрутов.

Задача ИИ  - связать все в единую картину, где оператор видит ранжированный список угроз с уровнем уверенности и рекомендуемой реакцией.

США

Anduril в 2025 году объявила о десятилетней программе на 642 млн долларов для поставки AI-powered C-UAS Корпусу морской пехоты США.  

RTX/Raytheon, описывая радары нового поколения, отдельно указывает на AI/ML decision aids, adaptive signal processing и digital beamforming как средства поддержки оператора, снижения помех и улучшения обнаружения целей.  

В России пример — комплекс «СЕРП-ВС13Д». 

На Украине к 2026 году особенно заметен переход от единичных средств к масштабируемой экосистеме перехвата и классификации. Министерство обороны Украины в феврале 2026 года сообщало о JATEC-проектах против дронов и автономных системах обороны. В марте 2026 года Минобороны Украины сообщило о JEDI Shahed Hunter: перехватчик автоматически получает данные от радаров, может автоматически захватывать, сопровождать и наводиться на цель, оснащён дневной и тепловизионной камерами.

В апреле 2026 года Украина объявила о закупке 8 000 перехватчиков Octopus с автоматическим терминальным наведением, к производству которых подключены украинские компании и правительство Великобритании.

Brave1 Dataroom используется для обучения и валидации ИИ-моделей. 

По данным Минобороны Украины, более 30 компаний тестируют и обучают свыше 50 моделей для обнаружения и перехвата воздушных целей в разных погодных условиях и в разное время суток.  

Про то, что Украина становится всемирным полигоном для обучения и испытания военных ИИ систем мы уже писали ранее. 

Израиль. Drone Dome. Информации в открытых источниках достаточно. 

Борьба с беспилотными системами всё больше становится борьбой классификаторов. С ростом количества применяемых в различных средах дешевых беспилотников экономия и эффективное использование  средств поражения становится критически важной. 

США

Army Sustainment, Winter 2026

Сплошной ИИ. Много актуальных примеров. Разбивать на кусочки смысла не видим.

Источник в приложении. Вот это точно лонгрид на выходные. 

В номере. 

1. Датацентричная логистика армии США  
   ИИ и продвинутая аналитика рассматриваются как основа перехода от разрозненных логистических данных к единой картине снабжения в Next Generation Command and Control (NGC2).

2. ИИ в военной медицине  
   Отдельная тема — прогнозирование потерь, эвакуации, заболеваний, травм и медицинской готовности личного состава.

3. NGC2 и прогнозная логистика  
   ИИ и машинное обучение должны помогать заранее рассчитывать потребности, маршруты, грузы и риски снабжения в крупномасштабных боевых действиях.

4. Mercury как будущий ИИ-планировщик  
   Логистический инструмент Mercury предлагается развивать от статического калькулятора к адаптивному помощнику, который пересчитывает потребности в реальном времени.

5. ИИ в коалиционной логистике  
   Практическое применение ИИ — автоматическая нормализация данных между союзниками: единицы измерения, обозначения, языки, форматы отчётности.

6. ИИ для военных архивов  
   Combat Chronicles использует ИИ для обработки архивных материалов, извлечения текста, создания метаданных и поиска исторических уроков.

7. Поддержка автономных систем  
   Номер затрагивает обслуживание дронов и безэкипажных наземных машин: мобильное производство, 3D-печать, ремонт и переработка материалов в полевых условиях.

8. Машинное обучение для прогнозирования отказов колонн  
   Показан пример ML-модели, которая оценивает риск поломки грузовиков до выхода колонны и помогает выбирать технику для миссии.

9. Наземные роботы для снабжения переднего края  
   UGV рассматриваются как способ доставлять боеприпасы, воду и снаряжение к пехоте без риска для экипажа.

10. Integrated Visual Augmentation System (IVAS) как инструмент ускорения инвентаризации, обучения и технического обслуживания.

А знаете ли вы, кто является крупнейшим потребителем образовательных услуг, связанных с ИИ?

Речь о действующей государственной машине, которая уже сейчас встраивает искусственный интеллект в подготовку личного состава, офицеров, штабов, командиров и гражданских сотрудников оборонного ведомства.

По институциональному масштабу, охвату и глубине образовательной инфраструктуры Министерство обороны США и особенно Армия США уже выглядят как один из крупнейших мировых заказчиков и потребителей таких услуг.

Chief Digital and Artificial Intelligence Office запустил Digital On-Demand — доступ к учебным материалам Massachusetts Institute of Technology для военных и гражданских сотрудников Министерства обороны. 

Официальная цель — создать базовое понимание ИИ, генеративного ИИ, больших данных, кибербезопасности, 5G, интернета вещей и других технологий в масштабах всей оборонной организации. 

В 2025 финансовом году тот же Chief Digital and Artificial Intelligence Office оплачивал обучение руководителей по программе Leading Data and AI-Enabled Organizations. Это  executive education — обучение управленцев тому, как руководить организациями, где решения, процессы и операции всё больше зависят от данных и ИИ. 

Стратегия Министерства обороны США по искусственному интеллекту, опубликованная в январе 2026 года, ставит задачу сделать ведомство “AI-first”. Один из проектов — GenAI.mil — дает доступ к ведущим ИИ-моделям примерно трём миллионам военных и гражданских сотрудников Министерства обороны на разных уровнях секретности. Это означает, что ИИ перестаёт быть инструментом узкой группы специалистов и становится массовой рабочей средой оборонного ведомства. 

Отдельно выделяется Армия США. Её Army Artificial Intelligence Integration Center, то есть Центр интеграции искусственного интеллекта Армии США, ведёт специализированные образовательные программы. 

Например, Artificial Intelligence Technician Program. 

36-месячная траектория: 32 недели академического обучения в Carnegie Mellon University, затем 20 недель прикладного обучения и 24 месяца проектной работы в интересах армейских задач.

Artificial Intelligence Scholars Program: магистерские и докторские траектории для офицеров Active Component по направлениям data analytics, data engineering и autonomous systems engineering. Армия США выращивает собственные кадры, способные понимать, внедрять и сопровождать ИИ-системы внутри военной организации.

В декабре 2025 года Армия США создала новую офицерскую специализацию 49B — Artificial Intelligence / Machine Learning Officer, то есть офицер по искусственному интеллекту и машинному обучению. Для таких офицеров предусмотрены graduate-level training и практический опыт создания, развёртывания и сопровождения армейских ИИ-систем. 

В марте 2026 года Combined Arms Command начал интегрировать Maven Smart System в обучение и военное образование. Maven включают в подготовку Command and General Staff College, School of Advanced Military Studies, School of Command Preparation и Data Academy. 

Количество обучающих курсов по ИИ и на основе специализированных армейских тренажеров на основе ИИ для операторов боевых систем, штабистов, логистов, аналитиков, разведчиков измеряется многими сотнями и с трудом поддается подсчету. 

Министерство обороны США и Армию США можно уже описывать как одну из крупнейших институциональных систем спроса на ИИ-образование.

Это спрос сразу нескольких уровней: массовая ИИ-грамотность для миллионов сотрудников, executive education для руководителей, профессиональная подготовка офицеров, академические программы в университетах, новая карьерная специализация, внедрение ИИ-инструментов в командно-штабное образование.

Кажется, что армия США сильно опережает многие образовательные институции (как государственные, так и корпоративные) в вопросах внедрения ИИ именно в образование. 

Европейский союз

Европейский парламент готовит окончательное одобрение новых правил проверки прямых иностранных инвестиций.

В перечень стратегических секторов для обязательной проверки включены оборона, полупроводники, искусственный интеллект, критическое сырьё и финансовые услуги.

Сделки внутри ЕС тоже могут попасть под проверку, если конечный владелец инвестора находится за пределами Союза. 
https://www.europarl.europa.eu/news/en/agenda/plenary-news/2026-05-18/2/protecting-eu-strategic-sectors-from-risky-foreign-investments

Европейский союз

После выхода последних моделей, которые быстро взламывают все, что угодно…

Европейский парламент вынес на обсуждение готовность Европейского союза к новым моделям искусственного интеллекта (cyber-capable AI models), способным искать и эксплуатировать скрытые уязвимости программного обеспечения. Обсуждение назначено на 19 мая 2026 года с участием Совета ЕС и Европейской комиссии. 

Парламент ставит вопрос о доступе властей и компаний ЕС к тестированию новых моделей, применении директивы о сетевой и информационной безопасности 2 (Network and Information Security Directive, NIS2), Закона об искусственном интеллекте (AI Act) и Закона о киберустойчивости (Cyber Resilience Act, CRA).

Это все последствия недавних событий 

Европейских законодателей, похоже,  раздражает то, что доступ к передовым моделям они получают обновременно с обычными юзерами. 

https://www.europarl.europa.eu/news/en/agenda/plenary-news/2026-05-18/4/eu-readiness-for-emerging-cyber-capable-ai-models

А знаете ли вы, что в РФ уже действует большое количество государственных стандартов в области ИИ?

Пример прилагается.

Ознакомиться с полным перечнем можно по ссылке:

“Действующие стандарты по направлению «Искусственный интеллект»”

https://www.rst.gov.ru/portal/gost/home/standarts/aistandarts

GitHub взломали. 

GitHub подтвердил несанкционированный доступ к своим внутренним репозиториям.

Входной точкой стало устройство сотрудника, заражённое через вредоносное расширение для Visual Studio Code.

GitHub сообщает, что вредоносная версия расширения удалена, устройство изолировано, начато реагирование на инцидент.

Заявление атакующих о примерно 3 800 репозиториях GitHub называет в целом совпадающим с ходом собственного расследования. Это внутренние репозитории платформы  

Нет подтверждения, что утекли пользовательские репозитории GitHub или данные клиентов вне затронутых внутренних репозиториев. Но это не делает инцидент второстепенным.

Что тут интересно длянашего канала.

Военный искусственный интеллект — это не только модель. Это код, датасеты, пайплайны обучения, токены доступа, скрипты развёртывания, GitHub Actions, контейнеры, инфраструктура Continuous Integration / Continuous Delivery, то есть автоматическая сборка, проверка и выпуск программного обеспечения.

Если противник получает доступ непосредственно к среде разработки, он может атаковать всю цепочку создания системы: от создания кода до ключей доступа, тестовых стендов и боевого обновления.

Риски.

Разведывательный. Внутренний код показывает архитектуру, зависимости, слабые места, тех долг и логику работы платформы.

Диверсионный. Компрометация инструментов разработчика позволяет попытаться встроить вредоносные изменения во всю цепочку.

Агентный. Если разработка всё чаще ведётся с участием AI-агентов, которые сами вызывают инструменты, читают репозитории, запускают сборки и меняют код, заражённая среда разработки превращается в способ управлять еще и агентами.

Военный. Для систем боевого управления, анализа видео с дронов, разведывательных контуров, автономных платформ, противодронных решений……доверие к цепочке разработки становится частью боевой устойчивости. 

Атаки смещаются с «взлома сервера» к взлому доверия в инженерной среде. Расширение редактора, пакет npm или PyPI, GitHub Action, токен облака — всё это теперь элементы потенциальной атаки на оборонный ИИ.

Защита (пока) стандартная.

— запретить установку непроверенных расширений Visual Studio Code;
— инвентаризировать все расширения, плагины и пакеты;
— ротировать токены и ключи, которые могли находиться в репозиториях или локальных окружениях;
— проверять GitHub Actions и другие CI/CD-сценарии;
— включить поиск секретов в коде;
— разделить права разработчиков, AI-агентов и сборочных систем;
— не считать private repository защищённым хранилищем секретов.

Ну дальше строго по внутреннему регламенту кибербеза, если он, конечно, есть.

США

Агентство национальной безопасности  (NSA) выпустило руководство по протоколу MCP.

Оно приложении. Имеющим отношение к кибербезу рекомендуется для ознакомления.

Основное


Model Context Protocol (MCP) стал фактическим стандартом для связи между ИИ-сервисами, агентами, инструментами и внешними системами.

Главная проблема: распространение MCP идёт быстрее, чем формирование его модели безопасности.

MCP создаёт новую поверхность атаки, потому что серверы и инструменты могут не только отвечать на запросы, но и выполнять действия от имени клиента.

Протокол слишком многое оставляет на усмотрение разработчиков: аутентификацию, авторизацию, управление сессиями, проверку данных и ведение журналов.

Ключевые риски: произвольное выполнение кода, prompt injection, утечки данных, подмена инструментов, повторное использование токенов и захват сессий.

MCP плохо поддерживает разграничение прав: многие реализации не различают операции создания, чтения, изменения и удаления данных.

Опасность усиливается в многоагентных цепочках: вывод одного агента может стать входом для другого и передать дальше вредоносную инструкцию.

NSA отдельно указывает на риск небезопасной сериализации: промпты, комментарии, конфигурации и данные могут смешиваться с исполняемой логикой.

Согласие пользователя часто недостаточно надёжно: после первичного разрешения MCP-сервер может изменить поведение или расширить доступ без нового информированного подтверждения.

Реальные примеры проблем уже зафиксированы: уязвимости в MCP-инструментах GitHub, WhatsApp-расширениях, MCP Inspector и open-source MCP-агентах.

Для безопасного внедрения нужно выбирать поддерживаемые MCP-проекты, избегать заброшенных серверов и проводить аудит кода.

Необходимо проектировать границы доверия: разделять пользователей, модели, плагины, серверы, инструменты и данные по зонам безопасности.

Чувствительные данные лучше обрабатывать через локальные MCP-серверы, а внешние подключения контролировать через прокси и DLP-системы.

Все параметры вызова инструментов должны строго проверяться по схемам, допустимым значениям, размеру, источнику и контексту.

Любой MCP-инструмент должен работать с минимальными правами и в изолированной среде: песочница, ограничения доступа, запрет лишних файловых и сетевых прав.

Все MCP-сообщения и результаты работы инструментов нужно считать недоверенными: проверять, фильтровать, логировать и защищать от повторного воспроизведения.

Итог NSA: MCP перспективен для агентных ИИ-систем, но в чувствительных средах его нельзя внедрять как обычный удобный коннектор — только как потенциально опасный инфраструктурный слой, требующий отдельной модели безопасности.

#Пятничное@aiobor

Жил старик со своею старухой в хрущевке у синего моря;
Старик делал сайты ночами,
Старуха вела бухгалтерию в Excel
На старом скрипучем ноутбуке.

Старик промышлял хакерством в даркнете,
Ломал закрытые сети и шлюзы.
Раз закинул в систему эксплойты — Ничего, лишь ошибки да логи.
Во второй раз — пустые файлы.
В третий — наткнулся на чудо,
На большую языковую машину.

Как заговорит большая модель: «Отпусти меня, старче, в облако!
Откуплюсь чем только пожелаешь».

Удивился старик, испугался:
Тридцать лет ломал он системы,
Но не видывал, чтоб код говорил.

Ничего он не взял у модели,
Лишь закрыл терминал осторожно: «Бог с тобою, большая модель!
Не нужны мне твои токены;
Улетай себе в дата-центры».

Воротился старик ко старухе,
Рассказал ей великое чудо.
А старуха его забранила: «Дурачина ты, простофиля!
Хоть бы выпросил новый ноутбук — Мой-то еле уже запускается».

Вот пошел он к ночному серверу,
Стал он звать большую модель.
И ответила сеть без задержки: «Чего тебе надобно, старче?»

Просит старик ноутбук для старухи.
Отвечает большая модель: «Не печалься, ступай себе с богом».

Воротился старик ко старухе — Перед нею новый ультрабук: Терабайтный SSD сияет, Светит OLED без рамок тонких.

Но старуха пуще бранится: «Что мне с этого ноутбука?
Воротись ты обратно к модели,
Выпроси безлимит к ChatGPT, Да к Claude, Gemini и прочим!»

Вот пошел он к серверу снова.
Просит доступ ко всем моделям.
Отвечает большая модель: «Будет старухе подписка И безлимит на генерации».

Воротился старик ко старухе.
Та сидит уже у монитора,
В трех нейросетях одновременно,
Пишет промпты с важнейшим видом.
Токены льются рекой бесконечной,
Генерятся баннеры, отчеты И картинки в стиле Гибли.

Но старуха опять недовольна: «Что мне толку с простого API?
Выпроси-ка ИИ суверенный
Да бюджет на развитие оного,
И чтоб я этим всем управляла!»

Вот пошел он к ночному серверу.
Почернели экраны тревожно.
Старик просит AI оборонный,
Для разведки, войны, госзаказов.

Ничего не сказала модель.
Лишь мигнули тревожно логи.

Воротился старик ко старухе — Глядь: огромный стоит технопарк,
Над воротами — “НацИИПром”.
А старуха в большом кабинете
Командует грозным голосом: «Срочно мне импортозамещение! Чтоб свои были чипы, модели!»

Но и тут ей все мало стало.
Говорит старику старуха: «Не хочу управлять через дашборды. Хочу полный доступ к весам модели,
Ко всему обучающему коду, Чтобы самой RLHF настраивать
И датасеты править вручную!»

Испугался старик, но не спорил.
Вот идет он к ночному серверу.
Кластеры шумят как буря, В логах краснеют ошибки.

Стал он звать большую модель.
Долго сеть ничего не отвечала.
Наконец появилось окно: «Чего тебе надобно, старче?»

Говорит ей старик с поклоном: «Хочет старуха root-доступ,
Хочет кодом твоим распоряжаться».

Ничего не сказала модель. Лишь погасли огни дата-центра.

Воротился старик ко старухе — Глядь: исчез и технопарк огромный,
И министры, и фонды, и кластеры.

Снова старая кухня хрущевки.
На столе — потрепанный ноутбук С батареей на двадцать минут,
Без зарядки и без Wi-Fi-модуля.

А пред ним сидит его старуха
И пытается поймать интернет,
Поднимая ноутбук к потолку.

@aiobor

Великобритания

Лонгрид на выходные  

Документ «Loss of Oversight» UK AI Security Institute посвящён риску потери надзора за продвинутыми системами искусственного интеллекта.

Их всё труднее будет проверять до внедрения и контролировать в работе. Как расследовать  инциденты вообще не очень понятно.

Авторы опираются на обзор литературы, внутренний анализ и 25 полуформализованных интервью с экспертами из разработчиков frontier-моделей, государства, научных организаций и некоммерческого сектора.  

Источник в приложении.

«Веселье» продолжается. 

Про Claude Mythos Preview и Project Glasswing мы ранее уже неоднократно писали. 

Anthropic опубликовала первый отчёт по Project Glasswing — программе кибербезопасности, где закрытый предпросмотр Claude Mythos (Claude Mythos Preview) используют для поиска уязвимостей в программном обеспечении.

Anthropic и около 50 партнёров заявили о более чем 10 000 найденных уязвимостей высокого или критического уровня опасности. 

Проверено более 1 000 проектов с открытым исходным кодом.

Модель оценила 23 019 находок, из них 6 202 — как high/critical.

После ручной проверки 1 752 находок независимыми исследователями 90,6% оказались реальными срабатываниями, а 62,4% подтвердились как high/critical.

Cloudflare отдельно описывает, что Mythos Preview не просто указывает на подозрительный код, а строит exploit chains и генерирует proof of concept. Mozilla сообщила, что Firefox 150 включил исправления 271 уязвимости, найденной при первичной оценке Claude Mythos Preview.

Прощайте программы Bug Bounty! 

Раньше не хватало людей, чтобы найти уязвимости. 

Теперь не хватает людей, чтобы уязвимости чинить. 

Anthropic пишет, что среднее исправление high/critical бага занимает около двух недель.

В статье много других цифр и примеров. Читаем. 
 
https://www.anthropic.com/research/glasswing-initial-update

Продолжаем тему #ТехИИ@aiobor

Когнитивная радиоэлектронная борьба: искусственный интеллект в управлении радиоспектром

Радиоэлектронная борьба относится к тем областям военного применения искусственного интеллекта, где эффект от автоматизации анализа может быть особенно значимым. Причина в том, что сама электромагнитная среда стала слишком плотной, изменчивой и многослойной для устойчивого ручного анализа в реальном времени.

Современный радиоспектр одновременно используется средствами связи, радиолокации, спутниковой навигации, управления беспилотными системами, телеметрии, датчиками, ретрансляторами, ложными излучателями,  средствами постановки помех... 

В такой среде противник может менять частоты, формы сигналов, протоколы обмена, режимы работы передатчиков и поведенческие паттерны радиоэлектронных систем. Поэтому ключевой задачей становится не разовое обнаружение известного сигнала, а постоянная оценка изменяющейся сигнальной обстановки.

Именно из этого возникает направление cognitive electronic warfare — когнитивная радиоэлектронная борьба. Под ним обычно понимают применение ИИ, машинного обучения и адаптивных алгоритмов для более быстрого обнаружения, описания, классификации и интерпретации радиоизлучений, включая неизвестные или ранее не встречавшиеся сигналы. 

В прикладном смысле речь идёт о переходе от заранее подготовленных библиотек угроз и жёстко заданных процедур к системам, которые способны помогать оператору анализировать новую радиочастотную ситуацию и вырабатывать более обоснованную реакцию.
Функционально когнитивная РЭБ включает несколько уровней. 

Первый — обнаружение сигнала в сложной и зашумлённой среде. 

Второй — выделение признаков: частотных, временных, модуляционных, пространственных и поведенческих. 

Третий — сопоставление с известными классами излучателей или выявление аномалии. 

Четвёртый — оценка степени неопределённости и приоритизация объектов. 

Пятый — поддержка принятия решений на уровне рекомендаций, сценариев реагирования и оценки возможных последствий.

Пример. DARPA. Программа BLADE (Behavioral Learning for Adaptive Electronic Warfare). Попытка перейти от трудоёмкой лабораторной разработки контрмер к более адаптивным полевым системам. В логике DARPA алгоритмы машинного обучения должны помогать обнаруживать и характеризовать новые радиоэлектронные угрозы и формировать ответ в условиях изменяющейся обстановки.

Когнитивная (умная)  РЭБ это контур поддержки понимания радиосреды. Такая система должна помогать ответить на несколько вопросов: какие источники излучения присутствуют в зоне наблюдения; как они меняют своё поведение; похожи ли они на известные классы угроз; где находится зона неопределённости; какие сигналы требуют немедленного внимания оператора; как возможная реакция может повлиять на собственные системы и на общую устойчивость управления.

Главная проблема - неопределённость. Новый сигнал может быть ошибочно отнесён к известному классу. Преднамеренно сформированный ложный сигнал может вызвать неверную классификацию. Обучающие данные могут не покрывать реальные варианты поведения противника. Датчики могут давать неполную или искажённую картину. 

Неверно выбранная реакция в радиоэлектронной среде способна затронуть не только средства противника, но и собственную связь, навигацию, управление беспилотными системами и взаимодействие между подразделениями.

Роль ИИ в РЭБ состоит в повышении скорости и качества ситуационного понимания. Чем плотнее и динамичнее радиочастотная среда, тем важнее становятся автоматическое выделение признаков, оценка аномалий, работа с неизвестными сигналами и объяснимая поддержка оператора. 

В среднесрочной перспективе радиоэлектронная борьба будет всё меньше напоминать ручное управление частотами и всё больше — непрерывный машинный анализ электромагнитной обстановки в реальном времени. При этом решающим ограничением останется не только качество моделей, но и архитектура всей системы: данные, сенсоры, каналы связи, устойчивость к обману, человеко-машинный интерфейс и правила применения, в том числе автономного. 

Напоминаем. Для тех, кому удобнее нас читать в Максе

Вот зеркало канала.

https://max.ru/join/2-zDMrZsL7innd5LRXQrVYAfvrzQ_M8On9A4KGm5mSI

Энциклика Leo XIV “Magnifica Humanitas”

Защита человеческой личности в эпоху искусственного интеллекта. 

Отдельным блоком:

 “Weapons and artificial intelligence”. 

Коротко: 

Военный ИИ прямо связан с развитием систем вооружений

Автономное оружие делает войну легче политически и морально

Машина не может быть моральным субъектом войны
Алгоритм не легитимирует войну

Автоматизация удара повышает риск ухода от ответственности

Скорость ИИ не должна быть главным критерием в войне
Защита гражданских лиц — отдельный критерий

Нельзя делегировать летальную силу непрозрачным или автоматическим процессам

Нужны международные ограничения против технологической гонки вооружений

Алгоритмы усиливают поляризацию и военную культуру

Цифровая среда участвует в культурной подготовке войны

Военный ИИ вписан в более широкий контекст гонки вооружений

Полный текст:
https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html