АРМИЯ РОБОТОВ БЕЗ КОМАНДИРА

21 апреля DARPA опубликовало программу под названием DICE — «Децентрализованный искусственный интеллект через контролируемую эмерджентность».

Суть идеи: создать рой автономных ИИ-агентов, которые действуют без единого центра управления. Никакого «главного компьютера», никакого штаба. Каждый агент — сам по себе, но все вместе они координируются через одноранговую сеть, как узлы интернета. Убил одного — остальные перестраиваются и продолжают миссию.

В документе авторы проводят аналогию с интернетом: мол, устойчивое глобальное поведение возникает из простых локальных правил.

Интернет никто не контролирует — и именно поэтому его невозможно «выключить». Американские военные хотят создать то же самое, но для боевых ИИ-систем. Рой агентов, который продолжает выполнять задачу даже, если часть из них «скомпрометирована» или уничтожена. И даже если некоторые агенты начнут вести себя непредсказуемо — «выйдут из повиновения», как прямо написано в документе — система должна это подавлять изнутри.

Традиционный рой дронов работает по принципу, подсмотренному у насекомых и птиц: каждый агент следует простым правилам — держи дистанцию, лети в сторону соседа, избегай столкновений. Такой рой умеет летать строем, охватывать территорию, не сталкиваться. Думать — не умеет.

Более продвинутые военные рои, вроде программы DARPA OFFSET, добавляют сверху оператора-человека или единый управляющий узел — «лидера», который раздаёт задачи остальным. Отключи лидера — и рой либо останавливается, либо деградирует.

DICE убирает эту ахиллесову пяту. Здесь нет ни центрального «мозга», ни лидера. Ключевое отличие — три вещи в связке:

-Распределённый интеллект. Каждый агент — не просто дрон с простым правилом, а полноценная ИИ-модель, способная рассуждать и принимать сложные тактические решения. Это уже не пчела — это маленький автономный штаб.

-Контролируемая эмерджентность. Обычный рой даёт непредсказуемое коллективное поведение — никто не знает, что он сделает в нештатной ситуации. DICE хочет «приручить» эмерджентность: чтобы умное групповое поведение возникало, но оставалось в заданных рамках. Как атомный реактор — цепная реакция идёт, но под контролем.

-Локальный контроль инференса. Каждый агент имеет встроенный механизм, который следит за его собственными рассуждениями в реальном времени и не даёт ему «съехать» в нежелательное поведение.

🔒DARPA&CIA