ИИ, который ловит шпионов по манере разговора

На днях был опубликован новый патент, разработка которого велась в рамках очередного проекта DARPA.

Авторов патента трое. Все работают в SRI International — лаборатория в Калифорнии, из стен которой вышли компьютерная мышь и голосовой помощник Siri, позднее купленный Apple.

Первый — специалист по акустической форензике. Его настоящая работа — слушать не слова, а то, что за словами: паузы, сбои интонации, микроизменения темпа речи, которые выдают человека, когда он лжёт или давит на собеседника. То есть он годами занимался оцифровкой детектора лжи.

Второй исследователь изучает биосигналы и форензический ИИ — то, как нервозность, психологическое давление и манипуляция проявляются в тексте и голосе на физиологическом уровне.

Третий — инженер по обработке естественного языка, архитектор системы.

Это люди, которые умеют читать между строк разговора — и они получили от Пентагона почти двенадцать миллионов долларов, чтобы научить этому машину.

Обычная антифишинговая программа работает как пограничник со списком запрещённых слов: услышал «пин-код» или «переведите деньги» — поднял шлагбаум. Опытный мошенник просто меняет формулировки и проходит насквозь.
Новая система устроена иначе. Она не ищет слова — она распознаёт сценарий.

И сценарий, который зашит в её математику, один к одному совпадает с классической схемой разведывательной вербовки. Той самой, которой учат в разведшколах уже сто лет: сначала — предложение помочь или познакомиться, потом — невинная просьба заполнить «небольшую анкету», затем — мягкое успокоение («всё конфиденциально, не переживайте»), и наконец — давление («нужно решить прямо сейчас»).

Система слушает разговор и с каждой репликой тихо заполняет невидимую шкалу риска. Она не ждёт запрещённого слова. Она чувствует, куда движется разговор. Когда эмоциональная траектория беседы пробивает красную черту — система действует: обрывает звонок, блокирует передачу данных, поднимает тревогу.

Где-то в середине патента, почти вскользь, упоминается ещё одна возможность системы. Она умеет распознавать синтетические голоса — цифровые копии живых людей.

Сейчас голос любого человека можно клонировать по минутной записи, и отличить копию от оригинала на слух практически невозможно.

Представьте: офицер в полевых условиях получает вызов. Голос — знакомый, интонации — привычные, позывной — правильный. Звонящий отдаёт приказ передать координаты или открыть доступ к системе. И только машина замечает: голос ненастоящий. Человека на другом конце нет — есть программа.

Именно поэтому в патенте особо прописана работа через спутниковую связь. Это требование полевого применения.

Чтобы научить ИИ распознавать манипуляции, его нужно на них обучить. Живых шпионских диалогов в открытом доступе немного. Поэтому создатели пошли другим путём: они обучили вторую нейросеть генерировать тысячи сценариев вербовки, психологического давления и эмоциональных ловушек — и скормили их первой.

Но программа, которая умеет в совершенстве имитировать манипуляцию, строить доверие с нуля и находить слабые места в психологической защите собеседника, — это уже не только детектор. Это одновременно и инструкция по применению, и готовый шаблон для атаки.

Рой таких ботов, выпущенный в социальные сети, способен незаметно и методично обрабатывать сотни тысяч людей. Каждый разговор — индивидуальный, живой, убедительный. Никто не поймёт, что говорит с программой.

Патент описывает только защиту. О нападении — ни слова. Это называется намеренным умолчанием, и в разведывательных разработках оно встречается регулярно.

🔒DARPA&CIA