Может ли искусственный интеллект спровоцировать превентивный удар? Оценка рисков

Американская «независимая» исследовательская организация Rand последнее время уделяет очень пристальное внимание гонке ведущих государств за ИИ и её влиянии на мировую безопасность. А поскольку исследования проводятся по заказу госструктур и транснациональных компаний, то значит этот вопрос сейчас на повестке

Представляем вам перевод нового свежего документа под названием: «Оценка рисков превентивного удара в гонке за передовые технологии ИИ»

Основные тезисы

🔹Что произойдет, если одна из стран совершит прорыв в создании Искусственного Общего Интеллекта (AGI) – системы, превосходящей человека в большинстве когнитивных задач? Цель одной стороны – первыми получить эти преимущества, цель другой – не дать это сделать сопернику

🔹Самый опасный сценарий – это не борьба за AGI, а борьба за то, чтобы не дать другим его получить, когда он у тебя уже есть

🔹Разработано несколько вероятных сценариев. Самый реалистичный тот, в котором монополист уже видит реальные преимущества AGI и, возможно, обладает новыми военными возможностями, чтобы нанести более эффективный удар. Страх потерять монополию – мощный мотиватор. Плюс соблазн – поразить противника до того, как он сможет догнать в этой сфере и добиться паритета

🔹Ближайший исторический аналог – превентивные удары по ядерным программам (Израиль против Ирака и Сирии, США против Ирака). Анализ показывает, что страны шли на это, только когда:
1️⃣Цель была значительно слабее
2️⃣Угроза от конкретной технологии была очевидна и велика
3️⃣Была уверенность в эффективности удара

🔹В случае с AGI применить эти уроки сложнее. Технология более расплывчатая, ее развитие децентрализовано (часто в частных компаниях), а главные конкуренты – равные по силе ядерные державы, что делает прямое военное столкновение крайне маловероятным

🔹Поскольку полномасштабная война – слишком рискованный вариант, государства с большей вероятностью будут использовать инструменты «серой зоны» для замедления соперника. Жесткие экспортные контроли, чтобы лишить соперника передовых чипов и технологий (как это уже делают США в отношении Китая), а также влияние на внутренние дебаты в стране-сопернике, чтобы раздуть страх перед ИИ и затормозить его развитие через регулирование

🔹Гонка за AGI создает фундаментальную дилемму – чем могущественнее технология, тем выше соблазн ею завладеть и страх, что это сделает кто-то другой. Это может расколоть мир на «имущих» и «неимущих» в сфере ИИ, порождая зависть и отчаяние. Передовой ИИ может быть технически безопасным, но при этом геополитически дестабилизирующим. Даже если прямой военный конфликт маловероятен, гонка будет подпитывать напряженность, шпионаж и экономическое противостояние, делая мир более опасным и непредсказуемым

🔹Необходимо сделать свою ИИ-инфраструктуру рассредоточенной, защищенной и дублированной, чтобы лишить противника уверенности в успехе точечного удара

🔹Требуется инвестировать не только в прорыв, но и в способность быстро скопировать и внедрить чужие достижения. Это снизит ценность преимущества первопроходца

В общем, это исследование построено по принципу старого анекдота: «–А не е$нет? – Да, вроде, не должно». А вот чтобы этого «не должно», действительно не произошло, авторы и пытаются разработать набор рекомендаций и инструментов, чем они и занимаются в нескольких своих последних отчётах

🚀 Подпишитесь на наш канал чтобы не пропустить следующие публикации!

Cogito ergo vinco
МЫСЛЮ, СЛЕДОВАТЕЛЬНО, ПОБЕЖДАЮ!