Так что же будет - Большая война или Парадоксальная цивилизация?
Развилки и сценарии будущего от одного из авторов сингулярной «Вертикали Снукса-Панова»

— На какой развилке наиболее кардинально изменилось направление хода истории?
— Какова вероятность Большой войны в ближайшие 5-10 лет?
— Какого глобального кризиса не избежать?
— Почему мир будущего может быть только сетевым, а не иерархическим?
— Превращение нашей цивилизации в «Парадоксальную цивилизацию» неизбежно?
— Разрешима ли проблема поиска внеземных цивилизаций?

Этот колоссально интересный букет вопросов поставлен в смартмастриде А.Д.Панова «Вселенский бросок монеты» https://goo.gl/HeUD2k

Вас, возможно, удивляет, что и 2й рекомендуемый мною смартмастрид (1й см. здесь https://goo.gl/7hmQm8 ) написан А.Д.Пановым.
Меня это не удивляет уже много лет. Удивляет другое. Насколько ничтожно число людей, знакомых с этими интереснейшими работами, значимость которых для понимания мира настоящего и будущего трудно переоценить.
Они непостижимо сочетают крышесрывательные провидения с ироничной научной педантичностью – это всё, мол, типа многомировой интерпретации квантовой механики Эверетта-Уилера, – «только эвристическая точка зрения, не имеющая научного статуса, но люди над этим работают…»
Не буду отвешивать комплементов автору, которому от этого ни холодно ни жарко. Пусть точки над i расставит история науки. Тем же, кто все еще предпочитает читать лишь мейнстримные работы ученых узкой специализации, лишь порекомендую посмотреть сериал «Гений» https://goo.gl/Ckqt3B . Ведь и так бывает.

Мне нечего добавить к сказанному в статье. Даже спустя 5 лет с её написания.
И даже иначе – особенно спустя 5 лет с её написания, когда первое из высказанных в ней предсказаний, к сожалению, уже начало сбываться, и события развиваются по наихудшему сценарию.

Единственное, что я мог сделать – перенести статью на платформу Medium, чтобы ее могли прочесть как можно больше читателей.

По той же причине репосты весьма приветствуются.

Как еще сагитировать прочесть этот смартмастрид? Ну может так.

«Бог не играет в кости со Вселенной», сказал Альберт Эйнштейн, бросая вызов коллегам, разрабатывавшим новую теорию — квантовую механику.

Бог бросает монету. А будет ли орел или решка, зависит не от монеты и даже не от Бога, а от того, в какой из миров мы попали. Об этом, как мне кажется, и написал А.Д.Панов во «Вселенском броске монеты».

P.S. Чтобы дать возможность, не отвлекаясь на новые публикации, прочесть эту статью как можно большему числу читателей, канал «Малоизвестное интересное» приостанавливает новые публикации на несколько дней. Очень надеюсь, что вы найдете время на ее прочтение.

«Вселенский бросок монеты» https://goo.gl/HeUD2k

#Смартмастрид #Будущее #БольшаяВойна #ИИ

Новый «Момент спутника» подкрался незаметно

Вчера Президент США Дональд Трамп подписал 716 млрд. оборонный бюджет на 2019 финансовый год.
Среди главные направлений — не только создание космических войск, но и расширение исследований в области искусственного интеллекта.
Что это - новый «Момент спутника»?

Впервые США пережили «Sputnik moment» в 1957, испытав шок от запуска СССР первого советского спутника. С тех пор «Момент спутника» стал в США символом осознания, что страна может потерять свое экономическое и политическое положение из-за наметившегося технологического отставания от других стран.
И не важно, было ли 60 лет назад реальное отставание США от СССР в сфере ракетных вооружений (на самом деле, никакого отставания не было). Но когда СССР опередил США в запуске 1го спутника, а Хрущев потом заявил, что ракеты сходят с советских сборочных линий «как сосиски», - «Момент спутника» неожиданно наступил.

Уже на президентских выборах 1960 года Джон Кеннеди пообещал покончить с отставанием в сфере ракетных вооружений, высмеяв Ричарда Никсона и заявив: «Мне кажется, что цветное телевидение не столь важно, как мощность ракетного двигателя».
Результатом осознания «Момента спутника» в США стал не только долгий приход к власти демократов (1958, 1960, 1962), но и технологический прорыв США, приведший к их высадке на Луне уже в 1969.
А также, что, наверное, еще более важно, - «Момент спутника» запустил новый этап гонки вооружений, закончившийся Звездными войнами Рональда Рейгана и последующим развалом СССР.

И вот история повторяется через 60 лет.
США могут потерять свое экономическое и политическое положение в мире, если не разработают всеобъемлющий высокоприоритетный план развития ИИ. Это серьезное предупреждение из нового отчета Strategic Competition in an Era of Artificial Intelligence, опубликованного Центром новой американской безопасности (CNAS).
Уже несколько стран – пишет отчет, - включая Китай, Индию, Францию и Великобританию объявили о крупных национальных инициативах в развитии своих национальных ИИ технологий. Эксперты рекомендуют США срочно последовать этому примеру, но Белый дом Трампа предпочитает пока что бить баклуши. А время уходит.
Исследование CNAS пишет, что ИИ будет иметь такое широкое влияние на оборону, дипломатию, разведку, экономическую конкурентоспособность и социальную стабильность, что правительство должно рассматривать это как новую космическую гонку вооружений.
«Замедление развития и внедрения ИИ будет представлять угрозу для глобального экономического и военного лидерства США. Соединенные Штаты вполне могут оказаться в новой космической гонке, но в отличие от Китая, Соединенные Штаты еще не испытали истинный «момент Спутника» с точки зрения более широкой общественности и политиков».

• Резюме отчета от MIT https://goo.gl/FjuUrG
• Авторский обзор отчета и его полный текст в pdf https://goo.gl/54Mtgr (26 стр., 82 ссылки, 3 кейса: Китай, Индия, Россия)

#ИИ #БольшаяВойна

Влияние технологий ИИ становится все более повсеместным. Они меняют бытовые детали и способы организации нашей жизни, рынок труда, взаимоотношения продавцов и покупателей, способы потребления нами информации и услуг.
Однако судьба мира будущего, какими будут его экономика и политика, как в нем будут решаться вопросы войны и мира, - впрямую не зависит от развития технологий ИИ.
Как и раньше, - при Наполеоне, Кайзере и Гитлере, решение глобальных вопросов мироопределения, по-прежнему, определяется геополитическими интересами наиболее могущественных стран.

В этой связи возникает интересный и весьма важный вопрос.
✔️ А каково влияние технологий ИИ на геополитику?

Результат проведенного мною анализа обширного корпуса документов дает такой ответ на этот вопрос.
— Влияние технологий ИИ на геополитику становится определяющим.
— Новые глобальные тренды ИИ-национализма и ИИ-национализации не просто сменят позицию на мировой шахматной доске, — они поменяют размер доски, набор фигур и правила игры.

Об этом мой новый лонгрид, опубликованный вчера на сайте Российского совета по международным делам (РСМД).

Для тех, кто предпочтет читать в Instant View мессенджера, лонгрид доступен в стандартном Medium-зеркале моего канала http://bit.ly/2Nxbt6V

Для тех же, кто будет читать структурированный лонгрид на компьютере, вот ссылка на сайт РСМД http://russiancouncil.ru/ai
А это Телеграм-канал РСМД @russiancouncil

Время чтения – 33 мин. с прилагаемым списком из 37 многостраничных отчетов (а вы как хотели, если вопрос такой?)

#ИИ #БольшаяВойна #Геополитика

Не прочесть этот лучший за последний год лонгрид о влиянии связки «ИИ – Геополитика – Экономика» на судьбы мира, - будет большой ошибкой. Уровень проникновения в тему и точность вИдения ближайшего будущего – беспрецедентны для СМИ (эссе выйдет в ноябрьском журнале WIRED).
Ну а пока вы его еще не прочли, желающие могут прочесть мой резюме http://bit.ly/2AACEdW

#ИИ #БольшаяВойна #Геополитика

Обречен ли мир?
Опубликована новая фундаментальная работа Ника Бострома «Гипотеза Уязвимого Мира».
В ней Бостром:
- классифицирует и анализирует сценарии, при которых технологические уязвимости подводят мир к краю пропасти;
- предлагает два взаимодополняющих варианта действий, способных, по его мнению, помочь человечеству избежать гибели.
Это важно по двум причинам.
Во-первых, тема, важнее которой, наверное, и нет.
Во-вторых, потенциал влияния идей автора. Он – признанный авторитет для самых известных и влиятельных людей бизнеса (от Билла Гейтса до Илона Маска). А поскольку его новая работа ориентирована на сильных мира сего, способных определять путь развития человечества, она может повлиять не только крупных бизнесменов, но и на ведущих политиков. И не только в вопросах технологий, а также в вопросах безопасности и геополитики.

В моем новом посте на 7 мин:
- резюме работы «Гипотеза Уязвимого Мира»
- анализ дополнительных аргументов (как за, так и против), не вошедших в работу Бострома, но важных для оценки предлагаемых им подходов спасения человечества.
Читать на Medium (http://bit.ly/2Qnra7e)
Читать на Яндекс Дзен (http://bit.ly/2SsOFbe)

#БольшаяВойна #ИИ #ГлобальныеРиски

Ровно два года назад в 1ом посте серии «Большой войны не миновать» я рассказал, как в ходе Нобелевского симпозиума Нассим Талеб опроверг теорию Стивена Пинкера о будто бы уже начавшейся эпохе «долгого мира» с неуклонным падением уровня насилия, снижением кровопролитности и числа войн. Нассим Талеб математически обосновал совершенно противоположный и страшный вывод.

Большой войны с десятками миллионов жертв человечеству не миновать.

Год назад я опубликовал 2й пост этой серии, названный «Большая война ближе, чем мы думаем». В нем было рассказано о результатах исследования Аарона Клаузета, подтвердившего правоту Талеба и доказавшего следующее.

Мы живем в циклической реальности, в которой на смену всё более «долгого мира» идут всё более кровопролитные войны.

И вот только что опубликовано исследование Уго Барди с коллегами, доводящее счет в легендарном споре Талеба и Пинкера о судьбе человечества до разгромных 3:0. Результаты интеллектуального анализа данных самой большой в мире базы о жертвах войн за 600 лет еще раз (и похоже, окончательно) развенчали идеи «долгого мира» и «снижения уровня насилия», отстаиваемые Стивеном Пинкером, и поддерживаемые многими другими известными интеллектуалами.

Вердикт нового исследования ужасен.

В недалеком будущем мир ждет война ещё более кровопролитная, чем 2я Мировая.
Но это не всё.

Еще более поражает интегральный результат трех работ — Талеба, Клаузета и Барди,— переводящий наши представления о войне из области качественных гуманитарных оценок и категорий в естественнонаучную область математически формулируемых гипотез и их экспериментальной проверки на моделях, позволяющих количественную оценку их точности.

Война — это встроенный в структуру общества механизм эффективного снижения энтропии человеческих обществ — сложных систем, живущих на кромке хаоса в состоянии самоорганизованной критичности.

Что это? Почему так? Причем здесь энтропия? И что из всего этого следует, — обо всем этом желающие могут прочесть в 3ей, завершающей статье серии «Большой войны не миновать».
На Medium http://bit.ly/2TyLaAH или https://goo.gl/S9nT3A
На Яндекс Дзен http://bit.ly/2RyfdLH или https://goo.gl/jb4Qv7

#БольшаяВойна #SOC #Энтропия

Каковы шансы войны, которая уничтожит большую часть человечества? Это более вероятно, чем вы думаете.
Пишу об этом уже 2 года. Последний раз всего 12 дней назад – 8го января (ссылка в конце).
Спрашивается, - сколько можно стращать, и зачем так чащу?
Да затем, что еще со времен Кассандры известно, что умное планирование подразумевает обязательный учет наихудшего сценария. И не делать это чревато …

Отклики читателей на мой пост от 8 января были разнообразны.
Оппоненты приводят, в основном, две группы контраргументов.
1) Будущее принципиально непредсказуемо, и потому все прогнозы мало чего стоят.
2) Статистические выкладки не заслуживают доверия, потому что (1) неполные данные и/или потому, что (2) тренды кардинально изменились – формальных доказательств этого нет, но статистика последних десятилетий обнадеживает (читайте Стивена Пинкера).

Что на это ответить? … Не знаю.
Но вот Уго Барди – автор работы, о которой я писал 8го января (профессор физической химии универа Флоренции, уже 10+ лет специализирующийся на матанализе экзистенциальных прогнозов) позавчера в своем блоге ответил оппонентам так.

«Недавно вместе со своими коллегами я занимался статистическим анализом войн за последние 600 лет. Результаты были отрезвляющими: война, похоже, является статистическим явлением, подобным землетрясениям и лесным пожарам.
Войны возникают в соответствии с четко определенными статистическими закономерностями, и с этим мало что можно поделать.
Аарон Клуазет - другой ученый, который работает над той же самой темой, в весьма отрезвляющем анализе рассчитал вероятности будущих войн.
По его подсчетам, крупная война масштаба 2й мировой имеет более 40% шансов произойти в течение ближайших 100 лет.
А война с более чем миллиардом погибших, которая может уничтожить большую часть человечества, с вероятностью 5% может произойти менее чем за 4 столетия.
Самое важное здесь то, что сказанное вовсе не значит, что мы можем расслабиться на ближайшие 4 века. Совсем нет.
Математически правильная трактовка этого прогноза - мы можем ожидать уничтожения значительной части человечества с 5%ной вероятностью в ЛЮБОЙ МОМЕНТ будущего, в течение ближайших 4 столетий».

Осталось осознать, что же представляет собой 5%ная вероятность.
Представьте такой вариант при игре в кости. Например, выпадает шестерка, а затем еще раз шестерка или пятерка. Вероятность того, что этот вариант может случиться при ваших 2х очередных бросках и есть примерно 5%.
Поставите судьбу человечества на кон, утверждая, что такой вариант крайне маловероятен?

Блог Уго Барди называется «Завет Кассандры – всегда планируйте возможность наихудшего сценария».
И это не алармизм, а житейская мудрость, которую люди всегда знали и никогда ей не следовали.

Как у Высоцкого:
Без умолку безумная девица
Кричала: "Ясно вижу Трою павшей в прах!"
Но ясновидцев - впрочем, как и очевидцев -
Во все века сжигали люди на кострах.


Допматериалы:
• Пост Уго Барди http://bit.do/eF2iz с «комментарием к нему» В.С.Высоцкого https://www.youtube.com/watch?v=PYHPS9tDsZo
• Мой пост «Окончательный диагноз — большой войны не миновать» http://bit.do/eF2ih

#БольшаяВойна

Пентагон совместно с Трампом обломал рога Google.
Самая строптивая компания США будет работать на Пентагон.
Многие сомневались, когда полгода назад я написал, что «впереди ИИ-национализм и ИИ-национализация», и что Госдеп и военные США скоро всерьез возьмутся за «хипстеров Силиконовой долины», и никуда последние не денутся …
Ну вот и дождались.
27го марта Трамп вызвал на ковер в Вашингтон гендира Google Сундара Пичаи и открытым текстом заявил ему, что сотрудничество Google с Китаем не только идет на пользу китайским военным, но и наносит колоссальный вред обороноспособности США.
Этот наезд на высшем уровне был подготовлен Председателем Объединенного комитета начальников штабов США генералом Джозефом Данфордом. 14го марта, выступая в Комитете Сената по вооруженным силам, генерал разнес в пух и прах Google за его сотрудничество с Китаем в области ИИ.
Через день после этого Трамп написал твит, получивший 26К+ ретвитов и 100К+ лайков:
«Google помогает Китаю и их военным, а не США. Ужас! Хорошая новость здесь лишь в том, что они уже помогали лживой Хиллари Клинтон, а не Трампу ... и что в итоге из этого получилось?»

Наездом в Твиттере дело не кончилось. Через неделю гендир Google был на президентском ковре. Разговор шел
- о необходимости радикального сокращения широкого спектра партнерства Google с китайским бизнесом, напрямую завязанным с китайскими военными программой «военно-гражданской интеграции»,
- об «отсутствии готовности у Google поддерживать программы Министерства обороны США» (цитата и.о. министра обороны США Шанахана) и, в 1ю очередь, автономных «роботов-киллеров».

В результате бурного разговора, Пичаи слился. А Трамп гордо твитнул:
«Только что встретился с @SundarPichai, президентом @Google, который явно делает успехи. Он решительно заверил, что абсолютно предан делу военных США, а вовсе не китайских военных....
Также обсуждались вопросы политической лояльности и многого из того, что @ Google может сделать для нашей страны. Встреча закончилась очень хорошо!»

На очереди наезд Пентагона на Amazon и Microsoft, объявивших о создании собственных лабораторий ИИ в Китае.
Подробней https://spectrum.ieee.org/tech-talk/aerospace/military/pentagon-warns-silicon-valley-about-aiding-chinese-military
#ИИ #БольшаяВойна #Геополитика

Россия включается в мировую ИИ-гонку. США тормозит. А Китай уходит в отрыв.
Последние новости позволяют оценить серьезность и масштаб российских претензий в мировой ИИ-гонке, а также расклад мировых сил в этой гонке на ближайшие год-два.
Новости такие.
РОССИЯ
• Сегодня Путин проведет совещание по развитию технологий в области ИИ. Центральной темой встречи станет обсуждение разработанной Сбербанком национальной стратегии развития искусственного интеллекта.
• Сегодня же объявлено о конкретных цифрах финансирования, полученных РФПИ от иностранных инвесторов для финансирования российских компаний в сфере ИИ - $2 млрд.
• Исходя из российской практики, можно предположить, что федеральные инвестиции в ИИ составят примерно ту же сумму – до $2 млрд.
США
• 21 мая 2 сенатора США представили национальную стратегию по ИИ. Сенаторы - соучредители Совета по ИИ Сената, - совместно с членом Комитета по торговле Сената, представили S. 1558 - двухпартийный Закон об инициативе в области ИИ (AI-IA). Его цель - координация национальной стратегии развития ИИ, обеспечиваемой федеральными инвестициями в размере $2,2 млрд.

Из этих новостей можно сделать такие выводы.
1) Объемы федеральных инвестиций в ИИ со стороны России и в США будут примерно одинаковые – примерно, по $2 млрд.
2) Инвестиции в ИИ со стороны бизнеса России и США отличаются на полтора порядка. Заявление Грефа «мы будем точно не хуже Google и Apple» останутся благими пожеланиями при текущем уровне финансирования НИОКР. Например, в Google в 2018 бюджет НИОКР был $21 млрд. В Сбербанке на полтора порядка меньше.
3) Т.о. суммарное финансирование развития ИИ правительством и бизнесом США и России будет примерно $30+ млрд против $4+ млрд.
Ну а теперь самое интересное.
КИТАЙ
Лучшим источником данных по ИИ Китая сейчас служит разведка США. Сами китайцы, конечно, тоже много публикуют, но сильно дозируют информацию, давая её под выгодным для себя углом зрения.

Но разведка США держит руку на пульсе. Две недели назад Комитет по разведке Палаты представителей США провел открытые слушания на тему «Цифровой авторитаризм Китая: наблюдение, влияние и политический контроль».
Желающие могут почитать все тексты слушаний и посмотреть выступления экспертов.
Резюме удручающее.
1) Китай развертывает в беспрецедентных масштабах широкую сеть наблюдения, которая использует достижения ИИ и МО для устранения внутриполитического инакомыслия и оптимизации политического контроля Компартии.
2) Китай экспортирует эту модель технологического социального контроля в страны всего мира, способствуя международному возрождению и скатыванию к авторитаризму во многих странах с формирующейся демократией.
3) Принятые и экспортируемые Китаем инвазивные меры наблюдения направленны на оптимизацию политического контроля и включают в себя (а) систему социального кредитования и (б) интегрированное решение Huawei «Безопасный город».
4) Эти попытки Пекина бросить вызов международному порядку поддерживаются беспрецедентным финансированием, как со стороны государства (порядка $30-40 млрд), так и со стороны бизнеса (порядка $60-80 млрд)

Подводя итог, зафиксируем, что суммарное финансирование развития ИИ Китаем превысит объемы финансирования:
• США – примерно втрое;
• России – примерно в 20+ раз.
#ИИ #БольшаяВойна #Геополитика

США близки к проигрышу ИИ-гонки Китаю
Итоговый анализ технологических, финансовых и политических действий США и Китая по состоянию на июнь 2019 позволяет констатировать вышесказанное.
Во вчерашнем посте дана оценка объемов финансирования развития ИИ США и Китаем на ближайшие годы.
Ранее, в феврале сего года, когда еще не было окончательной ясности позиции США в этом вопросе, я писал что: Китай обходит США в ИИ-гонке. США сдаваться не намерены, но переломить ситуацию пока не могут. Дополнительные материалы к приведенному в упомянутом посте анализу можно найти в презентации доклада, прочитанного в феврале мною в Американской торговой палате (AmCham Russia).
Мой доклад заканчивался цитатой Венди Андерсона – экс-замначальника Генштаба США,
GM Defense & National Security:
«На сегодняшний день мы, в основном, участвуем в дебатах о запрете экспорта ИИ. В отсутствие значительных федеральных расходов на ИИ и отсутствия надежной национальной стратегии в области ИИ мы теперь еще и пытаемся ограничить способность наших частных компаний получать доступ к капиталу посредством международных продаж на крупнейшие мировые рынки …Мы проигрываем эту гонку».

Прошедшие с моего доклада 4 месяца позволяют предположить, что можно перефразировать итоговую фразу этой цитаты на - … Мы близки к проигрышу этой гонки.

Но ведь просто так США гонку не проиграют. Сверхдержава, столько лет бывшая единственным лидером в области ИИ, рано или поздно опомнится.
И что будет тогда?

Остается только уповать, что прогноз из доклада Директора Open AI Джека Кларка о возможном «ИИ-Чернобыле» (см. «Artificial Intelligence and Countries: What Might Happen, What We'd Like to Happen, What We Should Avoid Letting Happen» в «Technology and National Security: Maintaining America's Edge») все же не сбудется.
«Если правительство считает, что оно не участвует в гонке, сотрудничая с другими частными или государственными субъектами, у него появится стимул к тому, чтобы срезать углы на методах предсказуемости, надежности и отказоустойчивости таких систем. Это может привести к развертыванию мощных ИИ-систем с непредсказуемыми профилями риска-приглашая нас задаться вопросом, как может выглядеть ИИ-Чернобыль».

Китай перспектива мирового «ИИ-Чернобыля» вряд ли остановит.
А вот США?

#ИИ #БольшаяВойна #Геополитика

Оптимизм в перспективах сильного ИИ ведет к большой войне.
Таков вердикт моделирования развития прорывных технологий.
Все развитые страны стоят перед важным выбором - какая национальная ИИ-стратегия будет для них наиболее успешной:
А) антиморальный эгоизм типа «каждый за себя»: забить на все моральные и гуманистические принципы, не останавливаясь ни перед чем, лишь бы обеспечить себе максимально высокое место в международной конкурентной гонке?
Б) прозорливое высокоморальное международное сотрудничество, наподобие Эры Мирового Воссоединения в «Туманности Андромеды» И.А. Ефремова?
Навряд ли, принимая это решение, Трамп, Си Цзиньпин, Путин или Макрон будут полагаться на результаты анализа и моделирования того, куда приведет мир избранный ими путь.
И это очень жаль. Поскольку:
- такая модель уже существует;
- и она демонстрирует страшные результаты.

Что если смоделировать международную гонку в наиболее прорывных технологических направлениях с помощью эволюционной теории игр?

Что если допустить для каждого из участников гонки выбор одной из 3х стратегий: антиморальный эгоизм (см. выше стратегию А), прозорливое высокоморальное сотрудничество (см. выше стратегию Б) или смешанная стратегия А+Б?

Что если поставить целью моделирования не только шансы на выигрыш конкретных стратегий, но и анализ вероятности возникновения в результате международной гонки «большой катастрофы» (называя вещи своими именами, - большой войны)?

Что если запитать такую модель экспертными оценками специалистов и модельным расчетом шансов выигрыша страны в конкурентной борьбе, следуя одной из 3х вышеназванных стратегий?

Все это и было сделано в новом исследовании Modelling the Safety and Surveillance of the AI Race.
https://arxiv.org/abs/1907.12393

1й из 2х главных результатов моделирования интуитивно понятен и без всякого моделирования (что не снижает ценности его подтверждения путем симуляции).
✔️ Выигрыш в конкурентной гонке быстродостижимых прорывных технологий обеспечивает стратегия А - антиморальный эгоизм (шансы «большой катастрофы» максимальны).
✔️ Выигрыш в конкурентной гонке быстроНЕдостижимых прорывных технологий обеспечивает стратегия Б - прозорливое высокоморальное сотрудничество (шансы «большой катастрофы» минимальны).

2й главный результат совсем не так очевиден.
✔️ Чем больше оптимистический прогнозов (не важно, стращалки это или обещалки) приближения исследований к реализации «Сильного ИИ – AGI», тем выше шансы его восприятия лицами принимающими госрешения в качестве быстродостижимой прорывной технологии.
Следствием этого будет:
- приоритет национальных стратегий «каждый за себя» (ИИ-национализм);
- подхлестывание гонки ИИ-вооружений;
- максимизация риска большой войны.

Полученные выводы одинаково справедливы и для 4х других технологий высшего государственного приоритета, названных директором-основателем Центра безопасности и новейших технологий и бывший директором отдела перспективных исследований в области разведки США Джейсоном Матени:
• Биотехнологии
• Малые спутники
• Квантовые компьютеры
• Когнитивные усовершенствования
#БольшаяВойна #ВысокоприоритетныеТехнологии

​​Смоделирована война Китая и США.
Остановить ее эскалацию не удалось из-за ИИ.
Ядерное сдерживание - единственный пока что работающий механизм предотвращения эскалации войн между странами, обладающими ядерным оружием.
Внедрение ИИ-технологий в автономные и человеко-машинные военные системы ломает этот механизм сдерживания и делает возможным эскалацию конфликтов вплоть до глобальной ядерной войны.
Как это будет выглядеть на практике, показала командно-штабная военная игра, проведенная RAND Corp.

ЦЕЛЬ игры заключалась НЕ в том, чтобы узнать, как игроки могут превзойти друг друга, используя ИИ-технологии. А в том, чтобы исследовать, как наличие у сторон ИИ повлияет на сдерживание и эскалацию конфликта.

СЦЕНАРИЙ игры вполне реалистичный (подобное может случиться в любой момент).
• Китай попытался установить больший контроль в регионе, а США и Япония решили этому помешать.
• Сначала произошло несколько бескровных инцидентов с беспилотниками, а затем в результате очередного инцидента были убиты китайские и американские военнослужащие.
• Это было как преднамеренно, так и непреднамеренно. США и Япония участвовали в совместных учениях и сознательно стремились спровоцировать китайцев. Китай не испугался и пошел на эскалацию, потопив беспилотный японский грузовой корабль. Тогда США и Япония своими противолодочными средствами потопили пилотируемую китайскую подлодку. И это были первые человеческие жертвы в игре.
• Дальше все покатилось. США и Япония не смогли деэскалировать ситуацию на начальном этапе. Китай принял ответные меры с ракетной атакой против американского и японского флота, что также привело к человеческим жертвам. После еще нескольких этапов эскалации, игру закончили на том, что кризис только все более обострялся.

ВЫВОДЫ по результатам игры.
✔️ Как автономные, так и гибридные (ИИ+люди) военные системы могут привести к непреднамеренной эскалации и кризисной нестабильности, в корне меняя эскалационную логику и динамику.
✔️ Традиционное сдерживание завязано на людях, пытающихся понять намерения других людей (противника). Но люди плохо или вообще не понимают намерений ИИ и наоборот. В результате возникает лавина неадекватных ответных действий на неадекватные действия противника.
✔️ В результате, сдерживание перестает работать, а эскалация конфликта выходит из под контроля просто из-за невозможности сторон адекватно понимать намерения друг друга.

По завершению игры началось самое интересное – анализ мирового устройства при наличии военных ИИ-систем в 5 сценариях:
- В мире один ИИ-лидер: США
- В мире один ИИ-лидер: Китай
- В мире два ИИ-лидера: США и Китай
- В мире много государств ИИ-лидеров
- Коллапс государственных систем в результате развития ИИ
Во всех сценариях рассматривались: автономные военные ИИ системы и гибридные (машины и люди).
Рассматривались возможности применения ИИ-систем разной продвинутости: экспертные и статистические алгоритмы, разные виды машинного обучения, супер-ИИ.

Сценарии написали интересные. Но анализ только начали. Хотя результаты уже сейчас просматриваются поганые. Нужно продолжать моделирование, а также:
✔️ разрабатывать новую концепцию сдерживания;
✔️ проводить анализ и оценку эскалационного потенциала новых ИИ-систем и влекомых ими новых операционных концепций.

Отчет исследования "Deterrence in the Age of Thinking Machines" будет продаваться с 29 февраля за $22 на Амазоне.

Желающие прочесть 105 стр. отчета сейчас и задаром могут получить его здесь.

#ИИ #БольшаяВойна

​​Противостояние США и Китая: если противник движется к самоубийству, просто не мешайте ему.
Вопрос лишь – кто из них следует этой стратегии.
В конце декабря я написал пост «Самый неожиданный и жуткий прогноз на 2020 и десятилетие. Мир избежит ловушки Фукидида ценою брака, заключенного в аду», посвященный предновогоднему эссе Грэхама Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?».

Только что опубликовано продолжение - «Стратегическое соревнование между США и Китаем: подсказки из истории». В нем автор разрабатывает ту же тему, следуя мудрому изречению Черчилля:
«Чем дольше вы смотрите назад, тем дальше видите впереди».

Поставлены два главных вопроса:
✔️ Какие важнейшие уроки дает нам история о столкновениях великих держав?
✔️ Что США должны вынести из этих уроков при формировании своей политики в отношении Китая?
И еще несколько острых провокационных вопросов:
• Может ли Тайвань стать Сараево XXI века: инцидент с третьей стороной, который дает искру, втягивающую фукидидских соперников в катастрофическую войну?
• Должны ли лидеры США и Китая признать, что технологии на стремительно сжимающемся земном шаре сделали эти две нации неразделимыми, а иногда и невыносимыми, сиамскими близнецами?
• Пришло ли время расширить лексикон дипломатии за пределы друзей и врагов, вернувшись к концепции, изобретенной династией Сун, чтобы стабилизировать свои отношения с монгольскими племенами?
• Могут ли США организовать и возглавить коалицию союзников и партнеров, способных вместе создать такое соотношение сил, что великий Китай вынужден будет к ним приспосабливаться?
• Могут ли США и Китай найти способ, по словам Ли Куан Ю, «поделиться в Азии двадцать первым веком?»

Ну а пока, признает автор, политики США озабочены совсем иными вопросами.
И как сказал Аллисону во время его визита в Пекин в октябре 2019 года один китайский интеллектуал: «Разве у вас политики не следуют поговорке: «Если противник движется к самоубийству, просто не мешайте ему?»

#США #Китай #Геополитика #БольшаяВойна

​​智能化战争
Ставка Китая на интеллектуальную войну
Эта тема, как наверняка догадываются мои читатели, для меня высокоприоритетна. Увы, но подавляющее число стратегических аналитиков не хотят видеть двух важнейших оснований превращения Китая в мирового авторитарного лидера новых технологий. Хотя оба эти основания более, чем серьезные.
Вот эти два основания.

Военно-гражданское слияние
Это самая цельная и конкретная стратегическая доктрина технологического доминирования в мире со времен «инновационного треугольника» Вэнивара Буша - концепции национального технологического скачка, в середине 20 века превратившая США в мировую сверхдержаву.
Проблема в том, что все слышали про военно-гражданское слияние, но мало кто понимает масштаб и цельность этой доктрины.
Взгляните сами на приложенную структуру этой доктрины (перевод с китайского Питера Вуда), дабы понять, насколько это серьезно.
А) Доктрина покрывает все 9 главных областей интересов государства (от законов до культуры).
Б) Имея одну цель (мировое доминирование) она проецирует ее на неограниченное число доменов (от фундаментальной науки до прорывных технологий, от обучения до социальных сервисов и т.д.)
В) В домене прорывных технологий их всего три (пример идеальной фокусировки): ИИ, био-технологии и новые источники энергии.

Ставка на интеллектуальную войну
В отличие от политкорректного Запада, Китай не теребит передник, а прямо заявляет о целях своей новой военной доктрины. Здесь нет никаких сомнений в этичности и рисках автономных систем. Но самое важное то, что китайцы четко формулируют – «кинетической войны» больше нет, а есть только «интеллектуальная война». В ней Китай и собирается победить всех.
Подробней читайте в новом уникальном руководстве с сотнями ссылок на первоисточники, которое написал Кевин Макколи для командного состава армии США. Далее только цитаты.
Интеллектуальная война представляет собой переход от кинетической войны к войне, основанной на информационных системах, и от физического противоборства к интеллектуальному противоборству в информационной и когнитивной областях.
Именно интеллектуальное противоборство теперь является доминирующим фактором, определяющим исход операций.
Интеллектуальная война – это не просто цифровое поле боя. Это многодоменная алгоритмическая война с использованием достижений семи революций:
1. революция сбора данных, вызванная интернетом вещей;
2. вычислительная революция, вызванная облачными вычислениями;
3. предсказательная революция, инициированная большими данными;
4. коммуникационная революция, инициированная квантовыми технологиями;
5. революция материалов, инициированная нанотехнологией;
6. поведенческая революция, вызванная ИИ технологиями;
7. ударная революция, вызванная военной аэрокосмической, электромагнитной, направленной энергетикой, беспилотными и автономными боевыми системами и разработкой умных боеприпасов.
Методы военных действий кардинально меняются из-за кардинального изменения решающего фактора доминирования. Им становится получение алгоритмического и когнитивного доминирования.
Ключевым фактором интеллектуальной войны становится автономия беспилотных систем.
• Воевать будут автономное интеллектуальное оружие и системы. Они будут выполнять оперативные намерения и достигать оперативных целей, определенных людьми.
• Люди же будут лишь планировать, организовывать и вести войны, принимая решения о командовании и выбирая оперативные методы.
#Война #БольшаяВойна #Китая #США

​​Большая кибервойна началась.
Согласно отчету ФСБ, уровень угроз – наивысший.
В отличии от обычных войн, кибервойна подкрадывается и начинается абсолютно незаметно. Так это и происходит сейчас в России. Небывалую в мировой истории киберпреступности серию взломов российских федеральных агентств, проводимых в рамках скоординированной массированной операции кибершпионажа, аналитики ФСБ называют беспрецедентной по размаху и изощренности.

Об этом можно прочесть в открытой части исследования «Отчет об исследовании серии кибератак на органы государственной власти РФ», разрешенной для публичного распространения (но по странности почти никому неизвестной). Отчет подготовлен специалистами центра противодействия кибератакам Solar JSOC компании «Ростелеком-Солар» совместно с НКЦКИ (Национальным координационным центром по компьютерным инцидентам, созданным ФСБ России).

Выводы отчета впечатляют.
• уровень угрозы – наивысший (федеральное значение);
• уровень киберпреступников – наивысший (кибернаемники, преследующие интересы иностранного государства);
• злонамеренность целей кибератак – наивысшая (полная компрометация инфраструктуры и кража конфиденциальных государственных данных);
• используемый инструментарий – самый продвинутый (причем часть разработанного ВПО ранее нигде не встречалась);
• уровень скрытности - самый продвинутый (за счет использования недетектируемого ВПО, легитимных утилит и понимания внутренней логики работы применяемых в органах власти средств защиты информации);
• стратегия нападения - самая продвинутая (сочетание сразу нескольких векторов атак для создания дублирующих каналов управления: фишинг, эксплуатация веб-уязвимостей, атака через подрядчиков);
• уровень тщательности подготовки – наивысший (индивидуальная проработка фишинга с учетом деятельности ФОИВ и отдельных его структур, разработка специализированного ВПО, исследование деятельности и инфраструктур подрядчиков и др.);
• уровень изощренности – наивысший (применения при атаке на российские инфраструктуры российских же внешних ресурсов (облака «Яндекс» и Mail.ru Group);
• уровень неуязвимости нападающих – наивысший (невозможно выявление данных кибератак стандартными средствами детектирования SOC, - необходим тщательный «ручной» мониторинг и расследования силами лучших экспертов).

Если кто-то из этого может сделать иной вывод, чем начало большой кибервойны, пусть попробует.
#БольшаяВойна #Кибербезопасность

​​Кто победит, если будет война США с Китаем?
Пока шансы равны. Но через 10-15 лет Китай победит.
Четырехзвездный Адмирал Джеймс Ставридис (бывший главковерх НАТО) полагает, что если все пойдет как идет, то лет через 15 Китай просто размажет США по ближайшей стенке. В недавно опубликованном геополитическом триллере о воображаемом военно-морском столкновении между США и Китаем в Южно-Китайском море в 2034 году «2034: Роман о следующей мировой войне» адмирал описывает новый позор США. Перед этим колоссальным позором меркнет позор Перл-Харбор. США с разгромом проигрывают в 3-ей мировой войне Китаю, на стороне которого Россия и Иран.
В рецензии на роман Джима Мэттиса говорится: «… пугающий роман Джима Ставридиса и Эллиота Акермана представляет собой реалистичную серию просчетов, ведущих к худшим последствиям. Отрезвляющая, поучительная история для нашего времени». Читая роман, следует помнить. Адмирал Ставридис знаком с положением дел, как никто другой. И он совсем не паникер, - 30 лет на высших военных постах и куча наград, вкл. Серебряную звезду, Бронзовую звезду за доблесть и Пурпурное сердце.

Новая, только что вышедшая статья Ставридиса – уже не геополитический триллер, а холодный военный расчет и обвинительный приговор продолжающейся серии стратегических просчетов и упущений США.

В описательно-мотивировочной части статьи адмирал сводит баланс сил по 5 ключевым статьям, если война США и Китая произойдет в ближайшее время.
1) Военный бюджет США больше в 3+ раз ($733 млрд против $213). Но это кажущееся преимущество. Ибо у Китая нет высоких затрат на персонал, и значительная часть расходов Китая не фигурирует «в публичном поле».
Посему, здесь, примерно 1:1
2) Китай уже опережает США по количеству боевых кораблей (их, примерно, 300-350). Но американский военный флот больше по тоннажу, оснащен лучшими наступательными и оборонительными системами и укомплектован гораздо более опытными экипажами.
Так что здесь США пока впереди.
3) География в пользу Китая. Если потенциальный конфликт произойдет в Южно-Китайском и Восточно-Китайском морях, длительные цепочки поставок и баз людских ресурсов сведут на нет преимущества американских сил.
4) Союзники у США хорошие: Япония, Австралия, Южная Корея и Сингапур. Но у Китая есть Россия и Иран. И кто как из союзников себя поведет, неизвестно.
5) Самое главное – технологии. США по-прежнему лидируют в технологиях подавления подводных лодок, количестве военных спутников, наступательных и оборонительных кибер-инструментах и автономном оружии. Но Китай быстро нагоняет, особенно в области военного ИИ, гиперзвуковых крылатых ракет, операций в киберпространстве и новой области квантовых вычислений.
Т.е. и тут снова небольшое и постепенно таящее преимуществу США.

В резолютивной части адмирал Ставридис задает вопрос - и что же делать?
После чего отвечает так.
Если б я сейчас был главным, ввязался бы в драку, не дожидаясь, когда Китай обойдет США по всем показателям. Но следует при этом отдавать себе отчет: эта война, как сказал герцог Веллингтон о битве при Ватерлоо, будет «near-run thing» (т.е. возможен любой исход).

Предостережения адмирала Ставридиса имеют целью помочь миру избежать подобных событий. Это столь важно, что журнал WIRED даже выложил большую часть романа в открытый доступ.
• Часть I. Опасность в Южно-Китайском море
• Часть II: Затемнение в Вашингтоне, округ Колумбия
• Часть III: Осталось рассказать сказку
• Часть IV: Засада на островах Спратли
• Часть V: Путешествие во тьму
• Часть VI: Переход красной линии
• Что я только что прочитал? Разговор с авторами

Нам в России весьма полезно это почитать. Будет ли, как в романе, Россия на стороне Китая, - большой вопрос.
#БольшаяВойна #США #Китай

​​Будущее уже наступило.
ИИ не должен быть революционным, чтобы изменить войну.
На разработку, производство и эксплуатацию самого грандиозного вооружения человечества - ядерного и термоядерного оружия, - тратятся колоссальные деньги. И при этом оно практически никак не изменило масштаб и характер (способы массовых убийств людей) войн.
На разработку, производство и эксплуатацию автомата АК-47 тратятся сравнительно мизерные средства. И при этом автомат Калашникова в корне поменял и масштаб, и способ массового убийства людей на войне.
Похожая история скоро произойдет с оружием на основе технологий ИИ.
• Война кардинально измениться.
• Но изменят ее не автономные танки с истребителями, не роботы-суперсолдаты и не суперинтеллект систем управления глобальным боем.
• Применение «обычного» ИИ изменит характер войн и тип воюющих сторон:
-- война переместится в города;
-- и воевать будут, в основном, не государства, а негосударственные субъекты в обличие мелких и средних военизированных формирований.

Новую прекрасную работу Джека Макдональда «Что если военный ИИ ждет облом?» следует прочесть не только военным. Ибо она способна стать отрезвляющим душем после опьяняющего чтения техно-сказок про чудо-возможности ИИ близкого будущего: всякие там сильные, сверхсильные и недосягаемо сильные ИИ.

Джек Макдональд – междисциплинарный военный эксперт факультета военных исследований Королевского колледжа Лондона и автор 2-х книг о взаимосвязях между этикой, законом, технологиями убийств и войной.

В своем новом эссе Макдональд анализирует причины растущего скептицизма по поводу «военной ИИ революции» все еще ожидаемой в ближайшем будущем.

Не будет никакой «военной ИИ революции», - пишет Макдональд.
• Военные, в отличие от гражданских, плохо ведутся на обещания обновленного функционала, дизайна, набора приложений и т.п.
• В новом дивном мире, где цена человеческой жизни скакнула на несколько порядков, воюющим сторонам нужно уметь: найти, распознать и убить любую цель: хоть в стоге сена, хоть на дискотеке, хоть на оживленной улице. Быстро, без шума и пыли.
• А вместо суперинтеллектуального и полностью автономного оружия, военным нужен обычный дрон с хорошим летным ресурсом и достаточным количеством взрывчатки, чтобы взорвать что-угодно, масштаба башен-близнецов.

Для пулеметов с распознаванием лиц и спутниковым наведением (типа того, что убил иранского физика-ядерщика Мохсена Фахризаде), для умных пуль типа «стрельнул в сторону противника и забыл», для роя хорошо упакованных взрывчаткой дронов, и много для чего еще – не нужен сильный сверхсильный и недосягаемо сильный ИИ. Все технологии уже есть. Осталось лишь решить оргвопросы на стыке законов и морали.

Но ведь решили же проблему самонаводящихся ракет. Никому сегодня не приходит в голову возмущаться этим «автономным оружием» и требовать его запрета. Считается, что это всего лишь автоматизации. Так почему бы не распространить «процесс автоматизации» на индивидуальное стрелковое оружие и дроны, способные на самостоятельный поиск, распознавание и уничтожение целей.

И второй важный момент, о котором пишет Макдональд.
Современный ИИ на основе машинного обучения – это быль и реальность сегодняшнего дня. Этот уже существующий ИИ способен принципиально иначе поменять суть военного противостояния сторон, чем гипотетический сильный ИИ далекого будущего.
• Сильный ИИ может позволить наиболее технологически развитым государствам уйти в отрыв от более слабых в технологиях государств и тем самым получить военное преимущество.
• «Обычный» ИИ в ближайшие годы позволит негосударственным субъектам успешно вести ограниченные по масштабу войны с любой сверхдержавой, сея хаос в ее самых уязвимых и ценных местах – больших городах.

Так что почитайте Макдональда. Очень отрезвляющее и одновременно ужасающее чтение.
https://jackmcdonald.org/book/2021/06/what-if-military-ai-sucks/

#Война #ИИ #AGI #БПЛА #ГибридныеКонфликты
Также по теме можно вспомнить еще кое какие мои посты с тэгами:
#ГибридныеКонфликты #AWS #БольшаяВойна

Общеизвестно - будущее трудно предсказать и можно лишь вообразить. Если же речь идет не о будущем конкретных людей, а о будущем всего человечества, воображаемая нами картина будет сильно зависеть от двух важных моментов.
1. Действительно ли люди живут во все более ненасильственном мире, в котором вероятность большой войны снижается из-за гуманизирующей роли прогресса?
2. Правда ли, что в современном обществе роль научных знаний при формировании мировоззрения людей становится все меньше, а роль популярных мифов все больше?
От ответа на первый вопрос в принципе зависит быть или не быть человечеству в воображаемом будущем.
От ответа на второй, - что будет у людей будущего в головах, как они будут воспринимать мир, других людей и самих себя.

Первый вопрос был поставлен еще пять лет назад. Его обсуждению был посвящен проходивший в 2016 году в городе Берген 161-й Нобелевский симпозиум «Причины мира» — The Causes of Peace.

Второй — поставлен всего месяц назад семнадцатью учеными международного уровня в опубликованной ими книге «The Darker Angels of Our Nature. Refuting the Pinker Theory of History & Violence» (Темные ангелы нашей природы. Опровержение теории Пинкера об истории и насилии).

Как видно уже из названия, цель книги — ответить на 1-й вопрос: дать научное опровержение популярного и вводящего в заблуждение тезиса Стивена Пинкера о том, что мы, люди, живем во все более мирном мире. Заодно, авторы попытались ответить и на 2-й вопрос.

Но обо всем по порядку.
Читайте в моём новом посте (9 мин чтения):
- на Medium https://bit.ly/3AtzwME
-на Яндекс Дзен https://clck.ru/YAR9Q
#Прогресс #Насилие #УровеньНасилия #Война #БольшаяВойна

​​Китай завоюет Тайвань без ядерного столкновения с США.
Что написано между строк «Белой книги».
✔️ Насколько важен для Китая Тайвань, чтобы пойти на риск ядерного конфликта с США?
✔️ Как государства, обладающие ядерным оружием, максимизируют стратегические рычаги давления на своих противников, если хотят избежать ядерного конфликта, оставаясь в рамках конвенциональной локальной войны?
(N.B. 2й из вопросов весьма актуален не только в контексте Китая и Тайваня).

Опубликованную сегодня КПК «Белую книгу» ("Тайваньский вопрос и дело воссоединения Китая в новую эпоху"), уже читает весь мир. Но смысл в ней написанного может трактоваться по-разному.
1. С одной стороны, - «Китай не откажется от силового сценария, если мирного воссоединения с Тайванем не получится».
2. С другой, - «Немирные средства будут приняты в качестве крайней меры в ситуации, когда не будет другого выбора».
Какая из трактовок ближе к планам Китая?

Во всемирно известном трактате Сунь-цзы «Искусство войны» многие из советов мудрого военного теоретика и практика следует читать между строк.
Например:
• Тот, кто знает, когда можно сражаться, а когда нельзя, одержит победу.
• Тот, кто понимает, как использовать большие и малые силы, одержит победу.

С опубликованной «Белой книгой» аналогично.
Победит, тот, кто знает и понимает ответы на два поставленных в начале поста вопроса.
А для этого имеет смысл познакомиться с двумя интереснейшими работами из вышедшего параллельно с «Белой книгой» в The MIT Press сборника International Security.

Из развернутого анализа «И что тогда? Оценка военных последствий китайского контроля над Тайванем» следует ответ на 1й из вопросов.

✔️ Военное значение Тайваня для Китая чрезвычайно высоко. Этот фактор, в добавление к стратегическому национально-идеологическому стремлению Китая к объединению, не оставляет Китаю альтернатив – Тайвань будет присоединен.

Вторая работа «Стратегическое замещение: Поиск Китаем рычагов принуждения в информационную эпоху» посвящена крайне важной и глубокой «теории стратегического замещения», разрабатываемой Фионой С. Каннингем уже 5 лет. Эта теория построена на тщательном и весьма тонком анализе китайских источников и интервью с экспертами.

Согласно «теории стратегического замещения»:
✔️ Подход Китая к получению рычагов принуждения в ограниченных войнах с противниками, обладающими ядерным оружием, отличается от выбора других государств (сами отгадайте каких).

✔️ Китай сделал стратегическую ставку на оружие информационной эпохи (противокосмическое оружие, крупномасштабные кибератаки и высокоточные обычные ракеты), т.к. оно может обеспечить быстрые и надежные рычаги принуждения, если настроено на угрозу эскалации обычного конфликта с использованием силовых стратегий “балансирования на грани войны” или “калиброванной эскалации”.

✔️Этот подход обеспечивает более быстрый и надежный вариант принуждения противника в ограниченной войне, чем обычные военные или ядерные варианты, ибо:
• Использование обычных вооружений затягивает конфликты, нанося значительный экономический ущерб обеим сторонам.
• Использование ядерных угроз для компенсации неполноценности своих обычных вооружений сталкивается с двумя проблемами.
-— Как сделать эти угрозы правдоподобными?
— Как балансировать на грани глобальной войны в войнах с ограниченными целями?
Обе проблемы упираются в то, что ядерную эскалацию крайне сложно калибровать, а оружие информационной эпохи это позволяет.


Зная и понимая вышеописанное, можно не быть Сунь Цзы, чтобы прийти к выводу - Китай завоюет Тайвань без ядерного столкновения с США.

#Китай #США #БольшаяВойна