Война будущего и контроль над ИИ-оружием

В журнале Foreign Affairs (aka "Вестник вашингтонского обкома"), ветераны холодной войны Генри Киссинджер и Грэм Аллисон рассуждают о том, какие уроки того времени должны вынести современные политики для разработки контроля над вооружением на основе искусственного интеллекта.

Главных вопроса, по мнению авторов, четыре:
⭐️Будут ли машины со сверхчеловеческими способностями угрожать человечеству?
⭐️Подрывает ли ИИ монополию стран на средства массового насилия?
⭐️Позволит ли ИИ отдельным людям или небольшим группам создавать вирусы, способные убивать в масштабах, которые раньше были прерогативой великих держав?
⭐️Может ли ИИ разрушить средства ядерного сдерживания, которые были основой сегодняшнего мирового порядка?

Пересказывать содержание статьи не буду, классиков всегда лучше читать в оригинале.
Скажу только, что идея текста ориентирована на "заякорение" в отношениях с Китаем главной темы, вокруг которой можно строить диалоговое и предметное сотрудничество в ситуации, когда конфронтация Вашингтона с Пекином проникает во все сферы и регионы. Отсюда тезисы о том, что даже во время самых лютых обострений, США и Советский Союз понимали летальность последствий применения ЯО. Это, а также то, что обладателями ЯО помимо США и СССР были и другие государства, формировало каркас взаимодействия в холодную войну.
Надо,, говорят Киссинджер и Аллисон, такое же вокруг ИИ, иначе быть беде.

Попытка патриархов продать идею замещения великодержавного противостояния кампанией за сохранения человечества похвальна. Ведь действительно скорость и масштабы развития ИИ впечатляют и открывают страшные горизонты. Проблема видится в другом. Эту тему двигают сторонники идеи "управляемой конфронтации" с Китаем (Киссинджер и Аллисон из этой когорты), для которых центральным является вопрос "как сделать так, чтобы Китай не вырвался вперед", а не вопрос как спасти человечество - второе лишь риторический прием.

Что-то похожее высказывалось и в 1980-90е гг., когда Советам предложили попилить свой ядерный арсенал ради идеалов гуманизма, и относительно недавно, когда рассуждали о том, что на смену ЯО цементирующей основой великодержавного взаимодействия будет сотрудничество в кибер-сфере ("cyber is the new nuclear").
Т.е. в концептуальном плане даже патриархи не предлагают что-то нового в части работы с ГП - главными противниками и главными партнерами.

Что еще полезно для понимания modus operandi Америки: говорить первыми США начинают только с теми, кто им реально угрожает, и только о том, что им угрожает и только когда другие варианты не сработали. Но даже тут американцы хотят оставаться "держателями повестки" и задавать рамки разговора. Признавая достижения китайцев в разработках ИИ, и называя их ИИ-супердержавой, Киссинджер и Аллисон ясно дают понять, что такой разговор должен происходить в рамках ведомых США платформ и институций:

"Таким образом, Байден и Си должны встретиться в ближайшем будущем для частного разговора о контроле над вооружениями с помощью ИИ. Ноябрьская встреча Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско предоставит такую ​​возможность. ....

..Обсуждения и действия США и Китая по этой повестке дня станут лишь частью зарождающегося глобального диалога по ИИ, включая Саммит по безопасности ИИ (AI Safety Summit), который Великобритания проведет в ноябре..."

Сама постановка вопроса, характер проблем, которые поднимаются этой дискуссией, и способы их решения должны обязательно внимательно отслеживаться в Москве. Особенно потому что ни американцы ни, возможно, китайцы Россию в этой дискуссии на текущей момент не видят.

ЦИИфровое будущее страны

В России приняты девять программ экспериментальных правовых режимов применения искусственного интеллекта (ИИ) в сфере высокоавтоматизированных транспортных средств, телемедицины и других. Уже утверждены 62 национальных и десять международных стандартов ИИ. Эти значения растут с каждым месяцем.

Власти намерены и дальше снимать оставшиеся регуляторные барьеры в сфере ИИ, но при условии, что все подобные технологии должны быть ориентированы только на благополучие человека и повышение качества жизни.

«Искусственный интеллект» — федеральный проект национального проекта «Цифровая экономика», который реализуется с 2021 года по решению президента России. В числе его основных задач — формирование кадрового потенциала отрасли, стимулирование научных исследований, поддержка разработки и внедрения отечественных решений.

Объем российского рынка искусственного интеллекта стабильно растет: в 2021 году он составлял более 550 млрд руб., а в 2022-м — уже порядка 650 млрд руб. По оценке экспертов, в 2025 году ИИ позволит российским организациям сэкономить около 1 трлн руб.

Помимо того, более 800 отечественных компаний получили гранты, порядка 100 вузов страны реализуют бакалаврские и магистерские программы в сфере искусственного интеллекта. Ключевым этапом должен стать переход внедрения ИИ-решений в работу крупнейших компаний страны в разных областях.

По данным Национального центра развития искусственного интеллекта при правительстве России, примерно 53% крупных российских компаний применяют ИИ в своей деятельности. И эта цифра будет расти.

Приглашаем принять участие в Открытой конференции ИСП РАН
 
4-5 декабря в главном здании Российской академии наук в Москве состоится ежегодная Открытая конференция ИСП РАН им. В.П. Иванникова @ispras, посвящённая 75-летию отечественных информационных технологий.

Главная цель − обмен результатами фундаментальных исследований и практическим опытом их внедрения. В 2022 году в конференции приняли участие более 650 человек.

Организаторы:

Российская академия наук, Институт системного программирования имени В.П. Иванникова РАН, Фонд перспективных исследований, международная ассоциация IEEE и IEEE Computer Society.

НОП- генеральный информационный партнёр Открытой конференции ИСП РАН.

Конференцию также поддерживает ФСТЭК России. В пленарном заседании традиционно участвуют представители руководства РАН, вузов, ИТ-компаний, а также государственных министерств и ведомств.

Директор ИСП РАН, академик РАН Арутюн Аветисян:

«Развитие нашего института всегда опиралось на историю. От наших предшественников мы унаследовали великую научную школу и модель работы, основанную на интеграции науки, образования и индустрии. Со временем мы перешли от разработки отдельных технологий к формированию международных сообществ.

Вместе с десятками компаний и вузов мы создаём репозиторий доверенного системного ПО, работаем над биомедицинскими решениями, повышаем безопасность искусственного интеллекта. Наши технологии внедрены более чем в 100 компаниях, в том числе в Samsung и в «Лаборатории Касперского». Только за последний год более 300 наших патчей добавлены в такие проекты, как ядро Linux, PyTorch и TensorFlow. Вместе с партнёрами мы работаем над обеспечением технологической независимости страны, опираясь на лучшие достижения прошлого, и сохраняем открытость на международном уровне − для успешного будущего».

В рамках конференции будут представлены доклады по таким темам, как технологии анализа, моделирования и трансформации программ; управление данными и информационные системы; решение задач механики сплошных сред с использованием СПО; САПР микроэлектронной аппаратуры и лингвистические системы анализа.

Состоится также выставка технологий ИСП РАН и компаний-партнёров.
Важной частью конференции станет секция «Образование, технологии, сообщество: системный подход к безопасной разработке». Она объединит три тематических блока, которые будут посвящены формированию единой концепции обучения системному программированию, результатам совместной работы ИСП РАН и компаний-партнёров в Технологическом центре исследования безопасности ядра Linux и другим актуальным темам в области кибербезопасности.

В секции примут участие представители таких компаний, как «Лаборатория Касперского», «ИнфоТекс», CodeScoring, а также представители московских и региональных вузов (МГТУ им. Н.Э. Баумана, Новгородский государственный университет, Чувашский государственный университет и другие).

Также пройдёт традиционный круглый стол по цифровой медицине, а участники конференции смогут бесплатно снять ЭКГ, получить консультацию врача и проверить результаты с помощью сервиса нейросетевой классификации.

В рамках конференции запланирован II воркшоп «Системы доверенного искусственного интеллекта», в котором примут участие представители Исследовательского центра доверенного искусственного интеллекта (ИЦДИИ) ИСП РАН, а также его индустриальных партнёров («Лаборатория Касперского», «ЕС-Лизинг», «Технопром»,«Интерпроком»).

Приглашаются сотрудники исследовательских центров и вузов.

Участие в конференции бесплатное, необходимо зарегистрироваться: https://www.isprasopen.ru/#Registration.

📢 27 октября в МГИМО состоялась международная конференция «Национальный опыт в реализации Рекомендации ЮНЕСКО по этике искусственного интеллекта».

На конференции ведущие эксперты из разных стран поделились своим опытом и знаниями о том, как правительства могут эффективно реализовать рекомендацию ЮНЕСКО и создать этические рамки для развития ИИ.

В приветственном письме организаторам и участникам конференции Министр иностранных дел Российской Федерации С.В.Лавров подчеркнул важность обеспечения гармоничного внедрения новейших технологий в повседневную жизнь через создание общей регуляторной среды. Он также отметил, что Центр искусственного интеллекта МГИМО внес значительный вклад в разработку методологии оценки готовности к использованию ИИ.

В рамках конференции обсудили такие вопросы, как:
📍международное регулирование искусственного интеллекта
📍обеспечение справедливого доступа к возможностям ИИ
📍опыт стран ЕАЭС в разработке стратегий и кодексов регулирования взаимодействия с ИИ

Конференция была организована Центром искусственного интеллекта МГИМО совместно с Комиссией Российской Федерации по делам ЮНЕСКО и Российским комитетом Программы ЮНЕСКО «Информация для всех» (IFAP).