«Цель: Отключить его»
И это могут сделать лишь политики.
MIRI (Исследовательский институт машинного интеллекта, занимающийся вопросами безопасности ИИ) четко и прямо сформулировал цель своей деятельности – «убедить крупные державы прекратить разработку систем фронтирного ИИ по всему миру, пока не стало слишком поздно» [1].
Опубликованный документ впервые переводит дискуссии о рисках для человечества на путях дальнейшего развития ИИ:
• из разряда самоуверенных деклараций научно недоказуемых точек зрения и бесконечных непродуктивных дебатов вокруг них между сторонниками и противниками этих воззрений,
• в прямую и ясную политическую позицию, суть которой такова:
– поскольку в любых оценках ИИ-рисков, не подкрепленных практически ничем, кроме мнений их авторов, довольно сложно быть уверенным,
– а верхняя граница таких рисков лежит в зоне экзистенциальных рисков для человечества,
– политикам стран – лидеров разработок фронтирного ИИ необходимо договориться о срочном создании международно признанной процедуры с функцией политического «рубильника», поворот которого гарантирует незамедлительную остановку разработок фронтирного ИИ, если политиками будет согласовано принято такое решение.

Такая политическая позиция признает невозможность (и ненужность) остановки фронтирного ИИ, способного принести миру огромную пользу.
Но вместе с тем, эта политическая позиция может предоставить человечеству шанс быстро остановить разработки при появлении обоснованных признаков того, что следующий шаг разработок может оказаться критическим.

Мое обсуждение предложенной политической позиции MIRI с коллегами, работающими в компаниях – лидерах разработок фронтирного ИИ, показало, что многие считают такую позицию обоснованной и своевременной. Некоторые из них уже написали об этом публично (например, Джек Кларк - соучредитель Anthropic, а ранее директор по политике внедрения в OpenAI [2]).

Однако, уязвимость такой политической позиции, имхо, в следующем.
Чтобы принять ее, необходимо доказать,
• что такой «рубильник» реально нужен хоть в каком-то обозримом будущем,
• и что при его отсутствии риски для человечества могут стать запредельными.

И что самое важное, это доказательство должно быть не очередной недоказуемой точкой зрения, а опираться на проработанный научный анализ вопроса.

Пока же, к сожалению, такого анализа нет.
И сделать его на основе существующего корпуса знаний по вопросам оценки ИИ-рисков, путях и способах согласования ИИ-целей и прочим разделам исследований темы безопасного использования ИИ, - имхо, весьма затруднительно. В противном случае, это уже было бы сделано.

Но выход, на мой взгляд есть, если пойти иным доказательным путем.
• Если доказать, что гарантированное согласование целей ИИ и людей невозможно в принципе, то это, по сути, может стать обоснованием обязательности наличия «рубильника» фронтирных ИИ-разработок.
• И такое доказательство должно, на мой взгляд, опираться на существующий корпус знаний, наработанных в областях экзопсихологии и экзосоциологии.

Что я и планирую на днях сделать во 2й части лонгрида «Переосмысления контакта» [3]

#ИИриски #Хриски #Экзопсихология #Экзосоциология
1 https://intelligence.org/2024/05/29/miri-2024-communications-strategy/
2 https://importai.substack.com/p/import-ai-377-voice-cloning-is-here
3 https://t.me/theworldisnoteasy/1955

«Да здравствует смерть» - О символах украинского неонацизма

Свастика: солярный символ или культ Смерти? Эволюция свастики: от масонерии до царской семьи. Почему падающим соколом украинский тризуб смотрит на Чёрное солнце? "Славянские" руны - тысячелетний символ или неонацистский новодел? И главное - что есть у русских для того, чтобы сокрушить сатанистов?

ПЯТОЕ интервью сразу двух соавторов монографии Украинство, членов «Сути времени» Андрея Берсенева и Федора Кауфмана.

#УкраинствоКП

Погодите, нас же "задушили" санкциями? Крупнейшие российские банки заняли более четверти рынка платежей в Европе.

Крупнейшим европейским эквайером по числу транзакций стал Сбербанк, обогнав ближайших конкурентов в 4 раза. На долю Сбербанка приходится 23,8% всех платежей в Европе, следует из отчета компании Nilson Report.

Всего банк провел 47 млрд платежей, что позволило ему стать крупнейшим эквайером Европы в восьмой раз подряд.

Конкуренцию смогли составить британская компания Worldpay (12,27 млрд транзакций) и итальянская Nexi Payments (10,5 млрд транзакций).

Также банк вошел в ТОП-3 крупнейших онлайн-эквайеров в Европе, проведя 4,7 млрд платежей.

@shotday

На веслах прошли! Нет предела коварству Путена

❗️Сегодня Иран соединил Каспийское море с Персидским заливом железной дорогой протяженностью 1468 километров, завершив строительство последнего участка этой железнодорожной линии.

Новый Орлеан - это не только Луи Армстронг.

Норвегия, Швеция и Финляндия создают военно-транспортный коридор на севере

О создании военно-транспортного коридора, который пройдет через северные территории Норвегии, Швеции и Финляндии договорились правительства этих стран. Об этом сообщил норвежский премьер-министр Йонас Гар Стёре после встреч со шведским коллегой Ульфом Кристерссоном и президентом Финляндии Александером Стуббом, сообщает 20 июня портал Barents Observer.

Соглашение было достигнуто на встрече лидеров трех стран, состоявшейся 19–20 июня в норвежском городе Бодё.

Целью создания коридора является облегчение переброски военных и техники между тремя странами.

Как заявил норвежский премьер-министр Йонас Гар Стёре:

«Это позволит быстро перебрасывать военнослужащих и оборудование из норвежских портов через Швецию и Финляндию».

Создание коридора происходит на фоне ухудшения отношений между Россией и Западом, а также увеличения военной активности НАТО в Северном регионе.

Ожидается, что новый коридор упростит логистику для военных альянса и увеличит его возможности в случае возникновения конфликта.

@shotday

Испанский судья открыл расследование, связанное с предполагаемыми связями между сторонниками независимости Каталонии и Россией.

В рамках дела фигурирует экс-глава правительства региона Пучдемон, пишет газета La Vanguardia.

Его подозревают в госизмене и растрате государственных средств. Новое дело также затрагивает другого экс-лидера региона Артура Маса, адвоката Пучдемона Гонсало Бойе, предпринимателя из России Александра Дмитренко и других лиц.

@shotday

Милей опять летит в Испанию

Президент Аргентины Хавьер Милей попросил аудиенции у короля Испании в разгар дипломатического кризиса между странами, пишет El País.

Милей хотел встретиться с Фелипе в ходе своего очередного частного визита в Испанию, который запланирован на пятницу. По информации издания, попытка вбить клин между монархом и премьером, не увенчалась успехом, поскольку аудиенция с Милеем не входит в повестку дня королевского дома. Зато аргентинского лидера примет председатель мадридского правительства Исабель Аюсо.

Напомним, первый визит Милея закончился скандалом: политик выступил в Мадриде, где обвинил жену премьера Педро Санчеса в коррупции.

Населенный пункт Нью-Йорк пункт относится к целям спецоперации 😊

Речь в новости, само собой, о Нью-Йорке в Донбассе. Кликбейт - наше все.

Cуд в США рассекретил видеозапись, снятую, предположительно, саудовским гражданином рядом с Капитолием в 1999 году для будущих исполнителей теракта 11 сентября 2001.

На видеозаписи, поступившей в распоряжение телеканала, человек, представляющийся Омаром аль-Баюми, на арабском языке рассказывает "своим любезным братьям" об обустройстве территории Капитолия.

По мнению ФБР, аль-Баюми был сотрудником саудовской разведки и имел тесные связи с двумя угонщиками самолетов 11 сентября. Видео было сделано на этапе выбора целей для будущего теракта.

⚡️Генпрокуратура ФРГ сообщила о задержании трех человек — россиянина, украинца и армянина. Их подозревают в сотрудничестве с иностранной разведкой.

Министерство обороны США не смогло отчитаться о сумме финансирования, которое оно предоставило китайским исследовательским лабораториям для исследований, связанных с усилением патогенов с пандемическим потенциалом за последние 10 лет

Нигер отозвал разрешение на эксплуатацию крупного уранового рудника Имурарен (север) у французской компании Orano, несмотря на недавнее начало работ на объекте.

Рудник Имурарен — одно из крупнейших месторождений урана в мире, запасы которого, как уверяет Le Monde, оцениваются в 200 000 тонн.

Эстония готовится к возможному конфликту на границе с Россией

Эстония укрепляет свою границу с Россией на случай повторения «белорусского сценария», пишет Le Figaro. На юге установили сетчатый двухметровый забор с колючей проволокой. Скоро здесь появятся камеры и тепловизоры, а к концу года все патрули будут вести наблюдение с дронов.

Вместе с другими странами Балтии Эстония работает над проектом «стены дронов» для защиты воздушного пространства. На неё выделено €13 млн, ещё €50 млн предусмотрено для ответных мер в случае атаки. Один из самых ярых сторонников Киева, Таллин за 10 лет значительно увеличил свой оборонный бюджет до 3,43% ВВП.

По словам полковника Мати Тикерпуу, при нападении эстонская армия должна как можно скорее остановить врага. Для этого создадут бункеры, выроют окопы рядом с границей и установят оборонные сооружения от «зубов дракона» до противотанковых мин. Тикерпуу признаёт, что мобилизация сделает Эстонию уязвимой, но раннее оповещение позволит ей подготовиться.

ИноТВ. Подписаться

"Равные партнёры" — англоязычная версия договора Украины с Британией имеет преимущество перед украиноязычной.

Это, как обратили внимание в сети, прямо указано в электронной версии документа на сайте Зеленского.

Для сравнения: в договоре между Россией и КНДР чётко оговорено, что версии договора на обоих языках имеют одинаковую силу.