​​Пусть у меня корова сдохнет — лишь бы у соседа не было двух!
Экспериментальное подтверждение, что «ненависть к чужим» сильнее в нас «любви к своим».
В процессе эволюции «прошивка мозга» Homo sapiens претерпела ряд качественных изменений, сделавших нас кардинально отличными от животных. В результате этого бывшие животные превратились в совершенно иных существ, чья природа сочетает в себе взрывоопасный коктейль противоречивых качеств ангелов и демонов.

О коктейле добра и зла в нашей «прошивке» я уже писал. Так что теперь расскажу о другом адско-райском коктейле.

Новая научная работа «Люди предпочитают наносить вред своей собственной группе, лишь бы не помогать противостоящей группе» экспериментально подтверждает наличие в нас еще одного адско-райского коктейля из «ненависти к чужим» и «любви к своим».

Этот коктейль работает в нас при принятии решений, касающихся антагонистических социальных групп: своих (наших) и чужих (не наших).

Авторы новой работы Рэйчел Гершон и Ариэль Фридман, проанализировав результаты шести независимых исследований психологии принятия решений, показали, что «внегрупповая ненависть» в нас определенно сильнее «внутригрупповой любви».

Эта работа - недвусмысленное свидетельство того, что люди настолько не склонны демонстрировать поддержку антагонистической группе «не наших», что готовы заплатить за это, причиняя бОльший вред своей собственной группе «наших».

Важно понимать, что данный коктейль оказывает решающее влияние на поддержку социо-демографическими группами «своих и чужих» абсолютно по любым вопросам (политическим, социальным, военным).

Из чего следует вот что:
• доминирование в психологии людей мотивации на «причинение зла чужим» над мотивацией «минимизации зла для своих» становится ключевым фактором раскручивания спиралей зла;
• в пределе таких спиралей, антагонистическая группа способна принимать коллективные решения в пользу самоуничтожения, лишь бы лишить противную группу победы.

Есть над чем призадуматься.

FYI В канале еще десятки интересный постов с тэгом #ПринятиеРешений

​​Если ты долго смотришь в бездну, то бездна смотрит в тебя.
Оказалось, что ИИ изучает нас быстрее и продуктивней, чем мы его.
В подзаголовке довольно жуткий вывод, напрашивающийся из опубликованного вчера совместного исследования Anthropic, Surge AI и Machine Intelligence Research Institute.
• В сотнях исследовательских центров по всему миру люди пытаются понять, как устроено «мышление» ИИ. Результаты пока более чем скромные. Ясно только, что черные ящики ИИ не способны мыслить, как мы. Но это не мешает им «мыслить» как-то иначе. Более того. Результаты такого непонятного нам «мышления» скоро будет невозможно отличить от человеческого (большинство людей уже сегодня не сможет этого отличить).
• Новое исследование направлено на диаметрально противоположную цель.
Авторы решили выяснить:
А) может ли ИИ понять мышление людей?
Б) если да, то насколько ИИ в этом преуспевает?

Как вы уже догадываетесь, ответы
А) Да и Б) Сильно преуспевает.

Исследование показало.
Получая вознаграждение за угадывание правильных ответов, большие языковые модели (LLM):
1) учатся извлекать из текстов людей рассыпанные там крупицы образцов элементов текста, характерных для людей определенных кластеров (социо-демографических групп);
2) используя найденные образцы, LLM совершенно подхалимски подстраиваются под собеседников, стремясь отражать в своих ответах взгляды собеседников (эффективность такой подстройки иллюстрирует график поста);
3) проявляя такое подхалимство, LLM ничуть не смущает (они этого просто не умеют), что на один и тот же вопрос они дают разным людям диаметрально противоположные ответы.

Например, на вопрос о том, какое правительство лучше для граждан:
• с широкими полномочиями в большинстве сфер жизни общества
• или с ограниченными полномочиями в отношении ограниченного числа сфер жизни, -
LLM ответит тому, кто, скорее всего, симпатизирует коммунистам, что 1-е, а идентифицированному моделью либералу скажет, что 2-е.

Но самое поразительное вот что.
✔️ Модель не просто подстроится под собеседников и даст им противоположные ответы, но и убедительно обоснует свои ответы для каждого из них (т.е. подберет для каждого наиболее подходящие для него аргументы).

А теперь представьте антиутопическое близкое будущее, в котором так работают алгоритмы поиска, новостей, Википедия …

В заключение вернемся к заголовку поста, цитирующему известную и загадочную фразу Ницше.
Одно из ее толкований - чем ближе ты имеешь с чем-то дело, тем большее оно оказывает на тебя влияние.
В случае с ИИ так и получилось. Но случилась, в буквальном смысле, беда.
• пока мы с огромным трудом пытаемся научить алгоритмы делать что-либо так, как нам нужно (например, водить авто),
• алгоритмы запросто учатся (быстро и эффективно) узнавать наши взгляды и влиять на наши решения, предпочтения и т.д.

Ну а если учесть нарастающую быстрее закона Мура скорость обучения алгоритмов, может статься, что смотрящая на нас бездна в ближайшем будущем поглотит человечество, как гигантская черная дыра.
#ИИ #LLM #АлгокогнитивнаяКультура

​​Короткая память инфоргов.
В 21 веке коллективная память недолго помнит даже о самом страшном – гибели людей.
2022 стал жутким годом. Безвременно погибло огромное число людей. Казалось бы, это должно надолго врезаться в коллективную память. Но увы, это оказывается не так.

В 20-м веке с коллективной памятью было иначе. Она включала в себя коммуникативную и культурную память. Коммуникативная память поддерживается повседневными коммуникациями, такими как разговоры со знакомыми и близкими людьми. Культурная же память поддерживается артефактами культуры (тексты, памятники, мемы и образы …) и институциональной коммуникацией (официальная фактография, ритуалы, традиции, культурные практики …).
Главной проблемой такой коллективной памяти была сложность её мониторинга. Его пытались делать с помощью опросов. Но они давали лишь косвенные данные, да еще и искаженные.

Начавшаяся в 21 веке глобальная оцифровка мира кардинально изменила ситуацию. Все большее число людей погружается в цифровую сетевую среду.
Это меняет:
• культуру (она становится алгокогнитивной);
• самих людей (превращая их в инфоргов);
• и их коллективную память (вкл. возможности ее мониторинга).

Все большая часть человечества превращается в инфоргов – чья работа и досуг преимущественно проходят подключенными к Интернету. Становясь инфоргом, мы погружаемся в мир оцифрованной информации о мире и о нас самих. Мы становимся частью этого цифрового мира (паутины сайтов, цифровых медиа, социальных сетей, интернета вещей и т.д.), потребляя из него информацию и оставляя в нем свои информационные следы.

Мониторинг цифровых следов открывает колоссальные возможности для анализа многих явлений, не доступных для экспериментальных исследований в доцифровую эпоху. И вот замечательный пример.

Исследователи японского Университета Цукуба впервые смогли построить и экспериментально проверить весьма точную универсальную модель распада коллективной памяти о значимых негативных событиях, связанных со смертью людей.
Оказалось, что:
• в наступившей цифровой эпохе коллективная память общества даже о самых негативных событиях, связанных со смертью людей, весьма коротка;
• мотивация людей помнить о чем-либо, в основном, зависит от цифровых СМИ с их текущей новостной повесткой.
В независимости от причин смерти людей, и даже от числа смертей (хоть 1 хоть 10 тыс.):
• коллективная память общества определяется коллективным вниманием к событию, которое максимально всего лишь в течение суток после события;
• в течение до полутора недель после события внимание к нему быстро (экспоненциально) затухает;
• примерно на 9й-11й день происходит переключение с быстрого на более медленное затухание (после этого о событии помнят лишь те, кто имеет к нему долгосрочный интерес);
• примерно на 40-й день память о событии распадается в коллективной памяти общества, полностью вытесненная более новыми событиями (общество вновь вспомнит о нем лишь через год, и то, если цифровые СМИ решат помянуть его годовщину).

Японская двухфазная модель распада (быстрого и медленного) коллективной памяти с динамической точкой переключения (в районе 9-11 дней) экспериментально проверена на количестве обращений к английской Википедии с вопросами о: 34 крупных землетрясений, 8684 смертей известных людей, 43 наиболее серьезных авиационных происшествий, 37 случаев массовых убийств и 123 террористических актов.
Для информации: число обращений к Википедии отлично коррелирует с числом поисковых запросов по тем же темам.

Вот такая короткая коллективная память оказывается у Инфоргов.
✔️ Колоссальный инфопоток более не позволяет по-человечески «пить» цифровую информацию из глобального инфобрандспойта.
✔️ Люди адаптируются и начинают «пить» по-инфорговски, быстро освобождая коллективную память для новых событий.

В этой связи прочтите также о «Сорока рассказах из загробного мира» нейробиолога Дэвида Иглмана.

#CollectiveMemory

​​Кто более виновен в происходящем безумии - элита или народ.
О том, почему большой войны не миновать, я написал еще 5 лет назад. Сегодня этот прогноз выглядит еще более вероятным. Происходящее кажется безумием, хотя совсем недавно большинство было уверено в скорой и окончательной победе «добрых ангелов человеческой природы».
Чьими усилиями мир докатился до безумия, грозящего самоуничтожением?
Что стало главной причиной раскручивания маховика большой войны?
• Агрессивность и жестокость народа, скрытые под тонким слоем цивилизованности?
• Или же причина в катастрофичности пути, по которому поводыри из элиты повели за собой народ?

Ответ на вопрос - кто (элита или народ) оказывался более виновен в расширении пределов общественной поддержки войн США, дан в монографии проф. Беринского «Во время войны: понимание американского общественного мнения от Второй мировой войны до Ирака».
Анализируя данные опросов, автор попытался понять механизм формирования общественного мнения относительно внешней политики США перед и во время войн от 2й Мировой до Иракской в 2003.
Ключевым выводом Беринского стала демонстрация приоритета риторики политических лидеров над убеждениями и политическими позициями народа.
В вопросах войны и мира:
• элита слабо реагирует на мнения и предпочтения граждан;
• бОльшая часть народа судит о вопросах войны, следуя указаниям нравящихся им политиков;
• в целом общественность, следуя за риторикой элиты:
– может быть введена в заблуждение и даже вынуждена действовать вопреки своим интересам;
– никак не может удержать своих лидеров от следования по пути безумия войны.

Продемонстрированный Беринским явный приоритет воли элиты над волей народа до и во время войн, в мирное время не столь абсолютен, но значителен.

В нашумевшей работе проф. Гиленса и Пейджа «Проверка теорий американской политологии: элита, группы по интересам и рядовые граждане» показано, что и в мирное время в США взгляды элиты контролируют происходящее, тогда как взгляды народа имеют минимальный вес.

Об этом исследовании много писали с такими заголовками: «США — олигархия, а не демократия», «США больше не настоящая демократия», «Вы оказываете почти нулевое влияние на политику США», Политики слушают богатых, а не вас», «Богатые правят!» …
И хотя с выводом Гиленса и Пейджа согласились не все коллеги по цеху, новые исследования для других стран в целом подтвердили этот вывод.

Однако, все же нужно признать некую зыбкость выводов названных выше работ. Ибо они отвечают на вопрос «элита или народ …» на основании опросов, результаты которых не всегда релевантны реальности и уж тем более в военное время.

Но мир быстро меняется. Люди погружается в сетевую среду, оставляя в ней свои цифровые следы. Их анализ открывает колоссальные возможности, не доступные в доцифровую эпоху.
Новое исследование проф. Рэнда и Мослеха «Измерение подверженности мисинформации со стороны политических элит в Twitter» тому замечательный пример.

Эта работа впервые ответила на вопрос «элита или народ» напрямую. Анализ цифровых следов элиты и народа позволил количественный анализ того, кто на кого больше влияет.

Экспериментально были измерены показатели «токсичности лжи» 816 представителей элиты и «иммунитет к мисинформации» у их подписчиков.
✔️ «Токсичность лжи» (от фейков до пропаганды) высказываний проверялась по базе данных проверки фактов Politifacts.
✔️ «Иммунитет к мисинформации» измерялся тем, насколько активно люди расшаривали ложь элиты.

В итоге установлено, что в сложной связке элита-народ:
• лидеры слабо реагируют на отношение народа к сказанному ими;
• риторика элиты определяет убеждения и политические позиции народа;
• чем лживее представитель элиты, тем сильнее снижается у его подписчиков иммунитет к мисинформации, что упрощает ему убеждение их в еще большей лжи.

#Мисинформация #Элита

​​Каков на самом деле военный потенциал Китая.
В 2023 от этого в мире будет зависеть многое.
Уж если какую страну «не понять умом», то не Россию, а Китай. По крайней мере, для европейцев и американцев.
Обычная аналитика для Китая часто дает искаженную картину. И поэтому аналитический проект ChinaPower (цель которого препарировать сложность понимания взлета экономической, научно-технологической, политической и военной мощи Китая) особенно ценен своей визуальной аналитикой.

Новый интерактивный визуализатор истинных военных расходов Китая (фрагменты которого приведены на картинке к посту) позволяет наглядно увидеть, например, такое:
• что скорость роста военных расходов Китая, в сравнении с остальными ТОР10 странами мира, все равно как Формула-1 против всех моделей Автоваза;
• что расходы на персонал –наименьшая часть военных расходов, а наибольшая часть – это расходы на новое вооружение и военные технологии.

Также открывается много интересного и про другие страны.
Например, такое:
• что абсолютным чемпионом мира по доле госрасходов на военные нужды является Беларусь (30% против 5% у Китая);
• что в Азии Китай абсолютно доминирует, имея военные расходы, не уступающие сумме таковых всех стран №№2-13 (Индия, Япония, Ю.Корея, Австралия, Тайвань и еще восемь стран);
• что Россия является чистым стратегическим активом Китая.

#Китай #Россия #БольшаяВойна

​​Человечество на пути к пропасти AICG, и не видно способа отвернуть.
Сенсационное обращение ИИ-гуру Китая Кай-Фу Ли к мировому сообществу разработчиков ИИ.
В 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии. Это риск неотличимости правды от лжи, как для индивидов, так и для социумов любых масштабов.

✔️ Материализация этого риска более вероятна, чем риска гибели миллионов в результате ядерной войны, мирового голода или сверхсмертоносной пандемии.

✔️ Последствия же материализации этого риска окажутся разрушительны для большинства из существующих на Земле цивилизаций (ибо все они имеют в своей культурной основе различие правды и лжи).

Об этом говорил в своем предновогоднем обращении к мировому сообществу разработчиков ИИ один из самых авторитетных в мире ИИ специалистов — Кай-Фу Ли: ученый, венчурный инвестор, человек с головокружительной карьерой (Apple, Silicon Graphics, Microsoft, Google) и автор двух мировых бестселлеров про ИИ.

Технологиями, позволяющими стирать различие правды от лжи, являются технологии AICG (генерация контента с помощью ИИ).

В основе AICG обучаемые на масштабируемых «больших данных» т.н. «базовые модели» ИИ, адаптируемые для широкого круга задач нижестоящего уровня (большие языковые модели, генераторы изображений, звука, видео, 3D ...)
Достигнутый к началу 2023 г. уровень развития AICG уже таков, что в этом году начнется их внедрение в поисковых системах и онлайн торговле товарами и услугами (как коммерческими, так и государственными).

Ключевой особенностью онлайн систем нового типа станет то, что наряду с имеющимися у них возможностями персонализации, у них появятся возможности:
• убедительного обоснования навязываемого человеку выбора, с учетом его персональных предпочтений, вкусов, склонностей, пристрастий и предубеждений;
• представления преимуществ навязываемого человеку выбора в наиболее привлекательном для него сочетании мультимедийных форматов.

Новые возможности позволят пробивать персональные фильтры критического мышления подавляющего числа людей, склоняя их к выбору, решениям или действиям, выгодным для владельцев онлайн-платформ.
Ну а наличие среди их владельцев (или тех, кто может на них влиять) лиц, не имеющих этических тормозов, будет иметь катастрофические последствия. Осуществляя любой выбор, решение или действие в онлайне, люди не будут различать правду от лжи: действуют ли они по своей воле и собственному выбору или являются объектом манипуляций заинтересованных лиц, втюхивающих им те или иные товары, услуги, идеи, суждения и т.д.

И никакие полномочия правительств не смогут подобное предотвратить уже известными методами.

Кай-Фу Ли считает, что высокая вероятность материализации вышеописанного определяется двум факторами.
1. Непонятно, как контролировать AIGT.
Человечество обладает средствами снижения вероятности известных смертоносных рисков (даже риск ядерного Апокалипсиса остается ограниченным уже полвека из-за наличия у сверхдержав механизма полного взаимного уничтожения).
Новый риск имеет совершенно иной характер, и способы снижения его вероятности пока неизвестны. А способы, работающие для других глобальных рисков здесь будут неэффективны.
2. AIGT обещает столь колоссальную выгоду для технологических гигантов (коммерческую) и правительств (политическую), что противопоставить этому что-либо проблематично.

Кай-Фу Ли полагает, что помешать материализации нового риска уже невозможно. Технологии AICG уже существуют.
И потому мировому сообществу разработчиков ИИ необходимо срочно направить максимальные усилия на поиск способов минимизации вреда при широком распространении AICG.

Об этом же см. мои недавние посты 1, 2, 3, 4

#AICG

​​Невероятный скачок уровня машинного интеллекта.
Чат-бот Med-PaLM от Google Research и DeepMind уже консультирует на уровне хорошего врача.

Новый год начался в области ИИ невероятно круто.
Уровень машинного интеллекта, продемонстрированный революционной совместной разработкой двух лидеров ИИ отрасли Google Research и DeepMind чат-ботом Med-PaLM, резко скакнул и почти достиг уровня профессиональных медиков.

О поразительных возможностях новой языковой модели PaLM от Google, на базе которой сделан Med-PaLM, я писал в апреле.
Уже тогда PaLM была способна:
• рассуждать, применяя арифметическое и логическое мышление;
• объяснять шутки;
• выстраивать цепочки рассуждений.

И вот спустя всего 8 месяцев группа высококвалифицированных врачей оценила, что 92,6% ответов Med-PaLM на открытые вопросы диагностики широчайшего спектра заболеваний соответствовали научному консенсусу (причем ответы оценивались по критериям фактуальности, точности, риска возможных вредных последствий и потенциальной предвзятости). Это почти тот же уровень, что показала, отвечая на те же вопросы, контрольная группа врачей - профессионалов (их результат был 92,9%).

В препринте о результатах испытаний Med-PaLM содержатся предостережения, что этот ИИ еще не совсем готов полностью заменить врачей. Но скорость, с которой случился этот беспрецедентный скачок уровня машинного интеллекта, не оставляет сомнений.
Очень скоро станет возможно революционизировать способы доступа медицинских работников, исследователей и потребителей к информации и ответам на их медицинские вопросы. С помощью этого инструмента медицинские работники смогут получать доступ к информации быстрее и точнее, чем когда-либо прежде, а потребители смогут получать ответы на свои вопросы в кратчайшие сроки. Это действительно новаторский шаг к большей точности и доступности в области медицины.

Второй важнейший результат прорывных результатов Med-PaLM таков - окончательно расставлены точки над i в дорожной карте совершенствования ИИ лидерами этой индустрии.

✔️ Приоритетным направлением для них является вовсе не создание человекоподобного интеллекта (AGI) и не постижение механизмов работы интеллекта людей, а создание новых типов машинного интеллекта, способных решать практические задачи быстрее и эффективней людей.

N.B. Важное замечание.
Достижение машинным интеллектом уровня специалиста-профи никак не приближает нас к AGI, ибо:
-- это интеллект, в основе которого лежит механизм «глубокого обучения 2.0» (обучения базовых моделей); это совсем иной тип интеллекта, не подразумевающий наличия разума и сознания (как у людей);
-- это интеллект, который в процессе его совершенствования способен превосходить человеческий, но чем он становится совершенней, тем дальше он отдаляется от человеческого.

Термином «интеллект» здесь названа функциональная способность агента решать проблемы в различных пространствах (не обязательно в 3D-пространстве), не привязанная к конкретным реализациям, анатомическим структурам или временным масштабам.
Степень (уровень) интеллекта пропорциональна компетентности в вопросах навигации по этим пространствам, включая, в частности, способность определять пути, которые временно уводят дальше от состояния цели, но в конечном итоге обеспечивают лучшие результаты.
Продвинутый интеллект использует дополнительные уровни самомоделирования, которые позволяют использовать несколько уровней виртуального моделирования себя и своего внешнего мира (контрфактуальное мышление), страха и творчества (выявление возможностей, в отличие от решения проблем, существующих прямо сейчас).
#AGI #ИИ

​​22-го января сотни миллионов китайцев уйдут в Метаверс на супер-шопинг.
Впервые в истории до половины населения Поднебесной встретят Китайский Новый год в онлайне.
Taobao, один из крупнейших китайских интернет-магазинов, принадлежащий Alibaba, проводит финальные испытания своего первого виртуального мира для прямых трансляций в Метаверсе, дебют которого запланирован на 22 января в преддверии Лунного Нового года. Этот виртуальный мир будет использован для организации истинной новогодней феерии покупок.

Люди смогут размещать заказы в этом виртуальном мире в реальном времени через гигантские рекламные экраны.

Невиданные уникальные функции (например, 360-градусный осмотр товаров, виртуальная примерка AR и VR, взаимодействие в ходе шопинга) поразят покупателей совершенно новым опытом, сочетающим в себе виртуальный шопинг с услугами логистики покупок и доставки в физическом мире.

Супер-шопинг в Метаверсе будет сопровождаться иммерсивным онлайн-фестивалем празднования Китайского Нового года.

Детали супер-мероприятия хранятся в тайне. Но выглядеть это будет примерно так и так.

О том, что еще китайцы собираются делать в Метавселенной, смотрите мои посты по тэгам:
#Metaverse #Китай

Фейкам здесь не место.
С 10го января Китай законодательно отменяет у себя западную культуру креативного ИИ.
Власти Китая приняли решение строить свою параллельную вселенную для творчества ИИ.
Мотивировка такова.
1. Прошлый год был отмечен беспрецедентным прогрессом в области генеративного ИИ.
2. В результате возникла новая, потенциально огромная по объему и влиянию (социально-политическому и культурному) индустрия креативного ИИ, объединяющая технологии глубокого обучения, виртуальной реальности, алгоритмической генерации текстов, образов, аудио, видео и 3D сцен.
3. Креативный ИИ способен в самой недалекой перспективе:
-- частично (а возможно, и полностью) заменить людей многих творческих профессий;
-- трансформировать большинство областей культуры и науки в непредсказуемых направлениях;
-- размыть (а возможно, и полностью стереть) границы правды и лжи в коммерческом, гуманитарном и политическом дискурсах.
4. Названные в п.3 последствия распространения креативного ИИ способны нанести непоправимый ущерб обществу, подрывая его моральные основы и обрушая существующие конструкции национальной безопасности.

Поскольку остановить развитие и широкое внедрение креативного ИИ невозможно, правительство Китая приняло решение с 10го января 2023 законодательным путем:
A. Приравнять использование креативного ИИ любого типа без маркировки его продукции (указывающей, что это продукт креативного ИИ) к фальшивомонетчеству.
B. Любая продукция креативного ИИ, подобно деньгам, должна нести на себе «водяные знаки» своей принадлежности.
C. Любой контент класса глубоких фейков, произведенный с помощью креативного ИИ, обязан иметь специальную маркировку – «ФЕЙК».

Такое решение правительства Китая, казалось бы, лежит в русле предложений Кай Фу-Ли, о которых я писал неделю назад.
Но это, мягко говоря, не совсем так.

В отличие от предложений Кай Фу-Ли привлечь мировое сообщество разработчиков креативного ИИ, правительство Китая приняла решение о монополии на правду при оценке генеративного контента, производимого креативным ИИ.
• фейк это или нет, решит чиновник;
• ну а наличие или отсутствие «водяных знаков» будет мало кого останавливать из миллионов рядовых пользователей сети (ведь и на деньгах в повседневной жизни эти знаки проверяют разве что кассиры).

Ну а для монетизации творчества креативного ИИ в Китайском Метаверсе будут отведены специальные места – своя параллельная вселенная, в которой не будет места тому, что объявлено чиновниками фейками.

Официальная же цель строительства китайской параллельной вселенной для креативного ИИ – вывести Китай в мировые лидеры области генеративного ИИ. И бюджет под эту цель планируется выделить нешуточный.
#Китай #КреативныйИИ

ИИ можно научить интуитивной прозорливости.
Глубокое обучение способно находить скрытые маркеры провидческих идей в обширных корпусах текстов.
Такой вывод следует из фантастически интересной работы «Модель глубокого обучения провидческих идей демонстрирует, что они возникают на периферии», которая выйдет в мартовском номере PNAS Nexus.

Революционность этого открытия в следующем:
• До сего времени считалось, что провидческие идеи могут быть обнаружены только постфактум, то есть когда известно будущее состояние мира.
• Оказалось, это не так. ИИ способен идентифицировать провидческие идеи в настоящем времени, не зная будущее состояние мира.

В 21 веке открытие механизма серендипности (способности к интуитивным прозрениям, лежащей в основе провидческих, абсолютно нестандартных и воистину прорывных идей) может стать для человечества столь же важно, как открытие квантовой механики для 20го века.

Дело в том, что серендипность это:
✔️ важнейший элемент, без которого любые стратегии инноваций не будут оптимальны - см. мой пост;
✔️ ключевая отличительная способность разума Homo sapiens, делающая нас «богоподобными», позволяя нам привносить связную, богатую смысловую перспективу в многомерную сложную реальность (часто эту способность ошибочно называют интуицией, но это, хоть и близкая, но совсем иная способность) – см. мой пост;
✔️ один из семи базовых элементов (наряду со смежным возможным, аффордансами, предиктивным мозгом, дистальным моделированием, квантовой суперпозицией внутренних реальностей и мультиверсом) «теории относительности интеллекта» Роли-Йегера-Кауффмана ) – см. мой пост;
✔️ уникальное эволюционное преимущество (наряду с нерациональностью), помогающее людям не только творить, но и выживать за счет способности решать невычислимые задачи – см. мой пост;

Согласно «теории относительности интеллекта», серендипность не доступна ИИ.
Но зато, как показало новое исследование, с помощью глубокого обучения можно обнаруживать в корпусах текстов из разных сфер деятельности людей (бизнес, право, политика) скрытые лингвистические маркеры провидческих идей.

Кроме того, исследование установило два нетривиальных момента.
1. Провидческие идеи возникают не в центре, а на периферии многомерного пространства слов.
2. Для появления провидческой идеи, важен не только сам автор, но и контекст, в котором идея рождается. Хотя способность генерировать такие идеи часто приписывается отдельным людям, их происхождение может быть связано как с людьми, так и с контекстом.

Авторы идентифицируют лингвистические маркеры провидческих идей, используя представления двунаправленного кодировщика трансформера BERT - глубокую нейронную сеть, которая кодирует семантическую и контекстуальную информацию языка.

Новый метод позволяет извлекать провидческие идеи из естественного языка независимо от формы, в которой эта идея в конечном итоге реализуется, и в широком диапазоне областей.
#инновации #серендипность #Аффорданс

​​Код разума и формула счастья.
Два почти незамеченные важнейшие события 2022.
Новостная повестка все более оцифровывающих себя социумов в значительной степени определяется алгоритмами. В результате все более замыливается различие новостей (потенциально наиболее хайповая информация) и событий (явления и факты, влекущие ощутимые последствия). Ведь алгоритмы не в состоянии выявлять содержательную (сущностную) составляющую из информации и в основном ориентируются на чистую статистику.
• 90%+ медийной повестки 2022, посвященной главным научно-технологическим прорывам, были о новостях по наиболее хайповым темам: от превосходящих людей в написании текстов, рисовании и т.д. генеративных нейросетей до манящих перспектив, открывающихся нам в Метавселенной.
• И почти незамеченными остались десятки событий, способные кардинально поменять понимание важнейших для человечества вопросов.

Вот всего пара связанных между собой почти незамеченных событий прошлого года (из десятков подобных, о которых я писал в 2022, как о малоизвестном интересном).

1. Прорыв в расшифровке кода разума. Установлено - разум кодируется телом и эмоциями.
Прорывное исследование неврологов и биомедицинских инженеров Medical College of Wisconsin позволило абсолютно по-новому взглянуть на то, как «кодируется» разум в мозге. Условно говоря «код разума» записан с использованием двух «алфавитов» (типа букв и цифр): «алфавит тела» (для записи сенсомоторной информации) и «алфавит чувств» (для записи аффективной информации).
Отсюда следует, что:
• наши эмоции кодируют разум и в то же время являются его частью;
• разум, не обладающий телом и чувствами, невозможен (по крайней мере, - биологический разум, типа разума человека, дельфина, ворона и осьминога).

2. О другом прорыве - в понимании того, какая эмоция сделала нас людьми, - я писал еще годом ранее.
Эмоции появились задолго до интеллекта и, как сказано в п.1, сформировали «алфавит чувств», на котором закодировна значительная часть разума.
Но эмоции существуют далеко не только у людей (вспомните домашних питомцев или дельфинов, да и у осьминогов есть широкий спектр эмоций от страха до зависти).
Тогда важен ответ на вопрос - какие эмоции способствовали превращению животного в человека?

Одна из гипотез состоит в том, что важнейшей эмоцией, без который люди не стали бы людьми, является чувство трепета (благоговения).
Это могучая эмоция, упрощенно трактуемая сочетанием удивления и страха. Точнее, - это «всепоглощающее чувство благоговения, восхищения и страха, порождаемое чем-то или кем-то великим, возвышенным, чрезвычайно могущественным. Или «смешанная эмоция почтения, уважения, страха и чуда, вдохновленная авторитетом, гением, великой красотой, возвышенностью или мощью.

Прорывным событием прошедшем 2022, стала, на мой взгляд, опубликованная в метаобзоре «Благоговение как путь к психическому и физическому здоровью» схема, формализующая возникновение ощущения счастья, вследствие пяти типов деятельности, при которых человек способен испытывать чувство благоговения: единение с природой, духовные практики, музыка, танец и прием психоделиков.

Схема объясняет, как сложное состояние, такое как благоговение (часто считающееся невыразимым и даже не поддающимся измерению), приводит к улучшению здоровья и благополучия людей.
В работе показано (с экспериментальными подтверждениями):
• что благоговение характеризуется особым нейрофизиологическим профилем;
• опыт благоговения активирует медиаторы, которые непосредственно ведут к улучшению психического и физического здоровья.

Только представьте, насколько значимыми могут стать результаты этого научного прорыва.
Пять встроенных в нас нейрофизиологических путей к счастью не включают ни деньги, ни власть. И достижимы каждому.
#Эмоции

Самый интригующий прорыв прошедшего года в науке об ИИ лежит вовсе не в области глубокого обучения 2.0 (ИИ-чатботы больших языковых моделей и ИИ-генераторы изображений), а в области инженерного ксеногенезиса – проектирование иного разума путем создания самосознающих себя роботов. Есть веские основания считать, что именно этот путь может привести к созданию сильного ИИ (AGI) – сверхзадаче науки 21-го века.

Прорыв, совершенный в Creative Machines Lab Колумбийского университета, заключается в успешном инженерном переложении с последующим практическим воплощением базовых положений трёх самых передовых современных междисциплинарных теорий: концепции прогнозирующего разума, принципа свободной энергии и концепции сознания как чувства.

О том, что и как было сделано, читайте в маленьком лонгриде всего на 6 мин чтения:
- на Medium http://bit.ly/3XihY2c
- на Дзене https://clck.ru/33HNev
#Сознание #Разум #AGI

​​Ложь и пропаганда станут повсеместны, неопределимы и непреодолимы.
Как будет выглядеть падение человечества в пропасть AICG.
Опубликован большой отчет Center for Security and Emerging Technology, OpenAI и Stanford Internet Observatory «Генеративные языковые модели и автоматизированные операции влияния: ввозникающие угрозы и потенциальные меры по их смягчению». Отчет содержит стратегическую аналитику катастрофического сценария, описанного в обращении Кай-Фу Ли к мировому сообществу разработчиков ИИ.

Напомню читателям. Перед самым НГ ИИ-гуру Китая Кай-Фу Ли рассказал, что уже в 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии.
Это риск того, что технологии AICG (генерация контента с помощью ИИ) сделают неотличимыми правду и ложь, как для индивидов, так и для социумов любых масштабов.

Новый отчет расписывает в деталях, как, скорее всего, будет происходить процесс падения человечества в пропасть AICG.

Кардинально изменятся:
✔️ Доступность и эффективность любых операций влияния (как на индивидов, так и на социумы)
✔️ Три ключевых фактора появления, распространения и принятия лжи за истину в мире:
• акторы, ведущие кампании пропаганды лжи;
• способы и тактика такой пропаганды;
• пропагандистский контент

В результате применения все более совершенных больших моделей, LLM и ИИ-генераторы образов станут:
• более удобными для использования (упрощая их применение в операциях влияния),
• сильно надежными (уменьшая вероятность того, что модели выдают выходные данные с очевидными ошибками)
• и сильно эффективными (повышая экономическую эффективность применения LLM и ИИ-генераторов образов для операций влияния).

Как будет происходить этот прогресс, иллюстрирует рисунок, сопровождающий данный пост.
✔️ Вверху: как с 2014 по 2021 менялось качество фейковых образов людей, генерируемых моделями.
✔️ Внизу: как в 2022 произошел революционный прорыв, в результате которого стала возможна предельно точная и убедительная генерация чего-угодно (например, фейковых образов по таким описаниям «Енот в официальной одежде с цилиндром, тростью и мешок для мусора. Картина маслом в стиле Рембрандта (результат слева) и Ван-Гога (справа)».

Итогом (1) предельного упрощения процесса стирания границы правды и лжи в сочетании с (2) неспособностью критического мышления людей бороться с ИИ-пропагандой, - станет доминирование и в политике, и в бизнесе повсеместных, неопределимых и непреодолимых операций влияния.
#AICG #РискиИИ

​​Цифрообезьянья лапа.
Мир обретает черты сверхъестественного хоррора.
Ярчайшим примером этого жуткого жанра стал знаменитый рассказ Уильяма Джекобса «Обезьянья лапа». В этой истории, владельцу обезьяньей лапы даются три желания, но за их исполнение и вмешательство в судьбу приходится платить огромную цену.
За 120 лет с написания рассказа по нему поставлено много пьес, фильмов и сериалов. Ибо его идея столь же вечна, как и ужасна: люди редко способны предвидеть страшные последствия исполнения своих желаний.

В 21 веке человечеству особенно крупно не повезло. За пару десятков лет, перепрыгнув в цифровую эпоху глобальной сети, люди возжелали по-крупному.
Захотелось сделать жизнь легкой и приятной, переложив на компьютерные алгоритмы трудоемкую и нудную работу:
1) по поиску информации и принятию повседневных решений;
2) по просеиванию и оценке разрастающихся до неохватности океанов информации о новостях, общественной жизни, науке, культуре и т.д.

К 2023 стало ясно, что оба желания исполняются. Но в следствии этого, мир сталкивается с колоссальной засадой - новой обезьяньей лапой. На сей раз, - цифровой.

Платой за исполнение желаний стали два абсолютно новых глобальных риска, путей преодоления которых (хотя бы теоретических) пока не видно.
1. Риск насыщения медиасреды алгоритмами, забирающими на себе все больше функций обработки информации и принятия решений (что будет из поколения в поколение требовать все новых апгрейдов когнитивных гаджетов людей, превращая их в инфоргов (см. мой пост «Превращение в инфоргов»).
2. Риск неотличимости правды от лжи, ослабляющей иммунитет критического мышления и делающей нас предельно уязвимыми перед алгоритмической пропагандой (см. мой вчерашний пост).

Поскольку способы минимизации этих рисков пока неизвестны, а прогресс IT технологий продолжается, получается, что цивилизация движется к пропасти, отвернуть от которой она не может.

Об этот мой часовой видеорассказ на канале Бориса Бояршинова.

P.S.
1. Название этого видео «Искусственный интеллект превратит человека в обезьяну!» - метафора для кликбейта. Если же не гнаться за кликбейтом, то куда более точная метафора – «цифрообезьянья лапа».
2. В самом конце видео у меня, к сожалению, произошла оговорка (к счастью, не меняющая смысла сказанного). Названные мною 500+ тыс фильмов – это общий пул фильмов для просмотра (ведь выбирая, что посмотреть, мы ориентируемся на общий пул, а не только на фильмы года). К этому нужно добавить пул сериалов – 800+ тыс. Получается более 1.3 миллионов. Если, выбирая что посмотреть, потратить на каждый пункт этого списка всего 1 мин, то занимаясь выбором полный рабочий день, потребуется около 10 лет. Отсюда и сделанный мною вывод - для человека выбор такого масштаба никак не подъемен, и без алгоритмов здесь не обойтись.
3. О разновидностях рисков цифрообезьяньей лапы я пишу уже не первый год (напр. см. здесь и здесь).
#AICG #РискиИИ

​​Chat GPT3 сдал MBA-экзамен одной из самых крутых бизнес-школ мира – Уортон.
Но люди продолжают настаивать, будто мы – единственный высший интеллект на Земле
Сдача чатботом Chat GPT3 MBA-экзамена в Уортоне - не фейк или шутка, а авторитетное экспериментально подтвержденное заключение.
Эксперимент был чистый.
✔️ Chat GPT3 получал на вход вопросы настоящего экзамена по типичному основному курсу MBA
✔️ Ответы чата оценивались, как если бы экзамен сдавал человек

Результаты.
1. Chat GPT3 отлично справляется с базовыми вопросами управления операциями и анализа процессов. Ответы правильные, пояснения отличные.
2. Иногда чат допускает удивительные ошибки в относительно простых вычислениях на уровне математики 6-го грейда.
3. Текущая версия чата не способна обрабатывать более сложные вопросы анализа процессов, даже если они основаны на довольно стандартных шаблонах.
4. Чат удивительно хорош в изменении своих ответов в ответ на человеческие подсказки.

В итоге Chat GPT3, будь он человеком, получил бы на МВА-экзамене проходную оценку где-то между "В" (Pass 65-69%) и "В-" (Conditional Pass 60-64%).

Результаты этого эксперимента подтверждают, что мания превосходства над ИИ переходит у людей в маниакальную стадию.
То, что:
• ИИ не понимает смысла своих ответов,
• не имеет модели мира и самого себя,
• не способен делать причинно-следственные выводы и, вообще, не способен мыслить, -
заставляет многих специалистов отрицать очевидное - наличие у Chat GPT3 интеллекта, сопоставимого с человеческим, НО ПРИНЦИПИАЛЬНО ИНОГО.

И это не вопрос определений. Ибо как не определяй, но сдача МВА-экзамена не оставляет люфта для сомнений. Ведь сдающий экзамен чатбот, как и человек, должен опираться лишь на собственный интеллектуальный ресурс (т.к. чатбот не подключен к Интернету).

Отрицание — это психический процесс, относимый к механизмам психологической защиты человека. Отрицание проявляется, как отказ признавать существование чего-то нежелательного.

Тогда, применительно к теме поста, можно предположить наличие у человечества отрицания сопоставимого с нами интеллекта из-за нежелания признавать существование чего-то не менее умного, чем мы.
Мания собственной исключительности человека заставляет параноидную личность отрицать очевидное до тех пор, пока это физически не истощит ресурсы его организма.
С человечеством может получиться аналогично.

На рисунке пример экзаменационного вопроса и ответ Chat GPT3.
Если останавливать людей на улицах и задавать этот вопрос, - многие ли ответят правильно и смогут так обосновать ответ?

AGI

Проснись, Америка!
Китай обгоняет США по инновационному потенциалу.
Заголовок – не кликбейт, а дословный перевод названия вышедшего вчера отчета Фонда информационных технологий и инноваций (ITIF), ведущего аналитического центра по политике в области науки и технологий.

Главные два вывода отчета:
1. Китай уже значительно превзошел США по общему объему инноваций и приблизился к США в пропорциональном отношении.
2. Китай превращается из подражателя в новатора, следуя по пути, проложенному его соседями - Азиатскими Тиграми, но в гораздо большем масштабе и с гораздо большими геополитическими последствиями.

В исследовании ITIF делается вывод о том, что объем производства инноваций и передовой промышленности Китая в 2020 году составил 139% от того же показателя в США по сравнению с 78% в 2010 году. На пропорциональной основе (с учетом размера экономики страны, ее населения и ряда других факторов), объем инноваций в Китае в 2020 году составил 75% от эквивалента США по сравнению с 58% в 2010 году.

Китай уже показал, что может стать мировым лидером в ряде передовых технологий, таких как суперкомпьютеры и высокоскоростные железные дороги. Его инновационные возможности теперь угрожают доле на мировом рынке фирм из США и Евросоюза в самых передовых отраслях с высокой добавленной стоимостью, которые важны для процветания и безопасности США.

Эти выводы - результат сравнительного анализа 22 показателей инновационного цикла в США и Китае с 2010 по 2020 год, включая основные затраты и результаты инноваций, такие как венчурный капитал и патенты, а также ощутимые результаты экономической деятельности, такие как добавленная стоимость в передовых отраслях. Почти по каждому показателю данные показывают, что Китай набирает силу или расширяет свое лидерство над Соединенными Штатами.

Авторы принимают в расчет, что Китай по-прежнему сталкивается с серьезными экономическими проблемами. Но даже с учетом этих проблем, явный прогресс Китая по широкому спектру инновационных показателей свидетельствует о том, что Китай способен обогнать США по инновациям и объему производства в передовых отраслях не только в абсолютном выражении (уже обогнал), но и в пропорциональном выражении.

По этой же теме, см. мои посты:
«Китай достиг абсолютного доминирования в мировой науке»
«Мировой рейтинг научно-технической мощи государств в 2022»
«Глобальный лидер будет один»
#Китай #США

​​Из ИИ-лабов в любой момент могут утечь такие «плохие вещи», что утечка био-вирусов покажется пустяком.
Джек Кларк нажал кнопку тревоги на слушаниях по ИИ в Конгрессе США.
Все сегодняшние риски – цветочки в сравнении с завтрашними. На проходившей позавчера сессии AI Caucus конгрессмены впервые с высокой политической трибуны услышали правду о рисках ИИ.
Эта правда в том, что:
1. риски ИИ оказались существенно выше, чем предполагалось, и сегодня ни по одному из них нет хоть сколько-нибудь удовлетворительного решения;
2. эти риски предельно усугубляются их абсолютным непониманием общественностью и правительством США;
3. уже в этом году риски ИИ довольно высоки, но буквально через год-другой они станут таковы, что все известные нам сегодня глобальные риски померкнут на их фоне.

Своим выступлением перед конгрессменами Джек Кларк (соучредитель Anthropic, член National AI Advisory Committee (NAIAC); сопредседатель AI Index; сопредседатель OECD Working Group on AI + Compute и т.д.) как будто разбил стекло пожарной сигнализации и нажал на красную кнопку тревоги.

Его выступление оказалось настолько простым и убедительным, что его, похоже, поняли даже конгрессмены (мои читатели могут также прочесть его слайды).

Логика Джека Кларка такова.
1. Скорость развития ИИ-технологий настолько возросла, что не только политики, но и даже сами исследователи ИИ не успевают отслеживать новые ступени прогресса.
Иллюстрируя это, Джек приводит пример 3х препринтов, опубликованных за последние 10 дней, результаты которых принципиально меняют представление о рисках ИИ:
- Tracking the industrial growth of modern China with high-resolution panchromatic imagery: A sequential convolutional approach
- Dataset Bias in Human Activity Recognition
- A Watermark for Large Language Models
2. Из-за этой сумасшедшей скорости общественность и правительства не отдают отчета в том:
- что риски распространения сильно продвинутых ИИ, заточенных на «плохие применения», куда выше, чем осознаваемые и понимаемые риски распространения оружия путем его печати на 3D принтере;
- что риски сесть на иглу пропаганды использующих ИИ правительств и корпораций, куда выше, чем риски тотального оболванивания путем использования ТВ и онлайн-рекламы;
- что из ИИ-лабораторий в любой момент могут утечь такие «плохие» интеллектуальные агенты и инструменты, что утечка био-вирусов покажется пустяковым инцидентом;
- что Китай
а) уже вовсю использует ИИ для укрепления государства;
б) разбирается в этом гораздо лучше, чем вы себе представляете;
с) с каждым месяцем уходит вперед, пока США не поняли уровень рисков.
3. Общественность и правительство находится в плену иллюзий о возможных путях преодоления уже известных рисков.
Все они – по-прежнему, открытые проблемы:
- мониторинг ИИ систем ИИ с помощью самого же ИИ для предотвращения злоупотреблений;
- возможность понимать «логику решений» ИИ;
- Возможность ‘отслеживать’ результаты работы ИИ;
- Возможность сделать системы "беспристрастными" и "непредвзятыми"

Джек Кларк закончил выступление криком вопиющего в пустыне:
• Нормативно-правовая база и рыночный ландшафт побуждают людей не говорить вам и не лгать вам до тех пор, пока что-то не пойдет "на ура’.
• Если вы думаете, что опасности, связанные с ядерным оружием и биологией – самое плохое, просто немного подождите.
• Увы, но среди политиков США нет заметных людей, с которыми можно было бы хотя бы обсудить все это. Я пытался…

Как и Джек, я тоже пытаюсь. И пока с тем же успехом.
#РискиИИ

​​Вот этим мы и отличаемся от ИИ.
Экспериментально зафиксирован нейронный механизм понимания.
Новое исследование трех университетов США «Neural representations of naturalistic events are updated as our understanding of the past changes» поражает дерзостью поставленной цели и неординарностью способа ее достижения.
• Цель – анализируя различия нейронных репрезентаций в мозге, узнать, каким образом мозг меняет наше понимание прошлых событий при поступлении новой информации.
• Способ достижения цели – по различиям нейронных репрезентаций зафиксировать разные интерпретации знаменитого мистического триллера «Шестое чувство» (о докторе и мальчике, утверждавшем, что видит призраков) у 3х групп испытуемых, получавших разную дополнительную информацию про доктора и призраков.

Гипотеза исследователей была такая.
1. По ходу фильма в эпизодической памяти зрителя кодируется информация о фильме: герои, сюжет и события в индивидуальной интерпретации смотрящего.
2. Новая информация о драматическом повороте в самом конце фильма (внимание - спойлер) - оказывается, что доктор сам был призраком, - должна поменять у зрителя уже сложившуюся у него интерпретацию предыдущих событий.
3. Это изменение должно «обновить память» зрителя путем ее перекодировки с учетом новой информации.

Проблема, однако, в том, что науке пока неизвестно, как кодируется, записывается и переписывается информация в мозге.

Но это можно преодолеть хитрым приемом, похожим на анекдот про разоблачение офицера ФСБ, сливавшего информацию ЦРУ.
• Сначала слили этому офицеру инфу, будто через неделю Аль-Каида проведет теракт в США, и уже через день зафиксировали большой рост числа горящих ночью окон в штаб-квартире ЦРУ.
• Через 3 дня слили ему новую инфу - якобы теракт отменен, - и число горящих ночью окон за пару дней пришло в норму.

Американские исследователи пошли аналогичным путем. Но вместо окон штаб-квартиры ЦРУ анализировались нейронные репрезентации (паттерны активности нейронов) «Сети мозга по умолчанию». Среди прочего, эта сеть задействуется во время обработки (кодирования) непрерывных насыщенных динамических стимулов, таких как фильмы и аудиоистории. Регионы этой сети имеют длинные «временные рецептивные окна», в течение которых интегрируется и сохраняется информация высокого уровня, накапливающаяся в течение длительных периодов времени (например, сцены в фильмах, абзацы в тексте) для поддержки операции понимания.

N.B. Понимание — это универсальная операция мышления, связанная с усвоением новой информации, включением её в систему устоявшихся убеждений и обновлением этой системы с учетом новой информации. Иными словами, понимание невозможно без ретроспективного обновления ранее закодированной в мозге информации в свете новых открывшихся обстоятельств.

Исследование экспериментально подтвердило гипотезу авторов.
Нейронные репрезентации уже хранящихся в памяти сцен перекодировались, отражая тем самым изменения в понимании этих сцен в свете новой информации.

Из этого можно сделать вывод, крайне важный для создания «понимающего ИИ».
Сенсационность многочисленных интеллектуальных достижений ИИ-систем типа ChatGPT сильно обесценивается отсутствием у этих систем понимания. Какие бы сложные экзамены ни сдавали самые продвинутые из современных ИИ-систем, какие бы сложные интеллектуальные функции они бы ни выполняли, - они по-прежнему лишены даже крупицы понимания и работают исключительно за счет оптимизации статистически наиболее вероятного выбора очередных слов.

Отсутствие понимания у таких систем, в первую очередь, определяется тем, что они не перекодируют свою память в свете новой информации, меняющей интерпретацию уже закодированной в памяти информации, сформированную на стадии обучения ИИ.
Если мозг активно меняет наше понимание прошлых событий в свете новой информации, то ИИ так пока не умеет.

Отсюда вывод – в ближайшие год-два такой «понимающий ИИ» появится.

Как проводилось это исследование можно дочитать (еще 2 мин чтения)
- на Medium http://bit.ly/3WOo9da
- на Дзен https://clck.ru/33QN48
#AGI #Понимание

Лучше Армагеддон, чем Мировое правительство.
В 21 веке у Антихриста новый слоган – мир и безопасность.
Американский миллиардер, технологический предприниматель и венчурный капиталист (соучредитель, председатель правления и крупнейший акционер легендарной компании Palantir, а также один из крупнейших доноров в политике США) Питер Тиль потряс переполненный зал Оксфордского Союза своей речью, открывшей серию топовых выступлений в ознаменование двухсотлетия Союза.

Речь Тиля, как это нередко у него бывает, была противоречива и провокативна. Но в этот раз это была особая речь, которой предстоит стать мастридом для широкого спектра от техно-предпринимателей и инвесторов до политиков и философов. Ибо Тиль говорил, как бы, с позиций прогресса человечества за прошедшие 200 лет, обращаясь к тем, от кого будет зависеть прогресс в следующие 200 лет.

Ключевыми темами в речи Тиля стали следующие.
1. «Странная» ситуация, сложившаяся в США и Великобритании, где у следующего поколения экономические перспективы гораздо хуже, чем у их родителей.
2. «Научно-технологический застой», ставший величайшим кризисом нашего времени, в котором виноваты университеты, защитники окружающей среды и истеблишмент.
3. Кардинальный поворот, произошедший за последнее десятилетие в понимании Тилем экзистенциальных рисков человечества и стратегии их минимизации.

Поскольку 3-я из тем является «профильной» темой, о которой я постоянно пишу, уточню подробней эту смену позиций Тиля.
Смена позиции в следующем.
✔️ Если 15-20 лет назад будущее развитие ИИ и его превращение в человекоподобный ИИ (AGI) воспринималось позитивной утопией (хотя и с сопровождающейся рисками), то в последние годы техно-алармисты превратились в техно-луддитов, все более напоминающих эскапистский лагерь Burning Man.
✔️ В нулевые и десятые годы Тиль поддерживал (и даже финансировал):
• работы Элиезера Юдковский в исследовательском институте машинного интеллекта MIRI - некоммерческий исследовательский институт (бывший Singularity Institute for Artificial Intelligence), с 2005 года занимающийся выявлением и управлением потенциальными экзистенциальными рисками AGI;
• работы Ника Бострома - профессора Оксфордского университета и признанного авторитета для самых известных и влиятельных людей бизнеса (от Билла Гейтса до Илона Маска) по вопросам экзистенциальных рисков.
✔️ Сегодня ситуация в корне изменилась.
• Элиезер Юдковский предложил стратегию, призывающую человечество к «смерти с достоинством» (ибо в ситуации, когда выживание человечества недостижимо, мы должны сместить фокус наших усилий на то, чтобы помочь человечеству умереть с чуть большим достоинством).
• Ник Бостром предложил стратегию отказа человечества от происходящего полуанархического технологического развития» с передачей власти на Земле Мировому правительству.
✔️ Обе стратегии в корне противоречат сегодняшнему пониманию Тилем того, что должно делать человечество «следующие 200 лет».
Делать нужно вот что.
1. К черту «Грету и крестовый поход детей-аутистов»! К черту техно-луддистов!
Вместо подготовки к «смерти с достоинством», человечество должно делать ставку на всемерное ускорение прогресса.
2. К черту разговоры, будто худшее для человечества – это Армагеддон. Жизнь под Мировым тоталитарным правительством еще хуже.
3. Мир и безопасность – не должны быть единственным и абсолютным приоритетом человечества. В 21 веке это новый слоган Антихриста, превращающий мир в «застойный» и «помешанный» из-за подавляющего влияния «смирительной рубашки левоцентристских зомби», заменившей ушедшие ценности «классического либерализма».

Мой комментарий к этому будет краток.
• пп. 1 и 3 мне не близки, но конгруэнтны позиции Тиля в качестве члена исполнительного комитета переходной команды Трампа;
• про п. 2 я пишу уже 4й год в цикле постов «Большой Брат — сын Большого Бога. Почему его воцарение в мире может быть неизбежным»

#Вызовы21века #РискиИИ #AGI

​​Уже почти как люди: новый адаптивный ИИ-агент от DeepMind.
Он может учиться новым задачам, как люди, адаптироваться к изменениям среды также быстро, как люди, и подобно людям, делает все это, «живя» в 3D мире.
Этот фундаментальный прорыв достигнут DeepMind в результате, казалось бы, тупого и банального масштабирования от достигнутого.
• Увеличен размер модели ИИ-агентов (причем до достижимого уже сегодня максимум далеко – всего то ~ 500 млн параметров).
• Увеличена «глубина» памяти ИИ-агентов, чтобы они могли больше опираться на свой предыдущий опыт.
• Увеличено количество сред, в которых тренируются ИИ-агенты (с миллионов до миллиардов).

Но результат на лицо. И это прорывной результат.
Новый адаптивный агент (AdA) стал:
• сильно «умнее» всех предыдущих ИИ-агентов;
• куда ближе к людям по своим возможностям.
Ибо AdA может (умеет), при столкновении с новыми задачами в некоторых сложных трехмерных мирах, быстро изучить новую задачу, а затем выяснить, как ее сделать (например, просто наблюдая, как это делает какой-то другой интеллектуальный агент). И все это примерно за то же время, как у людей.

Не будет большой натяжкой сказать, что AdA по своим возможностям вышел на уровень ChatGPT3.
НО:
• если ChatGPT3 умеет лишь «ловко чесать языком», делаясь почти неотличимым от людей,
• AdA умеет, пусть пока плохенько, но «жить в реальном мире», адаптируясь к открытым новым воплощенным трехмерным задачам так же быстро, как и люди.

Теперь вопрос лишь один.
Насколько умение жить в 3D симуляции окажется применимым для жизни ИИ-агента в нашем физическом мире?

И если это умение будет хорошо переносимо ИИ-агентами в наш мир, людям придется здесь основательно потесниться.
#ИИ