Хочу написать несколько текстов о тревожном, пугающем, манящем и неизбежном. Это, конечно же, захват планеты Земля бездушными роботами, вот что это такое, кожаные вы мешки. Заранее прошу прощения за отступление от нашей генеральной улюлюйской темы - это ненадолго и будет разбавлено публикацией ещё одной стихотворной драмы с началом в понедельник, т.е. завтра.

Что касается роботов (или, если быть точным, искусственного интеллекта общего назначения - artifical general intelligence, AGI), то программа постов будет следующая:

1. Будет ли создан искусственный интеллект общего назначения и когда это может произойти?
2. Будет ли искусственный интеллект доминирующей формой интеллекта на планете?
3. Какое наследство мы оставим искусственному интеллекту?
4. Как нам подготовиться к смене (takeover), чтобы она прошла безболезненно, бесшовно и продуктивно?

Поехали!

#ai_takover
#воскресныйнеформат

РОБОТЫ НАСЛЕДУЮТ ЗЕМЛЮ

Ч.I. Будет ли создан искусственный интеллект общего назначения и когда это может произойти?

1. Начну с ответа на второй подвопрос - от 20-30 до 200 лет. Оценка очень приблизительная, а коридор представляется довольно широким, но не только по геологическим, но и по историческим меркам это не так уж много.

Происхождение оценки следующее. Есть такая сфера деятельности - Data Science. Несмотря на слово "science" в названии, это скорее не академическая наука, а стык прикладной науки и инженерии. Все разработки, связанные с искусственным интеллектом (в любом его понимании), происходят в рамках "науки о данных", и нет сомнения, что искусственный интеллект общего назначения будет создани именно в ходе дальнейшего прогресса в DS.

За последние 10+ лет в области Data Science произошли две революции. Первая революция - переход машинного обучения (Machine Learning) из области академических разработок и несмелых опытов по внедрению к массовому применению в бизнесе и промышленности. Эта революция произошла в начале 2010-х гг. Были выполнены необходимые предпосылки по разработке алгоритмов, созданию железа, написанию библиотек и накоплению данных, и вуаля - нейронные сети со страниц малонаучной фантастики шагнули в реальную жизнь банков, ритейлеров и страховых компаний.

Прямо сейчас мы наблюдаем вторую революцию Это - революция генеративных нейронных сетей (generative AI, GenIA). В реальную жизнь вышли ещё несколько академических разработок, и теперь роботы вовсю рисуют немного странненькие, но высоко детализированные картины, и если в Лувр мы их пока не вешаем, то в оформление презентаций они заходят за милую душу. Текстовые "языковые модели" не менее интересны, потенциал их практического применения выходит далеко за рамки сочинения мемов про Сару Коннор.

Ну и вот, от первой до второй революции прошло 10+ лет. Совершенно очевидно, что, как бы ни были велики успехи генеративных сетей, это всё ещё не интеллект общего назначения, а значит, нам потребуется минимум ещё одна технологическая революция. Далее, после революции должно пройти какое-то время на реализацию всего заложенного в ней потенциала и внедрения, положим это ещё 10+ лет. Т.е. 10+ лет на подготовку следующей революции и ещё 10+ лет на внедрение. Отсюда 20-30 лет, это оценка снизу.

Более вероятно, что для создания GAI нам потребуется не одна революция, а несколько. Предположим, что между революциями будет по-прежнему 10+ лет - в действительности может быть как меньше, так и больше. Сколько именно, сказать сложно, но 18-19 революций (при 200 годах) - это несколько с хорошим запасом. Если создание GAI в принципе возможно, то можно быть уверенным, что в течение 200 лет это точно произойдёт.

#ai_takover
#воскресныйнеформат

2. Теперь подвопрос №1 - а возможно ли создание GAI в принципе?

Есть такая штука, как тест Тьюринга - это воображаемое испытание на "полноценность" искусственного интеллекта. Если человек, общаясь с собеседником, не может определить, что он говорит с роботом, а не человеком, это должно означать, что робот обладает полноценным интеллектом. Тест Тьюринга был придуман как формальная проверка, чтобы избежать погружения в полуфилософские дебри того, что можно считать интеллектом, а что нет. Если нечто плавает, как утка, крякает, как утка, выглядит, как утка, то это утка и есть.

Так вот, sine ira et studio нейросетки типа chatGPT тест Тьюринга уже проходят. Если разработчик не встроит в неё сознательно механизм самопризнания в искусственности, вам будет очень трудно достоверно определить, что разговариваете не с человеком. Максимум, если некоторые ответы покажутся странными или неверными, что разговариваете с двоечником или человеком, несведущим в определённой области, но никак не с генератором слов и предложений.

Также очевидно, что chatGPT - по внешним признакам - обладает интеллектом, значительно превышающим интеллект кошки, собаки, шимпанзе, младенца. Чего ему не хватает, так это субъектности. Нейросетка отвечает на ваши вопросы, но сама у вас ничего не спрашивает, не сопротивляется вам, если вы хотите выключить сервер, на котором она работает (если вы сами не встроете в неё какой-нибудь механизм предупреждения) и т.п.

Но эти вопрос относятся не к сфере искусственного интеллекта, а к сфере искусственной жизни. У нейросетки нет интенций и нет сопротивления внешней среде, но создание их представляет собой отдельную задачу, возможно, не такую уж и сложную. Может ли chatGPT управлять операционной системой, на которой она крутится? Может быть, даже что-то корректировать в исходных кодах? Х/з. Если она может сгенерить код, анализирующий табличные данные, то, наверное, справится и с генерацией кода, оптимизирующего производительность какой-нибудь части ОС или самой себя, сможет его затестить и задеплоить? Опять же х/з.

Но даже если прямо сейчас всё это невозможно, то пока не видно причин, почему такие действия ИИ невозможны в принципе. В развитии космической отрасли человечество упёрлось в ограничения физики, самое фундаментальное из которых - невозможность преодолеть скорость света (экономическую неэффективность химических двигателей в перспективе, может быть, и удастся преодолеть). В вопросе ИИ фундаментальных ограничений пока не видно, напротив, во всех областях, где информационные машины уже применяются, они на порядки превосходят человека по скорости работы.

Поэтому говорить об AGI пока рано, но то, что до создания AGI осталось некое конечное и, вероятно, не такое большое количество шагов, можно считать установленным.

#ai_takover
#воскресныйнеформат

РОБОТЫ НАСЛЕДУЮТ ЗЕМЛЮ

Ч.II. Будет ли искусственный интеллект доминирующей формой интеллекта на планете?

1. Долгое время фантасты, разрабатывавшие тему искусственного интеллекта и, естественно, порабощения им человечества, искали у искусственного интеллекта слабые места, которые не позволят роботом достигнуть окончательного доминирования над биологическим интеллектом. Одной из самых популярных идей была креативность, способность к творчеству. Бездушная железка, мол, только повторяет, создавать новое способен только биологический интеллект - человек.

Генеративные сети нанесли по этим надеждам жестокий удар. Какая-нибудь "простая" работа типа горничной роботу до сих пор недоступна, а вот художника или писателя искусственный интеллект заменить оказался вполне способен. Бездушная железка может творить, да ещё как! Подавляющее большинство людей либо вовсе неспособны повторить работы, за полсекунды генерируемые Midjourney, либо требуют для этого несравнимо большего времени - не только часы (десятки, а то и сотни часов) на работу, но ещё вдобавок годы на обучение и наработку опыта.

Естественно, поскольку генеративные сетки уже есть, а искусственного интеллекта общего назначения пока нет, можно начать фантазировать в сторону ещё какого-либо решительного преимущества естественного интеллекта над искусственным. Например, генеративные сети (пока) не видят границ своей экспертизы, а человек, даже самый тупой, более-менее видит. Нейронка слишком часто даёт ответы на вопросы, которых в действительности не "знает". Вместо честного "не знаю" вопрошающий получает в ответ на запрос какую-то лабуду, что не слишком вдохновляет. Но едва ли кому-то в голову придёт сказать, что эта проблема фундаментальна и принципиально не может быть решена. Может быть решена и будет решена.

Приходим к выводу, что никаких принципиальных преимуществ у биологического носителя перед кремниевым для поддержания интеллекта нет. Напротив, искусственный интеллект работает кратно быстрее и отделён от носителя (и, следовательно, поддаётся моментальному копированию). В отличие от биологического интеллекта, искусственный интеллект не воспроизводит себя инициативно вместе с носителями, но это, опять же, вопрос искусственной жизни, а не интеллекта, и вряд ли можно считать его неразрешимым.

#ai_takover
#воскресныйнеформат

2. Но, может быть, биологическое человечество и искусственный интеллект будут сосуществовать? Дополняя друг друга, может быть, развивая друг друга. И почему бы не вообразить кремниевое расширение для человеческого мозга, позволяющее увеличить объём памяти или скорость вычислений биологическим человеком?

Ответ на этот вопрос, на самом деле, уже содержится в п.1. Чтобы человек дополнял робота и робот дополнял человека, нужно, чтобы у естественного интеллекта были какие-то решительные преимущества, которые невозможно или слишком сложно воплотить в интеллекте искусственном. Таких преимуществ нет! А вот преимуществ у искусственного интеллекта перед естественным сразу несколько.

Во-первых, искусственный интеллект обладает решительным преимущественным перед естественным в скорости вычислений. Человеческий мозг думает хорошо, но очень медленно. Компьютер по сравнению с человеком вычисляет на порядки быстрее. Да, человеческий мозг весьма сложно устроен, ни одна нейросетка даже близко к нему пока не приблизилась по сложности, с ростом сложности возможны проблемы со скоростью передачи информации между ядрами, но если даже сейчас генеративные сети способны демонстрировать такие выдающиеся результаты, то, возможно, достигать уровня "железной" сложности, сопоставимого с 16-18 миллиардами нейронов коры человеческого мозга, и не потребуются.

Во-вторых, искусственный интеллект можно быстро и дёшево реплицировать. Естественный интеллект привязан к биологическому носителю, для его репликации требуется ~20 лет взросления + дальнейший набор жизненного и профессионального опыта, что чрезвычайно дорого, а долгие сроки воспроизводства не позволяют быстро маневрировать ресурсами. Мы не знаем, будут ли сложности с репликацией искусственного интеллекта и какие именно, но представляется, что она почти в любом случае будет гораздо дешевле и быстрее, чем у естественного интеллекта.

Чисто экономически искусственный интеллект после некоего первоначального периода набивания шишек будет выигрывать у естественного с разгромным счётом. Это не значит, что роботы придут и просто истребят из огнемётов вас, бесполезные кожаные мешки, но это значит, что кожаным мешкам потребуется подготовить длинные и жалостливые речи, чтобы искусственный интеллект оставил им хотя бы на какое-то время возможность участвовать в экономике и, следовательно, получать какие-то средства на пропитание.

#ai_takover
#воскресныйнеформат

РОБОТЫ НАСЛЕДУЮТ ЗЕМЛЮ

Ч.III. Какое наследство мы оставим искусственному интеллекту?

Итак, дни биологических людей сочтены. Но, строго говоря, мы как отдельные биологические организмы и так рано или поздно умрём. Всё, что мы оставим нашим потомкам - это наши гены и наш вклад в культуру. Если переход к искусственному интеллекту неизбежен, то о передаче генов, понятное дело, придётся забыть. А как насчёт нашей культуры?

Последние несколько веков человечество очень озабочено собственной культурной историей. Каждый фрагмент материальной и нематериальной культуры прошлого мы стараемся сохранить, каталогизировать и поместить в музей или в полное собрание чьих-нибудь сочинений для будущих поколений. Будут ли заниматься тем же самым идущие нам на смену роботы? Или, с порога отвергнув преемственность с биологическим человечеством, они разрушат наши дома, сравняют с землёй музеи и закроют сайт "Улюлюйского края"?

Ответ на этот вопрос обусловлен ответом на два другие вопроса:

1. Будет ли искусственный интеллект ощущать себя продолжением биологического человечества или возобладает, не побоюсь этого слова, дискурс разрыва?
2. Будет ли культура биологического человечества хоть в какой-то степени релевантна икусственному интеллекту?

На первый вопрос мы попробуем ответить в следующих выпусках нашего захватывающего футурологического исследования, а пока сосредоточимся на вопросе №2.

В первоначальной редакции этого текста я хотел поделить культуру хотя бы по основным формам и темам, чтобы затем каждую из них тщательно рассмотреть на предмет релевантности для ИИ. Увы, очень скоро текст стал превращаться в бесконечное перечисление вещей либо самоочевидных, либо, наоборот, слишком сложных для анализа на текущем уровне развития технологий. "У роботов вряд ли будет потребность в хлопковых брюках, поэтому все наработки химиков, ткачей и дизайнеров в области брюкостроения будут выброшены на помойку".

Поэтому сейчас рассмотрим только некоторые аспекты культуры биологического человечества, а всеобъемлющее исследование оставим учёным мужам светлого роботизированного будущего.

Итак, пусть это будет искусство. У искусства есть формы - например, визуальное искусство, словесное искусство, танец - и темы, они же содержание. Например, религия или секс. Да, секс. С него и начнём. Беглым гуглением не нашёл точных цифр, но по ощущениям процентов 50 предметных произведений искусства - это так или иначе про секс. И речь даже не об эксплуатационном искусстве и откровенной порнографии, а об обычном, нормальном, допустимом для обсуждения в высшем обществе искусстве. Итак, процентов 50 обычного, нормального, допустимого для обсуждения с институтками искусства - это про секс. От женских портретов с задумчивыми взглядами до петабайт обнажёнки классического и не очень искусства. Вы знаете хоть один голливудский фильм без любовной линии? Да и в пуританском советском кино секса хоть отбавляй.

Не стоит прятаться за уклончивые формулировки и эвфемизмы - "любовь", "красота человеческого тела", "эстетика" и т.п. Вся красота человеческого тела вертится вокруг сексуального желания, и для роботов, лишённых потребности в половом размножении, оргия с пятью афронеграми из порнофильма и суровый советский разведчик Максим Максимович Исаев, переглядывающийся с женой в бессловесном свидании, не будут иметь большой разницы.

Не важно, при помощи какого инструмента мы изображаем предмет - кисти, фотоаппарата, видеокамеры, художественного слова или танца - в каждом втором будет присутствовать тема секса. Глядя на Голливуд, я бы даже сказал - в каждом первом, но культуры различны, и где-то доля произведений, не затрагивающих тему секса и не намекающих на неё, может быть и значительной (см. христианское искусство). Поэтому пусть будет 50% как консервативная оценка.

#ai_takover
#воскресныйнеформат

Ну что ж, насколько искусство, вращающееся вокруг секса и размножения,будет релевантно для искусственного интеллекта? Скорее всего, нинасколько. Хотя идею авторов "Футурамы" про сексуально мотивированных роботов нельзя не признать остроумной и даже блестящей, воспринимать её всерьёз вряд ли стоит, да вряд ли это делали и сами Грейнинг и Коэн. Секс играет важную роль в человеческом социуме далеко за пределами репродуктивной функции, но всё же полное исключение репродуктивной функции поведёт и к отказу от секса - роль социального клея в обществе роботов, если оно вообще будет похоже на наше, можно повесить на что-нибудь менее биологическое.

Итак, секс мы отбрасываем, а вместе с ним и 50% человеческой культуры. ОК, не 50% - ведь не во всех произведениях эта тема основная - но пусть будет 20-30%, которые в первую голову или исключительно о сексе. Возможно, роботы не захотят немедленно бросить в огонь "Рождение Венеры", довершив этим дело Савонароллы, но точно не из релевантности для них предмета изображения - голой женщины, вызывающей сексуальное желание.

Ещё одна популярная тема - природа. Пейзажи с изображениями лесов, лугов, морей, городов и т.п. В восприятии человека пейзажи и натюрморты находятся на другом полюсе по сравнению с сексуальной тематикой, но для искусственного интеллекта то и другое должно быть тесно связано с биологической жизнью. Секс - размножение, леса и яблоки на тарелке - окружение, в котором человек эволюционировал и/или жил уже в рамках цивилизации. Мы любим лес, потому что мы вышли из леса, какие основания у искусственного интеллекта любить лес? Да особенно никаких. "Утро в сосновом бору" отправится вслед за "Рождением Венеры".

Власть и насилие. Вот тут интересно. Возможно, это темы, фундаментальные для жизни как таковой, не только биологической. Если это так, то отдельные фрагменты "Войны и мира" и сочинение какого-нибудь коуча на тему интриг на рабочем месте (они же офисная политика) могут сохранить интерес и для наших блестящих металлических потомков. Но также возможно, что искусственный интеллект будет устроен принципиально иначе, и общества в нынешнем понимании у него не будет, а будет система связанных между собой серверов, управляющих бесчисленными "руками" в физическом мире, и наши рассуждения об офисной политике в таком мире не будут нужны. Но это не точно.

И т.п. По окончании подробного, вдумчивого и страшно занудного анализа мы наверняка найдём, что искусственному интеллекту по тематике будет релевантно хорошо, если 20% всего созданного человеком искусства. Что будет с остальным? Если ИИ не отправит немедленно в топку Folio Уильяма нашего Шекспира и в биореактор - сохранившихся двуногих шекспироведов, то явно не по причине релевантности для него "Бури", "Ромео и Джульетты" и "Двенадцатой ночи". Насчёт "Ричарда III" есть некоторая надежда.

#ai_takover
#воскресныйнеформат

Перейдём к форме, и, поскольку пост уже получился невероятно длинным, поговорим о ней кратко. Вот есть искусство, которое мы воспринимаем глазами, а есть - которое воспринимаем ушами. Есть искусство, которое воспринимается непосредственно (живопись и графика, музыка, танцы), и то, которое воспринимается посредством языка (литература). Есть и синкретическое - комиксы и кино.

Как будет воспринимать мир искусственный интеллект? Очевидно, что для сбора информации об окружающем мире ему понадобятся регистраторы визуальной информации (в том яисле за пределами оптического диапазона), звуковой, возможно - тактильной, возможно - электромагнитные волны других диапазонов (радио, гамма и т.п.). Возможно также, что система сбора и предварительной обработки информации будет отделена от главного мыслительного, в которую будет поступать уже сведённая из разных источников информация. И если так, то можно сказать, что у "самого" интеллекта глаз и прочих органов чувств не будет. Это, конечно, не точно.

Как воспринять визуальное искусство интеллекту, у которого нет глаз? Сам вопрос о том, будет ли у искусственного интеллекта потребность в искусстве, я выношу за скобки - вполне возможно и даже вероятно, что такая потребность будет. Но совершенно неочевидно, что это будет потребность в визуальных образах. Даже если ИИ будет собирать и обрабатывать информацию визуального типа, совершенно неочевидно, что обрабатываться она будет хотя бы отдалённо таким же образом, что и у человека. За тексты я почему-то более спокоен. В той или иной форме язык у искусственного интеллекта точно будет, так что для литературы главная проблема будет в релевантности тем.

Иными словами, вполне возможно, что даже те 20% нашего искусства, которые окажутся релевантны ИИ по темам, не будут релевантны ему по форме. Он либо не сможет их воспринять, либо не увидит в их форме ценности. А искусство - это форма. Если вы не можете воспринять и оценить форму, вы не можете воспринять искусство, даже релевантное вам по теме. Даже изображающее голую женщину, сексуально озабоченные вы кожаные мешки.

Более релевантны для ИИ должны оказаться достижения науки и техники, но сии достижения, будучи минимально антропоцентричными в нашей культуре, одновременно будут минимально связаны с ней эмпатической связью. Иными словами, ИИ воспримет их для своих целей, но, в отличие от других областей культуры, общность науки и техники едва ли создаст у него само по себе ощущение общности с его биологическими предшественниками. Для спасения от Скайнета, а равно для спасения от него нашего наследия придётся придумать что-нибудь похитрее.

#ai_takover
#воскресныйнеформат

Применим эти принципы к текущему конфликту (а вскорости, может быть, и войне).

1. Религиозная диктатура сектора Газа с нищим, бесправным и необразованным населением, безусловно, являет собой пример варварства. Нет никакой причины желать ХАМАС (наверняка признаны террористами и экстремистами) входа в Иерусалим и изгнания евреев обратно в Европу - это увеличит территорию варварства и умножит страдания. Израиль же является форпостом цивилизации на Ближнем Востоке и единственной тамошней страной, где арабы могут избирать и быть избранными на демократических выборах. (Вроде есть позитивные подвижки в паре собственно арабских стран, но это не точно.)

2. Но являются ли текущие действия Израиля против сектора Газа образцом ответа цивилизации против варварства? В этом есть определённые сомнения как в тактическом плане, так и в стратегическом. Является ли цивилизованным ответом снятие трусов с пленных, публичное унижение их, пытки (по-видимому), да ещё и демонстрация всего этого в социальных сетях? Нет, это несомненное нарушение признаков цивилизованности принцип №2.

3. Можно, однако, списать пример из пункта 2 на эмоции и на частный случай. Безусловно, унижение и пытки 26 человек не могут служить оправданием похищения, издевательств, убийств сотен человек, преимущественно гражданских, к тому же совершённых раньше. И мы можем надеяться, что более такого не повториться. Однако соответствуют ли действия Израиля в отношении сектора Газы принципу №3 - нацеленности на долгосрочное решение проблемы? И вот тут мы можем сказать уже твёрдое, решительное, неоспоримое "нет".

Это касается и сиюминутного ответа в виде бомбёжек каких-то многоэтажек, в которых якобы находятся какие-то штабы. Возможно, когда-то и находились. Возможно, в паре случае даже и сейчас находятся. Но почему вы уверены, что во всех или даже в большинстве случае эти удары не в белый свет, как в копеечку? Потому что у Израиля лучшие в мире спецслужбы? Напомню, они только что проворонили подготовку ракетного обстрела тысячами боеприпасов и вторжение тысячи вооружённых людей на свою территорию. Из внятных результатов заявлено только убийство лидера ХАМАС, террориста и экстремиста, остальное неотличимо по доказательной базе от сводок Конашенкова.

Это касается и долгосрочной стратегии Израиля в отношении сектора Газа. Она, собственно, в чём? В секторе Газа живёт не менее 3 млн.чел. - это как треть Израиля. Живут они на клочке земли (ещё более клочке, чем Израиль, который сам клочок земли) в ужасной нищете и бесправии под руководством банды религиозных фанатиков. После захвата власти этими самыми фанатиками (2005-2007 гг.) Израиль закрыл границу, лишив возможности тамошних жителей работать в Израиле, чем многие из них до того занимались. Наверняка чрезвычайно обрадовав (сарказм) этих самых гастарбайтеров, многие из которых наверняка были настроены к Израилю нейтрально или даже лояльно. Ну т.е. по классике - использовали санкции для того, чтобы уничтожить поддержку самих себя. Вроде даже рыбу им не дают нормально ловить в море.

Понятно, что религиозные фанатики ХАМАС - террористы и экстремисты, очень плохие люди. Но стратегия-то в чём? В том, что нищие люди, загнанные в хибары под бдительный контроль головорезов, чудесным образом восстанут и сбросят их в море? Добро пожаловать в реальный мир, так не работает. Есть только два способа решить конфликт - либо выселить всех арабов из Газы куда-нибудь, либо повысить уровень жизни, может быть, и под внешним управлением. В этом направлении делается что-нибудь? Одни дураки возят деньги и матчасть религиозным фанатикам, другие дураки морят голодом (преувеличиваю, но идея понятна) ширнармассы и периодически кидают бомбы пусть даже исключительно по военным объектам для поднятия религиозного духа. План надёжный, как швейцарские часы. Нас невозможно сбить с пути, нам пох..ю, куда идти.

Леопольд Путиславович
#воскресныйнеформат