Начнём с того, что в японском переосмыслении сюжет немного отличается.
В оригинале Дантес был ложно обвинён, арестован, в тюрьме получил наставление от Аббата Фарии и сбежал, подменив собой тело умершего наставника в мешке для трупов.

Здесь — примерно то же самое, но в стиле «галлюциногенного sci-fi». Эдмон арестован и попадает в отдалённую космическую тюрьму, где содержится опасный преступник, заражённый демоном-вампиром по имени Ганкуцио. Тот взрывает тюрьму и переселяется в тело Эдмона в обмен на помощь в его мести.
(Как тебе такое, Дюма?) [2]

Собственно, оригинальное название аниме — «Ганкуцио». И тут стоит немного рассказать о мире. Это XVIII век… в космосе. Люди уже покорили Луну и Марс, но сохраняется сословная система, дворянство и даже передвижение в каретах (что, к слову, отсылает к прошлому посту про Джона Уика). Но самое интересное — это история создания самого проекта.

Изначально планировалась адаптация совсем другой книги — «Звёзды — моя цель», классического романа о космической мести. Но автор отозвал права, увидев, насколько сильно искажён сюжет. Тогда режиссёр решил, что с Дюма, по крайней мере, спорить уже некому — и просто поменял основу. Тематика-то осталась: месть, страдание, преображение. Осталось только добавить немного космоса.

Скажу сразу — у меня нет претензий к уровню безумия сюжета. Идея переноса «Графа Монте-Кристо» в научно-фантастическую вселенную действительно интересна. Проблема в другом: само аниме оказалось чересчур слащавым, наивным и совсем мне не близким.

Да и сюжет здесь, по большому счёту, не так уж важен. Главное — движение. Двигаются обои, тюремные решётки, окна, здания, костюмы, космические корабли — и твоё сознание. А персонажи застывают в позах, как будто их рисовал Ван Гог. Это единственный случай, когда я видел подобную стилизацию. И, судя по всему, последний — мир, похоже, решил больше так не экспериментировать.

Честно говоря, такая рисовка делает просмотр почти невыносимым. Людей, досмотревших до конца, можно назвать героями.

Несмотря на то что плохо сделано почти все, создавали это талантливейшие художники (чей талант, несомненно, проявляется в каких-то других работах). Работа получила ряд наград, хвалебные рецензии и, возможно, даже окупилась.
И всё же объяснений, кроме того что в 2004 году жили совсем другие люди, — не находится. И, кажется, нам их уже не понять.

#lit_meal №19

Альманах бедного Чарли
Питер Кауфман

Открыл эту книгу почти случайно. Обычно я не читаю бизнес-литературу, но тут попалось несколько рекомендаций, и стало интересно, что там вообще внутри. В итоге книга оказалась неожиданно классной. Это биография Чарли Мангера — партнёра Уоррена Баффета, вместе с которым они построили Berkshire Hathaway.

Первое, что меня поразило, — насколько Мангер хорошо знаком с научным методом и фреймворками рационального мышления. Понятно, что он читал работы Пинкера и мог многое почерпнуть оттуда, но всё равно это приятно удивляет.

Вот несколько цитат, которые особенно откликнулись:

«Лично я пришёл к тому, что использую своего рода двухколейный анализ… Один подход — рациональность: оценка реальных интересов и вероятностей. Другой — оценка психологических факторов, вызывающих подсознательные, часто ошибочные выводы».

«Быстро отсечь гигантскую вселенную того, чего делать не стоит; затем предпринять искусную мультидисциплинарную атаку на то, что осталось; и действовать решительно тогда, и только тогда, когда сложатся правильные обстоятельства».

Я лишь говорю, что можно научиться совершать меньше ошибок, чем другие, и быстрее исправлять их, когда они случаются.

«Каждый должен играть в эту игру, исходя из собственной предельной полезности и с учётом своей психологии».

Для меня самым неожиданным стало то, что вполне научные способы мышления оказываются настолько применимыми при работе с инвестиционным рынком. Хотя сомнения в том, что именно это сделало Мангера богатым, у меня всё же остаются 🙂

Вторая важная идея — междисциплинарность. Мангер считает, что для решения сложных проблем нужно знать фундаментальные модели из разных наук.

Что такое элементарная житейская мудрость? Первое правило гласит: вы не сможете ничего по-настоящему знать, если будете просто запоминать отдельные факты и пытаться их воспроизвести. Если факты не соединяются друг с другом на теоретической решетке, у вас нет их в пригодной для использования форме. В вашей голове должны быть модели. И вы должны распределять свой опыт — как полученный лично, так и почерпнутый из книг — по этой решетке моделей. Вы наверняка замечали студентов, которые просто пытаются зазубрить и выдать заученное. Что ж, они терпят крах и в учебе, и в жизни. Опыт нужно нанизывать на решетку ментальных моделей в вашем сознании.

Я поймал себя на мысли, что во взрослом возрасте потерял интерес к биологии и другим наукам, потому что не видел их прямой применимости к своим целям. Но, возможно, цена этого решения — слепые зоны: без базовых моделей я просто не замечаю часть информации или не умею её интерпретировать. Да, модели сами по себе не гарантируют достижение целей, но они повышают «разрешение» мышления: с более богатой решёткой проще видеть риски, возможности и причинно-следственные связи.

Третья мысль, которая сильно откликнулась, — про опасность полного доверия профессионалам:

«В конечном счёте, любая профессия — это заговор против непосвящённых».

Я часто ловил себя на желании полностью передать ответственность специалистам — будь то ВНЖ, тренер или врач. И нередко это заканчивалось либо финансовыми потерями, либо упущенными результатами. Вывод простой: в вопросе стоит разбираться самому, а от профессионала ждать не «мышления вместо тебя», а обратной связи и дополнения картины.

И наконец, было полезно в очередной раз вспомнить про сложный процент — хотя бы сам факт его существования. Это заставляет иначе смотреть на финансы и задумываться о том, сколько решения сегодня могут стоить или принести в будущем. По крайней мере, теперь всерьёз хочется попробовать анализировать траты с этой перспективы и наконец открыть инвестиционный счёт.

Итог:

Книга оказалась полезной: она помогла вспомнить некоторые знания и решиться применять их напрямую в жизни. Ничего принципиально нового я в ней не нашёл, но получил дополнительные подтверждения тем интуитивным догадкам, которые уже были.

7/10

#lit_meal №20

Ложная слепота
Питер Уоттс

О чём книга?

За четыре тысячи лет мы так и не смогли доказать себе, что реальность существует вне наблюдателя.
Компьютеры загружают собственных отпрысков, множатся, обретают мудрость столь непредставимую, что их отчёты несут явную печать маразма — едва разумным тварям, оставшимся позади, они кажутся рассеянными и бессмысленными.

Далёкое будущее, 2078 год. Сингулярность пройдена, искусственный интеллект ушёл далеко вперёд. Часть человечества проводит жизнь, будучи подключённой к виртуальной реальности под названием «Небеса».

Те, кто не выбирает путь подключения, радикально модифицируют себя, чтобы сохранить смысл и возможность конкурировать с машинами. Главный герой — один из таких людей, но не по собственной воле. В детстве у него развилась вирусная эпилепсия, и для лечения ему провели операцию: часть мозга удалили, заменив её искусственным интеллектом.

Теперь герой — синтет. «Живой» частью разума он воспринимает мир, а другая видит графы связей между объектами. Не имея возможности их осознать, он с помощью интуиций «переводит» эти графы на человеческий язык — интерпретирует вшитый в него ИИ, не понимая по-настоящему, что именно они означают. Устройство ввода-вывода. Китайская комната.

Сюжет начинается в момент, когда на орбите планеты появляются, фотографируют Землю и тут же сгорают 65 536 зондов. Так человечество узнаёт, что оно не одно во Вселенной, и герой вместе с небольшим экипажем отправляется в далёкий космос для первого контакта.

О чём книга на самом деле?

Каждый пианист знает: лучший способ испортить выступление — начать следить за движениями собственных пальцев.
Каждый танцор и гимнаст понимает, что тело должно действовать само, без участия сознательного разума.

Есть исследователь сознания и нейропсихологии — Томас Метцингер, автор книги Being No One. Это философская работа, предлагающая радикальную позицию: постоянного и неизменного «Я» не существует.

Насколько бы контринтуитивными ни казались выводы Метцингера и каким бы скепсисом я к нему ни относился, я считаю, что любой, кто прочитает хотя бы 20 % его книги, испытает искреннее желание делиться приведёнными там фактами.

Как минимум потому, что исследования Метцингера затрагивают множество необычных нейрофизиологических состояний. Например, ложная слепота — состояние, при котором человек на сознательном уровне считает себя слепым, но при этом продолжает видеть объекты. Однако они ощущаются не как изображения, а как интуитивные сигналы. (Антипод этого состояния — синдром Антона — был, к слову, описан в одной из книг Платонова.)

Понимаете, к чему я веду? Питер Уоттс писал эту книгу, находясь под сильным влиянием идей Метцингера. Большинство состояний, переживаемых героями этого космического хоррора, будто напрямую сошли со страниц его работ.

Основная тема книги — сознание. Дихотомия «сознание vs разум». Откуда оно берётся? Какова его функция? Где его слабые стороны? Каким оно могло бы быть (вампиры, ИИ)? И что было бы, если бы его не существовало вовсе?

Отвечает ли Уоттс на эти вопросы? Да. Он блестяще передаёт идеи Метцингера в художественной форме.

Достоверны ли эти ответы? Отвечу цитатой Питера Уоттса:

«Понятия не имею, насколько он прав — не мой уровень. Но он, по крайней мере, задал вопрос, который заставляет нас пялиться в потолок в третьем часу ночи, когда последняя сигарета давно докурена».

Про достоинства этой истории:

1. «Ложную слепоту» часто называют книгой с наибольшим количеством отсылок. Уоттс указал 144 научные статьи и книги в качестве источников. Зная это, я ожидал удушающей сухости — справочник по физике, выпотрошенный и кое-как собранный в форму романа.

Но оказалось иначе. Книга рефлексивная, обречённая, мрачная и претенциозная — и при этом удивительно живая.

2. В книге огромное количество необычных идей. Это почти учебник по тому, как интерпретировать научные факты и превращать их в истории.

Например, у Уоттса есть биологическое объяснение существования вампиров: это параллельная ветвь Homo sapiens, воскрешённая в будущем чудом нейроинженерии. Они вымерли 500 000 лет назад из-за зрительного глюка: увидев перекрестие, вампир испытывает эпилептический приступ. Это не было проблемой до появления у людей архитектуры.

Другая запомнившаяся идея — существование развивающейся формы жизни, у которой нет генов.

3. Двоякое будущее. Всей своей историей Уоттс рисует будущее, лишённое надежд: вампиры-психопаты управляют космическими кораблями, человечество растворено в нефункциональном коллективном разуме, а развитые компьютеры принципиально непонятны нам.

И всё же надежда здесь есть. Она скрыта в главном герое — воплощении китайской комнаты, наблюдателе, способном лишь переводить цифры.

Но чтобы это понять, книгу нужно прочитать

10/10

#lit_meal №21

И что с этим делать?

На мой взгляд, главный разлом между позициями в споре про ASI, alignment и меры безопасности — это вера во «второй шанс» и оценка сроков.

Про второй шанс всё довольно понятно.
Если ты веришь, что сначала случится ошибка, потом мы её спокойно исправим и в следующей итерации всё пойдёт лучше — то риск психологически «уменьшается». Большую часть книги авторы как раз тратят на аргумент: почему в случае ASI второго шанса может не быть вообще.

Со сроками сложнее.
Есть позиция: даже если технологии станут «сверхчеловеческими», реальный риск проявится не сразу — нужно время, чтобы это внедрилось в экономику, институты успели адаптироваться, появятся лучшие техники согласования.

Юдковски и Соарес спорят: при появлении ASI необязательно «официально назначать его директором мира». Достаточно самого факта существования сверхинтеллекта — дальше он может найти способы расширить влияние без того, чтобы люди добровольно передали ему рычаги. В этом их логика и их тревога.

Отсюда и радикальный вывод Элизера и Нейта — это тотальное прекращение разработки ИИ, внедрение слежки за дата-центрами и быстрое реагирование, если хоть где-либо в мире зафиксировано продолжение разработок ИИ до создания лучших решений в области alignment.

Заключение:

Книга имеет два прочтения:

Чтение без дополнительных материалов — тогда это честная, прямолинейная, местами провокационная история, при этом довольно простая. Она явно старается сделать объяснение проблемы доступным «обычному читателю» и собрать непротиворечивую картинку.

Чтение с дополнительными материалами — к главам есть расширения и разборы; некоторые из них заметно больше исходных глав. У книги есть официальный набор дополнительных онлайн-ресурсов по главам.

Если, читая этот пост, у вас возникают вопросы — ответы, скорее всего, уже есть в этих дополнительных материалах.

Моя рецензия, как видно, — попытка коротко объяснить, почему вы вообще регулярно видите споры про безопасность ИИ и в чём там, если по-простому, главная загвоздка.

К обсуждению приглашаю

#lit_meal №22