#переводы #цепочки #юдковский

Новый перевод на сайте — рассказ Элиезера Юдковского "Церемония посвящения", входящий в книгу "Рациональность: от ИИ до Зомби".

В "Рациональность: от ИИ до Зомби" Юдковский вставил несколько своих рассказов о мире "бейзутсукай", где рациональности учат, как боевому искусству, а чтобы получить доступ к знаниям, нужно пройти ритуал с мантиями и капюшонами. Этот мир похож на тот, что Юдковский описал в эссе "Чтобы распространять науку, держите её в тайне".

Этот рассказ завершает цепочку "Наслаждение обыденностью". Теперь эта цепочка полностью переведена на русский язык.

https://lesswrong.ru/w/Церемония_посвящения

#книги #юдковский

В 2017 году Элиезер Юдковский выпустил книгу "Неадекватное равновесие" ("Inadequate Equilibria"). Эта книга, как и многие другие его работы, тоже посвящена вопросу, как принимать "менее неправильные" решения, однако в ней больше уделено места вопросам экономики и общества.

Я написал заметку с пересказом основных идей этой книги.

Ссылка на текст в ВК: https://vk.com/@1948730-eliezer-yudkowsky-inadequate-equilibria
Ссылка на текст в ЖЖ: https://users.livejournal.com/alaric-/567981.html

#переводы #юдковский

Новый перевод на сайте - эссе Элиезера Юдковского "Лицензия героя".

Неделю назад я уже писал о вышедшей в 2017 году книге Юдковского "Неадекватное равновесие". Одновременно с этой книгой Юдковский опубликовал достаточно большой текст, где в диалоговой форме рассказал, как идеи, изложенные в "Неадекватном равновесии", связаны с его литературным творчеством (в частности с "Гарри Поттером и методами рационального мышления") и его работой в MIRI.

Хотя Юдковский в предисловии пишет, что этот текст дополняет "Неадекватное равновесие", с моей точки зрения, для его понимания читать книгу не обязательно. Читатели в комментариях на lesswrong.com отмечают, что с их точки зрения, в "Лицензии героя" и "Неадекватном равновесии" акценты оказались расставлены на достаточно разных вещах.

"Лицензия героя" может оказаться интересна людям, которые просто хотят узнать, как размышлял человек, написавший "ГПиМРМ", так и тем, кого волнуют вопросы, как понять, в какие области стоит направлять свои усилия.

https://lesswrong.ru/w/Лицензия_героя

#переводы #цепочки #юдковский

Новый перевод на сайте - эссе Элиезера Юдковского "Прорыв в исследованиях мозга! Он состоит из нейронов!"

В этом эссе в честь первого апреля Юдковский реализует свою идею, описанную в "Первое апреля: День удивительного открытия". В стиле современного пресс-релиза он описывает, как было открыто устройство мозга.

https://lesswrong.ru/w/Прорыв_в_исследованиях_мозга_Он_состоит_из_нейронов

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Замечания про зомби" из цепочки "Физикализм для продвинутых".

В этом эссе Юдковский продолжает рассуждать на тему философских зомби — придуманных некоторыми философами гипотетических существ, которые вообще ничем не отличаются от человека, однако при этом не имеют сознания. Эссе очень тесно связано с предыдущим эссе "Зомби! Зомби?"

https://lesswrong.ru/w/Замечания_про_зомби

#переводы #цепочки #юдковский

Новый перевод на сайте - эссе Элиезера Юдковского "Обобщённый принцип против зомби" из цепочки "Физикализм для продвинутых".

Эссе продолжает развивать тему философских зомби - гипотетических существ, не отличимых от человека во всём, кроме того, что у них нет сознания. Но что такое вообще сознание? Как о нём можно рассуждать? Стоит ли о нём рассуждать вообще?

https://lesswrong.ru/w/Обобщённый_принцип_против_зомби

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Обобщённый принцип против зомби и гигантская таблица поиска" из цепочки "Физикализм для продвинутых".

В предыдущих эссе Юдковский рассуждал о том, что, хотя мы не можем точно сформулировать, что такое сознание, однако, если мы считаем, что сознание как-то порождает то, что мы говорим о сознании, то сознание находится у нас в голове и связано с работой нейронов нашего головного мозга.

В данном эссе Юдковский разбирает возможное возражение: а что если мы заменим мозг гигантской таблицей поиска, в которую заложены все возможные входные и выходные данные? Нельзя же назвать такую таблицу сознанием? Или всё-таки можно?

Также в этом эссе Юдковский описывает игру "Следи за невероятностью", которая может помочь не только в рассуждениях о философских зомби.

https://lesswrong.ru/w/Обобщённый_принцип_против_зомби_и_гигантская_таблица_поиска

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Подразумеваемая невидимость" из цепочки "Физикализм для продвинутых".

Обсуждения философских зомби наталкивают на мысль: а что если просто заявить, что всего, что нельзя пронаблюдать в результате эксперимента, не существует?

В ответ на это Юдковский предлагает следующий мысленный эксперимент. Представим, что мы отправим фотон в космос куда-нибудь между сверхскоплениями галактик. Современная физика считает, что вселенная расширяется с ускорением. В этом случае, начиная с какого-то момента, мы даже принципиально никак не сможем провзаимодействовать с нашим фотоном. Следует ли считать, что после этого момента фотона не существует?

В чём тут разница с философскими зомби?

https://lesswrong.ru/w/Подразумеваемая_невидимость

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Не ради одного лишь счастья". Это первое эссе в цепочке "Фальшивые предпочтения".

Если мы придерживаемся редукционистской точки зрения на мир (а об этом было много в предыдущих эссе), то приходится признать, что счастье можно описать как некоторое состояние молекул нашего организма. Ощущение счастья связано с возбуждением нейронов некоторым образом, с соответствующим количеством некоторых веществ в крови и так далее.

И таким образом можно вообразить, что в будущем могут придумать таблетку, которую человек принимает и становится счастливым. Что можно принять таблетку и испытать ощущение от хорошо сделанной работы. Ощущение спортсмена в момент победы на Олимпиаде. Ощущение от решения сложной задачи.

Вы бы согласились принять подобную таблетку?

https://lesswrong.ru/w/Не_ради_одного_лишь_счастья

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Фальшивый эгоизм" из цепочки "Фальшивые предпочтения".

Некоторые люди иногда заявляют, будто они абсолютные эгоисты. Некоторые люди рассуждают, что всем стоит быть эгоистами. В этом коротком эссе Юдковский рассуждает о подобных рассуждениях.

https://lesswrong.ru/w/Фальшивый_эгоизм

#переводы #цепочки #юдковский

Новый перевод на сайте -- эссе Элиезера Юдковского "Фальшивая мораль" из цепочки "Фальшивые предпочтения".

В этом коротком эссе Юдковский ставит вопросы: что такое альтруизм, что такое эгоизм и как отличить их друг от друга?

https://lesswrong.ru/w/Фальшивая_мораль

#переводы #цепочки #юдковский

Новый перевод на сайте -- эссе Элиезера Юдковского "Паранормальные способности" из цепочки "Физикализм для продвинутых".

Это эссе продолжает тему, начатую в предыдущем эссе "Исключая сверхъестественное": Юдковский обсуждает обнаруженную у себя неточность.

Если предположить, что человеческий разум редуцируем до элементарных частиц, можем ли мы получить свидетельство о нередуцируемых сущностях, если они во вселенной вдруг есть?

https://lesswrong.ru/640

Цепочка "Физикализм для продвинутых" теперь выложена на сайте полностью.

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Фальшивые функции полезности" из цепочки "Фальшивые предпочтения".

Иногда при обсуждении какой-нибудь сложной проблемы некоторые люди говорят: "Проблему решить легко, нужно только сделать Х, и дальше всё само получится. Смотрите, Х приводит к таким-то и таким-то полезным последствиям".

На примере дискуссий о создании "дружественного" искусственного интеллекта Юдковский описывает, что в подобных аргументах может быть не так.

https://lesswrong.ru/641

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Наглядное объяснение теоремы Байеса".

Юдковский очень часто в своих эссе ссылается на байесианство и теорему Байеса. Но что это такое? Почему какой-то теореме из теории вероятностей придаётся такое большое значение?

https://lesswrong.ru/w/Наглядное_объяснение_теоремы_Байеса

Это сокращённая версия одного из самых первых эссе Юдковского по рациональности, которое он сейчас уже считает несколько устаревшим и вместо него рекомендует читать "Руководство по теореме Байеса" на Арбитале. Однако руководство с Арбитала пока ещё ждёт своего переводчика.

И теперь у нас на сайте выложены все эссе, входящие в первые три тома книги "Рациональность: от ИИ до Зомби".

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Квантовые объяснения".

Этим эссе Юдковский открывает цепочку "Квантовая механика и множественные миры". В эссе Юдковский рассуждает, что именно ему не нравится в традиционном способе объяснять квантовую механику, и предупреждает читателя о том, что будет дальше.

https://lesswrong.ru/644

#переводы #цепочки #юдковский

Новый перевод на сайте -- эссе Элиезера Юдковского "Ошибка выломанного рычага" из цепочки "Фальшивые предпочтения".

Некоторые люди при обсуждении вопроса, как сделать так, чтобы цели ИИ согласовывались с целями человека, считают, что просто нужно правильно воспитать ИИ. Ведь мы же умеем правильно воспитывать детей. Этот сюжет встречался и в некоторой фантастике.

Что здесь может пойти не так?

https://lesswrong.ru/646

#переводы #юдковский

Новый перевод на сайте -- эссе Элиезера Юдковского "Используйте слово «рационально», только если от него нельзя избавиться".

Это очень короткое эссе, поэтому вместо анонса я приведу его целиком.

===

Почти всегда, если в предложении используется слово «истина», его можно убрать, применив формулу Тарского. Например, если кто-то говорит: «Я убеждён, что небо синее, и это истина!», то это можно перефразировать как: «Я убеждён, что небо синее, и небо синее». Для любого «Предложение Х - истина» можно просто сказать Х и передать ту же самую информацию о своих убеждениях. Просто говорите о территории, которой карта предположительно соответствует, а не о карте.

Когда слово «истина» убрать нельзя? Когда вы говорите об общих принципах, касающихся соответствия между картой и территорией. Например: «Истинные теории с большей вероятностью дадут верные предсказания об исходах эксперимента». В этом предложении невозможно избавиться от слова «истинные», потому что здесь речь идёт о соответствии между картой и территорией в общем случае.

Аналогично можно убрать слово «рационально» из почти всех предложений, где оно используется. «Рационально считать, что небо синее», «Истина в том, что небо синее» и «Небо синее» передают абсолютно одинаковую информацию о цвете неба с вашей точки зрения. Не больше, не меньше.

Когда из предложения нельзя убрать слово «рационально»?

Когда вы формулируете общие принципы для алгоритмов мышления, которые приводят к соответствию между картой и территорией (эпистемическая рациональность) или направляют будущее туда, куда вы хотите (инструментальная рациональность). Можно убрать слово «рационально» из предложения «Рационально считать, что небо синее». Нельзя убрать слово «рационально» из предложения «Эпистемически рационально повышать свою уверенность в гипотезах, которые делают успешные предсказания». Табуировать это слово, конечно, можно, но вы получите что-то вроде: «Чтобы увеличить соответствие между картой и территорией, следуйте алгоритму, который требует увеличивать уверенность в гипотезе, которая делает успешные предсказания». Можно избавиться от слова, но не получится избавиться от самого понятия, не изменив смысла предложения, поскольку речь фактически идёт об универсальных алгоритмах мышления, которые строят соответствие между картой и территорией.

Никогда не следует использовать слово «рационально» без необходимости, то есть, если мы не обсуждаем алгоритмы мышления как алгоритмы.

Если вы хотите поговорить о том, как применить рациональность, чтобы купить самую крутую машину, но в первую очередь собираетесь рассуждать о машинах, а не о том, какие алгоритмы мышления самые лучшие, назовите свой пост «Как лучше покупать машину», а не «Как рационально покупать машину».

Спасибо за то, что соблюдаете технику безопасности.

===

https://lesswrong.ru/653

#встречи #цепочки #юдковский #онлайн

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Что звучит правдоподобнее: теория, что у нашей вселенной есть четкие устойчивые границы, или теория, что вселенная продолжает расширяться с ускорением?

Следуя бритве Оккама, сущности не следует умножать сверх необходимости. Значит ли это, что первая теория более верная, так как она ограничивает количество объектов во вселенной? Как оценить простоту теории? Чем теория декогеренции лучше теории коллапса?

Сегодня, 5 июля, мы продолжим обсуждать цепочку "Квантовая механика и множественные миры". Поговорим про следующие эссе:

- Декогеренция — это просто (Decoherence is Simple);
- Декогеренция фальсифицируема и проверяема (Decoherence is Falsifiable and Testable).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены.

Ссылка на оригиналы: Quantum Physics and Many Worlds

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/5xin32pbvbhefg4gxabgwjaodu

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.