#переводы #цепочки #юдковский
Новый перевод на сайте — рассказ Элиезера Юдковского "Церемония посвящения", входящий в книгу "Рациональность: от ИИ до Зомби".
В "Рациональность: от ИИ до Зомби" Юдковский вставил несколько своих рассказов о мире "бейзутсукай", где рациональности учат, как боевому искусству, а чтобы получить доступ к знаниям, нужно пройти ритуал с мантиями и капюшонами. Этот мир похож на тот, что Юдковский описал в эссе "Чтобы распространять науку, держите её в тайне".
Этот рассказ завершает цепочку "Наслаждение обыденностью". Теперь эта цепочка полностью переведена на русский язык.
https://lesswrong.ru/w/Церемония_посвящения
Новый перевод на сайте — рассказ Элиезера Юдковского "Церемония посвящения", входящий в книгу "Рациональность: от ИИ до Зомби".
В "Рациональность: от ИИ до Зомби" Юдковский вставил несколько своих рассказов о мире "бейзутсукай", где рациональности учат, как боевому искусству, а чтобы получить доступ к знаниям, нужно пройти ритуал с мантиями и капюшонами. Этот мир похож на тот, что Юдковский описал в эссе "Чтобы распространять науку, держите её в тайне".
Этот рассказ завершает цепочку "Наслаждение обыденностью". Теперь эта цепочка полностью переведена на русский язык.
https://lesswrong.ru/w/Церемония_посвящения
LessWrong на русском
Церемония посвящения
Узкую лестницу освещали яркие факелы неправильного цвета --- пламя напоминало расплавленное золото или осколки солнца. 192... 193... Сандалии Бреннана тихо щёлкали по каменным ступеням. Звуки напоминали стук медленно падающих костей домино. 227... 228...…
#книги #юдковский
В 2017 году Элиезер Юдковский выпустил книгу "Неадекватное равновесие" ("Inadequate Equilibria"). Эта книга, как и многие другие его работы, тоже посвящена вопросу, как принимать "менее неправильные" решения, однако в ней больше уделено места вопросам экономики и общества.
Я написал заметку с пересказом основных идей этой книги.
Ссылка на текст в ВК: https://vk.com/@1948730-eliezer-yudkowsky-inadequate-equilibria
Ссылка на текст в ЖЖ: https://users.livejournal.com/alaric-/567981.html
В 2017 году Элиезер Юдковский выпустил книгу "Неадекватное равновесие" ("Inadequate Equilibria"). Эта книга, как и многие другие его работы, тоже посвящена вопросу, как принимать "менее неправильные" решения, однако в ней больше уделено места вопросам экономики и общества.
Я написал заметку с пересказом основных идей этой книги.
Ссылка на текст в ВК: https://vk.com/@1948730-eliezer-yudkowsky-inadequate-equilibria
Ссылка на текст в ЖЖ: https://users.livejournal.com/alaric-/567981.html
VK
Элиезер Юдковский, «Неадекватное равновесие»
«Цивилизация существует для того, чтобы переходить от плохого равновесия к хорошему».
#переводы #юдковский
Новый перевод на сайте - эссе Элиезера Юдковского "Лицензия героя".
Неделю назад я уже писал о вышедшей в 2017 году книге Юдковского "Неадекватное равновесие". Одновременно с этой книгой Юдковский опубликовал достаточно большой текст, где в диалоговой форме рассказал, как идеи, изложенные в "Неадекватном равновесии", связаны с его литературным творчеством (в частности с "Гарри Поттером и методами рационального мышления") и его работой в MIRI.
Хотя Юдковский в предисловии пишет, что этот текст дополняет "Неадекватное равновесие", с моей точки зрения, для его понимания читать книгу не обязательно. Читатели в комментариях на lesswrong.com отмечают, что с их точки зрения, в "Лицензии героя" и "Неадекватном равновесии" акценты оказались расставлены на достаточно разных вещах.
"Лицензия героя" может оказаться интересна людям, которые просто хотят узнать, как размышлял человек, написавший "ГПиМРМ", так и тем, кого волнуют вопросы, как понять, в какие области стоит направлять свои усилия.
https://lesswrong.ru/w/Лицензия_героя
Новый перевод на сайте - эссе Элиезера Юдковского "Лицензия героя".
Неделю назад я уже писал о вышедшей в 2017 году книге Юдковского "Неадекватное равновесие". Одновременно с этой книгой Юдковский опубликовал достаточно большой текст, где в диалоговой форме рассказал, как идеи, изложенные в "Неадекватном равновесии", связаны с его литературным творчеством (в частности с "Гарри Поттером и методами рационального мышления") и его работой в MIRI.
Хотя Юдковский в предисловии пишет, что этот текст дополняет "Неадекватное равновесие", с моей точки зрения, для его понимания читать книгу не обязательно. Читатели в комментариях на lesswrong.com отмечают, что с их точки зрения, в "Лицензии героя" и "Неадекватном равновесии" акценты оказались расставлены на достаточно разных вещах.
"Лицензия героя" может оказаться интересна людям, которые просто хотят узнать, как размышлял человек, написавший "ГПиМРМ", так и тем, кого волнуют вопросы, как понять, в какие области стоит направлять свои усилия.
https://lesswrong.ru/w/Лицензия_героя
#переводы #цепочки #юдковский
Новый перевод на сайте - эссе Элиезера Юдковского "Прорыв в исследованиях мозга! Он состоит из нейронов!"
В этом эссе в честь первого апреля Юдковский реализует свою идею, описанную в "Первое апреля: День удивительного открытия". В стиле современного пресс-релиза он описывает, как было открыто устройство мозга.
https://lesswrong.ru/w/Прорыв_в_исследованиях_мозга_Он_состоит_из_нейронов
Новый перевод на сайте - эссе Элиезера Юдковского "Прорыв в исследованиях мозга! Он состоит из нейронов!"
В этом эссе в честь первого апреля Юдковский реализует свою идею, описанную в "Первое апреля: День удивительного открытия". В стиле современного пресс-релиза он описывает, как было открыто устройство мозга.
https://lesswrong.ru/w/Прорыв_в_исследованиях_мозга_Он_состоит_из_нейронов
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Замечания про зомби" из цепочки "Физикализм для продвинутых".
В этом эссе Юдковский продолжает рассуждать на тему философских зомби — придуманных некоторыми философами гипотетических существ, которые вообще ничем не отличаются от человека, однако при этом не имеют сознания. Эссе очень тесно связано с предыдущим эссе "Зомби! Зомби?"
https://lesswrong.ru/w/Замечания_про_зомби
Новый перевод на сайте — эссе Элиезера Юдковского "Замечания про зомби" из цепочки "Физикализм для продвинутых".
В этом эссе Юдковский продолжает рассуждать на тему философских зомби — придуманных некоторыми философами гипотетических существ, которые вообще ничем не отличаются от человека, однако при этом не имеют сознания. Эссе очень тесно связано с предыдущим эссе "Зомби! Зомби?"
https://lesswrong.ru/w/Замечания_про_зомби
#переводы #цепочки #юдковский
Новый перевод на сайте - эссе Элиезера Юдковского "Обобщённый принцип против зомби" из цепочки "Физикализм для продвинутых".
Эссе продолжает развивать тему философских зомби - гипотетических существ, не отличимых от человека во всём, кроме того, что у них нет сознания. Но что такое вообще сознание? Как о нём можно рассуждать? Стоит ли о нём рассуждать вообще?
https://lesswrong.ru/w/Обобщённый_принцип_против_зомби
Новый перевод на сайте - эссе Элиезера Юдковского "Обобщённый принцип против зомби" из цепочки "Физикализм для продвинутых".
Эссе продолжает развивать тему философских зомби - гипотетических существ, не отличимых от человека во всём, кроме того, что у них нет сознания. Но что такое вообще сознание? Как о нём можно рассуждать? Стоит ли о нём рассуждать вообще?
https://lesswrong.ru/w/Обобщённый_принцип_против_зомби
LessWrong на русском
Обобщённый принцип против зомби
> > Пользуясь каждой найденной истиной для нахождения новых. > > --- *Рене Декарт, "Рассуждение о методе"*.[fn]Пер. Г.Г. Слюсарева и А.П. Юшкевича --- Прим. перев.[/fn] "[Зомби](/w/Зомби_Зомби "Зомби! Зомби?")" --- это гипотетические создания, идентичные…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Обобщённый принцип против зомби и гигантская таблица поиска" из цепочки "Физикализм для продвинутых".
В предыдущих эссе Юдковский рассуждал о том, что, хотя мы не можем точно сформулировать, что такое сознание, однако, если мы считаем, что сознание как-то порождает то, что мы говорим о сознании, то сознание находится у нас в голове и связано с работой нейронов нашего головного мозга.
В данном эссе Юдковский разбирает возможное возражение: а что если мы заменим мозг гигантской таблицей поиска, в которую заложены все возможные входные и выходные данные? Нельзя же назвать такую таблицу сознанием? Или всё-таки можно?
Также в этом эссе Юдковский описывает игру "Следи за невероятностью", которая может помочь не только в рассуждениях о философских зомби.
https://lesswrong.ru/w/Обобщённый_принцип_против_зомби_и_гигантская_таблица_поиска
Новый перевод на сайте — эссе Элиезера Юдковского "Обобщённый принцип против зомби и гигантская таблица поиска" из цепочки "Физикализм для продвинутых".
В предыдущих эссе Юдковский рассуждал о том, что, хотя мы не можем точно сформулировать, что такое сознание, однако, если мы считаем, что сознание как-то порождает то, что мы говорим о сознании, то сознание находится у нас в голове и связано с работой нейронов нашего головного мозга.
В данном эссе Юдковский разбирает возможное возражение: а что если мы заменим мозг гигантской таблицей поиска, в которую заложены все возможные входные и выходные данные? Нельзя же назвать такую таблицу сознанием? Или всё-таки можно?
Также в этом эссе Юдковский описывает игру "Следи за невероятностью", которая может помочь не только в рассуждениях о философских зомби.
https://lesswrong.ru/w/Обобщённый_принцип_против_зомби_и_гигантская_таблица_поиска
LessWrong на русском
Обобщённый принцип против зомби и гигантская таблица поиска
В "Невообразимой нелепости зомби" Дэниел Деннетт пишет[fn]Daniel C. Dennett, “The Unimagined Preposterousness of Zombies,” Journal of Consciousness Studies 2 (4 1995): 322–26.[/fn]: > Уже несколько философов заявили, что планируют принять мой вызов и выдвинуть…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Подразумеваемая невидимость" из цепочки "Физикализм для продвинутых".
Обсуждения философских зомби наталкивают на мысль: а что если просто заявить, что всего, что нельзя пронаблюдать в результате эксперимента, не существует?
В ответ на это Юдковский предлагает следующий мысленный эксперимент. Представим, что мы отправим фотон в космос куда-нибудь между сверхскоплениями галактик. Современная физика считает, что вселенная расширяется с ускорением. В этом случае, начиная с какого-то момента, мы даже принципиально никак не сможем провзаимодействовать с нашим фотоном. Следует ли считать, что после этого момента фотона не существует?
В чём тут разница с философскими зомби?
https://lesswrong.ru/w/Подразумеваемая_невидимость
Новый перевод на сайте — эссе Элиезера Юдковского "Подразумеваемая невидимость" из цепочки "Физикализм для продвинутых".
Обсуждения философских зомби наталкивают на мысль: а что если просто заявить, что всего, что нельзя пронаблюдать в результате эксперимента, не существует?
В ответ на это Юдковский предлагает следующий мысленный эксперимент. Представим, что мы отправим фотон в космос куда-нибудь между сверхскоплениями галактик. Современная физика считает, что вселенная расширяется с ускорением. В этом случае, начиная с какого-то момента, мы даже принципиально никак не сможем провзаимодействовать с нашим фотоном. Следует ли считать, что после этого момента фотона не существует?
В чём тут разница с философскими зомби?
https://lesswrong.ru/w/Подразумеваемая_невидимость
LessWrong на русском
Подразумеваемая невидимость
Может появиться искушение обобщить аргумент против зомби в виде: "То, что нельзя увидеть, --- не существует". Однако так делать не стоит. Это очень заманчивое обобщение. В таком виде аргумент против зомби стал бы гораздо проще и применять его в будущем было…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Не ради одного лишь счастья". Это первое эссе в цепочке "Фальшивые предпочтения".
Если мы придерживаемся редукционистской точки зрения на мир (а об этом было много в предыдущих эссе), то приходится признать, что счастье можно описать как некоторое состояние молекул нашего организма. Ощущение счастья связано с возбуждением нейронов некоторым образом, с соответствующим количеством некоторых веществ в крови и так далее.
И таким образом можно вообразить, что в будущем могут придумать таблетку, которую человек принимает и становится счастливым. Что можно принять таблетку и испытать ощущение от хорошо сделанной работы. Ощущение спортсмена в момент победы на Олимпиаде. Ощущение от решения сложной задачи.
Вы бы согласились принять подобную таблетку?
https://lesswrong.ru/w/Не_ради_одного_лишь_счастья
Новый перевод на сайте — эссе Элиезера Юдковского "Не ради одного лишь счастья". Это первое эссе в цепочке "Фальшивые предпочтения".
Если мы придерживаемся редукционистской точки зрения на мир (а об этом было много в предыдущих эссе), то приходится признать, что счастье можно описать как некоторое состояние молекул нашего организма. Ощущение счастья связано с возбуждением нейронов некоторым образом, с соответствующим количеством некоторых веществ в крови и так далее.
И таким образом можно вообразить, что в будущем могут придумать таблетку, которую человек принимает и становится счастливым. Что можно принять таблетку и испытать ощущение от хорошо сделанной работы. Ощущение спортсмена в момент победы на Олимпиаде. Ощущение от решения сложной задачи.
Вы бы согласились принять подобную таблетку?
https://lesswrong.ru/w/Не_ради_одного_лишь_счастья
LessWrong на русском
Не ради одного лишь счастья
Несколько лет назад я ходил на встречу с футуристом Грегом Стоком. Во время встречи он рассуждал, что вскоре радость научного открытия можно будет заменить таблетками, имитирующими радость научного открытия. После его выступления я подошёл к нему и сказал:…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Фальшивый эгоизм" из цепочки "Фальшивые предпочтения".
Некоторые люди иногда заявляют, будто они абсолютные эгоисты. Некоторые люди рассуждают, что всем стоит быть эгоистами. В этом коротком эссе Юдковский рассуждает о подобных рассуждениях.
https://lesswrong.ru/w/Фальшивый_эгоизм
Новый перевод на сайте — эссе Элиезера Юдковского "Фальшивый эгоизм" из цепочки "Фальшивые предпочтения".
Некоторые люди иногда заявляют, будто они абсолютные эгоисты. Некоторые люди рассуждают, что всем стоит быть эгоистами. В этом коротком эссе Юдковский рассуждает о подобных рассуждениях.
https://lesswrong.ru/w/Фальшивый_эгоизм
LessWrong на русском
Фальшивый эгоизм
Однажды я встретил человека, который заявлял, будто он абсолютный эгоист. И мне он тоже посоветовал быть абсолютным эгоистом.
#переводы #цепочки #юдковский
Новый перевод на сайте -- эссе Элиезера Юдковского "Фальшивая мораль" из цепочки "Фальшивые предпочтения".
В этом коротком эссе Юдковский ставит вопросы: что такое альтруизм, что такое эгоизм и как отличить их друг от друга?
https://lesswrong.ru/w/Фальшивая_мораль
Новый перевод на сайте -- эссе Элиезера Юдковского "Фальшивая мораль" из цепочки "Фальшивые предпочтения".
В этом коротком эссе Юдковский ставит вопросы: что такое альтруизм, что такое эгоизм и как отличить их друг от друга?
https://lesswrong.ru/w/Фальшивая_мораль
LessWrong на русском
Фальшивая мораль
По словам религиозных фундаменталистов, источником морали является Бог. Не может быть морали без Судьи, который награждает и наказывает. Если бы мы не боялись ада и не стремились в рай, то что мешало бы людям убивать друг друга направо и налево?
#переводы #цепочки #юдковский
Новый перевод на сайте -- эссе Элиезера Юдковского "Паранормальные способности" из цепочки "Физикализм для продвинутых".
Это эссе продолжает тему, начатую в предыдущем эссе "Исключая сверхъестественное": Юдковский обсуждает обнаруженную у себя неточность.
Если предположить, что человеческий разум редуцируем до элементарных частиц, можем ли мы получить свидетельство о нередуцируемых сущностях, если они во вселенной вдруг есть?
https://lesswrong.ru/640
Цепочка "Физикализм для продвинутых" теперь выложена на сайте полностью.
Новый перевод на сайте -- эссе Элиезера Юдковского "Паранормальные способности" из цепочки "Физикализм для продвинутых".
Это эссе продолжает тему, начатую в предыдущем эссе "Исключая сверхъестественное": Юдковский обсуждает обнаруженную у себя неточность.
Если предположить, что человеческий разум редуцируем до элементарных частиц, можем ли мы получить свидетельство о нередуцируемых сущностях, если они во вселенной вдруг есть?
https://lesswrong.ru/640
Цепочка "Физикализм для продвинутых" теперь выложена на сайте полностью.
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Фальшивые функции полезности" из цепочки "Фальшивые предпочтения".
Иногда при обсуждении какой-нибудь сложной проблемы некоторые люди говорят: "Проблему решить легко, нужно только сделать Х, и дальше всё само получится. Смотрите, Х приводит к таким-то и таким-то полезным последствиям".
На примере дискуссий о создании "дружественного" искусственного интеллекта Юдковский описывает, что в подобных аргументах может быть не так.
https://lesswrong.ru/641
Новый перевод на сайте — эссе Элиезера Юдковского "Фальшивые функции полезности" из цепочки "Фальшивые предпочтения".
Иногда при обсуждении какой-нибудь сложной проблемы некоторые люди говорят: "Проблему решить легко, нужно только сделать Х, и дальше всё само получится. Смотрите, Х приводит к таким-то и таким-то полезным последствиям".
На примере дискуссий о создании "дружественного" искусственного интеллекта Юдковский описывает, что в подобных аргументах может быть не так.
https://lesswrong.ru/641
LessWrong на русском
Фальшивые функции полезности
Время от времени встречаются люди, которые открыли "Самый главный моральный принцип". Все остальные ценности для них оказываются лишь следствиями этого принципа. Я сталкиваюсь с такими людьми чаще других. В моём случае это люди, которые знают об удивительно…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Наглядное объяснение теоремы Байеса".
Юдковский очень часто в своих эссе ссылается на байесианство и теорему Байеса. Но что это такое? Почему какой-то теореме из теории вероятностей придаётся такое большое значение?
https://lesswrong.ru/w/Наглядное_объяснение_теоремы_Байеса
Это сокращённая версия одного из самых первых эссе Юдковского по рациональности, которое он сейчас уже считает несколько устаревшим и вместо него рекомендует читать "Руководство по теореме Байеса" на Арбитале. Однако руководство с Арбитала пока ещё ждёт своего переводчика.
И теперь у нас на сайте выложены все эссе, входящие в первые три тома книги "Рациональность: от ИИ до Зомби".
Новый перевод на сайте — эссе Элиезера Юдковского "Наглядное объяснение теоремы Байеса".
Юдковский очень часто в своих эссе ссылается на байесианство и теорему Байеса. Но что это такое? Почему какой-то теореме из теории вероятностей придаётся такое большое значение?
https://lesswrong.ru/w/Наглядное_объяснение_теоремы_Байеса
Это сокращённая версия одного из самых первых эссе Юдковского по рациональности, которое он сейчас уже считает несколько устаревшим и вместо него рекомендует читать "Руководство по теореме Байеса" на Арбитале. Однако руководство с Арбитала пока ещё ждёт своего переводчика.
И теперь у нас на сайте выложены все эссе, входящие в первые три тома книги "Рациональность: от ИИ до Зомби".
LessWrong на русском
Наглядное объяснение теоремы Байеса
*Примечание редактора книги:* Это сокращённая версия [исходного эссе](https://www.yudkowsky.net/rational/bayes) со множеством интерактивных элементов. *Примечание редактора сайта:* Упомянутые выше интерактивные элементы, увы, уже давно не поддерживаются ни…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Квантовые объяснения".
Этим эссе Юдковский открывает цепочку "Квантовая механика и множественные миры". В эссе Юдковский рассуждает, что именно ему не нравится в традиционном способе объяснять квантовую механику, и предупреждает читателя о том, что будет дальше.
https://lesswrong.ru/644
Новый перевод на сайте — эссе Элиезера Юдковского "Квантовые объяснения".
Этим эссе Юдковский открывает цепочку "Квантовая механика и множественные миры". В эссе Юдковский рассуждает, что именно ему не нравится в традиционном способе объяснять квантовую механику, и предупреждает читателя о том, что будет дальше.
https://lesswrong.ru/644
LessWrong на русском
Квантовые объяснения
Часто говорят, что квантовая механика должна быть непонятной. Это плохой подход --- как для ученика, так и для преподавателя. Я же обнаружил, что традиционно "непонятные" предметы обычно проще математики. Особенно если хочется всего лишь понять самые основы…
#переводы #цепочки #юдковский
Новый перевод на сайте -- эссе Элиезера Юдковского "Ошибка выломанного рычага" из цепочки "Фальшивые предпочтения".
Некоторые люди при обсуждении вопроса, как сделать так, чтобы цели ИИ согласовывались с целями человека, считают, что просто нужно правильно воспитать ИИ. Ведь мы же умеем правильно воспитывать детей. Этот сюжет встречался и в некоторой фантастике.
Что здесь может пойти не так?
https://lesswrong.ru/646
Новый перевод на сайте -- эссе Элиезера Юдковского "Ошибка выломанного рычага" из цепочки "Фальшивые предпочтения".
Некоторые люди при обсуждении вопроса, как сделать так, чтобы цели ИИ согласовывались с целями человека, считают, что просто нужно правильно воспитать ИИ. Ведь мы же умеем правильно воспитывать детей. Этот сюжет встречался и в некоторой фантастике.
Что здесь может пойти не так?
https://lesswrong.ru/646
LessWrong на русском
Ошибка выломанного рычага
Имя этой ошибки происходит из древнего научно-фантастического сериала, которого я сам не видел. Я узнал об этом сериале из надёжного источника --- от какого-то парня на конвенте, посвящённом научной фантастике. Если вы знаете, что это за сериал, напишите…