#книги #юдковский
В 2017 году Элиезер Юдковский выпустил книгу "Неадекватное равновесие" ("Inadequate Equilibria"). Эта книга, как и многие другие его работы, тоже посвящена вопросу, как принимать "менее неправильные" решения, однако в ней больше уделено места вопросам экономики и общества.
Я написал заметку с пересказом основных идей этой книги.
Ссылка на текст в ВК: https://vk.com/@1948730-eliezer-yudkowsky-inadequate-equilibria
Ссылка на текст в ЖЖ: https://users.livejournal.com/alaric-/567981.html
В 2017 году Элиезер Юдковский выпустил книгу "Неадекватное равновесие" ("Inadequate Equilibria"). Эта книга, как и многие другие его работы, тоже посвящена вопросу, как принимать "менее неправильные" решения, однако в ней больше уделено места вопросам экономики и общества.
Я написал заметку с пересказом основных идей этой книги.
Ссылка на текст в ВК: https://vk.com/@1948730-eliezer-yudkowsky-inadequate-equilibria
Ссылка на текст в ЖЖ: https://users.livejournal.com/alaric-/567981.html
VK
Элиезер Юдковский, «Неадекватное равновесие»
«Цивилизация существует для того, чтобы переходить от плохого равновесия к хорошему».
#переводы #юдковский
Новый перевод на сайте - эссе Элиезера Юдковского "Лицензия героя".
Неделю назад я уже писал о вышедшей в 2017 году книге Юдковского "Неадекватное равновесие". Одновременно с этой книгой Юдковский опубликовал достаточно большой текст, где в диалоговой форме рассказал, как идеи, изложенные в "Неадекватном равновесии", связаны с его литературным творчеством (в частности с "Гарри Поттером и методами рационального мышления") и его работой в MIRI.
Хотя Юдковский в предисловии пишет, что этот текст дополняет "Неадекватное равновесие", с моей точки зрения, для его понимания читать книгу не обязательно. Читатели в комментариях на lesswrong.com отмечают, что с их точки зрения, в "Лицензии героя" и "Неадекватном равновесии" акценты оказались расставлены на достаточно разных вещах.
"Лицензия героя" может оказаться интересна людям, которые просто хотят узнать, как размышлял человек, написавший "ГПиМРМ", так и тем, кого волнуют вопросы, как понять, в какие области стоит направлять свои усилия.
https://lesswrong.ru/w/Лицензия_героя
Новый перевод на сайте - эссе Элиезера Юдковского "Лицензия героя".
Неделю назад я уже писал о вышедшей в 2017 году книге Юдковского "Неадекватное равновесие". Одновременно с этой книгой Юдковский опубликовал достаточно большой текст, где в диалоговой форме рассказал, как идеи, изложенные в "Неадекватном равновесии", связаны с его литературным творчеством (в частности с "Гарри Поттером и методами рационального мышления") и его работой в MIRI.
Хотя Юдковский в предисловии пишет, что этот текст дополняет "Неадекватное равновесие", с моей точки зрения, для его понимания читать книгу не обязательно. Читатели в комментариях на lesswrong.com отмечают, что с их точки зрения, в "Лицензии героя" и "Неадекватном равновесии" акценты оказались расставлены на достаточно разных вещах.
"Лицензия героя" может оказаться интересна людям, которые просто хотят узнать, как размышлял человек, написавший "ГПиМРМ", так и тем, кого волнуют вопросы, как понять, в какие области стоит направлять свои усилия.
https://lesswrong.ru/w/Лицензия_героя
#переводы #цепочки #юдковский
Новый перевод на сайте - эссе Элиезера Юдковского "Прорыв в исследованиях мозга! Он состоит из нейронов!"
В этом эссе в честь первого апреля Юдковский реализует свою идею, описанную в "Первое апреля: День удивительного открытия". В стиле современного пресс-релиза он описывает, как было открыто устройство мозга.
https://lesswrong.ru/w/Прорыв_в_исследованиях_мозга_Он_состоит_из_нейронов
Новый перевод на сайте - эссе Элиезера Юдковского "Прорыв в исследованиях мозга! Он состоит из нейронов!"
В этом эссе в честь первого апреля Юдковский реализует свою идею, описанную в "Первое апреля: День удивительного открытия". В стиле современного пресс-релиза он описывает, как было открыто устройство мозга.
https://lesswrong.ru/w/Прорыв_в_исследованиях_мозга_Он_состоит_из_нейронов
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Замечания про зомби" из цепочки "Физикализм для продвинутых".
В этом эссе Юдковский продолжает рассуждать на тему философских зомби — придуманных некоторыми философами гипотетических существ, которые вообще ничем не отличаются от человека, однако при этом не имеют сознания. Эссе очень тесно связано с предыдущим эссе "Зомби! Зомби?"
https://lesswrong.ru/w/Замечания_про_зомби
Новый перевод на сайте — эссе Элиезера Юдковского "Замечания про зомби" из цепочки "Физикализм для продвинутых".
В этом эссе Юдковский продолжает рассуждать на тему философских зомби — придуманных некоторыми философами гипотетических существ, которые вообще ничем не отличаются от человека, однако при этом не имеют сознания. Эссе очень тесно связано с предыдущим эссе "Зомби! Зомби?"
https://lesswrong.ru/w/Замечания_про_зомби
#переводы #цепочки #юдковский
Новый перевод на сайте - эссе Элиезера Юдковского "Обобщённый принцип против зомби" из цепочки "Физикализм для продвинутых".
Эссе продолжает развивать тему философских зомби - гипотетических существ, не отличимых от человека во всём, кроме того, что у них нет сознания. Но что такое вообще сознание? Как о нём можно рассуждать? Стоит ли о нём рассуждать вообще?
https://lesswrong.ru/w/Обобщённый_принцип_против_зомби
Новый перевод на сайте - эссе Элиезера Юдковского "Обобщённый принцип против зомби" из цепочки "Физикализм для продвинутых".
Эссе продолжает развивать тему философских зомби - гипотетических существ, не отличимых от человека во всём, кроме того, что у них нет сознания. Но что такое вообще сознание? Как о нём можно рассуждать? Стоит ли о нём рассуждать вообще?
https://lesswrong.ru/w/Обобщённый_принцип_против_зомби
LessWrong на русском
Обобщённый принцип против зомби
> > Пользуясь каждой найденной истиной для нахождения новых. > > --- *Рене Декарт, "Рассуждение о методе"*.[fn]Пер. Г.Г. Слюсарева и А.П. Юшкевича --- Прим. перев.[/fn] "[Зомби](/w/Зомби_Зомби "Зомби! Зомби?")" --- это гипотетические создания, идентичные…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Обобщённый принцип против зомби и гигантская таблица поиска" из цепочки "Физикализм для продвинутых".
В предыдущих эссе Юдковский рассуждал о том, что, хотя мы не можем точно сформулировать, что такое сознание, однако, если мы считаем, что сознание как-то порождает то, что мы говорим о сознании, то сознание находится у нас в голове и связано с работой нейронов нашего головного мозга.
В данном эссе Юдковский разбирает возможное возражение: а что если мы заменим мозг гигантской таблицей поиска, в которую заложены все возможные входные и выходные данные? Нельзя же назвать такую таблицу сознанием? Или всё-таки можно?
Также в этом эссе Юдковский описывает игру "Следи за невероятностью", которая может помочь не только в рассуждениях о философских зомби.
https://lesswrong.ru/w/Обобщённый_принцип_против_зомби_и_гигантская_таблица_поиска
Новый перевод на сайте — эссе Элиезера Юдковского "Обобщённый принцип против зомби и гигантская таблица поиска" из цепочки "Физикализм для продвинутых".
В предыдущих эссе Юдковский рассуждал о том, что, хотя мы не можем точно сформулировать, что такое сознание, однако, если мы считаем, что сознание как-то порождает то, что мы говорим о сознании, то сознание находится у нас в голове и связано с работой нейронов нашего головного мозга.
В данном эссе Юдковский разбирает возможное возражение: а что если мы заменим мозг гигантской таблицей поиска, в которую заложены все возможные входные и выходные данные? Нельзя же назвать такую таблицу сознанием? Или всё-таки можно?
Также в этом эссе Юдковский описывает игру "Следи за невероятностью", которая может помочь не только в рассуждениях о философских зомби.
https://lesswrong.ru/w/Обобщённый_принцип_против_зомби_и_гигантская_таблица_поиска
LessWrong на русском
Обобщённый принцип против зомби и гигантская таблица поиска
В "Невообразимой нелепости зомби" Дэниел Деннетт пишет[fn]Daniel C. Dennett, “The Unimagined Preposterousness of Zombies,” Journal of Consciousness Studies 2 (4 1995): 322–26.[/fn]: > Уже несколько философов заявили, что планируют принять мой вызов и выдвинуть…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Подразумеваемая невидимость" из цепочки "Физикализм для продвинутых".
Обсуждения философских зомби наталкивают на мысль: а что если просто заявить, что всего, что нельзя пронаблюдать в результате эксперимента, не существует?
В ответ на это Юдковский предлагает следующий мысленный эксперимент. Представим, что мы отправим фотон в космос куда-нибудь между сверхскоплениями галактик. Современная физика считает, что вселенная расширяется с ускорением. В этом случае, начиная с какого-то момента, мы даже принципиально никак не сможем провзаимодействовать с нашим фотоном. Следует ли считать, что после этого момента фотона не существует?
В чём тут разница с философскими зомби?
https://lesswrong.ru/w/Подразумеваемая_невидимость
Новый перевод на сайте — эссе Элиезера Юдковского "Подразумеваемая невидимость" из цепочки "Физикализм для продвинутых".
Обсуждения философских зомби наталкивают на мысль: а что если просто заявить, что всего, что нельзя пронаблюдать в результате эксперимента, не существует?
В ответ на это Юдковский предлагает следующий мысленный эксперимент. Представим, что мы отправим фотон в космос куда-нибудь между сверхскоплениями галактик. Современная физика считает, что вселенная расширяется с ускорением. В этом случае, начиная с какого-то момента, мы даже принципиально никак не сможем провзаимодействовать с нашим фотоном. Следует ли считать, что после этого момента фотона не существует?
В чём тут разница с философскими зомби?
https://lesswrong.ru/w/Подразумеваемая_невидимость
LessWrong на русском
Подразумеваемая невидимость
Может появиться искушение обобщить аргумент против зомби в виде: "То, что нельзя увидеть, --- не существует". Однако так делать не стоит. Это очень заманчивое обобщение. В таком виде аргумент против зомби стал бы гораздо проще и применять его в будущем было…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Не ради одного лишь счастья". Это первое эссе в цепочке "Фальшивые предпочтения".
Если мы придерживаемся редукционистской точки зрения на мир (а об этом было много в предыдущих эссе), то приходится признать, что счастье можно описать как некоторое состояние молекул нашего организма. Ощущение счастья связано с возбуждением нейронов некоторым образом, с соответствующим количеством некоторых веществ в крови и так далее.
И таким образом можно вообразить, что в будущем могут придумать таблетку, которую человек принимает и становится счастливым. Что можно принять таблетку и испытать ощущение от хорошо сделанной работы. Ощущение спортсмена в момент победы на Олимпиаде. Ощущение от решения сложной задачи.
Вы бы согласились принять подобную таблетку?
https://lesswrong.ru/w/Не_ради_одного_лишь_счастья
Новый перевод на сайте — эссе Элиезера Юдковского "Не ради одного лишь счастья". Это первое эссе в цепочке "Фальшивые предпочтения".
Если мы придерживаемся редукционистской точки зрения на мир (а об этом было много в предыдущих эссе), то приходится признать, что счастье можно описать как некоторое состояние молекул нашего организма. Ощущение счастья связано с возбуждением нейронов некоторым образом, с соответствующим количеством некоторых веществ в крови и так далее.
И таким образом можно вообразить, что в будущем могут придумать таблетку, которую человек принимает и становится счастливым. Что можно принять таблетку и испытать ощущение от хорошо сделанной работы. Ощущение спортсмена в момент победы на Олимпиаде. Ощущение от решения сложной задачи.
Вы бы согласились принять подобную таблетку?
https://lesswrong.ru/w/Не_ради_одного_лишь_счастья
LessWrong на русском
Не ради одного лишь счастья
Несколько лет назад я ходил на встречу с футуристом Грегом Стоком. Во время встречи он рассуждал, что вскоре радость научного открытия можно будет заменить таблетками, имитирующими радость научного открытия. После его выступления я подошёл к нему и сказал:…
#переводы #цепочки #юдковский
Новый перевод на сайте — эссе Элиезера Юдковского "Фальшивый эгоизм" из цепочки "Фальшивые предпочтения".
Некоторые люди иногда заявляют, будто они абсолютные эгоисты. Некоторые люди рассуждают, что всем стоит быть эгоистами. В этом коротком эссе Юдковский рассуждает о подобных рассуждениях.
https://lesswrong.ru/w/Фальшивый_эгоизм
Новый перевод на сайте — эссе Элиезера Юдковского "Фальшивый эгоизм" из цепочки "Фальшивые предпочтения".
Некоторые люди иногда заявляют, будто они абсолютные эгоисты. Некоторые люди рассуждают, что всем стоит быть эгоистами. В этом коротком эссе Юдковский рассуждает о подобных рассуждениях.
https://lesswrong.ru/w/Фальшивый_эгоизм
LessWrong на русском
Фальшивый эгоизм
Однажды я встретил человека, который заявлял, будто он абсолютный эгоист. И мне он тоже посоветовал быть абсолютным эгоистом.
#переводы #цепочки #юдковский
Новый перевод на сайте -- эссе Элиезера Юдковского "Фальшивая мораль" из цепочки "Фальшивые предпочтения".
В этом коротком эссе Юдковский ставит вопросы: что такое альтруизм, что такое эгоизм и как отличить их друг от друга?
https://lesswrong.ru/w/Фальшивая_мораль
Новый перевод на сайте -- эссе Элиезера Юдковского "Фальшивая мораль" из цепочки "Фальшивые предпочтения".
В этом коротком эссе Юдковский ставит вопросы: что такое альтруизм, что такое эгоизм и как отличить их друг от друга?
https://lesswrong.ru/w/Фальшивая_мораль
LessWrong на русском
Фальшивая мораль
По словам религиозных фундаменталистов, источником морали является Бог. Не может быть морали без Судьи, который награждает и наказывает. Если бы мы не боялись ада и не стремились в рай, то что мешало бы людям убивать друг друга направо и налево?
#переводы #цепочки #юдковский
Новый перевод на сайте -- эссе Элиезера Юдковского "Паранормальные способности" из цепочки "Физикализм для продвинутых".
Это эссе продолжает тему, начатую в предыдущем эссе "Исключая сверхъестественное": Юдковский обсуждает обнаруженную у себя неточность.
Если предположить, что человеческий разум редуцируем до элементарных частиц, можем ли мы получить свидетельство о нередуцируемых сущностях, если они во вселенной вдруг есть?
https://lesswrong.ru/640
Цепочка "Физикализм для продвинутых" теперь выложена на сайте полностью.
Новый перевод на сайте -- эссе Элиезера Юдковского "Паранормальные способности" из цепочки "Физикализм для продвинутых".
Это эссе продолжает тему, начатую в предыдущем эссе "Исключая сверхъестественное": Юдковский обсуждает обнаруженную у себя неточность.
Если предположить, что человеческий разум редуцируем до элементарных частиц, можем ли мы получить свидетельство о нередуцируемых сущностях, если они во вселенной вдруг есть?
https://lesswrong.ru/640
Цепочка "Физикализм для продвинутых" теперь выложена на сайте полностью.