#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Приложи экстраординарные усилия" из цепочки "Бросая вызов сложностям".

В этом эссе Юдковский рассуждает о том, что многие люди слишком быстро сдаются перед трудностями - не пытаются прикладывать усилия, которые выходят за рамки обыденного. Кому-то это эссе может показаться очередным призывом "выйти из зоны комфорта", которых довольно много в интернете.

Однако всё же: как часто, перед тем как признать проблему нерешаемой, мы ставим таймер хотя бы на 5 минут, чтобы всерьёз попробовать её решить?

https://lesswrong.ru/w/Приложи_экстраординарные_усилия

#встречи #санкт_петербург
Ещё один подробный отчёт о встрече в Санкт-Петербурге.

Вчера прошла встреча, посвященная применению техники Double Crux к дискуссиям по этическим вопросам и терминальным ценностям.

Мы обсудили в чём разница между терминальными и инструментальными ценностями, и как искать терминальные. Разобрались что же такое корень разногласия и какой алгоритм дискуссии с его применением в случае убеждений и этических вопросов. Обсудили несколько примеров и спорных моментов, а затем я рассказал почему имеет смысл спорить про терминальные ценности и подвергать их сомнению также, как и убеждения.
И в конце мы придумали себе ценности и краксили их в парах: нужна ли обида, что важнее технологический прогресс или наше благополучие, может ли быть объективность в искусстве, красоте и ценностях, должны ли богатые отдать деньги бедным, является ли нашей основной ценностью познание?

Подробный обзор встречи - что обсуждалось, что пошло не так, материалы, которыми делились участники при знакомстве и на перерыве, вы можете прочитать здесь - https://lesswrong.ru/wiki/Встреча/Санкт-Петербург/2019-12-14 (вы можете редактировать страницу и добавлять свои ссылки или исправлять неточности).
Также здесь опубликованы подробные обзоры других встреч.

#meetingsummary

#в_мире

Новости lesswrong.com

Одной из целей сайта lesswrong.com является обмен идеями. Однако обмен идеями не должен быть самоцелью, он должен приводить к появлению новых, менее тривиальных и более полезных идей.

Чтобы понять, а что же хорошего было написано, а также, чтобы поддержать авторов, организаторы lesswrong.com в конце ноября объявили конкурс "LessWrong 2018 Review".

На первом этапе (уже закончившемся) пользователи сайта могли номинировать понравившиеся им статьи 2018 года на этот конкурс.

На втором этапе (который заканчивается 31 декабря) всех призывают писать отзывы на статьи, которые номинированы на конкурс.

В итоге планируется собрать лучшие статьи за год в одну цепочку, а также издать книгу, куда войдут не только лучшие статьи, но и лучшие отзывы. (Также предполагается небольшой призовой фонд, причём тоже как для авторов, так и для рецензентов.)

Номинированные статьи (а также уже написанные отзывы) можно увидеть здесь: https://www.lesswrong.com/nominations

Подробности о конкурсе: https://www.lesswrong.com/posts/qXwmMkEBLL59NkvYR/the-lesswrong-2018-review-posts-need-at-least-2-nominations

#переводы #slatestarcodex

Перевод подборки шуток от Скотта Александера на тему "Демократия — это два волка и овца, решающие что съесть на ужин".

https://vk.com/@perevodiitudasuda-dva-volka-i-ovca

#переводы

Перевод заметки Зви Моушовица - одного из блоггеров-завсегдатаев lesswrong.com

Часто так бывает, что нам приходится иметь дело с людьми, интересы которых (по крайней мере, сиюминутные) существенно не совпадают с нашими. Кто-то скажет, что в нашем мире вообще следует жить исключительно под девизом: "Постоянная бдительность!" Автор же подходит к вопросу более широко и рассматривает и другие стратегии.

https://vk.com/@perevodiitudasuda-kogda-vas-hotyat-poimet

Перечитываю сейчас Sequences («Цепочки») – тысячестраничную серию эссе Элиезера Юдковского с сайта LessWrong. Всем советую, это одни из самых полезных текстов для любого человека, неважно, начинающий вы или продвинутый рационалист.

Буду периодически делиться своими любимыми эссе из этой серии. Сегодня советую «Простую истину» (The Simple Truth) – написанную в аллегоричной форме историю о пастухе, придумавшем революционный метод для подсчёта овец в своём стаде. Когда он утром выгонял их на пастбище, то бросал в специальное ведро по одному камню на каждую из покидающих закон овец. А потом, когда овцы вечером возвращались в загон, доставал из ведра по одному камню за каждую возвращающуюся овцу. Таким образом, когда ведро опустошалось, пастух понимал: можно закрывать загон и идти спать, ни одна овца не заблудилась в полях. А если вечером в ведре оставались камни, значит, нужно идти искать заблудившихся овец, иначе их съедят волки.

Однажды к пастуху пришёл проверяющий, который стал допытываться о «магическом» (по мнению ревизора-нерационалиста) методе сохранения овечьей популяции. Всё это переросло в спор об истине, завершившийся очень показательным образом.

Существует ли истина? Или же всё относительно и существуют ситуации, в которых «у каждого своя правда»? Юдковский убедительно доказывает, что истина существует и, если два человека высказывают взаимно противоречащие позиции, кто-то из них гарантированно заблуждается.

Англ. оригинал: lesswrong.com/posts/X3HpE8tMXz4m4w6Rz/the-simple-truth

Русский перевод: lesswrong.ru/w/Простая_истина

В январе мы будем обсуждать «Цепочки» (и их применение в повседневной жизни) с книжным клубом мастридеров. Напоминаю, что вы можете присоединиться к нему, вступив в число моих подписчиков на Патреоне: patreon.com/mustreader

#рационалист_мастрид #золотой_фонд_мастридов

#встречи #санкт_петербург
Большой отчёт о встрече в Санкт-Петербурге, посвящённой технике "факторизация избеганий".

В субботу прошла последняя в этом году встреча сообщества lesswrong. Она была посвящена обсуждению молотков - день 7 и практике техники Aversion Factoring (факторизация избеганий).

Как обычно на наших практиках молотков, сначала был небольшой кусок теории, а после самостоятельная практика по таймерам и обсуждения. Мы также разобрали парочку примеров вместе со всеми - про чтение английских СМИ и как вовремя ложиться спать (и упомянули уже всем надоевший пример про лазание по деревьям).
Снова пришло много новых людей, мы обсуждали экспозиционную терапию (упоминалась также emdr), button test и то, как же нам всё таки внедрить подобную практику работы с избеганиями в свою жизнь.

В конце встречи Сергей предложил всем желающим принять участие в двухнедельном эксперименте по работе с избеганиями. Подробности будут во Встречате. Участие тех, кого не было на встрече тоже приветствуется!

Более подробный обзор встречи: https://lesswrong.ru/wiki/Встреча/Санкт-Петербург/2019-12-28#.D0.9F.D1.80.D0.B8.D0.BC.D0.B5.D1.80.D1.8B_.D1.84.D0.B0.D0.BA.D1.82.D0.BE.D1.80.D0.B8.D0.B7.D0.B0.D1.86.D0.B8.D0.B8
Также здесь опубликованы подробные обзоры других встреч.

Всех с Наступающим, посоны и посонессы! Не грустите, ведь, хотя в 2020 году вы станете на год старше, вы также станете на год ближе к сингулярности, будет на целый год больше ошибок и выводов из них, на целый год больше рациональности! Не опускайте лапки, делайте выводы и меняйтесь быстрее, чем от вас этого ожидает реальность) А если вы ещё не выбрали, как и кого вы хотите побеждать в этом мире, то приходите к нам в организаторы: станьте самыми активными членами сообщества, прокачайте свою рациональность и помогите другим.

* Уточнение для зануд: да, иногда всё таки нужно погрустить и опустить лапки.

Не совсем
#meetingsummary

#встречи #москва

19 января в библиотеке имени Н.А.Некрасова в Москве пройдёт фестиваль, посвящённый прикладной рациональности. В программе доклады про когнитивные искажения, уличную эпистемологию, борьбу с прокрастинацией и многое другое. Можно будет поучаствовать и в практических занятиях.

Начало в 12 часов.

Подробная программа - на сайте библиотеки.
Часть 1: http://www.nekrasovka.ru/afisha/19-01-2020/2132
Часть 2: http://www.nekrasovka.ru/afisha/19-01-2020/2133

#статьи_участников

Часто бывает так, что с одной стороны мы хотим что-то сделать, но с другой стороны постоянно получается так, что мы постоянно это откладываем. У CFAR (Центра прикладной рациональности в Калифорнии) на эту тему есть даже полезная техника: факторизация избеганий (https://lesswrong.ru/wiki/Факторизация_избеганий ).

Однако чтобы начать применять эту технику, нужно осознать, что ты чего-то избегаешь. Один из участников сообщества написал любопытную статью с идеями, как справиться и с этим.

Cognitive Trigger Action Plan (CTAP) для факторизации избеганий

Наш мозг - не совсем машинка для предсказаний и оптимизации функции полезности. В разных состояниях тела и даже в разных частях клубка наших мыслей мы бывает желаем противоречивых вещей и предсказываем противоречивое.

У Пион есть посты с хештегом #интеграция, в которых объясняется, как с этим справляться. Одна из моделей (которой стараюсь пользоваться и я) - регулярно записывать штуки, которые вызывают неприятные ощущения (мы сомневаемся, ругаем себя, жалеем о своих поступках и т.п.). Бывает, что к ним сразу хорошо применяется Internal Double Crux (к этой технике я вернусь позднее), бывает нужно покопаться в мыслях и убеждениях, чтобы понять в чём причина негативных эмоций (см. ABCD).

На последней встрече сообщества lesswrong мы обсуждали технику, которая решает ещё более узкий класс задач интеграции - факторизация избеганий (описание техники и button test'а здесь). В задачах, в которых внутренние помехи очень сильные или вы второсистемно не уверены хотите ли вы выполнять действие, эта техника может не сработать. В то же время она не сводится только лишь к интеграции, она также позволяет пересмотреть задачу, находя альтернативы.

Я думаю, чтобы внедрить рациональное мышление в жизнь недостаточно практиковать техники и вести регулярные записи для анализа ошибок/успехов и рефлексии (что тем не менее очень полезно).
Нужно внедрить рациональность прямо в то, как мы думаем, буквально, на каждом шагу. В этом может помочь CTAP. У Бриенны Юдковски есть несколько постов на эту тему и пара видео, также есть чеклист привычек cfar. Однако я не нашёл готового CTAP'а для внедрения хоть какого-то приближения факторизации избеганий и тем более Internal Double Crux'а (буду рад, если окажется, что я ошибаюсь).

Вместе с @anton_zheltoukhov и @SergeiVasilkov мы придумали такую привычку, основываясь в том числе на том, про что рассказывала Бриенна.

Читать дальше

#в_мире #книги

В открытый доступ выложен "Participant Handbook" от CFAR. Это книга, которую Центр прикладной рациональности в Калифорнии выдаёт каждому участнику своих воркшопов. В ней содержится краткая информация про все техники, которым учат на воркшопах, а также списки литературы.

Не стоит рассчитывать, что вы найдёте в этой книге полноценный учебник. Исходно она проектировалась как собрание справочной информации, чтобы участник мог не тратить время, что-то записывая за ведущими в процессе, и при этом мог легко освежить в памяти какие-то основные вещи после воркшопа. Во специально написанном введении подчёркивается, что неизвестно, насколько эта книга может помочь сама по себе.

Также во введении предупреждают, что если вы планируете в обозримом будущем посетить воркшоп CFAR, то, возможно, вам не стоит читать эту книгу заранее. Впрочем, подозреваю, что для подавляющего большинства подписчиков это предупреждение не актуально.

Книга доступна по ссылке: https://drive.google.com/file/d/1UZYBtOJ3QZ7FTI_4eKjVzBSNUqC_Uba3/view?fbclid=IwAR2n-mxOLrTMKBCSSk2B2x6gFccf7OlouvPDtQ-HlM-CtIIvnDBIWHLN1fE

Дополнение к предыдущей записи:

Программа воркшопов Кочерги похожа на программу воркшопов CFAR. Если авторы предисловия правы в том, что, возможно, не стоит читать эту книгу тем, кто планирует в будущем попасть на воркшоп CFAR, то её, вероятно, не стоит читать и тем, кто планирует попасть на воркшоп Кочерги.

#воркшопы #москва

Ещё один курс для жителей Москвы и окрестностей.

Прапион Медведева и Александр Али анонсировали новый курс "Онтологика
и коммуникация". На курсе обещают учить строить модели, доступно передавать свои модели другим и понимать чужие модели.

Впрочем, авторы курса в первую очередь ожидают среди слушателей бакалавров и магистров инженерных и менеджерских специальностей.

Курс будет состоять из 12 занятий по пятницам, начиная с 24 января. Курс платный.

Подробности и регистрация: https://system-school.ru/united

#статьи_участников

Продолжение темы установки привычек, начатой пару дней назад.

Отчетик об установки привычки

Общие наблюдения:

1. Мотивация CTAP'а не только в том, чтобы замечать откладывания лучше. Поставьте себе амбициозную задачу, но начните с маленького шага, и воображайте какие шаги вы сможете сделать дальше, привязывая мотивацию к первому. Установите эту привычку и вы научитесь устанавливать CTAP'ы (например, на ННО и эпистемологию), сможете улучшать её за одну яркую мысль, когда получите устойчивый контекст - добавлять новые идеи и инструменты (например, https://lesswrong.ru/w/Время_молотков_день_16_Три_миниатюры).

2. Я заметил несколько откладываний, но только одно удалось решить с первого раза. Помогают вечерние записи и письменный анализ.

3. Три вдоха сбивает ощущения от откладывания, так как для меня является триггером для концентрации на дыхании и очищения от мыслей. Затем я попробовал щелчок пальцами - слишком короткий. И остановился на трёх вдохах, во время которых я пытаюсь сосредоточится не на дыхании, а на ощущении, которое сейчас возникло.

4. Ощущения и смысл слова “откладывание” поменялся в процессе. Вы можете калибровать свои ощущения по-своему. Основная задача - сделать привычку удобной (действие работает всегда) и эффективной для вашей жизни прямо сейчас (решает действительно важные задачи и придаёт мотивации).

5. Эффект йода-таймера в последнем вопросе привычки заметен и силён, но не переборщите с ним. Йода-таймер хорошо тем, что это точечный удар - вы прикладываете максимум сил в очень узкий промежуток времени, чтобы решить задачу прямо сейчас, иногда тратя много эмоциональных сил, чтобы перепрыгнуть мысленные барьеры и страхи. В случае привычки действительно важно искать самые короткие пути, но если вы чувствуете сильное сопротивление и эмоциональную усталость - не идите дальше, позвольте себе разобраться с задачей более детальной проработкой с помощью факторизации избеганий, внутреннего корня разногласия или CoZE. Однако интересно может ли подобная привычка заменить эффект йода-таймера полностью в моменты, когда вы полны сил справиться с задачей? Или эффект таймера здесь принципиален? Можно ли провести эксперимент, проверяющий это?

Примеры откладываний, которые я заметил:

1. Откладывание вызванное усталостью и желанием последовать за новыми идеями (решение: посмотреть от чего именно я устал и восстановить ресурс, а затем поставить таймер на старую задачу, после которого можно приступать к новой).

2. Откладывание разбора некоторых входящих в maxdone, вызванное страхом перед мыслями о задаче и неудобным инструментом (частичное решение: упростил первый шаг записи входящих в нужный файл).

3. Откладывание этого поста и даже установки привычки, вызванное желанием сделать идеально (перфекционизм) - прочитать ещё пару цепочек, нагенерить идей, смержить с другими нужными мне задачами (решение: разрешить себе писать отчеты не идеально и дополнять идеями потом, поменять порядок задач в плане).

4. Откладывание, вызванное желанием получить больше информации и желанием сделать выбор идеально (решение: на вопросе “как сделать это быстрее?” замечено, что вообще говоря действие обратимо и не напрямую связано с информацией, так что я даже ничем не рискую).

#переводы #miri

Новый перевод на сайте - "Руководство по исследованиям в области соответствия ИИ" от команды MIRI.

Как многие читатели, наверное, уже знают, Элиезер Юдковский начал писать Цепочки, в том числе, потому что хотел привлечь внимание людей (как минимум, некоторой их части) к проблеме возможной опасности будущего искусственного интеллекта. (Раньше это называлось "проблемой недружественного ИИ", но последнее время, чтобы избегать антропоморфизации, предпочитают говорить о соответствии ИИ человеческим целям (AI alignment).)

Для этой же цели Юдковский в своё время основал Институт Сингулярности (Singularity Institute), который позже был переименован в Институт исследований машинного интеллекта (Machine Intelligence Research Institute, сокращённо MIRI).

MIRI занимается упомянутой проблемой с математической точки зрения. По сути, большая часть их работы - это довольно продвинутая математика.

Не так давно в MIRI решили стимулировать других людей участвовать в решении тех же самых задач. MIRI призывает тех, кому интересна эта работа, создавать свои группы (MIRIx workshops) и даже обещает выплачивать какую-то стипендию.

Переведённое руководство предназначается для людей, которые, возможно, захотят создать такую группу.

Однако, с моей точки зрения (и, судя по всему, не только с моей), этот текст может оказаться интересен и другим. Напрямую в нём нет никакой специфики, относящейся исключительно к проблеме ИИ. Некоторые советы могут оказаться полезны при работе и над другими научными проблемами, а некоторые - вообще для многих видов совместной деятельности.

https://lesswrong.ru/w/Руководство_по_исследованиям_в_области_соответствия_ИИ

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Условная независимость и наивный Байес" из цепочки "Как люди понимают слова".

В этом эссе Юдковский рассуждает о связи байесианства и информационной энтропии. Возможно, для лучшего понимания стоит освежить в памяти предыдущие эссе цепочки.

https://lesswrong.ru/w/Условная_независимость_и_наивный_Байес

#статьи_участников

Любопытная идея системной работы с эмоциями от Жени Софронова

Перевод: эмоции → слова

Я начал немного изучать то, на что являются реакцией разные эмоции. Кажется, что эмоции — это офигенный способ понимать себя.

И я удивляюсь, что почему-то не встречал системного подхода к этому. Чувствую, что от меня всю жизнь скрывали понятный инструмент понимания себя и мира.

Эмоции — это наша бессознательная реакция на внешний мир. Но чтобы использовать эту информацию, её нужно вербализовать и перевести в область сознательного.

КПТ-дневники идут в сторону решения этой задачи. Но у меня они не зашли. Кажется, из-за того, что это сложно. В них нужно каждый раз переводить из ощущений Системы 1 в слова Системы 2. Каждый раз, когда что-то испытываешь, думать об этом — для меня это слишком сложно.

Поэтому мне кажется, что круто разложить эмоции на простые вопросы, которые помогут переводить сигнал от эмоций в слова. Крутость в том, что можно один раз один раз перевести из эмоций в слова, а дальше просто пользоваться этими подсказками.

Например, вместо того, чтобы каждый раз думать о том, что значит обида и как с ней справляться, мне намного проще сказать себе по шаблону «Так. Я чувствую обиду — значит, у меня были ожидания и они не оправдались. А какие у меня были ожидания?»

Вот здесь я начал писать такой перевод: telegra.ph/EHmocii-01-08

Отдельно замечу, что эмоции — это, разумеется, реакция не на сам внешний мир, а на нашу интерпретацию его. Например, стыд говорит, что «со мной что-то не так и общество меня не примет таким». Но это вообще не значит, что так на самом деле, а значит только то, что у меня есть такое убеждение