#переводы

Перевод заметки Зви Моушовица - одного из блоггеров-завсегдатаев lesswrong.com

Часто так бывает, что нам приходится иметь дело с людьми, интересы которых (по крайней мере, сиюминутные) существенно не совпадают с нашими. Кто-то скажет, что в нашем мире вообще следует жить исключительно под девизом: "Постоянная бдительность!" Автор же подходит к вопросу более широко и рассматривает и другие стратегии.

https://vk.com/@perevodiitudasuda-kogda-vas-hotyat-poimet

Перечитываю сейчас Sequences («Цепочки») – тысячестраничную серию эссе Элиезера Юдковского с сайта LessWrong. Всем советую, это одни из самых полезных текстов для любого человека, неважно, начинающий вы или продвинутый рационалист.

Буду периодически делиться своими любимыми эссе из этой серии. Сегодня советую «Простую истину» (The Simple Truth) – написанную в аллегоричной форме историю о пастухе, придумавшем революционный метод для подсчёта овец в своём стаде. Когда он утром выгонял их на пастбище, то бросал в специальное ведро по одному камню на каждую из покидающих закон овец. А потом, когда овцы вечером возвращались в загон, доставал из ведра по одному камню за каждую возвращающуюся овцу. Таким образом, когда ведро опустошалось, пастух понимал: можно закрывать загон и идти спать, ни одна овца не заблудилась в полях. А если вечером в ведре оставались камни, значит, нужно идти искать заблудившихся овец, иначе их съедят волки.

Однажды к пастуху пришёл проверяющий, который стал допытываться о «магическом» (по мнению ревизора-нерационалиста) методе сохранения овечьей популяции. Всё это переросло в спор об истине, завершившийся очень показательным образом.

Существует ли истина? Или же всё относительно и существуют ситуации, в которых «у каждого своя правда»? Юдковский убедительно доказывает, что истина существует и, если два человека высказывают взаимно противоречащие позиции, кто-то из них гарантированно заблуждается.

Англ. оригинал: lesswrong.com/posts/X3HpE8tMXz4m4w6Rz/the-simple-truth

Русский перевод: lesswrong.ru/w/Простая_истина

В январе мы будем обсуждать «Цепочки» (и их применение в повседневной жизни) с книжным клубом мастридеров. Напоминаю, что вы можете присоединиться к нему, вступив в число моих подписчиков на Патреоне: patreon.com/mustreader

#рационалист_мастрид #золотой_фонд_мастридов

#встречи #санкт_петербург
Большой отчёт о встрече в Санкт-Петербурге, посвящённой технике "факторизация избеганий".

В субботу прошла последняя в этом году встреча сообщества lesswrong. Она была посвящена обсуждению молотков - день 7 и практике техники Aversion Factoring (факторизация избеганий).

Как обычно на наших практиках молотков, сначала был небольшой кусок теории, а после самостоятельная практика по таймерам и обсуждения. Мы также разобрали парочку примеров вместе со всеми - про чтение английских СМИ и как вовремя ложиться спать (и упомянули уже всем надоевший пример про лазание по деревьям).
Снова пришло много новых людей, мы обсуждали экспозиционную терапию (упоминалась также emdr), button test и то, как же нам всё таки внедрить подобную практику работы с избеганиями в свою жизнь.

В конце встречи Сергей предложил всем желающим принять участие в двухнедельном эксперименте по работе с избеганиями. Подробности будут во Встречате. Участие тех, кого не было на встрече тоже приветствуется!

Более подробный обзор встречи: https://lesswrong.ru/wiki/Встреча/Санкт-Петербург/2019-12-28#.D0.9F.D1.80.D0.B8.D0.BC.D0.B5.D1.80.D1.8B_.D1.84.D0.B0.D0.BA.D1.82.D0.BE.D1.80.D0.B8.D0.B7.D0.B0.D1.86.D0.B8.D0.B8
Также здесь опубликованы подробные обзоры других встреч.

Всех с Наступающим, посоны и посонессы! Не грустите, ведь, хотя в 2020 году вы станете на год старше, вы также станете на год ближе к сингулярности, будет на целый год больше ошибок и выводов из них, на целый год больше рациональности! Не опускайте лапки, делайте выводы и меняйтесь быстрее, чем от вас этого ожидает реальность) А если вы ещё не выбрали, как и кого вы хотите побеждать в этом мире, то приходите к нам в организаторы: станьте самыми активными членами сообщества, прокачайте свою рациональность и помогите другим.

* Уточнение для зануд: да, иногда всё таки нужно погрустить и опустить лапки.

Не совсем
#meetingsummary

#встречи #москва

19 января в библиотеке имени Н.А.Некрасова в Москве пройдёт фестиваль, посвящённый прикладной рациональности. В программе доклады про когнитивные искажения, уличную эпистемологию, борьбу с прокрастинацией и многое другое. Можно будет поучаствовать и в практических занятиях.

Начало в 12 часов.

Подробная программа - на сайте библиотеки.
Часть 1: http://www.nekrasovka.ru/afisha/19-01-2020/2132
Часть 2: http://www.nekrasovka.ru/afisha/19-01-2020/2133

#статьи_участников

Часто бывает так, что с одной стороны мы хотим что-то сделать, но с другой стороны постоянно получается так, что мы постоянно это откладываем. У CFAR (Центра прикладной рациональности в Калифорнии) на эту тему есть даже полезная техника: факторизация избеганий (https://lesswrong.ru/wiki/Факторизация_избеганий ).

Однако чтобы начать применять эту технику, нужно осознать, что ты чего-то избегаешь. Один из участников сообщества написал любопытную статью с идеями, как справиться и с этим.

Cognitive Trigger Action Plan (CTAP) для факторизации избеганий

Наш мозг - не совсем машинка для предсказаний и оптимизации функции полезности. В разных состояниях тела и даже в разных частях клубка наших мыслей мы бывает желаем противоречивых вещей и предсказываем противоречивое.

У Пион есть посты с хештегом #интеграция, в которых объясняется, как с этим справляться. Одна из моделей (которой стараюсь пользоваться и я) - регулярно записывать штуки, которые вызывают неприятные ощущения (мы сомневаемся, ругаем себя, жалеем о своих поступках и т.п.). Бывает, что к ним сразу хорошо применяется Internal Double Crux (к этой технике я вернусь позднее), бывает нужно покопаться в мыслях и убеждениях, чтобы понять в чём причина негативных эмоций (см. ABCD).

На последней встрече сообщества lesswrong мы обсуждали технику, которая решает ещё более узкий класс задач интеграции - факторизация избеганий (описание техники и button test'а здесь). В задачах, в которых внутренние помехи очень сильные или вы второсистемно не уверены хотите ли вы выполнять действие, эта техника может не сработать. В то же время она не сводится только лишь к интеграции, она также позволяет пересмотреть задачу, находя альтернативы.

Я думаю, чтобы внедрить рациональное мышление в жизнь недостаточно практиковать техники и вести регулярные записи для анализа ошибок/успехов и рефлексии (что тем не менее очень полезно).
Нужно внедрить рациональность прямо в то, как мы думаем, буквально, на каждом шагу. В этом может помочь CTAP. У Бриенны Юдковски есть несколько постов на эту тему и пара видео, также есть чеклист привычек cfar. Однако я не нашёл готового CTAP'а для внедрения хоть какого-то приближения факторизации избеганий и тем более Internal Double Crux'а (буду рад, если окажется, что я ошибаюсь).

Вместе с @anton_zheltoukhov и @SergeiVasilkov мы придумали такую привычку, основываясь в том числе на том, про что рассказывала Бриенна.

Читать дальше

#в_мире #книги

В открытый доступ выложен "Participant Handbook" от CFAR. Это книга, которую Центр прикладной рациональности в Калифорнии выдаёт каждому участнику своих воркшопов. В ней содержится краткая информация про все техники, которым учат на воркшопах, а также списки литературы.

Не стоит рассчитывать, что вы найдёте в этой книге полноценный учебник. Исходно она проектировалась как собрание справочной информации, чтобы участник мог не тратить время, что-то записывая за ведущими в процессе, и при этом мог легко освежить в памяти какие-то основные вещи после воркшопа. Во специально написанном введении подчёркивается, что неизвестно, насколько эта книга может помочь сама по себе.

Также во введении предупреждают, что если вы планируете в обозримом будущем посетить воркшоп CFAR, то, возможно, вам не стоит читать эту книгу заранее. Впрочем, подозреваю, что для подавляющего большинства подписчиков это предупреждение не актуально.

Книга доступна по ссылке: https://drive.google.com/file/d/1UZYBtOJ3QZ7FTI_4eKjVzBSNUqC_Uba3/view?fbclid=IwAR2n-mxOLrTMKBCSSk2B2x6gFccf7OlouvPDtQ-HlM-CtIIvnDBIWHLN1fE

Дополнение к предыдущей записи:

Программа воркшопов Кочерги похожа на программу воркшопов CFAR. Если авторы предисловия правы в том, что, возможно, не стоит читать эту книгу тем, кто планирует в будущем попасть на воркшоп CFAR, то её, вероятно, не стоит читать и тем, кто планирует попасть на воркшоп Кочерги.

#воркшопы #москва

Ещё один курс для жителей Москвы и окрестностей.

Прапион Медведева и Александр Али анонсировали новый курс "Онтологика
и коммуникация". На курсе обещают учить строить модели, доступно передавать свои модели другим и понимать чужие модели.

Впрочем, авторы курса в первую очередь ожидают среди слушателей бакалавров и магистров инженерных и менеджерских специальностей.

Курс будет состоять из 12 занятий по пятницам, начиная с 24 января. Курс платный.

Подробности и регистрация: https://system-school.ru/united

#статьи_участников

Продолжение темы установки привычек, начатой пару дней назад.

Отчетик об установки привычки

Общие наблюдения:

1. Мотивация CTAP'а не только в том, чтобы замечать откладывания лучше. Поставьте себе амбициозную задачу, но начните с маленького шага, и воображайте какие шаги вы сможете сделать дальше, привязывая мотивацию к первому. Установите эту привычку и вы научитесь устанавливать CTAP'ы (например, на ННО и эпистемологию), сможете улучшать её за одну яркую мысль, когда получите устойчивый контекст - добавлять новые идеи и инструменты (например, https://lesswrong.ru/w/Время_молотков_день_16_Три_миниатюры).

2. Я заметил несколько откладываний, но только одно удалось решить с первого раза. Помогают вечерние записи и письменный анализ.

3. Три вдоха сбивает ощущения от откладывания, так как для меня является триггером для концентрации на дыхании и очищения от мыслей. Затем я попробовал щелчок пальцами - слишком короткий. И остановился на трёх вдохах, во время которых я пытаюсь сосредоточится не на дыхании, а на ощущении, которое сейчас возникло.

4. Ощущения и смысл слова “откладывание” поменялся в процессе. Вы можете калибровать свои ощущения по-своему. Основная задача - сделать привычку удобной (действие работает всегда) и эффективной для вашей жизни прямо сейчас (решает действительно важные задачи и придаёт мотивации).

5. Эффект йода-таймера в последнем вопросе привычки заметен и силён, но не переборщите с ним. Йода-таймер хорошо тем, что это точечный удар - вы прикладываете максимум сил в очень узкий промежуток времени, чтобы решить задачу прямо сейчас, иногда тратя много эмоциональных сил, чтобы перепрыгнуть мысленные барьеры и страхи. В случае привычки действительно важно искать самые короткие пути, но если вы чувствуете сильное сопротивление и эмоциональную усталость - не идите дальше, позвольте себе разобраться с задачей более детальной проработкой с помощью факторизации избеганий, внутреннего корня разногласия или CoZE. Однако интересно может ли подобная привычка заменить эффект йода-таймера полностью в моменты, когда вы полны сил справиться с задачей? Или эффект таймера здесь принципиален? Можно ли провести эксперимент, проверяющий это?

Примеры откладываний, которые я заметил:

1. Откладывание вызванное усталостью и желанием последовать за новыми идеями (решение: посмотреть от чего именно я устал и восстановить ресурс, а затем поставить таймер на старую задачу, после которого можно приступать к новой).

2. Откладывание разбора некоторых входящих в maxdone, вызванное страхом перед мыслями о задаче и неудобным инструментом (частичное решение: упростил первый шаг записи входящих в нужный файл).

3. Откладывание этого поста и даже установки привычки, вызванное желанием сделать идеально (перфекционизм) - прочитать ещё пару цепочек, нагенерить идей, смержить с другими нужными мне задачами (решение: разрешить себе писать отчеты не идеально и дополнять идеями потом, поменять порядок задач в плане).

4. Откладывание, вызванное желанием получить больше информации и желанием сделать выбор идеально (решение: на вопросе “как сделать это быстрее?” замечено, что вообще говоря действие обратимо и не напрямую связано с информацией, так что я даже ничем не рискую).

#переводы #miri

Новый перевод на сайте - "Руководство по исследованиям в области соответствия ИИ" от команды MIRI.

Как многие читатели, наверное, уже знают, Элиезер Юдковский начал писать Цепочки, в том числе, потому что хотел привлечь внимание людей (как минимум, некоторой их части) к проблеме возможной опасности будущего искусственного интеллекта. (Раньше это называлось "проблемой недружественного ИИ", но последнее время, чтобы избегать антропоморфизации, предпочитают говорить о соответствии ИИ человеческим целям (AI alignment).)

Для этой же цели Юдковский в своё время основал Институт Сингулярности (Singularity Institute), который позже был переименован в Институт исследований машинного интеллекта (Machine Intelligence Research Institute, сокращённо MIRI).

MIRI занимается упомянутой проблемой с математической точки зрения. По сути, большая часть их работы - это довольно продвинутая математика.

Не так давно в MIRI решили стимулировать других людей участвовать в решении тех же самых задач. MIRI призывает тех, кому интересна эта работа, создавать свои группы (MIRIx workshops) и даже обещает выплачивать какую-то стипендию.

Переведённое руководство предназначается для людей, которые, возможно, захотят создать такую группу.

Однако, с моей точки зрения (и, судя по всему, не только с моей), этот текст может оказаться интересен и другим. Напрямую в нём нет никакой специфики, относящейся исключительно к проблеме ИИ. Некоторые советы могут оказаться полезны при работе и над другими научными проблемами, а некоторые - вообще для многих видов совместной деятельности.

https://lesswrong.ru/w/Руководство_по_исследованиям_в_области_соответствия_ИИ

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Условная независимость и наивный Байес" из цепочки "Как люди понимают слова".

В этом эссе Юдковский рассуждает о связи байесианства и информационной энтропии. Возможно, для лучшего понимания стоит освежить в памяти предыдущие эссе цепочки.

https://lesswrong.ru/w/Условная_независимость_и_наивный_Байес

#статьи_участников

Любопытная идея системной работы с эмоциями от Жени Софронова

Перевод: эмоции → слова

Я начал немного изучать то, на что являются реакцией разные эмоции. Кажется, что эмоции — это офигенный способ понимать себя.

И я удивляюсь, что почему-то не встречал системного подхода к этому. Чувствую, что от меня всю жизнь скрывали понятный инструмент понимания себя и мира.

Эмоции — это наша бессознательная реакция на внешний мир. Но чтобы использовать эту информацию, её нужно вербализовать и перевести в область сознательного.

КПТ-дневники идут в сторону решения этой задачи. Но у меня они не зашли. Кажется, из-за того, что это сложно. В них нужно каждый раз переводить из ощущений Системы 1 в слова Системы 2. Каждый раз, когда что-то испытываешь, думать об этом — для меня это слишком сложно.

Поэтому мне кажется, что круто разложить эмоции на простые вопросы, которые помогут переводить сигнал от эмоций в слова. Крутость в том, что можно один раз один раз перевести из эмоций в слова, а дальше просто пользоваться этими подсказками.

Например, вместо того, чтобы каждый раз думать о том, что значит обида и как с ней справляться, мне намного проще сказать себе по шаблону «Так. Я чувствую обиду — значит, у меня были ожидания и они не оправдались. А какие у меня были ожидания?»

Вот здесь я начал писать такой перевод: telegra.ph/EHmocii-01-08

Отдельно замечу, что эмоции — это, разумеется, реакция не на сам внешний мир, а на нашу интерпретацию его. Например, стыд говорит, что «со мной что-то не так и общество меня не примет таким». Но это вообще не значит, что так на самом деле, а значит только то, что у меня есть такое убеждение

#в_мире #переводы

В конце декабря на lesswrong.com представители CFAR предложили участникам задавать любые вопросы про их деятельность. В итоге вопросов, ответов и обсуждений получилось довольно много.

В частности, мне показался интересным комментарий Адама Шолля про одну ошибку, с которой он особенно часто сталкивается на воркшопах для людей, которые занимаются рисками, связанными с искусственным интеллектом (т.е. в первую очередь для инженеров, программистов, математиков). И я решил его перевести (основную часть):

=======

[Иногда] я сталкиваюсь с вопросами вида:

"Должен ли я заменить [моя главная цель Х] на [перечень этических целей, про которые я недавно узнал]?"
"Почему наличие у меня цели - это хорошая причина, чтобы её достигать?"
"Можно ли вообще считать утверждения вида 'Х — это хорошо' или 'Y — это прекрасно' осмысленными?"

Когда я сталкиваюсь с этим, я часто показываю на ближайшее дерево и начинаю описывать его на разных уровнях абстракции. Слово "дерево" обозначает множество связанных штук: это объект, относящийся к биологическому царству "растения"; это объект, который люди обычно описывают, издавая звуки, складывающиеся в слово "дерево"; это конкретный физический объект, находящийся перед нами; это конкретное множество частиц, составляющий объект перед нами; и так далее. При этом вполне разумно всё равно использовать слово "дерево", во всяком случае, пока вы не забываете, на каком уровне абстракции вы находитесь, т.е. пока вы точно понимаете, на какую именно связь карты и территории вы ссылаетесь.

Для большинства людей с научным складом ума это очевидно. Но то, что то же самое, с теми же самыми предосторожностями нужно проделывать, обсуждая понятия "цель" и "хорошо", часто гораздо менее очевидно. Бессмысленно обсуждать, является ли указанное дерево "прочным", не уточнив, идёт речь о вероятности того, что оно упадёт, или о силе молекулярных связей. И точно также бессмысленно обсуждать является ли цель "хорошей", не уточняя, подразумеваете ли вы "с точки зрения существующего в обществе консенсуса", или "по отношению к моим текущим предпочтениям", или "по отношению к предпочтениям, которые бы у меня были, если бы я тщательнее их обдумал".

Часто это помогает людям разрешить имеющееся у них противоречие. Возможно, когда-нибудь я придумаю секцию на эту тему, чтобы разрешать больше таких противоречий. Однако мне кажется, что в таком случае некоторые инженеры из слушателей начнут нервничать, потому что всё это будет похожим на занятие по философии! (В беседах с глазу на глаз мне уже об этом говорят регулярно.)

=======

Адам в этом же комментарии ссылается, что в таких вопросах помогает чтение цепочки Как люди понимают слова. Хотя, с моей точки зрения, это ещё и тема Редукционизма.

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Ошибка изменяемого вопроса" из цепочки "Как люди понимают слова".

Небольшая иллюстрация к этому эссе была в предыдущей записи. Представим вопросы: "Нужно ли изучать рациональность?" или "Хорошо ли распространять знания по рациональности?" Вполне вероятно, что найдутся люди, которые скажут, что на эти вопросы невозможно дать однозначный ответ. Но ведь люди - часть реальности. Неужели реальность устроена по-разному в зависимости от того, кто отвечает на вопрос?

https://lesswrong.ru/w/Ошибка_изменяемого_вопроса

Теперь вся цепочка "Как люди понимают слова" переведена на русский.

#воркшопы #санкт_петербург

25-26 января Центр прикладной рациональности Кочерга устраивает воркшоп в Санкт-Петербурге. Воркшоп - это два дня глубокого погружения в вопросы, как применять рациональность для эффективного достижения своих целей.

Подробности и регистрация: https://kocherga-club.ru/workshop/spb?utm_source=announcement&utm_medium=telegram&utm_campaign=spb

Промокод на 2000 рублей для участников сообщества: LESSWRONG

#встречи #москва #нно #уличная_эпистемология #системное_мышление

Видео всех лекций с фестиваля "Прикладная рациональность", который прошёл 19 января в Москве в библиотеке имени Н. А. Некрасова.

Александр Али, "Введение в рациональность"
https://vk.com/video583783_456239068

Роман Тарасов, "Когнитивные искажения" и Алеся Соколова, "Как разговаривать на острые темы и не конфликтовать"
https://vk.com/video583783_456239067

Мария Оленева, "Ненасильственное общение", Александр Али, "Проектные роли: системный подход в общении", Пион Медведева, "Внутренние конфликты, или Как победить прокрастинацию" и Полина Кривых, "Какой бывает научпоп и зачем он нам нужен"
https://vk.com/video583783_456239069

Фотографии со встречи: https://vk.com/album-103521943_272291679

#переводы #цепочки

Я обнаружил, что в 2015 году при объединении исходных "Цепочек" Элиезера Юдковского в книгу, одно из самых первых эссе - "Что такое рациональность" - было достаточно серьёзно отредактировано. Поскольку, к тому же, в имеющемся переводе хватало спорных, с моей точки зрения, мест, я решил, что это эссе стоит того, чтобы перевести его заново.

Итак, что же такое рациональность?

https://lesswrong.ru/w/Что_такое_рациональность