#статьи_участников

Часто бывает так, что с одной стороны мы хотим что-то сделать, но с другой стороны постоянно получается так, что мы постоянно это откладываем. У CFAR (Центра прикладной рациональности в Калифорнии) на эту тему есть даже полезная техника: факторизация избеганий (https://lesswrong.ru/wiki/Факторизация_избеганий ).

Однако чтобы начать применять эту технику, нужно осознать, что ты чего-то избегаешь. Один из участников сообщества написал любопытную статью с идеями, как справиться и с этим.

Cognitive Trigger Action Plan (CTAP) для факторизации избеганий

Наш мозг - не совсем машинка для предсказаний и оптимизации функции полезности. В разных состояниях тела и даже в разных частях клубка наших мыслей мы бывает желаем противоречивых вещей и предсказываем противоречивое.

У Пион есть посты с хештегом #интеграция, в которых объясняется, как с этим справляться. Одна из моделей (которой стараюсь пользоваться и я) - регулярно записывать штуки, которые вызывают неприятные ощущения (мы сомневаемся, ругаем себя, жалеем о своих поступках и т.п.). Бывает, что к ним сразу хорошо применяется Internal Double Crux (к этой технике я вернусь позднее), бывает нужно покопаться в мыслях и убеждениях, чтобы понять в чём причина негативных эмоций (см. ABCD).

На последней встрече сообщества lesswrong мы обсуждали технику, которая решает ещё более узкий класс задач интеграции - факторизация избеганий (описание техники и button test'а здесь). В задачах, в которых внутренние помехи очень сильные или вы второсистемно не уверены хотите ли вы выполнять действие, эта техника может не сработать. В то же время она не сводится только лишь к интеграции, она также позволяет пересмотреть задачу, находя альтернативы.

Я думаю, чтобы внедрить рациональное мышление в жизнь недостаточно практиковать техники и вести регулярные записи для анализа ошибок/успехов и рефлексии (что тем не менее очень полезно).
Нужно внедрить рациональность прямо в то, как мы думаем, буквально, на каждом шагу. В этом может помочь CTAP. У Бриенны Юдковски есть несколько постов на эту тему и пара видео, также есть чеклист привычек cfar. Однако я не нашёл готового CTAP'а для внедрения хоть какого-то приближения факторизации избеганий и тем более Internal Double Crux'а (буду рад, если окажется, что я ошибаюсь).

Вместе с @anton_zheltoukhov и @SergeiVasilkov мы придумали такую привычку, основываясь в том числе на том, про что рассказывала Бриенна.

Читать дальше

#в_мире #книги

В открытый доступ выложен "Participant Handbook" от CFAR. Это книга, которую Центр прикладной рациональности в Калифорнии выдаёт каждому участнику своих воркшопов. В ней содержится краткая информация про все техники, которым учат на воркшопах, а также списки литературы.

Не стоит рассчитывать, что вы найдёте в этой книге полноценный учебник. Исходно она проектировалась как собрание справочной информации, чтобы участник мог не тратить время, что-то записывая за ведущими в процессе, и при этом мог легко освежить в памяти какие-то основные вещи после воркшопа. Во специально написанном введении подчёркивается, что неизвестно, насколько эта книга может помочь сама по себе.

Также во введении предупреждают, что если вы планируете в обозримом будущем посетить воркшоп CFAR, то, возможно, вам не стоит читать эту книгу заранее. Впрочем, подозреваю, что для подавляющего большинства подписчиков это предупреждение не актуально.

Книга доступна по ссылке: https://drive.google.com/file/d/1UZYBtOJ3QZ7FTI_4eKjVzBSNUqC_Uba3/view?fbclid=IwAR2n-mxOLrTMKBCSSk2B2x6gFccf7OlouvPDtQ-HlM-CtIIvnDBIWHLN1fE

Дополнение к предыдущей записи:

Программа воркшопов Кочерги похожа на программу воркшопов CFAR. Если авторы предисловия правы в том, что, возможно, не стоит читать эту книгу тем, кто планирует в будущем попасть на воркшоп CFAR, то её, вероятно, не стоит читать и тем, кто планирует попасть на воркшоп Кочерги.

#воркшопы #москва

Ещё один курс для жителей Москвы и окрестностей.

Прапион Медведева и Александр Али анонсировали новый курс "Онтологика
и коммуникация". На курсе обещают учить строить модели, доступно передавать свои модели другим и понимать чужие модели.

Впрочем, авторы курса в первую очередь ожидают среди слушателей бакалавров и магистров инженерных и менеджерских специальностей.

Курс будет состоять из 12 занятий по пятницам, начиная с 24 января. Курс платный.

Подробности и регистрация: https://system-school.ru/united

#статьи_участников

Продолжение темы установки привычек, начатой пару дней назад.

Отчетик об установки привычки

Общие наблюдения:

1. Мотивация CTAP'а не только в том, чтобы замечать откладывания лучше. Поставьте себе амбициозную задачу, но начните с маленького шага, и воображайте какие шаги вы сможете сделать дальше, привязывая мотивацию к первому. Установите эту привычку и вы научитесь устанавливать CTAP'ы (например, на ННО и эпистемологию), сможете улучшать её за одну яркую мысль, когда получите устойчивый контекст - добавлять новые идеи и инструменты (например, https://lesswrong.ru/w/Время_молотков_день_16_Три_миниатюры).

2. Я заметил несколько откладываний, но только одно удалось решить с первого раза. Помогают вечерние записи и письменный анализ.

3. Три вдоха сбивает ощущения от откладывания, так как для меня является триггером для концентрации на дыхании и очищения от мыслей. Затем я попробовал щелчок пальцами - слишком короткий. И остановился на трёх вдохах, во время которых я пытаюсь сосредоточится не на дыхании, а на ощущении, которое сейчас возникло.

4. Ощущения и смысл слова “откладывание” поменялся в процессе. Вы можете калибровать свои ощущения по-своему. Основная задача - сделать привычку удобной (действие работает всегда) и эффективной для вашей жизни прямо сейчас (решает действительно важные задачи и придаёт мотивации).

5. Эффект йода-таймера в последнем вопросе привычки заметен и силён, но не переборщите с ним. Йода-таймер хорошо тем, что это точечный удар - вы прикладываете максимум сил в очень узкий промежуток времени, чтобы решить задачу прямо сейчас, иногда тратя много эмоциональных сил, чтобы перепрыгнуть мысленные барьеры и страхи. В случае привычки действительно важно искать самые короткие пути, но если вы чувствуете сильное сопротивление и эмоциональную усталость - не идите дальше, позвольте себе разобраться с задачей более детальной проработкой с помощью факторизации избеганий, внутреннего корня разногласия или CoZE. Однако интересно может ли подобная привычка заменить эффект йода-таймера полностью в моменты, когда вы полны сил справиться с задачей? Или эффект таймера здесь принципиален? Можно ли провести эксперимент, проверяющий это?

Примеры откладываний, которые я заметил:

1. Откладывание вызванное усталостью и желанием последовать за новыми идеями (решение: посмотреть от чего именно я устал и восстановить ресурс, а затем поставить таймер на старую задачу, после которого можно приступать к новой).

2. Откладывание разбора некоторых входящих в maxdone, вызванное страхом перед мыслями о задаче и неудобным инструментом (частичное решение: упростил первый шаг записи входящих в нужный файл).

3. Откладывание этого поста и даже установки привычки, вызванное желанием сделать идеально (перфекционизм) - прочитать ещё пару цепочек, нагенерить идей, смержить с другими нужными мне задачами (решение: разрешить себе писать отчеты не идеально и дополнять идеями потом, поменять порядок задач в плане).

4. Откладывание, вызванное желанием получить больше информации и желанием сделать выбор идеально (решение: на вопросе “как сделать это быстрее?” замечено, что вообще говоря действие обратимо и не напрямую связано с информацией, так что я даже ничем не рискую).

#переводы #miri

Новый перевод на сайте - "Руководство по исследованиям в области соответствия ИИ" от команды MIRI.

Как многие читатели, наверное, уже знают, Элиезер Юдковский начал писать Цепочки, в том числе, потому что хотел привлечь внимание людей (как минимум, некоторой их части) к проблеме возможной опасности будущего искусственного интеллекта. (Раньше это называлось "проблемой недружественного ИИ", но последнее время, чтобы избегать антропоморфизации, предпочитают говорить о соответствии ИИ человеческим целям (AI alignment).)

Для этой же цели Юдковский в своё время основал Институт Сингулярности (Singularity Institute), который позже был переименован в Институт исследований машинного интеллекта (Machine Intelligence Research Institute, сокращённо MIRI).

MIRI занимается упомянутой проблемой с математической точки зрения. По сути, большая часть их работы - это довольно продвинутая математика.

Не так давно в MIRI решили стимулировать других людей участвовать в решении тех же самых задач. MIRI призывает тех, кому интересна эта работа, создавать свои группы (MIRIx workshops) и даже обещает выплачивать какую-то стипендию.

Переведённое руководство предназначается для людей, которые, возможно, захотят создать такую группу.

Однако, с моей точки зрения (и, судя по всему, не только с моей), этот текст может оказаться интересен и другим. Напрямую в нём нет никакой специфики, относящейся исключительно к проблеме ИИ. Некоторые советы могут оказаться полезны при работе и над другими научными проблемами, а некоторые - вообще для многих видов совместной деятельности.

https://lesswrong.ru/w/Руководство_по_исследованиям_в_области_соответствия_ИИ

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Условная независимость и наивный Байес" из цепочки "Как люди понимают слова".

В этом эссе Юдковский рассуждает о связи байесианства и информационной энтропии. Возможно, для лучшего понимания стоит освежить в памяти предыдущие эссе цепочки.

https://lesswrong.ru/w/Условная_независимость_и_наивный_Байес

#статьи_участников

Любопытная идея системной работы с эмоциями от Жени Софронова

Перевод: эмоции → слова

Я начал немного изучать то, на что являются реакцией разные эмоции. Кажется, что эмоции — это офигенный способ понимать себя.

И я удивляюсь, что почему-то не встречал системного подхода к этому. Чувствую, что от меня всю жизнь скрывали понятный инструмент понимания себя и мира.

Эмоции — это наша бессознательная реакция на внешний мир. Но чтобы использовать эту информацию, её нужно вербализовать и перевести в область сознательного.

КПТ-дневники идут в сторону решения этой задачи. Но у меня они не зашли. Кажется, из-за того, что это сложно. В них нужно каждый раз переводить из ощущений Системы 1 в слова Системы 2. Каждый раз, когда что-то испытываешь, думать об этом — для меня это слишком сложно.

Поэтому мне кажется, что круто разложить эмоции на простые вопросы, которые помогут переводить сигнал от эмоций в слова. Крутость в том, что можно один раз один раз перевести из эмоций в слова, а дальше просто пользоваться этими подсказками.

Например, вместо того, чтобы каждый раз думать о том, что значит обида и как с ней справляться, мне намного проще сказать себе по шаблону «Так. Я чувствую обиду — значит, у меня были ожидания и они не оправдались. А какие у меня были ожидания?»

Вот здесь я начал писать такой перевод: telegra.ph/EHmocii-01-08

Отдельно замечу, что эмоции — это, разумеется, реакция не на сам внешний мир, а на нашу интерпретацию его. Например, стыд говорит, что «со мной что-то не так и общество меня не примет таким». Но это вообще не значит, что так на самом деле, а значит только то, что у меня есть такое убеждение

#в_мире #переводы

В конце декабря на lesswrong.com представители CFAR предложили участникам задавать любые вопросы про их деятельность. В итоге вопросов, ответов и обсуждений получилось довольно много.

В частности, мне показался интересным комментарий Адама Шолля про одну ошибку, с которой он особенно часто сталкивается на воркшопах для людей, которые занимаются рисками, связанными с искусственным интеллектом (т.е. в первую очередь для инженеров, программистов, математиков). И я решил его перевести (основную часть):

=======

[Иногда] я сталкиваюсь с вопросами вида:

"Должен ли я заменить [моя главная цель Х] на [перечень этических целей, про которые я недавно узнал]?"
"Почему наличие у меня цели - это хорошая причина, чтобы её достигать?"
"Можно ли вообще считать утверждения вида 'Х — это хорошо' или 'Y — это прекрасно' осмысленными?"

Когда я сталкиваюсь с этим, я часто показываю на ближайшее дерево и начинаю описывать его на разных уровнях абстракции. Слово "дерево" обозначает множество связанных штук: это объект, относящийся к биологическому царству "растения"; это объект, который люди обычно описывают, издавая звуки, складывающиеся в слово "дерево"; это конкретный физический объект, находящийся перед нами; это конкретное множество частиц, составляющий объект перед нами; и так далее. При этом вполне разумно всё равно использовать слово "дерево", во всяком случае, пока вы не забываете, на каком уровне абстракции вы находитесь, т.е. пока вы точно понимаете, на какую именно связь карты и территории вы ссылаетесь.

Для большинства людей с научным складом ума это очевидно. Но то, что то же самое, с теми же самыми предосторожностями нужно проделывать, обсуждая понятия "цель" и "хорошо", часто гораздо менее очевидно. Бессмысленно обсуждать, является ли указанное дерево "прочным", не уточнив, идёт речь о вероятности того, что оно упадёт, или о силе молекулярных связей. И точно также бессмысленно обсуждать является ли цель "хорошей", не уточняя, подразумеваете ли вы "с точки зрения существующего в обществе консенсуса", или "по отношению к моим текущим предпочтениям", или "по отношению к предпочтениям, которые бы у меня были, если бы я тщательнее их обдумал".

Часто это помогает людям разрешить имеющееся у них противоречие. Возможно, когда-нибудь я придумаю секцию на эту тему, чтобы разрешать больше таких противоречий. Однако мне кажется, что в таком случае некоторые инженеры из слушателей начнут нервничать, потому что всё это будет похожим на занятие по философии! (В беседах с глазу на глаз мне уже об этом говорят регулярно.)

=======

Адам в этом же комментарии ссылается, что в таких вопросах помогает чтение цепочки Как люди понимают слова. Хотя, с моей точки зрения, это ещё и тема Редукционизма.

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Ошибка изменяемого вопроса" из цепочки "Как люди понимают слова".

Небольшая иллюстрация к этому эссе была в предыдущей записи. Представим вопросы: "Нужно ли изучать рациональность?" или "Хорошо ли распространять знания по рациональности?" Вполне вероятно, что найдутся люди, которые скажут, что на эти вопросы невозможно дать однозначный ответ. Но ведь люди - часть реальности. Неужели реальность устроена по-разному в зависимости от того, кто отвечает на вопрос?

https://lesswrong.ru/w/Ошибка_изменяемого_вопроса

Теперь вся цепочка "Как люди понимают слова" переведена на русский.

#воркшопы #санкт_петербург

25-26 января Центр прикладной рациональности Кочерга устраивает воркшоп в Санкт-Петербурге. Воркшоп - это два дня глубокого погружения в вопросы, как применять рациональность для эффективного достижения своих целей.

Подробности и регистрация: https://kocherga-club.ru/workshop/spb?utm_source=announcement&utm_medium=telegram&utm_campaign=spb

Промокод на 2000 рублей для участников сообщества: LESSWRONG

#встречи #москва #нно #уличная_эпистемология #системное_мышление

Видео всех лекций с фестиваля "Прикладная рациональность", который прошёл 19 января в Москве в библиотеке имени Н. А. Некрасова.

Александр Али, "Введение в рациональность"
https://vk.com/video583783_456239068

Роман Тарасов, "Когнитивные искажения" и Алеся Соколова, "Как разговаривать на острые темы и не конфликтовать"
https://vk.com/video583783_456239067

Мария Оленева, "Ненасильственное общение", Александр Али, "Проектные роли: системный подход в общении", Пион Медведева, "Внутренние конфликты, или Как победить прокрастинацию" и Полина Кривых, "Какой бывает научпоп и зачем он нам нужен"
https://vk.com/video583783_456239069

Фотографии со встречи: https://vk.com/album-103521943_272291679

#переводы #цепочки

Я обнаружил, что в 2015 году при объединении исходных "Цепочек" Элиезера Юдковского в книгу, одно из самых первых эссе - "Что такое рациональность" - было достаточно серьёзно отредактировано. Поскольку, к тому же, в имеющемся переводе хватало спорных, с моей точки зрения, мест, я решил, что это эссе стоит того, чтобы перевести его заново.

Итак, что же такое рациональность?

https://lesswrong.ru/w/Что_такое_рациональность

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Рациональность как боевое искусство".

Можно сказать, именно с этого эссе начался блог и сообщество Less Wrong. В ноябре 2006 года появился коллективный блог "Overcoming bias" (помимо Юдковского туда писали, в частности, Робин Хансон и Ник Бостром), и "Рациональность как боевое искусство" было одним из первых постов в этом блоге. После него Юдковский начал писать свои "Цепочки", которые позже переехали в созданный для них коллективный блог LessWrong.

Если человек живёт в городе, почти наверняка ему будет не слишком сложно найти школу боевых искусств, где его научат более эффективно управлять своим телом. Однако почему нет школ, где человека могут научить более эффективно управлять своим разумом? Какие с этим есть сложности? Как их можно преодолеть?

https://lesswrong.ru/w/Рациональность_как_боевое_искусство

#в_мире

На lesswrong.com завершилось голосование по определению лучших постов 2018 года.

Если, например, вас давно интересует вопрос, что же обсуждают на современном LessWrong'е, но вы никак не могли определиться, с чего именно начать читать, то теперь у вас есть ещё один вариант для старта. Если вы хотели перевести для русскоязычного LW (или, например, для людей, интересующихся вопросами ИИ) что-нибудь новое, но не могли разобраться, а что же стоит переводить, возможно, этот список вам тоже поможет.

Помимо главного списка из лучших 15 работ также выделен список из 15 лучших постов, не имеющих прямого отношения к искусственному интеллекту, и список из 10 лучших постов про ИИ.

Всё это можно увидеть по ссылке: https://www.lesswrong.com/posts/3yqf6zJSwBF34Zbys/2018-review-voting-results

Также организаторы там рассуждают о том, как было устроено голосование, что пошло не так и как можно что-нибудь улучшить в будущем.

#переводы #корень_разногласия

Новый перевод на сайте - эссе Рэймона "Что мы создаём" из цепочки "Помни о корнях своих убеждений".

Иногда у людей случаются разные точки зрения на какой-то вопрос. И это хорошо. Однако же, попытки обменяться этими точками зрения нередко приводят к спорам, и далеко не все споры люди постфактум считают для себя полезными и интересными.

В попытках решить этот вопрос в CFAR (Центре прикладной рациональности из Калифорнии) придумали технику "Корень разногласия" (англ. Double Crux). Подробнее об этой технике можно прочитать в статье Дункана Сабьена "Корень разногласия — стратегия для разрешения споров".

Многие люди посчитали, что эта техника довольно полезна, однако же, судя по всему, работает она далеко не всегда. Рэймон (это один из организаторов lesswrong.com в его нынешнем виде) в своей цепочке задаётся вопросом, какие у техники есть ограничения, и как мы вообще можем посмотреть на наши разговоры.

Он предлагает начать с вопроса: "Мы создаём что-нибудь или нет?"

https://lesswrong.ru/w/Что_мы_создаём

#переводы #slatestarcodex

Новый перевод на сайте - рассказ Скотта Александера "Жизнь коротка, искусство вечно".

Скотт Александер в художественной форме строит модели обучения и прогресса. И не только.

https://lesswrong.ru/w/Жизнь_коротка_искусство_вечно