Новости сообщества LessWrong
1.32K subscribers
20 photos
1 file
835 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
Перевод: эмоции → слова

Я начал немного изучать то, на что являются реакцией разные эмоции. Кажется, что эмоции — это офигенный способ понимать себя.

И я удивляюсь, что почему-то не встречал системного подхода к этому. Чувствую, что от меня всю жизнь скрывали понятный инструмент понимания себя и мира.

Эмоции — это наша бессознательная реакция на внешний мир. Но чтобы использовать эту информацию, её нужно вербализовать и перевести в область сознательного.

КПТ-дневники идут в сторону решения этой задачи. Но у меня они не зашли. Кажется, из-за того, что это сложно. В них нужно каждый раз переводить из ощущений Системы 1 в слова Системы 2. Каждый раз, когда что-то испытываешь, думать об этом — для меня это слишком сложно.

Поэтому мне кажется, что круто разложить эмоции на простые вопросы, которые помогут переводить сигнал от эмоций в слова. Крутость в том, что можно один раз один раз перевести из эмоций в слова, а дальше просто пользоваться этими подсказками.

Например, вместо того, чтобы каждый раз думать о том, что значит обида и как с ней справляться, мне намного проще сказать себе по шаблону «Так. Я чувствую обиду — значит, у меня были ожидания и они не оправдались. А какие у меня были ожидания?»

Вот здесь я начал писать такой перевод: telegra.ph/EHmocii-01-08

Отдельно замечу, что эмоции — это, разумеется, реакция не на сам внешний мир, а на нашу интерпретацию его. Например, стыд говорит, что «со мной что-то не так и общество меня не примет таким». Но это вообще не значит, что так на самом деле, а значит только то, что у меня есть такое убеждение
#в_мире #переводы

В конце декабря на lesswrong.com представители CFAR предложили участникам задавать любые вопросы про их деятельность. В итоге вопросов, ответов и обсуждений получилось довольно много.

В частности, мне показался интересным комментарий Адама Шолля про одну ошибку, с которой он особенно часто сталкивается на воркшопах для людей, которые занимаются рисками, связанными с искусственным интеллектом (т.е. в первую очередь для инженеров, программистов, математиков). И я решил его перевести (основную часть):

=======

[Иногда] я сталкиваюсь с вопросами вида:

"Должен ли я заменить [моя главная цель Х] на [перечень этических целей, про которые я недавно узнал]?"
"Почему наличие у меня цели - это хорошая причина, чтобы её достигать?"
"Можно ли вообще считать утверждения вида 'Х — это хорошо' или 'Y — это прекрасно' осмысленными?"

Когда я сталкиваюсь с этим, я часто показываю на ближайшее дерево и начинаю описывать его на разных уровнях абстракции. Слово "дерево" обозначает множество связанных штук: это объект, относящийся к биологическому царству "растения"; это объект, который люди обычно описывают, издавая звуки, складывающиеся в слово "дерево"; это конкретный физический объект, находящийся перед нами; это конкретное множество частиц, составляющий объект перед нами; и так далее. При этом вполне разумно всё равно использовать слово "дерево", во всяком случае, пока вы не забываете, на каком уровне абстракции вы находитесь, т.е. пока вы точно понимаете, на какую именно связь карты и территории вы ссылаетесь.

Для большинства людей с научным складом ума это очевидно. Но то, что то же самое, с теми же самыми предосторожностями нужно проделывать, обсуждая понятия "цель" и "хорошо", часто гораздо менее очевидно. Бессмысленно обсуждать, является ли указанное дерево "прочным", не уточнив, идёт речь о вероятности того, что оно упадёт, или о силе молекулярных связей. И точно также бессмысленно обсуждать является ли цель "хорошей", не уточняя, подразумеваете ли вы "с точки зрения существующего в обществе консенсуса", или "по отношению к моим текущим предпочтениям", или "по отношению к предпочтениям, которые бы у меня были, если бы я тщательнее их обдумал".

Часто это помогает людям разрешить имеющееся у них противоречие. Возможно, когда-нибудь я придумаю секцию на эту тему, чтобы разрешать больше таких противоречий. Однако мне кажется, что в таком случае некоторые инженеры из слушателей начнут нервничать, потому что всё это будет похожим на занятие по философии! (В беседах с глазу на глаз мне уже об этом говорят регулярно.)

=======

Адам в этом же комментарии ссылается, что в таких вопросах помогает чтение цепочки Как люди понимают слова. Хотя, с моей точки зрения, это ещё и тема Редукционизма.
#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Ошибка изменяемого вопроса" из цепочки "Как люди понимают слова".

Небольшая иллюстрация к этому эссе была в предыдущей записи. Представим вопросы: "Нужно ли изучать рациональность?" или "Хорошо ли распространять знания по рациональности?" Вполне вероятно, что найдутся люди, которые скажут, что на эти вопросы невозможно дать однозначный ответ. Но ведь люди - часть реальности. Неужели реальность устроена по-разному в зависимости от того, кто отвечает на вопрос?

https://lesswrong.ru/w/Ошибка_изменяемого_вопроса

Теперь вся цепочка "Как люди понимают слова" переведена на русский.
#воркшопы #санкт_петербург

25-26 января Центр прикладной рациональности Кочерга устраивает воркшоп в Санкт-Петербурге. Воркшоп - это два дня глубокого погружения в вопросы, как применять рациональность для эффективного достижения своих целей.

Подробности и регистрация: https://kocherga-club.ru/workshop/spb?utm_source=announcement&utm_medium=telegram&utm_campaign=spb

Промокод на 2000 рублей для участников сообщества: LESSWRONG
#встречи #москва #нно #уличная_эпистемология #системное_мышление

Видео всех лекций с фестиваля "Прикладная рациональность", который прошёл 19 января в Москве в библиотеке имени Н. А. Некрасова.

Александр Али, "Введение в рациональность"
https://vk.com/video583783_456239068

Роман Тарасов, "Когнитивные искажения" и Алеся Соколова, "Как разговаривать на острые темы и не конфликтовать"
https://vk.com/video583783_456239067

Мария Оленева, "Ненасильственное общение", Александр Али, "Проектные роли: системный подход в общении", Пион Медведева, "Внутренние конфликты, или Как победить прокрастинацию" и Полина Кривых, "Какой бывает научпоп и зачем он нам нужен"
https://vk.com/video583783_456239069

Фотографии со встречи: https://vk.com/album-103521943_272291679
#переводы #цепочки

Я обнаружил, что в 2015 году при объединении исходных "Цепочек" Элиезера Юдковского в книгу, одно из самых первых эссе - "Что такое рациональность" - было достаточно серьёзно отредактировано. Поскольку, к тому же, в имеющемся переводе хватало спорных, с моей точки зрения, мест, я решил, что это эссе стоит того, чтобы перевести его заново.

Итак, что же такое рациональность?

https://lesswrong.ru/w/Что_такое_рациональность
#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Рациональность как боевое искусство".

Можно сказать, именно с этого эссе начался блог и сообщество Less Wrong. В ноябре 2006 года появился коллективный блог "Overcoming bias" (помимо Юдковского туда писали, в частности, Робин Хансон и Ник Бостром), и "Рациональность как боевое искусство" было одним из первых постов в этом блоге. После него Юдковский начал писать свои "Цепочки", которые позже переехали в созданный для них коллективный блог LessWrong.

Если человек живёт в городе, почти наверняка ему будет не слишком сложно найти школу боевых искусств, где его научат более эффективно управлять своим телом. Однако почему нет школ, где человека могут научить более эффективно управлять своим разумом? Какие с этим есть сложности? Как их можно преодолеть?

https://lesswrong.ru/w/Рациональность_как_боевое_искусство
#в_мире

На lesswrong.com завершилось голосование по определению лучших постов 2018 года.

Если, например, вас давно интересует вопрос, что же обсуждают на современном LessWrong'е, но вы никак не могли определиться, с чего именно начать читать, то теперь у вас есть ещё один вариант для старта. Если вы хотели перевести для русскоязычного LW (или, например, для людей, интересующихся вопросами ИИ) что-нибудь новое, но не могли разобраться, а что же стоит переводить, возможно, этот список вам тоже поможет.

Помимо главного списка из лучших 15 работ также выделен список из 15 лучших постов, не имеющих прямого отношения к искусственному интеллекту, и список из 10 лучших постов про ИИ.

Всё это можно увидеть по ссылке: https://www.lesswrong.com/posts/3yqf6zJSwBF34Zbys/2018-review-voting-results

Также организаторы там рассуждают о том, как было устроено голосование, что пошло не так и как можно что-нибудь улучшить в будущем.
#переводы #корень_разногласия

Новый перевод на сайте - эссе Рэймона "Что мы создаём" из цепочки "Помни о корнях своих убеждений".

Иногда у людей случаются разные точки зрения на какой-то вопрос. И это хорошо. Однако же, попытки обменяться этими точками зрения нередко приводят к спорам, и далеко не все споры люди постфактум считают для себя полезными и интересными.

В попытках решить этот вопрос в CFAR (Центре прикладной рациональности из Калифорнии) придумали технику "Корень разногласия" (англ. Double Crux). Подробнее об этой технике можно прочитать в статье Дункана Сабьена "Корень разногласия — стратегия для разрешения споров".

Многие люди посчитали, что эта техника довольно полезна, однако же, судя по всему, работает она далеко не всегда. Рэймон (это один из организаторов lesswrong.com в его нынешнем виде) в своей цепочке задаётся вопросом, какие у техники есть ограничения, и как мы вообще можем посмотреть на наши разговоры.

Он предлагает начать с вопроса: "Мы создаём что-нибудь или нет?"

https://lesswrong.ru/w/Что_мы_создаём
#видео #встречи #москва

Видеозапись доклада Антона Чайникова "Как учить сложные штуки" со встречи сообщества LessWrong 19 января в центре прикладной рациональности Кочерга (Москва).

Авторское описание доклада:

"В примерах: кусочки теории моделей, теорката, топологии, теории типов, вопросы замены органов, немного теории ИИ, немного разработки ПО.

В именах действий: пересказывать, пересказывать неоднократно; намечать план с промежуточными шагами и следовать ему, намечать план и игнорировать промежуточные шаги, намечать план и идти в обратную сторону; ходить абстрактнее и ходить конкретнее; делать упражнения, придумывать себе ещё упражнения и делать их, замечать примеры и доказательства, которые автор приводит, и делать их как упражнения."

https://www.youtube.com/watch?v=nUfUncwZios
#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Инверсия хаоса" из цепочки "Основы редукционизма".

Иногда нам кажется, что происходит что-то непонятное. Что-то неподвластное нашему контролю (ну или по крайней мере, очень слабо подвластное). Что-то, с чем мы ничего не можем сделать, и нам остаётся только жить с этим.

В "Инверсии хаоса" Юдковский рассказывает о собственном подобном опыте.

https://lesswrong.ru/w/Инверсия_хаоса

Цепочка "Основы редукционизма" теперь переведена полностью.
#переводы

Перевод небольшой заметке Зви Моушовица о критерии Келли. Критерий Келли - это формула, которая определяет, каким количеством денег вы можете рискнуть (при инвестициях, ставках и прочих подобных действиях). Зви объясняет, какое отношение эта математика имеет к реальной жизни.

https://vk.com/@perevodiitudasuda-kriterii-kelli
#переводы #цепочки

Новый перевод на сайте - введение Роба Бенсинджера к третьему тому книги Элиезера Юдковского "Рациональность: От ИИ до Зомби".

При издании "Цепочек" Юдковского в виде книги Роб Бенсинджер написал введение к каждому из томов. В этом введении он рассуждает о том, почему для объяснения рациональности Юдковский обращается к эволюционной биологии и вопросам искусственного интеллекта.

https://lesswrong.ru/w/Разум_введение
#встречи #в_мире

Каждый сентябрь в Берлине проходит четырёхдневная встреча ЛВ-коммьюнити - LessWrong Community Weekend - которая состоится и в этом году. Там будет множество мини-лекций, воркшопов, игр и общения с единомышленниками из разных стран. Если вы хотите познакомиться с другими членами нашего сообщества, узнать что-то новое или даже провести свою секцию, не стесняйтесь подавать заявку (+ есть возможность финансовой поддержки).

Подробности в GoogleDoc: https://docs.google.com/document/d/1EH3RrZjUo8KzQ0qA0o_l-U4n-_qCz1soG0hR42drCHU/edit

Подробности в FB: https://www.facebook.com/events/510332516175832/
#переводы #цепочки #юдковский

Новый перевод на сайте - эссе Элиезера Юдковского "Убеждения о вечном двигателе" из цепочки "Правда закономерна".

В этом эссе Юдковский продолжает рассуждать о человеческом познании с точки зрения физики. И, развивая свои аналогии, сравнивает попытки пренебречь законами теории вероятностей с попытками изобрести вечный двигатель.

https://lesswrong.ru/w/Убеждения_о_вечном_двигателе
#видео #встречи #москва

Видеозапись доклада Юрия Баранова "Устройства вывода и границы научного познания" с академической встречи LessWrong в Кочерге 19 января 2020 года. На основе статьи Дэвида Вольперта 2018 года, где он развивает теорию, своего рода обобщение машин Тьюринга и теорем Гёделя и доказывает ряд забавных теорем.

https://www.youtube.com/watch?v=1cG7JcFi8m4
#эффективный_альтруизм

Организаторы движения Эффективного альтруизма в России готовы побеседовать об ЭА со всеми желающими.
Мы запускаем бесплатные онлайн-консультации для тех, кто хочет узнать больше об эффективном альтруизме.

Они будут полезны, если вы хотите:
• Узнать больше о принципах и идеях эффективного альтруизма
• Получить консультацию по пожертвованиям в эффективные организации
• Обсудить карьерные траектории, которые принесут максимум пользы

У нас нет ответов на все вопросы, но есть опыт, знания и инструменты, которыми мы хотим делиться.

По ссылкам ниже можно выбрать удобное время для звонка. К нему не нужно специально готовиться, это аналог дружеской беседы за чашкой кофе.

Саша Бережной
Занимается развитием ЭА в России, провел десятки лекций и несколько воркшопов, получил два гранта из Оксфорда и учится на программе от MIT и J-PAL, посвященной экономике развития и искоренению бедности.
https://calendly.com/abspace

Миша Ягудин
Миша будет рад поговорить про AI alignment и longtermism, своем опыте на EA Global, MIRI Summer Fellows Program и других мероприятиях. Он учится в ШАДе Яндекса, а в свободное время делает предсказания на Metaculus.
https://calendly.com/yagudin
#видео #встречи #москва

Видеозапись доклада Филиппа Благовещенского об утилитаризме (этической системе): виды утилитаризма, The repugnant conclusion, The sadistic conclusion, проблемы утилитаризма и контринтуитивные следствия.

Доклад был сделан на академической встрече LessWrong 23 февраля 2020 года.

https://www.youtube.com/watch?v=sLJkwMo7H50