#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Искусственное суммирование" из цепочки "Хрупкие цели".

Иногда бывает так, что люди пытаются сделать что-то, что в принципе кажется им обыденным. Например, когда-то люди хотели научиться летать. Казалось бы, все видят, как летают птицы. Но многовековые попытки научиться летать, подражая птицам, так и окончились ничем. Теперь-то мы понимаем, почему. Однако как нужно было рассуждать, чтобы понять, что этот метод не работает?

А что может быть обыденней, чем интеллект? У каждого из нас он есть, нас окружает множество людей, у которых он тоже есть. И некоторым ранним исследователям искусственного интеллекта казалось, что люди довольно быстро могут решить эту задачу...

Юдковский в своём эссе в несколько иносказательной форме рассуждает о том, какую частую ошибку делают люди, когда решают сложную задачу.

https://lesswrong.ru/w/Искусственное_суммирование

Пересказ англоязычной заметки о двух достаточно простых способах улучшить свои решения.

Как лучше принимать решения

1. Вести дневник решений.
2. Использовать чек-листы.

Дневник решений: помогает оценивать качество принятых решений.

Даёт честный фидбек о решениях. Помогает избавляться от объяснения задним числом. Бывает, что принимаешь плохое решение, а оно приводит к хорошим результатам, и наоборот.

Когда принимаешь решение, записать, какие ожидаешь последствия от этого решения и почему. Ещё полезно записать и как ты чувствуешь (я пока не понял: про решение или про ситуацию, и зачем).

Чек-листы: помогают систематично применять то, что знаешь.

Есть два типа чек-листов:
1. Do-confirm — Делай→проверяй: делаешь обычные штуки, но проверяешь по чек-листу, что ничего не забыл.
2. Read-do — Читай→делай: в сложной ситуации не нужно много думать, просто делаешь что надо по списку.

Two Tips to Improve The Quality of Your Decisions, Michael Mauboussin: fs.blog/2012/09/how-to-improve-the-quality-of-our-decision-making/

Рациональность нужна нам, чтобы принимать решения. Многим из нас хотелось бы научиться принимать решения лучше. Но как этого достичь?

Если мы принимаем важное решение, обычно мы довольно нескоро узнаём о том, было ли оно хорошим. И спустя несколько месяцев подробности того, как именно мы его принимали, уже могут исказиться в нашей памяти. В связи с этим Даниель Канеман рекомендует вести дневник решений, то есть, советует записывать для себя, какие важные решения вы принимаете, в связи с чем, что вы от этого ожидаете и что при этом чувствуете. (Более того, само записывание разной информации, связанной с решением, может помочь.)

В статье по ссылке https://fs.blog/2014/02/decision-journal/ о дневнике решений написано более подробно и приведён шаблон для страницы такого дневника (на английском). Женя Софронов в своём телеграм-канале сделал краткий пересказ, как вести такой дневник: https://t.me/torationality/75

#переводы #цепочки

"Призраки в машине" - эссе Элиезера Юдковского из цепочки "Хрупкие цели".

При обсуждении дружественного искусственного интеллекта люди часто говорят: «Вы, конечно, можете велеть ИИ быть дружественным, но если он способен модифицировать свой собственный исходный код, то он просто уберёт все наложенные вами ограничения».

Однако откуда возьмётся такое решение? Какая цепочка причин и следствий к нему приведёт?

В этом эссе Юдковский разбирает достаточно популярную ошибку в восприятии программирования вообще и искусственного интеллекта в частности.

https://lesswrong.ru/w/Призраки_в_машине

#встречи #нижний_новгород
В группе ВКонтакте участник из Нижнего Новгорода хочет организовывать встречи и ищет единомышленников: https://vk.com/wall-65688570_5068

#в_мире #книги

О сообществе рационалистов вышла книга: Tom Chivers, "The AI Does Not Hate You: Superintelligence, Rationality and the Race to Save the World".

Книга доступна на Амазоне: https://www.amazon.co.uk/Does-Not-Hate-You-Superintelligence-ebook/dp/B07K258VCV/

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Рациональность как привязанность к алгоритмам познания" из цепочки "Особо продвинутая эпистемология для начинающих". (Эта цепочка написана позже остальных и не входит в книгу "Рациональность: от ИИ до Зомби".)

Иногда люди начинают вещать о важности Истины. Но, как показывает практика, разные люди понимают под "Истиной" разное. Судя по всему, предложение «Я считаю, что небо синее, и это истина!» несёт для собеседника столько же информации, сколько и предложение «Небо синее». Зачем же в таком случае нам рассуждать об истине?

Тот же самый вопрос можно задать и о слове "рациональность". В каких предложениях нельзя от него избавиться без потери смысла? И кто такие рационалисты?

https://lesswrong.ru/w/Рациональность_как_привязанность_к_алгоритмам_познания

#проекты_участников
Для людей, которым слушать нравится больше, чем читать.

Алиса и Пион завели свой подкаст, где рассуждают о прагматичности и рациональном выборе на примере мифов и сказок.

Канал подкаста: https://t.me/blablafilia
Сайт: http://apfor.ru
Также подкаст доступен на Ютубе: https://www.youtube.com/playlist?list=PLGFjbKB9uLiktfVhloYREob1oRosxIn9D

#книги

Примерно две трети участников сообщества LessWrong в России узнали о сообществе благодаря книге Элиезера Юдковского "Гарри Поттер и методы рационального мышления". Автор канала Мастриды записал видео, в котором он рассказывает об этой книге и объясняет, почему она может быть важна каждому. Я, конечно, предполагаю, что здесь и так практически все о ней слышали, однако, возможно, у вас есть друзья, которых это видео сподвигнет её прочесть.

На всякий случай скажу, что в видео есть некоторые недочёты - например, не совсем правильно определено, что такое эпистемическая рациональность, а Юдковский назван профессором (очень частая ошибка среди поклонников книги). Ну и поскольку для некоторых это важно: в видео присутствует нецензурная лексика.

https://www.youtube.com/watch?v=J0w_FP35EN0

#сообщество

Опубликованы результаты переписи сообщества за 2018 год: https://lesswrong.ru/survey/2018/

К сожалению, результаты местами выглядят несколько неудачно. Например, фактически не обработан пункт о доходах (судя по всему, возможность ввода в разных валютах была не лучшей идеей), и неправильно выглядят некоторые пункты, где допускался множественный выбор. Но в силу некоторых причин было решено выложить хоть такие результаты, чем никаких.

Постараемся в следующем году сделать лучше.

И о хорошем. Перепись показала, что за два года (предыдущая перепись проходила в 2016 году) участников, которые идентифицируют себя с сообществом настолько, что принимают участие в опросе, стало вдвое больше. Результаты в пунктах "знакомство с терминологией и культурой" при этом немного выросли почти везде.

#проекты_участников

20 июля стартует очередной запуск онлайн-проекта "Зарешай". Проект создан и поддерживается людьми, прекрасно знакомыми с идеями сообщества LessWrong. Смысл проекта: помогать людям решать те проблемы, которые им кажутся наиболее важными (и в том числе помогать определять, что на самом деле более важно).

Участие платное (2000 рублей), но есть некоторое количество бесплатных билетов.

Подробности: https://prapion.me/zareshai

#воркшопы #москва

3 августа начинается новый курс "Кочерги" по прикладной рациональности. Курс состоит из четырёх занятий, которые будут проходить по субботам.

Когда-то у "Кочерги" уже был курс в таком формате, но сейчас программа пересмотрена в сторону ещё большей применимости к реальной жизни.

Подробности и регистрация: https://kocherga-club.ru/3week?utm_source=firstad&utm_medium=telegram&utm_campaign=3week2019-08

Промокод для участников сообщества: LW3WEEK.

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "31 закон удовольствия".

С древних времён люди мечтали об лучшем мире. Некоторые из этих мечтаний воплотились в литературные произведения. По названию одного такого литературного произведения подобные миры стали называть "утопиями".

Однако часто ли в утопиях по-настоящему хочется жить? И наоборот, многие ли произведения, которые породили серьёзные волны "эскапизма", задумывались как утопии?

В эссе "31 закон удовольствия" собраны идеи из цепочки "Теория удовольствия" (эта цепочка пока ещё ждёт своих переводчиков на русский язык), которые с точки зрения Юдковского могут пригодиться писателю-фантасту, желающему написать прекрасный мир будущего. Кроме того, раз уж многие из нас мечтают о том, чтобы сделать мир лучше, никогда не помешает задуматься: а как именно должно выглядеть это "лучше"?

https://lesswrong.ru/w/31_закон_удовольствия

#встречи #новосибирск

Денис Пахомов хочет организовать в Новосибирске клуб для встреч интересующихся прикладной рациональностью. Если вы живёте в Новосибирске, интересуетесь LessWrong'ом, творчеством Скотта Александера или уличной эпистемологией, хотите помочь в организации встреч, Денис приглашает вас с ним связаться: @pakhomdd

Объявление в ВК: https://vk.com/wall447942140_3038

Также можно вступать в новосибирскую группу Lesswrong в ВК: https://vk.com/lesswrong_nsk

#переводы #цепочки

Новый перевод на сайте — эссе Элиезера Юдковского "Навык: Карта — не территория" из цепочки "Особо продвинутая эпистемология для начинающих".

Предположу, что фразу "Карта — не территория" слышали многие. Однако в случае красиво звучащих умных фраз полезно задаваться вопросами: а как это можно применить? Чем знание этой фразы полезно? Что можно из неё извлечь?

https://lesswrong.ru/w/Навык_Карта_—_не_территория

#переводы

"Рациональность - это систематизированное выигрывание". (Э.Юдковский)

На сайте появился перевод первого цикла цепочки "Время молотка". В этой цепочке очень мало любимых многими здесь рассуждений о том, что такое истина, как её искать, почему мы считаем, что можем её найти и так далее. Иногда надо прекращать рассуждать и начинать что-нибудь делать.

В цепочке "Время молотка" собраны различные рационалистские техники (взятые у CFAR - Центра прикладной рациональности в Калифорнии), с помощью которых можно улучшить свою жизнь прямо сейчас. Автор рекомендует для лучшего усвоения брать по одной технике в день и как можно активнее её в этот день применять.

https://lesswrong.ru/node/499

#воркшопы #москва

22-25 августа пройдёт новый выездной воркшоп Кочерги. Четыре дня в коттедже под Москвой практически без перерыва участников будут учить техникам прикладной рациональности: как строить корректную картину мира и принимать решения, позволяющие эффективно достигать своих целей.

Подробности и регистрация: https://kocherga-club.ru/workshop/country

Промокод для тех, кто решается в последний момент (на 6000 рублей): LATEBIRD

#переводы
Цепочка "Время молотка" выложена на сайт целиком!

В этой цепочке описаны различные рационалистские техники (взятые из программы CFAR - центра прикладной рациональности в Калифорнии). Каждая запись в цепочке посвящена одной технике. Автор даёт краткое описание и предлагает упражнения. Для лучшего усвоения рекомендуется брать по одной технике в день и как можно активнее её в этот день применять.

Цепочка заканчивается достаточно интересным подведением итогов, где автор оценивает различные техники, как они помогли лично ему. В том числе, как они помогли ему писать эту цепочку.

https://lesswrong.ru/node/499

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Наслаждение обыденностью" из одноимённой цепочки.

Иногда люди думают, что учёные (в особенности, специализирующиеся в математике и технических науках) не способны ценить прекрасное. Можно вспомнить о стереотипах, из-за которых люди представляют рационалистов как какие-то подобия вулканца Спока из сериала "Звёздный путь". Иногда люди считают, что тщательное изучение какого-то явления может убить его красоту. Если мы знаем, что радуга - это лишь преломляющийся в каплях воды свет, будем ли мы считать, что радуга - это прекрасно? Если подробно описать процессы, которые происходят в мозгу влюблённого, не исчезнет ли любовь?

Эти вопросы уже поднимались в цепочке "Редукционизм". В цепочке "Наслаждение обыденностью" Юдковский продолжает развивать эту тему.

https://lesswrong.ru/w/Наслаждение_обыденностью

#москва #проекты_участников

7 сентября с 12-00 в Кочерге (Москва) пройдёт хакатон по модернизации сайта lesswrong.ru Приглашаются участники с опытом Python, Django, Wagtail или просто web-вёрстки. Можно участвовать удалённо.

Контакты: @un_ba

Подробности: https://vk.com/wall-99973027_4606