#воркшопы #москва
16–17 марта в Кочерге пройдёт очередной воркшоп по прикладной рациональности - двухдневный практикум по развитию рациональных навыков - как устанавливать привычки, как победить прокрастинацию, как думать о собственном мышлении, замечать ошибки и исправлять их, как продуманно ставить цели и находить оптимальный путь к их достижению.

Подробности и регистрация: https://kocherga-club.ru/workshop?utm_source=lesswrong&utm_medium=telegram&utm_campaign=workshop-2019-03

Промокод для LessWrong-сообщества: 2RATIODAYS

#проекты_участников

Дмитрий Васильев приглашает присоединиться к проекту видео-канала на ютубе, посвящённого рациональности и смежным темам. Цель — популяризация рационального мышления и прагматизма для широкой аудитории. Больше всего похоже на ScieOne, но не про науки. Также планируется иметь качественную видеосъёмку, доступные тексты, иллюстрации. В большей степени нужно содействие в проработке тем роликов (как лучше выразить мысль, какие примеры показать, что стоит опустить, какие интерактивности предложить по теме). Физически проект располагается в Питере, но участие можно принять и удалённо. Ещё есть открытые “роли”:

* Иллюстратор
* Диктор-ведущий
* Сценарист
* Видеооператор

Подробности: @kelegorm

#статьи_участников

Чтобы решить, нужно что-то делать или не нужно, мы можем перейти на "мета-уровень" и задать себе вопрос: а что нам нужно узнать, чтобы получить ответ на исходный вопрос? Переход на мета-уровень часто бывает полезен, однако излишнее использование этого приёма приводит к проблемам - например, излишним обсуждениям, которые длятся гораздо дольше необходимого. Подробнее об этой проблеме и способах её решения можно почитать в новой статье из блога Кочерги.

https://kocherga-club.ru/blog/meta

#статьи_участников

В блоге Кочерги появилась статья "Внутренний Голлум разногласия". В ней в художественной форме показана попытка применения техники "Внутренний корень разногласия", смысл которой заключается в том, что технику "корень разногласия" можно использовать не только для дискуссий с другими людьми, но и для разрешения внутренних конфликтов.

#статьи_участников

В нашем сообществе любят рассуждать об эффективности. Однако сейчас эффективность требует освоения большого количества навыков и знаний. Книга Барбары Оакли "Думай как математик" как раз посвящена вопросам, как учиться чему-нибудь (особенно математическим и техническим дисциплинам) эффективнее. Автор книги, кстати, ещё и является автором одного из популярнейших на Курсере курсов "Learning how to learn".

Небольшая заметка об этой книге.
В ВК: https://vk.com/@1948730-barbara-oakli-dumai-kak-matematik
В ЖЖ: https://users.livejournal.com/alaric-/536638.html

#воркшопы #москва

9-12 мая Кочерга впервые устраивает четырёхдневный воркшоп. Воркшоп пройдёт за городом, в большом коттедже в Подмосковье, чтобы ничего не отвлекало участников. В программе работа над мотивацией и целеполаганием, групповая практика и особые секции о том, почему методы рациональности устроены так, как они устроены.

Подробности и регистрация: https://kocherga-club.ru/workshop/country?utm_source=lesswrong&utm_medium=telegram&utm_campaign=country-2019-05

Промокод для LW-сообщества на 3000 руб: 4RATIODAYS.

#воркшопы #москва

И ещё немного про выездной воркшоп от Кочерги. Кочерга предлагает стипендию - компенсацию части стоимости воркшопа для тех, кто не в состоянии оплатить полную стоимость, но стремится приносить миру пользу и сможет делать это эффективнее после обучения прикладной рациональности. Заявки принимаются до 29 апреля включительно.

Подробности: https://kocherga-club.ru/workshop/country#grant

#переводы #цепочки

На сайте появился перевод эссе Элиезера Юдковского "Где заканчивается рекурсия обоснований" из цепочки "Теория ценности".

Люди часто апеллируют в дискуссиях, например, к бритве Оккама. Однако почему мы считаем, что бритва Оккама работает? Кажется, мы можем заключить, что в прошлом бритва Оккама нас не подводила. Однако почему мы считаем, что будущее в этом плане будет похоже на прошлое?

Если каждое убеждение должно быть обосновано, и каждое обоснование тоже должно быть обосновано, то где может закончится эта рекурсия обоснований? А если в какой-то момент можно что-то оставить без обоснования, то почему нельзя оставить без обоснования что-нибудь ещё?

https://lesswrong.ru/w/Где_заканчивается_рекурсия_обоснований

#статьи_участников

Наши убеждения иногда отрываются от реальности. Например, человек может думать: "полезно изучать рациональность". Но всегда ли за этим убеждением что-нибудь стоит? Есть ли у человека в голове картина: а что должно получиться, когда он достигнет какого-то прогресса в рациональности? Чем он, на сколько-то изучивший рациональность, будет отличаться от себя нынешнего?

Приём, связывающий убеждения с реальностью, иногда называют заземлением. Немного о нём написано в статье из блога Кочерги: https://kocherga-club.ru/blog/grounding

#статьи_участников

Татьяна Борзенко описала текущий формат "Книжного клуба Кочерги" - регулярных встреч, на которых участники разбирают книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского:
https://lesswrong.ru/wiki/index.php?title=%CA%ED%E8%E6%ED%FB%E9_%EA%EB%F3%E1_%CA%EE%F7%E5%F0%E3%E8

Я решил написать об этом здесь по двум причинам.

Во-первых, само по себе обсуждение книги Юдковского может быть интересно москвичам, которые читают этот канал.

Во-вторых, мне представляется, что разнообразные результаты экспериментов с форматами встреч могут быть интересны другим людям, которые либо уже организуют встречи, либо думают, что встречи сообщества в их городе - это хорошая идея, но не знают, как к ней подступиться.

Один из подписчиков группы ВКонтакте прислал ссылку на довольно интересную статью (на английском):
https://www.meltingasphalt.com/interactive/going-critical/

В статье автор рассуждает о том, как разнообразные явления распространяются по сетям. С помощью модели сетей можно описывать распространение болезней, лесной пожар и, конечно же, распространение идей. Автор описывает несколько простых моделей (модели интерактивные, можно самостоятельно поиграть с параметрами), после чего рассуждает, какие практические следствия можно извлечь даже из таких простых моделей.

Пример любопытного с моей точки зрения рассуждения. Сельские жители традиционно считаются более консервативными, чем городские. Часто встречаются рассуждения, где эта особенность объясняется какими-то различающимися личностными чертами. Но что если подойти к вопросу с точки зрения социальных связей?

В конце автор на примере тех же моделей рассуждает о проблемах современной науки.

#статьи_участников

Мария Оленева написала большую статью об уличной эпистемологии - методе, позволяющем лучше понимать собеседника во время споров.

https://knife.media/epistemology/

#переводы #цепочки

"Редуктивная отсылка" - эссе Элиезера Юдковского из цепочки "Физикализм для продвинутых".

Наша карта реального мира состоит из множества уровней. Рассуждая об устройстве человеческого тела, мы можем рассуждать о каких-то тканях, его составляющих. Далее мы можем спускаться на уровень клеток, молекул, атомов, кварков... Ниже кварков нам пока ничего не известно, но мы даже не можем быть уверены, что в будущем не обнаружат какие-то ещё более фундаментальные частицы.

Реальность же, насколько мы можем судить, содержит только один уровень.

В этом эссе Юдковский задаётся вопросом: если в реальности существуют лишь кварки (или даже что-то ещё более низкоуровневое), то как мы можем рассуждать о чём-либо высокоуровневном? Как можно сказать "я ношу носки", если на самом деле никаких носков нет, есть лишь огромное количество фундаментальных частиц? Мы не в состоянии описать поведение окружающих нас предметов на языке фундаментальных частиц. Почему же мы называем какие-то наши убеждения истинными, ведь мы не можем их проверить на том уровне, на котором существует реальность?

https://lesswrong.ru/w/Редуктивная_отсылка

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Искусственное суммирование" из цепочки "Хрупкие цели".

Иногда бывает так, что люди пытаются сделать что-то, что в принципе кажется им обыденным. Например, когда-то люди хотели научиться летать. Казалось бы, все видят, как летают птицы. Но многовековые попытки научиться летать, подражая птицам, так и окончились ничем. Теперь-то мы понимаем, почему. Однако как нужно было рассуждать, чтобы понять, что этот метод не работает?

А что может быть обыденней, чем интеллект? У каждого из нас он есть, нас окружает множество людей, у которых он тоже есть. И некоторым ранним исследователям искусственного интеллекта казалось, что люди довольно быстро могут решить эту задачу...

Юдковский в своём эссе в несколько иносказательной форме рассуждает о том, какую частую ошибку делают люди, когда решают сложную задачу.

https://lesswrong.ru/w/Искусственное_суммирование

Пересказ англоязычной заметки о двух достаточно простых способах улучшить свои решения.

Как лучше принимать решения

1. Вести дневник решений.
2. Использовать чек-листы.

Дневник решений: помогает оценивать качество принятых решений.

Даёт честный фидбек о решениях. Помогает избавляться от объяснения задним числом. Бывает, что принимаешь плохое решение, а оно приводит к хорошим результатам, и наоборот.

Когда принимаешь решение, записать, какие ожидаешь последствия от этого решения и почему. Ещё полезно записать и как ты чувствуешь (я пока не понял: про решение или про ситуацию, и зачем).

Чек-листы: помогают систематично применять то, что знаешь.

Есть два типа чек-листов:
1. Do-confirm — Делай→проверяй: делаешь обычные штуки, но проверяешь по чек-листу, что ничего не забыл.
2. Read-do — Читай→делай: в сложной ситуации не нужно много думать, просто делаешь что надо по списку.

Two Tips to Improve The Quality of Your Decisions, Michael Mauboussin: fs.blog/2012/09/how-to-improve-the-quality-of-our-decision-making/

Рациональность нужна нам, чтобы принимать решения. Многим из нас хотелось бы научиться принимать решения лучше. Но как этого достичь?

Если мы принимаем важное решение, обычно мы довольно нескоро узнаём о том, было ли оно хорошим. И спустя несколько месяцев подробности того, как именно мы его принимали, уже могут исказиться в нашей памяти. В связи с этим Даниель Канеман рекомендует вести дневник решений, то есть, советует записывать для себя, какие важные решения вы принимаете, в связи с чем, что вы от этого ожидаете и что при этом чувствуете. (Более того, само записывание разной информации, связанной с решением, может помочь.)

В статье по ссылке https://fs.blog/2014/02/decision-journal/ о дневнике решений написано более подробно и приведён шаблон для страницы такого дневника (на английском). Женя Софронов в своём телеграм-канале сделал краткий пересказ, как вести такой дневник: https://t.me/torationality/75

#переводы #цепочки

"Призраки в машине" - эссе Элиезера Юдковского из цепочки "Хрупкие цели".

При обсуждении дружественного искусственного интеллекта люди часто говорят: «Вы, конечно, можете велеть ИИ быть дружественным, но если он способен модифицировать свой собственный исходный код, то он просто уберёт все наложенные вами ограничения».

Однако откуда возьмётся такое решение? Какая цепочка причин и следствий к нему приведёт?

В этом эссе Юдковский разбирает достаточно популярную ошибку в восприятии программирования вообще и искусственного интеллекта в частности.

https://lesswrong.ru/w/Призраки_в_машине

#встречи #нижний_новгород
В группе ВКонтакте участник из Нижнего Новгорода хочет организовывать встречи и ищет единомышленников: https://vk.com/wall-65688570_5068

#в_мире #книги

О сообществе рационалистов вышла книга: Tom Chivers, "The AI Does Not Hate You: Superintelligence, Rationality and the Race to Save the World".

Книга доступна на Амазоне: https://www.amazon.co.uk/Does-Not-Hate-You-Superintelligence-ebook/dp/B07K258VCV/

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Рациональность как привязанность к алгоритмам познания" из цепочки "Особо продвинутая эпистемология для начинающих". (Эта цепочка написана позже остальных и не входит в книгу "Рациональность: от ИИ до Зомби".)

Иногда люди начинают вещать о важности Истины. Но, как показывает практика, разные люди понимают под "Истиной" разное. Судя по всему, предложение «Я считаю, что небо синее, и это истина!» несёт для собеседника столько же информации, сколько и предложение «Небо синее». Зачем же в таком случае нам рассуждать об истине?

Тот же самый вопрос можно задать и о слове "рациональность". В каких предложениях нельзя от него избавиться без потери смысла? И кто такие рационалисты?

https://lesswrong.ru/w/Рациональность_как_привязанность_к_алгоритмам_познания