Новости сообщества LessWrong
1.27K subscribers
20 photos
1 file
821 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
#переводы #цепочки

На сайте появился перевод эссе Элиезера Юдковского "Где заканчивается рекурсия обоснований" из цепочки "Теория ценности".

Люди часто апеллируют в дискуссиях, например, к бритве Оккама. Однако почему мы считаем, что бритва Оккама работает? Кажется, мы можем заключить, что в прошлом бритва Оккама нас не подводила. Однако почему мы считаем, что будущее в этом плане будет похоже на прошлое?

Если каждое убеждение должно быть обосновано, и каждое обоснование тоже должно быть обосновано, то где может закончится эта рекурсия обоснований? А если в какой-то момент можно что-то оставить без обоснования, то почему нельзя оставить без обоснования что-нибудь ещё?

https://lesswrong.ru/w/Где_заканчивается_рекурсия_обоснований
#статьи_участников

Наши убеждения иногда отрываются от реальности. Например, человек может думать: "полезно изучать рациональность". Но всегда ли за этим убеждением что-нибудь стоит? Есть ли у человека в голове картина: а что должно получиться, когда он достигнет какого-то прогресса в рациональности? Чем он, на сколько-то изучивший рациональность, будет отличаться от себя нынешнего?

Приём, связывающий убеждения с реальностью, иногда называют заземлением. Немного о нём написано в статье из блога Кочерги: https://kocherga-club.ru/blog/grounding
#статьи_участников

Татьяна Борзенко описала текущий формат "Книжного клуба Кочерги" - регулярных встреч, на которых участники разбирают книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского:
https://lesswrong.ru/wiki/index.php?title=%CA%ED%E8%E6%ED%FB%E9_%EA%EB%F3%E1_%CA%EE%F7%E5%F0%E3%E8

Я решил написать об этом здесь по двум причинам.

Во-первых, само по себе обсуждение книги Юдковского может быть интересно москвичам, которые читают этот канал.

Во-вторых, мне представляется, что разнообразные результаты экспериментов с форматами встреч могут быть интересны другим людям, которые либо уже организуют встречи, либо думают, что встречи сообщества в их городе - это хорошая идея, но не знают, как к ней подступиться.
Один из подписчиков группы ВКонтакте прислал ссылку на довольно интересную статью (на английском):
https://www.meltingasphalt.com/interactive/going-critical/

В статье автор рассуждает о том, как разнообразные явления распространяются по сетям. С помощью модели сетей можно описывать распространение болезней, лесной пожар и, конечно же, распространение идей. Автор описывает несколько простых моделей (модели интерактивные, можно самостоятельно поиграть с параметрами), после чего рассуждает, какие практические следствия можно извлечь даже из таких простых моделей.

Пример любопытного с моей точки зрения рассуждения. Сельские жители традиционно считаются более консервативными, чем городские. Часто встречаются рассуждения, где эта особенность объясняется какими-то различающимися личностными чертами. Но что если подойти к вопросу с точки зрения социальных связей?

В конце автор на примере тех же моделей рассуждает о проблемах современной науки.
#переводы #цепочки

"Редуктивная отсылка" - эссе Элиезера Юдковского из цепочки "Физикализм для продвинутых".

Наша карта реального мира состоит из множества уровней. Рассуждая об устройстве человеческого тела, мы можем рассуждать о каких-то тканях, его составляющих. Далее мы можем спускаться на уровень клеток, молекул, атомов, кварков... Ниже кварков нам пока ничего не известно, но мы даже не можем быть уверены, что в будущем не обнаружат какие-то ещё более фундаментальные частицы.

Реальность же, насколько мы можем судить, содержит только один уровень.

В этом эссе Юдковский задаётся вопросом: если в реальности существуют лишь кварки (или даже что-то ещё более низкоуровневое), то как мы можем рассуждать о чём-либо высокоуровневном? Как можно сказать "я ношу носки", если на самом деле никаких носков нет, есть лишь огромное количество фундаментальных частиц? Мы не в состоянии описать поведение окружающих нас предметов на языке фундаментальных частиц. Почему же мы называем какие-то наши убеждения истинными, ведь мы не можем их проверить на том уровне, на котором существует реальность?

https://lesswrong.ru/w/Редуктивная_отсылка
#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Искусственное суммирование" из цепочки "Хрупкие цели".

Иногда бывает так, что люди пытаются сделать что-то, что в принципе кажется им обыденным. Например, когда-то люди хотели научиться летать. Казалось бы, все видят, как летают птицы. Но многовековые попытки научиться летать, подражая птицам, так и окончились ничем. Теперь-то мы понимаем, почему. Однако как нужно было рассуждать, чтобы понять, что этот метод не работает?

А что может быть обыденней, чем интеллект? У каждого из нас он есть, нас окружает множество людей, у которых он тоже есть. И некоторым ранним исследователям искусственного интеллекта казалось, что люди довольно быстро могут решить эту задачу...

Юдковский в своём эссе в несколько иносказательной форме рассуждает о том, какую частую ошибку делают люди, когда решают сложную задачу.

https://lesswrong.ru/w/Искусственное_суммирование
Пересказ англоязычной заметки о двух достаточно простых способах улучшить свои решения.
Forwarded from Любопытство против страха
Как лучше принимать решения

1. Вести дневник решений.
2. Использовать чек-листы.

Дневник решений: помогает оценивать качество принятых решений.

Даёт честный фидбек о решениях. Помогает избавляться от объяснения задним числом. Бывает, что принимаешь плохое решение, а оно приводит к хорошим результатам, и наоборот.

Когда принимаешь решение, записать, какие ожидаешь последствия от этого решения и почему. Ещё полезно записать и как ты чувствуешь (я пока не понял: про решение или про ситуацию, и зачем).

Чек-листы: помогают систематично применять то, что знаешь.

Есть два типа чек-листов:
1. Do-confirm — Делай→проверяй: делаешь обычные штуки, но проверяешь по чек-листу, что ничего не забыл.
2. Read-do — Читай→делай: в сложной ситуации не нужно много думать, просто делаешь что надо по списку.

Two Tips to Improve The Quality of Your Decisions, Michael Mauboussin: fs.blog/2012/09/how-to-improve-the-quality-of-our-decision-making/
Рациональность нужна нам, чтобы принимать решения. Многим из нас хотелось бы научиться принимать решения лучше. Но как этого достичь?

Если мы принимаем важное решение, обычно мы довольно нескоро узнаём о том, было ли оно хорошим. И спустя несколько месяцев подробности того, как именно мы его принимали, уже могут исказиться в нашей памяти. В связи с этим Даниель Канеман рекомендует вести дневник решений, то есть, советует записывать для себя, какие важные решения вы принимаете, в связи с чем, что вы от этого ожидаете и что при этом чувствуете. (Более того, само записывание разной информации, связанной с решением, может помочь.)

В статье по ссылке https://fs.blog/2014/02/decision-journal/ о дневнике решений написано более подробно и приведён шаблон для страницы такого дневника (на английском). Женя Софронов в своём телеграм-канале сделал краткий пересказ, как вести такой дневник: https://t.me/torationality/75
#переводы #цепочки

"Призраки в машине" - эссе Элиезера Юдковского из цепочки "Хрупкие цели".

При обсуждении дружественного искусственного интеллекта люди часто говорят: «Вы, конечно, можете велеть ИИ быть дружественным, но если он способен модифицировать свой собственный исходный код, то он просто уберёт все наложенные вами ограничения».

Однако откуда возьмётся такое решение? Какая цепочка причин и следствий к нему приведёт?

В этом эссе Юдковский разбирает достаточно популярную ошибку в восприятии программирования вообще и искусственного интеллекта в частности.

https://lesswrong.ru/w/Призраки_в_машине
#встречи #нижний_новгород
В группе ВКонтакте участник из Нижнего Новгорода хочет организовывать встречи и ищет единомышленников: https://vk.com/wall-65688570_5068
#в_мире #книги

О сообществе рационалистов вышла книга: Tom Chivers, "The AI Does Not Hate You: Superintelligence, Rationality and the Race to Save the World".

Книга доступна на Амазоне: https://www.amazon.co.uk/Does-Not-Hate-You-Superintelligence-ebook/dp/B07K258VCV/
#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Рациональность как привязанность к алгоритмам познания" из цепочки "Особо продвинутая эпистемология для начинающих". (Эта цепочка написана позже остальных и не входит в книгу "Рациональность: от ИИ до Зомби".)

Иногда люди начинают вещать о важности Истины. Но, как показывает практика, разные люди понимают под "Истиной" разное. Судя по всему, предложение «Я считаю, что небо синее, и это истина!» несёт для собеседника столько же информации, сколько и предложение «Небо синее». Зачем же в таком случае нам рассуждать об истине?

Тот же самый вопрос можно задать и о слове "рациональность". В каких предложениях нельзя от него избавиться без потери смысла? И кто такие рационалисты?

https://lesswrong.ru/w/Рациональность_как_привязанность_к_алгоритмам_познания
#проекты_участников
Для людей, которым слушать нравится больше, чем читать.

Алиса и Пион завели свой подкаст, где рассуждают о прагматичности и рациональном выборе на примере мифов и сказок.

Канал подкаста: https://t.me/blablafilia
Сайт: http://apfor.ru
Также подкаст доступен на Ютубе: https://www.youtube.com/playlist?list=PLGFjbKB9uLiktfVhloYREob1oRosxIn9D
#книги

Примерно две трети участников сообщества LessWrong в России узнали о сообществе благодаря книге Элиезера Юдковского "Гарри Поттер и методы рационального мышления". Автор канала Мастриды записал видео, в котором он рассказывает об этой книге и объясняет, почему она может быть важна каждому. Я, конечно, предполагаю, что здесь и так практически все о ней слышали, однако, возможно, у вас есть друзья, которых это видео сподвигнет её прочесть.

На всякий случай скажу, что в видео есть некоторые недочёты - например, не совсем правильно определено, что такое эпистемическая рациональность, а Юдковский назван профессором (очень частая ошибка среди поклонников книги). Ну и поскольку для некоторых это важно: в видео присутствует нецензурная лексика.

https://www.youtube.com/watch?v=J0w_FP35EN0
#сообщество

Опубликованы результаты переписи сообщества за 2018 год: https://lesswrong.ru/survey/2018/

К сожалению, результаты местами выглядят несколько неудачно. Например, фактически не обработан пункт о доходах (судя по всему, возможность ввода в разных валютах была не лучшей идеей), и неправильно выглядят некоторые пункты, где допускался множественный выбор. Но в силу некоторых причин было решено выложить хоть такие результаты, чем никаких.

Постараемся в следующем году сделать лучше.

И о хорошем. Перепись показала, что за два года (предыдущая перепись проходила в 2016 году) участников, которые идентифицируют себя с сообществом настолько, что принимают участие в опросе, стало вдвое больше. Результаты в пунктах "знакомство с терминологией и культурой" при этом немного выросли почти везде.
#проекты_участников

20 июля стартует очередной запуск онлайн-проекта "Зарешай". Проект создан и поддерживается людьми, прекрасно знакомыми с идеями сообщества LessWrong. Смысл проекта: помогать людям решать те проблемы, которые им кажутся наиболее важными (и в том числе помогать определять, что на самом деле более важно).

Участие платное (2000 рублей), но есть некоторое количество бесплатных билетов.

Подробности: https://prapion.me/zareshai
#воркшопы #москва

3 августа начинается новый курс "Кочерги" по прикладной рациональности. Курс состоит из четырёх занятий, которые будут проходить по субботам.

Когда-то у "Кочерги" уже был курс в таком формате, но сейчас программа пересмотрена в сторону ещё большей применимости к реальной жизни.

Подробности и регистрация: https://kocherga-club.ru/3week?utm_source=firstad&utm_medium=telegram&utm_campaign=3week2019-08

Промокод для участников сообщества: LW3WEEK.
#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "31 закон удовольствия".

С древних времён люди мечтали об лучшем мире. Некоторые из этих мечтаний воплотились в литературные произведения. По названию одного такого литературного произведения подобные миры стали называть "утопиями".

Однако часто ли в утопиях по-настоящему хочется жить? И наоборот, многие ли произведения, которые породили серьёзные волны "эскапизма", задумывались как утопии?

В эссе "31 закон удовольствия" собраны идеи из цепочки "Теория удовольствия" (эта цепочка пока ещё ждёт своих переводчиков на русский язык), которые с точки зрения Юдковского могут пригодиться писателю-фантасту, желающему написать прекрасный мир будущего. Кроме того, раз уж многие из нас мечтают о том, чтобы сделать мир лучше, никогда не помешает задуматься: а как именно должно выглядеть это "лучше"?

https://lesswrong.ru/w/31_закон_удовольствия