В 2007 году аналитик Холден Карнофски ушел из хедж-фонда, чтобы основать GiveWell и оценивать эффективность благотворительных организаций, опираясь на принципы эффективного альтруизма. Спустя пять лет он написал текст о том, почему эффективный альтруизм для него — это захватывающий интеллектуальный вызов, а не принесение жертвы или отказ от личных интересов в угоду рациональности. О том, что такой подход не ставит интеллект выше эмоций, и служит для некоторых людей источником радости и вдохновения. Позднее этот текст был включен в EA Handbook — подборку ключевых текстов об идеях и принципах эффективного альтруизма.

https://effectivealtruism.ru/excited_altrusim/

#в_мире

На lesswrong.com появилась интересная новость про проект Connected Papers.

Людям, которые занимаются исследовательской работой, часто нужно знать, какие ещё есть интересные работы в этой области: чтобы, например, знать, какие ещё существуют подходы или вообще представлять текущее состояние дел.

Проект Connected Papers предназначен для того, чтобы как раз находить такие интересные работы. Насколько я понял, авторы проекта считают работы схожими, если они ссылаются примерно на одни и те же источники и/или если на них ссылаются примерно одни и те же источники. Исходя из этого они как-то строят дерево связей.

Отзывы в комментариях на LessWrong достаточно восторженные.

Источник: https://www.lesswrong.com/posts/kjQXzkTGuixoJtQnq/we-ve-built-connected-papers-a-visual-tool-for-researchers

В эту субботу, 13-ого июня, состоится вторая встреча по Искусственному Интеллекту в рамках трансгуманистического кружка. На этот раз в роли докладчика выступит Богдан Кириллов, биоинформатик и специалист по машинному обучению.

В докладе планируется:
- коснуться истории области (экспертные системы, символьные вычисления и прочий старый ИИ)
- поговорить про нейросети
- осветить проблемы и опасности, связанные с технологиями ИИ

Когда и Где:
Ждем вас в субботу, 13-ого июня, в 15:00 на нашем сервере в дискорде:
https://discord.gg/cswyBHf
Если у вас нет дискорда, скачать его можно тут
Для мобильного в google play или App store.

#статьи_участников

Нижеследующая статья Пион мне показалась в первую очередь интересной не практическими советами (хотя я ожидал бы, что при дальнейшем исследовании окажутся скорее верными, чем нет), а расширением "словаря". С моей точки зрения, это довольно неплохая иллюстрация эссе Юдковского "Ошибки сжатия" - чтобы начать вообще задумываться о том, что нам надо: отдых-восстановление или отдых-развлечение, нужно сначала подумать о том, что в понятии отдых у нас часто сжато несколько разных понятий.

#отдых #жызнь #баланс

Отдых: восстановление, развлечения и расслабление.

Кратко: отдых как восстановление — не то же самое, что развлечения и что расслабление. Разделяйте эти штуки и будет вам более качественный отдых.

Более длинно:

Есть восстановление, «занятия, после которых у меня больше сил/энергии, чем до».

Есть развлечения, «занятия, в процессе которых (и иногда после) мне веселее, чем до».

И есть расслабление, снятие стресса, как «занятия, после которых я меньше напряжена, чем до».

Я утверждаю, что если мы будем различать эти категории занятий и свои ощущения, которые требуют занятий из каждой категории, то мы сможем более эффективно отдыхать, а значит, более эффективно работать 🙂

Иногда восстановление не работает без предварительного расслабления — например, чтобы успокоиться и заснуть людям часто бывает нужно принять теплый душ или вроде того.

Иногда восстановление не работает без развлечения — например, некторым людям нужно переключиться с рабочих дел, и это получается только «клин клином».

Часто занятия служат одновременно расслаблению и развлечению — например, многие спортивные занятия такие.

Еще бывает, что занятие одновременно расслабляет и восстанавливает — например, медитации часто так работают.

Но бывает, что мы хотели бы восстановления, а занимаемся снятием стреса — например, так часто устроен просмотр котиков на ютюбе.

Мне кажется, что если научиться получше различать в каждый конкретный момент, чего из этих трех штук хочется и в какой пропорции, то отдыхательные занятия станут (1) более разнообразны, (2) более удовлетворяющи и (3) будут лучше работать и занимать ровно столько времени и внимания, сколько хочется на них тратить.

Если нужно еще более длинно, то приходите в чатик, пишите вопросы, с удовольствием раскрою тему!

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня (15 июня) мы продолжим обсуждать цепочку "Загадочные ответы". Поговорим об эссе:

- "Закономерная неопределённость";
- "Моя дикая и безбашенная юность";
- "Неспособность учиться у истории";
- "Делая историю доступной".

Встреча пройдёт в онлайне, на платформе Zoom. Ссылку можно получить после регистрации: https://kocherga-club.ru/events/v5qrjcledrfzne7xkriy7yz4su?#register

Начало в 19:30 по московскому времени (UTC+3).

Мы ведём конспект: https://docs.google.com/document/d/1Yil17JLO5jWvAj2E7W7BKA6TCQzIQZnOWdl9zyb7bv4/edit#heading=h.etw49zej3tdn

В конспект имеет смысл записывать:
- что оказалось новым и ценным;
- что оказалось непонятным;
- что вы теперь планируете делать по другому;
- ну и вообще всё, что кажется вам интересным.

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Гуманизм — замена религии?" из цепочки "Наслаждение обыденностью".

Некоторые люди считают, что человек не в состоянии жить без религии. И, когда они видят человека, которые заявляет о своём атеизме, но сильно увлечён некой идеей, они заявляют, мол, на самом деле, эта идея — и есть религия этого человека.

Другие люди допускают, что человек может быть атеистом. Но если человек увлечён некой идеей, они всё равно могут заявить о том, что эта идея слишком похожа на религию.

Можно ли считать гуманизм религией? Если старт космического корабля вызывает у человека очень сильные чувства, можно ли сказать, что космические корабли — религия для этого человека?

Те, кто читал цепочку "Как люди понимают слова", уже, возможно, вспомнили и про споры об определениях и про вопрос "является ли что-то чем-то".

Однако в этом эссе Юдковский рассуждает о том, как, по его мнению, можно проводить границу.

https://lesswrong.ru/w/Гуманизм_—_замена_религии

Чтение цепочек. Против двоемыслия.

«Блажен, кто верует». Можно ли быть счастливым, обманывая себя?

А обманывая себя, что обманываешь себя?

Жутковато, не правда ли? Или нет?

Ответы будем искать в четверг, 18 июня, с 19:30 до 21:00 на нашем канале в Дискорд.

Участие свободное, можно просто прийти послушать.

Для подготовки читаем цепочку. Готовьте вопросы!

И не забудьте голову!

#переводы #цепочки #юдковский

Новый перевод на сайте - эссе Элиезера Юдковского "Дефицит" из цепочки "Наслаждение обыденностью".

В этом довольно коротком эссе Юдковский (практически цитируя книгу Р.Чалдини "Психология влияния") пересказывает выводы экспериментов на тему: "недоступное или плохо доступное всегда кажется нам привлекательнее".

Однако наша реальность всегда для нас будет казаться более доступной, чем любая другая. Можем ли мы здесь сделать какие-то выводы?

https://lesswrong.ru/w/Дефицит

#проекты_участников #нно

Девушки из Екатеринбурга сделали красивый буклет для людей, которые осваивают ненасильственное общение.

Новость в ВК: https://vk.com/wall-182902566_193
Ссылка на буклет: https://vk.com/doc-182902566_556511952?dl=767c9ccc848434ff67

#встречи #онлайн #нно

Вчера была новость для тех, кто уже практикует ненасильственное общение, сегодня — для тех, кто хотел бы узнать поближе, что это такое.

Кочерга на своей онлайн-площадке запускает новый формат: лекции про ННО и общение на тему после них. Онлайн-встречи будут идти каждую субботу с 18:00 до 20:00 (по московскому времени). Первая встреча сегодня, 20 июня.

Предварительных знаний не требуется.

Для получения ссылки в Zoom, зарегистрируйтесь: https://kocherga-club.ru/events/msh5c2ucybe23ghrwx5yesajcm

#в_мире

Новости lesswrong.com

Сегодня (21 июня) в 11am, Pacific Daylight Time (21:00 по московскому времени) пройдёт онлайн-встреча с короткими докладами от известных авторов LessWrong'а и последующим обсуждением. (В частности, среди докладчиков есть автор "Времени молотков").

Подробности: https://www.lesswrong.com/posts/x46rsCLk6fyAFQsBz/sunday-jun-21st-online-talks-by-curated-authors

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня (22 июня) мы заканчиваем обсуждать цепочку "Загадочные ответы". Поговорим об эссе:

- "Объяснить, поклониться, пренебречь";
- "«Наука» — затычка для любопытства";
- "Поистине часть тебя".

А также немного обсудим всю цепочку в целом.

Встреча пройдёт в онлайне, на платформе Zoom. Для получения ссылки нужно зарегистрироваться: https://kocherga-club.ru/events/buhpaut6wzc6zidk3c7owpo6x4

Начало в 19:30 по московскому времени (UTC+3).

Мы ведём конспект: https://docs.google.com/document/d/1Yil17JLO5jWvAj2E7W7BKA6TCQzIQZnOWdl9zyb7bv4/edit#heading=h.etw49zej3tdn

В конспект имеет смысл записывать:
- что оказалось новым и ценным;
- что оказалось непонятным;
- что вы теперь планируете делать по другому;
- ну и вообще всё, что кажется вам интересным.

#переводы #slatestarcodex

Медач перевёл статью Скотта Александера "Провал, но не в предсказании". В ней Александер рассуждает на тему, почему практически весь мир оказался настолько не готов к пандемии коронавируса.

Не исключено, что и обычному читателю окажутся полезны некоторые выводы о том, что в следующий раз можно делать по-другому.

https://medach.pro/post/2404

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня (29 июня) мы заканчиваем обсуждать первый том книги ("Карта и территория") и плавно переходим ко второму ("Как успешно менять своё мнение"). Обсудим эссе "Простая истина", немного поговорим о всём первом томе в целом, а затем обсудим введение Роба Бенсинджера "Рациональность: введение" ко второму тому.

Встреча пройдёт в онлайне, на платформе Zoom. Для получения ссылки нужно зарегистрироваться: https://kocherga-club.ru/events/godlzxqpanahtcomzhdtlozydq

Начало в 19:30 по московскому времени (UTC+3).

Мы ведём конспект: https://docs.google.com/document/d/1Yil17JLO5jWvAj2E7W7BKA6TCQzIQZnOWdl9zyb7bv4/edit#heading=h.etw49zej3tdn

В конспект имеет смысл записывать:
- что оказалось новым и ценным;
- что оказалось непонятным;
- что вы теперь планируете делать по другому;
- ну и вообще всё, что кажется вам интересным.

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Чтобы распространять науку, держите её в тайне". Из цепочки "Наслаждение обыденностью".

Ранее Юдковский уже рассуждал об эффекте "дефицита". Когда нам кажется, что чего-то может не хватить, мы это ценим сильнее. Когда нам кажется, что от нас что-то скрывают, мы сильнее стремимся докопаться до истины.

Складывается впечатление, что многие довольно мало ценят науку и, возможно, одна из причин этого в том, что нам кажется, что она достаточно легко доступна. Зато заголовки вида "А власти скрывают" очень здорово привлекают внимание в СМИ и соцсетях.

В своём эссе Юдковский рисует картину альтернативного мира:
https://lesswrong.ru/w/Чтобы_распространять_науку_держите_её_в_тайне

#в_мире

Любопытная свежая идея с lesswrong.com: Betting with Mandatory Post-Mortem

Чтобы эффективней приближать свои убеждения к реальности, полезно делать и записывать свои предсказания. Если ты обнаруживаешь, что твои предсказания не сбываются, ты гораздо лучше понимаешь, что ты в чём-то ошибся.

Таким же образом помогает и заключение формальных споров. Фактически, формальный спор с фиксацией срока и определением условий заранее - это такое же предсказание. Возможно, даже сделанное по достаточно существенному вопросу, раз нашёлся человек с другой точкой зрения.

Автор заметки по ссылке предлагает при заключении споров включать дополнительное условие: проигравший публично описывает, почему он был не прав. Например, какие именно соображения подталкивали его к исходной позиции, какую новую информацию он в итоге получил и как изменил свои убеждения.

Вы приходите к начальнику с просьбой о повышении зарплаты. Ваше стартовое предложение - 10%, начальник предлагает 5%. После часового обсуждения Ваших достижений, уровня инфляции и количества членов Вашей семьи Вы сходитесь на 7.5%. Неплохо, но...
Можно было начать с 20% и сойтись на 17.5%.

В четверг 2 июля на встрече в Discord в 19:30 мы обсудим, почему наше мышление так охотно привязывается к случайным значениям, как знание фактов может навредить и при чём тут Бенедикт Спиноза.

Вам будет проще, если Вы прочтёте цепочку "Свежий взгляд на вещи", статьи с 1 по 7. Знание предыдущих цепочек не обязательно.

P.S.: своим свежим взглядом на вещи с вами поделится наш новый ведущий, Егор @fresheed Намаконов!

Куда направить пожертвование, чтобы оно принесло максимум пользы? В 2006 году этим вопросом задались два аналитика из хедж-фонда, Холден Карнофски и Эли Хассенфельд. Но организации не отслеживали эффективность своей работы. Они предлагали слоганы в духе «за 20$ вы обеспечите человека водой на всю жизнь», но не могли объяснить, откуда получили такие цифры. Вскоре Хассенфельд и Карнофски ушли с высокооплачиваемой работы, запустили GiveWell и углубились в оценку НКО. С тех пор GiveWell ежегодно публикует небольшой список рекомендованных организаций, пожертвование в которые дает максимальную отдачу в виде спасения и улучшения качества жизней относительно затрат. Этим рекомендациям следуют десятки тысяч доноров и крупные фонды, такие как Good Ventures Дастина Московица, сооснователя Facebook.

Какие критерии используют в GiveWell для оценки и какие новые горизонты собираются покорять? Почему так важен анализ затратоэффективности? Почему все рекомендованные организации находятся в развивающихся странах? Об о всем этом — в новом видео: https://youtu.be/rS8_2Tmb65k
Для меня эта история — вдохновляющий пример того, как люди направляют свой интеллект на решение сложных задач, и я рад поделиться ей с вами.

#встречи #онлайн

Завтра, 5 июля, в 14:00 по московскому времени (UTC+3) состоится онлайн-встреча с докладами от участников сообщества. В программе:

1. Александр Бидерман коротко расскажет об основных понятиях из книги Элиезера Юдковского "Inadequate Equilibria" — эффективности, используемости и адекватности. Эти понятия могут быть полезны при рассуждениях о том, куда имеет смысл направлять усилия.

2. Вячеслав Матюхин расскажет об основных идеях из поста Скотта Александера "Studies on Slack" — о соотношении между идеальной конкуренцией ("Молохом") и правом на свободные эксперименты ("Слаком"), их связью с эволюцией и групповым отбором, и тем, как эти через эти концепции можно описать многие явления в мире.

Встреча пройдёт в Zoom'е, ссылку можно получить после регистрации: https://kocherga-club.ru/events/2tnnyexixbgrzj6e6bbtxvkmga

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня (6 июля) мы начинаем обсуждать первую цепочку из второго тома: "Чрезвычайно удобные оправдания". Поговорим про первые первые четыре эссе:

- Правильная скромность;
- Третья альтернатива;
- Лотереи: бессмысленная трата надежды;
- Новая улучшенная лотерея.

Встреча пройдёт в онлайне, на платформе Zoom. Для получения ссылки нужно зарегистрироваться: https://kocherga-club.ru/events/e4ygnscn7zcghn5divkg2frd2i

Начало в 19:30 по московскому времени (UTC+3).

Мы ведём конспект: https://docs.google.com/document/d/1eH5THY75tvMwQ7vBrL5Dx53Of2whPRoLSqKRP7Gq2io/edit#heading=h.etw49zej3tdn

В конспект имеет смысл записывать:
- что оказалось новым и ценным;
- что оказалось непонятным;
- что вы теперь планируете делать по другому;
- ну и вообще всё, что кажется вам интересным.