#эффективный_альтруизм #опросы

Ребята из российского сообщества Эффективного альтруизма проводят небольшое исследование на тему: какими проблемами оптимальней всего заниматься в России?

Для этого они сделали опрос, в котором перечислены проблемы из списка организации "80000 часов". Для каждой из проблем предлагается оценить, насколько полезней решать её в России, чем в других странах.

Организаторов интересуют аргументированные ответы, поэтому опрос может занять довольно много времени. Впрочем, совершенно не обязательно оценивать каждую из проблем, любую из них можно пропустить. Интереснее всего получить ответы на первые 9 (первая страница опросника).

Ссылка на опросник: https://forms.gle/pbgBjxG7jo8Kbpfm6 Ответы принимаются до 23 ноября 23:59.

Заранее спасибо за помощь!

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 23 ноября, мы продолжим читать цепочку «Умение отпускать» и поговорим про рациональное сомнение, истинное любопытство, традиционную рациональность, и составление плана на случай провала.

Будем обсуждать следующие эссе:

- Как правильно сомневаться;
- Размышление о любопытстве;
- Законы рациональности беспристрастны;
- Оставь путь к отступлению.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/fgp5r557dnfifdcjumgdteuyvm

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Наглядное объяснение теоремы Байеса".

Юдковский очень часто в своих эссе ссылается на байесианство и теорему Байеса. Но что это такое? Почему какой-то теореме из теории вероятностей придаётся такое большое значение?

https://lesswrong.ru/w/Наглядное_объяснение_теоремы_Байеса

Это сокращённая версия одного из самых первых эссе Юдковского по рациональности, которое он сейчас уже считает несколько устаревшим и вместо него рекомендует читать "Руководство по теореме Байеса" на Арбитале. Однако руководство с Арбитала пока ещё ждёт своего переводчика.

И теперь у нас на сайте выложены все эссе, входящие в первые три тома книги "Рациональность: от ИИ до Зомби".

Мастридер поделился подборкой методик, направленных на то, чтобы лучше разобраться в себе, построить долгосрочные цели, сосредоточиться на их достижении и разобраться в проблемах.

https://reminder.media/super/14-priemov-kotorye-pomogayut-razobratsya-v-sebe-prinyat-reshenie-ili-povysit-effektivnost

Также у него есть видео о том, как он сам ставит цели на год и почему это стоит делать (видео от января этого года).

https://www.youtube.com/watch?v=RiP4wNanE3Y

#встречи #онлайн #в_мире

Воскресные онлайн-встречи рационалистов.

Завтра, 29 ноября, пройдёт очередная академическая встреча российского сообщества. На этот раз вместо обычных докладов будет парная беседа: Антон Чайников и Слава Матюхин будут разговаривать про метод интервальных повторений (SRS) и Анки, рассказывать про свой опыт, отвечать на вопросы.

Начало в 13:00 по московскому времени (UTC+3).

Чтобы получить ссылку в Zoom, нужно зарегистрироваться: https://kocherga-club.ru/events/dzdvn4jkejbb5gll7a6rt2v6da

Также завтра, 29 ноября, но уже в 23:00 по московскому времени (12:00pm Pacific Time) начнётся встреча, организованная командой lesswrong.com . Andreas Stuhlmüller будет рассказывать о том, какие он делает инструменты на основе GPT-3, чтобы делать предсказания.

Подробности: https://www.lesswrong.com/events/WYeDETiebuFN7qEdb/sunday-november-29th-12-00pm-pt-andreas-stuhlmueller-on

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 30 ноября, мы заканчиваем обсуждать цепочку «Умение отпускать» и вообще весь второй том "Как успешно менять своё мнение". Второй том завершают эссе "Кризис веры" и художественный рассказ "Ритуал", посвящённые вопросу: как менять очень важные для вас убеждения?

И после этого мы перейдём к третьему тому "Машина в призраке" и поговорим о введении, которое написал к нему Роб Бенсинджер -- "Разум: введение".

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/pae3ojd2rbh5bh6o2gqedhj5tq

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#в_мире #книги

Прошлой зимой я уже писал, что на lesswrong.com проводились опросы по определению лучших эссе 2018 года.

На этой неделе организаторы объявили об издании этих эссе в виде очень красивых книжек. Увы, предзаказ в Россию невозможен, однако организаторы говорят, что через пару недель книги будут доступны на Амазоне.

И также на этой неделе организаторы запустили аналогичный процесс для определения, обсуждения и рецензирования лучших эссе 2019 года. Если вы владеете английским в достаточной мере, вы можете принять в нём участие. Подробности: https://www.lesswrong.com/posts/QFBEjjAvT6KbaA3dY/the-lesswrong-2019-review

#в_мире #встречи #онлайн

Эта новость в первую очередь предназначена тем, кто организовывает встречи или хочет их организовывать.

Поскольку, судя по всему, пандемия закончится ещё не скоро, онлайн-встречи достаточно актуальны. И даже после окончания пандемии, вероятно, многим будут интересны онлайн-встречи с людьми, которые живут в других городах и странах.

Команда lesswrong.com сделала собственную платформу для онлайн-встреч и предлагает её использовать тем, кто организовывает встречи LW, Slate Star Codex и им подобные. Платформа представляет из себя небольшой виртуальный мир, по которому можно двигать своего "аватара" и через видеосвязь или через чат общаться с теми, чьи "аватары" расположены рядом с твоим. Я пару раз участвовал во встречах на этой платформе, выглядит достаточно забавно, хотя и непривычно.

Подробности: https://www.lesswrong.com/posts/HgSnt8bvjdQ9rf7eo/meetup-organizers-our-virtual-garden-is-at-your-disposal

Также организаторы в воскресенье, 20 декабря, устраивают онлайн-встречу для организаторов встреч. Правда, увы, время начала (2:00PM Pacific Time) для большинства жителей России довольно неудобно: по московскому времени это будет час ночи понедельника, для более восточных часовых поясов ещё позже.

Подробности о встрече: https://www.lesswrong.com/events/b5zrM57Cg7mh8zYJM/online-meetup-for-the-meetup-organizers-sun-20th-december

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Насколько мы недооцениваем силу интеллекта? Какие противоречия содержит теория разумного замысла? Почему прогресс общества строится на противоречии эволюции, а не подражании ей? Какие математические ограничения эволюции мы можем перечислить?

Сегодня, 7 декабря, мы начнём говорить про цепочку «Простая математика эволюции».

Будем обсуждать следующие эссе:

- Сила интеллекта;
- Чуждый Бог;
- Чудо эволюции;
- Эволюции неразумны (но всё равно работают).

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/yg27wbkr6bevhnxjq4b5pbuw5i

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

Запоздалый анонс: на завтрашней академической встрече в 13:00 продолжим дискуссионный формат.
На этот раз я, @mrgutkun и @eliseealex устроим «рацио-джем»: возьмём широкую тему и будем обмениваться идеями по ней. У нас будет какой-то план и список тезисов, но тема достаточно широкая, что мы заранее не знаем точно, что получится.

Тема — всё про абстракции и про инсайты, которые мы как программисты можем извлечь из опыта работы с ними (потому что почти всё программирование — работа с абстракциями и поиск абстракций), в применении к мышлению, миру и решению задач в нём.

Возможные мотивы:
- выбор неправильных абстракций/интерфейсов, протекающие абстракции и проблемы от этого
- оверинжиниринг в реальном мире
- правильные абстракции и как они могут сделать задачи, которые выглядели очень сложными, очень простыми
- лестница абстракций и выбор подходящей точки на ней при решении задачи

Приходите :) Страница встречи: https://kocherga-club.ru/events/gdwrxncjordc3pcowi4vkzaoru

(кстати, пример отличного выступления на смежную тему: https://www.youtube.com/watch?v=mVVNJKv9esE; но у нас скорее всего будет более философский формат, чем программерский)

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Эволюция - это удобная аналогия для описания процессов. Можно сказать, что за счёт естественного отбора на рынке выживают только сильнейшие корпорации. Однако корректно ли переносить принцип эволюции на описание экономических процессов?

Чтобы ген прижился, он должен быть выгоден организму. Но наши представления о выгодных генах отличаются от того, какие гены на самом деле приживаются, потому что естественный отбор "рассуждает" не так, как мы.

Сегодня, 14 декабря, мы продолжим говорить про цепочку «Простая математика эволюции» (https://lesswrong.ru/node/426 ).

Будем обсуждать следующие эссе:

- Корпорации и нанороботы не эволюционируют;
- Эволюция к вымиранию;
- Трагедия группового отбора;
- Фальшивый критерий оптимизации.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/7gxxbgjv35anxby6ix4vmqqtzy

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Почему отдельные организмы — исполнители адаптаций, а не максимизаторы приспособленности? Зачем требуется экстремальная аккуратность, чтобы рассуждать об эволюционной психологии? Что нам показывают суперстимулы и какие их примеры мы можем назвать кроме мороженого, шоколадного батончика и видеоигр?

Сегодня, 21 декабря, мы продолжим обсуждать цепочку «Простая математика эволюции» (https://lesswrong.ru/node/426 ).

Поговорим про следующие эссе:

- Исполнители адаптаций, а не максимизаторы приспособленности;
- Эволюционная психология;
- Особенно элегантный эксперимент в эволюционной психологии;
- Суперстимулы и крах западной цивилизации.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/4vjzew76b5bxrf6mzscqpmlooa

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

В подборке главных новостей — ежегодный опрос EA Survey, обновленные рекомендации GiveWell и акции по удвоению пожертвований

• Ежегодный опрос участников сообщества

В декабре проходит ежегодный опрос участников эффективного альтруизма — EA Survey. Примите участие в нем, это важный источник для эффективных организаций и организаторов сообщества. Он помогает оценить демографию, получить инсайты о том, как люди присоединяются к сообществу и насколько вовлечены в него, куда жертвуют, какие проблемы считают более важными. По результатам прошлогоднего опроса была выпущена серия постов с итогами и анализом данных.

Чтобы ответить на ключевые вопросы хватит 20 минут. Один случайно выбранный участник опроса получит купон на 500$, которые можно направить в любую эффективную организацию, перечисленную в EA Funds. Опрос продлится до конца года.

Заполнить опрос: https://www.surveymonkey.com/r/EAS2020Share

• Обновленные рекомендации GiveWell и ACE

GiveWell и Animal Charity Evaluators (ACE) обновили рекомендации для тех, кто хочет максимально эффективно помогать людям или приносить наибольшую выгоду животным соответственно. В списке GiveWell Top Charities появилась организация New Incentives, которая стимулирует темпы вакцинации с помощью денежных переводов. А среди рекомендаций ACE появилась Wild Animal Initiative — организация, исследующая недооцененную тему благополучия диких животных.

Ещё одна хорошая новость: команда исследователей данных, специалистов по политике и экспертов по климату запустила Giving Green, чтобы выявлять научно-обоснованные проекты по борьбе с изменением климата. В серии постов они объясняют свой подход и дают рекомендации по пожертвованиям. Они приводят как организации, работающие над политическими изменениями, так и над компенсацией углеродного следа, но считают, что первые гораздо эффективнее.

• Мэтчинг пожертвований в эффективные организации

Началась ежегодная акция Double Up Drive, во время которой группа игроков в покер и другие доноры предлагают удвоить пожертвования в эффективные организации и выделяют на это более миллиона долларов. Сделайте пожертвование через сайт акции и команда организаторов удвоит его. Акция продлится до 27 декабря или до исчерпания средств на мэтчинг.

Ещё одна акция проводится на площадке Every.org. Все пользователи, присоединившиеся по приглашению другого пользователя (можно использовать эту ссылку) до 25 декабря и сделавшие пожертвование минимум на 10$ в организацию на свой выбор, получат купон на 25$ для следующего пожертвования.

#переводы #цепочки #юдковский

Новый перевод на сайте — эссе Элиезера Юдковского "Квантовые объяснения".

Этим эссе Юдковский открывает цепочку "Квантовая механика и множественные миры". В эссе Юдковский рассуждает, что именно ему не нравится в традиционном способе объяснять квантовую механику, и предупреждает читателя о том, что будет дальше.

https://lesswrong.ru/644

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Почему эволюция не наделила нас стремлением максимизировать эволюционную приспособленность? Можем ли мы уверенно предсказывать результат процесса, не имея понятия о его промежуточных шагах? Почему эмпатия мешает нам понимать, как устроен организм, отличный от человека? Как выглядела оптимизация на Земле до нашего времени?

Сегодня, 28 декабря, мы продолжим заканчиваем обсуждать цепочку "Простая математика эволюции" и переходим к цепочке "Хрупкие цели"

Поговорим про следующие эссе:

- Суть твоя — осколки бога;
- Убеждение в разумности;
- Люди в смешных нарядах;
- Оптимизация и взрывное развитие интеллекта.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/jhxrvud3ibhxvc2xkj5d2oigyy

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

Чтобы достигать своих целей, их полезно явным образом формулировать и записывать. Наступление Нового года часто кажется достаточно удобным временем для подведения итогов прошлого года и планирования будущего.

Однако, если вы никогда этим не занимались, построить план на год может оказаться достаточно сложно. И поэтому, возможно, стоит воспользоваться какими-либо шаблонами и подсказками.

Я хочу поделиться двумя известными мне руководствами на эту тему:

1. Руководство Алекса Вермеера "8760 часов". Только на английском.
2. "Year Compass". Есть переводы на несколько языков, в том числе на русский (впрочем, я не уверен в качестве перевода).

Удачного вам планирования!

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Как выглядела оптимизация на Земле до нашего времени? Почему у ИИ не может быть полной свободы действий? Как выглядел бы мир, в котором арифметика в известном нам виде не была бы изобретена? Чем решение моральных дилемм может помочь в определении собственных ценностей?

Сегодня, 4 января, мы продолжим обсуждать цепочку "Хрупкие цели".

Поговорим про следующие эссе:

- Оптимизация и взрывное развитие интеллекта;
- Призраки в машине;
- Искусственное суммирование;
- Ценности терминальные и инструментальные.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/s7qqigrt2bhv7b6jlmthg4de2q

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#проекты_участников #видео

Роман Галимов записал видео о том, что такое рациональность. В первую очередь видео предназначено для людей, которые очень плохо знакомы с описываемым явлением. Однако, возможно, кого-нибудь оно заинтересует познакомиться с рациональностью поближе.

https://www.youtube.com/watch?v=JIqO3V3drKw

#встречи #онлайн

В воскресенье, 10 января, пройдёт очередная онлайн-встреча рационалистов.

На встрече Филипп Благовещенский перескажет статью Эндрю Критча "Некоторые области исследований ИИ и их релевантность для экзистенциальной безопасности" (Andrew Critch, "Some AI research areas and their relevance to existential safety"). В статье Эндрю Критч заявляет, что главный способ повлиять на экзистенциальную безопасность ИИ сейчас — это легитимизировать полезные возможные требования государств и социума к компаниям, которые будут делать ИИ. Также он оценивает 10 существующих областей исследований ИИ по полезности.

Эндрю Критч — исследователь экзистенциальной безопасности ИИ, исследователь в CHAI, UC Berkeley, в прошлом research fellow в MIRI.

Начало встречи в 13-00 по московскому времени (UTC+3).

Участие бесплатно, но требуется регистрация: https://kocherga-club.ru/events/vaju2gg2evfqjetao3ebdwfw7u

#мета

Включил возможность оставлять комментарии к сообщениям.

Мне не хочется сходу писать формальные правила. Поэтому пока я лишь посоветую не забывать идеи, которым посвящён этот канал: в частности "Как люди понимают слова" (особенно про "Замаскированные вопросы"), "Иллюзия прозрачности" и "Милосердие к нелепости".

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Представьте, что ваша пожилая мать находится в горящем доме, а вы прикованы к инвалидной коляске и не можете ей помочь. Однако вам повезло: у вас в кармане крохотное устройство, которое может выполнить желаемый вами исход. Как вы сформулируете своё желание для этого устройства?

Скажете: «вытащи мою маму из этого дома»? Но устройство не знает, что для вас ценно вытащить её в целости и сохранности, а не просто максимизировать дистанцию между её телом и центром дома. Перечислить все отрицательные исходы, которых вы хотели бы избежать, например «без значительных ожогов», «без психологической травмы», «без лишних жертв»? Но вы вряд ли сможете перечислить всю полноту негативных исходов. Чтобы устройство сработало так, как вы хотите, оно должно разделять все ценности, которые привели вас к составлению желания.

Сегодня, 11 января, мы заканчиваем обсуждать цепочку "Хрупкие цели".

Поговорим про следующие эссе:

- Дырявые обобщения;
- Скрытая сложность желаний;
- Антропоморфный оптимизм;
- Потерянные цели.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/5u3xado2gre3ngfs3wbabkspdy

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.