#дайджест

Привет! Продолжаем публиковать дайджесты — краткие обзоры интересных новостей, которые происходили в околорациональной сфере за последний месяц. На этот раз мы снова благодарим Дениса за составление дайджеста.

#встречи #онлайн #цепочки

Как мы можем проверить, действительно ли человек освоил навыки рациональности? Насколько эффективно люди, рассуждающие про важность рациональности, технологий, просвещения умеют сотрудничать друг с другом? Что с этим можно сделать?

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 17 января, мы продолжим обсуждать цепочку "Создание сообщества". Поговорим про следующие эссе:

- Три уровня верификации рациональности (3 Levels of Rationality Verification);
- Почему люди нашего круга не умеют сотрудничать (Why Our Kind Can't Cooperate);
- Толерантность к толерантности (Tolerate Tolerance);
- Плата за участие (Your Price for Joining).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/dgxauprlnjbxtoszkwsxq4f5nu

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#скотт_александер #переводы

Скотт Александер написал свою рецензию на фильм "Не смотрите наверх", а Анастасия Мальцева эту рецензию перевела. Осторожно, присутствуют спойлеры к фильму.

https://vk.com/@la.praline-perevod-odnogo-iz-postov-blogera-skotta-aleksandera-recenziy

#встречи #онлайн #цепочки

Что даёт религия людям? В смысле, если вдруг религия исчезнет, чего людям будет не хватать? Могут ли рационалисты приносить человечеству больше пользы, чем приносит религия? Зачем нужно распространять рациональность? Как людям удаётся создавать крупные организации?

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 24 января, мы продолжим обсуждать цепочку "Создание сообщества". Поговорим про следующие эссе:

- Может ли гуманизм приносить больше пользы, чем религия? (Can Humanism Match Religion’s Output?);
- Церковь или группа с общими целями (Church vs. Taskforce);
- Рациональность как общие основы для многих идей (Rationality: Common Interest of Many Causes);
- Беспомощные одиночки (Helpless Individuals).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/yur4345rv5a7bg6375sljov33e

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 31 января, мы продолжим обсуждать цепочку "Создание сообщества". Мы обсудим, можно ли считать вложение денег в некоторое дело свидетельством того, что это дело человеку небезразлично. Поговорим про разницу между пользой и тёплым ощущением в груди, а также про эффект наблюдателя в интернете.

Обсуждаемые эссе:

- Деньги как единица заботы (Money: The Unit of Caring);
- Покупайте утилоны и приятное ощущение в груди по отдельности (Purchase Fuzzies and Utilons Separately);
- Апатия наблюдателя (Bystander Apathy);
- Коллективная апатия и интернет (Collective Apathy and the Internet).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/73nwb2suzrfnpojyz2zx65orx4

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

Регистрация на сегодняшнее обсуждение "Цепочек": https://kocherga-club.ru/events/z2bx3zhmwzhjfnhe24mgryhdu4

Что обозначает «долина плохой рациональности»? Может ли группа рационалистов успешно противостоять культу убежденных фанатиков? Что делать с советами, которые сработали для окружающих, но не работают на вас? Как давать по-настоящему сильные практические рекомендации?

В понедельник 7-го февраля, в 20:00 по Москве, мы продолжим обсуждать цепочку «Создание сообщества». Это последняя цепочка в книге Элиезера Юдковского «Рациональность: от ИИ до зомби». Присоединяйтесь поучаствовать в обсуждении или послушать.

План обсуждения:

• Постепенный прогресс и «Долина» (8 мин.)
🇺🇸 lesswrong.com/posts/oZNXmHcdhb4m7vwsv/incremental-progress-and-the-valley

• Байесианцы против варваров (11 мин.)
🇺🇸 lesswrong.com/posts/KsHmn6iJAEr9bACQW/bayesians-vs-barbari

• Остерегайтесь иных оптимизаторов (7 мин.)
🇺🇸 lesswrong.com/posts/6NvbSwuSAooQxxf7f/beware-of-other-optimizing

• Практический совет, обоснованный глубокими теориями (5 мин.)
🇺🇸 lesswrong.com/posts/LqjKP255fPRY7aMzw/practical-advice-backed-by-deep-theories

Расписание:
20:00-20:15: Сбор, приветствие
20:15-21:20: Обсуждение
21:20-21:30: Перерыв
21:30-22:30: Обсуждение
22:30-?: «Афтерпати»

Ссылки:
• Виртуальная доска: https://miro.com/welcomeonboard/fFipobTtK8YQGtg7ahLCo1dZibEW0sZBN0753xNcQ23IRkiuEjS0LsdoCu8yTzkm
• Конспект: https://docs.google.com/document/d/14sFUK7TrD-CxQYNGvaI45AQZ999yWZNK8dgjgJoH3nM/edit#
• Правила обсуждения: https://docs.google.com/document/d/1Wj-edLFA-EbmSKaasTHolZ3S8xsQUGM2qrMuVQhsWVg/edit?usp=sharing
• О проекте: https://kocherga-club.ru/projects/reading
• Мероприятие в ВК: vk.com/kocherga_reading
• Телеграм-канал клуба: t.me/readthesequences

Регистрация на встречу появится скоро.

#переводы

Новый перевод на сайте -- эссе Жана Кристиана Рефсгаарда "Нормальные распределения в предсказаниях".

Мы неоднократно писали здесь о важности записывания собственных предсказаний и дальнейшей калибровке по результатам.

Большая часть руководств по калибровке предлагает в качестве предсказания формулировать вопрос, на который можно ответить "да" или "нет", и записывать свой ответ и степень уверенности в нём. (Пример подобного вопроса: "Будет ли доллар стоить больше 80 рублей в 2022 году по курсу ЦБ?"). Основная идея эссе в том, что предсказания численных величин лучше делать в виде нормального распределения. В эссе описывается как это делать и какие у этого подхода есть преимущества.

lesswrong.ru/1043

#встречи #онлайн #цепочки

Сегодня, 14 февраля, в рамках встречи Клуба чтения Цепочек мы отвлечёмся от обсуждения книги "Рациональность: от ИИ до Зомби".

В прошлом году вышел фильм "Не смотрите наверх", посвящённый, в частности, вопросу восприятия людьми экзистенциальных рисков. Скотт Александер написал на этот фильм в достаточной степени разгромную рецензию, которая вызвала довольно жаркие споры. Мы планируем обсудить, что полезное можно из фильма (или рецензии, или обсуждения рецензии).

В дополнение к этому мы также планируем поговорить об эссе Скотта Александера "Выученная эпистемическая беспомощность".

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/w7hkf26epncl5naouhfswyn4ja

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#переводы #соарес

Новый перевод на сайте -- эссе Нейта Соареса "Четыре предпосылки".

Когда люди впервые слышат про возможные экзистенциальные риски, связанные с сильным искусственным интеллектом, они нередко относятся к подобным разговорам очень скептически. Вряд ли стоит считать это удивительным, ведь наши убеждения о том, что возможно, а что нет, основываются на целом комплексе других убеждений. И если в нашем комплексе убеждений нет чего-то важного для понимания убеждения другого человека, это может сильно помешать нам его понять.

Цель MIRI (Machine Intelligence Research Institute) -- сделать так, чтобы создание искусственного интеллекта умнее человека привело к положительным для людей последствиям. Данным эссе Нейт Соарес пытается объяснить, почему люди, работающие в MIRI, считают эту задачу чрезвычайно важной.

https://lesswrong.ru/1068

В очередной раз благодарим за перевод группу Мак и коты и AI Safety.

#переводы #юдковский #нго #соарес

Новый перевод на сайте -- дискуссия между Элиезером Юдковским и Ричардом Нго о сложности задачи согласования ИИ (AI alignment).

Согласование ИИ (в некоторых переводах ранее использовался термин "соответствие ИИ", перевод термина ещё не устоялся) - это процесс или набор решений, который обеспечит, что действия потенциального ИИ разумнее человека будут согласованы с человеческими целями. В начале сентября Элиезер Юдковский и Ричард Нго (в прошлом сотрудник DeepMind, ныне сотрудник OpenAI) долго и подробно обсуждали вопрос, почему согласование ИИ -- это сложная задача.

Дискуссия огромна и в ней затрагивается множество разных вопросов.

https://lesswrong.ru/1083

За перевод нужно благодарить группу Мак и коты и AI Safety.

"Кочерга" опубликовала свою подборку материалов по рациональности за январь.

https://telegra.ph/Dajdzhest-4-02-18-2

#встречи #онлайн #цепочки

Почему некоторые люди часто считают, что лучше проявить недостаточную уверенность, чем излишнюю? Какие у этого подхода есть подводные камни?

Многие люди пытались донести до других, как думать правильней. Иногда это заканчивалось появлением очередной религии, непроверяемой теории или чего-то ещё в таком же духе. Можно ли этого избежать при распространении рациональности?

Мы заканчиваем обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского. Сегодня, 21 февраля, мы обсудим последние два эссе из цепочки "Создания сообщества" и подведём итоги цепочки и всего тома "Стать сильнее".

Обсуждаемые эссе:

- Грех недоуверенности (The Sin of Underconfidence);
- Идите и создавайте искусство! (Go Forth and Create the Art!).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/7dw4dx3f4faz3m6pg4yogt4hce

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#в_мире

В начале февраля на lesswrong.com закончилось голосование за лучшие посты 2020 года. Если вы давно хотели узнать, что считается важным на Lesswrong'е сейчас, это может быть неплохая точка старта:

https://www.lesswrong.com/posts/TSaJ9Zcvc3KWh3bjX/voting-results-for-the-2020-review

Также в "библиотечном разделе" появился новый подраздел "Лучшее". Туда уже сложены работы, признанные лучшими в 2018 и 2019 годах. Видимо, работы 2020 года туда добавят чуть позже, когда определятся с форматом нового книжного издания.

#нетвойне #мнение #совет #гайд #жызнь #саморегуляция

Этот пост для россиян, (и, возможно, не только) которые знатно охреневают.

Мои задачи в этом посте:

1. Выразить и назвать некоторые вещи, которые возможно происходят у вас внутри, чтобы само называние сделало лучше, и солидаризироваться.

2. Предложить мои вариант действий, которые позволяют с таким состоянием справиться и прийти в норму.

Часть 1. Называю внутренние состояния

1. Неясно, что делать
Из «бей, беги, замри» сейчас:
- бить россияне пробуют, но выученная беспомощность и проблемы координации говорят, что это не особенно осмысленная идея. А еще все истощены практически в край.
- бежать тоже пробуют — планы по эмиграции резко активизировались для тех, у кого есть такая возможность; у многих нет или это очень сложно.
- многие просто замерли и мозг такой «если я притворюсь что меня нет, оно само исчезнет как-нибудь».

Потому что даже объяснения никакого разумного нет тому что происходит, и даже логика нормально не ищется. Я, как и многие мои знакомые, просто подвисаю и выдаю ошибку, понимая, что на нормальный анализ уйдет слишком много ресурсов, и ситуация очень очень сложная; но то, что творится очень очень плохо.
Эти наши части пытаются сэкономить наши силы, и я их совсем не осуждаю и не обвиняю.

Тут мы как раз приходим к еще одной штуке, которая добавляет: россиян обвиняют.

2. Эмоционально тяжело
Жить с чувством вины очень тяжело. А когда вина еще и несправедливая, не твоя, навязанная — но ты не можешь до конца понять, так ли это, навязанная ли она, или все же ты виноват — еще гораздо тяжелее, это сжирает весь ресурс.

Я уверена на миллион процентов, что у многих россиян есть эта уязвимость к чувству вины: сложно отличить, где я виноват, а где нет, и потому если кто-то уверенно говорит, что я виноват, то я будут чувствовать себя виноватым против воли.

Как люди борются с этим? Либо посыпают голову пеплом и берут на себя не свою вину, либо идут в асимметричную агрессию по всем фронтам и переходят на темную сторону «эти ужасные люди пожелали мне гореть в аду, значит они заслуживают того, чтобы в них стреляли». Ох.

И, разумеется, я не говорю тут об очевидной составляющей эмоциональной тяжести: идет война, гибнут люди, у нас будут санкции и экономика будет в плачевном состоянии.

⬇️⬇️⬇️

⬆️⬆️⬆️
Часть 2. Что делать?

Если вы обнаружили себя в нелепой неспособности заниматься обычными, необходимыми для жизни делами, уже который день, то начинать, как мне кажется, нужно с эмоционального состояния.

1. Вы не развязывали войну и не виноваты в ней. Люди, которые в комментариях говорят слова ненависти — просто кричат от боли. И давайте помнить, что их крики в ваш адрес — не патроны в вашу сторону.

2. Определите свою гигеническую линию нормального состояния. Находясь выше нее вы будете что-то делать: работать, помогать другим, строить планы. Находясь ниже нее вы будете приходить в состояние получше.

Как это сделать?
Возьмите, скажем, 3 шкалы.

Например:
- физическое состояние
- спокойствие
- радость

И назначьте параметры, при которых ситуация будет считаться «пойдет». Не «хорошей», а именно «пойдет», потому что в текущих обстоятельствах «хорошей» она все равно вряд ли будет. Можете взять другие шкалы, но я крайне рекомендую брать физическое состояние, а то будете пропускать спину, которая болит и голод, такое.

Потом заведите напоминалки раз в 2 часа и оценивайте состояние. Не ленитесь, если ушли ниже линии, делать что-то чтобы выйти на линию. Записывайте то, что помогает выйти на линию, у вас будет список, к которому можно будет обращаться — он облегчает жизнь. Готово!

3. Теперь про ситуацию: фильтруйте информацию, если еще не. Это очень банально, но мы пытаемся собрать больше информации, и только добавляем себе проблем, а не решаем. Если вам кажется, что у вас иначе, то возможно вам кажется.
Самое простое — выбрать 1-2 источника вроде Медузы и чего-то англоязычного и я крайне рекомендую не шастать по телеграм-каналам, если только их не ведут ваши знакомые, которые пишут новости из мест, про которые вам интересно узнавать новости. Кроме того, я крайне рекомендую ограничить поступление новостей парой раз в день.

4. Решения и действия во внешнем мире
Давайте я перечислю несколько ключевых:
- где вы и угрожает ли что-то вам прямо сейчас физически, нужно ли что-то с этим делать в перспективе 2 недель? Еда, деньги, лекарства, местоположение?
- где 5 ваших самых близких людей? угрожает ли что-то им физически в перспективе 2 недель и нужно ли что-то с этим делать?

—— тут нужно чекнуть гигиеническую линию

5. Давайте вернемся к обычной работе, потому что вам нужно будет жить и через месяц тоже.

В это трудно поверить, горизонт схлопнулся, дыхания не хватает, но жизнь все еще марафон, а не спринт.

Итак:
- какие штуки нужно продолжить делать сейчас, чтобы через месяц, три месяца, полгода, год не оказаться в плохих условиях?
- какие штуки нужно начать делать сейчас?
- что у меня с работой?
- что с личными проектами?
- как там мои цели поживают, не нуждаются ли в пересмотре?
- как там мои отношения с окружающими себя чувствуют? не пора ли что-то поменять?
- [ваш вариант]

UPD: странно, но спросили можно ли забрать гайд. Можно, конечно, забирайте, распространяйте, для того и написан! Шер-репост ❤️💙❤️

#нетвойне #мнение #совет #гайд #жызнь #саморегуляция

Завершающая встреча клуба чтения цепочек

333 эссе, 26 цепочек, шесть томов. Спустя почти два года встреч клуба чтения цепочек мы дочитали книгу Элиезера Юдковского «Рациональность: от ИИ до зомби». Какова основная идея книги? В чем заключается рациональность и зачем к ней стремиться? Какие тезисы Юдковского сильные и мотивирующие, и в каких местах с ним можно аргументированно поспорить?

Сегодня, 28-го февраля, состоится обзорная лекция по всей книге «Рациональность: от ИИ до зомби». Первая половина встречи будет отведена на лекцию, а вторая - на обсуждение. Также будет объявление о будущем клуба чтения цепочек. Присоединяйтесь поучаствовать в обсуждении или послушать.

Регистрация: https://kocherga-club.ru/events/qre3u4apk5gv5fnkfh45bpsitu

Начало в 20:00 по московскому времени (UTC+3).

#встречи #онлайн

Доктор назначил мне лекарство Х, однако я почитал интернет, и там пишут, что у этого лекарства нет доказательной эффективности. Могу ли я быть уверен, что мне не стоит принимать это лекарство? Ведь у доктора есть медицинское образование, а у меня нет.

У меня есть прекрасная идея для стартапа. Однако мой друг говорит мне, что 90% стартапов прогорают в первый год, и все основатели стартапов считали, что у них есть прекрасная идея. Стоит ли мне всё же основывать стартап?

Организация Y заявляет, что проблеме Z уделяется слишком мало внимания, хотя её можно решить достаточно дешёвыми способами. Можно ли этому доверять? Ведь если бы это действительно была важная проблема и её можно решить в принципе, наверняка её давно уже решило бы правительство или какие-то другие крупные организации придумали бы, как на этом заработать.

Именно вокруг таких рассуждений построена книга Элиезера Юдковского "Неадекватные равновесия". И в понедельник, 7 марта, наш Клуб чтения Цепочек начнёт обсуждать её первую главу: "Неадекватность и скромность" ("Inadequacy and Modesty").

Главу можно прочитать по ссылке: https://equilibriabook.com/inadequacy-and-modesty/
Есть не слишком вычитанный перевод: https://vk.com/@makikoty-neadekvatnost-i-skromnost

Встреча пройдёт в онлайне, на платформе Zoom. Регистрация: https://kocherga-club.ru/events/f3l47cssujadhbw4ulwre4woam

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

#переводы #нго

Новый перевод на сайте - доклад Ричарда Нго "Безопасность сильного искусственного интеллекта с чистого листа".

"В этом докладе я попытался собрать воедино как можно более полные и убедительные аргументы, почему разработка СИИ может представлять экзистенциальную угрозу. Причина доклада – моя неудовлетворённость существующими аргументами о потенциальных рисках СИИ. Более ранние работы становятся менее актуальными в контексте современного машинного обучения; более недавние работы разрозненны и кратки. Изначально я хотел лишь пересказывать аргументы других людей, но, в процессе написания доклада, он становился всё больше представляющим мои собственные взгляды, и менее представляющим чьи-то ещё. Так что хоть он и покрывает стандартные идеи, я думаю, что он и предоставляет новый подход рассуждений о СИИ – не принимающий какие-то предшествующие заявления как данность, но пытающийся выработать их с чистого листа".

https://lesswrong.ru/node/1168

За перевод опять благодарим группу Мак и коты и AI Safety.

#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Неадекватные равновесия".

Какой рынок экономисты называют эффективным? Почему некоторые рынки эффективными не являются? Когда знание ситуации помогает заработать деньги, а когда - нет? Есть ли что-то странное в том, что в мире встречаются "низко-висящие плоды" - возможность сделать что-то ценное в важной для других области?

Сегодня, 14 марта, мы поговорим о второй главе книги "Равновесие из-за отсутствия свободной энергии" ("An Equilibrium of No Free Energy"). В этой главе Юдковский описывает термины "эффективность", "используемость/эксплуатируемость" и "адекватность" и постепенно переходит к рассуждениям о том, почему всё же некоторые равновесия являются неадекватными.

Главу можно прочитать по ссылке: https://equilibriabook.com/an-equilibrium-of-no-free-energy/

Встреча пройдёт в онлайне, на платформе Zoom.

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.

Со ссылкой регистрации на встречу вышла некоторая заминка. Я до встречи постараюсь добавить её в эту запись. Также она будет в чате клуба чтения Цепочек.

Upd Ссылка регистрации на встречу: https://kocherga-club.ru/events/43wrmibfg5ep5bxlk2shfha5zm

Появилась ссылка регистрации на встречу (см. выше): https://kocherga-club.ru/events/43wrmibfg5ep5bxlk2shfha5zm