Новости сообщества LessWrong
1.32K subscribers
20 photos
1 file
835 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Чем отличается мораль от метаэтики? Заложены ли в нас неизбежно представления о морали? Почему утверждение «я должен X» не значит «я бы попробовал X, если бы был полностью проинформирован»? Насколько мы недооцениваем сложность неестественных категорий в нашем языке?

Сегодня, 4 октября, мы продолжаем обсуждать цепочку "Теория ценности"(https://lesswrong.ru/node/447 ). Поговорим про следующие эссе:

- Как изменить свою метаэтику (Changing Your Metaethics);
- Хоть что-нибудь может быть правильным? (Could Anything Be Right?);
- Мораль как вычисление с фиксированным результатом (Morality as Fixed Computation);
- Магические категории (Magical Categories).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/fgbewkghf5bijawihuf3iebjlm

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Насколько мы недооцениваем сложность неестественных категорий в нашем языке? Правильно ли мы понимаем дилемму заключенного? Насколько бы вам понравилось жить в мире, в котором роботы могут сделать за вас любую работу?

Сегодня, 11 октября, мы продолжаем обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:

- Магические категории (Magical Categories);
- Настоящая дилемма заключенного;
- Симпатические разумы (Sympathetic Minds);
- Серьезное испытание (High Challenge).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/vbx363mazzhzjl6lu4gpuwkmie

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Насколько бы вам понравилось жить в мире, в котором роботы могут сделать за вас любую работу? Можно ли представить мир без боли и страданий? А если мы избавимся только лишь от непереносимой боли и страданий? Каким образом холодная неразумная вселенная произвела существ, способных любить?

Сегодня, 18 октября, мы заканчиваем обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:

- Серьезное испытание (High Challenge);
- Серьёзные истории (Serious Stories);
- Ценность - хрупкая (Value is Fragile);
- Наш дар завтрашнему дню (The Gift We Give to Tomorrow).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/2d43bymvtzhwva46xpqmsyka2q

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Каким образом холодная неразумная вселенная произвела существ, способных любить?

Кажется, почти все согласятся, что спасти десять жизней лучше, чем одну. Однако почему тогда различные дилеммы вагонетки так часто вызывают у нас неприятие?

Сегодня, 25 октября, мы заканчиваем обсуждать цепочку "Теория ценности" и переходим к цепочке "Количественный гуманизм". Поговорим про следующие эссе:

- Наш дар завтрашнему дню (The Gift We Give to Tomorrow);
- Пренебрежение масштабом;
- Одна жизнь или целый мир (One Life Against the World);
- Парадокс Аллэ.

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory и Quantified Humanism.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/tbjtgm7bazactlnvrbmgszccrq

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Как наше стремление к надёжности и боязнь потерь могут играть против нас? Как соотносятся деньги и человеческие жизни? Оправдывают ли цели средства?

Сегодня, 1 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:

- Чёртов Аллэ! (Zut Allais!);
- Чувство морали;
- "Интуиция", стоящая за "утилитаризмом" (The “Intuitions” Behind “Utilitarianism”);
- Цели не оправдывают средства (для людей) (Ends Don’t Justify Means (Among Humans)).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/tc7b6fq74ndyhmalhuzg7g6lm4

Начало в 20:00 по московскому времени (UTC+3). (Обратите внимание, время начала сдвинулось на полчаса.)

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Может ли быть оправдан запрет "Не делай Х, даже если ты считаешь, что это правильно?"? Может ли что-то быть ценнее Истины? Когда не нужно считать вероятности? Можно ли утверждать, что ты принял правильное решение, когда ты проиграл?

Сегодня, 8 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:

- Этические запреты (Ethical Injunctions);
- Мне есть, что защищать (Something to Protect);
- Когда (не) использовать вероятности (When (Not) to Use Probabilities);
- Парадокс Ньюкома: сожалея о своей рациональности (Newcomb’s Problem and Regret of Rationality).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/jsxhqfxsc5fphaai6mklzycdtu

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 15 ноября, мы подводим итоги обсуждения цепочки "Количественный гуманизм" и после обсуждения эссе "Двенадцать добродетелей рационалиста" завершаем обсуждение всего тома "Просто доброта".

После этого мы переходим к завершающему тому книги "Стать сильнее" и первой его цепочке "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Поговорим про введение Роба Бенсинджера "Начала: введение"("Beginnings: An Introduction") и первое эссе в цепочке "Смертельная спираль моего детства" ("My Childhood Death Spiral").

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/kdh7nnysbjdtbluzbg7qyz3a6q

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Очевидно, искусственный сверхинтеллект не будет настолько глуп, чтобы превратить всю галактику в кучку скрепок. Очевидно, раз он намного умнее человека, то он гораздо лучше человека понимает, что правильно, а что - нет. Верно ведь?

Сегодня, 22 ноября, мы продолжим обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Поговорим про следующие эссе:

- Моя лучшая и худшая ошибки (My Best and Worst Mistake);
- Взращенный в технофилии (Raised in Technophilia);
- Гениальный опровергатель (A Prodigy of Refutation);
- Выдающаяся глупость юности (The Sheer Folly of Callow Youth).

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/r43ins75svagvpjdlf7fqmx44q

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 29 ноября, мы продолжим обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). В предыдущих эссе Юдковский рассказывал о своих юношеских убеждениях, согласно которым сильный искусственный интеллект обязательно решит все проблемы человечества. Из-за чего Юдковский поменял свою точку зрения и что помогло ему понять собственные ограничения?

Поговорим про следующие эссе:

- Такая крошечная нестыковка (That Tiny Note of Discord);
- Арьегардные бои против истины (Fighting a Rearguard Action Against the Truth);
- Моё пробуждение (My Naturalistic Awakening);
- Уровень выше моего (The Level Above Mine).

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/pr7ybqrmnre5rdvndcepq6dame

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Сегодня, 6 декабря, мы на время отвлечёмся от "Рациональности: от ИИ до Зомби" Элиезера Юдковского и будем обсуждать эссе Нейта Соареса. Нейт Соарес - это нынешний исполнительный директор MIRI, автор многих технических работ. Но помимо этого он некоторое время вёл блог "Minding our way", где много писал про работу с эмоциями и настроем.

Поговорим про следующие эссе:

- Забота о большем, чем ты сам;
- Непоследовательным быть можно;
- Ещё не боги;
- Когда происходит выбор?

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/uilp74ngrfel5pg4sh4vvkyjti

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 13 декабря, мы заканчиваем обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Завершающие эссе этой цепочки посвящены вопросам о том, как сложно признать, что ты ещё мало знаешь в том, чем ты занимаешься, и как Юдковский стал байесианцем.

После этого мы перейдём к цепочке "Бросая вызов сложностям", которая посвящена тому, как делать что-то, считающееся сложным или даже невозможным.

Поговорим про следующие эссе:

- Величина собственного безрассудства (The Magnitude of His Own Folly);
- Вне досягаемости бога (Beyond the Reach of God);
- Моё байесианское просветление (My Bayesian Enlightenment);
- Цуёку наритаи («Хочу стать сильней!»).

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/6s5enyedpvcwrbo2ed5srtz5rm

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Чувствуете ли вы дискомфорт, когда пытаетесь достигнуть больших успехов, чем окружающие? Есть ли разница между "я собираюсь создать стартап" и "я собираюсь попробовать создать стартап"? Насколько усердно люди стараются достичь своих целей? Что такое "невозможное"?

Сегодня, 20 декабря, мы продолжим обсуждать цепочку "Бросая вызов сложностям".

Поговорим про следующие эссе:

- Цуёку против уравнительского инстинкта;
- Пытаясь пытаться;
- Используй вторую попытку, Люк;
- Как сделать невозможное (On Doing the Impossible).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Challenging the Difficult.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/ra66vnrf2rgv7cmr6eemirrmju

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки #соарес #скотт_александер

Сегодня, 27 декабря, в рамках "Клуба чтения Цепочек" мы немножко отвлечёмся от книги "Рациональность: от ИИ до Зомби".

Некоторые иногда говорят, что все люди - эгоисты и никакого альтруизма не существует. Если кто-то делает что-то ради блага другого человека, он всё равно это делает только потому, что ему это приносит какое-то удовольствие.

В первой части мы обсудим, существует ли альтруизм на самом деле, на основе эссе Нейта Соареса "Филателист" и эссе Элиезера Юдковского "Ценности терминальные и инструментальные". Второе из них мы уже обсуждали в рамках книги, однако мы решили к нему вернуться.

Во второй части мы поговорим о художественных произведениях Скотта Александера "Жизнь коротка, искусство вечно" и Ника Бострома "Басня о драконе-тиране".

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/mkk7ilvzk5b4bcstvkqnpp2fqa

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

В чём разница между отчаянными усилиями и экстраординарными усилиями? Как выглядит "готовность совершить невозможное"? Что именно Юдковский подразумевает под общим уровнем здравомыслия?

Сегодня, 3 января, мы заканчиваем обсуждать цепочку "Бросая вызов сложностям" и переходим к последней цепочке книги - "Создание сообщества". Поговорим про следующие эссе:

- Приложи экстраординарные усилия;
- Заткнись и сделай невозможное! (Shut up and do the impossible!);
- Заключительные слова (Final Words);
- Общий уровень здравомыслия.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/74h67duyqbfupky2mpx2f6gada

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Что именно Юдковский подразумевает под общим уровнем здравомыслия и как его можно поднять? Почему есть школы боевых искусств, но нет рационалистских додзё? В смысле, почему так сложно найти место, где учили бы рациональности?

Сегодня, 10 января, мы переходим к последней цепочке книги - "Создание сообщества". Поговорим про следующие эссе:

- Общий уровень здравомыслия;
- Чувство, что большее возможно;
- Эпистемическая порочность;
- Области знаний, процветающие без свидетельств.

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/56ysqu6n3vaxfpsphkxvl4cjum

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Как мы можем проверить, действительно ли человек освоил навыки рациональности? Насколько эффективно люди, рассуждающие про важность рациональности, технологий, просвещения умеют сотрудничать друг с другом? Что с этим можно сделать?

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 17 января, мы продолжим обсуждать цепочку "Создание сообщества". Поговорим про следующие эссе:

- Три уровня верификации рациональности (3 Levels of Rationality Verification);
- Почему люди нашего круга не умеют сотрудничать (Why Our Kind Can't Cooperate);
- Толерантность к толерантности (Tolerate Tolerance);
- Плата за участие (Your Price for Joining).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/dgxauprlnjbxtoszkwsxq4f5nu

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Что даёт религия людям? В смысле, если вдруг религия исчезнет, чего людям будет не хватать? Могут ли рационалисты приносить человечеству больше пользы, чем приносит религия? Зачем нужно распространять рациональность? Как людям удаётся создавать крупные организации?

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 24 января, мы продолжим обсуждать цепочку "Создание сообщества". Поговорим про следующие эссе:

- Может ли гуманизм приносить больше пользы, чем религия? (Can Humanism Match Religion’s Output?);
- Церковь или группа с общими целями (Church vs. Taskforce);
- Рациональность как общие основы для многих идей (Rationality: Common Interest of Many Causes);
- Беспомощные одиночки (Helpless Individuals).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/yur4345rv5a7bg6375sljov33e

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Сегодня, 31 января, мы продолжим обсуждать цепочку "Создание сообщества". Мы обсудим, можно ли считать вложение денег в некоторое дело свидетельством того, что это дело человеку небезразлично. Поговорим про разницу между пользой и тёплым ощущением в груди, а также про эффект наблюдателя в интернете.

Обсуждаемые эссе:

- Деньги как единица заботы (Money: The Unit of Caring);
- Покупайте утилоны и приятное ощущение в груди по отдельности (Purchase Fuzzies and Utilons Separately);
- Апатия наблюдателя (Bystander Apathy);
- Коллективная апатия и интернет (Collective Apathy and the Internet).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/73nwb2suzrfnpojyz2zx65orx4

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Сегодня, 14 февраля, в рамках встречи Клуба чтения Цепочек мы отвлечёмся от обсуждения книги "Рациональность: от ИИ до Зомби".

В прошлом году вышел фильм "Не смотрите наверх", посвящённый, в частности, вопросу восприятия людьми экзистенциальных рисков. Скотт Александер написал на этот фильм в достаточной степени разгромную рецензию, которая вызвала довольно жаркие споры. Мы планируем обсудить, что полезное можно из фильма (или рецензии, или обсуждения рецензии).

В дополнение к этому мы также планируем поговорить об эссе Скотта Александера "Выученная эпистемическая беспомощность".

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/w7hkf26epncl5naouhfswyn4ja

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Почему некоторые люди часто считают, что лучше проявить недостаточную уверенность, чем излишнюю? Какие у этого подхода есть подводные камни?

Многие люди пытались донести до других, как думать правильней. Иногда это заканчивалось появлением очередной религии, непроверяемой теории или чего-то ещё в таком же духе. Можно ли этого избежать при распространении рациональности?

Мы заканчиваем обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского. Сегодня, 21 февраля, мы обсудим последние два эссе из цепочки "Создания сообщества" и подведём итоги цепочки и всего тома "Стать сильнее".

Обсуждаемые эссе:

- Грех недоуверенности (The Sin of Underconfidence);
- Идите и создавайте искусство! (Go Forth and Create the Art!).

Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: The Craft and the Community.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/7dw4dx3f4faz3m6pg4yogt4hce

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.