#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Если философ рекомендует быть альтруистом, потому что быть альтруистом выгодно, он альтруист? Что не так с идеей "воспитать ИИ в доброй и любящей среде, чтобы он из неё извлёк, как правильно себя вести"?
Сегодня, 13 сентября, мы продолжим обсуждать цепочку "Фальшивые предпочтения". Поговорим про следующие эссе:
- Фальшивая мораль;
- Фальшивые функции полезности;
- Ошибка выломанного рычага;
- Мечты о дизайне ИИ (Dreams of AI Design, это эссе пока не переведено на русский язык).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/pk7k56m3ifeqhgdjdi5fjujt5m
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Если философ рекомендует быть альтруистом, потому что быть альтруистом выгодно, он альтруист? Что не так с идеей "воспитать ИИ в доброй и любящей среде, чтобы он из неё извлёк, как правильно себя вести"?
Сегодня, 13 сентября, мы продолжим обсуждать цепочку "Фальшивые предпочтения". Поговорим про следующие эссе:
- Фальшивая мораль;
- Фальшивые функции полезности;
- Ошибка выломанного рычага;
- Мечты о дизайне ИИ (Dreams of AI Design, это эссе пока не переведено на русский язык).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/pk7k56m3ifeqhgdjdi5fjujt5m
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Почему я считаю, что в понедельник состоится встреча клуба чтения цепочек? Потому что в предыдущие понедельники я десятки раз видел, как она состоялась. Да, но как я могу быть уверен, что будущее будет похоже на прошлое?
Если каждое убеждение должно быть обосновано, и эти обоснования также должны быть обоснованы, то как же разрешается эта бесконечная рекурсия?
Сегодня, 20 сентября, мы завершаем обсуждение цепочки "Фальшивые предпочтения" и переходим к цепочке "Теория ценности". Поговорим про следующие эссе:
- Пространство разумов вообще (The Design Space of Minds-in-General);
- Где заканчивается рекурсия обоснований;
- Мой тип рефлексии (My Kind of Reflection);
- Универсальных аргументов не существует (No Universally Compelling Arguments).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Fake preferences и Value Theory.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/bznvlaugo5fubgd6pranqjjobu
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Почему я считаю, что в понедельник состоится встреча клуба чтения цепочек? Потому что в предыдущие понедельники я десятки раз видел, как она состоялась. Да, но как я могу быть уверен, что будущее будет похоже на прошлое?
Если каждое убеждение должно быть обосновано, и эти обоснования также должны быть обоснованы, то как же разрешается эта бесконечная рекурсия?
Сегодня, 20 сентября, мы завершаем обсуждение цепочки "Фальшивые предпочтения" и переходим к цепочке "Теория ценности". Поговорим про следующие эссе:
- Пространство разумов вообще (The Design Space of Minds-in-General);
- Где заканчивается рекурсия обоснований;
- Мой тип рефлексии (My Kind of Reflection);
- Универсальных аргументов не существует (No Universally Compelling Arguments).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Fake preferences и Value Theory.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/bznvlaugo5fubgd6pranqjjobu
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Когда цепочки аргументов становится достаточно, чтобы начать действовать? Если вам завтра убедительно докажут, что нет ничего однозначно морального и правильного, как изменится ваше поведение?
Сегодня, 27 сентября, мы продолжаем обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:
- Создано в движении (Created Already in Motion);
- Раскладывание камней в правильные кучи;
- Двухместные и одноместные слова (2-Place and 1-Place Words);
- Что вы сделаете без морали?.
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/7ojup6aurvhbplhk2pe7ipkbwq
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Когда цепочки аргументов становится достаточно, чтобы начать действовать? Если вам завтра убедительно докажут, что нет ничего однозначно морального и правильного, как изменится ваше поведение?
Сегодня, 27 сентября, мы продолжаем обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:
- Создано в движении (Created Already in Motion);
- Раскладывание камней в правильные кучи;
- Двухместные и одноместные слова (2-Place and 1-Place Words);
- Что вы сделаете без морали?.
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/7ojup6aurvhbplhk2pe7ipkbwq
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Lesswrong
Value Theory - LessWrong
On obstacles to developing a new theory, and some intuitively desirable features of such a theory.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Чем отличается мораль от метаэтики? Заложены ли в нас неизбежно представления о морали? Почему утверждение «я должен X» не значит «я бы попробовал X, если бы был полностью проинформирован»? Насколько мы недооцениваем сложность неестественных категорий в нашем языке?
Сегодня, 4 октября, мы продолжаем обсуждать цепочку "Теория ценности"(https://lesswrong.ru/node/447 ). Поговорим про следующие эссе:
- Как изменить свою метаэтику (Changing Your Metaethics);
- Хоть что-нибудь может быть правильным? (Could Anything Be Right?);
- Мораль как вычисление с фиксированным результатом (Morality as Fixed Computation);
- Магические категории (Magical Categories).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/fgbewkghf5bijawihuf3iebjlm
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Чем отличается мораль от метаэтики? Заложены ли в нас неизбежно представления о морали? Почему утверждение «я должен X» не значит «я бы попробовал X, если бы был полностью проинформирован»? Насколько мы недооцениваем сложность неестественных категорий в нашем языке?
Сегодня, 4 октября, мы продолжаем обсуждать цепочку "Теория ценности"(https://lesswrong.ru/node/447 ). Поговорим про следующие эссе:
- Как изменить свою метаэтику (Changing Your Metaethics);
- Хоть что-нибудь может быть правильным? (Could Anything Be Right?);
- Мораль как вычисление с фиксированным результатом (Morality as Fixed Computation);
- Магические категории (Magical Categories).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/fgbewkghf5bijawihuf3iebjlm
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Lesswrong
Value Theory - LessWrong
On obstacles to developing a new theory, and some intuitively desirable features of such a theory.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Насколько мы недооцениваем сложность неестественных категорий в нашем языке? Правильно ли мы понимаем дилемму заключенного? Насколько бы вам понравилось жить в мире, в котором роботы могут сделать за вас любую работу?
Сегодня, 11 октября, мы продолжаем обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:
- Магические категории (Magical Categories);
- Настоящая дилемма заключенного;
- Симпатические разумы (Sympathetic Minds);
- Серьезное испытание (High Challenge).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/vbx363mazzhzjl6lu4gpuwkmie
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Насколько мы недооцениваем сложность неестественных категорий в нашем языке? Правильно ли мы понимаем дилемму заключенного? Насколько бы вам понравилось жить в мире, в котором роботы могут сделать за вас любую работу?
Сегодня, 11 октября, мы продолжаем обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:
- Магические категории (Magical Categories);
- Настоящая дилемма заключенного;
- Симпатические разумы (Sympathetic Minds);
- Серьезное испытание (High Challenge).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/vbx363mazzhzjl6lu4gpuwkmie
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Lesswrong
Value Theory - LessWrong
On obstacles to developing a new theory, and some intuitively desirable features of such a theory.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Насколько бы вам понравилось жить в мире, в котором роботы могут сделать за вас любую работу? Можно ли представить мир без боли и страданий? А если мы избавимся только лишь от непереносимой боли и страданий? Каким образом холодная неразумная вселенная произвела существ, способных любить?
Сегодня, 18 октября, мы заканчиваем обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:
- Серьезное испытание (High Challenge);
- Серьёзные истории (Serious Stories);
- Ценность - хрупкая (Value is Fragile);
- Наш дар завтрашнему дню (The Gift We Give to Tomorrow).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/2d43bymvtzhwva46xpqmsyka2q
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Насколько бы вам понравилось жить в мире, в котором роботы могут сделать за вас любую работу? Можно ли представить мир без боли и страданий? А если мы избавимся только лишь от непереносимой боли и страданий? Каким образом холодная неразумная вселенная произвела существ, способных любить?
Сегодня, 18 октября, мы заканчиваем обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:
- Серьезное испытание (High Challenge);
- Серьёзные истории (Serious Stories);
- Ценность - хрупкая (Value is Fragile);
- Наш дар завтрашнему дню (The Gift We Give to Tomorrow).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/2d43bymvtzhwva46xpqmsyka2q
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Lesswrong
Value Theory - LessWrong
On obstacles to developing a new theory, and some intuitively desirable features of such a theory.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Каким образом холодная неразумная вселенная произвела существ, способных любить?
Кажется, почти все согласятся, что спасти десять жизней лучше, чем одну. Однако почему тогда различные дилеммы вагонетки так часто вызывают у нас неприятие?
Сегодня, 25 октября, мы заканчиваем обсуждать цепочку "Теория ценности" и переходим к цепочке "Количественный гуманизм". Поговорим про следующие эссе:
- Наш дар завтрашнему дню (The Gift We Give to Tomorrow);
- Пренебрежение масштабом;
- Одна жизнь или целый мир (One Life Against the World);
- Парадокс Аллэ.
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory и Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/tbjtgm7bazactlnvrbmgszccrq
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Каким образом холодная неразумная вселенная произвела существ, способных любить?
Кажется, почти все согласятся, что спасти десять жизней лучше, чем одну. Однако почему тогда различные дилеммы вагонетки так часто вызывают у нас неприятие?
Сегодня, 25 октября, мы заканчиваем обсуждать цепочку "Теория ценности" и переходим к цепочке "Количественный гуманизм". Поговорим про следующие эссе:
- Наш дар завтрашнему дню (The Gift We Give to Tomorrow);
- Пренебрежение масштабом;
- Одна жизнь или целый мир (One Life Against the World);
- Парадокс Аллэ.
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Value Theory и Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/tbjtgm7bazactlnvrbmgszccrq
Начало в 19:30 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Как наше стремление к надёжности и боязнь потерь могут играть против нас? Как соотносятся деньги и человеческие жизни? Оправдывают ли цели средства?
Сегодня, 1 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:
- Чёртов Аллэ! (Zut Allais!);
- Чувство морали;
- "Интуиция", стоящая за "утилитаризмом" (The “Intuitions” Behind “Utilitarianism”);
- Цели не оправдывают средства (для людей) (Ends Don’t Justify Means (Among Humans)).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/tc7b6fq74ndyhmalhuzg7g6lm4
Начало в 20:00 по московскому времени (UTC+3). (Обратите внимание, время начала сдвинулось на полчаса.)
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Как наше стремление к надёжности и боязнь потерь могут играть против нас? Как соотносятся деньги и человеческие жизни? Оправдывают ли цели средства?
Сегодня, 1 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:
- Чёртов Аллэ! (Zut Allais!);
- Чувство морали;
- "Интуиция", стоящая за "утилитаризмом" (The “Intuitions” Behind “Utilitarianism”);
- Цели не оправдывают средства (для людей) (Ends Don’t Justify Means (Among Humans)).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/tc7b6fq74ndyhmalhuzg7g6lm4
Начало в 20:00 по московскому времени (UTC+3). (Обратите внимание, время начала сдвинулось на полчаса.)
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Может ли быть оправдан запрет "Не делай Х, даже если ты считаешь, что это правильно?"? Может ли что-то быть ценнее Истины? Когда не нужно считать вероятности? Можно ли утверждать, что ты принял правильное решение, когда ты проиграл?
Сегодня, 8 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:
- Этические запреты (Ethical Injunctions);
- Мне есть, что защищать (Something to Protect);
- Когда (не) использовать вероятности (When (Not) to Use Probabilities);
- Парадокс Ньюкома: сожалея о своей рациональности (Newcomb’s Problem and Regret of Rationality).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/jsxhqfxsc5fphaai6mklzycdtu
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Может ли быть оправдан запрет "Не делай Х, даже если ты считаешь, что это правильно?"? Может ли что-то быть ценнее Истины? Когда не нужно считать вероятности? Можно ли утверждать, что ты принял правильное решение, когда ты проиграл?
Сегодня, 8 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:
- Этические запреты (Ethical Injunctions);
- Мне есть, что защищать (Something to Protect);
- Когда (не) использовать вероятности (When (Not) to Use Probabilities);
- Парадокс Ньюкома: сожалея о своей рациональности (Newcomb’s Problem and Regret of Rationality).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/jsxhqfxsc5fphaai6mklzycdtu
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Сегодня, 15 ноября, мы подводим итоги обсуждения цепочки "Количественный гуманизм" и после обсуждения эссе "Двенадцать добродетелей рационалиста" завершаем обсуждение всего тома "Просто доброта".
После этого мы переходим к завершающему тому книги "Стать сильнее" и первой его цепочке "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Поговорим про введение Роба Бенсинджера "Начала: введение"("Beginnings: An Introduction") и первое эссе в цепочке "Смертельная спираль моего детства" ("My Childhood Death Spiral").
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/kdh7nnysbjdtbluzbg7qyz3a6q
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Сегодня, 15 ноября, мы подводим итоги обсуждения цепочки "Количественный гуманизм" и после обсуждения эссе "Двенадцать добродетелей рационалиста" завершаем обсуждение всего тома "Просто доброта".
После этого мы переходим к завершающему тому книги "Стать сильнее" и первой его цепочке "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Поговорим про введение Роба Бенсинджера "Начала: введение"("Beginnings: An Introduction") и первое эссе в цепочке "Смертельная спираль моего детства" ("My Childhood Death Spiral").
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/kdh7nnysbjdtbluzbg7qyz3a6q
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.