#встречи #онлайн
В воскресенье, 31 октября, пройдёт очередная онлайн-встреча сообщества рационалистов.
В программе:
1. Олег Лариков проведёт доклад на тему «Что именно я знаю, если я знаю, что ничего не знаю».
Эта встреча планировалась 17 октября, но, к сожалению, её пришлось перенести.
Анонс от Олега:
Сказано: «не знаю» не бывает честным ответом рационалиста. Но откуда брать уверенность в утверждении, если оно говорит о terra incognita? Настоящий доклад будет попыткой ответить на этот вопрос на разных уровнях — от причин предпочитать нормальные распределения к метафоре «абсолютно запутанной толпы» Джейнса и затем к выбору интерполирующих функций по небольшому количеству точек. Предполагается, что слушатели уже знакомы с теоремой Кокса, понятием логарифмических шансов, способны посчитать вещи вроде ∫dx/(x(1-x)) (или готовы в выкладках поверить докладчику на слово) и имеют базовые навыки работы с Excel или эквивалентной ему программой.
2. Вячеслав Матюхин расскажет о дискуссии вокруг текущего статуса научности поведенческой экономики.
Доклад по мотивам постов "The Death of Behavioral Economics" и "On Hreha On Behavioral Economics": воспроизводятся ли классические результаты Канемана и Тверски? Насколько в здоровом состоянии сейчас вся дисциплина? Пережила ли поведенческая экономика кризис воспроизводимости?
Для участия необходимо зарегистрироваться: https://kocherga-club.ru/events/l3irel4dnvfnjgcpjxxtt3laby
Начало встречи в 14-00 по московскому времени (UTC+3).
В воскресенье, 31 октября, пройдёт очередная онлайн-встреча сообщества рационалистов.
В программе:
1. Олег Лариков проведёт доклад на тему «Что именно я знаю, если я знаю, что ничего не знаю».
Эта встреча планировалась 17 октября, но, к сожалению, её пришлось перенести.
Анонс от Олега:
Сказано: «не знаю» не бывает честным ответом рационалиста. Но откуда брать уверенность в утверждении, если оно говорит о terra incognita? Настоящий доклад будет попыткой ответить на этот вопрос на разных уровнях — от причин предпочитать нормальные распределения к метафоре «абсолютно запутанной толпы» Джейнса и затем к выбору интерполирующих функций по небольшому количеству точек. Предполагается, что слушатели уже знакомы с теоремой Кокса, понятием логарифмических шансов, способны посчитать вещи вроде ∫dx/(x(1-x)) (или готовы в выкладках поверить докладчику на слово) и имеют базовые навыки работы с Excel или эквивалентной ему программой.
2. Вячеслав Матюхин расскажет о дискуссии вокруг текущего статуса научности поведенческой экономики.
Доклад по мотивам постов "The Death of Behavioral Economics" и "On Hreha On Behavioral Economics": воспроизводятся ли классические результаты Канемана и Тверски? Насколько в здоровом состоянии сейчас вся дисциплина? Пережила ли поведенческая экономика кризис воспроизводимости?
Для участия необходимо зарегистрироваться: https://kocherga-club.ru/events/l3irel4dnvfnjgcpjxxtt3laby
Начало встречи в 14-00 по московскому времени (UTC+3).
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Как наше стремление к надёжности и боязнь потерь могут играть против нас? Как соотносятся деньги и человеческие жизни? Оправдывают ли цели средства?
Сегодня, 1 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:
- Чёртов Аллэ! (Zut Allais!);
- Чувство морали;
- "Интуиция", стоящая за "утилитаризмом" (The “Intuitions” Behind “Utilitarianism”);
- Цели не оправдывают средства (для людей) (Ends Don’t Justify Means (Among Humans)).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/tc7b6fq74ndyhmalhuzg7g6lm4
Начало в 20:00 по московскому времени (UTC+3). (Обратите внимание, время начала сдвинулось на полчаса.)
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Как наше стремление к надёжности и боязнь потерь могут играть против нас? Как соотносятся деньги и человеческие жизни? Оправдывают ли цели средства?
Сегодня, 1 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:
- Чёртов Аллэ! (Zut Allais!);
- Чувство морали;
- "Интуиция", стоящая за "утилитаризмом" (The “Intuitions” Behind “Utilitarianism”);
- Цели не оправдывают средства (для людей) (Ends Don’t Justify Means (Among Humans)).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/tc7b6fq74ndyhmalhuzg7g6lm4
Начало в 20:00 по московскому времени (UTC+3). (Обратите внимание, время начала сдвинулось на полчаса.)
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн
А вы боитесь, что люди перестанут существовать?
Есть всем известные способы вымирания человечества. Но представьте, как неловко получится, если человечество будет вымирать по незнакомому сценарию, а мы не поймём вовремя и ничего с этим не будем делать?
6 ноября в онлайне пройдёт день Х-рисков (читается “Икс-риски”, сокращённо от “экзистенциальные риски”). Цели:
1. Рассказать о том, что такое экзистенциальные риски;
2. Показать примеры того, как можно оценивать риски;
3. Поделиться идеями о том, как можно внести свой вклад;
4. А ещё поисследовать свои представления об этой теме, пообщаться с единомышленниками и поиграть в тематические рацио-игры.
Приходить можно, даже если вы ничего об этом не знаете (но хотите узнать).
Подробности и регистрация: https://kocherga-club.ru/events/bfybnwnpbbhqngizkgin44hui4
Начало в 17:00 по московскому времени (UTC+3).
А вы боитесь, что люди перестанут существовать?
Есть всем известные способы вымирания человечества. Но представьте, как неловко получится, если человечество будет вымирать по незнакомому сценарию, а мы не поймём вовремя и ничего с этим не будем делать?
6 ноября в онлайне пройдёт день Х-рисков (читается “Икс-риски”, сокращённо от “экзистенциальные риски”). Цели:
1. Рассказать о том, что такое экзистенциальные риски;
2. Показать примеры того, как можно оценивать риски;
3. Поделиться идеями о том, как можно внести свой вклад;
4. А ещё поисследовать свои представления об этой теме, пообщаться с единомышленниками и поиграть в тематические рацио-игры.
Приходить можно, даже если вы ничего об этом не знаете (но хотите узнать).
Подробности и регистрация: https://kocherga-club.ru/events/bfybnwnpbbhqngizkgin44hui4
Начало в 17:00 по московскому времени (UTC+3).
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Может ли быть оправдан запрет "Не делай Х, даже если ты считаешь, что это правильно?"? Может ли что-то быть ценнее Истины? Когда не нужно считать вероятности? Можно ли утверждать, что ты принял правильное решение, когда ты проиграл?
Сегодня, 8 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:
- Этические запреты (Ethical Injunctions);
- Мне есть, что защищать (Something to Protect);
- Когда (не) использовать вероятности (When (Not) to Use Probabilities);
- Парадокс Ньюкома: сожалея о своей рациональности (Newcomb’s Problem and Regret of Rationality).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/jsxhqfxsc5fphaai6mklzycdtu
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Может ли быть оправдан запрет "Не делай Х, даже если ты считаешь, что это правильно?"? Может ли что-то быть ценнее Истины? Когда не нужно считать вероятности? Можно ли утверждать, что ты принял правильное решение, когда ты проиграл?
Сегодня, 8 ноября, мы продолжаем обсуждать цепочку "Количественный гуманизм". Поговорим про следующие эссе:
- Этические запреты (Ethical Injunctions);
- Мне есть, что защищать (Something to Protect);
- Когда (не) использовать вероятности (When (Not) to Use Probabilities);
- Парадокс Ньюкома: сожалея о своей рациональности (Newcomb’s Problem and Regret of Rationality).
Наш клуб чтения Цепочек дошёл до той части книги, где многие эссе не переведены. Ссылка на оригиналы: Quantified Humanism.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/jsxhqfxsc5fphaai6mklzycdtu
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#в_мире
Кочерга решила выпускать ежемесячный дайджест с обзором, что происходило в "рациосфере" за последний месяц. На прошлой неделе появился дайджест за октябрь:
https://telegra.ph/DAJDZHEST-11-06-4
Кочерга решила выпускать ежемесячный дайджест с обзором, что происходило в "рациосфере" за последний месяц. На прошлой неделе появился дайджест за октябрь:
https://telegra.ph/DAJDZHEST-11-06-4
Telegraph
Дайджест #1
Привет! Мы решили раз в месяц публиковать дайджесты с кратким обзором всего, что интересного происходило в околорациональной сфере за последнее время. Вот наша первая подборка, с которой помог Денис. 🔹 LessWrong: • Команда LessWrong преобразовалась в Lightcone…
#видео #встречи #онлайн
31 октября Олег Лариков прочитал доклад на тему «Что именно я знаю, если я знаю, что ничего не знаю». Или по-другому: откуда берутся априорные вероятности? Если наше незнание не позволяет сказать, что одно событие вероятнее другого, то это уже может быть достаточно, чтобы что-то сказать о вероятностях этих событий.
Из анонса: "Предполагается, что слушатели уже знакомы с теоремой Кокса, понятием логарифмических шансов, способны посчитать вещи вроде ∫dx/(x(1-x)) (или готовы в выкладках поверить докладчику на слово) и имеют базовые навыки работы с Excel или эквивалентной ему программой".
https://www.youtube.com/watch?v=wcA721sIx7g
31 октября Олег Лариков прочитал доклад на тему «Что именно я знаю, если я знаю, что ничего не знаю». Или по-другому: откуда берутся априорные вероятности? Если наше незнание не позволяет сказать, что одно событие вероятнее другого, то это уже может быть достаточно, чтобы что-то сказать о вероятностях этих событий.
Из анонса: "Предполагается, что слушатели уже знакомы с теоремой Кокса, понятием логарифмических шансов, способны посчитать вещи вроде ∫dx/(x(1-x)) (или готовы в выкладках поверить докладчику на слово) и имеют базовые навыки работы с Excel или эквивалентной ему программой".
https://www.youtube.com/watch?v=wcA721sIx7g
YouTube
Что именно я знаю, если я знаю, что ничего не знаю. Олег Лариков (2021-10-31)
Олег Лариков провел доклад на тему «Что именно я знаю, если я знаю, что ничего не знаю».
Анонс от Олега:
Сказано: «не знаю» не бывает честным ответом рационалиста. Но откуда брать уверенность в утверждении, если оно говорит о terra incognita? Настоящий…
Анонс от Олега:
Сказано: «не знаю» не бывает честным ответом рационалиста. Но откуда брать уверенность в утверждении, если оно говорит о terra incognita? Настоящий…
#в_мире
John Wentworth опубликовал на lesswrong.com заметку с рекомендациями для старших школьников и студентов, что им стоит изучать, если они хотят заниматься проблемой соответствия ИИ целям оператора (AI alignment), да и другими научными задачами, которые непонятно, как решать.
https://www.lesswrong.com/posts/bjjbp5i5G8bekJuxv/study-guide
Текст на английском. Впрочем, если вы хотите заниматься серьёзными научными задачами, английский язык тоже входит в перечень того, что нужно изучить.
John Wentworth опубликовал на lesswrong.com заметку с рекомендациями для старших школьников и студентов, что им стоит изучать, если они хотят заниматься проблемой соответствия ИИ целям оператора (AI alignment), да и другими научными задачами, которые непонятно, как решать.
https://www.lesswrong.com/posts/bjjbp5i5G8bekJuxv/study-guide
Текст на английском. Впрочем, если вы хотите заниматься серьёзными научными задачами, английский язык тоже входит в перечень того, что нужно изучить.
Lesswrong
Study Guide — LessWrong
This post is for students who hope to eventually work on technical problems we don’t understand, especially agency and AI alignment, and want to know…
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Сегодня, 15 ноября, мы подводим итоги обсуждения цепочки "Количественный гуманизм" и после обсуждения эссе "Двенадцать добродетелей рационалиста" завершаем обсуждение всего тома "Просто доброта".
После этого мы переходим к завершающему тому книги "Стать сильнее" и первой его цепочке "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Поговорим про введение Роба Бенсинджера "Начала: введение"("Beginnings: An Introduction") и первое эссе в цепочке "Смертельная спираль моего детства" ("My Childhood Death Spiral").
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/kdh7nnysbjdtbluzbg7qyz3a6q
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Сегодня, 15 ноября, мы подводим итоги обсуждения цепочки "Количественный гуманизм" и после обсуждения эссе "Двенадцать добродетелей рационалиста" завершаем обсуждение всего тома "Просто доброта".
После этого мы переходим к завершающему тому книги "Стать сильнее" и первой его цепочке "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Поговорим про введение Роба Бенсинджера "Начала: введение"("Beginnings: An Introduction") и первое эссе в цепочке "Смертельная спираль моего детства" ("My Childhood Death Spiral").
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/kdh7nnysbjdtbluzbg7qyz3a6q
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Очевидно, искусственный сверхинтеллект не будет настолько глуп, чтобы превратить всю галактику в кучку скрепок. Очевидно, раз он намного умнее человека, то он гораздо лучше человека понимает, что правильно, а что - нет. Верно ведь?
Сегодня, 22 ноября, мы продолжим обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Поговорим про следующие эссе:
- Моя лучшая и худшая ошибки (My Best and Worst Mistake);
- Взращенный в технофилии (Raised in Technophilia);
- Гениальный опровергатель (A Prodigy of Refutation);
- Выдающаяся глупость юности (The Sheer Folly of Callow Youth).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/r43ins75svagvpjdlf7fqmx44q
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Очевидно, искусственный сверхинтеллект не будет настолько глуп, чтобы превратить всю галактику в кучку скрепок. Очевидно, раз он намного умнее человека, то он гораздо лучше человека понимает, что правильно, а что - нет. Верно ведь?
Сегодня, 22 ноября, мы продолжим обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Поговорим про следующие эссе:
- Моя лучшая и худшая ошибки (My Best and Worst Mistake);
- Взращенный в технофилии (Raised in Technophilia);
- Гениальный опровергатель (A Prodigy of Refutation);
- Выдающаяся глупость юности (The Sheer Folly of Callow Youth).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/r43ins75svagvpjdlf7fqmx44q
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#в_мире #переводы #юдковский
В сентябре этого года состоялась встреча в некотором чате, где Элиезер Юдковский описывал, как он представляет грядущие проблемы, связанные с вероятным появлением сильного искусственного интеллекта. Пару недель назад отредактированную расшифровку этой встрече выложили на AI Alignment Forum, а на днях Максим Выменец выложил свой перевод этой расшифровки.
https://vk.com/@makikoty-obsuzhdenie-agi-s-eliezerom-udkovskim
В сентябре этого года состоялась встреча в некотором чате, где Элиезер Юдковский описывал, как он представляет грядущие проблемы, связанные с вероятным появлением сильного искусственного интеллекта. Пару недель назад отредактированную расшифровку этой встрече выложили на AI Alignment Forum, а на днях Максим Выменец выложил свой перевод этой расшифровки.
https://vk.com/@makikoty-obsuzhdenie-agi-s-eliezerom-udkovskim
VK
Обсуждение AGI с Элиезером Юдковским
Оригинал: https://www.alignmentforum.org/posts/CpvyhFy9WvCNsifkY/discussion-with-eliezer-yudkowsky-on-agi-interventions
#статьи_участников
Калибровка уверенности
Автор канала "Небольшой список имени Байеса" написал большую и подробную статью о том, что такое калибровка, зачем она нужна, как оценить собственную калибровку и как её улучшить.
Калибровка уверенности
Автор канала "Небольшой список имени Байеса" написал большую и подробную статью о том, что такое калибровка, зачем она нужна, как оценить собственную калибровку и как её улучшить.
Telegraph
Калибровка уверенности
Рационалисты стремятся стать идеальными байесианскими агентами (или, по крайней мере, приблизиться к этому идеалу), в частности - максимально использовать всю поступающую информацию для формирования как можно более точной карты. К сожалению, на практике проводить…
#в_мире
Дункан Сабьен (в прошлом инструктор CFAR и автор их "Participant Handbook") опубликовал на lesswrong.com эссе о технике под названием "Split and commit". Лаконичный перевод названия я пока не придумал, а суть можно описать так: "Подумай о вариантах и определись с действиями".
Как многие из читателей уже знают, мы (люди) довольно часто ошибаемся. И даже если мы очень уверены, что мы правы, это всё равно мало что говорит о том, ошибаемся мы на самом деле или нет.
При этом любое увиденное нами свидетельство может быть свидетельством в пользу нескольких гипотез. Однако очень часто мы держим в голове всего лишь одну гипотезу. Сабьен пишет, что даже люди, которые умеют выражать свою степень уверенности в числах, например, могут сказать, что уверены в такой-то гипотезе на 85%, часто не задумываются о том, а на что приходятся оставшиеся 15%.
В связи с этим Сабьен предлагает следующее возможное решение. Когда мы задумываемся о том, в каком мире совмещается рассматриваемая нами гипотеза Х и увиденное нами свидетельство, следует также подумать, в каком мире было бы верно не-Х и при этом мы могли бы увидеть то же самое свидетельство. Например, задать себе вопрос: "Если вдруг выяснится, что всё устроено не так, как я думал, какой следующий по правдоподобности вариант?"
А после этого рекомендуется подумать, что мы будем делать в каждом из этих возможных миров.
В эссе всё это расписано более подробно и с примерами: https://www.lesswrong.com/posts/t2LGSDwT7zSnAGybG/split-and-commit
Дункан Сабьен (в прошлом инструктор CFAR и автор их "Participant Handbook") опубликовал на lesswrong.com эссе о технике под названием "Split and commit". Лаконичный перевод названия я пока не придумал, а суть можно описать так: "Подумай о вариантах и определись с действиями".
Как многие из читателей уже знают, мы (люди) довольно часто ошибаемся. И даже если мы очень уверены, что мы правы, это всё равно мало что говорит о том, ошибаемся мы на самом деле или нет.
При этом любое увиденное нами свидетельство может быть свидетельством в пользу нескольких гипотез. Однако очень часто мы держим в голове всего лишь одну гипотезу. Сабьен пишет, что даже люди, которые умеют выражать свою степень уверенности в числах, например, могут сказать, что уверены в такой-то гипотезе на 85%, часто не задумываются о том, а на что приходятся оставшиеся 15%.
В связи с этим Сабьен предлагает следующее возможное решение. Когда мы задумываемся о том, в каком мире совмещается рассматриваемая нами гипотеза Х и увиденное нами свидетельство, следует также подумать, в каком мире было бы верно не-Х и при этом мы могли бы увидеть то же самое свидетельство. Например, задать себе вопрос: "Если вдруг выяснится, что всё устроено не так, как я думал, какой следующий по правдоподобности вариант?"
А после этого рекомендуется подумать, что мы будем делать в каждом из этих возможных миров.
В эссе всё это расписано более подробно и с примерами: https://www.lesswrong.com/posts/t2LGSDwT7zSnAGybG/split-and-commit
Lesswrong
Split and Commit — LessWrong
This is an essay describing a basic sanity-inducing mental movement that I use approximately ten times per week, and suspect other people would benef…
#встречи #онлайн
Сегодня, 28 ноября, Вячеслав Матюхин в онлайне будет рассказывать про изменения в деятельности Центра рациональности "Кочерга" и про планы на будущее.
Краткое содержание: "мы перефокусируемся с построения сообщества рационалистов и образовательных мероприятий на более общую миссию по вовлечению новых людей в деятельность, связанную с эффективным альтруизмом, рациональностью и исследованиями безопасного ИИ, и по запуску новых проектов, связанных с этими темами".
Подробности: https://kocherga-club.ru/events/s55v7ewv6nfxfiaur6iuwtnxz4
Начало в 14:00 по московскому времени (UTC+3). Меньше, чем через час.
Сегодня, 28 ноября, Вячеслав Матюхин в онлайне будет рассказывать про изменения в деятельности Центра рациональности "Кочерга" и про планы на будущее.
Краткое содержание: "мы перефокусируемся с построения сообщества рационалистов и образовательных мероприятий на более общую миссию по вовлечению новых людей в деятельность, связанную с эффективным альтруизмом, рациональностью и исследованиями безопасного ИИ, и по запуску новых проектов, связанных с этими темами".
Подробности: https://kocherga-club.ru/events/s55v7ewv6nfxfiaur6iuwtnxz4
Начало в 14:00 по московскому времени (UTC+3). Меньше, чем через час.
kocherga-club.ru
Кочерга: новые планы - 28 ноября
Кочерга перефокусируется с сообщества и образовательных мероприятий на новую миссию. Приходите послушать подробности, обсудить и позадавать вопросы.
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Сегодня, 29 ноября, мы продолжим обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). В предыдущих эссе Юдковский рассказывал о своих юношеских убеждениях, согласно которым сильный искусственный интеллект обязательно решит все проблемы человечества. Из-за чего Юдковский поменял свою точку зрения и что помогло ему понять собственные ограничения?
Поговорим про следующие эссе:
- Такая крошечная нестыковка (That Tiny Note of Discord);
- Арьегардные бои против истины (Fighting a Rearguard Action Against the Truth);
- Моё пробуждение (My Naturalistic Awakening);
- Уровень выше моего (The Level Above Mine).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/pr7ybqrmnre5rdvndcepq6dame
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Сегодня, 29 ноября, мы продолжим обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). В предыдущих эссе Юдковский рассказывал о своих юношеских убеждениях, согласно которым сильный искусственный интеллект обязательно решит все проблемы человечества. Из-за чего Юдковский поменял свою точку зрения и что помогло ему понять собственные ограничения?
Поговорим про следующие эссе:
- Такая крошечная нестыковка (That Tiny Note of Discord);
- Арьегардные бои против истины (Fighting a Rearguard Action Against the Truth);
- Моё пробуждение (My Naturalistic Awakening);
- Уровень выше моего (The Level Above Mine).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/pr7ybqrmnre5rdvndcepq6dame
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#переводы #юдковский
Новый перевод на сайте -- полушуточный диалог Элиезера Юдковского "Задача соответствия ракет и цели". Юдковский, используя аналогии из другой области, пытается объяснить, чем именно занимаются в MIRI и почему.
https://lesswrong.ru/755
Новый перевод на сайте -- полушуточный диалог Элиезера Юдковского "Задача соответствия ракет и цели". Юдковский, используя аналогии из другой области, пытается объяснить, чем именно занимаются в MIRI и почему.
https://lesswrong.ru/755
LessWrong на русском
Задача соответствия ракет и цели
Нижеследующее — вымышленный диалог, основанный на [Соответствие ИИ — Почему это сложно и с чего начать](https://intelligence.org/2016/12/28/ai-alignment-why-its-hard-and-where-to-start/). (_Где-то в не-очень-то-близком из миров по соседству, где наука пошла…
Forwarded from Кочерга
Кочерга меняется: мы переключаем фокус внимания с организации сообщества рационалистов и курсов по прикладной рациональности на мета-деятельность по привлечению людей к темам эффективного альтруизма и AI Safety, а также организационной и финансовой поддержке новых проектов в этих сферах.
Будем постепенно рассказывать, что именно происходит и как эта деятельность развивается, а пока что можно посмотреть верхнеуровневый обзор этих планов со встречи, которая прошла в воскресенье: https://www.youtube.com/watch?v=oXnJbeCu9hE (текстовую версию выложим немного позже).
Будем постепенно рассказывать, что именно происходит и как эта деятельность развивается, а пока что можно посмотреть верхнеуровневый обзор этих планов со встречи, которая прошла в воскресенье: https://www.youtube.com/watch?v=oXnJbeCu9hE (текстовую версию выложим немного позже).
YouTube
Кочерга: Новые планы
Основатель и директор Кочерги Вячеслав Матюхин рассказал про новые планы организации. Это, наверное, самый большой поворот в том, что представляет из себя Кочерга, за всё время её существования. Особенно должно быть интересно тем, кому важен эффективный альтруизм…
#встречи #онлайн #цепочки
Сегодня, 6 декабря, мы на время отвлечёмся от "Рациональности: от ИИ до Зомби" Элиезера Юдковского и будем обсуждать эссе Нейта Соареса. Нейт Соарес - это нынешний исполнительный директор MIRI, автор многих технических работ. Но помимо этого он некоторое время вёл блог "Minding our way", где много писал про работу с эмоциями и настроем.
Поговорим про следующие эссе:
- Забота о большем, чем ты сам;
- Непоследовательным быть можно;
- Ещё не боги;
- Когда происходит выбор?
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/uilp74ngrfel5pg4sh4vvkyjti
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Сегодня, 6 декабря, мы на время отвлечёмся от "Рациональности: от ИИ до Зомби" Элиезера Юдковского и будем обсуждать эссе Нейта Соареса. Нейт Соарес - это нынешний исполнительный директор MIRI, автор многих технических работ. Но помимо этого он некоторое время вёл блог "Minding our way", где много писал про работу с эмоциями и настроем.
Поговорим про следующие эссе:
- Забота о большем, чем ты сам;
- Непоследовательным быть можно;
- Ещё не боги;
- Когда происходит выбор?
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/uilp74ngrfel5pg4sh4vvkyjti
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Одна из наших подписчиц очень интересуется мнениями людей по поводу рационалистского творчества (художественных произведений на тему рациональности и/или с рациональными персонажами) и просит тех, кому близка эта тема, пройти опрос:
https://forms.gle/EMEtAUqayDmrZCKP6
https://forms.gle/EMEtAUqayDmrZCKP6
Google Docs
Добродетели рациональности в популярной культуре
Опрос для читателей рационал-фикшена. Проводится в частном порядке для частного исследования заинтересованностью темы рациональности в популярной культуре
#в_мире
На lesswrong.com началось определение лучших постов за 2020 год. Как и в предыдущие года команда организаторов планирует издать лучшие постов (а также лучшие отзывы) в виде книг.
До 14 декабря будет идти процесс предварительного голосования (номинирование понравившихся постов для будущей оценки), дальше будет стадия написания отзывов, а после 25 января - окончательное голосование.
Подробности: https://www.lesswrong.com/posts/M9kDqF2fn3WH44nrv/the-2020-review-preliminary-voting
На lesswrong.com началось определение лучших постов за 2020 год. Как и в предыдущие года команда организаторов планирует издать лучшие постов (а также лучшие отзывы) в виде книг.
До 14 декабря будет идти процесс предварительного голосования (номинирование понравившихся постов для будущей оценки), дальше будет стадия написания отзывов, а после 25 января - окончательное голосование.
Подробности: https://www.lesswrong.com/posts/M9kDqF2fn3WH44nrv/the-2020-review-preliminary-voting
Lesswrong
The 2020 Review - LessWrong
Today is the first day of the LessWrong 2020 Review. At the end of each year, we take a look at the best posts from the previous year, and reflect on which of them have stood the test of time. …
#встречи #онлайн #цепочки
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Сегодня, 13 декабря, мы заканчиваем обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Завершающие эссе этой цепочки посвящены вопросам о том, как сложно признать, что ты ещё мало знаешь в том, чем ты занимаешься, и как Юдковский стал байесианцем.
После этого мы перейдём к цепочке "Бросая вызов сложностям", которая посвящена тому, как делать что-то, считающееся сложным или даже невозможным.
Поговорим про следующие эссе:
- Величина собственного безрассудства (The Magnitude of His Own Folly);
- Вне досягаемости бога (Beyond the Reach of God);
- Моё байесианское просветление (My Bayesian Enlightenment);
- Цуёку наритаи («Хочу стать сильней!»).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/6s5enyedpvcwrbo2ed5srtz5rm
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.
Сегодня, 13 декабря, мы заканчиваем обсуждать цепочку "Взросление Юдковского" ("Yudkowsky's Coming of Age"). Завершающие эссе этой цепочки посвящены вопросам о том, как сложно признать, что ты ещё мало знаешь в том, чем ты занимаешься, и как Юдковский стал байесианцем.
После этого мы перейдём к цепочке "Бросая вызов сложностям", которая посвящена тому, как делать что-то, считающееся сложным или даже невозможным.
Поговорим про следующие эссе:
- Величина собственного безрассудства (The Magnitude of His Own Folly);
- Вне досягаемости бога (Beyond the Reach of God);
- Моё байесианское просветление (My Bayesian Enlightenment);
- Цуёку наритаи («Хочу стать сильней!»).
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/6s5enyedpvcwrbo2ed5srtz5rm
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Lesswrong
Yudkowsky's Coming of Age - LessWrong
This sequence provides a last in-depth illustration of the dynamics of irrational belief, this time spotlighting the author’s own intellectual history.