Forwarded from Olka Mo
Мастер-класс “Новогодняя оптимизация”
Когда: 23 декабря 2022 в 19:00 по МСК
Что получится, если посмотреть на свои явные и скрытые ожидания от празднования нового года через призму прикладной рациональности? А что если попытаться увиденное улучшить? Будет практика рацио-техник на кейсе Нового года!
Идея в том, чтобы приложить абстрактные техники прикладной рациональности (из методички CFAR) к реальным задачам (празднование Нового года).
Какие техники практикуем:
🎄 внутренний симулятор (Inner simulator)
❄️ систематизация (Systematization)
🔔 Йода-таймер (Resolve cycles)
🎁 фокусировка (Focusing)
Для кого: для тех, кому интересно задуматься о своем опыте и планах на праздник и попробовать применить рацио-техники к этой области.
Что будет можно уточнить здесь.
Мероприятие онлайн, бесплатно. Для регистрации добавьтесь в этот чат в ТГ (тут будет ссылка на zoom с мероприятием): https://t.me/+r6iI_kwitc0yNzli
Приходите на мастер-класс, приносите свои планы и смутные ожидания!
Когда: 23 декабря 2022 в 19:00 по МСК
Что получится, если посмотреть на свои явные и скрытые ожидания от празднования нового года через призму прикладной рациональности? А что если попытаться увиденное улучшить? Будет практика рацио-техник на кейсе Нового года!
Идея в том, чтобы приложить абстрактные техники прикладной рациональности (из методички CFAR) к реальным задачам (празднование Нового года).
Какие техники практикуем:
🎄 внутренний симулятор (Inner simulator)
❄️ систематизация (Systematization)
🔔 Йода-таймер (Resolve cycles)
🎁 фокусировка (Focusing)
Для кого: для тех, кому интересно задуматься о своем опыте и планах на праздник и попробовать применить рацио-техники к этой области.
Что будет можно уточнить здесь.
Мероприятие онлайн, бесплатно. Для регистрации добавьтесь в этот чат в ТГ (тут будет ссылка на zoom с мероприятием): https://t.me/+r6iI_kwitc0yNzli
Приходите на мастер-класс, приносите свои планы и смутные ожидания!
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 25 декабря, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:
- Неограниченные шкалы, решения присяжных и футуризм;
- Эффект ореола;
- Искажение супергероя;
- Аффективные смертельные спирали.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/j5a636xqbfffzefn6cwmhqr25y
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 25 декабря, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:
- Неограниченные шкалы, решения присяжных и футуризм;
- Эффект ореола;
- Искажение супергероя;
- Аффективные смертельные спирали.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/j5a636xqbfffzefn6cwmhqr25y
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 26 декабря, мы завершаем обсуждение цепочки "Categorisation and Concepts".
Поговорим про следующие произведения:
- The noncentral fallacy - the worst argument in the world? / Презумпция типичности — худший аргумент в мире?;
- Ethnic Tension And Meaningless Arguments;
- Интерлюдия The Moral Of The Story.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events
Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 26 декабря, мы завершаем обсуждение цепочки "Categorisation and Concepts".
Поговорим про следующие произведения:
- The noncentral fallacy - the worst argument in the world? / Презумпция типичности — худший аргумент в мире?;
- Ethnic Tension And Meaningless Arguments;
- Интерлюдия The Moral Of The Story.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events
Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Forwarded from Небольшой список имени Байеса
#проект #рацио_форум
Последнюю пару недель я работал над созданием в телеграме форума про рациональность, и сегодня наконец открыл его!
Недавно в тг появился функционал тем, и это обещает быть удобной возможностью для того, чтобы обсуждать параллельно несколько разных вещей в рамках одного чата/форума/группы.
При этом у меня есть идеи (все они изложены в гайде по форуму) о том, как сделать это место тем самым "ухоженным садом", где будет процветать хорошая эпистемология и качественные обсуждения; и наброски идей, как организовать в его рамках нетворкинг для знакомства с крутыми людьми и создания не менее крутых совместных проектов.
С нетерпением жду, чтобы узнать, что в итоге изо всего этого выйдет.
Последнюю пару недель я работал над созданием в телеграме форума про рациональность, и сегодня наконец открыл его!
Недавно в тг появился функционал тем, и это обещает быть удобной возможностью для того, чтобы обсуждать параллельно несколько разных вещей в рамках одного чата/форума/группы.
При этом у меня есть идеи (все они изложены в гайде по форуму) о том, как сделать это место тем самым "ухоженным садом", где будет процветать хорошая эпистемология и качественные обсуждения; и наброски идей, как организовать в его рамках нетворкинг для знакомства с крутыми людьми и создания не менее крутых совместных проектов.
С нетерпением жду, чтобы узнать, что в итоге изо всего этого выйдет.
Telegram
Байесов сад
Это форум для обсуждения рациональности и смежных тем. Подробнее см. в теме "Правила и гайд по форуму"
#встречи #онлайн
В первый день Нового года состоится онлайн-игра в калибровочное ЧГК. Это командная игра на калибровку уверенности. Правила игры простые, наличие какого-либо предыдущего опыта не требуется, новички приветствуются.
Подробная статья об игре: https://telegra.ph/Kalibrovochnoe-CHGK---igra-dlya-racionalistov-12-20
Для получения ссылки в Zoom, нужно зарегистрироваться: https://kocherga-club.ru/events/4avf22mygnhy7lulj2x45wtnju
Начало в 13:00 по московскому времени (UTC+3).
В первый день Нового года состоится онлайн-игра в калибровочное ЧГК. Это командная игра на калибровку уверенности. Правила игры простые, наличие какого-либо предыдущего опыта не требуется, новички приветствуются.
Подробная статья об игре: https://telegra.ph/Kalibrovochnoe-CHGK---igra-dlya-racionalistov-12-20
Для получения ссылки в Zoom, нужно зарегистрироваться: https://kocherga-club.ru/events/4avf22mygnhy7lulj2x45wtnju
Начало в 13:00 по московскому времени (UTC+3).
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 8 января, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:
- Сопротивление аффективным смертельным спиралям;
- Некритичная сверхкритичность;
- Охлаждение групповых убеждений при помощи испарения;
- Когда никто не смеет призывать сдерживаться;
- Любая деятельность хочет быть культом.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/gnhbntrzcnfyfiwnwd64xvafvq
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 8 января, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:
- Сопротивление аффективным смертельным спиралям;
- Некритичная сверхкритичность;
- Охлаждение групповых убеждений при помощи испарения;
- Когда никто не смеет призывать сдерживаться;
- Любая деятельность хочет быть культом.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/gnhbntrzcnfyfiwnwd64xvafvq
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 9 января, мы переходим к обсуждению цепочки "Probability and Predictions".
Поговорим про следующие эссе:
- The Pyramid And The Garden;
- On Overconfidence;
- If It’s Worth Doing, It’s Worth Doing With Made-Up Statistics;
- Techniques for probability estimates.
Рекомендуется обратить внимание на упражнения в конце эссе "On Overconfidence":
1) Какова ваша вероятность существования [произвольного] бога?
2) Какова ваша вероятность существования паранормальных способностей?
3) Какова ваша вероятность что антропогенное глобальное потепление увеличит температуру по крайней мере на 1°C к 2050 году?
4) Какова ваша вероятность что до 2100 года в некоторый пятилетний интервал миллиард человек погибнет из-за пандемии?
5) Какова ваша вероятность высадки людей на Марсе к 2050 году?
6) Какова ваша вероятность существования сверхчеловеческого (= лучше почти любого человека в исполнении почти любой когнитивной задачи) ИИ к 2115 году?
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events
Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 9 января, мы переходим к обсуждению цепочки "Probability and Predictions".
Поговорим про следующие эссе:
- The Pyramid And The Garden;
- On Overconfidence;
- If It’s Worth Doing, It’s Worth Doing With Made-Up Statistics;
- Techniques for probability estimates.
Рекомендуется обратить внимание на упражнения в конце эссе "On Overconfidence":
1) Какова ваша вероятность существования [произвольного] бога?
2) Какова ваша вероятность существования паранормальных способностей?
3) Какова ваша вероятность что антропогенное глобальное потепление увеличит температуру по крайней мере на 1°C к 2050 году?
4) Какова ваша вероятность что до 2100 года в некоторый пятилетний интервал миллиард человек погибнет из-за пандемии?
5) Какова ваша вероятность высадки людей на Марсе к 2050 году?
6) Какова ваша вероятность существования сверхчеловеческого (= лучше почти любого человека в исполнении почти любой когнитивной задачи) ИИ к 2115 году?
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events
Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Forwarded from Небольшой список имени Байеса
#математика #системы
Ученые доказали: стать лучше можно только через боль!
А если без кликбейта, то в сегодняшней статье я пересказываю некоторые математические выводы о том, как устроен процесс улучшения какой угодно системы (от мелких привычек одного человека до мировой экономики): какие сложности во время него происходят в силу самой природы перестройки систем, как они меняются с течением времени, и чуть-чуть о том, как можно сделать процесс менее болезненным.
https://telegra.ph/Naskolko-slozhno-menyatsya-01-04
Ученые доказали: стать лучше можно только через боль!
А если без кликбейта, то в сегодняшней статье я пересказываю некоторые математические выводы о том, как устроен процесс улучшения какой угодно системы (от мелких привычек одного человека до мировой экономики): какие сложности во время него происходят в силу самой природы перестройки систем, как они меняются с течением времени, и чуть-чуть о том, как можно сделать процесс менее болезненным.
https://telegra.ph/Naskolko-slozhno-menyatsya-01-04
Telegraph
Насколько сложно менять(ся)
Если в вашей жизни есть что-то недостаточно хорошее, что вы хотели бы изменить, то скорее всего вы не сможете просто взять и заменить одно на другое. Причин этому может быть много, но сегодня мы рассмотрим не столько возникающие сложности и способы их преодоления…
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 15 января, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:
- Два коана о культах;
- Эксперимент Аша о конформизме;
- Выражая беспокойство;
- Одинокий инакомыслящий.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/p2apj4mqtje77jaqvg5ywzquze
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 15 января, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:
- Два коана о культах;
- Эксперимент Аша о конформизме;
- Выражая беспокойство;
- Одинокий инакомыслящий.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/p2apj4mqtje77jaqvg5ywzquze
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 16 января, мы заканчиваем обсуждение цепочки "Probability and Predictions" и переходим к цепочке "Studies and Statistics".
Поговорим про следующие эссе:
- Confidence levels inside and outside an argument;
- Beware The Man Of One Study / Бойся человека одной статьи.
Художественные интерлюдии:
- The Logician And The God-Emperor / Логик и Бог-Император;
- Reverse Psychology / Реверсивная психология.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events
Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 16 января, мы заканчиваем обсуждение цепочки "Probability and Predictions" и переходим к цепочке "Studies and Statistics".
Поговорим про следующие эссе:
- Confidence levels inside and outside an argument;
- Beware The Man Of One Study / Бойся человека одной статьи.
Художественные интерлюдии:
- The Logician And The God-Emperor / Логик и Бог-Император;
- Reverse Psychology / Реверсивная психология.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events
Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 22 января, мы заканчиваем обсуждать цепочку "Смертельные спирали и аттрактор культа" и переходим к цепочке "Умение отпускать". Поговорим про следующие эссе:
- Культовая контркультовость;
- Единомыслие;
- Важно уметь сказать «Упс»;
- Предложение спятить.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/2oov3clvcjfhpkvri2hosztbse
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 22 января, мы заканчиваем обсуждать цепочку "Смертельные спирали и аттрактор культа" и переходим к цепочке "Умение отпускать". Поговорим про следующие эссе:
- Культовая контркультовость;
- Единомыслие;
- Важно уметь сказать «Упс»;
- Предложение спятить.
Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/2oov3clvcjfhpkvri2hosztbse
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Смертельные спирали и аттрактор культа
Аффективные смертельные спирали возникают в результате положительной обратной связи за счёт эффекта ореола. Позитивные качества коррелируют в нашем сознании и чем больше хорошего говорится о некоем объекте или субъекте, тем больше мы склонные верить позитивным…
#встречи #онлайн #скотт_александер
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 23 января, мы продолжаем обсуждать цепочку "Studies and Statistics".
Поговорим про следующие эссе:
- Debunked And Well-Refuted;
- Noisy Poll Results And Reptilian Muslim Climatologists from Mars;
- Two Dark Side Statistics Papers (также рекомендуется почитать про парадокс Симпсона, если вы ещё с ним не знакомы);
- The Control Group Is Out Of Control.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events
Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 23 января, мы продолжаем обсуждать цепочку "Studies and Statistics".
Поговорим про следующие эссе:
- Debunked And Well-Refuted;
- Noisy Poll Results And Reptilian Muslim Climatologists from Mars;
- Two Dark Side Statistics Papers (также рекомендуется почитать про парадокс Симпсона, если вы ещё с ним не знакомы);
- The Control Group Is Out Of Control.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events
Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 29 января, мы продолжим обсуждать цепочку "Умение отпускать". Поговорим про следующие эссе:
- Хватит уже надеяться;
- Как правильно сомневаться;
- Вы способны справиться с реальностью;
- Размышление о любопытстве.
Встреча пройдёт в онлайне, на платформе Zoom. Обсуждение встреч и анонсы идут в телеграм-группе https://t.me/lwreading . Там же будет и ссылка на Zoom перед началом встречи.
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 29 января, мы продолжим обсуждать цепочку "Умение отпускать". Поговорим про следующие эссе:
- Хватит уже надеяться;
- Как правильно сомневаться;
- Вы способны справиться с реальностью;
- Размышление о любопытстве.
Встреча пройдёт в онлайне, на платформе Zoom. Обсуждение встреч и анонсы идут в телеграм-группе https://t.me/lwreading . Там же будет и ссылка на Zoom перед началом встречи.
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 30 января, мы заканчиваем обсуждать цепочку "Studies and Statistics".
Поговорим про следующие эссе:
- The Cowpox of Doubt / Прививка от сомнений;
- How Common Are Science Failures?
- Learning To Love Scientific Consensus;
- My IRB Nightmare.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка на Zoom.
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 30 января, мы заканчиваем обсуждать цепочку "Studies and Statistics".
Поговорим про следующие эссе:
- The Cowpox of Doubt / Прививка от сомнений;
- How Common Are Science Failures?
- Learning To Love Scientific Consensus;
- My IRB Nightmare.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка на Zoom.
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Lesswrong
The Codex — LessWrong
The Codex is a collection of essays written by Scott Alexander that discuss how good reasoning works, how to learn from the institution of science, and different ways society has been and could be designed. It also contains several short interludes containing…
#wiki #видео
https://www.youtube.com/watch?v=K_HBSjkMc7E
Возможно, кто-то помнит, что у нашего сообщества есть вики - сборник статей о различных понятиях, техниках и встречах, который наполняется участниками сообщества. Поскольку иногда бывает так, что кто-то из участников хочет что-то подправить или написать, но не справляется с не вполне интуитивным интерфейсом движка MediaWiki, некоторое время назад Андрей Ведерников провёл небольшой мастер-класс о технических аспектах работы с вики.
Выкладываем лекционную часть этого мастер-класса.
https://www.youtube.com/watch?v=K_HBSjkMc7E
Возможно, кто-то помнит, что у нашего сообщества есть вики - сборник статей о различных понятиях, техниках и встречах, который наполняется участниками сообщества. Поскольку иногда бывает так, что кто-то из участников хочет что-то подправить или написать, но не справляется с не вполне интуитивным интерфейсом движка MediaWiki, некоторое время назад Андрей Ведерников провёл небольшой мастер-класс о технических аспектах работы с вики.
Выкладываем лекционную часть этого мастер-класса.
YouTube
Мастер-класс по LW вики
8 января 2023 года Андрей Ведерников провёл мастер-класс по техническим аспектам написания статей в русскоязычную LessWrong-вики (https://lesswrong.ru/wiki/ ) - структура вики, создание новой статьи, форматирование, категории. Мастер-класс предназначен для…
Forwarded from Мак и коты и AI Safety
Много дней тормозил выкладывать текст на русском, хотя он уже выложен на лессронг на английском, но доколе!
Вот ссылка (её, конечно, логичнее было бы запихнуть в конец поста, но почему-то телеграм не позволяет это сделать), а дальше я расскажу, что всё это такое.
Мы с Сирин потихонечку пишем цепочку текстов, которая должна служить руководством по введению в дискурс безопасности ИИ. Идея в том, что эти тексты должен быть способен прочитать умный школьник старших классов, и они могут вдохновить его податься в эту область. Мы надеемся, что EA LTFF даст нам на это денег и уже подали заявку, но собираемся это делать в любом случае, хотя, наверное, без гранта это будет очень медленно.
Критерии, которым, по идее, должны соответствовать наши тексты:
- они должны соответствовать истине
- они должны не быть скучными
- они должны быть легкочитаемыми
- они должны быть стилистически непохожими на тексты схожего функционала; не быть избыточными
- они должны содержать как можно меньше технических деталей, чтобы школьники старших классов могли их понять
- они должны помогать войти в дискурс безопасности ИИ; помогать преодолеть проблему "я ничерта не понимаю, о чём речь в этих заумных текстах, где каждое второе слово - локальный термин"
- они должны содержать как можно меньше информации, которая с высокими шансами устареет через четыре-пять лет, когда первые прочитавшие это школьники будут иметь шансы начать заниматься настоящими исследованиями
Пока что у нас есть одна тестовая глава - про Тезис Ортогональности, Закон Гудхарта и Инструментальную Конвергенцию. В законченной цепочке она скорее всего будет второй.
Кстати, все картинки сгенерированы Stable Diffusion, в подписях к ним - какой был к нейросети запрос.
Буду рад фидбеку.
Вот ссылка (её, конечно, логичнее было бы запихнуть в конец поста, но почему-то телеграм не позволяет это сделать), а дальше я расскажу, что всё это такое.
Мы с Сирин потихонечку пишем цепочку текстов, которая должна служить руководством по введению в дискурс безопасности ИИ. Идея в том, что эти тексты должен быть способен прочитать умный школьник старших классов, и они могут вдохновить его податься в эту область. Мы надеемся, что EA LTFF даст нам на это денег и уже подали заявку, но собираемся это делать в любом случае, хотя, наверное, без гранта это будет очень медленно.
Критерии, которым, по идее, должны соответствовать наши тексты:
- они должны соответствовать истине
- они должны не быть скучными
- они должны быть легкочитаемыми
- они должны быть стилистически непохожими на тексты схожего функционала; не быть избыточными
- они должны содержать как можно меньше технических деталей, чтобы школьники старших классов могли их понять
- они должны помогать войти в дискурс безопасности ИИ; помогать преодолеть проблему "я ничерта не понимаю, о чём речь в этих заумных текстах, где каждое второе слово - локальный термин"
- они должны содержать как можно меньше информации, которая с высокими шансами устареет через четыре-пять лет, когда первые прочитавшие это школьники будут иметь шансы начать заниматься настоящими исследованиями
Пока что у нас есть одна тестовая глава - про Тезис Ортогональности, Закон Гудхарта и Инструментальную Конвергенцию. В законченной цепочке она скорее всего будет второй.
Кстати, все картинки сгенерированы Stable Diffusion, в подписях к ним - какой был к нейросети запрос.
Буду рад фидбеку.
#встречи #онлайн
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 5 февраля, мы заканчиваем обсуждать цепочку "Умение отпускать". Поговорим про следующие эссе:
- Законы рациональности беспристрастны;
- Оставь путь к отступлению;
- Кризис веры;
- Ритуал.
Встреча пройдёт в онлайне, на платформе Zoom. Для участия необходимо зарегистрироваться: https://kocherga-club.ru/events/ticydk74jjdbvp4ay5u6h2rpyi
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В воскресенье, 5 февраля, мы заканчиваем обсуждать цепочку "Умение отпускать". Поговорим про следующие эссе:
- Законы рациональности беспристрастны;
- Оставь путь к отступлению;
- Кризис веры;
- Ритуал.
Встреча пройдёт в онлайне, на платформе Zoom. Для участия необходимо зарегистрироваться: https://kocherga-club.ru/events/ticydk74jjdbvp4ay5u6h2rpyi
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 6 февраля, мы будем обсуждать следующие эссе из цепочки "Research and Reviews":
- Marijuana: Much More Than You Wanted To Know;
- Wheat: Much More Than You Wanted To Know.
Также обсудим финальную художественную зарисовку из "Studies and Statistics": The Study of Anglophysics.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка на Zoom.
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.
В понедельник, 6 февраля, мы будем обсуждать следующие эссе из цепочки "Research and Reviews":
- Marijuana: Much More Than You Wanted To Know;
- Wheat: Much More Than You Wanted To Know.
Также обсудим финальную художественную зарисовку из "Studies and Statistics": The Study of Anglophysics.
Начало встречи в 20:00 по московскому времени (UTC+3).
Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка на Zoom.
Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
#встречи #онлайн
В понедельник, 6 февраля, пройдёт онлайн-встреча по структурированию. Структурирование - это общение в парах, в котором один из участников хочет уточнить свою модель чего-нибудь с помощью своего напарника (чуть подробнее о структурировании можно прочитать здесь).
Встреча пройдёт на плафтформе Jitsi. Ссылка: https://meet.jit.si/KochergaClassStructuringEvent
Начало встречи в 20:30 по московскому времени (UTC+3).
Подробности в чате: https://t.me/structuring_kocherga
В понедельник, 6 февраля, пройдёт онлайн-встреча по структурированию. Структурирование - это общение в парах, в котором один из участников хочет уточнить свою модель чего-нибудь с помощью своего напарника (чуть подробнее о структурировании можно прочитать здесь).
Встреча пройдёт на плафтформе Jitsi. Ссылка: https://meet.jit.si/KochergaClassStructuringEvent
Начало встречи в 20:30 по московскому времени (UTC+3).
Подробности в чате: https://t.me/structuring_kocherga
#в_мире
На lesswrong.com завершилось голосование для определения лучших постов за 2021 год. Как я уже писал, эти подборки представляют собой прекрасную возможность для человека, который не является завсегдатаем LessWrong'а, узнать, какие темы там сейчас обсуждаются и считаются интересными.
Результаты голосования: https://www.lesswrong.com/posts/zajNa9fdr8JYJpxrG/voting-results-for-the-2021-review
Подборки за прошлые года: https://www.lesswrong.com/bestoflesswrong
На lesswrong.com завершилось голосование для определения лучших постов за 2021 год. Как я уже писал, эти подборки представляют собой прекрасную возможность для человека, который не является завсегдатаем LessWrong'а, узнать, какие темы там сейчас обсуждаются и считаются интересными.
Результаты голосования: https://www.lesswrong.com/posts/zajNa9fdr8JYJpxrG/voting-results-for-the-2021-review
Подборки за прошлые года: https://www.lesswrong.com/bestoflesswrong
Lesswrong
Voting Results for the 2021 Review — LessWrong
Well, that's a wrap for the 2021 Review. We had 238 people cast votes. 452 posts were originally nominated, of which 149 posts received at least one…
#переводы #скотт_александер
Новый перевод на сайте - эссе Скотта Александера "Простые правила, которые практически всегда работают".
В какой-то мере мы живём в достаточно предсказуемом мире. У нас есть опыт и данные, накопленные многими людьми, и иногда этот опыт и данные позволяют нам сформулировать правила, которые хотя иногда и дают исключения, но очень-очень редко. Автор приводит примеры таких правил и рассуждает о проистекающей из них проблеме.
https://lesswrong.ru/2736
Новый перевод на сайте - эссе Скотта Александера "Простые правила, которые практически всегда работают".
В какой-то мере мы живём в достаточно предсказуемом мире. У нас есть опыт и данные, накопленные многими людьми, и иногда этот опыт и данные позволяют нам сформулировать правила, которые хотя иногда и дают исключения, но очень-очень редко. Автор приводит примеры таких правил и рассуждает о проистекающей из них проблеме.
https://lesswrong.ru/2736
LessWrong на русском
Простые правила, которые практически всегда работают
## Охранник Он работает в очень скучном здании, которое практически никогда не пытаются ограбить. Он сидит в своей охранной будке и решает кроссворд. Время от времени слышится шум и он идет проверить: грабители это или просто сквозняк. Это сквозняк. Это…