Весной по всему миру проходят ACX Meetups - встречи поклонников творчества Скотта Александера.
Места и даты встреч на эту весну можно увидеть по ссылке: https://www.astralcodexten.com/p/spring-meetups-everywhere-2024
В списке есть города из больше, чем 50 стран. В России встречи планируются в Москве, Санкт-Петербурге и Нижнем Новгороде.
Места и даты встреч на эту весну можно увидеть по ссылке: https://www.astralcodexten.com/p/spring-meetups-everywhere-2024
В списке есть города из больше, чем 50 стран. В России встречи планируются в Москве, Санкт-Петербурге и Нижнем Новгороде.
Astralcodexten
Spring Meetups Everywhere 2024
...
Новый перевод на сайте - эссе Элиезера Юдковского "'Эмпиризм!` как анти-эпистемология".
В этом эссе Юдковский в своей любимой диалоговой форме рассуждает о том, какие проблемы могут быть у подхода "нужно выбирать наиболее простую теорию".
https://lesswrong.ru/3552
В этом эссе Юдковский в своей любимой диалоговой форме рассуждает о том, какие проблемы могут быть у подхода "нужно выбирать наиболее простую теорию".
https://lesswrong.ru/3552
LessWrong на русском
"Эмпиризм!" как анти-эпистемология
**i.** -- Забейте на все эти сложные абстрактные теоретические предсказания, -- твёрдым уверенным тоном сказал Пресс-секретарь "Финансовой Пирамиды, Инкорпорейтед". -- Эмпирические наблюдения говорят: все вкладчики Берни Банкмена получили 144% своих инвестиций…
Читательский онлайн-клуб, собирающийся по понедельникам, переходит к новой книге. В ближайшее время мы будем читать и обсуждать книгу Джуды Перла "Causality: models, reasoning, and inference".
Обсуждения будут проходить по понедельникам (начиная с 8 апреля) на Discord-сервере https://discord.gg/mQhDfBUjTs
Начало в 20:00 по московскому времени (UTC+3).
Обсуждение встреч ведётся в телеграм-канале https://t.me/readthesequences
Обсуждения будут проходить по понедельникам (начиная с 8 апреля) на Discord-сервере https://discord.gg/mQhDfBUjTs
Начало в 20:00 по московскому времени (UTC+3).
Обсуждение встреч ведётся в телеграм-канале https://t.me/readthesequences
Forwarded from Небольшой список имени Байеса
#продуктивность #ситхские_техники #совет_недели
В чате ситхских техник (встречи по которым проходят, страшно сказать, уже три года) я на прошлой неделе решил завести рубрику "Совет недели [как улучшить свою личную продуктивность]". Нулевой совет довольно банален: "нужно хорошо спать, вовремя есть, достаточно гулять". Следующий, уже более полноценный, совет оказался более объемным, так что я решил оформить его отдельной статьей и принести заодно и в свой канал.
Так что представляю вам первый полноценный пост из (надеюсь) еженедельной серии: если вы находитесь в низкоресурсном состоянии, то начните работу по повышению личной продуктивности с того, что сделайте несколько задач, которые можно сделать за пару минут (и которые вы откладываете уже пару дней-недель-месяцев). Подробности, примеры и шестеренки - в статье:
https://telegra.ph/Sithskij-sovet-nedeli-1-razberites-s-melochyu-04-04
В чате ситхских техник (встречи по которым проходят, страшно сказать, уже три года) я на прошлой неделе решил завести рубрику "Совет недели [как улучшить свою личную продуктивность]". Нулевой совет довольно банален: "нужно хорошо спать, вовремя есть, достаточно гулять". Следующий, уже более полноценный, совет оказался более объемным, так что я решил оформить его отдельной статьей и принести заодно и в свой канал.
Так что представляю вам первый полноценный пост из (надеюсь) еженедельной серии: если вы находитесь в низкоресурсном состоянии, то начните работу по повышению личной продуктивности с того, что сделайте несколько задач, которые можно сделать за пару минут (и которые вы откладываете уже пару дней-недель-месяцев). Подробности, примеры и шестеренки - в статье:
https://telegra.ph/Sithskij-sovet-nedeli-1-razberites-s-melochyu-04-04
Telegram
Ситхские техники продуктивности
Гайд по встречам: https://tinyurl.com/sith-tech
Наше Notion-пространство: https://sith-technique.notion.site
Наше Notion-пространство: https://sith-technique.notion.site
Автор телеграм-канала "Небольшой список имени Байеса" продолжает свою серию советов по личной продуктивности для тех, кто считает, что у него с ней довольно плохо. В своём втором совете он рассуждает о важности деления задач на подзадачи.
https://telegra.ph/Sithskij-sovet-nedeli-2-nachinaem-prodvigatsya-malymi-shagami-04-12
https://telegra.ph/Sithskij-sovet-nedeli-2-nachinaem-prodvigatsya-malymi-shagami-04-12
На сайте "Reducing Suffering" вышел перевод статьи Брайана Томасика о том, чем же так хороша максимизация ожидаемой полезности.
https://reducingsuffering.github.io/brian-tomasik-why-maximize-expected-value.html
https://reducingsuffering.github.io/brian-tomasik-why-maximize-expected-value.html
Reducing Suffering
Зачем максимизировать ожидаемую полезность? | Брайан Томасик
Аннотация Стандартная байесовская теория принятия решений диктует нам максимизировать ожидаемую полезность наших действийa. К примеру, предположим, что мы видим несколько котят, застрявших на деревьях, и решаем, что спасти n котят...
На всякий случай напоминаю, что некоторое время назад читательский клуб, собирающийся по понедельникам в онлайне, перешёл к обсуждению книги Джуды Перла "Causality: Models, Reasoning, and Inference".
Пока участников ещё несложно догнать.
На встрече 22 апреля участники продолжат обсуждение первой главы и немного поговорим про то, как именно выглядят количественные выражения каузальных зависимостей, метки на стрелках графа.
Будет обсуждаться раздел 1.4 - Functional Causal Models.
Начало встречи в 20:00 по московскому времени.
Встречи проходят на Discord-сервере: https://discord.gg/mQhDfBUjTs
Обсуждение встреч проходит также в телеграм-канале: https://t.me/readthesequences
Пока участников ещё несложно догнать.
На встрече 22 апреля участники продолжат обсуждение первой главы и немного поговорим про то, как именно выглядят количественные выражения каузальных зависимостей, метки на стрелках графа.
Будет обсуждаться раздел 1.4 - Functional Causal Models.
Начало встречи в 20:00 по московскому времени.
Встречи проходят на Discord-сервере: https://discord.gg/mQhDfBUjTs
Обсуждение встреч проходит также в телеграм-канале: https://t.me/readthesequences
Очередной совет недели от автора телеграм-канала "Небольшой список имени Байеса (https://t.me/bayesian_little_list/)". В совете рассматриваются некоторые способы, как можно начать делать то, что мы делать вроде бы хотим, но то прокрастинируем, то просто забываем.
https://telegra.ph/Sithskij-sovet-nedeli-3-probuem-chashche-nahodit-sloty-vremeni-dlya-delaniya-del-04-20
https://telegra.ph/Sithskij-sovet-nedeli-3-probuem-chashche-nahodit-sloty-vremeni-dlya-delaniya-del-04-20
Немного несерьёзные новости с lesswrong.com
1 апреля команда организаторов выпустила музыкальный альбом под названием "I Have Been A Good Bing". Вся музыка сгенерирована искусственным интеллектом, тексты созданы (большей частью людьми) на основе постов с LW или других рационалистских блогов. Судя по дате выпуск альбома планировался как шалость на первое апреля, но, кажется, она удалась в достаточной степени, чтобы быть "актуальной" и после.
Пост на LW (со ссылками, где можно послушать): https://www.lesswrong.com/posts/YMo5PuXnZDwRjhHhE/lesswrong-s-first-album-i-have-been-a-good-bing
1 апреля команда организаторов выпустила музыкальный альбом под названием "I Have Been A Good Bing". Вся музыка сгенерирована искусственным интеллектом, тексты созданы (большей частью людьми) на основе постов с LW или других рационалистских блогов. Судя по дате выпуск альбома планировался как шалость на первое апреля, но, кажется, она удалась в достаточной степени, чтобы быть "актуальной" и после.
Пост на LW (со ссылками, где можно послушать): https://www.lesswrong.com/posts/YMo5PuXnZDwRjhHhE/lesswrong-s-first-album-i-have-been-a-good-bing
Lesswrong
LessWrong's (first) album: I Have Been A Good Bing — LessWrong
tl;dr: LessWrong released an album! Listen to it now on Spotify, YouTube, YouTube Music, or Apple Music. …
Некоторые из нас иногда не успевают сделать то, что мы хотим, из-за того, что невовремя "залипли" в соцсети, компьютерные игры, ролики на Ютубе и прочие развлечения, создатели которых нередко напрямую заинтересованы в том, чтобы мы в них "залипали". Очередной совет недели от автора канала "Небольшой список имени Байеса" посвящён тому, почему так происходит и что можно для начала попробовать с этим сделать. Эта тема является довольно сложной, поэтому она будет развиваться в следующих советах.
https://telegra.ph/Sithskij-sovet-nedeli-4-nachinaem-menshe-zalipat-04-26
https://telegra.ph/Sithskij-sovet-nedeli-4-nachinaem-menshe-zalipat-04-26
Telegraph
Ситхский совет недели #4: начинаем меньше залипать
Прошлый совет недели по повышению продуктивности в рамках “ситхских техник” был посвящен рассмотрению нескольких сценариев, когда мы упускаем возможность делать свои дела. Однако в тот раз полностью за кадром осталась ситуация “у меня редко есть время, когда…
В очередном совете недели автор телеграм-канала "Небольшой список имени Байеса" продолжает обсуждать тему "залипания" в соцсети, Ютуб и прочие штуки, которые кажутся приятными, но иногда противоречат нашим долгосрочным целям. В новой статье он пишет о том, как можно попробовать "залипать" меньше, а если это не получается - хотя бы делать это продуктивнее.
https://telegra.ph/Sithskij-sovet-nedeli-5-zalipaem-mensheproduktivnee-05-05
https://telegra.ph/Sithskij-sovet-nedeli-5-zalipaem-mensheproduktivnee-05-05
Telegraph
Ситхский совет недели #5: залипаем меньше/продуктивнее
В прошлый раз мы рассмотрели шестеренки залипания [в соцсети, чаты, новости, видеоролики, игры] вообще, а также - залипания как первосистемно выбираемой стратегии эскапизма - в частности. Кроме того, мы рассмотрели первый подход к тому, как немного реже сбегать…
По воскресеньям продолжаются встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
В ближайшее воскресенье, 12 мая, участники начнут обсуждать предпоследнюю цепочку из книги "Бросая вызов сложностям" ("Challenging the Difficult"). В этой цепочке ставятся вопросы: что нужно, чтобы решать по-настоящему сложные задачи? Местами эти вопросы выходят за пределы эпистемической рациональности.
Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
В ближайшее воскресенье, 12 мая, участники начнут обсуждать предпоследнюю цепочку из книги "Бросая вызов сложностям" ("Challenging the Difficult"). В этой цепочке ставятся вопросы: что нужно, чтобы решать по-настоящему сложные задачи? Местами эти вопросы выходят за пределы эпистемической рациональности.
Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading
Начало в 20:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Бросая вызов сложностям
В этой цепочке ставятся вопросы: что нужно, чтобы решать по-настоящему сложные задачи? Местами эти вопросы выходят за пределы эпистемической рациональности. **Примечание редактора**: Значительная часть этой цепочки не переведена на русский язык.
Очередной совет недели по поводу продуктивности от автора телеграм-канала "Небольшой список имени Байеса". В нём автор рассуждает о том, что в разных состояниях следует прибегать к разным стратегиям, какие они бывают, и что можно сделать для того, чтобы вовремя выбирать нужную.
https://telegra.ph/Sithskij-sovet-nedeli-6-kazhdomu-urovnyu-produktivnosti---svoj-pattern-05-11
https://telegra.ph/Sithskij-sovet-nedeli-6-kazhdomu-urovnyu-produktivnosti---svoj-pattern-05-11
Telegraph
Ситхский совет недели #6: каждому уровню продуктивности - свой паттерн
Итак, за прошедшие пять недель еженедельных ситхских советов мы, вероятно, сумели подняться с минимального/никакущего уровня продуктивности до чего-то получше. Однако, к сожалению, нет гарантии, что мы никогда не упадем ниже того уровня, которого достигли.…
Ян Лютнев записал видеоролик, в котором коротко описал некоторые из существующих в настоящее время рацио- и околорациосообщества (преимущественно в рунете). Возможно, кто-нибудь может придраться к некоторым формулировкам или задать вопросы о приоритетах, но кому-то, возможно, этот перечень и пригодится.
https://youtu.be/R0vcbAgGCM8
https://youtu.be/R0vcbAgGCM8
YouTube
Рациосообщества - что это, где их найти (2024)
00:00 Что такое рациональность и рациосообщества
01:01 Точка входа в рациональность
01:34 Чаты по книге ГПиМРМ
02:20 Кочерга
03:01 Чат Кочерги в телеграме
03:18 Новости сообщества Less Wrong
03:44 Байесов сад
04:13 Клуб обсуждения цепочек Юдковского
05:24…
01:01 Точка входа в рациональность
01:34 Чаты по книге ГПиМРМ
02:20 Кочерга
03:01 Чат Кочерги в телеграме
03:18 Новости сообщества Less Wrong
03:44 Байесов сад
04:13 Клуб обсуждения цепочек Юдковского
05:24…
В телеграм-канале "Байесятина" опубликована статья о логических ошибках: всегда ли логические ошибки действительно являются ошибками, какое они имеют отношение к логике, и почему далеко не всегда на них стоит ссылаться.
https://telegra.ph/Mify-o-logicheskih-oshibkah-05-20 (По ссылке также есть видеоверсия.)
С моей точки зрения, это довольно важная тема, особенно для "начинающих рационалистов": нередко люди, узнав о логических ошибках (fallacy) или о когнитивных искажениях, начинают слишком активно видеть их у тех, с кем они не согласны. И это не приносит пользы.
Могу также напомнить про свою старую заметку на эту тему.
https://telegra.ph/Mify-o-logicheskih-oshibkah-05-20 (По ссылке также есть видеоверсия.)
С моей точки зрения, это довольно важная тема, особенно для "начинающих рационалистов": нередко люди, узнав о логических ошибках (fallacy) или о когнитивных искажениях, начинают слишком активно видеть их у тех, с кем они не согласны. И это не приносит пользы.
Могу также напомнить про свою старую заметку на эту тему.
Telegraph
Мифы о логических ошибках
Я из прошлого и я из настоящего беседуем о логических ошибках. С удвольствием добавил бы себя из будущего, но технические ограничения нашей реальности не позволяют этого сделать.
Кирей Кирдан создал новый сайт с переводами статей с Арбитала: https://arbital-ru.github.io/
Арбитал - это попытка Элиезера Юдковского создать что-то вроде энциклопедии по вопросам согласования ИИ и необходимой для понимания этой вопросов математики. Эта попытка оказалась неудачной, активность на сайте уже давно прекратилась, однако там осталось некоторое количество статей, которые могут оказаться кому-нибудь полезными. В своём блоге Кирей пишет, почему именно он решил переводить статьи оттуда.
Арбитал - это попытка Элиезера Юдковского создать что-то вроде энциклопедии по вопросам согласования ИИ и необходимой для понимания этой вопросов математики. Эта попытка оказалась неудачной, активность на сайте уже давно прекратилась, однако там осталось некоторое количество статей, которые могут оказаться кому-нибудь полезными. В своём блоге Кирей пишет, почему именно он решил переводить статьи оттуда.
Arbital на русском
Главная | Arbital на русском
Здесь выкладываются переводы статей с сайта arbital.com, посвященного согласованию искусственного интеллекта и математике.
Forwarded from Valentin
Привет! Мы сделали менторскую программу в AI Safety, если у вас есть опыт работы/ресерча, свободные 3-4 часа в месяц и желание поделиться своим опытом (хард скилами, софт скилами или просто как это, перейти в AI Safety) с менти, то вы идеальный ментор. Мы открываем набор: https://www.lesswrong.com/posts/D9Q4nXfxTdWckF2RX/mentorship-in-agi-safety-magis
Lesswrong
Mentorship in AGI Safety (MAGIS) call for mentors — LessWrong
Tldr: If you are working on AI Safety and are willing to help someone to start their career in AI Safety by sharing your experience at 1:1 meetings c…
Вышло бумажное издание романа Скотта Александера "Unsong". Оно уже доступно на Амазоне.
Автор утверждает, что бумажное издание несколько отличается от существующей онлайн-версии. В комментариях его упрашивают хотя бы начать продавать новый вариант в электронном виде.
Автор утверждает, что бумажное издание несколько отличается от существующей онлайн-версии. В комментариях его упрашивают хотя бы начать продавать новый вариант в электронном виде.
Astralcodexten
Unsong Available In Paperback
...
По воскресеньям продолжаются встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".
Завтра, 2 июня, участники перейдут к последней цепочке из книги под названием "Создание сообщества" ("The Craft and the Community").
В этой цепочке обсуждаются группы, посвящённые рациональности, и групповая рациональность. Поднимаются следующие вопросы:
- Можно ли научиться рациональности? Можно ли обучать других рациональности?
- Если да, насколько большого прогресса можно достичь?
Как мы можем убедиться, что наши действия действительно дают прирост рациональности? Как определить правильную причину, если этот прирост действительно есть?
- Какие нормы в сообществе сделают процесс самоулучшения более лёгким?
- Можем ли мы эффективно сотрудничать при работе над крупномасштабными задачами, не жертвуя свободой мысли?
И самое главное: Что мы упустили? Что будет в следующих учебниках по рациональности, которые заменят этот текст? Как улучшить существующий стиль и проверить существующие рекомендации? Что можно добавить? В каких направлениях можно развиваться?
Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
Завтра, 2 июня, участники перейдут к последней цепочке из книги под названием "Создание сообщества" ("The Craft and the Community").
В этой цепочке обсуждаются группы, посвящённые рациональности, и групповая рациональность. Поднимаются следующие вопросы:
- Можно ли научиться рациональности? Можно ли обучать других рациональности?
- Если да, насколько большого прогресса можно достичь?
Как мы можем убедиться, что наши действия действительно дают прирост рациональности? Как определить правильную причину, если этот прирост действительно есть?
- Какие нормы в сообществе сделают процесс самоулучшения более лёгким?
- Можем ли мы эффективно сотрудничать при работе над крупномасштабными задачами, не жертвуя свободой мысли?
И самое главное: Что мы упустили? Что будет в следующих учебниках по рациональности, которые заменят этот текст? Как улучшить существующий стиль и проверить существующие рекомендации? Что можно добавить? В каких направлениях можно развиваться?
Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading
Начало в 18:00 по московскому времени (UTC+3).
Присоединяйтесь поучаствовать или послушать.
LessWrong на русском
Создание сообщества
В этой цепочке обсуждаются группы, посвящённые рациональности, и групповая рациональность. Поднимаются следующие вопросы: - Можно ли научиться рациональности? Можно ли обучать других рациональности? - Если да, насколько большого прогресса можно достичь? Как…
Некоторое время назад я писал (делал репост) про открытую программу поиска менторов в области AI Safety. Сейчас уже открыта возможность вступить в эту программу и тем, кто ментора ищет сам.
https://www.lesswrong.com/posts/Qk6qt5RDDDxnxCoBp/mentorship-in-agi-safety-applications-for-mentorship-are
Последний срок подачи заявок: 12 июля.
https://www.lesswrong.com/posts/Qk6qt5RDDDxnxCoBp/mentorship-in-agi-safety-applications-for-mentorship-are
Последний срок подачи заявок: 12 июля.
У меня несколько недель практически не было времени на ведение канала, поэтому сейчас я попробую немного наверстать упущенное.
За это время на канале "Байесятина" вышло три статьи про работу с убеждениям:
- В статье "Лишние знания бесполезны" обсуждается вопрос о том, что иногда люди могут руководствоваться убеждениями, которые они сформировали давным-давно, и хорошо если благодаря школе, а не какому-то более сомнительному источнику. Что с этим можно сделать?
- "Не так уж и уверен. Как правильно оценивать свою уверенность в знаниях?" Статья о том, что такое калибровка и зачем она нужна.
- "Признание ошибок - это суперсила". Почему мы боимся признаваться в ошибках и чем это может быть полезно?
За это время на канале "Байесятина" вышло три статьи про работу с убеждениям:
- В статье "Лишние знания бесполезны" обсуждается вопрос о том, что иногда люди могут руководствоваться убеждениями, которые они сформировали давным-давно, и хорошо если благодаря школе, а не какому-то более сомнительному источнику. Что с этим можно сделать?
- "Не так уж и уверен. Как правильно оценивать свою уверенность в знаниях?" Статья о том, что такое калибровка и зачем она нужна.
- "Признание ошибок - это суперсила". Почему мы боимся признаваться в ошибках и чем это может быть полезно?