Новости сообщества LessWrong
1.33K subscribers
21 photos
1 file
838 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Представьте, что ваша пожилая мать находится в горящем доме, а вы прикованы к инвалидной коляске и не можете ей помочь. Однако вам повезло: у вас в кармане крохотное устройство, которое может выполнить желаемый вами исход. Как вы сформулируете своё желание для этого устройства?

Скажете: «вытащи мою маму из этого дома»? Но устройство не знает, что для вас ценно вытащить её в целости и сохранности, а не просто максимизировать дистанцию между её телом и центром дома. Перечислить все отрицательные исходы, которых вы хотели бы избежать, например «без значительных ожогов», «без психологической травмы», «без лишних жертв»? Но вы вряд ли сможете перечислить всю полноту негативных исходов. Чтобы устройство сработало так, как вы хотите, оно должно разделять все ценности, которые привели вас к составлению желания.

Сегодня, 11 января, мы заканчиваем обсуждать цепочку "Хрупкие цели".

Поговорим про следующие эссе:

- Дырявые обобщения;
- Скрытая сложность желаний;
- Антропоморфный оптимизм;
- Потерянные цели.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/5u3xado2gre3ngfs3wbabkspdy

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

«Логика остаётся истинной, куда бы ты ни пошёл,
Поэтому логика никогда не скажет тебе, где ты живёшь».

Сегодня, 18 января, мы начнём обсуждать цепочку "Как люди понимают слова". Порассуждаем об ограничениях классической логики и теоретической философии а также коснёмся тем эмпиризма, индукции, дедукции, семиотики, и традиционной рациональности.

Поговорим про следующие эссе:

- Притча о кинжале;
- Притча о болиголове;
- Слова как скрытые умозаключения;
- Экстенсионалы и интенсионалы.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/36w4vogv7zhrbiwe2mzubuf2ma

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#мета

На данный момент сообщество LessWrong в России представлено сайтом lesswrong.ru , этим каналом (и почти дублирующим его группой в ВК) и множеством более мелких сообществ, которые так или иначе разделяют наши идеи и сохраняют какую-то связь.

Мы переводим статьи, распространяем интересные идеи и подталкиваем друг друга к мысли, что некоторые штуки в нашей жизни можно сделать лучше.

Можем ли мы сделать лучше само сообщество и как именно?

Для желающих развивать сообщество и дальше я создал чат: https://t.me/lesswrong_ru_improvement

В этом чате можно оставлять как обратную связь по существующей активности, так и планировать что-то более масштабное.

Однако стоит помнить, что нет никаких особых людей, обладающих какими-то суперрациональными навыками, которые только и ждут, когда им в чате напишут идеи, которые хорошо было бы реализовать. Все гениальные идеи, которые мы сможем нагенерировать, либо реализуем мы сами, либо они так и останутся нереализованными. Сообщество сейчас -- это совершенно некоммерческое предприятие и что-то делают лишь достаточно малое количество волонтёров в свободное от работы время.

Также на всякий случай напомню, что о технических проблемах на сайте лучше сразу писать на Гитхаб: https://github.com/lesswrong-ru/lesswrong-ru/issues
#встречи #онлайн

Сегодня, 24 января, состоится очередная академическая онлайн-встреча рационалистов.

Алеся Соколова расскажет про теорему Белла и квантовые вычисления.

В программе:

- как можно думать про квантовую механику тем, кто не готов разбираться в уравнении Шрёдингера,
- как говорить о квантовых состояниях, не убивая котов,
- чем квантовые вычисления отличаются от классических и зачем они нужны.

О докладчике: студентка магистратуры МФТИ, младший научный сотрудник в Российском квантовом центре, сотрудник Лаборатории Искусственных Квантовых Систем МФТИ.

Начало встречи в 13:00.

Участие во встрече бесплатно, но необходимо зарегистрироваться: https://kocherga-club.ru/events/vxwxwgurcvff3oqmrfijps2uw4
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Атеизм — это религия? Трансгумагизм — это культ? Человек — это двуногое существо без перьев? (И как его отличить от ощипанной курицы?) Какая из птиц более типичная птица: малиновка или страус? А если мы заявим, что птицы — такие летающие штуки с перьями, то что делать с пингвинами?

Сегодня, 25 января, мы продолжим обсуждать цепочку "Как люди понимают слова" и разберём такие понятия как эффект образца, эмпирические кластеры объектов, и замаскированный вопрос.

Поговорим про следующие эссе:

- Кластеры подобия;
- Типичность и асимметричное подобие;
- Кластерная структура пространства вещей;
- Замаскированные вопросы.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/ohklqvxsvndxdopaam5x6hwbmq

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Возможно ли распределить объекты по категориям раз и навсегда? Почему даже если нам известны все характеристики объекта, мы сомневаемся, к какой категории его отнести? Если дерево падает в лесу, и нет никого рядом, чтобы это услышать, — создаёт ли дерево звук? Как можно разрешить спор с помощью проверяемого эксперимента?

Сегодня, 1 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова".

Поговорим про следующие эссе:

- Нейронные категории;
- Как алгоритм ощущается изнутри;
- Споры об определениях;
- Ощути смысл.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/sustmqvti5c2jcxkjdgqwqs6s4

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
Минута дружественной рекламы.

В прошлом году появился телеграм-канал @transhumblock . Автор этого канала собирает подборки ссылок и пишет обзорные посты на разные темы, касающиеся трансгуманизма. Что такое вообще трансгуманизм? Чем могут заниматься трансгуманисты? Какие интересные с точки зрения трансгуманизма научные открытия происходят прямо сейчас?
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Можно ли определять значения слова так, как вам угодно? А если вы это делаете это последовательно? Почему словарь не является авторитетом? Как техника табуирования слов помогает достичь взаимопонимания? И для чего здесь важно помнить о свежем взгляде на вещи?

Сегодня, 8 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова" (https://lesswrong.ru/260 ).

Поговорим про следующие эссе:

- Аргумент к традиционному пониманию;
- Пустые ярлыки;
- Табуируй свои слова;
- Замени символ на суть.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/zs3gzu2p6be3pmmzc7qnu4idva

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
Последнее время на LessWrong'e часто встречается термин "шестерёночные модели". Статья ниже описывает, что это такое, зачем они нужны, как отличать хорошую модель от плохой и как всё это связано с Системой-1 и Системой-2.

Оригинальное эссе (на которое ссылается автор): "Gears in understanding".

Также на эту тему есть интересное эссе "Gears-Level Models are Capital Investments".
#шестеренки #gearsinunderstanding

В последнее время понятие шестерёнок (gears) стало одним из ключевых в словаре lesswrong-сообщества. В этом посте я переформулировал основные тезисы оригинальной статьи Gears in Understanding, а также добавил свои рассуждения о том, как ложится схема шестерёнок на модель двух систем, и какими качествами должна обладать хорошая шестереночная модель.

https://telegra.ph/SHesterenochnye-modeli-shesterenochnyh-modelej-02-06
#в_мире

На lesswrong.com завершился процесс рецензирования и голосования за лучшие эссе 2019 года. Если вы хотите лучше познакомиться с современным LessWrong'ом, список результатов может стать неплохой отправной точкой.

https://www.lesswrong.com/posts/kdGSTBj3NA2Go3XaE/2019-review-voting-results
#встречи #онлайн

В воскресенье, 14 февраля, состоится очередная онлайн-встреча рационалистов с докладами и обсуждениями от участников сообщества. В программе:

1) Антон Чайников и Рафаил Ахмедишев про то, как слова не выражают суть.

Многие тексты нужно перечитывать многократно, чтобы понять целиком. Некоторые невозможно понять, только читая: нужно пытаться переформулировать своим языком, или делать упражнения на материал, или ???. Почему вообще так? Такое происходит сплошь и рядом в математике; где ещё? В каких контекстах эта проблема малоизвестна / недооценена? Что стоит делать с текстами (или не-текстами) в связи с?

2) Георгий Ланец расскажет и предложит обсудить, как калифорнийские рационалисты думают переехать из Беркли.

Привет. За последние полгода на LessWrong.com достаточно много обсуждений вида «А не перенести ли центр рационального сообщества куда-то вне Беркли». Кажется полезным следить, как решается проблема координации переезда сообщества и выбора места, которое всех устроит. Особенно — потому что это типичная проблема из Inadequate Equilibria.

Начало встречи в 13:00 по московскому времени (UTC+3).

Регистрация: https://kocherga-club.ru/events/6iij2mqx3vevxjtgb57bltguy4
Открыта очередная перепись русскоязычного сообщества рационалистов. Для целей этой переписи рационалистами считаются все, кто знал, что такое LessWrong, до того, как получил ссылку на эту перепись.

Ссылка на форму: https://bit.ly/ratio-survey-2021

Заполните её, пожалуйста. И если у вас есть друзья-рационалисты, то перешлите им тоже.

Ожидаемое время заполнения — 15-20 минут. Ответы собираются до конца февраля, подведение итогов — в марте.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Как замечать ошибки сжатия информации в вашей черепной коробке? Почему классифицировать характер людей по группе крови - это заблуждение? Как часто вкупе с определением объекта мы «контрабандой» протаскиваем ассоциации? Почему следует с настороженностью относиться к заявлениям из разряда «X, по определению, — Y»?

Сегодня, 15 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова".

Поговорим про следующие эссе:

- Ошибки сжатия;
- У классификации есть последствия;
- Контрабанда характеристик;
- Аргумент «по определению».

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/bq5xjekmgvczna66raryjjzlpa

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
Роман Ачисов пишет цикл статей под названием "Краткое введение в рациональность: Занимательная картография". Статьи посвящены вопросам, что такое карта и территория, что такое свидетельство и тому подобным.

Если вы давно знакомы с "Цепочками" Юдковского, скорее всего, вы не найдёте там что-то принципиально новое. С другой стороны, посмотреть на новый способ изложения тоже может быть полезно. Ну а если вы только недавно задались вопросом, что за "рациональность" упоминают какие-то люди в интернете, возможно, эти статьи вам чем-нибудь помогут.

Уже написанное можно увидеть на Хабре или в телеграм-канале автора.
#встречи #онлайн #цепочки

Продолжаем читать и обсуждать книгу "Рациональность: от ИИ до Зомби" Элиезера Юдковского.

Что есть искусство? Можем ли мы подобрать такое определение термина, которое передаст его смысл в точности? Можно ли создать язык исключительно из коротких слов? Что означает "разрезать реальность по месту естественного соединения частей"? Что такое пространство концептов и как оно связано с пространством вещей?

Сегодня, 22 февраля, мы продолжим обсуждать цепочку "Как люди понимают слова" (https://lesswrong.ru/260 ).

Поговорим про следующие эссе:

- Где проводить границу?
- Энтропия и короткие сообщения;
- Общая информация и плотность в пространстве вещей;
- Суперэкспоненциальное пространство концептов и простые слова.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация:
https://kocherga-club.ru/events/lhetfaepezayxhs6ssgm4m7uxi

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
На всякий случай напоминаю, что до конца февраля проходит очередная перепись русскоязычного сообщества рационалистов.

Ссылка на форму: https://bit.ly/ratio-survey-2021

Если вы пропустили предыдущее объявление, заполните её, пожалуйста.

Ожидаемое время заполнения — 15-20 минут. Ответы собираются до конца февраля, подведение итогов — в марте.
#встречи #онлайн #цепочки

Почему рационалисты постоянно говорят о теореме Байеса? Утверждается, что с её помощью можно обновлять свои убеждения, но как это делать в повседневности? Почему какой-то теореме из теории вероятностей придаётся такое большое значение?

Сегодня, 1 марта, встреча клуба чтения Цепочек пройдёт в несколько необычном формате. Мы будем обсуждать теорему Байеса решать задачки, играть в игры, и вести обсуждение на свободные темы. Приветствуется участие как искушённых в теме, так и новичков без предварительного знания о предмете.

Рекомендованные статьи для ознакомления:

- Элиезер Юдковский, "Наглядное объяснение теоремы Байеса";
- "Руководство по теореме Байеса" на Арбитале (рекомендованное Юдковским вместо эссе выше, доступно только на английском языке);
- Люк Мюльхаузер, "Интуитивное объяснение интуитивного объяснения теоремы Байеса";
- "The supreme, most ultimate post on Bayes’ Theorem (maybe)".

О проекте: https://kocherga-club.ru/projects/reading

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/7bkmti4lbfe7pnakwot77jedry

Начало в 19:30 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#статьи_участников

Сергей Шкуратов в своём блоге написал заметку "Поток дел как смысл жизни".

Жизнь человека можно рассматривать с разных точек зрения. Распространено представление о том, что жизнь — лишь поток реакций на внешние события. Если вы считаете, что это в какой-то мере истина, и устали от нескончаемого потока — читайте дальше.

https://kergma.net/rationality/potok-del-kak-smysl-zhizni