Новости сообщества LessWrong
1.32K subscribers
20 photos
1 file
835 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В четверг, 28 декабря, мы начинаем обсуждать цепочку "Теория ценности", в которой Юдковский рассуждает о том, что мешает построить новую теорию, и об интуиции на тему, какой эта теория должна быть. Поговорим про следующие эссе:

- Где заканчивается рекурсия обоснований;
- My Kind of Reflection;
- No Universally Compelling Arguments;
- Created Already In Motion.

Многие эссе из этой цепочки не переведены на русский, оригиналы можно найти на соответствующей странице на lesswrong.com.

Встреча пройдёт в онлайне, на платформе Zoom. Ссылка для подключения будет в телеграм-группе https://t.me/lwreading

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В четверг, 4 января мы продолжим обсуждать цепочку "Теория ценности", в которой Юдковский рассуждает о том, что мешает построить новую теорию, и об интуиции на тему, какой эта теория должна быть:

- Раскладывание камней в правильные кучи;
- Двуместные и одноместные слова;
- Что вы сделаете без морали?
- Changing Your Metaethics.

Последнее эссе не переведено на русский язык.

Встреча пройдёт в онлайне, на платформе Zoom. Ссылка для подключения будет в телеграм-группе https://t.me/lwreading

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
Продолжаем читать и обсуждать эссе из подборки "Best of Lesswrong", составленной на основе ежегодных голосований за лучшие эссе соответствующего года.

В понедельник, 8 января, мы продолжаем обсуждать эссе из тома "Reality & Reason". Поговорим про следующие эссе:

- Search versus design (Alex Flint)
- Radical Probabilism (abramdemski)
- Introduction To The Infra-Bayesianism Sequence (Diffractor, Vanessa Kosoy)
- When Money Is Abundant, Knowledge Is The Real Wealth (johnswentworth)

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне на Discord-сервере.

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В четверг, 11 января мы продолжим обсуждать цепочку "Теория ценности". Поговорим про следующие эссе:

- Could Anything Be Right?
- Morality as Fixed Computation;
- Magical Categories;
- Настоящая дилемма заключенного.

Встреча пройдёт в онлайне, на платформе Zoom. Ссылка для подключения будет в телеграм-группе https://t.me/lwreading

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
Новость для жителей Израиля.

В четверг, 11 января, в Тель-Авиве состоится встреча с участием Михаила Самина, на которой будут обсуждаться вопросы регулирования ИИ и проблемы безопасности ИИ в целом.

Михаил в прошлом организовал краудфандинг на печать книг "Гарри Поттер и методы рационального мышления" (который на некоторое время стал крупнейшим краудфандингом в России), а сейчас занимается вопросами регулирования ИИ.

Встреча пройдёт в Bitcoin emBassy, начало в 19:30.

Язык встречи: английский.

Подробности: https://www.facebook.com/events/1309702593021902/
Запись доклада Антона Желтоухова "Сила Убеждений или Убеждения не равны", в котором рассказывалось о модели анализа убеждений.

https://www.youtube.com/watch?v=Vhlyi5sooyU

Доклад был сделан 23 декабря на праздновании Светского Солнцестояния в "Кофемашине Тьюринга". На всякий случай предупрежу, что запись делалась на мобильный с рук, поэтому качество, мягко говоря, не слишком хорошее. Однако речь и прочие необходимые для понимания детали различить вполне можно.
Слава Меритон и Ян Лютнев представляют: Ознакомительный мини-курс по фундаментальной рациональности

Цена: Курс бесплатен (популяризация рациональности)

в него входит вводная встреча + 4 занятия

Слово автора (Слава Меритон)
Навык рациональности, как я его понимаю, – это НЕ знание полезных инструментов, это такая привычка, тенденция, склонность жить таким образом, что цели достигаются. Содержание этого курса построено вокруг попытки передать такое понимание и частично, первично сформировать такой навык. Это весьма нетипичный подход к изучению рациональности.

Программа ОЧЕНЬ авторская.

Описание курса:
Это курс длиной в 4 недели, который нужен чтобы создать впечатление о том, как может выглядеть изучение LW рацио. В нём много обсуждений и групповой работы. Он не сделает вас рационалистом. Но возможно создаст более или менее достойное представление о том, что вообще значит быть рационалистом, и позволит принять решение, стоит ли лично вам изучать рациональность.

Цель курса:
У этого курса две главные цели, с которыми участники могут приходить на него:
Получить представление — о чём речь в парадигме LessWrong рациональности и как это должно работать (с точки зрения автора курса).
Попробовать подход на себе.

Платформа:
Zoom

Даты
:
встреча 0 вводная - 23 января 22-00 мск (вт)
встреча 1 - Что такое LessWrong рациональность. Идентичности. Карта и территория - 27 января 22-00 мск (сб)
встреча 2 - Шестерёнки. Исправление неверного вопроса - 3 февраля 22-00 мск (сб)
встреча 3 - Воспринимая идеи всерьёз. Кризис веры. - 10 февраля 22-00 мск (сб)
встреча 4 - Повторение. Итоги. Практика - 17 февраля 22-00 мск (сб)

Как попасть:
вступить в группу
Продолжаем читать и обсуждать эссе из подборки "Best of Lesswrong", составленной на основе ежегодных голосований за лучшие эссе соответствующего года.

В понедельник, 15 января, мы переходим к обсуждению тома "Coordination and Constraint". Поговорим про следующие эссе:

- Coordination as a Scarce Resource (johnswentworth)
- Transportation as a Constraint (johnswentworth)
- Interfaces as a Scarce Resource (johnswentworth)
- Seeing the Smoke (Jacob Falkovich)

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне на Discord-сервере.

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
В последнее время здесь было много анонсов онлайновых читательских клубов, и я решил сократить их число. Теперь анонсы будут появляться не каждую неделю, а при переходе к новой Цепочке/тому/книге или при каких-то ещё интересных событиях.

Вероятно, все желающие следить за деятельностью читательских клубов уже и так подписались на их группы, но на всякий случай напомню ещё раз:

1. По понедельникам в 20:00 (время здесь и далее московское, UTC+3) идёт обсуждение эссе из раздела Best of Lesswrong. Это эссе, написанные в последние годы и признанные лучшими по результатам голосования в сообществе.

Сейчас идёт обсуждение тома "Coordination & Constraint". Встречи проходят на Discord-сервере.

Следить за анонсами можно в телеграм-группе: https://t.me/readthesequences

2. По четвергам тоже в 20:00 обсуждается книга Элиезера Юдковского "Рациональность: от ИИ до Зомби". Сейчас участники разбирают раздел "Теория ценности" / "Value Theory".

Эти встречи проходят в Zoom'е, ссылка для подключения обычно публикуется перед началом встречи в телеграм-группе: https://t.me/lwreading
По четвергам продолжаются встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В ближайший четверг, 1 февраля, участники заканчивают обсуждать цепочку "Теория ценности" и переходят к цепочке "Количественный гуманизм" ("Quantified Humanism"). В этой цепочке Юдковский рассуждает о том, как вообще можно применять математические теории к повседневной интуиции о морали и принятию этических решений.

Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading

Начало в 20:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
По понедельникам продолжаются встречи читательского клуба, на которых участники обсуждают эссе из подборки "Best of Lesswrong", составленной на основе ежегодных голосований за лучшие эссе соответствующего года.

В ближайший понедельник, 19 февраля, участники заканчивают обсуждение цепочки "Alignment & Agency" из подборки 2020 года.

Встречи проходят в онлайне на Discord-сервере.

Начало встречи в 20:00 по московскому времени (UTC+3).

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
По понедельникам продолжаются встречи читательского клуба, на которых участники обсуждают эссе из подборки "Best of Lesswrong", составленной на основе ежегодных голосований за лучшие эссе соответствующего года.

Завтра, в понедельник, 26 февраля, участники заканчивают обсуждение цепочки "Alignment & Agency" и переходят к обсуждению цепочки "Takeoff & Takeover" из подборки 2020 года. Эта цепочка в основном посвящена вопросам, с какой скоростью может происходить рост возможностей искусственного интеллекта, насколько вероятно, что он захватит власть, и как это может выглядеть.

Встречи проходят в онлайне на Discord-сервере.

Начало встречи в 20:00 по московскому времени (UTC+3).

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences
Forwarded from Байесятина
Логика - волшебный инструмент

Интуитивно апелляция к авторитету логики кажется нам очень сильным аргументом. Но почему? Следуя логике, ты всегда прав? Или нарушая логику, ты всегда неправ? А может, этот инструмент работает как-то иначе?

Видеоверсия уже на ютубе.
Встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби", опять "переезжают" с четверга на воскресенье.

Ближайшая встреча состоится 10 марта. Участники продолжают обсуждать цепочку "Количественный гуманизм" ("Quantified Humanism").

Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения - а также анонсы будущих встреч - публикуется в телеграм-группе https://t.me/lwreading

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
Наконец-то допилил перевод "Обзора катастрофических рисков ИИ" - длинююююющей статьи Дэна Хендрикса, Мантаса Мазейки и Томаса Вудсайда из Center for AI Safety.

Это именно то, что написано в названии. Предварительных знаний оно не требует, и вполне может служить хорошим ликбезом по поводу проблемы.

Аннотация и краткое содержание
1. Введение
2. Злонамеренное использование
3. ИИ-гонка
4. Организационные риски
5. Мятежные ИИ
6. Обсуждение связей между рисками
7. Заключение
Часто задаваемые вопросы
Источники

А оригинал вот.

Upd. И вот на русском лессронге тоже теперь есть!
Новость с lesswrong.com

Как я уже писал ранее, если вам интересно узнать, что обсуждается на современном LessWrong'е, лучше начать с раздела Best of Lesswrong, где собираются эссе, признанные лучшими на ежегодных голосованиях участников.

Недавно в этот раздел добавились эссе, признанными лучшими из всего, что было написано на LW в 2022 году. При этом раздел изменился: если раньше в нём было оглавление книг, составляемых из эссе-победителей голосования, то теперь эссе разбиты по шести большим темам, независимо от года написания (впрочем, просмотр можно переключить, чтобы они отображались по годам).

Подробнее об этом можно почитать здесь: https://www.lesswrong.com/posts/qvCMiwkBqdYjfiX6n/new-lesswrong-review-winner-ui-the-leastwrong-section-and

Старый раздел с оглавлениями книг по-прежнему доступен: https://www.lesswrong.com/books
По воскресеньям продолжаются встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

24 марта участники планируют обсудить эссе "Двенадцать добродетелей рационалиста", которое завершает том "Просто доброта", и перейти к обсуждению последнего тома "Стать сильнее" и цепочке "Yudkowsky's Coming of Age". В этой цепочке Юдковский разбирает ошибочные убеждения своей юности, как он к ним пришёл, что мешало от них отказаться, и что в итоге ему помогло поменять свои взгляды. Цепочка не переведена на русский язык.

Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.