#в_мире #встречи #онлайн
10-12 сентября пройдёт LessWrong Community Weekend - ежегодная встреча рационалистов. До пандемии эта встреча проходила вживую в Германии, однако второй год подряд она будет проходить онлайн, что даёт возможность познакомиться и пообщаться с рационалистами со всего мира.
Небольшие подробности: https://www.lesswrong.com/events/sgsNzr6fyeHgjtpFy/online-lesswrong-community-weekend-1
Подача заявок: https://docs.google.com/forms/d/e/1FAIpQLSdA94s73C0fFHz6jGDJ1mroQp559sMSjOj06bqurSKdij6zpA/viewform?usp=sf_link Заявки принимаются до 1 сентября.
10-12 сентября пройдёт LessWrong Community Weekend - ежегодная встреча рационалистов. До пандемии эта встреча проходила вживую в Германии, однако второй год подряд она будет проходить онлайн, что даёт возможность познакомиться и пообщаться с рационалистами со всего мира.
Небольшие подробности: https://www.lesswrong.com/events/sgsNzr6fyeHgjtpFy/online-lesswrong-community-weekend-1
Подача заявок: https://docs.google.com/forms/d/e/1FAIpQLSdA94s73C0fFHz6jGDJ1mroQp559sMSjOj06bqurSKdij6zpA/viewform?usp=sf_link Заявки принимаются до 1 сентября.
Lesswrong
Online LessWrong Community Weekend — LessWrong
Contact: lesswrong.cw.2021@gmail.com • A new team from Cologne and a couple other places decided to make the online LWCW happen again. We also got some of previous years' main organizers on board to…
#встречи #москва #санкт-петербург #онлайн #в_мире
Этой осенью по всему миру проходят встречи поклонников творчества Скотта Александера (ACX Meetups Everywhere 2021).
В Москве встреча пройдёт завтра, 5 сентября, в парке Музеон. Начало в 17:30 по московскому времени. Желающих прийти просят отметиться по ссылке https://www.lesswrong.com/events/d6jB5mpKm5AfAkivh/moscow-russia-acx-meetups-everywhere-2021 (предположу, что можно написать организатору, контакты тоже по ссылке).
В Санкт-Петербурге аналогичная встреча пройдёт 25 сентября. Предполагаемое место встречи: Александровский сад около метро Горьковская. Время: 14:00 по московскому времени. Подробности: https://www.lesswrong.com/events/GGoseABKggoNspxs8/saint-petersburg-russia-acx-meetups-everywhere-2021
Также 5 сентября пройдёт онлайн-встреча поклонников творчества Скотта Александера, организуемая израильским сообществом. Гостем на этой встрече будет Сэм Альтман, генеральный директор Open AI. Подробности и регистрация: https://www.lesswrong.com/events/NvSJe9eRQu7iQ37mw/sam-altman-at-the-astralcodexten-online-meetup-1
Этой осенью по всему миру проходят встречи поклонников творчества Скотта Александера (ACX Meetups Everywhere 2021).
В Москве встреча пройдёт завтра, 5 сентября, в парке Музеон. Начало в 17:30 по московскому времени. Желающих прийти просят отметиться по ссылке https://www.lesswrong.com/events/d6jB5mpKm5AfAkivh/moscow-russia-acx-meetups-everywhere-2021 (предположу, что можно написать организатору, контакты тоже по ссылке).
В Санкт-Петербурге аналогичная встреча пройдёт 25 сентября. Предполагаемое место встречи: Александровский сад около метро Горьковская. Время: 14:00 по московскому времени. Подробности: https://www.lesswrong.com/events/GGoseABKggoNspxs8/saint-petersburg-russia-acx-meetups-everywhere-2021
Также 5 сентября пройдёт онлайн-встреча поклонников творчества Скотта Александера, организуемая израильским сообществом. Гостем на этой встрече будет Сэм Альтман, генеральный директор Open AI. Подробности и регистрация: https://www.lesswrong.com/events/NvSJe9eRQu7iQ37mw/sam-altman-at-the-astralcodexten-online-meetup-1
Lesswrong
Moscow, Russia – ACX Meetups Everywhere 2021 - LessWrong
This year's ACX Meetups everywhere in Moscow, Russia. …
#в_мире
Команда LessWrong.com объявила о том, что она преобразовалась в организацию под названием Lightcone Infrastructure. Цель новой организации: создавать технические средства, инфраструктуру и сообщество, чтобы человечество успешно провело ближайшее столетие и распространилось по доступному световому конусу как можно дальше. Поддержка существующего форума LessWrong входит в приоритеты организации, однако теперь будут и другие проекты.
Lightcone Infrastructure приглашает к себе работать. Удалённых вакансий у них я пока не заметил, впрочем, они обещают помочь с визой и переездом.
Сайт новой организации: https://www.lightconeinfrastructure.com
Подробная заметка Оливера Хабрики о том, что это и почему: https://www.lesswrong.com/posts/eR7Su77N2nK3e5YRZ/the-lesswrong-team-is-now-lightcone-infrastructure-come-work-3
Команда LessWrong.com объявила о том, что она преобразовалась в организацию под названием Lightcone Infrastructure. Цель новой организации: создавать технические средства, инфраструктуру и сообщество, чтобы человечество успешно провело ближайшее столетие и распространилось по доступному световому конусу как можно дальше. Поддержка существующего форума LessWrong входит в приоритеты организации, однако теперь будут и другие проекты.
Lightcone Infrastructure приглашает к себе работать. Удалённых вакансий у них я пока не заметил, впрочем, они обещают помочь с визой и переездом.
Сайт новой организации: https://www.lightconeinfrastructure.com
Подробная заметка Оливера Хабрики о том, что это и почему: https://www.lesswrong.com/posts/eR7Su77N2nK3e5YRZ/the-lesswrong-team-is-now-lightcone-infrastructure-come-work-3
Lesswrong
The LessWrong Team is now Lightcone Infrastructure, come work with us! - LessWrong
tl;dr: The LessWrong team is re-organizing as Lightcone Infrastructure. LessWrong is one of several projects we are working on to ensure the future of humanity goes well. We are looking to hire softw…
#в_мире
Кочерга решила выпускать ежемесячный дайджест с обзором, что происходило в "рациосфере" за последний месяц. На прошлой неделе появился дайджест за октябрь:
https://telegra.ph/DAJDZHEST-11-06-4
Кочерга решила выпускать ежемесячный дайджест с обзором, что происходило в "рациосфере" за последний месяц. На прошлой неделе появился дайджест за октябрь:
https://telegra.ph/DAJDZHEST-11-06-4
Telegraph
Дайджест #1
Привет! Мы решили раз в месяц публиковать дайджесты с кратким обзором всего, что интересного происходило в околорациональной сфере за последнее время. Вот наша первая подборка, с которой помог Денис. 🔹 LessWrong: • Команда LessWrong преобразовалась в Lightcone…
#в_мире
John Wentworth опубликовал на lesswrong.com заметку с рекомендациями для старших школьников и студентов, что им стоит изучать, если они хотят заниматься проблемой соответствия ИИ целям оператора (AI alignment), да и другими научными задачами, которые непонятно, как решать.
https://www.lesswrong.com/posts/bjjbp5i5G8bekJuxv/study-guide
Текст на английском. Впрочем, если вы хотите заниматься серьёзными научными задачами, английский язык тоже входит в перечень того, что нужно изучить.
John Wentworth опубликовал на lesswrong.com заметку с рекомендациями для старших школьников и студентов, что им стоит изучать, если они хотят заниматься проблемой соответствия ИИ целям оператора (AI alignment), да и другими научными задачами, которые непонятно, как решать.
https://www.lesswrong.com/posts/bjjbp5i5G8bekJuxv/study-guide
Текст на английском. Впрочем, если вы хотите заниматься серьёзными научными задачами, английский язык тоже входит в перечень того, что нужно изучить.
Lesswrong
Study Guide — LessWrong
This post is for students who hope to eventually work on technical problems we don’t understand, especially agency and AI alignment, and want to know…
#в_мире #переводы #юдковский
В сентябре этого года состоялась встреча в некотором чате, где Элиезер Юдковский описывал, как он представляет грядущие проблемы, связанные с вероятным появлением сильного искусственного интеллекта. Пару недель назад отредактированную расшифровку этой встрече выложили на AI Alignment Forum, а на днях Максим Выменец выложил свой перевод этой расшифровки.
https://vk.com/@makikoty-obsuzhdenie-agi-s-eliezerom-udkovskim
В сентябре этого года состоялась встреча в некотором чате, где Элиезер Юдковский описывал, как он представляет грядущие проблемы, связанные с вероятным появлением сильного искусственного интеллекта. Пару недель назад отредактированную расшифровку этой встрече выложили на AI Alignment Forum, а на днях Максим Выменец выложил свой перевод этой расшифровки.
https://vk.com/@makikoty-obsuzhdenie-agi-s-eliezerom-udkovskim
VK
Обсуждение AGI с Элиезером Юдковским
Оригинал: https://www.alignmentforum.org/posts/CpvyhFy9WvCNsifkY/discussion-with-eliezer-yudkowsky-on-agi-interventions
#в_мире
Дункан Сабьен (в прошлом инструктор CFAR и автор их "Participant Handbook") опубликовал на lesswrong.com эссе о технике под названием "Split and commit". Лаконичный перевод названия я пока не придумал, а суть можно описать так: "Подумай о вариантах и определись с действиями".
Как многие из читателей уже знают, мы (люди) довольно часто ошибаемся. И даже если мы очень уверены, что мы правы, это всё равно мало что говорит о том, ошибаемся мы на самом деле или нет.
При этом любое увиденное нами свидетельство может быть свидетельством в пользу нескольких гипотез. Однако очень часто мы держим в голове всего лишь одну гипотезу. Сабьен пишет, что даже люди, которые умеют выражать свою степень уверенности в числах, например, могут сказать, что уверены в такой-то гипотезе на 85%, часто не задумываются о том, а на что приходятся оставшиеся 15%.
В связи с этим Сабьен предлагает следующее возможное решение. Когда мы задумываемся о том, в каком мире совмещается рассматриваемая нами гипотеза Х и увиденное нами свидетельство, следует также подумать, в каком мире было бы верно не-Х и при этом мы могли бы увидеть то же самое свидетельство. Например, задать себе вопрос: "Если вдруг выяснится, что всё устроено не так, как я думал, какой следующий по правдоподобности вариант?"
А после этого рекомендуется подумать, что мы будем делать в каждом из этих возможных миров.
В эссе всё это расписано более подробно и с примерами: https://www.lesswrong.com/posts/t2LGSDwT7zSnAGybG/split-and-commit
Дункан Сабьен (в прошлом инструктор CFAR и автор их "Participant Handbook") опубликовал на lesswrong.com эссе о технике под названием "Split and commit". Лаконичный перевод названия я пока не придумал, а суть можно описать так: "Подумай о вариантах и определись с действиями".
Как многие из читателей уже знают, мы (люди) довольно часто ошибаемся. И даже если мы очень уверены, что мы правы, это всё равно мало что говорит о том, ошибаемся мы на самом деле или нет.
При этом любое увиденное нами свидетельство может быть свидетельством в пользу нескольких гипотез. Однако очень часто мы держим в голове всего лишь одну гипотезу. Сабьен пишет, что даже люди, которые умеют выражать свою степень уверенности в числах, например, могут сказать, что уверены в такой-то гипотезе на 85%, часто не задумываются о том, а на что приходятся оставшиеся 15%.
В связи с этим Сабьен предлагает следующее возможное решение. Когда мы задумываемся о том, в каком мире совмещается рассматриваемая нами гипотеза Х и увиденное нами свидетельство, следует также подумать, в каком мире было бы верно не-Х и при этом мы могли бы увидеть то же самое свидетельство. Например, задать себе вопрос: "Если вдруг выяснится, что всё устроено не так, как я думал, какой следующий по правдоподобности вариант?"
А после этого рекомендуется подумать, что мы будем делать в каждом из этих возможных миров.
В эссе всё это расписано более подробно и с примерами: https://www.lesswrong.com/posts/t2LGSDwT7zSnAGybG/split-and-commit
Lesswrong
Split and Commit — LessWrong
This is an essay describing a basic sanity-inducing mental movement that I use approximately ten times per week, and suspect other people would benef…
#в_мире
На lesswrong.com началось определение лучших постов за 2020 год. Как и в предыдущие года команда организаторов планирует издать лучшие постов (а также лучшие отзывы) в виде книг.
До 14 декабря будет идти процесс предварительного голосования (номинирование понравившихся постов для будущей оценки), дальше будет стадия написания отзывов, а после 25 января - окончательное голосование.
Подробности: https://www.lesswrong.com/posts/M9kDqF2fn3WH44nrv/the-2020-review-preliminary-voting
На lesswrong.com началось определение лучших постов за 2020 год. Как и в предыдущие года команда организаторов планирует издать лучшие постов (а также лучшие отзывы) в виде книг.
До 14 декабря будет идти процесс предварительного голосования (номинирование понравившихся постов для будущей оценки), дальше будет стадия написания отзывов, а после 25 января - окончательное голосование.
Подробности: https://www.lesswrong.com/posts/M9kDqF2fn3WH44nrv/the-2020-review-preliminary-voting
Lesswrong
The 2020 Review - LessWrong
Today is the first day of the LessWrong 2020 Review. At the end of each year, we take a look at the best posts from the previous year, and reflect on which of them have stood the test of time. …
#в_мире #книги
Некоторое время назад я писал, что на lesswrong.com началось определение лучших постов 2020 года. А тем временем команда организаторов издала сборник лучших постов 2019 года под названием "The Engines of Cognition". Сборник уже доступен на Амазоне. Подробности:
https://www.lesswrong.com/posts/mvPfao35Moah8py46/the-engines-of-cognition-book-launch
Если вы хотите просто прочитать эти посты, большую их часть вы можете найти на странице с итогами голосования 2019 года. (Организаторы печати сборников учитывают результаты голосования, но окончательный состав сборника определяют сами, поэтому в сборнике есть работы, в голосовании не участвовавшие. Их можно найти поиском по сайту.)
Некоторое время назад я писал, что на lesswrong.com началось определение лучших постов 2020 года. А тем временем команда организаторов издала сборник лучших постов 2019 года под названием "The Engines of Cognition". Сборник уже доступен на Амазоне. Подробности:
https://www.lesswrong.com/posts/mvPfao35Moah8py46/the-engines-of-cognition-book-launch
Если вы хотите просто прочитать эти посты, большую их часть вы можете найти на странице с итогами голосования 2019 года. (Организаторы печати сборников учитывают результаты голосования, но окончательный состав сборника определяют сами, поэтому в сборнике есть работы, в голосовании не участвовавшие. Их можно найти поиском по сайту.)
Lesswrong
Book Launch: The Engines of Cognition - LessWrong
The Engines of Cognition is a newly published collection of essays by the LessWrong Community. They're currently available with Prime at Amazon US, where they'll arrive in time for Christmas, and you…
#в_мире
В начале февраля на lesswrong.com закончилось голосование за лучшие посты 2020 года. Если вы давно хотели узнать, что считается важным на Lesswrong'е сейчас, это может быть неплохая точка старта:
https://www.lesswrong.com/posts/TSaJ9Zcvc3KWh3bjX/voting-results-for-the-2020-review
Также в "библиотечном разделе" появился новый подраздел "Лучшее". Туда уже сложены работы, признанные лучшими в 2018 и 2019 годах. Видимо, работы 2020 года туда добавят чуть позже, когда определятся с форматом нового книжного издания.
В начале февраля на lesswrong.com закончилось голосование за лучшие посты 2020 года. Если вы давно хотели узнать, что считается важным на Lesswrong'е сейчас, это может быть неплохая точка старта:
https://www.lesswrong.com/posts/TSaJ9Zcvc3KWh3bjX/voting-results-for-the-2020-review
Также в "библиотечном разделе" появился новый подраздел "Лучшее". Туда уже сложены работы, признанные лучшими в 2018 и 2019 годах. Видимо, работы 2020 года туда добавят чуть позже, когда определятся с форматом нового книжного издания.
#в_мире #эффективный_альтруизм
В этом месяце известнейшие журналы "Time" и "New Yorker" выпустили огромные статьи, посвящённые эффективному альтруизму:
1. "Want to do more good? This movement might have the answer"
2. "The reluctant prophet of Effective Altruism"
Это связано с выходом новой книги Уильяма Макаскилла "What We Owe the Future".
Более подробно про эффективный альтруизм можно почитать в "The Effective Altruism Handbook". Некоторое количество материалов есть на русскоязычном сайте .
В этом месяце известнейшие журналы "Time" и "New Yorker" выпустили огромные статьи, посвящённые эффективному альтруизму:
1. "Want to do more good? This movement might have the answer"
2. "The reluctant prophet of Effective Altruism"
Это связано с выходом новой книги Уильяма Макаскилла "What We Owe the Future".
Более подробно про эффективный альтруизм можно почитать в "The Effective Altruism Handbook". Некоторое количество материалов есть на русскоязычном сайте .
#встречи #в_мире
В этом году многие читатели этой группы уехали в разные страны. Однако встречи LW и ЭА проводятся во многих странах и теперь иногда их помогают организовывать люди, которые раньше организовывали встречи в России.
В частности, в Белграде недавно запустились регулярные встречи LW/EA/ACX. Ближайшая будет 6 ноября. Подробности: https://www.lesswrong.com/events/XKrqMjeoyKePtEmMp/ea-acx-lw-belgrade-november-meet-up
Чтобы получать информацию о дальнейших встречах в Сербии, подписывайтесь на тамошнюю локальную группу: https://www.lesswrong.com/groups/xjkZ4uHHaKitGBni5
Встречи в Белграде проходят на английском языке.
В этом году многие читатели этой группы уехали в разные страны. Однако встречи LW и ЭА проводятся во многих странах и теперь иногда их помогают организовывать люди, которые раньше организовывали встречи в России.
В частности, в Белграде недавно запустились регулярные встречи LW/EA/ACX. Ближайшая будет 6 ноября. Подробности: https://www.lesswrong.com/events/XKrqMjeoyKePtEmMp/ea-acx-lw-belgrade-november-meet-up
Чтобы получать информацию о дальнейших встречах в Сербии, подписывайтесь на тамошнюю локальную группу: https://www.lesswrong.com/groups/xjkZ4uHHaKitGBni5
Встречи в Белграде проходят на английском языке.
Lesswrong
EA/ACX/LW Belgrade November Meet-up — LessWrong
Hello everyone! • We are excited to announce that the 2nd EA Serbia event will be happening on the 6th of November, at 14:30! We will meet again in B…
#в_мире
Команда организаторов lesswrong.com объявила о начале ежегодного определения лучших постов за прошлый (2021) год. До 15 декабря будет идти стадия предварительной номинации, после чего начнётся стадия написания обзоров.
Подробности: https://www.lesswrong.com/posts/qCc7tm29Guhz6mtf7/the-lesswrong-2021-review-intellectual-circle-expansion
В качестве эксперимента в этом году предлагается возможность номинировать на голосование посты из рациосферы, даже если они не были скопированы на Lesswrong.
Также организаторы объявили, что, как и в предыдущие годы, лучшие посты за 2020 год будут оформлены в красивые книжечки. Анонс, где и как их можно будет заказать, ожидается вскоре. Однако уже сейчас эту подборку можно увидеть в разделе Best of LessWrong. На всякий случай напоминаю, что если вы очень хотите узнать, чем занимались на LW в последние годы, но не знаете, с чего начать, то этот раздел как раз для вас.
Команда организаторов lesswrong.com объявила о начале ежегодного определения лучших постов за прошлый (2021) год. До 15 декабря будет идти стадия предварительной номинации, после чего начнётся стадия написания обзоров.
Подробности: https://www.lesswrong.com/posts/qCc7tm29Guhz6mtf7/the-lesswrong-2021-review-intellectual-circle-expansion
В качестве эксперимента в этом году предлагается возможность номинировать на голосование посты из рациосферы, даже если они не были скопированы на Lesswrong.
Также организаторы объявили, что, как и в предыдущие годы, лучшие посты за 2020 год будут оформлены в красивые книжечки. Анонс, где и как их можно будет заказать, ожидается вскоре. Однако уже сейчас эту подборку можно увидеть в разделе Best of LessWrong. На всякий случай напоминаю, что если вы очень хотите узнать, чем занимались на LW в последние годы, но не знаете, с чего начать, то этот раздел как раз для вас.
Lesswrong
The LessWrong 2021 Review: Intellectual Circle Expansion — LessWrong
If you're already familiar with the LessWrong annual review, feel free to skip this opening and jump to What's new in 2021? or Unveiling the 2020 Annual Review books …
#в_мире #эффективный_альтруизм
Сообщество Эффективного Альтруизма проводит очередной ежегодный опрос участников сообщества. Опрос также включает в себя вопросы о том, что, с вашей точки зрения, должно быть более приоритетно для сообщества.
Ссылка на опрос: https://rethinkpriorities.qualtrics.com/jfe/form/SV_1NfgYhwzvlNGUom
Сообщество Эффективного Альтруизма проводит очередной ежегодный опрос участников сообщества. Опрос также включает в себя вопросы о том, что, с вашей точки зрения, должно быть более приоритетно для сообщества.
Ссылка на опрос: https://rethinkpriorities.qualtrics.com/jfe/form/SV_1NfgYhwzvlNGUom
#в_мире #эффективный_альтруизм
Некоторое время назад вышел первый выпуск журнала "Asterisk". Журнал основан эффективными альтруистами и материалы в нём в той или иной мере связаны с движением ЭА и/или проблемами, которые оно пытается решить. Однако создатели всё же рассчитывают на более широкую аудиторию, чем регулярные посетители форума ЭА.
Название журнала можно перевести на русский как "Звёздочка". Тут идёт и отсылка к космосу, и к тому, что знаком звёздочки часто обозначаются комментарии к тексту, ну и в англоязычном написании можно также увидеть слово "риск", что отсылает к многочисленным обсуждаемым проблемам.
В журнале будут выходить длинные статьи о сложных вопросах без попыток дать на них простые ответы. Что автор думает, менее важно, чем почему он так думает. На многие вопросы хочется найти ответы, однако реальность достаточно сложна, и если где-то есть неопределённость, стоит на неё указать. Более подробно о ценностях журнала можно прочитать на его сайте.
Предполагается, что журнал будет выходить раз в квартал.
Некоторое время назад вышел первый выпуск журнала "Asterisk". Журнал основан эффективными альтруистами и материалы в нём в той или иной мере связаны с движением ЭА и/или проблемами, которые оно пытается решить. Однако создатели всё же рассчитывают на более широкую аудиторию, чем регулярные посетители форума ЭА.
Название журнала можно перевести на русский как "Звёздочка". Тут идёт и отсылка к космосу, и к тому, что знаком звёздочки часто обозначаются комментарии к тексту, ну и в англоязычном написании можно также увидеть слово "риск", что отсылает к многочисленным обсуждаемым проблемам.
В журнале будут выходить длинные статьи о сложных вопросах без попыток дать на них простые ответы. Что автор думает, менее важно, чем почему он так думает. На многие вопросы хочется найти ответы, однако реальность достаточно сложна, и если где-то есть неопределённость, стоит на неё указать. Более подробно о ценностях журнала можно прочитать на его сайте.
Предполагается, что журнал будет выходить раз в квартал.
Asteriskmag
Asterisk Magazine covers science, emerging technologies, economics, politics, culture, global health, threats to human development and flourishing.
#в_мире
На lesswrong.com завершилось голосование для определения лучших постов за 2021 год. Как я уже писал, эти подборки представляют собой прекрасную возможность для человека, который не является завсегдатаем LessWrong'а, узнать, какие темы там сейчас обсуждаются и считаются интересными.
Результаты голосования: https://www.lesswrong.com/posts/zajNa9fdr8JYJpxrG/voting-results-for-the-2021-review
Подборки за прошлые года: https://www.lesswrong.com/bestoflesswrong
На lesswrong.com завершилось голосование для определения лучших постов за 2021 год. Как я уже писал, эти подборки представляют собой прекрасную возможность для человека, который не является завсегдатаем LessWrong'а, узнать, какие темы там сейчас обсуждаются и считаются интересными.
Результаты голосования: https://www.lesswrong.com/posts/zajNa9fdr8JYJpxrG/voting-results-for-the-2021-review
Подборки за прошлые года: https://www.lesswrong.com/bestoflesswrong
Lesswrong
Voting Results for the 2021 Review — LessWrong
Well, that's a wrap for the 2021 Review. We had 238 people cast votes. 452 posts were originally nominated, of which 149 posts received at least one…