#переводы #цепочки

Я обнаружил, что в 2015 году при объединении исходных "Цепочек" Элиезера Юдковского в книгу, одно из самых первых эссе - "Что такое рациональность" - было достаточно серьёзно отредактировано. Поскольку, к тому же, в имеющемся переводе хватало спорных, с моей точки зрения, мест, я решил, что это эссе стоит того, чтобы перевести его заново.

Итак, что же такое рациональность?

https://lesswrong.ru/w/Что_такое_рациональность

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Рациональность как боевое искусство".

Можно сказать, именно с этого эссе начался блог и сообщество Less Wrong. В ноябре 2006 года появился коллективный блог "Overcoming bias" (помимо Юдковского туда писали, в частности, Робин Хансон и Ник Бостром), и "Рациональность как боевое искусство" было одним из первых постов в этом блоге. После него Юдковский начал писать свои "Цепочки", которые позже переехали в созданный для них коллективный блог LessWrong.

Если человек живёт в городе, почти наверняка ему будет не слишком сложно найти школу боевых искусств, где его научат более эффективно управлять своим телом. Однако почему нет школ, где человека могут научить более эффективно управлять своим разумом? Какие с этим есть сложности? Как их можно преодолеть?

https://lesswrong.ru/w/Рациональность_как_боевое_искусство

#в_мире

На lesswrong.com завершилось голосование по определению лучших постов 2018 года.

Если, например, вас давно интересует вопрос, что же обсуждают на современном LessWrong'е, но вы никак не могли определиться, с чего именно начать читать, то теперь у вас есть ещё один вариант для старта. Если вы хотели перевести для русскоязычного LW (или, например, для людей, интересующихся вопросами ИИ) что-нибудь новое, но не могли разобраться, а что же стоит переводить, возможно, этот список вам тоже поможет.

Помимо главного списка из лучших 15 работ также выделен список из 15 лучших постов, не имеющих прямого отношения к искусственному интеллекту, и список из 10 лучших постов про ИИ.

Всё это можно увидеть по ссылке: https://www.lesswrong.com/posts/3yqf6zJSwBF34Zbys/2018-review-voting-results

Также организаторы там рассуждают о том, как было устроено голосование, что пошло не так и как можно что-нибудь улучшить в будущем.

#переводы #корень_разногласия

Новый перевод на сайте - эссе Рэймона "Что мы создаём" из цепочки "Помни о корнях своих убеждений".

Иногда у людей случаются разные точки зрения на какой-то вопрос. И это хорошо. Однако же, попытки обменяться этими точками зрения нередко приводят к спорам, и далеко не все споры люди постфактум считают для себя полезными и интересными.

В попытках решить этот вопрос в CFAR (Центре прикладной рациональности из Калифорнии) придумали технику "Корень разногласия" (англ. Double Crux). Подробнее об этой технике можно прочитать в статье Дункана Сабьена "Корень разногласия — стратегия для разрешения споров".

Многие люди посчитали, что эта техника довольно полезна, однако же, судя по всему, работает она далеко не всегда. Рэймон (это один из организаторов lesswrong.com в его нынешнем виде) в своей цепочке задаётся вопросом, какие у техники есть ограничения, и как мы вообще можем посмотреть на наши разговоры.

Он предлагает начать с вопроса: "Мы создаём что-нибудь или нет?"

https://lesswrong.ru/w/Что_мы_создаём

#переводы #slatestarcodex

Новый перевод на сайте - рассказ Скотта Александера "Жизнь коротка, искусство вечно".

Скотт Александер в художественной форме строит модели обучения и прогресса. И не только.

https://lesswrong.ru/w/Жизнь_коротка_искусство_вечно

#видео #встречи #москва

Видеозапись доклада Антона Чайникова "Как учить сложные штуки" со встречи сообщества LessWrong 19 января в центре прикладной рациональности Кочерга (Москва).

Авторское описание доклада:

"В примерах: кусочки теории моделей, теорката, топологии, теории типов, вопросы замены органов, немного теории ИИ, немного разработки ПО.

В именах действий: пересказывать, пересказывать неоднократно; намечать план с промежуточными шагами и следовать ему, намечать план и игнорировать промежуточные шаги, намечать план и идти в обратную сторону; ходить абстрактнее и ходить конкретнее; делать упражнения, придумывать себе ещё упражнения и делать их, замечать примеры и доказательства, которые автор приводит, и делать их как упражнения."

https://www.youtube.com/watch?v=nUfUncwZios

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Инверсия хаоса" из цепочки "Основы редукционизма".

Иногда нам кажется, что происходит что-то непонятное. Что-то неподвластное нашему контролю (ну или по крайней мере, очень слабо подвластное). Что-то, с чем мы ничего не можем сделать, и нам остаётся только жить с этим.

В "Инверсии хаоса" Юдковский рассказывает о собственном подобном опыте.

https://lesswrong.ru/w/Инверсия_хаоса

Цепочка "Основы редукционизма" теперь переведена полностью.

#переводы

Перевод небольшой заметке Зви Моушовица о критерии Келли. Критерий Келли - это формула, которая определяет, каким количеством денег вы можете рискнуть (при инвестициях, ставках и прочих подобных действиях). Зви объясняет, какое отношение эта математика имеет к реальной жизни.

https://vk.com/@perevodiitudasuda-kriterii-kelli

#переводы #цепочки

Новый перевод на сайте - введение Роба Бенсинджера к третьему тому книги Элиезера Юдковского "Рациональность: От ИИ до Зомби".

При издании "Цепочек" Юдковского в виде книги Роб Бенсинджер написал введение к каждому из томов. В этом введении он рассуждает о том, почему для объяснения рациональности Юдковский обращается к эволюционной биологии и вопросам искусственного интеллекта.

https://lesswrong.ru/w/Разум_введение

#встречи #в_мире

Каждый сентябрь в Берлине проходит четырёхдневная встреча ЛВ-коммьюнити - LessWrong Community Weekend - которая состоится и в этом году. Там будет множество мини-лекций, воркшопов, игр и общения с единомышленниками из разных стран. Если вы хотите познакомиться с другими членами нашего сообщества, узнать что-то новое или даже провести свою секцию, не стесняйтесь подавать заявку (+ есть возможность финансовой поддержки).

Подробности в GoogleDoc: https://docs.google.com/document/d/1EH3RrZjUo8KzQ0qA0o_l-U4n-_qCz1soG0hR42drCHU/edit

Подробности в FB: https://www.facebook.com/events/510332516175832/

#переводы #цепочки #юдковский

Новый перевод на сайте - эссе Элиезера Юдковского "Убеждения о вечном двигателе" из цепочки "Правда закономерна".

В этом эссе Юдковский продолжает рассуждать о человеческом познании с точки зрения физики. И, развивая свои аналогии, сравнивает попытки пренебречь законами теории вероятностей с попытками изобрести вечный двигатель.

https://lesswrong.ru/w/Убеждения_о_вечном_двигателе

#видео #встречи #москва

Видеозапись доклада Юрия Баранова "Устройства вывода и границы научного познания" с академической встречи LessWrong в Кочерге 19 января 2020 года. На основе статьи Дэвида Вольперта 2018 года, где он развивает теорию, своего рода обобщение машин Тьюринга и теорем Гёделя и доказывает ряд забавных теорем.

https://www.youtube.com/watch?v=1cG7JcFi8m4

#эффективный_альтруизм

Организаторы движения Эффективного альтруизма в России готовы побеседовать об ЭА со всеми желающими.

Мы запускаем бесплатные онлайн-консультации для тех, кто хочет узнать больше об эффективном альтруизме.

Они будут полезны, если вы хотите:
• Узнать больше о принципах и идеях эффективного альтруизма
• Получить консультацию по пожертвованиям в эффективные организации
• Обсудить карьерные траектории, которые принесут максимум пользы

У нас нет ответов на все вопросы, но есть опыт, знания и инструменты, которыми мы хотим делиться.

По ссылкам ниже можно выбрать удобное время для звонка. К нему не нужно специально готовиться, это аналог дружеской беседы за чашкой кофе.

Саша Бережной
Занимается развитием ЭА в России, провел десятки лекций и несколько воркшопов, получил два гранта из Оксфорда и учится на программе от MIT и J-PAL, посвященной экономике развития и искоренению бедности.
https://calendly.com/abspace

Миша Ягудин
Миша будет рад поговорить про AI alignment и longtermism, своем опыте на EA Global, MIRI Summer Fellows Program и других мероприятиях. Он учится в ШАДе Яндекса, а в свободное время делает предсказания на Metaculus.
https://calendly.com/yagudin

#видео #встречи #москва

Видеозапись доклада Филиппа Благовещенского об утилитаризме (этической системе): виды утилитаризма, The repugnant conclusion, The sadistic conclusion, проблемы утилитаризма и контринтуитивные следствия.

Доклад был сделан на академической встрече LessWrong 23 февраля 2020 года.

https://www.youtube.com/watch?v=sLJkwMo7H50

#проекты_участников

Елизавета Леонова (@luckysandra) проводит исследование про рациональность. Если вас интересует рациональное мышление и вы хотите ей помочь, заполните, пожалуйста, эту форму:

https://docs.google.com/forms/d/e/1FAIpQLScWxD3Wub0Z_L8BIKtbqhOa_R0vny4qX-2zEABoet4qPE2wCQ/viewform?usp=sf_link

Заранее спасибо.

#переводы #анна_саламон

Новый перевод на сайте - эссе Анны Саламон "Как учить гибкие навыки"

Про некоторые навыки нам примерно понятно, как их осваивать. Если мы хотим освоить математику или физику, мы берём соответствующие учебники, задачники, ищем соответствующего преподавателя и, так или иначе, "впитываем" знания, ранее кем-то накопленные. Некоторые навыки (спорт, игра на музыкальных инструментах) нужно усвоить ещё и на "уровне мышц", но всё равно обычно преподаватель показывает, как это сделать.

Однако, как научиться убедительно писать? Или как искать подходы к сложным математическим задачам? Обычно, даже люди, которые хорошо умеют это делать, не в состоянии объяснить другому, как это у них получается.

В переведённом эссе Анна Саламон (одна из основательниц и нынешняя руководительница CFAR) рассуждает, как можно попробовать подступиться к таким задачам.

https://lesswrong.ru/w/Как_осваивать_гибкие_навыки

#эффективный_альтруизм

Центр Эффективного Альтруизма перенёс свою конференцию EA Global в онлайн. Трансляция идёт прямо сейчас:

https://www.youtube.com/watch?v=EXbUgvlB0Zo