1. Переводчики-волонтёры из @newochem (респект!) проделали титаническую работу и перевели классический мастрид от Тима Урбана (Wait But Why) об эволюции ИИ и о том, почему человечеству стоит бояться появления сверхсильного ИИ, а ещё записали аудиоверсию перевода.

Если вы ещё не читали этот текст Урбана, самое время ознакомиться. Многие великие умы современности считают проблему появления сверхинтеллекта важнейшей проблемой в истории человечества, и если мы не справимся с разработкой дружественного ИИ, эта история может закончиться преждевременно и грустно.

Текст огромный, предупреждаю. Но читается легко, написан в фирменном лёгком и остроумном стиле Урбана.

Оригинал мастрида от Wait But Why (англ).: waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

Русский перевод (текст + аудиоверсия): telegra.ph/Revolyuciya-iskusstvennogo-intellekta-na-puti-k-sverhrazumu-01-14

2. Ещё почитайте мастрид от Люка Мюльхаузера, который на момент написания текста был исполнительным директором Machine Intelligence Research Institute (MIRI) – НКО, основанную Элиезером Юдковским (автором “Гарри Поттера и методов рационального мышления”, популяризатором рациональности и просто мегамозгом). MIRI занимается решением проблемы дружественного ИИ.

Мюльхаузер проанализировал пост Тима Урбана и обратил внимание на некоторые ошибки, хотя в целом он согласен с Урбаном и хвалит его.

Оригинал мастрида от Мюльхаузера (англ.): lukemuehlhauser.com/a-reply-to-wait-but-why-on-machine-superintelligence

Русский перевод (текст + аудиоверсия): telegra.ph/Otvet-Timu-Urbanu-po-povodu-iskusstvennogo-sverhrazuma-01-18

3. Ещё, если пропустили, почитайте мастрид 2015 года от The New Yorker о профессоре Нике Бостроме, который работает над проблемой ИИ: newyorker.com/magazine/2015/11/23/doomsday-invention-artificial-intelligence-nick-bostrom.

И посмотрите мощную художественную короткометражку с @mustwatch на эту же тему: totalshortfilms.com/ver/pelicula/578 (лучшее изображение проблемы "Getting the AI out of the box" по версии Юдковского). Круто снято, развязка неожиданная и шокирующая. Пожалуй, самое реалистичное киноизображение рисков ИИ.

И послушайте выпуск нашей с Фарсайтом радиопередачи «Терминальное чтиво» (ещё до того, как радиопередачу закрыл Роскомнадзор и мы перешли на подкасты), где мы обсуждаем текст Урбана (и русских миллениалов): t.me/mustreads/1472

#золотой_фонд_мастридов #техно_мастрид

Делюсь электронной версией книги «80 000 часов» – абсолютного мастрида, который мы упоминали во вчерашнем подкасте. Эта книга с высокой вероятностью поменяет жизнь прочитавшего её человека (и мир в целом) к лучшему. Не случайно движение эффективных альтруистов потратило много времени и сил, чтобы перевести её на русский, а теперь раздаривает печатные копии перспективным старшеклассникам-олимпиадникам (вместе с рациональным «Поттером» Юдковского).

Недавно дочитал эту книгу и нахожусь в полном восторге. Сделал её конспект – почитайте и помогите распространить, плз: mustreader.com/2019/02/19/80k_hours. Если коротко, этот мастрид поможет вам выбрать карьерную траекторию, убивающую двух зайцев: (1) самореализация и удовлетворение от того, как вы проводите время на работе; и (2) максимум пользы миру от того, что вы делаете.

Многие решения контринтуитивны. Например, после прочтения книги:

- некоторые альтруистичные инвестбанкиры передумали переходить в НКО со своей высокооплачиваемой работы, а вместо этого стали инвестировать часть своих доходов в эффективные фонды

- университетские выпускники выбирали работу не по специальности по самым неочевидным направлениям, чтобы достичь баланса между востребованностью полученных в вузе знаний, карьерными перспективами и возможностью прокормить себя (чтобы уже потом помочь другим)

- опытные карьеристы меняли профессию или индустрию, чтобы стать счастливее, не выгореть и в конечном счёте принести миру больше пользы.

Книга распространяется бесплатно, так что прилагаю ниже её электронные версии – английский оригинал и русский перевод.

#золотой_фонд_мастридов #ридлист #альтруист_мастрид

PS: классный Career Planning Tool от создателей «80000 часов» - 80000hours.org/career-planning-tool, можно начать с него после прочтения книги или конспекта

Уроки рациональности от сценаристов сериала "Чернобыль" HBO (без спойлеров):

"When the truth offends, we lie and lie until we can no longer remember it is even there.
But it is still there.
Every lie we tell incurs a debt to the truth.
Sooner or later, that debt is paid."

По сути, сценаристы перефразировали основной постулат рациональности: «That which can be destroyed by the truth should be». То, что может быть разрушено правдой, должно быть разрушено. Даже если это незыблемый авторитет государства или взгляды, которыми вы очень дорожите. Если что-то противоречит истине, от этого нужно избавляться.

По этому поводу напомню про классический программный мастрид Элиезера Юдковски (самый известный рационалист, трансгуманист и эксперт по искусственному интеллекту, он же автор моей любимой книги "Harry Potter and the Methods of Rationality"). Пост называется "Twelve Virtues of Rationality" ("Двенадцать добродетелей рационалиста") и входит в золотой фонд мастридов. Обязательно почитайте, если пропустили.

Ссылки на английские и русские версии мастрида: t.me/mustreads/986

А сериал «Чернобыль» посмотрите, отличный. Вот моя мини-рецензия на «Маствотче» и несколько мыслей на тему: t.me/mustwatch/665. Ещё посмотрел сегодня новое «Чёрное зеркало», показалось слабее, чем предыдущие сезоны, но в целом понравилось, вот мини-рецензия: t.me/mustwatch/667

Огромный ультимативный гайд по трансгуманизму с ответами на все основные вопросы, которые возникают у людей по поводу этого движения и философского течения. Что такое трансгуманизм? Не приведёт ли улучшение способностей человека с помощью технологий к нашему вырождению и утрате собственного «я»? Не будет ли мир победившего трансгуманизма антиутопией, полной неравенства (вроде мира сериала «Видоизменённый углерод»?). Зачем искать пути победить смерть, если она является частью естественного порядка вещей? Когда реальна победа трансгуманизма и каковы шансы её достижения? И многое другое.

Я ещё обязательно сделаю видео на все эти темы на своём ютюб-канале. А пока почитайте гайд. Его первая версия написана в 1999 году, но большинство её положений ничуть не устарели.

Русский перевод: transhuman.ru/faq#evidence

Англ. оригинал (обновлённый по состоянию на 2003 год): nickbostrom.com/views/transhumanist.pdf

Кстати, русский перевод делал Данила Медведев, один из лидеров русского трансгуманистического сообщества и сооснователь «Криорус». Обязательно послушайте подкаст «Терминальное чтиво» с ним (в двух частях) о крионике. Часть 1: t.me/mustreads/1981. Часть 2: t.me/mustreads/1989.

#трансгуманист_мастрид #золотой_фонд_мастридов

Молния! Лучший блогер за последнюю тысячу лет Тим Урбан (Wait But Why) после затяжного молчания выпустил новый пост. И это не просто пост, а огромная серия постов (судя по всему, суммарным размером они будут как увесистая книга). Посты будут выходить каждые несколько дней в течение нескольких месяцев. Сегодня Урбан опубликовал две первых главы своего ультралонгрида.

Глава 0: waitbutwhy.com/2019/08/story-intro.html

Глава 1: waitbutwhy.com/2019/08/fire-light.html

Тема нового материала – американское общество. Почему, если рассматривать его как единый сверхорганизм, оно выглядит и ведёт себя как глупый шестилетний ребёнок, устраивающий истерики по любому поводу и не способный на конструктивный диалог? И это несмотря на стремительный научный прогресс, распространение просвещения и рост числа интеллектуалов! 

Взявшись за эту тему три года назад, Урбан получал от всех знакомых один и тот же комментарий: написав про это, ты совершишь медийное самоубийство. Тысячи хейтеров набросятся на тебя. Тема слишком токсичная.

Тогда блогер решил рассмотреть и эту сторону вопроса: почему тема сошедшего с ума американского общества такая токсичная и что с этим делать? В итоге ему пришлось закопаться в многочисленные трактаты по философии, эволюционной биологии, психологии, нейрофизиологии, политологии, изучить десятки книг, сотни исследований и провести тысячи диалогов, отринув все свои стереотипы и политические предрасположенности. Всё это вылилось в серию постов, которая, судя по всему, обещает стать одной из лучших у Урбана, если не лучшей.

Пока вы ждёте продолжения лонгрида, советую перечитать предыдущие культовые лонгриды Урбана (или впервые прочесть, если вы их пропустили). Вот список моих любимых, почти у всех есть русский перевод:

1) ликбез по крионике с детальным разбором того, почему это не лохотрон: waitbutwhy.com/2016/03/cryonics.html (англ.), vc.ru/future/20801-cryonics-makes-sense (рус.)

2) почему риски, связанные с появлением сверхсильного искусственного интеллекта, вполне реальны для человечества: waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html (англ.), telegra.ph/Revolyuciya-iskusstvennogo-intellekta-na-puti-k-sverhrazumu-01-14 (рус.)

3) как Илон Маск применяет first-principle reasoning и достигает сложнейших целей: waitbutwhy.com/2015/11/the-cook-and-the-chef-musks-secret-sauce.html (англ.), interpreted.d3.ru/perevod-kulinar-i-shef-povar-sekretnyi-sous-ilona-maska-898919 (рус.)

4) как правильно (не) принимать решение о браке: waitbutwhy.com/2016/09/marriage-decision.html (англ.), t.me/mustreads/1433 (рус.)

5) как проект Илона Маска Neuralink превратит нас в настоящих трансгуманистов с имплантированными интерфейсами «мозг-компьютер»: waitbutwhy.com/2017/04/neuralink.html (англ.), wbwtranslations.com/kolos (рус.)

6) один из лучших текстов о выборе карьерного пути и его изменении: t.me/mustreads/1532 (англ.), t.me/mustreads/1565 (рус.)  

#золотой_фонд_мастридов

Главный мастрид Рунета за эту неделю – огромное расследование об истории противостояния двух крупнейших не только в России, но и в мире даркнет-площадок: RAMP и Hydra. (Спойлер: в нём победила «Гидра», сайт конкурента закрыли, на рампе сейчас тусуются только скейтеры).

Обязательно читайте текст с десктопа: во-первых, оцените атмосфернейший саундтрек, во-вторых, вёрстку и оформление. Плюс с точки зрения содержания это образец расследовательской журналистики, за такое надо премии вручать: darknark.lenta.ru/article/part1-the-war

Ещё по мотивам текста сделали отличную короткометражную документалку, посмотрите: t.me/mustwatch/716

Из текста вы узнаете:

- как и через какие каналы поставки в Россию ввозят разные виды наркотиков и прекурсоров (ингредиентов для их производства)

- как арест двух магнатов, контролирующих портовую логистику России, привёл к коренным изменениям наркорынка России и замещению импортных наркотиков отечественными

- почему самым популярным в России наркотиком стал мефедрон

- как RAMP «мочил» конкурентов (кого-то ДДОСил, кого-то взламывал и сдавал полиции, с кем-то физически расправлялся)

- как два последних из оставшихся в живых конкурента RAMP объединились, создав «Гидру», и постепенно выжали с рынка лидера в самой настоящей бизнес-войне.

На всякий случай: тяжёлые наркотики – абсолютное зло, большинство синтетических наркотиков крайне аддиктивны и вредны для здоровья, не стоит влезать в это дерьмо. Но победить огромных наркогигантов, видимо, невозможно при текущем законодательстве.

Думаю, единственный путь – постепенно легализовать марихуану и психоделики и проводить грамотную информационную политику в этой сфере, объясняя населению все риски (психоделики я бы вообще разрешил только людям, получившим базовое образование в этой сфере и сдавшим специальный экзамен). После такой реформы большинство наркопотребителей перейдут на более безопасные вещества – хотя бы потому, что их можно будет покупать без рисков с законом (см. опыт Голландии, радикально снизившей употребление тяжелых наркотиков).

В чёрном рынке не будет необходимости, преступники утратят источники дохода, люди перестанут умирать от "синтетики" и опиоидов. При этом качество и корректность дозировки легальных веществ будет гарантироваться лицензирующими органами. Конечно, риски всё равно останутся, но, наверное, это меньшее из зол.

Если вам нравятся тексты про даркнет, обязательно прочтите материал 2015 года из золотого фонда мастридов про рост и падение легендарной площадки Silk Road: t.me/mustreads/864 (по ссылке доступен оригинал на англ. и русский перевод).

Про структуру российского даркнет-рынка в этом году было ещё хорошее расследование от "Проекта": t.me/mustreads/2085

#криптоанархист_мастрид #драгз_мастрид #золотой_фонд_мастридов

III. Вечные книги против новых

Я очень люблю и «Размышления» («К самому себе») Марка Аврелия, и «Государство» Платона, это абсолютные мастриды. Но не могу согласиться с тем, что читать надо в первую очередь старый и вечный «нон-фикшн», а новые книги по самосовершенствованию – лишь в последнюю очередь.

Во-первых, за последние десятилетия произошло множество важнейших открытий в нейрофизиологии, когнитивистике и других науках, на которых основаны многие современные книги-мастриды. Взять хотя бы «Думай медленно, решай быстро» Канемана или «Мозг материален» Аси Казанцевой: думаю, эти книги для понимания работы мозга будут куда полезнее, чем психологические труды Фрейда, часть выводов которых устарела, размышления о человеческой психике от древних греков, не основанные на достижениях науки.

Во-вторых, новые книги зачастую читаются проще и, если вы читали за жизнь немного и хотите начать читать больше, стоит начать с новых книг, чтобы развить свою начитанность и уже потом перейти к классике. А то начнёте сразу с Платона, застрянете и забросите чтение насовсем – так себе результат.

Мастрид на англ.: highexistence.com/read-books-makes-dull

Рус. перевод от @newochem: newochem.io/terrible-reading

Мой ролик про то, как я сформировал привычку ложиться вовремя и читать перед сном: youtu.be/XaXJEFEfVrU

PS. Очень советую ещё два мастрида из золотого фонда про то, как надо и не надо читать нон-фикшн: t.me/mustreads/1754 и t.me/mustreads/1757. Здесь и про «фрактальное чтение», и про чтение нескольких книг одновременно, и про отношение к главам книг как записям в блог, и многое другое.

#золотой_фонд_мастридов #ридлист

Прочитал уже 8 глав огромной серии лонгридов Тима Урбана (Wait But Why) про то, почему современные публичные дискуссии скатились в поляризацию сторон, а чувствительные темы невозможно обсуждать без лавины хейта.

Эта проблема действительно актуальна во всём мире. Наглядный пример – ситуация с моим недавним ютюб-видео про феминизм, после которого на меня обрушилась критика как сексистов, так и некоторых ультрарадикальных феминисток, считающих менсплейнингом любую фразу из уст мужчины. Хотя, конечно, сексистов было намного больше. А ещё больше – адекватных подписчиков, похваливших ролик (но моя аудитория нерепрезентативна, в среднем в обществе всё намного хуже).

Когда человек прикипел к своей точке зрения настолько, что не способен рационально мыслить, никакие аргументы его не переубедят. В его голове может что-то измениться только тогда, когда противоположное мнение начнут транслировать люди, к которым он прислушивается. Когда одни за другим популярные блогеры заговорят о том, что феминизм – это нормально, когда похожие сентенции будет невзначай озвучиваться друзьями семьи или коллегами у офисного кулера, когда он услышит об этом на концерте любимого рэпера в короткой речи между песнями. Только тогда рамки мышления могут понемногу сдвинуться.

Это и есть то самое «окно Овертона», Тим Урбан про него отлично написал в серии постов.

Наверное, многие впервые увидели этот термин в некогда вирусном посте в ВК: мол, американцы с помощью «плана Даллеса» низвергают моральные ориентиры и «расшатывают скрепы» российского общества, постепенно продвигая в него якобы деструктивные идеи вроде феминизма и гей-браков. Но, конечно, план Даллеса – миф, а «окно Овертона» – это никакое не идеологическое оружие, а просто термин, означающий диапазон идей, считающихся мейнстримовыми в обществе в то или иное время. И да, это окно неизбежно сдвигается со временем.

В 1959 году лишь 4% американцев одобряли межрасовые браки. В 1960 году Кеннеди отменил выступление на своей инаугурации темнокожего джазмена Сэмми Дэвиса, когда узнал о его браке с белой женщиной. Сегодня 90% жителей США одобряют межрасовые союзы.

На картинках выше можно увидеть эволюцию отношения американского общества к межрасовым бракам, курению сигарет и гей-бракам. В будущем, надеюсь, так же эволюционирует отношение к крионике и другим инновационным вещам, пугающим многих сегодня.

Любопытно, что одно время в СССР, при всех его ужасных недостатках, у людей по многим вопросам было намного менее зашоренное мышление по сравнению с американцами. Поэтому я уверен: феминизм и другие прогрессивные идеи приживутся в России куда быстрее, чем думает большинство. Не случайно у нас женщины получили избирательные права ещё в 1917 году, у нас была первая женщина-посол, брак отделен от церкви уже 100 лет, да и процент женщин в руководстве компаний был и остаётся выше, чем большинстве других стран. Осталось лишь победить патриархат в головах – остальное придёт со временем.

То же самое с победой рациональности: в нашей стране большинство с благоговением относится к науке и учёным, в детстве многим детям дают читать в первую очередь детские энциклопедии, а не детскую Библию (в отличие от тех же США). Отсюда и бешеная популярность научной фантастики, которая началась ещё с поколений наших родителей и дедов. От научной фантастики до науки и рациональности – один шаг.

Почитайте серию постов Урбана: waitbutwhy.com/2019/08/story-intro.html

#золотой_фонд_мастридов #рационалист_мастрид

PS. На днях на канале TEDx должно выйти видео моего выступления про расширение окна Овертона у себя и окружающих, не пропустите.

PPS. Если вы уже прочли новую серию постов Урбана, советую подборку его лучших материалов за всё время: t.me/mustreads/2112

PPPS. Моё видео про феминизм для тех, кто пропустил: youtu.be/o3t5Ysmy25o

А здесь вы можете купить с 10%-ной скидкой билеты на ивент по феминизму, который пройдёт в Москве 9 ноября, я соорганизатор и буду одним из ведущих (а ещё будет много крутых спикерок!): t.me/mustnoukabot?start=mustreads

Оказывается, в 2014 году студия Артемия Лебедева сделала серию плакатов «Дорожная карта достижения бессмертия» по заказу фонда русского трансгуманиста Михаила Батина «Наука за продление жизни». Отличные плакаты - настоящий ликбез для начинающих трансгуманистов, посмотрите картинки ниже.

Семь плакатов иллюстрируют семь возможных способов достижения бессмертия. Ниже перечисляю их и делюсь полезными ссылками по большинству из них.

1. Генная инженерия долголетия. На эту тему советую своё интервью с Обри Ди Греем. Вот оно в русской озвучке: youtu.be/ItIF47pGi68. А вот версия на английском: youtu.be/soBp_tVUEOA. И ещё послушайте подкаст «Терминальное чтиво» про долголетие с Алексеем Кадетом из организации Open Longevity: t.me/mustreads/2046

2. Регенеративная медицина.

3. Крионика. На эту тему обязательно послушайте подкаст о крионике с Данилой Медведевым (сооснователем криокомпании «Криорус»). Часть 1: t.me/mustreads/1981. Часть 2: t.me/mustreads/1989. В подводке к подкасту есть ещё много полезных ссылок.

4. Наномедицина.

5. Искусственный интеллект. На эту тему почитайте про проект Илона Маска Neuralink: t.me/mustreads/2071 (подборка ссылок на английском и русском).

6. Цифровое бессмертие. Про это посмотрите презентацию русского трансгуманиста Алексея Турчина: t.me/mustreads/2069

7. Киборгизация. Про неё советую мастрид о наших соотечественниках с бионическими протезами: t.me/mustreads/1062

#трансгуманист_мастрид #золотой_фонд_мастридов

На днях вышел большой апдейт к книге «80 000 часов» на сайте проекта: 80000hours.org/key-ideas. Напомню: цель проекта – помочь молодым талантам выбрать карьерную траекторию, позволяющую одновременно: (1) самореализоваться на работе и получать от неё удовольствие; и (2) приносить как можно больше пользы миру.

Если вы ещё не читали книгу «80 000 часов», лучше прочтите этот лонгрид вместо неё. Он актуальнее, в нём исправлены неточности и скорректированы позиции по некоторым вопросам с учётом новых научных открытий.

Текст огромный, примерно на час чтения. Но, как отмечают его авторы, в среднем за свою жизнь мы проводим за работой 80 тысяч часов, то есть даже на однопроцентное улучшение качества этого времени и выхлопа от него стоит потратить как минимум 800 часов, не говоря уже об одном часе чтения.

В новом лонгриде от команды «80 000 часов» разбираются самые актуальные сферы, в которых стоит строить карьеру в 2019 году (или в которые стоит инвестировать деньги через взносы в эффективные НКО). Особое внимание уделяется тем экзистенциальным рискам, на борьбу с которыми сейчас направляется недостаточно средств в сравнении с другими рисками.

Перечислю ниже главные проблемы, которым стоит уделить больше внимания в 2019 году. Они же – сферы, в которых стоит строить карьеру. По каждой из проблем есть отдельный материал на сайте «80 000 часов», ссылки на него даю в скобках:

1) безопасность ИИ (отдельный материал по теме: (80000hours.org/problem-profiles/positively-shaping-artificial-intelligence)

2) биологическая безопасность (пандемии, вирусы, бактериологическое оружие: 80000hours.org/problem-profiles/biosecurity)

3) ядерная безопасность (80000hours.org/problem-profiles/nuclear-security)

4) климатические риски (80000hours.org/problem-profiles/climate-change)

Помимо этих проблем, важно, чтобы больше талантливых людей шли делать карьеру в сферы, направленные на повышение эффективности полезных проектов:

1) исследования глобальных приоритетов (исследование вопроса о том, куда в первую очередь тратить деньги государствам и НКО, чтобы мир стал лучше и чтобы предотвратить экзистенциальные риски: 80000hours.org/problem-profiles/global-priorities-research)

2) развитие эффективного альтруизма (80000hours.org/problem-profiles/promoting-effective-altruism)

3) улучшение качества решений, принимаемых государственными и негосударственными органами и учреждениями (80000hours.org/problem-profiles/improving-institutional-decision-making)

В дополнение к разбору важнейших проблемных сфер авторы лонгрида перечисляют наиболее перспективные профессии в каждой из этих сфер, а ещё дают подробные советы по составлению карьерной стратегии и карьерного плана. Каждому стоит заняться этим, даже опытным карьеристам. Надеюсь, хотя бы некоторые мои подписчики смогут выделить для этого немного времени на выходных.

Напоследок посоветую свои видео на тему. Про проект «80 000 часов»: youtu.be/itD3cPJC-44. Про эффективный альтруизм: youtu.be/S-T8tXKJZdY.

Пожалуйста, распространяйте этот пост, это важно. Скиньте его самым талантливым и умным из своих знакомых.

#альтруист_мастрид #яппи_мастрид #золотой_фонд_мастридов