#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Корпорации и нанороботы не эволюционируют" из цепочки "Простая математика эволюции".

После того как Чарлз Дарвин опубликовал свою книгу "Происхождение видов", довольно многие начали распространять его идеи естественного отбора на другие области. Люди рассуждают об эволюции идей, обществ, различных общественных институтов, активно ссылаясь на идеи из биологии.

Юдковский в своём эссе объясняет, почему ему не нравятся такие аналогии.

https://lesswrong.ru/w/Корпорации_и_нанороботы_не_эволюционируют

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Убеждение в разумности".

С этого эссе начинается цепочка "Хрупкие цели", в которой Юдковский рассуждает о проблемах построения искусственного интеллекта. Но что такое интеллект вообще? Что именно мы считаем разумным и почему?

Также эссе затрагивает другой важный вопрос: если мы не знаем, как устроен некий процесс, можем ли мы делать о нём какие-то выводы?

https://lesswrong.ru/w/Убеждение_в_разумности

#эффективный_альтруизм

Александр Бережной - один из организаторов движения "Эффективного Альтруизма" в России - начал вести свой канал, посвящённый вопросам собственно эффективного альтруизма: как приносить максимальную пользу миру, какие в мире есть важные недооценённые проблемы и что с этим можно сделать.

https://t.me/altruistdiary

Видеоблог (там меньше): https://www.youtube.com/channel/UC7exkTEufBGRBWXX8ZOO3tg

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Люди в смешных нарядах" из цепочки "Хрупкие цели".

Человеческий мозг - очень сложная система. Даже сейчас мы не совсем понимаем, как она работает. Однако люди способны относительно успешно моделировать другого человека - мы можем предсказывать, как поступит другой человек, чему он обрадуется, от чего огорчится...

Возможно, когда-то человечество столкнётся с каким-то иным разумом. Это могут оказаться инопланетяне или созданный самим человечеством искусственный интеллект. Насколько успешно мы сможем моделировать поведение этого иного разума?

https://lesswrong.ru/w/Люди_в_смешных_нарядах

#переводы #цепочки

Новый перевод на сайте: эссе Элиезера Юдковского "Оптимизация и взрывное развитие интеллекта" из цепочки "Хрупкие цели".

В этом эссе Юдковский продолжает рассуждать о том, что такое интеллект. Как мы можем сравнивать различные оптимизационные процессы? Что вообще важно при обсуждении оптимизационного процесса? Что общего можно выделить при сравнении истории человечества и истории эволюции?

https://lesswrong.ru/w/Оптимизация_и_взрывное_развитие_интеллекта

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Дырявые обобщения" из цепочки "Хрупкие цели".

Люди часто что-нибудь обобщают. Наверное, без этого мы не смогли бы существовать: невозможно в любой ситуации принимать решение заново "с нуля". Поэтому мы придумываем себе разнообразные правила, находим закономерности в окружающем нас мире и всем этим активно пользуемся.

Однако, как формулировать правила, чтобы они помогали, а не мешали?

https://lesswrong.ru/w/Дырявые_обобщения

#статьи_участников

Мария Оленева написала для "Ножа" статью о том, что такое прикладная рациональность. В статье относительно подробно описываются такие полезные техники как "внутренний симулятор" (просто попробуйте представить, какие именно последствия вы ожидаете в результате своего решения), "премортемы" (представьте, что в будущем ваши планы провалились и подкорректируйте их), "разрешение внутренних конфликтов" (что делать, если хочется посмотреть сериал, но нужно работать?) и другие.

https://knife.media/rational-living/

Примите участие в опросе эффективного альтруизма 2019 — EA Survey!

Ежегодный опрос позволяет составить карту действий, ценностей и демографии участников сообщества. Он также помогает организациям, таким как «80000 Часов», уточнить направления своей деятельности.

В этом году случайно выбранный респондент получит приз в 1000$. Их можно будет пожертвовать любой организации из списка фондов эффективного альтруизма (EA Funds).

Заполнение опроса займет около 30 минут, в зависимости от детальности ваших ответов. Многие вопросы не являются обязательными. Опрос доступен только на английском.

Сотрудники организации Rethink Charity, которая проводит опрос, написали серию статей по итогам опроса в прошлом году. Из них можно узнать о том, как люди приходят в эффективный альтруизм, какие проблемы им важны, куда они жертвуют и о других показателях. Разумеется, анализ ответов производится и публикуется анонимизировано.

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Скрытая сложность желаний" из цепочки "Хрупкие цели".

С древних времён люди придумывали сказки о джиннах (или других волшебных существах), исполняющих человеческие желания. Зачастую в фольклоре встреча с джинном приносит не слишком много счастья. Нередко это связано с тем, что желание формулируется недостаточно точно. Однако можем ли мы описать, что именно мы хотим, достаточно точно?

https://lesswrong.ru/w/Скрытая_сложность_желаний

#проекты_участников

Ещё один интересный рационалистский блог: Антон Желтоухов (@anton_zheltoukhov) ведёт канал @youcannotadvance . В основном в блоге описываются инструментальные техники, но не только.

#встречи #москва

На прошлой неделе в Москве в очередной раз стартовал клуб чтения Цепочек. Участники последовательно идут по всей книге Юдковского "Рациональность: от ИИ до Зомби", читают эссе (на каждую неделю берётся 3-4 текста) и на встречах обсуждают, что они узнали нового, что из этого можно применить в жизни, а где автор скорее всего не прав.

Обсуждение встреч (там же будут появляться анонсы): https://t.me/readthesequences

Встречи проходят по понедельникам в Кочерге. Начало в 20:00.

Невероятно рад за моих преподавателей из MIT, которые ведут курс о проблемах глобальной бедности: вчера Эстер Дюфло и Абхиджит Банерджи получили Нобелевскую премию по экономике за поиск научно-обоснованных методов борьбы с бедностью. Дюфло в 46 лет стала самым молодым лауреатом и второй женщиной, удостоенной Нобелевской премии по экономике. Вместе с ними премию получил Майкл Кремер из Гарварда.

Они начали изучать причины бедности в разных регионах и тестировать инновационные подходы ещё в середине 1990-ых. Например, после многочисленных экспериментов оказалось, что лучший способ поднять посещаемость школ в Кении — это не предлагать бесплатное питание, а провести курс лечения детей от гельминтов; а лучший способ улучшить успеваемость — не присылать больше учебников, а обучить волонтеров для помощи отстающим ученикам. В одном из округов Индии им удалось поднять темпы вакцинации в десятки раз после запуска мобильных клиник и применяя небольшие стимулы в духе теории подталкивания: семьи получали два килограмма риса при вакцинации детей.

Для их исследований характерны две черты. Во-первых, они не считают бедных глупыми или нерациональными людьми, которым нужно спустить решение сверху, а проводят полевые исследования и пытаются понять причины бедности в конкретных регионах. Во-вторых, они используют рандомизированные контролируемые испытания (РКИ). Это значит, что все испытуемые случайным образом делятся на группы — одна из них является контрольной, а другая получает помощь, например, противомоскитные сетки или субсидию на покупку базовых продуктов. Это позволяет выявить эффекты от помощи и исключить другие факторы. Их работа оказала огромное влияние, задав для всех в этой области качественно новый стандарт исследований.

В 2003 году Дюфло и Банерджи основали лабораторию J-PAL в MIT. Сегодня это глобальная сеть исследований по искоренению бедности во всем мире, они провели почти тысячу рандомизированных испытаний в 83 странах. В 2011 году они выпустили книгу Poor Economics, посвященную тому, как беднейшие люди принимают решения, почему в этих решениях есть смысл, и как скорректировать политику, чтобы помочь им выбраться из ловушки бедности (сейчас как раз дочитываю эту книгу и позже выложу обзор). Вторая их книга, Good Economics for Hard Times, выйдет в ноябре этого года.

Для тех, кто хочет поучиться у Нобелевских лауреатов, есть несколько бесплатных онлайн-курсов на edX с английскими субтитрами:
• Вызовы глобальной бедности
• Анализ данных для общественных наук
• Политическая экономия и экономическое развитие
• Основы политики развития

Совместная программа MIT и J-PAL, на которой я учусь, называется Данные, экономика и политика развития. После прохождения пяти онлайн-курсов можно подать заявку на ускоренную магистратуру в кампусе MIT. Если возникнут вопросы, как туда поступить, напишите мне.

#переводы #slatestarcodex

Новый перевод на сайте - эссе Скотта Александера "Понимание".

Скотт Александер в несколько метафорической форме рассуждает на тему: а что вообще значит слово "понимание"? Когда можно сказать, что мы что-то понимаем, а когда - нет?

https://lesswrong.ru/w/Понимание

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Антропоморфный оптимизм" из цепочки "Хрупкие цели".

Эссе продолжает тему, начатую в ранних эссе этой цепочки.

Несмотря на то, что человеческий мозг - это очень сложная система, мы в какой-то степени умеем предсказывать действия других людей. Социальная политика в племени была очень важна для наших предков. Тому, кто совсем уж плохо умел моделировать реакции своих сородичей, размножиться было гораздо сложнее.

Но сейчас мы сталкиваемся с другими сложными оптимизационными системами. Например, мы рассуждаем об эволюции. Или о возможном искусственном интеллекте. И мы представляем их используя человеческий мозг, который эволюционировал пытаясь предугадать, как поступят другие люди.

Какие здесь кроются опасности?

https://lesswrong.ru/w/Антропоморфный_оптимизм

#эффективный_альтруизм

Мастридер записал ещё одно видео про эффективный альтруизм. В этот раз затрагивается почти исключительно тема денежных пожертвований с попыткой разбора некоторых популярных точек зрения на этот счёт.

https://www.youtube.com/watch?v=S-T8tXKJZdY

#встречи #москва

После длительного перерыва в Москве возрождаются академические встречи LessWrong.

10 ноября в Кочерге пройдёт академическая встреча сообщества. В программе:

1) Антон Чайников про теорию предиктивной обработки (predictive processing);
2) Александр Бондаренко про язык Ithkuil: как встроить онтологию в язык;
3) Итан Башкански про travel/digital nomadism/expatriation (доклад будет на английском).

Начало встречи в 17-00.

Подробности: https://vk.com/wall-103521943_553
Анонсы будущих встреч можно также смотреть в канале Кочерги: https://t.me/kocherga_club

#переводы #цепочки

Новый перевод на сайте - эссе Элиезера Юдковского "Потерянные цели", которое завершает цепочку "Хрупкие цели". Теперь эта цепочка полностью переведена.

Представим человека, который увлечён рациональностью и научным мышлением. Он читает популярные паблики на эту тему, смотрит разнообразные научно-популярные видео, возможно, читает какие-то статьи или книги. Также допустим, что в его жизни при этом ничего особенно не меняется - насколько я представляю, так тоже бывает. Можно задать вопрос: а этот человек занимается тем, чем занимается, чтобы?..

https://lesswrong.ru/w/Потерянные_цели

#воркшопы #москва

21 - 24 ноября состоится очередной выездной четырёхдневный воркшоп Кочерги. Выездной воркшоп — это возможность на четыре дня сменить привычную среду, чтобы полностью погрузиться в проработку навыков рационального мышления и решение своих насущных задач с поддержкой от тренеров. Главная задача этого воркшопа — сделать участников более агентными: желающими и способными изменять что-то в мире в соответствии со своими целями и ценностями.

Подробности: https://kocherga-club.ru/workshop/country

Мастридер, который дважды побывал на воркшопах Кочерги, объявил в ВК конкурс репостов, позволяющий получить бесплатный билет: https://vk.com/wall-96047932_19105

Один из лучших способов инвестировать в себя, чтобы принести больше пользы для мира в будущем — это научиться учиться.

Но сегодня существует большой разрыв и отсутствие коммуникации между учеными в лабораториях, которые ищут эффективные методы обучения, студентами и учителями. Последние полагаются на интуицию в вопросе что лучше в обучении, но это может быть плохой идеей. В 2007 году Институт образовательных наук (IES) в США изучил сотни научных публикаций на тему того, как помочь учащимся приобрести и сохранить знания. Они выделили шесть стратегий эффективного обучения, каждая из которых подтверждена десятилетиями исследований в когнитивной психологии и приносит пользу независимо от предмета или уровня обучения. Но обзор педагогической литературы показал, что в 60% учебников ни одна из этих стратегий не упоминается; в остальных им отведено несколько предложений, максимум — одна страница.

Вот эти шесть стратегий:

1. Интервальное повторение. Мы быстро забываем новую информацию, если не повторяем её. Ещё в 19 веке психолог Герман Эббингауз исследовал природу памяти и выяснил, что спустя шесть дней без повторения мы помним лишь 20% новой информации. Для закрепления материала можно повторять его с постоянно возрастающими интервалами: спустя несколько часов, затем спустя сутки, 2 дня, 5 дней, затем — через 10 дней, 3 недели, и т.д. Информацию можно разбить на блоки и повторять в виде карточек (рекомендую для этого приложение Anki).

2. Воспроизведение информации (retrieval practice). Бесполезно повторять информацию, просматривая конспект или учебник — мозг будет просто узнавать образы на страницах, но узнавание не равно пониманию. Лучше попытаться вспомнить материал самостоятельно. Можно представить, что объясняешь его другу своими словами. А потом проверить аккуратность своих воспоминаний, сверив с учебными заметками. Это тяжелая и неприятная практика, во время неё испытываешь дискомфорт, но она одна из самых действенных и дает моментальную обратную связь о том, что уже знаешь.

3. Двойное кодирование (dual coding) — объединение слов и образов. Помогает лучше впитать новую информацию. Несмотря на свою популярность, теория про индивидуальные различия в стилях обучения (визуалы, аудиалы, кинестетики) научно не подтверждена. Люди воспринимают информацию в основном через текст или графику, причем наиболее эффективно соединение первого и второго: через схемы, инфографику, диаграммы.

4. Конкретные примеры помогают понять абстрактные идеи. Рекомендуется собрать как можно больше примеров — как из тех, что упоминал преподаватель, так и самостоятельно найденных в других источниках. Очень полезно придумывать свои примеры и обмениваться ими. Всё это позволяет создать больше связей в мозгу и углубить понимание темы.

5. Проработка (elaboration). Создание связей между новыми идеями и уже изученными. Например, можно взять несколько концепций и спросить себя — в чем они похожи? Чем отличаются? Также очень полезно строить связи между идеями и своим личным жизненным опытом и воспоминаниями. Смысл подхода в интеграции новых знаний в существующую систему, в создании прочных отношений между старым и новым опытом и идеями.

6. Чередование (interleaving). Переключение между идеями в процессе учебы. Исследования показывают неэффективность слишком долгой концентрации на одной идее или на одном предмете. Полезнее периодически переключаться с одной идеи на другую (но не слишком часто!). Это позволяет найти оптимальную стратегию решения, а также увидеть связи и различия между идеями.

Чтобы узнать больше про эти техники и научиться применять их, рекомендую бесплатный онлайн курс Learning How to Learn — это самый посещаемый онлайн-курс в мире, доступны русские субтитры. Автор курса, Барбара Оакли, также описала техники эффективного обучения в книге Думай как математик. Пусть вас не смущает название, эти идеи универсальны и подходят для любой сферы.

Для учителей рекомендую подкаст и блог The Learning Scientists. Его ведут когнитивные психологи, которые стремятся преодолеть разрыв между учеными и учителями. Они подробно объясняют результаты исследований, рассказывают как лучше внедрять научно-обоснованные методы на практике, создают много печатных материалов, плакатов и презентаций. Кстати, им можно помочь с переводом материалов на русский!

#статьи_участников

Сергей Шкуратов продолжает свой конспект книги Кейта Становича "Принятие решений и рациональность в современном мире" (Keith Stanovich, "Decision Making and Rationality in the Modern World").

Инструментальная рациональность - это умение достигать своих целей. Однако, люди зачастую оценивают не только возможные действия по достижению целей, но и сами цели. У людей бывают желания, но бывают и желания, связанные с желаниями (например, бывают люди, которым не нравится, что им хочется курить). Этим вопросам посвящена часть "Метарациональность".

https://kergma.net/konspekt/metaracionalnost-chast-1