Новости сообщества LessWrong
1.33K subscribers
21 photos
1 file
838 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 12 февраля, мы переходим к третьему тому книги, который называется "Машина в призраке". Мы обсудим введение, написанное Робом Бенсиджером ("Разум: Введение"), эссе "Сила интеллекта" и начнём обсуждать цепочку "Простая математика эволюции", в рамках которой поговорим про следующие эссе:

- Чуждый Бог;
- Чудо эволюции.

Встреча пройдёт в онлайне, на платформе Zoom. Для участия необходимо зарегистрироваться: https://kocherga-club.ru/events/yax3237rn5aitouvwstutmgnfy

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 13 февраля, мы будем обсуждать следующие эссе из цепочки "Research and Reviews":

- SSRIs: Much More Than You Wanted To Know;
- Alcoholics Anonymous: Much More Than You Wanted To Know;
- Prescriptions, Paradoxes, and Perversities.

Также обсудим художественную интерлюдию "A Story With Zombies"/"Роман о зомби".

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка для участия.
#база_рациональности

В очередной раз зададимся вопросом: что нужно делать, чтобы стать хорошим рационалистом и на самом деле систематически выигрывать в реальной жизни? Сегодня я формулирую ответ так: перво-наперво нужно как следует освоить самую базу. Почему это так, что будет базой рациональности, и как ее осваивать - я пытаюсь описать в этой статье.

https://telegra.ph/Baza-racionalnosti-02-05
Forwarded from Байесятина
Кто рождается в споре?

Право на поиск истины подразумевает и долг, не стоит скрывать ничего из того, что мы распознали как истину. Эйнштейн

Любой другой человек — это чёрный ящик, в который залетает информация, а вылетают из него некоторые выводы. Случается, что его выводы не соответствуют нашим. Давайте погрузимся в анатомию спора и посмотрим, что можно улучшить.

В ряде случаев взаимодействие в таких обстоятельствах вообще не имеет смысла. Иногда проблема не настолько важна, иногда человека вы видите в первый и последний раз, иногда у вас нет времени или внимания для дискуссии и ещё ряд иногда. Но если вы всё же закатали рукава для обсуждения разногласий, то давайте взглянем, как это происходит? Рассмотрим для начала, что может пойти не так.

Первый вариант (агрессивный): Вывод собеседника проявляет в нём врага. Он посмел словами идентифицировать себя с другой социальной группой. Здесь включаем всю мощь своего дебатного мышления, чтобы вступить в опасную и непредсказуемую схватку. Главное — скрывать позицию. Враг затаился и ждёт, когда мы озвучим причины своих убеждений. Как только мы откроемся, он нанесёт гнусный удар по ним. И пока мы ищем брешь для разрушения убогой крепости его выводов, он занят тем же самым. У наших ворот стен уже идёт разведка. Главное оружие - громкое и эмоциональное повторение своих выводов. 

Второй вариант (высокомерный): Мы делаем заключение о том, что ящик сломан. Наш собеседник просто тупой, злой, предвзятый, рассеянный, ненаблюдательный (или всё сразу). Чем ещё можно объяснить возмутительный вывод, который выплюнул в нас его чёрный ящик? Очевидно, спорить с ним бесполезно. Убедившись в асимметрии наших уровней интеллекта (собеседник, вероятно, ответил взаимностью) мы делаем вывод о непродуктивности спора с этим куском камня, неспособным понять даже modus ponens. Если есть зрители, то можно взывать к ним, используя оппонента в качестве фона для демонстрации своих идей.

Третий вариант (миролюбивый): Мы решаем, что сохранение хороших отношений гораздо важнее выяснения, чей вывод правильный. Тем более что правильный, конечно, наш. Но пока мы этого не озвучиваем, а оппонент не делает заявлений о правильности своего вывода, как будто бы сохраняется мир и спокойствие. В ряде случаев, указанных выше (нехватка времени, внимания, важности проблемы или человека в вашей жизни), это социально адекватное решение. 

Четвёртый вариант (псевдомудрый): О, это самое крутое. Когда в споре участвуют несколько участников. Какую бы позицию мы сами ни занимали, лучшая стратегия - сказать, что во всех мнениях есть доля правды. Часто после этого нам позволят стать арбитром и судьей, раздающим баллы за хорошие аргументы. Обе стороны будут заискивать перед нами, ведь в этой ситуации мы однозначно более привлекательны чем враг. Главное, чтобы никто не догадался, что нейтральная позиция — это тоже позиция, и у неё так же должны иметься обоснования. В том смысле, что если мы считаем, что две стороны с противоположными прогнозами о мире одинаково правы (вот прям ровно на 50%), то откуда взялась эта уверенность?

Наверняка вы можете привести ещё пару стандартных неудачных сценариев. Именно благодаря таким «дискуссиям» люди отказываются от спора. Не удивительно, истина в них не то что не рождается — не происходит даже её зачатие.

Но обратное глупости, не есть ум. Недостаточно просто не делать так, как указано выше или в статье про дебатное мышление. Переставая наступать на одни грабли, можно просто перейти на дорожку граблей другого цвета, как в передаче умники и умницы. Как же сойти с этих дорожек?

Продолжение по ссылке.
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 19 февраля, мы начнём обсуждать цепочку "Простая математика эволюции", в которой Юдковский рассуждает о противоречиях между историей нашего происхождения, нашим современным биологическим устройством и нашими стремлениями. Поговорим про следующие эссе:

- Чуждый Бог;
- Чудо эволюции;
- Эволюции неразумны (но всё равно работают);
- Корпорации и нанороботы не эволюционируют.

Встреча пройдёт в онлайне, на платформе Zoom. Для участия необходимо зарегистрироваться: https://kocherga-club.ru/events/xrx6f7gckjda7ajg5bylzasroy

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 20 февраля, мы будем обсуждать следующие эссе из цепочки "Research and Reviews":

- Guns And States;
- Teachers: Much More Than You Wanted To Know;
- Antidepressant Pharmacogenomics: Much More Than You Wanted To Know.

Также обсудим художественную интерлюдию "Asches to Asches"/"Прах к праху".

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка для участия.
#видео

Канал группы "Минимизаторы скрепок" начал выкладывать краткие пересказы "CFAR Handbook" - методички, которую Центр прикладной рациональности из Калифорнии написал для своих воркшопов.

Первый пересказ посвящён главе "Units of exchange", в которой рассказывается о том, что мы оперируем большим числом разных ресурсов и иногда имеет смысл задумываться, по каким принципам мы обмениваем что-то одно на что-то другое.

https://www.youtube.com/watch?v=F44WW-IKLPA
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 27 февраля, мы будем обсуждать цепочку "Hypotheses and Hunches", которая состоит из четырёх эссе:

- The Atomic Bomb Considered As Hungarian High School Science Fair Project;
- It’s Bayes All The Way Up;
- Why Are Transgender People Immune To Optical Illusions?
- The Case Of The Suffocating Woman.

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка для участия.
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 26 февраля, мы продолжим обсуждать цепочку "Простая математика эволюции". Поговорим про следующие эссе:

- Эволюция к вымиранию;
- Трагедия группового отбора;
- Фальшивый критерий оптимизации;
- Исполнители адаптаций, а не максимизаторы приспособленности.

Встреча пройдёт в онлайне, на платформе Zoom. Для участия необходимо зарегистрироваться: https://kocherga-club.ru/events/6bcnrrju2rdrrkzo4ipk4ts6ny

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#видео

https://www.youtube.com/watch?v=ujWHKQRg-uk

Проектная группа "Минимизаторы скрепок" выложила видео с кратким пересказом второй главы "CFAR Handbook". В этот раз речь идёт о "Внутреннем симуляторе" - умении задуматься, а каких именно последствий мы ожидаем в результате тех или иных наших действий.
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 5 марта, мы продолжим обсуждать цепочку "Простая математика эволюции". Поскольку предыдущая встреча не состоялась, план для обсуждения остаётся прежним:

- Эволюция к вымиранию;
- Трагедия группового отбора;
- Фальшивый критерий оптимизации;
- Исполнители адаптаций, а не максимизаторы приспособленности.

Встреча пройдёт в онлайне, на платформе Zoom. Ссылка для участия появится в телеграм-группе Цепочки Юдковского ближе к делу.

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 6 марта, мы начнём обсуждать цепочку "Politics and Pragmatics". Поговорим о следующих эссе:

- I Can Tolerate Anything Except The Outgroup (есть перевод на русский: часть 1 , часть 2);
- Society Is Fixed, Biology Is Mutable.

Также обсудим шуточную зарисовку "A Philosopher Walks Into A Coffee Shop".

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка для участия.
#видео

Проектная группа "Минимизаторы скрепок" продолжает выкладывать краткие пересказы "CFAR Handbook". В этот раз пересказывается глава 3, посвящённая созданию связок "триггер - действие", с помощью которых можно вводить в свою жизнь полезные рутины.

https://www.youtube.com/watch?v=Ix6Zf7ecO7Y
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 12 марта, мы заканчиваем обсуждать цепочку "Простая математика эволюции". Поговорим про следующие эссе:

- Эволюционная психология;
- Особенно элегантный эксперимент в эволюционной психологии;
- Суперстимулы и крах западной цивилизации;
- Суть твоя - осколки бога.

Встреча пройдёт в онлайне, на платформе Zoom. Ссылка для участия появится в телеграм-группе https://t.me/lwreading ближе к делу.

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 13 марта, мы заканчиваем обсуждать цепочку "Politics and Pragmatics". Поговорим о следующих эссе:

- Book Review: Albion’s Seed;
- Albion’s Seed, Genotyped.

Также обсудим рассказ "The Witching Hour".

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка для участия.
Forwarded from Байесятина
Понятийные расстояния

Сын весь в соплях, бумага в тетради в клетку на 24 листа уже немного скукожилась от пролитых на неё слёз. Отец в бессилии, кажется, уже в десятый раз тихо повторяет одно и то же: ну и чему равен икс… Тихо он повторяет потому, что голос уже осип от крика, а завтра ещё на работу. А всё почему? Потому что он недооценил понятийные расстояния.
 
Человечество возникло в условиях, когда почти все знания были общими. Весь скромный запас знаний, накопленный поколениями,  мог уместиться на таком компактном носителе, как человеческий мозг. Даже с учётом того, что прошлые версии носителя и весили меньше и оптимизированы были хуже. 
 
Это было золотое время в плане коммуникации. Тогда, чтобы объяснить что-то новое любому члену своего племени нужно было затратить очень мало усилий. Больше всего такая ситуация напоминает Лего. У меня и у моих соплеменников совершенно одинаковые наборы деталек. Если я придумал какую-то конструкцию, то я без труда могу любому показать, как сложить детали для получения результата. 
 
В такой среде формировались наши мозги. Если ты говоришь что-то очевидное, то вряд ли кто-то станет с тобой спорить, ведь у него такой же набор деталей. Если он всё же не согласен, то он либо лжец, либо глупец. Ровно такие чувства мы по умолчанию испытываем, когда с нами кто-то несогласен. Это происходит именно потому, что мозг формировался в условиях, где иное было невозможно.
 
Но с тех пор кое-что изменилось. Язык, специализации, письменность, технологии, наука. Мы накопили объёмы информации, для которых кое-как успеваем придумывать единицы измерения. Мы распределили эти знания по миллионам серверов и миллиардам мозгов. Мы разработали очень сложные теории со своими отдельными языками.

Продолжение по ссылке…
#видео

Проектная группа "Минимизаторы скрепок" продолжает выкладывать краткие пересказы "CFAR Handbook". В этот раз пересказывается глава 4, посвящённая технике под названием "Факторизация целей" (впрочем, возможно это название не слишком корректное). Основная идея: действительно ли наши привычные действия соответствуют нашим текущим целям?

https://www.youtube.com/watch?v=S_g28MvSncQ
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 20 марта, мы будем обсуждать первую половину цепочки "Economics and Efficiency". Поговорим о следующих эссе:

- Against Tulip Subsidies;
- Considerations On Cost Disease;
- Highlights From The Comments On Cost Disease.

Также обсудим фантастическую зарисовку "The Lizard People Of Alpha Draconis 1 Decided To Build An Ansible".

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка для участия.
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 19 марта, мы начинаем обсуждать цепочку "Хрупкие цели". Поговорим про следующие эссе:

- Убеждение в разумности;
- Люди в смешных нарядах;
- Оптимизация и взрывное развитие интеллекта;
- Призраки в машине.

Встреча пройдёт в онлайне, на платформе Zoom. Ссылка для участия появится в телеграм-группе https://t.me/lwreading ближе к делу.

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#видео

Проектная группа "Минимизаторы скрепок" продолжает выкладывать краткие пересказы "CFAR Handbook". В этот раз пересказывается глава 5, посвящённая технике под названием "Фокусировка" или "Фокусирование". Техника направлена на то, чтобы прислушаться к тем своим ощущениям, которые пока мы не смогли оформить в слова.

https://www.youtube.com/watch?v=0gssCsQF7o4