Новости сообщества LessWrong
1.32K subscribers
20 photos
1 file
835 links
Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.
Download Telegram
Forwarded from Байесятина
Стилмэнинг и идеологический тест Тьюринга

Статья из цикла: Жаргон здравого смысла.

«Мысль начинается там, где мы наталкиваемся на препятствие» Лев Выготский

Соломенное чучело. 

В чёрной риторике есть приём под названием «соломенное чучело». Его суть — аргументы оппонента подменяются на слабые искаженные версии себя. Обычно для этого они утрируются и возводятся в абсолют до такой степени, что всем становится очевидна ошибочность подобных суждений. Это в каком-то смысле оправдано, ведь риторика и дебатные технологии не ставят целью отыскать истину. Мерило результата — убеждение аудитории. 

Использование соломенного чучела в споре относится скорее к вопросам этики и экологии общения. В этом нет ничего хорошего, но есть ситуация и похуже. Стремясь проверить некоторые существующие у себя убеждения, мы эмулируем (создаём виртуальную копию) критика. К сожалению, эта копия по умолчанию выставляет в качестве контраргументов соломенные чучела. 

Эмулированный критик воспринимается внутренне, как «чужак» который «атакует» нашу позицию. Нельзя же допустить, чтобы в его руки попало сильное оружие? К счастью, раздача оружия в нашем ведении (ведь всё происходит у нас в голове). Дадим ему самые слабые и смешные аргументы. Те , что никто не стал бы использовать. Он займёт сторону, которую никто не захотел бы отстаивать. 
 
Ура! Мы получаем слабую критику своей позиции, убеждаемся в победе и забываем, что, изначальной задачей было проверить, правильно ли мы думаем. Ведь убеждения нужны для прогнозов, а эта победа никак не сделает их лучше. Когда мы столкнёмся с реальностью, умение убеждать кого-либо (особенно себя) не будет иметь никакого значения.

Стилмэнинг.
 
Можно ли с этим что-то сделать? Да, для критической проверки убеждения нужно создать «железного человека» - самый сильный набор контраргументов. Практика максимально серьёзного критического восприятия своих же убеждений называется «стилмэнинг» (с англ. железный человек). Это эмуляция оппонента, наделённого всеми ресурсами вашего мозга, к которому вы относитесь с должным уважением. Он не будет говорить глупые и абсурдные аргументы. 

Полный текст по кнопке «ПОСМОТРЕТЬ».
#в_мире #эффективный_альтруизм

Сообщество Эффективного Альтруизма проводит очередной ежегодный опрос участников сообщества. Опрос также включает в себя вопросы о том, что, с вашей точки зрения, должно быть более приоритетно для сообщества.

Ссылка на опрос: https://rethinkpriorities.qualtrics.com/jfe/form/SV_1NfgYhwzvlNGUom
#в_мире #эффективный_альтруизм

Некоторое время назад вышел первый выпуск журнала "Asterisk". Журнал основан эффективными альтруистами и материалы в нём в той или иной мере связаны с движением ЭА и/или проблемами, которые оно пытается решить. Однако создатели всё же рассчитывают на более широкую аудиторию, чем регулярные посетители форума ЭА.

Название журнала можно перевести на русский как "Звёздочка". Тут идёт и отсылка к космосу, и к тому, что знаком звёздочки часто обозначаются комментарии к тексту, ну и в англоязычном написании можно также увидеть слово "риск", что отсылает к многочисленным обсуждаемым проблемам.

В журнале будут выходить длинные статьи о сложных вопросах без попыток дать на них простые ответы. Что автор думает, менее важно, чем почему он так думает. На многие вопросы хочется найти ответы, однако реальность достаточно сложна, и если где-то есть неопределённость, стоит на неё указать. Более подробно о ценностях журнала можно прочитать на его сайте.

Предполагается, что журнал будет выходить раз в квартал.
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 18 декабря, мы заканчиваем обсуждать цепочку "Свежий взгляд на вещи" и переходим к цепочке "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:

- Не спешите предлагать решения;
- Генетическая логическая ошибка;
- Аффективная эвристика;
- Способность к оценке (и недорогой праздничный шоппинг).

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/vxccafpvrrdvdjtiywelqrcpvm

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 19 декабря, мы начнём обсуждать цепочку "Categorisation and Concepts".

Поговорим про следующие эссе:

- Diseased thinking: dissolving questions about disease;
- The Categories Were Made For Man, Not Man For The Categories.

Также мы попробуем поговорить про художественные интерлюдии из предыдущей цепочки "Argument and Analysis":

- Transhumanist Fables / Трансгуманистские басни;
- …And I Show You How Deep The Rabbit Hole Goes / …и я покажу тебе, как глубоко уходит кроличья нора.

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences

Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
Forwarded from Olka Mo
Мастер-класс “Новогодняя оптимизация”
Когда: 23 декабря 2022 в 19:00 по МСК

Что получится, если посмотреть на свои явные и скрытые ожидания от празднования нового года через призму прикладной рациональности? А что если попытаться увиденное улучшить? Будет практика рацио-техник на кейсе Нового года!

Идея в том, чтобы приложить абстрактные техники прикладной рациональности (из методички CFAR) к реальным задачам (празднование Нового года).

Какие техники практикуем:
    🎄    внутренний симулятор (Inner simulator)
    ❄️    систематизация (Systematization)
    🔔    Йода-таймер (Resolve cycles)
    🎁    фокусировка (Focusing)

Для кого: для тех, кому интересно задуматься о своем опыте и планах на праздник и попробовать применить рацио-техники к этой области.

Что будет можно уточнить здесь.

Мероприятие онлайн, бесплатно.  Для регистрации добавьтесь в этот чат в ТГ (тут будет ссылка на zoom с мероприятием): https://t.me/+r6iI_kwitc0yNzli

Приходите на мастер-класс, приносите свои планы и смутные ожидания!
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 25 декабря, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:

- Неограниченные шкалы, решения присяжных и футуризм;
- Эффект ореола;
- Искажение супергероя;
- Аффективные смертельные спирали.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/j5a636xqbfffzefn6cwmhqr25y

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 26 декабря, мы завершаем обсуждение цепочки "Categorisation and Concepts".

Поговорим про следующие произведения:

- The noncentral fallacy - the worst argument in the world? / Презумпция типичности — худший аргумент в мире?;
- Ethnic Tension And Meaningless Arguments;
- Интерлюдия The Moral Of The Story.

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences

Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
#проект #рацио_форум

Последнюю пару недель я работал над созданием в телеграме форума про рациональность, и сегодня наконец открыл его!

Недавно в тг появился функционал тем, и это обещает быть удобной возможностью для того, чтобы обсуждать параллельно несколько разных вещей в рамках одного чата/форума/группы.

При этом у меня есть идеи (все они изложены в гайде по форуму) о том, как сделать это место тем самым "ухоженным садом", где будет процветать хорошая эпистемология и качественные обсуждения; и наброски идей, как организовать в его рамках нетворкинг для знакомства с крутыми людьми и создания не менее крутых совместных проектов.

С нетерпением жду, чтобы узнать, что в итоге изо всего этого выйдет.
#встречи #онлайн

В первый день Нового года состоится онлайн-игра в калибровочное ЧГК. Это командная игра на калибровку уверенности. Правила игры простые, наличие какого-либо предыдущего опыта не требуется, новички приветствуются.

Подробная статья об игре: https://telegra.ph/Kalibrovochnoe-CHGK---igra-dlya-racionalistov-12-20

Для получения ссылки в Zoom, нужно зарегистрироваться: https://kocherga-club.ru/events/4avf22mygnhy7lulj2x45wtnju

Начало в 13:00 по московскому времени (UTC+3).
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 8 января, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:

- Сопротивление аффективным смертельным спиралям;
- Некритичная сверхкритичность;
- Охлаждение групповых убеждений при помощи испарения;
- Когда никто не смеет призывать сдерживаться;
- Любая деятельность хочет быть культом.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/gnhbntrzcnfyfiwnwd64xvafvq

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 9 января, мы переходим к обсуждению цепочки "Probability and Predictions".

Поговорим про следующие эссе:

- The Pyramid And The Garden;
- On Overconfidence;
- If It’s Worth Doing, It’s Worth Doing With Made-Up Statistics;
- Techniques for probability estimates.

Рекомендуется обратить внимание на упражнения в конце эссе "On Overconfidence":

1) Какова ваша вероятность существования [произвольного] бога?
2) Какова ваша вероятность существования паранормальных способностей?
3) Какова ваша вероятность что антропогенное глобальное потепление увеличит температуру по крайней мере на 1°C к 2050 году?
4) Какова ваша вероятность что до 2100 года в некоторый пятилетний интервал миллиард человек погибнет из-за пандемии?
5) Какова ваша вероятность высадки людей на Марсе к 2050 году?
6) Какова ваша вероятность существования сверхчеловеческого (= лучше почти любого человека в исполнении почти любой когнитивной задачи) ИИ к 2115 году?

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences

Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
#математика #системы

Ученые доказали: стать лучше можно только через боль!

А если без кликбейта, то в сегодняшней статье я пересказываю некоторые математические выводы о том, как устроен процесс улучшения какой угодно системы (от мелких привычек одного человека до мировой экономики): какие сложности во время него происходят в силу самой природы перестройки систем, как они меняются с течением времени, и чуть-чуть о том, как можно сделать процесс менее болезненным.

https://telegra.ph/Naskolko-slozhno-menyatsya-01-04
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 15 января, мы продолжаем цепочку "Смертельные спирали и аттрактор культа". Поговорим про следующие эссе:

- Два коана о культах;
- Эксперимент Аша о конформизме;
- Выражая беспокойство;
- Одинокий инакомыслящий.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/p2apj4mqtje77jaqvg5ywzquze

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 16 января, мы заканчиваем обсуждение цепочки "Probability and Predictions" и переходим к цепочке "Studies and Statistics".

Поговорим про следующие эссе:

- Confidence levels inside and outside an argument;
- Beware The Man Of One Study / Бойся человека одной статьи.

Художественные интерлюдии:

- The Logician And The God-Emperor / Логик и Бог-Император;
- Reverse Psychology / Реверсивная психология.

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences

Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 22 января, мы заканчиваем обсуждать цепочку "Смертельные спирали и аттрактор культа" и переходим к цепочке "Умение отпускать". Поговорим про следующие эссе:

- Культовая контркультовость;
- Единомыслие;
- Важно уметь сказать «Упс»;
- Предложение спятить.

Встреча пройдёт в онлайне, на платформе Zoom. Подробности и регистрация: https://kocherga-club.ru/events/2oov3clvcjfhpkvri2hosztbse

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 23 января, мы продолжаем обсуждать цепочку "Studies and Statistics".

Поговорим про следующие эссе:

- Debunked And Well-Refuted;
- Noisy Poll Results And Reptilian Muslim Climatologists from Mars;
- Two Dark Side Statistics Papers (также рекомендуется почитать про парадокс Симпсона, если вы ещё с ним не знакомы);
- The Control Group Is Out Of Control.

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Ссылку на мероприятие можно будет получить на сайте "Кочерги" ближе к началу встречи в разделе "Мероприятия": https://kocherga-club.ru/events

Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences

Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
#встречи #онлайн

Продолжаем читать и обсуждать книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

В воскресенье, 29 января, мы продолжим обсуждать цепочку "Умение отпускать". Поговорим про следующие эссе:

- Хватит уже надеяться;
- Как правильно сомневаться;
- Вы способны справиться с реальностью;
- Размышление о любопытстве.

Встреча пройдёт в онлайне, на платформе Zoom. Обсуждение встреч и анонсы идут в телеграм-группе https://t.me/lwreading . Там же будет и ссылка на Zoom перед началом встречи.

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.
#встречи #онлайн #скотт_александер

Продолжаем читать и обсуждать эссе Скотта Александера, объединённые в подборку "The Codex". Фактически это подборка лучших эссе Скотта Александера, посвящённых человеческому мышлению, ведению дискуссий, проблемам науки и общества и так далее.

В понедельник, 30 января, мы заканчиваем обсуждать цепочку "Studies and Statistics".

Поговорим про следующие эссе:

- The Cowpox of Doubt / Прививка от сомнений;
- How Common Are Science Failures?
- Learning To Love Scientific Consensus;
- My IRB Nightmare.

Начало встречи в 20:00 по московскому времени (UTC+3).

Встречи проходят в онлайне. Обсуждение встреч проходит в телеграм-чате: https://t.me/readthesequences Там же незадолго до начала встречи будет ссылка на Zoom.

Помимо основной встречи для обсуждения участники часто устраивают дополнительную "встречу-читальню", чтобы совместно подготовиться к основной встрече. О времени этой встречи участники договариваются в чате, упомянутом выше.
#wiki #видео

https://www.youtube.com/watch?v=K_HBSjkMc7E

Возможно, кто-то помнит, что у нашего сообщества есть вики - сборник статей о различных понятиях, техниках и встречах, который наполняется участниками сообщества. Поскольку иногда бывает так, что кто-то из участников хочет что-то подправить или написать, но не справляется с не вполне интуитивным интерфейсом движка MediaWiki, некоторое время назад Андрей Ведерников провёл небольшой мастер-класс о технических аспектах работы с вики.

Выкладываем лекционную часть этого мастер-класса.
Много дней тормозил выкладывать текст на русском, хотя он уже выложен на лессронг на английском, но доколе!

Вот ссылка (её, конечно, логичнее было бы запихнуть в конец поста, но почему-то телеграм не позволяет это сделать), а дальше я расскажу, что всё это такое.

Мы с Сирин потихонечку пишем цепочку текстов, которая должна служить руководством по введению в дискурс безопасности ИИ. Идея в том, что эти тексты должен быть способен прочитать умный школьник старших классов, и они могут вдохновить его податься в эту область. Мы надеемся, что EA LTFF даст нам на это денег и уже подали заявку, но собираемся это делать в любом случае, хотя, наверное, без гранта это будет очень медленно.

Критерии, которым, по идее, должны соответствовать наши тексты:
- они должны соответствовать истине
- они должны не быть скучными
- они должны быть легкочитаемыми
- они должны быть стилистически непохожими на тексты схожего функционала; не быть избыточными
- они должны содержать как можно меньше технических деталей, чтобы школьники старших классов могли их понять
- они должны помогать войти в дискурс безопасности ИИ; помогать преодолеть проблему "я ничерта не понимаю, о чём речь в этих заумных текстах, где каждое второе слово - локальный термин"
- они должны содержать как можно меньше информации, которая с высокими шансами устареет через четыре-пять лет, когда первые прочитавшие это школьники будут иметь шансы начать заниматься настоящими исследованиями

Пока что у нас есть одна тестовая глава - про Тезис Ортогональности, Закон Гудхарта и Инструментальную Конвергенцию. В законченной цепочке она скорее всего будет второй.

Кстати, все картинки сгенерированы Stable Diffusion, в подписях к ним - какой был к нейросети запрос.

Буду рад фидбеку.