Байесятина
2.92K subscribers
16 photos
80 links
Канал о рациональности и критическом мышлении.

https://youtube.com/@bayesyatina
https://boosty.to/bayesyatina

Видишь ошибку?
https://forms.gle/8Uda9htyqDuswnWf7
Download Telegram
Хаос у нас в голове.

Статья о том, почему придётся считать баланс свидетельств. И почему не получится просто поделить все убеждения на правильные и неправильные. А так же о том, почему это не мешает нам выбирать лучшие из возможных.

Масштаб карт

Карты могут иметь разный масштаб. Представьте себе, что мы рисуем на карте лес. На большой карте размером во всю стену мы можем размахнуться и нарисовать тропинки и отдельные деревья, опушки и ландшафт. Это крупномасштабная карта. Однако если нам нужно будет нарисовать тот же лес на листе А4, то мы уберём часть деталей. Мы просто обозначим его границы и крупные объекты. На такой карте отдельные деревья «схлопнутся» в единый объект. Это мелкомасштабная карта.

Если мы посмотрим на первую крупномасштабную карту, то она претендует на большую детализацию, а значит на более точный прогноз. Прогноз может не сбыться, но вне зависимости от этого она сообщает гораздо больше информации о местности. Претензии мелкомасштабной карты куда скромнее. Даже если она сообщит нам точный прогноз, мы останемся в неведении по поводу части деталей.

Идеальная карта

«Когда люди думали, что Земля плоская, они ошибались. Когда люди думали, что Земля была сферической, они ошибались. Но если вы считаете, что первые и вторые одинаково ошибались, то Вы ошибаетесь больше, чем они все вместе взятые»
Айзек Азимов

Карта, которая претендует на самую высокую детализацию – это карта 1:1 (масштаб больше уже не даст дополнительную точность). Самая точная карта Саратова с максимальной детализацией – это сам Саратов. Идеальная карта должна быть больше или равна территории по количеству объектов (то есть по размеру). Таким образом, абсолютно ВСЕ карты не соответствуют территории полностью (с оговоркой: если они отображают меньше объектов, чем есть на территории).

Именно поэтому попытка выбирать только карты, которые ВООБЩЕ не ошибаются, обречена на провал. Реальные карты всегда учитывают меньше объектов, чем есть на территории. Однако в одном и том же масштабе карты всё-таки в разной степени ложны. Что позволяет нам выбрать те, что лучше по балансу свидетельств (в своём масштабе).

Бритва Оккама

«Чем больше сила, тем больше ответственность» Человек Паук.

Получается, что крупномасштабные карты всегда лучше? Не совсем так. Чем больше деталей на карте доступны для проверки, тем больше понадобиться свидетельств для той же самой степени уверенности. Если на карте всего 2 дерева, и Вы проверили одно из них на территории, Вы обладаете 50% уверенностью в точности карты. Однако если карта изображает 100 деревьев, то для такой же степени уверенности Вам придётся проверить аж 50 деревьев (о чём-то подобном уже додумался Генерал). Очевидно, что создание первой карты гораздо проще. Оно требует, куда меньшего количества доказательств. Кроме того такую карту можно напечатать хоть на визитке, она занимает очень мало места.

Весь вопрос в том, какая степень детализации нам минимально НЕОБХОДИМА для нашей задачи. На стратегических военных картах отдельные деревья не имеют никакого значения. А вот на карте приусадебной территории их расположение крайне важно...

Продолжение.
Это часть статьи, начало тут.

...Неидеальные убеждения

Убеждения это всегда сжатое представление о реальности, как и любая неидеальная карта. Наши представления о реальности хранятся на 1,3 килограммах склизкой массы проводящей ток. Информация всегда имеет физический носитель. Вы принципиально не можете «запихать» на физический носитель исчерпывающую информацию о нём (состояние всех его транзисторов или нейронов) плюс один символ. То есть мозг принципиально не способен составить идеальное представление хотя бы о себе хотя бы на уровне молекул. Память нашего устройства была бы исчерпана, попробуй мы записать хотя бы это. Что и говорить обо всей вселенной на квантовом уровне, на котором похоже работает наша реальность.

Один уровень

«По сравнению с реальностью вся наша наука примитивна и ребячлива, но она — самое драгоценное, чем мы обладаем»
Альберт Эйнштейн

Мы используем карты с разными масштабами для разных задач. Точно так же мы строим убеждения с разным разрешением под практические цели (а иногда и из любопытства). Вы можете услышать, что на разных масштабах реальности существуют разные законы.
Однако присмотревшись к этому утверждению, мы увидим, что оно неверно. Для разных масштабов мы разработали разные законы (это такое название авторитетных научных убеждений). Но законы – не причины. У реальности один уровень.

Полёт мяча можно описать Ньютоновской механикой. Вычисление его полёта с помощью теории относительности даст более точный прогноз, потому что детализация теории относительности гораздо выше. Она гораздо ближе к реальности по масштабу. Но практическая задача не требует такой точности. Поэтому Ньютоновская механика живее всех живых.

Но мяч не летит, подчиняясь Ньютоновской механике. Мяч это наше упрощённое название для неимоверного количества элементарных частиц и их взаимодействий (ну или облака комплексных амплитуд в конфигурационном пространстве, что впрочем не меняет суть).

Нигде в самом мяче не появляется специальной частицы-ярлыка со словом «мяч» из ниоткуда дающих ей новые инструкции, когда они собираются вместе. Эти частицы не начинают вдруг работать по новым законам или обладать новыми свойствами.

Нет особого момента, в который частицы решают:
Частица 1: О, теперь мы мяч, и подчиняемся Ньютоновской механике.
Скептически настроенная частица: Подожди, в какой момент это произошло?
Частица 1: Ну, ведь мы стоим определённым образом, а это значит, что квантовая механика теперь не описывает нас. Нас для неё слишком много, и мы составляем слишком большой объект.
Скептически настроенная частица: Что значит слишком большой объект? Откуда именно у нас новая инструкция?
Частица 1: Хм. Хорошо, представь мост. Мост – это больше чем сумма материалов, которые его составляют. Ведь если мы просто сложим в кучу сталь и бетон, мы не получим моста. Важно то, что он связывает два берега. Это его эмерджетное свойство. Ни одной его детали по отдельности не свойственно связывать две точки. Это новое свойство, которое появляется в результате эмерджетности. Он теперь подчиняется совсем другим законам.
Скептически настроенная частица: Подожди, мы говорим о карте или о территории? На карте мы можем создать новое свойство, просто приписав к горе слова – «горнолыжный курорт». Ты это называешь эмерджетностью?
Возникновением новых свойств ты называешь свидетельства, которые не описывает карта с заданным масштабом. Это не исключение или странность территории. Это ограничения любой неидеальной карты. Нарушением или изменением законов ты называешь момент, когда у тебя заканчивается вычислительная мощность для расчёта по карте с большим масштабом и ты «соскакиваешь» на карту с меньшим масштабом. Никаких новых законов в реальности не возникает. Мы с тобой не можем подчиняться Ньютоновской механике, потому что это упрощенное описание того чему мы реально подчиняемся. И существуют оно не в нас с тобой, а в головах людей!...

Продолжение.
Это часть статьи, начало тут.

...Соглашусь со Скептически настроенной частицей. Именно в склизкой штуке, которую я упоминал ранее, существуют разные убеждения для разных уровней. Они нужны там для создания прогнозов с удовлетворительной точностью и минимальными затратами вычислительной мощности.

Реальность существует на одном единственном уровне по единому своду законов (Хокинг называл это Теорией всего). У нее, по-видимому, нет никаких проблем с вычислительной мощностью. А вот мы не можем думать на этом уровне. У нас даже ещё нет Теории всего. Но мы уже с трудом считаем нашими самыми совершенными компьютерами самые простые и маленькие объекты в крупном масштабе. Посчитать же ТОЧНО явления вроде погоды на таком уровне мы даже не пробуем (см. теорию Хаоса).

Коллективные карты.

Человечество накопило суммарно знания об огромных территориях. Они хранятся в виде гигантских карт, по которым самим можно блуждать как по огромным территориям. Но данные карты ни один человек не может взять с собой. Представьте человека, который является специалистом во всех науках. Или человека, который является специалистом хотя бы во всех разделах одной науки (к примеру, во всех современных разделах математики). Это не призыв отказаться от изучения территории! Ведь мы можем снимать мелкомасштабные копии. Но кажется полезным помнить, как о существовании крупномасштабных коллективных карт, так и собственно о территории имеющей самый большой возможный масштаб (1:1).

Индивидуальные карты

Это же объясняет, почему мелкомасштабные убеждения (например, стоит ли доверять новому коллеге?) играют с практической точки зрения такую огромную роль. Ведь зачастую именно от их точности зависит успех нашего взаимодействия с тем микроскопическим невычислимо сложным кусочком реальности, который мы называем своей жизнью. Но тот факт, что мы не можем просчитать хотя бы этот кусочек полностью, НЕ ГОВОРИТ о том, что мы должны оставить попытки сделать его предсказуемее.

Навигация по циклу статей.
Возврат убеждений по гарантии.

- Здравствуйте. Я хотел бы вернуть пару убеждений по гарантии.
- Добрый день! Где приобретали?
- Ну, вот эти из ленты новостей, вот это из группового чата, а вот это точно не помню.
- Дайте взглянуть… Ой, такое мы не обслуживаем. Это ж ширпотреб. Какая тут гарантия? Это Вы только на свой страх и риск используете. Тут же связи с реальностью почти нет.
- Хорошо, а вот это из книги, гарантийное?
- Вот это давайте посмотрим. Что не так?
- Не работает. Ну как не работает, вроде надёжное должно быть, но ожидания не оправдывает.
- (недолго крутит в руках убеждение, и светит фонариком) Так у Вас уверенность в этом убеждении накручена. Вы где столько свидетельств подтверждающих взяли? Это ж Вам не теория относительности.
- Да вроде не накручивал ничего.
- Да вот же (показывает пальцем на структуру убеждения), взгляните сами. У Вас один и тот же подтверждающий аргумент - пять раз посчитан! А в логах вообще затёртые свидетельства «против». Как же Вы так?
- Да я старался не выбирать, всё принимал, как и полагается. Ну, пару свидетельств «против» проигнорировал. Так вроде все так делают.
- Вот именно, все так делают. Поэтому у нас очередь на год вперёд. Все игнорируют сервисное обслуживание до последнего, пока не повылезают как у Вас проблемы с завышенными ожиданиями. А некоторые и после этого ничего не меняют. Идут в какие-нибудь неофициальные сервисы, им там такое начинивают… Лучше б сами.
- Да-а, затянул. Руки как-то не доходили разобрать эту часть. Я профессиональные убеждения знаете, как хорошо обслуживаю? Честно-честно, там же прямая связь точности с результатом.
- Так и здесь прямая, только отложенная по времени и менее заметная. Пока вот так не накопится, как будто её и нет. А потом удивляетесь.
- Тоже верно. Скажите, чего делать-то теперь?
- По этому убеждению? Только сбрасывать к априорным настройкам. Хард ребут так сказать.
- Хорошо, то есть сбрасываю, и точность будет уверенности соответствовать?
- Если Вы так обслуживать будете, то очень скоро перестанет. Поймите, это же убеждение! Уверенность в нём постоянно нужно менять с каждым достоверным свидетельством. По чуть-чуть. При этом не накручивать ни в какую сторону специально. Если чувствуете, что «лягается», нужно отпускать аккуратно.
- А как это понять, «лягается»?
- Это когда Вам в лоб свидетельства «против» летят, а Вы всё держите на прежнем уровне уверенность, не отпускаете. Вы это почувствуете, у Вас адекватность дребезжать начнёт. Хотя если часто будете так делать, привыкните и чувствовать перестанете.
- Понял, а дальше?
- А дальше аккуратненько нащупывайте адекватную уверенность. Чтобы Вы в этом убеждении были уверены, ровно настолько, насколько оно точные прогнозы выдаёт. При этом следите за когнитивными искажениями (здесь будет ссылка). А то опять навертите. Я бы и другие убеждения проверил, особенно те, которые с этим тёрлись. Только за всё сразу не хватайтесь. Кажется, мы с Вами не в последний раз общаемся.
Законы природы не волнует наше мнение о них.

В статье про свидетельства мы разобрались, почему Карта соответствует Территории (и уточнили, что это соответствие строго неточно в другой статье). Это происходит, потому что мы подгоняем свою Карту под Территорию. Но вот интересный вопрос: может ли Карта влиять на Территорию? Кажется, нет. И вот почему.

Односторонняя связь.

Что произойдёт с Территорией, если Вы дорисуете на её Карте гору? С Территорией от этого не произойдёт ничего. Какие бы изменения Вы не вносили в карту, или даже во все карты, на территории от этого не произойдёт никаких изменений. Карта основана на территории. Не наоборот!

Референдум о законах.

«В науке самые важные места занимают те, кто смог опровергнуть постулаты чьих то убеждений. Особенно основополагающих» Терри Пратчетт.

Именно поэтому степень нашей уверенности в убеждениях обязана строго соответствовать балансу достоверных доказательств. Реальность не подстраивается под наши ожидания. Как раз наоборот: единственный способ привести наши ожидания в соответствие с тем, что будет – это изменить их.

Этот закон никак не может изменить не сила нашей уверенности в убеждениях, ни количество людей, которые так же уверены в этом убеждении. Если два инженера простят друг другу общие ошибки, то обе собранные ими ракеты все равно не полетят! Даже если все инженеры мира соберутся и договорятся считать незначительным некоторое нарушение в сборке ракет и Илон Маск напишет об этом в своём Твиттере, эти ракеты с ошибками все равно не полетят.

Так происходит потому, что реальность не интересуется нашими убеждениями о том, как она должна работать. У неё просто нет такого механизма. Не происходит ничего напоминающего выборы, когда реальность опрашивает, а работает ли сегодня, по мнению людей гравитация? До открытия гравитации, люди падали преимущественно вниз, как и сегодня. И это происходило вне зависимости от их убеждений.

Учёные не решают, какими будут законы природы. Они их просто угадывают. А затем проверяют свои прогнозы, сопоставляя их с реальностью. Кажется, нет никаких оснований полагать, что в обычной жизни эти принципы работают как то иначе.

План завтрашней территории.

Прочитав текст выше Генерал решил, что это дезинформация. Ведь пока противник рисует карты наступления, мы меняем ландшафты. Причём в ручную. Мы что, не можем завтра накопать гору и привести территорию в соответствие с картой, на которой нарисовали гору сегодня? Прикинув количество солдат, минимально необходимого для осуществления данного плана, Генерал всё же решил дочитать текст.

Отвечая на вопрос Генерала, можем ли мы накопать гору завтра: можем. Но это не изменит несоответствие нашей сегодняшней карты и сегодняшней территории. Мы сегодня имеем неточную карту (ведь там, где на территории – равнина, на карте – гора). Можем назвать её планом завтрашней территории. Тогда завтра мы можем затратить конкретное усилие на «подгонку» сегодняшней территории под план будущей (при условии, что осуществление этого усилия вообще возможно). Есть одна загвоздка… Для этого нам всё равно сегодня нужна точная карта сегодняшней территории. Карта с нарисованной горой будет планом, только если у Вас есть точная карта без горы. Если Вы с этим не согласны, то Вы вскоре обнаружите себя накапывающим гору посреди океана.

Продолжение статьи...
...Начало статьи

Будущее.

«Произведение оптимизма на знания - величина постоянная» Ландау.

Мы, наши убеждения и наше поведение – это часть реальности. Наше поведение, конечно же, зависит от наших убеждений. При этом наше текущее поведение активно влияет только на будущую реальность. Причём влияет оно строго по определённым законам, которые вообще никак не зависят от наших убеждений.

Вы можете переместить шарик, взяв его рукой из коробки и положив в корзину. Вы не можете переместить шарик, подумав: «ага, теперь он в корзине». Хотеть и верить недостаточно (несмотря на сильное желание и искреннюю веру создателей псевдонаучного фильма «Секрет»). Это происходит потому, что в реальности шарик все равно в коробке. И чтобы он оказался в корзине, его НЕОБХОДИМО переместить. То есть совершить действия отличные от изменения Ваших убеждений. Таков закон, верите Вы в него или нет.

Навигация по циклу статей.
Смерть единорогов.

- Ну, круто, чувак. И куда теперь грузить мёртвых единорогов?!
- Эм, что?
- Ты говоришь, что я обязан верить только в то, что диктуют мне свидетельства.
- Не то чтобы я тебя заставляю, и не то чтобы я придумал эту идею. Но, кажется, иметь убеждения, основанные на свидетельствах полезнее. Ведь это позволяет тебе сделать мир вокруг чуточку предсказуемее.
- Да, да. Не повторяйся, про плюшки я всё уже понял. Ты забыл упомянуть про жирнющий минус!
- О каком именно минусе ты говоришь?
- Офигенно, он ещё и не один?
- Давай начнём с того, который ты обнаружил.
- Я о куче мёртвых единорогов! Ты убил их всех!
- Кажется, я догадываюсь, о чём ты.
- Я верил в единорогов. Что в этом плохого? Чем тебе не нравится эта идея?
- Ну, так продолжай в них верить.
- Ты издеваешься, дружище? Я больше не могу! Я бы мог дальше в них верить, но ты столкнул меня с этими дурацкими работающими идеями. О реальности, убеждениях и том, как одно становится другим, а другое не становится одним. Я бы мог закрыть на всё это глаза. Но я уже понял. Теперь я и сам могу тебе всё это объяснить. Но вот чего я не могу, так это распонять обратно. Ты же знал, что я не смогу больше верить в то, во что мне нравится?
- Предполагал. Но в чём проблема с единорогами?
- Огромная! Куча! Трупов! Однорогих лошадей с крыльями! А так, вообще никаких проблем.
- Это я понял, но где она? Показывай.
- Ну, я фигурально выражаюсь. Но вчера ещё, ну не совсем вчера, а то ты опять к словам придерёшься... Короче, совсем недавно я верил в классную штуку, которая греет мою душу. И вот бегали эти единороги, никому не мешали, и тут БАЦ. Критическое мышление понимаешь. Здравый смысл. Я всю жизнь знал эти словосочетания. Но зачем было их объяснять?
- Подожди, где куча? Нет кучи – нет проблемы.
- В душе у меня куча, и это ты её оставил. Единорогов больше нет, и не будет!
- Но их и вчера не было. Их вообще не было. Ты не мог с ними взаимодействовать ни вчера, ни сегодня. Это убеждение не связано с реальностью. И вчера не было связано. Я никого не убивал. И ты никого не убивал. Ты просто убрал из своей головы убеждения, которые давали тебе неточный прогноз.
- Так они не давали вообще никакого прогноза.
- Тем более, если они не давали никакого прогноза, то они были бесполезны.
- Зато они давали тёплое ощущение на душе. То есть, ничего не отнимая, они давали что-то взамен. Это разве бесполезно? Что ты на это скажешь?

Продолжение
Начало статьи

- Знаешь, я думаю, что можно наслаждаться и вполне реальными вещами. Это как с Дедом Морозом.
- Та-ак, вот тут аккуратнее. Ты же не будешь рушить сразу все мои убеждения? Ты кажется сам говорил, что это лучше делать аккуратно.
- Хм. Ну, я имею в виду: давай представим, что Деда мороза нет.
- Я так блин и знал, что ты это сделаешь!
- Погоди, я имею в виду - только представим. Не в самом деле. Так вот, если бы Деда Мороза не было, то мы ведь всё ещё могли бы наряжаться в него, водить хороводы, веселиться и класть друг другу подарки под ёлку.
- Ага, только с унылыми лицами, как у тебя вечно. А как же ощущение чуда?
- Ощущение чуда действительно рушится. Но ведь если чуда нет, а мы его ждём, то это выяснится. Представь, что подарки под ёлку клал бы не Дед мороз, а кто-то другой. И вот кого-то другого не стало в реальности. Подарки закончились бы. И за ними отправилось бы и чудо. Разве у тебя не бывало чего-то подобного?
- Знаешь, здесь ты прав. Хорошо, что подарки под ёлку кладёт Дед Мороз. Но ведь в случае с единорогами всё совсем по-другому. Ты что не видишь принципиальную разницу? Что должно произойти или не произойти, чтобы чудо разрушилось самостоятельно?
- Если честно, я об этом не думал. Пожалуй ты прав. Это и вправду минус. Это твоя плата за точные прогнозы.
- Неужели нет способа как-то хитро верить в приятные ничего не прогнозирующие штуки и при этом иметь точные убеждения?
- Кажется, нет. Принципы, которые ты применяешь для того, чтобы верить в «приятные ничего не прогнозирующие штуки» позволяют тебе верить в неточные убеждения. У них одна дверь. Она либо открыта, либо закрыта.
- Хорошо, но пересматривая свои убеждения, разве я не могу принять принцип – если убеждение даёт тепло на душе, заранее нужно относиться к нему менее критично?.. Ага, не отвечай, я сам понял. Ну и как со всем этим жить?
- Получать тепло на душе от штук, которые дают точные убеждения. Среди них немало поводов для радости. И кстати, среди убеждений, которые не дают никаких прогнозов не так уж мало поводов для расстройств. Как насчёт волчка, который откромсает тебе бочину, если ты будешь плохо себя вести?
- А его, что, нет? Фух, это и вправду облегчает жизнь. Но реальность кажется, не знаю как сказать, немного скучноватой что-ли.
- О, это не так. Попробуй взглянуть на это немного иначе.
Ценность точных карт

У путешественника есть три весомых причины любить и ценить точные карты.

Во-первых: они позволяют ставить любые цели, которые существуют на территории. Представьте, мы снаряжаем экспедицию (или просто тратим весь свой отпуск на путь) до красивейшего архитектурного сооружения. А после узнаём, что оно есть только на нашей неточной карте. И более того, на территории оно не просто «где-то не там», - его вообще не существует. Вы и сами можете припомнить такие ситуации. Весьма досадно. Но это закономерная расплата за неточные карты.

Во-вторых: они позволяют выбирать оптимальный маршрут. Если мы имеем достаточное количество информации о территории (свидетельств), мы можем сравнить различные пути достижения целей и выбрать наиболее подходящий. Причём обратите внимание, чем больше у нас достоверной информации, тем более очевиден выбор маршрута с любыми критериями. Даже если нашим выбором будет «сложный» маршрут – это всё же будет выбор. Куда обиднее попасть на сложный маршрут интуитивно, и героически его, преодолев, обнаружить короткий маршрут, по которому все уже давно прошли.

В-третьих: они делают территорию предсказуемее. Возможно, у нас ещё нет цели, и мы не строим никакой маршрут. Тем не менее, даже на прогулке хорошо бы снизить количество «сюрпризов». Ведь они могут быть как приятными, так и фатальными. Но без точной карты, невозможно выбрать только приятные (иногда это невозможно и с точной картой из-за особенностей территории, но у Вас будет ВЫБОР!). Есть вполне резонное замечание: «предсказуемый сюрприз - уже не сюрприз». Но, к сожалению, мы не имеем опции «иметь неожиданные приятные сюрпризы, но знать обо всех опасностях». Мы либо знаем, что за поворотом, либо нет.

Предсказуемость важна, даже если мы собираемся просто стоять на месте. Ведь территория непрерывно меняется. А если преуспеть в отрицании ценности точных карт, можно не заметить приближающийся ледник, пока он вежливо не попросит нас подвинуться ("отрицание ценности точных карт", вот это я завернул; если бы я очень любил придумывать сокращения, я бы назвал это "анмапинг").

Оттенки серого

Если Вы уже готовы возразить, что карты нельзя поделить на точные и неточные, скорее всего это первая статья из цикла прочитанная Вами. В таком случае сообщаю: не беспокойтесь – я уже возмутился против себя за Вас. Даже дважды.

Да, карты нельзя поделить на точные и неточные. Но это не запрещает нам сравнивать их точность. То есть, взяв две карты приблизительного одного масштаба изображающих одну и ту же территорию, мы можем выбрать ту, что точнее по имеющимся свидетельствам. Затем мы можем обновлять данное сравнение с каждым поступающим свидетельством.

Если мы стараемся придерживаться данного принципа, мы увеличиваем вероятность получения всех преимуществ из прошлого пункта. Увеличиваем вероятность, а не гарантируем. Ведь отлично путешествовать можно даже без карты. Вопрос лишь в вероятности. Про эти вероятности мы ещё поговорим в заключительной статье цикла.

Навигация по циклу статей.
Бесценные карты

«И как обычно с вопросом курицы и яйца, ответ - Да» Дэниэл Деннет.

Ранее я предложил общий принцип сравнения карт. Коротко напомню.

Карта это прогноз (образ) того, что мы ожидаем увидеть на территории. Представьте себе двух путешественников, у одного из которых на карте есть гора, а у другого там же поле. Максимум один из них (а возможно ни один, но никак не двое) имеет точную карту. К счастью, эти карты возможно сравнить. Если выйдя на территорию, мы получаем свидетельство в виде горы, то вопрос решён, как и если мы получаем обратное свидетельство. Конечно, практическая реализация данного принципа «упирается» в известные камни (их обход я планирую обсудить вне этого цикла). Но сравнение карт всё же принципиально возможно.

Однако не всё на карте относится к прогнозам наших ожиданий. Что если мы поменяем название горы? На одной карте гора называется «А», а на другой «Б». Они предлагают один и тот же образ. Можем ли мы проверить, каково реальное название? И где на территории нам его искать?

Представьте себе двух путешественников, у одного из которых гора обозначена как треугольник, а у другого как стрелка вверх. Несмотря на то, что у них один и тот же образ территории (их ожидания полностью совпадают), у них как будто есть повод для разногласий. И эти разногласия не разрешить, поднявшись на вершину горы.

Есть ещё более сложная ситуация. У одного из путешественников, есть карта с изображением «принципиально недостижимой» территории. Такая ситуация называется претензия на неопровержимость. Второй путешественник не может утверждать, что данная карта неточна. Ведь свидетельства можно получить только на достижимой территории. А если «недостижимая территория» никак не влияет на достижимую, то её карта действительно неопровержима.

У карт недостижимых территорий, условных обозначений и названий есть нечто общее. В плане взаимодействия с территорией (и всех преимуществ точных карт) - они бесценны. Буквально. Их ценность в любом из данных аспектов равна нулю. Ведь если бы они как то влияли на достижимую территорию, по которой мы ходим, мы могли бы получить свидетельства их точности (и присвоили бы им ценность). Нет влияния - нет ценности.

Продолжение...
...начало статьи

Плавающие убеждения

«Я никогда не отдам жизнь за свои убеждения. Ведь я могу ошибаться» Бертран Рассел

Давайте отвлечёмся от нашей аналогии и вернёмся к убеждениям. Что если убеждение даёт один и тот же прогноз, как в случае своей верности, так и наоборот? Для этого мы вернёмся к тесту Салли-Энн. Если мы ожидаем увидеть шарик в корзине, то возможны два мира: шарик в корзине или шарик где угодно, но строго не в корзине. Убеждение может оказаться ложным. Мы можем жить в мире, где шарик не в корзине.

Но что, если мы убеждены, что шарик превращается в единорога каждый раз, когда мы не смотрим на него (и не регистрируем ни одним прибором)? Такое убеждение не даёт нам никакого наблюдаемого эффекта, мы не можем оказаться неправы. Мир, в котором данное убеждение верно ВЫГЛЯДИТ так же как мир, в котором оно не верно. Такие убеждения называются «плавающими», за отсутствие якоря ведущего к реальности.

Проблема заключается в том, что плавающие убеждения выглядят точь-в-точь как нормальные убеждения о реальности.

Рецепт поимки плавающего убеждения:
• представить мир в котором данное убеждение верно
• представить мир в котором данное убеждение неверно
• если миры совпадают, плавающее убеждение попалось
• если миры отличаются, мы знаем как понять в каком мы живём

Но зачем их вообще ловить? Напомню, что склизкая штука весом 1,3 кг у нас в черепе отбиралась эволюцией именно на точность прогнозов. Дисковое пространство и оперативная память там имеют серьёзные ограничения. И если этого не достаточно, чтобы начать избавляться от «плавающих убеждений», то подумайте вот о чём. Подобные убеждения имеют поразительную способность рождать принципиально неразрешимые споры. Такие споры частенько перерастают в серьёзные конфликты или даже войны. Понаблюдайте за ближайшим спором, который произойдёт при Вас. Будут ли у путешественников разные прогнозы, или они будут спорить о стрелке и треугольнике?

Навигация по циклу статей.
Ваши рекомендации Научпоп книг.

Рекомендации Наупоп книг собранные с моих статей на Хабре и Пикабу. К моему удивлению подборка даже без дополнительной фильтрации оказалась весьма полезной. Хоть я согласен далеко не со всеми рекомендациями, публикую как есть. Научная фантастика отдельно.

Раздел 1. Законы науки и мышление
(Математика, Рациональность, Научный метод, Когнитивные искажения, Нейрофизиология, Ошибки мышления, Доказательная медицина)
• «21 урок для 21-ого века» Юваль Ной Харари
• «Власть привычки» Чарлз Дахигг
• «Мозг и душа (Making up the mind)» Фрит Крис
• «Математическая составляющая» Андреев, Коновалов, Панюнин
• «Удовольствие от Х» Стивен Строгац
• «Не рычите на собаку» Карен Прайор
• «Кто за главного» Газзанига Майкл
• «Наша математическая вселенная...» Макс Тегмарк
• «(Не)совершенная случайность» Млодинов
• «Введение в теорию вероятностей» Коломогоров
• «Инноваторы» Айзексон
• «Ложная память. Почему нельзя доверять воспоминаниям» Джулия Шоу
• «Думай как математик. Как решать любые задачи быстрее и эффективнее» Оакли Барбара
• «Как стать гением. Жизненная стратегия творческой личности» Генрих Альтшуллер
• «Человек, который принял жену за шляпу» Оливер Сакс
• «Черный Лебедь» Талеб
• «Сигналы, помехи, ошибки» Финк Л.М.
• «Псевдонаука и паранормальные явления» Дж.Смит
• «Кто бы могу подумать» Ася Казанцева
• «В интернете кто-то неправ!» Ася Казанцева
• «Мозг материален» Ася Казанцева
• «Психология влияния» Роберт Чалдини
• «Предсказуемая иррациональность: скрытые силы, определяющие наши решения» Дэн Ариели
• «Позитивная иррациональность: как извлечь выгоду из своих нелогичных поступков» Дэн Ариели
• «Вся правда о неправде. Почему и как мы обманываем» Дэн Ариели
• «Nudge Архитектура выбора» Ричард Талер и Касс Санстейн
• «Записки врача» Версаев
• «Логические ошибки: как они мешают правильно мыслить» Уёмов

Раздел 2. Законы природы
(Физика, Теория относительности, Квантовая механика, Астрофизика, Астрономия, Изобретения и открытия)
• «Программируя Вселенную» Сета Ллойда
• «Эта идея должна умереть. Научные теории, которые блокируют прогресс» Смолин, Гут, Паркер
• «Структура реальности» Дэвид Дойч
• «Теория струн и скрытые измерения Вселенной» Шинтан Яу, Стив Надис
• «Сумма технологии» — Станислав Лем
• «Драма идей в познании природы» Зельдович Я. Б., Хлопов М. Ю.
• «Интерстеллар: наука за кадром» Кип Торн
• «Физика невозможного» Митио Каку

Раздел 3. Законы жизни
(Абиогенез, Теория эволюции, Химия жизни (Клетки, ДНК), Антропогенез)
• «Сапиенс» Юваль Ной Харари
• «Рождение сложности» Александр Марков
• «Онтогенез» Джейми Дэйвис
• «Биология добра и зла» Роберт Сапольски
• «Игры тестестерона» Роберт Сапольски
• «Почему у зебр не бывает инфаркта» Роберт Сапольски
• «Всё, что осталось» Блэк Сью
• «Когда смерть становится жизнью. Будна врача трансплантолога» Мезрич Джошуа
• «От матки до альцгеймера» Дика Свааба
• «Энергия и жизнь» Печуркин
• «Стой, кто ведет? Биология поведения человека и других зверей» Жуков
Ваши рекомендации Научной фантастики.

Рекомендации научной фантастики собранные с моих статей на Хабре и Пикабу. Напомню, что просил в первую очередь твёрдую НФ. Подборка получилась больше чем по всем трём предыдущим разделам, поэтому вынесена в отдельную статью. Кстати сделал сортировку по фамилии автора как и просили.

• «Сами боги» Айзек Азимов
• «Основание» Айзек Азимов
• «Порт Каменных Бурь» Генрих Альтшуллер
• «Когда замирает время» Пол Андерсон
• «Голова профессора Доуэля» Александр Беляев
• «Человек-Амфибия» Александр Беляев
• «Пламя над бездной» Вернор Виндж
• «Дюна» Фрэнк Герберт
• «Нейромант» Уильям Гибсон
• «Черный человек» Василий Головачев
• «Астровитянка» Николай Горькавый
• «Лестница из терновника» Максим Далин
• «Убик» Филип Дик
• «Планиверсум. Виртуальный контакт с двухмерным миром» Александр Дьюдни
• «Туманность Андромеды» Иван Ефремов
• «Час Быка» Иван Ефремов
• «Пух и его Бочонок меда» Алескандр Зайцев
• «Роза и Червь» Роберт Ибатуллин
• «Город перестановок» Грег Иган
• «Карантин» Грег Иган
• «Лестница Шильда» Грег Иган
• «Прикладное терраформирование » Эдуард Катлас
• «Психоисторический кризис» Дональд Кингсбери
• «Экспедиция „Тяготение“» Хол Клемент
• «Гриада» Александр Колпаков
• «Пространство» Джеймс Кори
• «Сеть Нанотех» Александр Лазаревич
• «Сеть Технокосм» Александр Лазаревич
• «Лабиринт для троглодитов» Ольга Ларионова
• «Леопард с вершины Килиманджаро» Ольга Ларионова
• «Фиаско» Станислав Лем
• «Возвращение со звезд» Станислав Лем
• «Глас господа» Станислав Лем
• «Мегабитовая бомба» Станислав Лем
• «Насморк» Станислав Лем
• «Солярис» Станислав Лем
• «Формула Лимфатера» Станислав Лем
• «Футурологический конгресс» Станислав Лем
• «Кибериада» Станислав Лем
• «Непобедимый» Станислав Лем
• «Пернский цикл» Энн Маккефри
• «Барраяр» Лоис Макмастер Буджолд
• «Посольский город» Чайна Мьевель
• «Мир-Кольцо» Ларри Нивен
• «Лунная радуга» Сергей Павлов
• «Опрокинутый мир» Кристофер Прист
• «Молот Люцифера» Джерри Пурнель, Ларри Нивен
• «Депортация» Александр Розов
• «Чужая в чужом море» Александр Розов
• «Берсеркер» Фред Саберхагена
• «Контакт» Карл Саган
• «Заповедник гоблинов» Клиффорд Саймак
• «Игра Эндера» Орсон Скотт Кард
• «Барочный цикл» Нил Стивенсон
• «Криптономикон» Нил Стивенсон
• «Семиевие» Нил Стивенсон
• «Мир Полудня» Аркадий и Борис Стругацкие
• «Пикник на обочине» Аркадий и Борис Стругацкие
• «Стажеры» Аркадий и Борис Стругацкие
• «Годы риса и соли» Ким Стэннли Робинсон
• «Марсианская трилогия» Ким Стэннли Робинсон
• «Древний» Сергей Тармашев
• «Тау ноль» Пол Уильям Андерсон
• «Марсианин» Энди Уир
• «Остров» Питер Уоттс
• «Рифтеры» Питер Уоттс
• «Эхопраксия» Питер Уоттс
• «Многоярусный мир» Филипп Фармер
• «Время для звезд» Роберт Хайнлайн
• «Звездный десант» Роберт Хайнлайн
• «Дверь в лето» Роберт Хайнлайн
• «Чужак в чужой стране» Роберт Хайнлайн
• «Вечная жизнь смерти» Лю Цисинь
• «Задача трёх тел» Лю Цисинь
• «Темный лес» Лю Цисинь
• «Дети Времени» Адриан Чайковски
• «Выдох» Тед Чан
• «История твоей жизни» Тед Чан
• «Понимай» Тед Чан
• «Ковчег 47 Либра» Борис Штерн
• «Цветок Камнеломки» Александр Шуваев и Ко
• «Стая» Франк Щетцинг
• «Тройной контакт» Элиезер Юдковски
• «Возрождение времени» Баошу
Как я людей на типы делил

«Главный принцип - не дурачить самого себя. А себя как раз легче всего одурачить» Ричард Фейнман.

В статье про рациональность, я оговорился, что рациональность начинается с критики своих убеждений. Расскажу о том, как я обнаружил, что необоснованно верю в неточные убеждения. И как это поставило меня в крайне неловкую ситуацию.

Делитель.

В студенческие годы я активно участвовал в различных молодежных форумах. На одном из таких мероприятий я поучаствовал в тренинге по типологии личностей. Я не буду называть конкретную типологию, для целей статьи это значение не имеет. Механизмы подобных систем очень похожи, так что можете смело подставить знакомую вам (про Штирлица, козерогов или оральный вектор).

Эта типология обещала научить лучше понимать других людей, и при этом бонусом разобраться в себе. Она открыла глаза на то, что люди думают по разному и ценят разные вещи в жизни. Я быстро вник, определил свой тип, и начал раздавать типы всем своим знакомым. Попутно я прочитал книгу автора типологии, после чего стал распространять идею среди всех до кого вообще мог дотянуться. Так как общественная деятельность в студенческие годы кипела, дотянуться я успел много до кого.

В моём круге общения почти не осталось людей, которые не вникли в тему. Это породило особый жаргон, который внешне выглядел как что-то сектантское, но мы то знали, идея базируется на науке (так заверял автор технологии). Что самое забавное, этот таинственный жаргон скорее привлекал людей, чем отталкивал.

Люди задавали вопросы, высказывали скепсис и получали очень убедительно выглядящие ответы. «Спасибо» курсу дебатных технологий (по формату Карла Поппера). На тот момент я обладал весьма неплохими навыками убеждения. Я ведь упоминал, что риторика это обоюдоострое оружие для любой позиции?

Изнутри все выглядело так, как будто технология работает. Сомнений не возникало, все стандартные возражения были отработаны мною лично и пропущены через себя. Убеждение стало частью меня и моей жизни. Что могло пойти не так?

Состав

Не стану вдаваться в детали (это тема для отдельной статьи), но в какой то момент в мою голову влетел локомотив с большими красными буквами «Критическое мышление». Признаюсь, я далеко не сразу сопоставил содержимое вагонов этого поезда и своей головы. Но на каком-то из вагонов для меня стало очевидно, что с типологиями вообще и с нашей в частности что-то не так. Вагоны далее идут примерно в том же порядке, в котором они проезжались по моей неадекватности конкретно в этой теме. Их описания будут краткими, и к каждому мы обязательно вернёмся в будущих статьях.

Вагон 1. Эффект Форера (он же - Эффект Барнума).
Психолог Бертрам Форер в далёком 1948 году попросил своих студентов заполнить тест, и пообещал составить точный психологический портрет каждого. 34 из 39 студентов высоко оценили точность описания. Вот только описание было одно на всех и взято было из газетного гороскопа. Свойство нашего мозга считать убедительными расплывчатые описания нашей личности назвали Эффектом Форера. Усиливает данный эффект два основных фактора: если описание подготовлено индивидуально для нас (после опроса или тестирования) и если описание составляет «квалифицированный специалист», то есть авторитет.

Вагон 2. Апофения.
Наш мозг заточен на поиск закономерностей. И это круто, ведь позволяет нам устанавливать причинно-следственные связи. Но есть и побочный эффект, мы вычленяем закономерности даже тогда, когда их нет. Что ещё хуже, корреляции встречаются неизбежно, и тем чаще, чем больше параметров мы анализируем (есть даже сайт с забавными корреляциями). А именно корреляции наш мозг принимает за закономерности и превращает в предрассудки. Здесь могла бы спасти статистика, но наша интуиция отказывается с ней работать. К тому же и в самой статистике есть сложности с обработкой подобных кейсов. Именно из-за этих сложностей рождаются аргументы вроде «эффекта Марса».

Продолжение по ссылке (откроется прямо в приложении).
Открыта новая планета!
Международный скандал и споры о приоритете.


Ночью в Берлинской обсерватории была открыта новая планета солнечной системы. Открытие осуществили Иоганн Галле и его аспирант Генрих д’Арре на основе расчетов французского астронома Урбена Леверье. Наблюдение произведено телескопом (экваториальным ахроматическим рефрактором) фирмы Merz und Mahler. Это стало возможным благодаря тесному международному сотрудничеству в области астрономии, а так же в результате значительного усовершенствования технических средств наблюдения за небесными телами.

Но самое главное в данном событии - вера учёных. Вера в математику. Сенсация уже успела получить в прессе название «планета, открытая на кончике курсора». Название дал французский физик и астроном Доминик Франсуа Жан Араго, который вдохновил Леверье заняться этой тематикой. И такое название вовсе не случайно. Впервые астрономам удалось найти планету не исключительно с помощью методов наблюдения, а благодаря предварительным вычислениям.

В утреннем комментарии член Королевского Астрономического общества и Парижской академии наук Джордж Эйри отметил:
«Во всей истории астрономии и, даже я могу сказать, во всей истории науки не происходило ничего подобного… Уран, Церера, Паллада были открыты в ходе наблюдений, которые вовсе не предусматривали открытие планет… Но движение Урана, изученное учёными, которые находились целиком под впечатлением универсальности закона притяжения, указывало на действие некоторого возмущающего тела. Математики, наконец, решились приступить к работе, чтобы удостовериться в возможном существовании такого тела. Они показали, что предположение о возмущающем теле, движущемся по некоторой определённой орбите, полностью объясняет возмущение Урана. С твёрдостью, которую я должен характеризовать как замечательную, они выразили своё убеждение, что возмущающая планета должна находиться точно в некотором месте и иметь такой-то вид. Она действительно была найдена на этом месте и имела предсказанный вид. История астрономии не знает других подобных примеров».

К сожалению, открытию точно не удастся избежать споров о приоритете. Выяснилось, что на данный момент уже имеются другие независимо сделанные вычисления.

Так, математик Джон Адамс из Кембриджской обсерватории получил схожие с Леверье результаты. Адамс, как и Леверье основывался на работах Алексиса Бувара. Напомню, что Бувар ранее обнаружил отклонение траектории Урана от прогнозируемой, указывающее на наличие неизвестного небесного тела.

Однако, в результате медлительной коммуникации с вышеупомянутым Джорджем Эйри из Королевской обсерватории в Гринвиче и директором Кембриджской обсерватории Джеймосом Чаллисом вычисления Адамса не привели к активным наблюдениям.

Непонятным остаётся, почему у двух научных групп столько времени заняло решение обратной проблемы (выведение математической модели из наблюдаемых данных), которая является элементарной для современных компьютеров. Видимо какие-то причины тому были. Но тем не менее открытие имеет огромное значение для науки.

Галле предложил назвать планету «Янус». Чэллис же предложил название «Океан». Леверье хотел бы, чтобы планета была названа в его честь.

К сожалению, Иоганн Галле и большинство других исследователей, участвовавших в Проекте, более недоступны для комментариев.

Знаменательно, что открытие произошло именно в международный день удивительных открытий.

В ближайшее время вы несомненно многократно услышите об этом.

А ещё вы можете почитать про прорыв в исследованиях мозга!
Вводный урок

В камине потрескивали дрова. За окном лил проливной дождь. Промокшие молодые гномы рассаживались по креслам вокруг явно более старого гнома. Вы же знаете как отличить молодых гномов от старых? Они того же роста и тоже с бородой, но у них глаза глупее.

Приветствую вас на курсе «Теорема Байеса: в поисках золота» (начал гном постарше, стоящий в центре рядом с доской). Меня зовут Тифиус и я буду вести этот практически полезный теоретический курс. Теоретический он в том смысле, что золота по итогу курса у вас больше не станет (послышался вздох кого-то ближе к окну). Практическая же полезность курса в том, что он увеличивает вероятность получения золота в будущем.

Как вам всем хорошо известно, любой умный гном хочет быть поближе к золоту. Одни из нас становятся банкирами, чтобы блеск золота от золотхранилища радовал их по утрам вместо чашки кофе. Другие становятся ювелирами, чтобы почаще держать золото в руках. Те же, кто хочет по-настоящему добывать золото, идут как и вы в горнодобывающую школу.

У вас мог возникнуть вопрос: «а как же кузнецы, это же традиционная гномья профессия»? Вероятно в отличие от учеников вы не знаете историю жизни Тифиуса. Преподаватель кузнецов не любит, ведь один из них, по слухам, увёл его жену (правда жены у Тифиуса никогда не было). Когда Тифиус открыл динамит для добычи золота и стал очень богат, он даже учредил премию. Премия поощряла открытия во всех областях гномьей деятельности, кроме кузнечного дела.

Что же является главным в добыче золота? Уж точно не то, чему вас учат на остальных курсах. В вашей программе до сих пор есть киркомахание и ламповедение. С ума сойти, мы же давно используем диодные лампы и автоматизированные бурильные установки. Из за того, что любая достаточно развитая технология неотличима от магии, многие даже считают, что гномы преодолели врожденную неспособность к волшебству. Но всё это не так уж важно, ведь в добыче золота главное не физические навыки и не знакомство с новыми технологиями. Главное - это умение предсказывать, где можно найти золото.

Как же научится предсказывать? Нужно пройти курсы по астрологии, нумерологии и эзотерическим практикам. Шучу. Даже в нашем мире магии самыми точными предсказателями являются эльфийские учёные. И чтобы получить их силу не обязательно убивать их и пить их кровь, как считают некоторые гоблины.

Вообще любой умный гном прежде чем начать что-то делать, спрашивает: «а не придумали ли эльфийские учёные что-то полезное на этот счёт»? Кузнецы к этому методу конечно же не прибегают, они искренне уверены, что на каждую проблему найдётся свой молоток. Так что же такого особенного в предсказаниях эльфов?

Даже у орков полно предсказаний. Загвоздка лишь в том, что они не сбываются. Поэтому орки предпочитают делать предсказания либо о прошлом, либо о том, чего проверить не получится.

Эльфы же придумали хитрую систему мышления, которая позволяет им верить преимущественно в то, что сбывается. Они назвали эту систему научным методом. Она написана на самом мистическом и сектантском языке: языке математики.

Говорят магия построенная по этой системе может заставить летать вокруг земли 400 тонный дворец, или зачаровать частицы пролетать по тридцатикиллометровому кольцу десять тысяч раз за секунду. Это вам не расчеты орков по аэродинамике пнутого лепрекона.

Так вот. Эльфы выяснили как получать предсказания, которые всегда будут не хуже других (так вы сможете не завидовать решениям ни одного другого гнома). Чтобы систематически находить больше золота, всего то и надо - понять Теорему Байеса. Но не всё так просто. Во-первых она написана на языке математики. А у большинства гномов он на уровне арифметики, или в лучшем случае «читаю-перевожу». Во-вторых понимание математической основы не даёт с ходу интуитивное представление о том, как это позволит найти больше золота.

Курс призван решить обе проблемы. Бонусом вы получите понимание того, как в идеале нужно обновлять свои убеждения, чтобы мир удивлял вас как можно реже. И на следующем занятии мы поговорим о том, как работает это таинственное знание.

>> Урок 1.
Прозвон цепи.

Решил привести кейс из недавнего общения. Он отлично демонстрирует тот факт, что главное в решении проблемы - это найти её. Чтобы починить радиоприёмник, как это делал Ричард Фейнман в детстве, нужно понять какое именно звено в цепи не работает. Иными словами починка В ОСНОВНОМ состоит из поиска проблемы, и лишь немного из её устранения. К этому мы ещё вернёмся, а сейчас к кейсу.

Мой друг – собственник производственно-торгового предприятия. Он осуществляет в том числе оперативное управление через работу с руководителями направлений.

Вводится новый товар. Товар непростой, и его ценность нужно объяснять. Зато он имеет вполне конкретные преимущества, маржинален и является эксклюзивом по региону. Отдел продаж начинает предлагать его в допродажи по текущей базе и новым клиентам. Выхлоп никакой. Замешательство.

Планёрка тет-а-тет с руководителем отдела продаж (РОП).
СЕО: Слушай, новый товар ввели уже почти месяц назад. Мы под него взяли эксклюзив по региону. А продажи стоят на месте. В чём дело? Ожидания как-то не сходятся с реальностью.
РОП: Сама не понимаю. Я тоже ожидала другого результата. А что говорит поставщик, может всегда так?
СЕО: Поставщик показал цифры по реализации. Не золотые горы конечно, но вполне убедительно. Я поспрашивал у коллег по другим регионам, ни у кого пробуксовки не было на старте.
РОП: Странно, не можем же мы быть хуже всех. Тем более, что по остальным товарным группам мы впереди планеты всей в регионе.
СЕО: Товар непростой, может помочь с пониманием преимуществ?
РОП: Да нет, с этим всё понятно как раз.
СЕО: И всё же, на что давим при продаже?

Была выдвинута гипотеза. Сразу же ставится эксперимент. Результат: РОП рассказывает на отлично все ключевые фишки продукта.

СЕО: Так, хорошо. А менеджеры так же могут?
РОП: Конечно.
СЕО: Выбирай.
РОП: Что?
СЕО: Выбирай, кого зовём, проверим.
РОП: Ну давайте Алёну.

Тот же принцип: Гипотеза, эксперимент. Приходит Алёна

СЕО: Алён, расскажи, пожалуйста, какие преимущества есть у товара Х?

Алёна с трудом воспроизводит одну ключевую точку в вольной интерпретации. Теперь уже РОП в замешательстве. Её прогноз был явно другим. При этом убеждения были вполне искренними. Если бы она рассчитывала на такой результат, вероятнее всего от эксперимента она бы отказалась. Но она была уверена (не имея достаточного количества свидетельств), что преимущества уже у менеджеров в головах. Ведь ей, исходя из раздаточного материала, преимущества были очевидны (фундаментальная ошибка атрибуции)

РОП: Мда, неожиданно.
СЕО: Каков прогноз по остальным?
РОП: Не стану озвучивать, дайте пять минут, собрать информацию.
СЕО: Хорошо.

РОП сразу приняла новую информацию в расчёт. Она понимает ценность того, чтобы вовремя сказать УПС! Уходит на 5 минут. Собирает свидетельства с остальных менеджеров для подтягивания убеждений в сторону реальности. Возвращается

РОП: Есть две новости.
СЕО: (улыбается) Давай с плохой.
РОП: У нас проблема.
СЕО: Ну обрадуй теперь.
РОП: Я теперь знаю в чём она заключается и как её решать. Спасибо.

Карта обновлена на основе свидетельств и сразу становится понятнее оптимальный маршрут. Фактический результат плавно приходит в соответствие с прогнозом. А значит, у всех причастных убеждения совпадают с реальностью.

P.s. Люди из кейса выработали такой подход в результате самостоятельной оптимизации своего мышления. Они не называют себя рационалистами, и не знакомы с идеями в этом ключе. Но рациональность это про образ мысли и действий, а не про то, кто как себя называет.
Урок 1. Условные вероятности

«Информация порождает перемены, если она этого не делает, то это не информация» Клод Шеннон.

(Гном в центре зала оглядел подозрительно прибавившееся с прошлого занятия количество слушателей. «Репостили» подумал Тифиус). Далее по курсу я буду говорить на нормальном языке не прибегая к эльфийскому математическому. Но некоторое количество терминов вам все же прийдется понять. Понять - в смысле привыкнуть и научиться пользоваться. Если вам покажется, что какой-то термин не понятен: кричите прямо в меня. Объяснение обязано уменьшать неопределенность и загадочность. Это норма.

В прошлый раз мы уже обсудили, что поговорка «главное начать» работает только для кузнецов. Нет, конечно, для нормального гнома важно трудолюбие и умение поднять свою... бороду с дивана. Но хорошо бы при этом махать киркой хотя бы в направлении золота. Посему, для экономии сил, поиски золота мы начнём не с гор, а с чего-нибудь поменьше.

(Тифиус вывалил на стол десять кожаных мешочков). В каждом из этих мешочков есть золото. А ещё у нас есть особый инструмент: жёлтый магический камешек. Он работает так: если его поднести к мешочку с золотом, то в 9 из 10 случаев он загорается жёлтым цветом (Тифиус неспешно поднёс к каждому мешочку этот камешек и он действительно «не сработал» лишь один раз).

А теперь я достаю мешочек, о котором вам ничего не известно и подношу камешек к мешочку (Тифиус вынул мешочек из-за пазухи и поднёс к нему камень). Как вы видите — он горит жёлтым.

Какова вероятность найти там золото? Кто думает, что вероятность составляет 90%? (Взметнулась куча рук и Тифиус не сдержал довольной ухмылки).

Что ж, у меня тут завалялись ещё 10 пустых мешочков (Откуда-то из-за стола были вывалены ещё 10 точно таких же кожаных мешочков, Тифиус выборочно продемонстрировал, что они пусты). Можете проверить, здесь нет никакого фокуса — мешочки пусты. Давайте попробуем поднести к ним наш жёлтый магический камень. (Камень загорался раз за разом, и с каждым разом лица учеников становились все более раздосадованными. Он загорелся ровно 9 раз из 10, как и положено правильно зачарованному камню астрологических предсказаний). Кто-нибудь передумал насчёт вероятности? (Куча рук вновь взметнулась в небо). Хорошо, вы быстро учитесь.

Этот камень горит жёлтым над любым мешочком в 9 из 10 случаев. То есть ему «всё равно» есть ли в мешочке золото. Эльфы на этот счёт выражаются, что горение камня «статистически не связано с золотом». Орки выражаются прямее: они говорят, что камень бесполезен. И в деле поиска золота так и есть. Но как выглядит полезный камень?

Например, вот так (С этими словами Тифиус достал зелёный камень на верёвочке, чем то напоминающий маятник). Этот камень светится лишь над 8 из 10 мешочков с золотом. Но вы ведь уже смекнули, что главное в магическом камне, это не реакция на золото. Главное — это разная реакция на мешочек с золотом и на пустой мешочек! По тому же принципу работают аналитические инструменты, например медицинские тесты от друидов на диадемную лихорадку.

Этот камешек, редкий артефакт и он намного полезнее своего жёлтого собрата. Мы называем его камень Гюйгенса. Работающие инструменты принято называть именами магов вероятности. Польза его заключается в том, что с пустыми мешочками он загорается только в одном случае из десяти.

Если камень «ведёт» себя всегда одинаково, как это делает жёлтый булыжник, он не может «сообщить» нам ничего полезного. Он не является свидетельством, ведь он не «чувствует» золото. Если ваш нос будет выдавать одни и те же ощущения от любого запаха, вы явно усомнитесь в его функциональной пригодности. Такой симптом, кстати, является распространённым последствием диадемной лихорадки.

Совершенно иначе себя ведёт второй артефакт. Камень Гюйгенса «реагирует» по-разному в разных ситуациях (с золотом или без). Эльфы называют вероятности такого разного поведения в зависимости от условий - «условными вероятностями»...

Продолжение здесь:
Забор Честертона
Из цикла: Жаргон здравого смысла

«Многие критики, особенно наиболее ярые и философски подкованные, склонны, читая мою книгу, ограничиваться ее названием» Ричард Докинз.

Вы путешественник, встречающий посреди поля забор. Если вы не знаете для каких целей этот забор установлен, худшее решение - это снести его. Причём это решение плохо именно потому, что вы не знаете функционального предназначения забора. Возможно он охраняет вас от чего-то очень опасного. Возможно он используется не так, как вы предполагаете. Так или иначе — ваше незнание о задачах, которые выполняет данная ограда вовсе не является поводом сносить её. 

Этот факт подметил английский писатель Гилберт Честертон цитатой: «Никогда не ломайте забор, не узнав, зачем его поставили». Он таким образом хотел предостеречь от необдуманных реформ. Но как данный принцип может быть применён вне политики, в повседневности?

Не спешите сносить

Наши убеждения чем то похожи на заборы, о которых писал Честертон. Когда мы сталкиваемся с новым убеждением, которое кажется нам нелепым, у нас встаёт тот же выбор. Мы можем немедленно начать демонтаж. То есть промаркировать данное убеждением как глупое, а всех его носителей как людей недалёкого ума.

Но принцип «Забор/ограда Честертона» предлагает нам разобраться с какой целью и на каких основаниях существует убеждение, прежде чем бороться с ним.

Для этого нам понадобится пятьдесят грамм любознательности и тонну непредвзятости (зачем столько непредвзятости опишу в будущей статье про стилменинг и идеологический тест Тьюринга). Возможно мы выясним, что желание сносить забор было обосновано только нашим незнанием. Тогда мы сможем отказаться от необдуманных поступков. 

Если же свидетельства покажут, что снос забора вполне обоснован, работа всё равно была проделана не зря. Теперь столкнувшись с защитниками забора (носителями убеждения), нам есть что обсудить. Диалог больше не нужно начинать с оскорблений и попыток ткнуть собеседнику пальцем в глаз. Мы можем обменяться с ним свидетельствами, а это в разы продуктивнее! 

Конечно мы можем не договориться, особенно если хотя бы один участник дискуссии не разделяет ценность точных карт. Но это явно выглядит перспективнее, чем начинать разговор с сомнений в адекватности собеседника. А если нам повезёт, и собеседник будет настроен так же, мы можем прийти к наиболее оптимальному решению (не с точки зрения удовлетворить пожелания всех сторон, а с точки зрения точной карты).

Не спешите сносить ≠ не сносить вообще

«Естественный ход развития космических наук приводит к тому, что накапливаются новые данные, и во всеоружии новых фактов мы разгоняем войско устаревших идей» Карл Саган

Для демонстрации давайте обсудим изобретение «новой физики». Ну вы знаете, человек решает, что все физики ошибаются, а он изобрёл что-то принципиально новое. Чушь? Если знания человека в предметной области ограничены школьным курсом, вероятнее всего так и есть.

Но если он вник во все тонкости современной ему физики, возможно так и есть. Вся современная наука построена на людях, которые сдвигают границы нашего понимания. Кто-то действительно строит «новую физику». Разница лишь в том, что дилетант не может быть уверен в ложности того, чего не понимает. У него нет права сносить забор. 

Таким образом, заниматься сносом конечно нужно. Ведь любое улучшение, это снесённый забор. Однако не каждый снесённый забор - это улучшение. Для развития города нужно регулярно демонтировать ненужные заборы (или хотя бы модернизировать). Но для этого просто необходимо отличать нужные от ненужных, иначе можно снести весь город (или не сносить вообще ничего от страха перед изменениями). Так что ограда Честертона - это не гимн против реформ и революций. Это призыв понять, с чем мы имеем дело, прежде чем начать действовать.

Продолжение по ссылке.
Урок 2. Априорная вероятность

«Интуиция без проверки и доказательств отнюдь не гарантирует истину» Бертран Рассел

Старый гном по имени Тифиус закатил в аудиторию садовую тележку с кучей небольших кожаных мешочков. Он вывалил их ровно посередине. 

Здесь ровно сто мешочков. Я беру случайный мешочек и подношу к нему камень Гюйгенса. Напомню — его крутость в том, что он чаще загорается рядом с мешочками с золотом (в 8 из 10 случаев), чем рядом с пустыми (только в 1 из 10 случаев).

Я подношу его к случайному мешочку из этой кучи - и он загорается. Какова вероятность обнаружить в этом мешочке золото? Если Вы не пропустили прошлое занятие, то желание просто ответить 80% (исходя из 8 из 10) полагаю у вас не возникает. 

Вы можете рассуждать так: «ну да есть же ещё не содержащие золото мешочки, рядом с которыми тоже иногда будет загораться камень. Ведь камень загорится рядом с 8 мешочками с золотом и рядом с 1 без золота. Тогда 8 из 9 мешочков». Но рассуждать так мы конечно же не будем.

А как же необходимо рассуждать для получения верного ответа? Ну для начала необходимо проверить достаточно ли у нас информации. Подумайте вот о чём: а что если все мешочки которые я притащил пустые? Я ведь ничего про это не сказал. Камень в таком случае загорится 10 раз. И ни в одном мешочке не будет золота! 

Знание о том, сколько же мешочков с золотом лежит в этой куче — то, чего вам не хватало. И таких мешочков ровно десять штук. Это достоверная информация — вы могли заметить, я не обманываю вас на уроках, но я управляю вашим вниманием. Этим же занимаются например фокусники. Все понимают, что фокус — это обман. Но там куда фокусник направил ваше внимание — обмана нет. На этом курсе мы научимся сопротивляться этому управлению и смотреть фокусникам в рукава. Как сказал Джон Аластон, если вы не будете контролировать свой разум, этим займётся кто-нибудь другой.

Информация о количестве мешочков с золотом среди всех мешочков — на эльфийском математическом называется «априорная вероятность». Она отражает вероятность достать мешочек с золотом из этой кучи случайным образом без всяких инструментов или свидетельств. Если в куче из 100 мешочков лежит 10 мешочков с золотом, то достав десяток случайных мешочков вы обязаны ожидать в одном из них золото.

Вместе условные вероятности (разное поведение камня в разных условиях) и априорная вероятность называются «априорной информацией». 

Но вернёмся к изначальному вопросу. Для наглядного ответа на него я поделю мешочки на группы. Я заранее пометил для себя те мешочки, в которых есть золото, поэтому мне несложно разделить их на две группы. В первой группе только мешочки с золотом (10 штук), во второй только пустые (90 штук).

Теперь мы разделим мешочки с золотом на те, рядом с которыми камень Гюйгенса загорится и те, рядом с которыми он не загорится. Получилось две группы: 8 мешочков, которые «загорелись» и 2 мешочка рядом с которыми камень не сработал. 

То же самое проделаем с пустыми мешочками, вы ведь помните что камень Гюйгенса загорается 1 раз из 10 рядом с ними? У нас было 90 пустых мешочков. А получили мы 9 мешочков, которые «загорелись» и 81 рядом с которыми ничего не произошло.

Нам интереснее всего две группы, про которые обычно все забывают. Все понятно с 8 «золотыми» мешочками, которые «загорелись». Не смущают нас и 81 пустой мешочек, рядом с которым камень не сработал. 

Намного интереснее группа из двух «не загоревшихся золотых» - она называется «ложноотрицательной». Потому что камень Гюйгенса как бы отрицает там наличие золота, но это отрицание ложно. По аналогии — группа с «загоревшимися пустыми» мешочками называется «ложноположительной». Ведь она как бы «даёт показания» ЗА наличие золота, но это так же ложно. Ни один реальный тест или инструмент не исключает такие ложные показания. 

Так какова же вероятность найти золото среди всех мешочков, рядом с которыми загорелся камень?

Продолжение по ссылке