Эпидемию коронавируса остановят, а эпидемию фейков о нем – нет.
Борьба с дезинформацией и теорией заговора об эпидемиях дает обратный эффект.
Вокруг уханьского короновируса растет клубок сенсационно-истерических мифов: вирус рукотворный, это утекшая из США в Китай секретная разработка, это вырвавшееся из-под контроля биооружие, вирус превратится в испанку 21 века и погибнут сотни миллионов …
Для предотвращения нарастающей паники в большинстве стран разворачиваются кампании противодействия этим фейкам.
Смогут ли они победить фейки и остановить нарастающий массовый психоз?
Однозначно нет. И вот доказательство.
Цифровые медиа кардинально изменили мир. Полной картины этого мы пока не знаем. Она будет проясняться еще не одно десятилетие.
Однако, путем серьезных экспериментальных исследований уже установлено:
существующие подходы в борьбе с дезинформацией и теориями заговора об эпидемиях и вспышках заболеваний не только неэффективны, но даже контрпродуктивны.
Двухлетняя серия полевых экспериментов бразильских исследователей, посвященная попыткам коррекции в массовом сознании мифов о лихорадке Зика, показала:
• исправление мифологической чуши почти не происходит (люди продолжают верить в нее);
• возникает дополнительный ущерб из-за того, что многие перестают верить правдивым фактам о болезни и способах ее распространения.
Авторы интерпретируют столь обескураживающие результаты так.
✔️ Когда общий уровень знаний населения по конкретному вопросу низок, любые попытки повысить этот уровень во время кризиса идут лишь во вред, - поздно пить Боржоми.
Как вы понимаете, такой вывод относится не только к фейкам об эпидемиях.
В эпоху цифровых медиа нужно вырабатывать принципиально новые способы борьбы с мифообразующими фейками. Старый привычный подход - донесение правдивой информации, - в мире больше не работает.
Исследование: The effects of corrective information about disease epidemics and outbreaks: Evidence from Zika and yellow fever in Brazi
Это исследование еще раз подтверждает:
- торжество эффекта Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе»);
- и окончательный крах «модели дефицита знаний».
И о том, и другом см. мой пост
#Эпидемия #ИнтеллектуальнаяСлепота #Вызовы21века
Борьба с дезинформацией и теорией заговора об эпидемиях дает обратный эффект.
Вокруг уханьского короновируса растет клубок сенсационно-истерических мифов: вирус рукотворный, это утекшая из США в Китай секретная разработка, это вырвавшееся из-под контроля биооружие, вирус превратится в испанку 21 века и погибнут сотни миллионов …
Для предотвращения нарастающей паники в большинстве стран разворачиваются кампании противодействия этим фейкам.
Смогут ли они победить фейки и остановить нарастающий массовый психоз?
Однозначно нет. И вот доказательство.
Цифровые медиа кардинально изменили мир. Полной картины этого мы пока не знаем. Она будет проясняться еще не одно десятилетие.
Однако, путем серьезных экспериментальных исследований уже установлено:
существующие подходы в борьбе с дезинформацией и теориями заговора об эпидемиях и вспышках заболеваний не только неэффективны, но даже контрпродуктивны.
Двухлетняя серия полевых экспериментов бразильских исследователей, посвященная попыткам коррекции в массовом сознании мифов о лихорадке Зика, показала:
• исправление мифологической чуши почти не происходит (люди продолжают верить в нее);
• возникает дополнительный ущерб из-за того, что многие перестают верить правдивым фактам о болезни и способах ее распространения.
Авторы интерпретируют столь обескураживающие результаты так.
✔️ Когда общий уровень знаний населения по конкретному вопросу низок, любые попытки повысить этот уровень во время кризиса идут лишь во вред, - поздно пить Боржоми.
Как вы понимаете, такой вывод относится не только к фейкам об эпидемиях.
В эпоху цифровых медиа нужно вырабатывать принципиально новые способы борьбы с мифообразующими фейками. Старый привычный подход - донесение правдивой информации, - в мире больше не работает.
Исследование: The effects of corrective information about disease epidemics and outbreaks: Evidence from Zika and yellow fever in Brazi
Это исследование еще раз подтверждает:
- торжество эффекта Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе»);
- и окончательный крах «модели дефицита знаний».
И о том, и другом см. мой пост
#Эпидемия #ИнтеллектуальнаяСлепота #Вызовы21века
Science
The effects of corrective information about disease epidemics and outbreaks: Evidence from Zika and yellow fever in Brazil
Disease epidemics and outbreaks often generate conspiracy theories and misperceptions that mislead people about the risks they face and how best to protect themselves. We investigate the effectiveness of interventions aimed at combating false and unsupported…
5я колонна COVID-19.
Почему антипрививочники непобедимы.
Прорывное исследование проф. Нила Джонсона и Со. открывает завесу тайны непобедимости интеллектуальной слепоты масс.
Влияние антипрививочников (вакциноскептиков) может стать важным фактором в борьбе с COVID-19 после появления вакцины. Беда в том, что это влияние вовсе не ослабевает и даже усиливается.
Причины вакциноскептицизма понемногу становятся понятней. Это особенность мышления антипрививочников, связанная с преувеличением последствий негативных событий.
Однако вопрос о том, почему позиция антипрививочников оказывается в обществе, как минимум, не менее влиятельной, чем научные аргументы, до сих пор был без ответа.
Новое прорывное исследование объясняет, почему это происходит.
По большому счету, причины две.
1. Глобальная инфосеть социальных медиа оказывает беспрецедентное влияние на формирование представлений о мире и персональных убеждений людей.
2. Наука о инфосетевом влиянии на мышление людей до последнего времени не обладала убедительными данными о механизмах этого влияния и, в первую очередь, о «мировом соревновании» кластеров полярных убеждений. Теперь эти данные собраны и проанализированы.
Анализ динамики «мирового соревнования» кластеров полярных убеждений анти- и про-прививочников на полях 100 млн. страниц Facebook позволяет понять, почему антипрививочники в социальных медиа сильнее.
Причин этого аж семь. Но чтобы не влезать в сложности матмодели, назовем лишь 3 главных.
✔️ У антипрививочников существенно привлекательней «рассказ». Он сочетает наиболее интересные для масс темы (такие, как проблемы безопасности, теории заговора, альтернативное здоровье и медицина, а теперь еще и причину, а также лечение COVID-19).
✔️ Антипрививочники берут не числом, а умением (они куда активней и правильней организованы с точки зрения организации сетевых кластеров: тематически, географически и т.д.) «Сетевая сила» антипрививочников столь высока, что они даже нарушают сетевой закон Матфея о преференциальных предпочтениях. Это переворот в сетевой науке.
✔️ Решающую роль в локальных победах антипрививочников играют неопределившиеся, имеющие самый высокий рост новых исходящих связей. Это ставит под сомнение существующее представление о том, что неопределившиеся люди являются пассивным фоном в битве за «сердца и умы»
Полученные результаты и выводы весьма важны не только для победы здравого смысла в вопросе о вакцинации. Интеллектуальная слепота человечества, к сожалению, нарастает по мере прогресса инфосетевых технологий.
И если человечество не научится организовывать правильные кластерные структуры и рассказывать правильные истории массам, число интеллектуальных слепцов будет расти по всем темам. Благо их предостаточно: от плоской Земли до сильного ИИ.
Доп. Материалы:
• Об интеллектуальной слепоте вследствие мотивированных рассуждений
• Об интеллектуальной слепоте ученых
• О главной проблеме человечества — сингулярности его глупости (на материале последней книги Харари)
• О том, как Земля превращается в мир идиотов
#ИнтеллектуальнаяСлепота #Вызовы21века
Почему антипрививочники непобедимы.
Прорывное исследование проф. Нила Джонсона и Со. открывает завесу тайны непобедимости интеллектуальной слепоты масс.
Влияние антипрививочников (вакциноскептиков) может стать важным фактором в борьбе с COVID-19 после появления вакцины. Беда в том, что это влияние вовсе не ослабевает и даже усиливается.
Причины вакциноскептицизма понемногу становятся понятней. Это особенность мышления антипрививочников, связанная с преувеличением последствий негативных событий.
Однако вопрос о том, почему позиция антипрививочников оказывается в обществе, как минимум, не менее влиятельной, чем научные аргументы, до сих пор был без ответа.
Новое прорывное исследование объясняет, почему это происходит.
По большому счету, причины две.
1. Глобальная инфосеть социальных медиа оказывает беспрецедентное влияние на формирование представлений о мире и персональных убеждений людей.
2. Наука о инфосетевом влиянии на мышление людей до последнего времени не обладала убедительными данными о механизмах этого влияния и, в первую очередь, о «мировом соревновании» кластеров полярных убеждений. Теперь эти данные собраны и проанализированы.
Анализ динамики «мирового соревнования» кластеров полярных убеждений анти- и про-прививочников на полях 100 млн. страниц Facebook позволяет понять, почему антипрививочники в социальных медиа сильнее.
Причин этого аж семь. Но чтобы не влезать в сложности матмодели, назовем лишь 3 главных.
✔️ У антипрививочников существенно привлекательней «рассказ». Он сочетает наиболее интересные для масс темы (такие, как проблемы безопасности, теории заговора, альтернативное здоровье и медицина, а теперь еще и причину, а также лечение COVID-19).
✔️ Антипрививочники берут не числом, а умением (они куда активней и правильней организованы с точки зрения организации сетевых кластеров: тематически, географически и т.д.) «Сетевая сила» антипрививочников столь высока, что они даже нарушают сетевой закон Матфея о преференциальных предпочтениях. Это переворот в сетевой науке.
✔️ Решающую роль в локальных победах антипрививочников играют неопределившиеся, имеющие самый высокий рост новых исходящих связей. Это ставит под сомнение существующее представление о том, что неопределившиеся люди являются пассивным фоном в битве за «сердца и умы»
Полученные результаты и выводы весьма важны не только для победы здравого смысла в вопросе о вакцинации. Интеллектуальная слепота человечества, к сожалению, нарастает по мере прогресса инфосетевых технологий.
И если человечество не научится организовывать правильные кластерные структуры и рассказывать правильные истории массам, число интеллектуальных слепцов будет расти по всем темам. Благо их предостаточно: от плоской Земли до сильного ИИ.
Доп. Материалы:
• Об интеллектуальной слепоте вследствие мотивированных рассуждений
• Об интеллектуальной слепоте ученых
• О главной проблеме человечества — сингулярности его глупости (на материале последней книги Харари)
• О том, как Земля превращается в мир идиотов
#ИнтеллектуальнаяСлепота #Вызовы21века
Незнание о незнании присуще не только дуракам. Самое известное когнитивное искажение оказалось миражом измерений.
Если человека спросить температуру кипения ртути, скорее всего, он не станете отвечать. Ибо знает, что не знает ответа. Но если спросить столицу Шотландии, многие подумают, что знают ответ. И назовут… Глазго, тогда как это Эдинбург. А Глазго – всего лишь недостоверная информация, засевшая в мозге и своим наличием порождающая «незнание о незнании».
Так что же тогда, - это «незнание о незнании»?
И может ли оно быть результатом когнитивного искажения?
Всем известно, что когнитивные искажения - это плохо, ибо они не позволяют нам видеть объективную картину мира и самого себя. Самым распространенным и, возможно, самым влиятельным из когнитивных искажений считается «Эффект Даннинга-Крюгера» (ЭДК).
В быту ЭДК трактуют, как «когнитивную предвзятость иллюзорного превосходства», в просторечии определяемое «чем человек тупее, тем он уверенней в себе».
Подобная трактовка не так уж далека от научной, где ЭДК определяют примерно так.
✔️ Люди с низким уровнем знаний/компетенций, необходимых для выполнения конкретного задания (или вынесения суждения), переоценивают свои зна-я/ком-ии.
✔️ Люди с высоким уровнем зна-й/ком-ий наоборот – недооценивают свои зна-я/ком-ии.
Про это есть и у великих.
• «Невежество чаще рождает уверенность, нежели знание» (Чарльз Дарвин).
• «Одно из неприятных свойств нашего времени состоит в том, что те, кто испытывает уверенность, глупы, а те, кто обладает хоть каким-то воображением и пониманием, исполнены сомнений и нерешительности» (Бертран Рассел).
Но оказывается, такая трактовка ЭДК ошибочна
▪️ ЭДК вовсе не про «глупых или некомпетентных людей, не знающих, что они глупые и некомпетентные», и не про «невежественных людей, которые очень высокомерны и уверены в своем незнании». И вообще, ЭДК не про отсутствие у человека информации, а про «незнание о незнании», порождаемом у него недостоверной информацией.
▪️ Кроме того, ЭДК – это даже не когнитивное искажение мозга, поскольку аналогичный эффект опытным путем можно получить на случайных, сгенерированных компьютером данных.
▪️ Скорее, ЭДК является следствием того, как измеряются результаты наблюдений и точности самооценок. А эта точность оказывается довольно низкой. Например, моя оценка, насколько хорошо я сдал сегодня тест, может измениться завтра, если изменится мое настроение. И в результате этого моя уверенность в себе может пошатнуться. Таким образом, любое измерение самооценки в некоторой степени ненадежно, что не позволяет надежно отделить действительно существующий психологический эффект от контекста эксперимента. А если убрать из измерений эту ненадежность, ты выясняется, что «глупые и умные», равно как и «компетентные и не очень» примерно одинаково подвержены ЭДК.
Подробней:
популярно - http://bit.do/fNenX;
научно – http://bit.do/fNen3 http://bit.do/fNen7 http://bit.do/fNeoa.
ОК. Допустим это так, скажете вы. И зададите 2 вопроса.
1) Есть ли на свете глупые люди, которые не осознают, что они глупы?
Конечно же да. Но ЭДК совсем не о них.
2) Есть ли столь высокомерные люди, что всегда уверены в своей правоте?
Конечно, но Даннинг и Крюгер не измеряли уверенность или высокомерие в своих экспериментах.
Но если так, и ЭДК здесь ни при чем, почему же тогда люди, меньше всего разбирающиеся в сложных вопросах, становятся всё более убеждены, что знают о них предостаточно? Почему, не смотря на всеобщую грамотность и массовое просвещение, складывается устойчивое впечатление, что мир глупеет?
Причины две:
1) Взрывной рост объема информации, в котором достоверная информация просто тонет.
2) Кардинальное изменение структуры и механизмов инфокоммуникационной среды людей: засилье алгоритмов, безмасштабные инфосети, стигмергия цифровых следов, инфокаскады и т.д.
Но это уже другая история, о которой будет отдельный пост.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
Если человека спросить температуру кипения ртути, скорее всего, он не станете отвечать. Ибо знает, что не знает ответа. Но если спросить столицу Шотландии, многие подумают, что знают ответ. И назовут… Глазго, тогда как это Эдинбург. А Глазго – всего лишь недостоверная информация, засевшая в мозге и своим наличием порождающая «незнание о незнании».
Так что же тогда, - это «незнание о незнании»?
И может ли оно быть результатом когнитивного искажения?
Всем известно, что когнитивные искажения - это плохо, ибо они не позволяют нам видеть объективную картину мира и самого себя. Самым распространенным и, возможно, самым влиятельным из когнитивных искажений считается «Эффект Даннинга-Крюгера» (ЭДК).
В быту ЭДК трактуют, как «когнитивную предвзятость иллюзорного превосходства», в просторечии определяемое «чем человек тупее, тем он уверенней в себе».
Подобная трактовка не так уж далека от научной, где ЭДК определяют примерно так.
✔️ Люди с низким уровнем знаний/компетенций, необходимых для выполнения конкретного задания (или вынесения суждения), переоценивают свои зна-я/ком-ии.
✔️ Люди с высоким уровнем зна-й/ком-ий наоборот – недооценивают свои зна-я/ком-ии.
Про это есть и у великих.
• «Невежество чаще рождает уверенность, нежели знание» (Чарльз Дарвин).
• «Одно из неприятных свойств нашего времени состоит в том, что те, кто испытывает уверенность, глупы, а те, кто обладает хоть каким-то воображением и пониманием, исполнены сомнений и нерешительности» (Бертран Рассел).
Но оказывается, такая трактовка ЭДК ошибочна
▪️ ЭДК вовсе не про «глупых или некомпетентных людей, не знающих, что они глупые и некомпетентные», и не про «невежественных людей, которые очень высокомерны и уверены в своем незнании». И вообще, ЭДК не про отсутствие у человека информации, а про «незнание о незнании», порождаемом у него недостоверной информацией.
▪️ Кроме того, ЭДК – это даже не когнитивное искажение мозга, поскольку аналогичный эффект опытным путем можно получить на случайных, сгенерированных компьютером данных.
▪️ Скорее, ЭДК является следствием того, как измеряются результаты наблюдений и точности самооценок. А эта точность оказывается довольно низкой. Например, моя оценка, насколько хорошо я сдал сегодня тест, может измениться завтра, если изменится мое настроение. И в результате этого моя уверенность в себе может пошатнуться. Таким образом, любое измерение самооценки в некоторой степени ненадежно, что не позволяет надежно отделить действительно существующий психологический эффект от контекста эксперимента. А если убрать из измерений эту ненадежность, ты выясняется, что «глупые и умные», равно как и «компетентные и не очень» примерно одинаково подвержены ЭДК.
Подробней:
популярно - http://bit.do/fNenX;
научно – http://bit.do/fNen3 http://bit.do/fNen7 http://bit.do/fNeoa.
ОК. Допустим это так, скажете вы. И зададите 2 вопроса.
1) Есть ли на свете глупые люди, которые не осознают, что они глупы?
Конечно же да. Но ЭДК совсем не о них.
2) Есть ли столь высокомерные люди, что всегда уверены в своей правоте?
Конечно, но Даннинг и Крюгер не измеряли уверенность или высокомерие в своих экспериментах.
Но если так, и ЭДК здесь ни при чем, почему же тогда люди, меньше всего разбирающиеся в сложных вопросах, становятся всё более убеждены, что знают о них предостаточно? Почему, не смотря на всеобщую грамотность и массовое просвещение, складывается устойчивое впечатление, что мир глупеет?
Причины две:
1) Взрывной рост объема информации, в котором достоверная информация просто тонет.
2) Кардинальное изменение структуры и механизмов инфокоммуникационной среды людей: засилье алгоритмов, безмасштабные инфосети, стигмергия цифровых следов, инфокаскады и т.д.
Но это уже другая история, о которой будет отдельный пост.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
Non Satis Scire.
Благодаря Google и Яндекс, мы знаем все больше, а понимаем все меньше.
Восемь лет это исследование пробивалось сквозь тернии и препоны, чтобы быть напечатанным в Трудах Национальной Академии наук США. И вот свершилось. Исследование Адриана Ф. Уорда «Люди принимают знания Интернета за свои собственные», наконец, опубликовано, не смотря на все попытки помешать этому со стороны Интернет-гиганта №1.
Предаваясь бесконечным опасениям из-за, якобы, исходящих от ИИ экзистенциальных угроз, мы не хотим видеть главной реальной угрозы. Новая синтетическая культура людей и алгоритмов (названная мною алгокогнитивная культура) меняет самих людей.
Когда наши «старые» когнитивные системы взаимодействуют с «новыми» цифровыми технологиями, происходит адаптация когнитивных систем. И этот процесс оказывается чрезвычайно быстрым. Уже при жизни одного поколения меняется способ поиска и понимания информации. Латинское выражение Non Satis Scire (не достаточно знать) в алгокогнитивной среде людей и поисковых алгоритмов воплощает неотвратимость лавинообразного массового нарастания интеллектуальной слепоты.
Эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») вовсе не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации (подробней см. мой пост «Метакогнитивные искажения не оставляют нам шансов. Современное просвещение дает обратный эффект»).
Напротив. При использовании поисковиков, это метакогнитивное искажение явственно увеличивается. Люди склонны принимать знания Интернета за свои собственные. В их разуме размывается граница между собственной памятью и памятью поисковика. Это ведет к росту необоснованной уверенности в своих знаниях.
В результате чего:
• растет интеллектуальная слепота масс;
• даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
В итоге, мир неуклонно глупеет: растет значимость фейков в миропонимании людей и число принимаемых ими ошибочных, излишне самоуверенных решений.
Ощущение большей осведомленности, возникающее у людей при использовании Интернета, может заставить полагаться на интуицию при принятии медицинских или рискованных финансовых решений. Также это может еще более цементировать укоренившиеся ошибочные взгляды людей на науку и политику.
Главный ущерб от всего этого испытывает понимание. Информация, извлекаемая не из собственной памяти, а из поисковика, испаряется столь же быстро, как и находится. И даже если с помощью этой информации было достигнуто понимание чего-либо, оно остается у человека без опоры на знания, быстро испаряющиеся при «отключении от сети».
Ну а вслед за этим происходит одно из двух:
• либо испаряется и понимание;
• либо остается ощущение фантомного понимания, не имеющего под собой фактической базы, или на базе каких-то актуальных фейков.
Метаитог всего названного известен, и я об этом уже писал: «Незнание о незнании присуще не только дуракам».
Ну а исследование Уорда живописует механизм этой «эпидемии незнания о незнании» множеством экспериментальных деталей.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Благодаря Google и Яндекс, мы знаем все больше, а понимаем все меньше.
Восемь лет это исследование пробивалось сквозь тернии и препоны, чтобы быть напечатанным в Трудах Национальной Академии наук США. И вот свершилось. Исследование Адриана Ф. Уорда «Люди принимают знания Интернета за свои собственные», наконец, опубликовано, не смотря на все попытки помешать этому со стороны Интернет-гиганта №1.
Предаваясь бесконечным опасениям из-за, якобы, исходящих от ИИ экзистенциальных угроз, мы не хотим видеть главной реальной угрозы. Новая синтетическая культура людей и алгоритмов (названная мною алгокогнитивная культура) меняет самих людей.
Когда наши «старые» когнитивные системы взаимодействуют с «новыми» цифровыми технологиями, происходит адаптация когнитивных систем. И этот процесс оказывается чрезвычайно быстрым. Уже при жизни одного поколения меняется способ поиска и понимания информации. Латинское выражение Non Satis Scire (не достаточно знать) в алгокогнитивной среде людей и поисковых алгоритмов воплощает неотвратимость лавинообразного массового нарастания интеллектуальной слепоты.
Эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») вовсе не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации (подробней см. мой пост «Метакогнитивные искажения не оставляют нам шансов. Современное просвещение дает обратный эффект»).
Напротив. При использовании поисковиков, это метакогнитивное искажение явственно увеличивается. Люди склонны принимать знания Интернета за свои собственные. В их разуме размывается граница между собственной памятью и памятью поисковика. Это ведет к росту необоснованной уверенности в своих знаниях.
В результате чего:
• растет интеллектуальная слепота масс;
• даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
В итоге, мир неуклонно глупеет: растет значимость фейков в миропонимании людей и число принимаемых ими ошибочных, излишне самоуверенных решений.
Ощущение большей осведомленности, возникающее у людей при использовании Интернета, может заставить полагаться на интуицию при принятии медицинских или рискованных финансовых решений. Также это может еще более цементировать укоренившиеся ошибочные взгляды людей на науку и политику.
Главный ущерб от всего этого испытывает понимание. Информация, извлекаемая не из собственной памяти, а из поисковика, испаряется столь же быстро, как и находится. И даже если с помощью этой информации было достигнуто понимание чего-либо, оно остается у человека без опоры на знания, быстро испаряющиеся при «отключении от сети».
Ну а вслед за этим происходит одно из двух:
• либо испаряется и понимание;
• либо остается ощущение фантомного понимания, не имеющего под собой фактической базы, или на базе каких-то актуальных фейков.
Метаитог всего названного известен, и я об этом уже писал: «Незнание о незнании присуще не только дуракам».
Ну а исследование Уорда живописует механизм этой «эпидемии незнания о незнании» множеством экспериментальных деталей.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
PNAS
People mistake the internet’s knowledge for their own
People frequently search the internet for information. Eight experiments (n = 1,917) provide evidence that when people “Google” for online informat...
65% топ-выдачи Яндекса искажают инфореальность, продвигая теории заговора.
Проведен сравнительный аудит конспирологичности поисковиков.
К сожалению, информатизация общества имеет и отрицательные последствия. Одно из них - рост «интеллектуальной слепоты» все большего числа людей. Ее характерными признаками являются: (1) неумение отличить фейк от правды и (2) повышение доли конспирологических убеждений в мировоззрении людей.
Маршевыми двигателями процесса «интеллектуального ослепления» масс стали социальные сети и поисковики.
И если ослепляющий эффект первых можно хотя бы минимизировать (стерев экаунт или заходя в соцсеть пореже), с поисковиками дело совсем хана: без них как без рук.
В этой связи, важнейший для каждого из нас вопрос:
насколько сильно конкретный поисковик искажает инфореальность в пользу конспирологического мировоззрения - всевозможных теорий заговора.
Проверить это можно лишь путем сравнения первых страниц поисковой выдачи разных поисковиков на запросы, так или иначе связанные с теориями заговора. Чем больше в выдаче ссылок на отстойные ресурсы конспирологов, и чем они выше в выдаче, тем сильнее алгоритмы поисковика искажают инфореальность, пропагандируя теории заговора.
Важно также, что следствием такого искажения инфореальности, помимо роста «интеллектуальной слепоты», становится усиление раскола общества и повышение в нем градуса хейта.
Только что опубликованное исследование четырех солидных институтов из Швейцарии и Германии «Where the Earth is flat and 9/11 is an inside job: A comparative algorithm audit of conspiratorial information in web search results» описывает результаты аудита 4х поисковиков: Google, MS Bing, DuckDuckGo, Yahoo! и Яндекс.
Обобщение результатов вы видите на приложенной диаграмме.
Главных результатов три:
✔️ Степень искажения инфореальности у MS Bing, DuckDuckGo, Yahoo! составляет от 25% до 40%.
✔️ Абсолютный чемпион по продвижению теорий заговора – Яндекс (65% его топовой выдачи продвигает источники, пропагандирующие теории заговора.
✔️ Алгоритмы поисковиков настолько подвержены предвзятости в пользу теорий заговора, что вычистить их пропаганду из поисковой выдачи могут лишь люди (что и делает среди поисковиков лишь Google).
P.S. В пандан к этой теме - о том, что благодаря поисковикам, мы знаем все больше, а понимаем все меньше, я недавно писал.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Проведен сравнительный аудит конспирологичности поисковиков.
К сожалению, информатизация общества имеет и отрицательные последствия. Одно из них - рост «интеллектуальной слепоты» все большего числа людей. Ее характерными признаками являются: (1) неумение отличить фейк от правды и (2) повышение доли конспирологических убеждений в мировоззрении людей.
Маршевыми двигателями процесса «интеллектуального ослепления» масс стали социальные сети и поисковики.
И если ослепляющий эффект первых можно хотя бы минимизировать (стерев экаунт или заходя в соцсеть пореже), с поисковиками дело совсем хана: без них как без рук.
В этой связи, важнейший для каждого из нас вопрос:
насколько сильно конкретный поисковик искажает инфореальность в пользу конспирологического мировоззрения - всевозможных теорий заговора.
Проверить это можно лишь путем сравнения первых страниц поисковой выдачи разных поисковиков на запросы, так или иначе связанные с теориями заговора. Чем больше в выдаче ссылок на отстойные ресурсы конспирологов, и чем они выше в выдаче, тем сильнее алгоритмы поисковика искажают инфореальность, пропагандируя теории заговора.
Важно также, что следствием такого искажения инфореальности, помимо роста «интеллектуальной слепоты», становится усиление раскола общества и повышение в нем градуса хейта.
Только что опубликованное исследование четырех солидных институтов из Швейцарии и Германии «Where the Earth is flat and 9/11 is an inside job: A comparative algorithm audit of conspiratorial information in web search results» описывает результаты аудита 4х поисковиков: Google, MS Bing, DuckDuckGo, Yahoo! и Яндекс.
Обобщение результатов вы видите на приложенной диаграмме.
Главных результатов три:
✔️ Степень искажения инфореальности у MS Bing, DuckDuckGo, Yahoo! составляет от 25% до 40%.
✔️ Абсолютный чемпион по продвижению теорий заговора – Яндекс (65% его топовой выдачи продвигает источники, пропагандирующие теории заговора.
✔️ Алгоритмы поисковиков настолько подвержены предвзятости в пользу теорий заговора, что вычистить их пропаганду из поисковой выдачи могут лишь люди (что и делает среди поисковиков лишь Google).
P.S. В пандан к этой теме - о том, что благодаря поисковикам, мы знаем все больше, а понимаем все меньше, я недавно писал.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Апокалипсис от Адама.
Иррациональность ведет к экзистенциальной катастрофе.
“Homo irrationalis (лат. «человек иррациональный») — это недавно открытая новая ветвь нынешнего доминирующего вида Homo sapiens (лат. «человек разумный») . В результате эволюционной адаптации существа Homo irrationalis потеряли способность быть разумными (мыслящими рационально) и поэтому вынуждены вести себя все более беспорядочно, необъяснимо и иррационально”.
Кароль Цисевски (анонс данс-мим-шоу Homo irrationalis)
Два весьма знаковых события, несущие одну и ту же важнейшую для человечества весть, пришлись на декаду предрождественских хитов.
• Об одном из них — мировой премьере фильма Адама МакКея «Не смотрите наверх», — спустя месяц так или иначе слышала уже добрая половина человечества (еще бы: тысячи разноязычных статей, подкастов и дискуссий на ТВ и десятки тысяч обсуждений в соцсетях).
• О втором событии — публикации исследования команды Мартена Схеффера «Взлет и падение рациональности в языке», — на всей Земле сейчас знают от силы несколько тысяч человек (менее сотни упоминаний в Twitter и блогах для интеллектуалов, да скромная ветка на Reddit).
Весть, которую несут человечеству эти два столь разные по типу, форме и жанру высказывания творческой команды Адама МакКея и научной команды Мартена Схеффера, такова.
Цивилизация превращается в мир кретинов, в результате чего риски экзистенциальных катастроф становятся непреодолимыми.
Казалось бы, исследование и фильм не говорят чего-то принципиально нового. О наблюдаемых признаках тотального оглупления в последние годы говорят и пишут многие эксперты в самых разных контекстах на стыке знаний психологии, биологии и социальных наук:
• когнитивные психологи и нейроантропологи, например, уже несколько лет пишут о возможном пагубном влиянии социальных сетей и всезнающих алгоритмов;
• социальные психологи, эволюционные антропологи и культурологи, в свою очередь, в последние годы пишут о вероятном влиянии антропотехнологической эволюции на возможности возникновения нового “подвида” людей — инфоргов (inforgs), нового класса алгоритмически насыщенных обществ (algorithmically infused societies) и нового типа цивилизации — алгокогнитивная культура (algocognitive culture).
И тем не менее, два вышеназванных события можно по праву отнести к важнейшим событиям 2021 года, что я и собираюсь здесь показать.
Исследование и фильм уникальны и крайне важны для того, чтобы весть о превращении цивилизации в мир кретинов и экзистенциальных рисках этого превращения была наконец-то услышана человечеством.
✔️ Исследование экспериментально подтвердило, что человечество теряет способность рационально мыслить (а это ведет к нарастанию разнообразных рисков и, в том числе, экзистенциальных).
✔️ А фильм, своей художественной силой, потенциально способен достучаться до изрядно ослабевшего умом человечества, уже не способного поверить в экзистенциальность угроз, описываемых на языке анализа фактов.
В этом посте я попытался обосновать оба вышеназванных тезиса и ответить на главный вопрос –
почему так происходит и куда ведет?
Продолжить чтение (еще 12 мин)
- на Medium https://bit.ly/3r22Eb4
- на Яндекс Дзен https://clck.ru/aiDsi
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Иррациональность ведет к экзистенциальной катастрофе.
“Homo irrationalis (лат. «человек иррациональный») — это недавно открытая новая ветвь нынешнего доминирующего вида Homo sapiens (лат. «человек разумный») . В результате эволюционной адаптации существа Homo irrationalis потеряли способность быть разумными (мыслящими рационально) и поэтому вынуждены вести себя все более беспорядочно, необъяснимо и иррационально”.
Кароль Цисевски (анонс данс-мим-шоу Homo irrationalis)
Два весьма знаковых события, несущие одну и ту же важнейшую для человечества весть, пришлись на декаду предрождественских хитов.
• Об одном из них — мировой премьере фильма Адама МакКея «Не смотрите наверх», — спустя месяц так или иначе слышала уже добрая половина человечества (еще бы: тысячи разноязычных статей, подкастов и дискуссий на ТВ и десятки тысяч обсуждений в соцсетях).
• О втором событии — публикации исследования команды Мартена Схеффера «Взлет и падение рациональности в языке», — на всей Земле сейчас знают от силы несколько тысяч человек (менее сотни упоминаний в Twitter и блогах для интеллектуалов, да скромная ветка на Reddit).
Весть, которую несут человечеству эти два столь разные по типу, форме и жанру высказывания творческой команды Адама МакКея и научной команды Мартена Схеффера, такова.
Цивилизация превращается в мир кретинов, в результате чего риски экзистенциальных катастроф становятся непреодолимыми.
Казалось бы, исследование и фильм не говорят чего-то принципиально нового. О наблюдаемых признаках тотального оглупления в последние годы говорят и пишут многие эксперты в самых разных контекстах на стыке знаний психологии, биологии и социальных наук:
• когнитивные психологи и нейроантропологи, например, уже несколько лет пишут о возможном пагубном влиянии социальных сетей и всезнающих алгоритмов;
• социальные психологи, эволюционные антропологи и культурологи, в свою очередь, в последние годы пишут о вероятном влиянии антропотехнологической эволюции на возможности возникновения нового “подвида” людей — инфоргов (inforgs), нового класса алгоритмически насыщенных обществ (algorithmically infused societies) и нового типа цивилизации — алгокогнитивная культура (algocognitive culture).
И тем не менее, два вышеназванных события можно по праву отнести к важнейшим событиям 2021 года, что я и собираюсь здесь показать.
Исследование и фильм уникальны и крайне важны для того, чтобы весть о превращении цивилизации в мир кретинов и экзистенциальных рисках этого превращения была наконец-то услышана человечеством.
✔️ Исследование экспериментально подтвердило, что человечество теряет способность рационально мыслить (а это ведет к нарастанию разнообразных рисков и, в том числе, экзистенциальных).
✔️ А фильм, своей художественной силой, потенциально способен достучаться до изрядно ослабевшего умом человечества, уже не способного поверить в экзистенциальность угроз, описываемых на языке анализа фактов.
В этом посте я попытался обосновать оба вышеназванных тезиса и ответить на главный вопрос –
почему так происходит и куда ведет?
Продолжить чтение (еще 12 мин)
- на Medium https://bit.ly/3r22Eb4
- на Яндекс Дзен https://clck.ru/aiDsi
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Medium
Апокалипсис от Адама
Иррациональность ведет к экзистенциальной катастрофе
Как получается, что профессиональные эксперты, привлекаемые обществом при выработке важных и ответственных решений, дают диаметрально противоположные заключения?
Увы, но такое происходит постоянно и повсеместно. И порой касается даже самых важных вопросов, от которых зависят жизни и судьбы конкретных людей, а то и всего общества.
Сталкиваясь с полярными суждениями по важным вопросам (напр. касательно изменения климата и рисков автономного оружия, вреда социальных сетей и методов борьбы с пандемией …), мы примыкаем к одной из сторон, считая суждения противоположной стороны ошибочными. Причины этой ошибочности могут нам видеться разными: от некомпетентности и мотивированности людей, до непреодолимых изъянов их разума и/или морали.
✔️ Но как быть с институтом профессиональной экспертизы, на суждения которой опираются при принятии решений все прочие институты от суда и медицины до политиков и военных?
✔️ Гарантируют ли обществу репутация и опыт профессиональных экспертов непредвзятость их оценок, точность их анализа и верность их рекомендаций?
В моём новом лонгриде предпринята попытка ответить на оба вопроса.
Итог моего анализа резюмируется так.
• В эпоху постнормальной науки и постнормальной истины полагаться лишь на «рациональных ангелов нашей природы» не следует никому, включая профессиональных экспертов.
• Авторитет, знания и опыт профессиональных экспертов, сами по себе, не гарантируют верных выводов и решений, ибо даже лучшие из экспертов не меньше обычных людей (а подчас и больше) уязвимы для когнитивных искажений и шумов.
• Единственный способ минимизации ошибок общества при принятии сложных и ответственных решений — наличие строгого контроля за тем, насколько неукоснительно все вовлеченные в выработку решений эксперты следуют методам, противодействующим влиянию когнитивных искажений и шума.
• Эти методы, основанные на адаптации самых продвинутых теоретических научных представлений о человеческом разуме, мозге и познании, уже разработаны и многократно проверены. Однако, их практическое применение ограничено (1) в силу незнания о них многими профессиональными экспертами, и также (2) из-за нежелания большинства экспертов признавать влияние собственных предубеждений (когнитивных искажений) и шума на их профессиональные суждения и выводы.
А если в институте экспертизы ничего не менять, оставляя всё как есть (что мы, сожалению, пока наблюдаем на практике), даже лучшие и честнейшие из экспертов легко превращаются для общества в слепошарых поводырей.
Читайте мой новый лонгрид “Cлепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов” (примерно 19 мин):
• на Medium https://bit.ly/3gJIzSk
• на Яндекс Дзен https://clck.ru/bFW3Q
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Увы, но такое происходит постоянно и повсеместно. И порой касается даже самых важных вопросов, от которых зависят жизни и судьбы конкретных людей, а то и всего общества.
Сталкиваясь с полярными суждениями по важным вопросам (напр. касательно изменения климата и рисков автономного оружия, вреда социальных сетей и методов борьбы с пандемией …), мы примыкаем к одной из сторон, считая суждения противоположной стороны ошибочными. Причины этой ошибочности могут нам видеться разными: от некомпетентности и мотивированности людей, до непреодолимых изъянов их разума и/или морали.
✔️ Но как быть с институтом профессиональной экспертизы, на суждения которой опираются при принятии решений все прочие институты от суда и медицины до политиков и военных?
✔️ Гарантируют ли обществу репутация и опыт профессиональных экспертов непредвзятость их оценок, точность их анализа и верность их рекомендаций?
В моём новом лонгриде предпринята попытка ответить на оба вопроса.
Итог моего анализа резюмируется так.
• В эпоху постнормальной науки и постнормальной истины полагаться лишь на «рациональных ангелов нашей природы» не следует никому, включая профессиональных экспертов.
• Авторитет, знания и опыт профессиональных экспертов, сами по себе, не гарантируют верных выводов и решений, ибо даже лучшие из экспертов не меньше обычных людей (а подчас и больше) уязвимы для когнитивных искажений и шумов.
• Единственный способ минимизации ошибок общества при принятии сложных и ответственных решений — наличие строгого контроля за тем, насколько неукоснительно все вовлеченные в выработку решений эксперты следуют методам, противодействующим влиянию когнитивных искажений и шума.
• Эти методы, основанные на адаптации самых продвинутых теоретических научных представлений о человеческом разуме, мозге и познании, уже разработаны и многократно проверены. Однако, их практическое применение ограничено (1) в силу незнания о них многими профессиональными экспертами, и также (2) из-за нежелания большинства экспертов признавать влияние собственных предубеждений (когнитивных искажений) и шума на их профессиональные суждения и выводы.
А если в институте экспертизы ничего не менять, оставляя всё как есть (что мы, сожалению, пока наблюдаем на практике), даже лучшие и честнейшие из экспертов легко превращаются для общества в слепошарых поводырей.
Читайте мой новый лонгрид “Cлепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов” (примерно 19 мин):
• на Medium https://bit.ly/3gJIzSk
• на Яндекс Дзен https://clck.ru/bFW3Q
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Medium
Слепошарые поводыри
Истоки и причины интеллектуальной слепоты экспертов
Мы не представляли сколь велик айсберг когнитивных искажений.
Наши представления о мире становятся все более кривыми.
Таков весьма неутешительный вывод о состоянии представлений человечества о мире и самих себе, впервые вербализован на уровне профильного госагенства технологической сверхдержавы - Национальным институтом стандартов и технологий США (NIST).
Авторы нового отчета NIST, озаглавленного «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», поставили перед собой такую задачу.
1. Среда взаимодействий отдельных людей и сообществ становится все более виртуальной (в моей терминологии это называется переходом человечества к иному типу культура – алгокогнитивная культура).
2. Цифровые следы людей в новой инфокоммуникационной среде глобальной сети превращаются в самый востребованный и дорогой товар.
3. За формирование этого товара отвечают алгоритмы, которые пытаются количественно оценивать поведение и высказывания людей. Эти оценки используются алгоритмами для классификации, сортировки, рекомендаций и принятия решений о жизни людей.
4. Но к сожалению, в основе алгоритмических оценок лежат неоднозначные по своей природе представления об устройстве мира и поведении людей, подчерпнутые алгоритмами из океана собираемых ими данных о людях – их настоящем и прошлом опыте.
5. Все обобщаемые алгоритмами данные об опыте людей насквозь пропитаны искажающими реальность ошибками, являющимися результатами когнитивных искажений людей.
6. Это ошибки переносятся (с мультиплицирующим эффектом) алгоритмами во все технологические процессы, автоматизирующие деятельность людей и принятие ими решений с применением ИИ-систем, что может вести к весьма вредным последствиям независимо от намерений их создателей.
7. Для снижения рисков вредных последствий вышеописанных процессов необходимо, в первую очередь, идентифицировать и классифицировать все типы когнитивных искажений, приводящих к ошибкам в данных об опыте людей.
В результате 1й систематической попытки такой классификации авторы пришли к следующим выводам (в моей интерпретация, - подробней и точнее см. отчет).
A. «Айсберг» когнитивных искажений оказался куда больше чем предполагалось.
B. Помимо статистически-вычислительных искажений, вносимых алгоритмами, и когнитивных искажений людей, чей опыт воплощен в исходные данные для алгоритмов, существует огромная нижняя часть «айсберга» - системообразующие когнитивные искажения институтов общества.
C. Эта лежащая в основе «айсберга» колоссальная по размерам область является результатом исторически сложившихся процедур и практик, кодирующих социокультурные предубеждения в миропонимании конкретных институтов общества. В результате этих когнитивных искажений, определенные социальные группы получают преимущества или привилегии, а другие оказываются в неблагоприятном положении или обесцениваются. И это не обязательно является результатом какого-либо сознательного предубеждения или дискриминации, а скорее следствием того, что большинство следует существующим правилам или нормам.
▶️ ️ Специалисты по ИИ умеют минимизировать статистически-вычислительные искажения.
▶️ ️ Психологи и специалисты по когнитивному мышлению учатся учитывать когнитивные искажения и шум при принятии решений отдельными людьми.
▶️ ️ Но для системообразующих когнитивных искажений институтов общества, к сожалению, пока не существует признанных систем их идентификации и классификации. И более того, - в разных обществах они по-разному идентифицируются.
Это значит, что:
✔️ нет пока способов предотвращения мультиплицирования махины когнитивных искажений институтов алгоритмами ИИ;
✔️ наши представления о мире, формируемые в рамках новой алгокогнитивной культуры, будут становиться все более кривыми (рост интеллектуальной слепоты и падение рациональности).
См. также мои посты по тэгам:
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Наши представления о мире становятся все более кривыми.
Таков весьма неутешительный вывод о состоянии представлений человечества о мире и самих себе, впервые вербализован на уровне профильного госагенства технологической сверхдержавы - Национальным институтом стандартов и технологий США (NIST).
Авторы нового отчета NIST, озаглавленного «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», поставили перед собой такую задачу.
1. Среда взаимодействий отдельных людей и сообществ становится все более виртуальной (в моей терминологии это называется переходом человечества к иному типу культура – алгокогнитивная культура).
2. Цифровые следы людей в новой инфокоммуникационной среде глобальной сети превращаются в самый востребованный и дорогой товар.
3. За формирование этого товара отвечают алгоритмы, которые пытаются количественно оценивать поведение и высказывания людей. Эти оценки используются алгоритмами для классификации, сортировки, рекомендаций и принятия решений о жизни людей.
4. Но к сожалению, в основе алгоритмических оценок лежат неоднозначные по своей природе представления об устройстве мира и поведении людей, подчерпнутые алгоритмами из океана собираемых ими данных о людях – их настоящем и прошлом опыте.
5. Все обобщаемые алгоритмами данные об опыте людей насквозь пропитаны искажающими реальность ошибками, являющимися результатами когнитивных искажений людей.
6. Это ошибки переносятся (с мультиплицирующим эффектом) алгоритмами во все технологические процессы, автоматизирующие деятельность людей и принятие ими решений с применением ИИ-систем, что может вести к весьма вредным последствиям независимо от намерений их создателей.
7. Для снижения рисков вредных последствий вышеописанных процессов необходимо, в первую очередь, идентифицировать и классифицировать все типы когнитивных искажений, приводящих к ошибкам в данных об опыте людей.
В результате 1й систематической попытки такой классификации авторы пришли к следующим выводам (в моей интерпретация, - подробней и точнее см. отчет).
A. «Айсберг» когнитивных искажений оказался куда больше чем предполагалось.
B. Помимо статистически-вычислительных искажений, вносимых алгоритмами, и когнитивных искажений людей, чей опыт воплощен в исходные данные для алгоритмов, существует огромная нижняя часть «айсберга» - системообразующие когнитивные искажения институтов общества.
C. Эта лежащая в основе «айсберга» колоссальная по размерам область является результатом исторически сложившихся процедур и практик, кодирующих социокультурные предубеждения в миропонимании конкретных институтов общества. В результате этих когнитивных искажений, определенные социальные группы получают преимущества или привилегии, а другие оказываются в неблагоприятном положении или обесцениваются. И это не обязательно является результатом какого-либо сознательного предубеждения или дискриминации, а скорее следствием того, что большинство следует существующим правилам или нормам.
▶️ ️ Специалисты по ИИ умеют минимизировать статистически-вычислительные искажения.
▶️ ️ Психологи и специалисты по когнитивному мышлению учатся учитывать когнитивные искажения и шум при принятии решений отдельными людьми.
▶️ ️ Но для системообразующих когнитивных искажений институтов общества, к сожалению, пока не существует признанных систем их идентификации и классификации. И более того, - в разных обществах они по-разному идентифицируются.
Это значит, что:
✔️ нет пока способов предотвращения мультиплицирования махины когнитивных искажений институтов алгоритмами ИИ;
✔️ наши представления о мире, формируемые в рамках новой алгокогнитивной культуры, будут становиться все более кривыми (рост интеллектуальной слепоты и падение рациональности).
См. также мои посты по тэгам:
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Итиель Дрор – разрушитель башен экспертной предвзятости
Будучи абсолютно невиновным, любой из нас может запросто оказаться в тюрьме. И очень надолго, если суд по ошибке признает нас виновным в убийстве. Для этого достаточно всего лишь ошибки эксперта из-за существующих у него в изобилии когнитивных предубеждений.
• Отпечатки пальцев не лгут. … Но верно и то, что отпечатки пальцев не говорят. За них говорят эксперты-криминалисты, на основании заключений которых суд выносит решение. Но эксперты люди, а люди могут ошибаться.
• Эксперты-патологоанатомы с куда большей вероятностью объявят смерть ребенка убийством, а не несчастным случаем, если ребенок был чернокожим и доставлен в госпиталь бойфрендом матери, чем если бы ребенок был белым и доставлен бабушкой.
Мы не знаем, какова на самом деле реальность. Нам доступен лишь пазл из фрагментов, сконструированных мозгом в ответ на сигналы от органов чувств.
И для судебных экспертов это так же справедливо, как и для любого из нас.
Наша цивилизация построена из огромных башен экспертной предвзятости. Эти башни, способные легко ломать жизни тысяч людей, легко сотрут в порошок любого, кто бросит им вызов.
Но такой человек всё же нашелся. Его зовут Итиель Дрор и он - нейробиолог и специалист в области когнитивного мышления.
Только что в Science вышла интереснейшая статья «The Bias Hunter» (1) о битве Итиеля Дрора с «международной мафией» судебно-медицинских экспертов, обвинивших Дрора в непрофессионализме и нарушении этических норм после опубликования им результатов исследования широкого спектра когнитивных предубеждений экспертов.
Эта битва может очень дорого стоить Дрору. Но он храбр и не отступит, а будет биться до конца. Прозванный «Охотником за предубеждениями», Дрор поклялся доказать миру страшную угрозу последствий когнитивных искажений профессиональных экспертов.
Более подробно о Дроре и предыстории его битвы с «международной мафией» судебно-медицинских экспертов читайте в моем лонгриде «Слепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов» (2).
Рюмка коньяка под хороший лонгрид, - что может быть лучшим завершением уикенда.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
1 2
Будучи абсолютно невиновным, любой из нас может запросто оказаться в тюрьме. И очень надолго, если суд по ошибке признает нас виновным в убийстве. Для этого достаточно всего лишь ошибки эксперта из-за существующих у него в изобилии когнитивных предубеждений.
• Отпечатки пальцев не лгут. … Но верно и то, что отпечатки пальцев не говорят. За них говорят эксперты-криминалисты, на основании заключений которых суд выносит решение. Но эксперты люди, а люди могут ошибаться.
• Эксперты-патологоанатомы с куда большей вероятностью объявят смерть ребенка убийством, а не несчастным случаем, если ребенок был чернокожим и доставлен в госпиталь бойфрендом матери, чем если бы ребенок был белым и доставлен бабушкой.
Мы не знаем, какова на самом деле реальность. Нам доступен лишь пазл из фрагментов, сконструированных мозгом в ответ на сигналы от органов чувств.
И для судебных экспертов это так же справедливо, как и для любого из нас.
Наша цивилизация построена из огромных башен экспертной предвзятости. Эти башни, способные легко ломать жизни тысяч людей, легко сотрут в порошок любого, кто бросит им вызов.
Но такой человек всё же нашелся. Его зовут Итиель Дрор и он - нейробиолог и специалист в области когнитивного мышления.
Только что в Science вышла интереснейшая статья «The Bias Hunter» (1) о битве Итиеля Дрора с «международной мафией» судебно-медицинских экспертов, обвинивших Дрора в непрофессионализме и нарушении этических норм после опубликования им результатов исследования широкого спектра когнитивных предубеждений экспертов.
Эта битва может очень дорого стоить Дрору. Но он храбр и не отступит, а будет биться до конца. Прозванный «Охотником за предубеждениями», Дрор поклялся доказать миру страшную угрозу последствий когнитивных искажений профессиональных экспертов.
Более подробно о Дроре и предыстории его битвы с «международной мафией» судебно-медицинских экспертов читайте в моем лонгриде «Слепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов» (2).
Рюмка коньяка под хороший лонгрид, - что может быть лучшим завершением уикенда.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
1 2
Илон Маск и Макс Тегмарк считают – это самый важный фильм года.
«Не смотри вверх – ИИ как экзистенциальная угроза».
Новый 17-ти минутный документальный фильм Дагана Шани рассказывает о том, как
• большие деньги,
• большие ставки,
• и большие риски, -
поставили мир на грань экзистенциальной катастрофы.
Хороший сценарий, отличный видеоряд, превосходный монтаж.
Но главное, - что за 17 мин вы услышите большинство важных соображений по этой теме от многих известных специалистов.
Ну а выводы делайте сами.
Я же на эту тему подробно высказался в открывшем 2023 год лонгриде «Апокалипсис от Адама» - о том, что к экзистенциальной катастрофе мир приведет не астероид или ИИ, а то что мы – не столько Homo sapiens, сколько Homo irrationalis.
#ИИ #Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
«Не смотри вверх – ИИ как экзистенциальная угроза».
Новый 17-ти минутный документальный фильм Дагана Шани рассказывает о том, как
• большие деньги,
• большие ставки,
• и большие риски, -
поставили мир на грань экзистенциальной катастрофы.
Хороший сценарий, отличный видеоряд, превосходный монтаж.
Но главное, - что за 17 мин вы услышите большинство важных соображений по этой теме от многих известных специалистов.
Ну а выводы делайте сами.
Я же на эту тему подробно высказался в открывшем 2023 год лонгриде «Апокалипсис от Адама» - о том, что к экзистенциальной катастрофе мир приведет не астероид или ИИ, а то что мы – не столько Homo sapiens, сколько Homo irrationalis.
#ИИ #Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
YouTube
Don't Look Up - The Documentary: The Case For AI As An Existential Threat
In the last months, a growing number of AI experts have warned that the current AI Arms Race between OpenAI, Google and some other tech companies, is very dangerous, and might lead to the destruction of the human race. Yet somehow, most people are not aware…
Перед важным решением обязательно пройдите через дверной проем.
Экспериментально подтвержден чудовищно странный баг в сознании людей.
Согласно древнему поверию, дверь является своеобразным порталом между пространствами. И хотя в наше время это звучит низкопробным суеверным бредом, как иначе можно объяснить результаты солидного научного эксперимента, проведенного Департаментом психологии Йельского университета?
На общечеловеческом уровне, похоже, никак. Говоря же научным языком, объяснение таково: восприятие более низкого уровня способно ограничивать даже самые непоколебимые когнитивные предубеждения более высокого уровня – напр., при принятии решений.
Пять экспериментов исследования того, как «визуальные границы восприятия событий» ограничивают «эффект числового якоря» при принятии решений, проводились так (схему эксперимента 1 см. на картинке).
• «Эффект числового якоря» в когнитивной психологии и принятия решений заключается в том, что первоначальное числовое значение, с которым сталкивается человек, может в дальнейшем влиять на его оценки или решения. Это числовое значение выступает в качестве "якоря", цепляясь за который, человек делает не совсем объективные суждения.
Например:
- Сначала человека просят решить капчу, а потом предлагают на вид прикинуть цену чемодана или решить, сколько часов общественных работ справедливо дать в качестве наказания за неприличное поведение человека в общественном месте.
- «Эффект числового якоря» проявится в том, что если одним людям показывать в капче число 29, а другим 92, то последние будут при принятии своего решения (цена чемодана или число часов наказания) давать более высокие цифры.
- и ничего с этим числовым якорем сделать невозможно, ибо он запаян в нас эволюцией.
• Влияние визуальных границ восприятия событий хорошо иллюстрируется «эффектом дверного проема». Этот эффект выражается в скачкообразном ухудшении кратковременной памяти в момент прохождения через дверной проем (что резко меняет восприятие окружающего). Мы склонны забывать о предметах, что только что держали в руках, сразу после прохождения проема и часто забываем, о чем думали или планировали сделать, пока не прошли проем.
• Оба эффекта (числового якоря и дверного проема) имеют объяснения (погуглите). На мой взгляд, все они довольно спорны. Но не суть. Ибо вот что фантастически интересно.
• Как показали 5 экспериментов Департамента психологии Йельского университета, «эффект дверного проема» сильно ослабляет или даже вообще устраняет «эффект числового якоря». И это распространяется на широкий спектр вопросов принятия решений: экономические оценки, вопросы о фактах, юридические суждения …
Это означает, как минимум, следующее.
1) Эволюция вложила в нас такие баги, что и в алкогольном бреду не привидятся. И посему говорить о принятии гарантированно верных решений, если их принимают люди, не приходится.
2) Мы можем сколько угодно смеяться, но имеет смыл вменить перед принятием решений прохождение через анфиладу комнат:
- бизнесменам и экспертам по экономике;
- аналитикам всех сортов;
- судьям;
- депутатам-законодателям и т.п.
Схема эксперимента 1 https://disk.yandex.ru/i/7qxL2zGDE8v3kw
Отчет исследования https://www.pnas.org/doi/10.1073/pnas.2303883120 (за крепким пейволом)
Для особо любознательных https://wetransfer.com/downloads/ad3612e3628252e4e85893824a63d25c20231108224917/0047ab62864f809000bdafd24e7099f220231108224951/86d5fa
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
Экспериментально подтвержден чудовищно странный баг в сознании людей.
Согласно древнему поверию, дверь является своеобразным порталом между пространствами. И хотя в наше время это звучит низкопробным суеверным бредом, как иначе можно объяснить результаты солидного научного эксперимента, проведенного Департаментом психологии Йельского университета?
На общечеловеческом уровне, похоже, никак. Говоря же научным языком, объяснение таково: восприятие более низкого уровня способно ограничивать даже самые непоколебимые когнитивные предубеждения более высокого уровня – напр., при принятии решений.
Пять экспериментов исследования того, как «визуальные границы восприятия событий» ограничивают «эффект числового якоря» при принятии решений, проводились так (схему эксперимента 1 см. на картинке).
• «Эффект числового якоря» в когнитивной психологии и принятия решений заключается в том, что первоначальное числовое значение, с которым сталкивается человек, может в дальнейшем влиять на его оценки или решения. Это числовое значение выступает в качестве "якоря", цепляясь за который, человек делает не совсем объективные суждения.
Например:
- Сначала человека просят решить капчу, а потом предлагают на вид прикинуть цену чемодана или решить, сколько часов общественных работ справедливо дать в качестве наказания за неприличное поведение человека в общественном месте.
- «Эффект числового якоря» проявится в том, что если одним людям показывать в капче число 29, а другим 92, то последние будут при принятии своего решения (цена чемодана или число часов наказания) давать более высокие цифры.
- и ничего с этим числовым якорем сделать невозможно, ибо он запаян в нас эволюцией.
• Влияние визуальных границ восприятия событий хорошо иллюстрируется «эффектом дверного проема». Этот эффект выражается в скачкообразном ухудшении кратковременной памяти в момент прохождения через дверной проем (что резко меняет восприятие окружающего). Мы склонны забывать о предметах, что только что держали в руках, сразу после прохождения проема и часто забываем, о чем думали или планировали сделать, пока не прошли проем.
• Оба эффекта (числового якоря и дверного проема) имеют объяснения (погуглите). На мой взгляд, все они довольно спорны. Но не суть. Ибо вот что фантастически интересно.
• Как показали 5 экспериментов Департамента психологии Йельского университета, «эффект дверного проема» сильно ослабляет или даже вообще устраняет «эффект числового якоря». И это распространяется на широкий спектр вопросов принятия решений: экономические оценки, вопросы о фактах, юридические суждения …
Это означает, как минимум, следующее.
1) Эволюция вложила в нас такие баги, что и в алкогольном бреду не привидятся. И посему говорить о принятии гарантированно верных решений, если их принимают люди, не приходится.
2) Мы можем сколько угодно смеяться, но имеет смыл вменить перед принятием решений прохождение через анфиладу комнат:
- бизнесменам и экспертам по экономике;
- аналитикам всех сортов;
- судьям;
- депутатам-законодателям и т.п.
Схема эксперимента 1 https://disk.yandex.ru/i/7qxL2zGDE8v3kw
Отчет исследования https://www.pnas.org/doi/10.1073/pnas.2303883120 (за крепким пейволом)
Для особо любознательных https://wetransfer.com/downloads/ad3612e3628252e4e85893824a63d25c20231108224917/0047ab62864f809000bdafd24e7099f220231108224951/86d5fa
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
Яндекс Диск
Эксперимент 1.jpg
Посмотреть и скачать с Яндекс Диска