The nature of error или Природа ошибки - опять немного отрывка из James Reason и его "Человеческой ошибки"

Чуть более 60 лет назад Спирмен (1928) с недовольством отмечал, что «психологическая литература, как и следовало ожидать, переполнена случайными упоминаниями об ошибках, однако почти никогда не доходит до их глубокого или хотя бы систематического рассмотрения». Уже в то время жалоба Спирмена была не вполне справедливой (см. главу 2); но если бы он был жив сегодня, у него было бы ещё меньше оснований для сетований.
Последнее десятилетие ознаменовалось быстрым ростом того, что можно условно назвать «исследованиями ошибок ради самих ошибок».

Наиболее очевидным импульсом к возобновлению интереса стала нарастающая общественная озабоченность колоссальной ценой человеческой ошибки: столкновение на взлётно-посадочной полосе в Тенерифе в 1977 году, авария на Три-Майл-Айленд двумя годами позже, трагедия в Бхопале с утечкой метилизоцианата в 1984 году, катастрофы «Челленджера» и Чернобыля в 1986 году, опрокидывание парома «Геральд оф Фри Энтерпрайз», пожар на станции метро Кингс-Кросс в 1987 году и взрыв на нефтяной платформе Piper Alpha в 1988 году. Трагические аварии, вызванные человеческой ошибкой, не являются чем-то новым; однако в прошлом их разрушительные последствия обычно ограничивались непосредственной зоной катастрофы. Теперь же природа и масштаб некоторых потенциально опасных технологий, особенно атомных электростанций, таковы, что ошибки человека способны оказывать негативное воздействие на целые континенты на протяжении нескольких поколений.

Помимо этих событий мирового масштаба, начиная с середины 1970-х годов теоретические и методологические достижения в области когнитивной психологии также способствовали тому, что ошибки стали самостоятельным объектом изучения. Не только более эффективные способы прогнозирования и снижения опасных ошибок должны проистекать из лучшего понимания психических процессов, но и стало всё очевиднее, что адекватная теория когнитивных процессов управления, если она претендует на полноту картины, обязана объяснять не только корректное выполнение, но и более предсказуемые разновидности человеческой уязвимости. Эти повторяющиеся формы ошибок отнюдь не коренятся в иррациональных или дезадаптивных тенденциях — их истоки лежат в фундаментально полезных психологических механизмах. Эрнст Мах (1905) выразил это очень точно: «Знание и ошибка берут начало из одних и тех же психических источников; лишь успех позволяет отличить одно от другого».

Центральный тезис настоящей книги заключается в том, что относительно небольшое число способов, которыми ошибки реально проявляются, неразрывно связано с теми «вычислительными примитивами», посредством которых структуры хранимых знаний отбираются и извлекаются в ответ на текущие ситуационные требования. Именно эти процессы и придают человеческому познанию его наиболее яркое преимущество перед другими вычислительными устройствами — поразительную способность упрощать сложные информационные задачи.

1. Когнитивный «баланс»
Корректное выполнение и систематические ошибки — это две стороны одной медали. Или, быть может, точнее — две стороны одного когнитивного «балансового счёта». Каждая статья актива имеет соответствующий дебет. Так, автоматизм (делегирование управления низкоуровневым специализированным модулям) делает неизбежными проскальзывания, или действия-не-по-плану. Ресурсные ограничения сознательного «рабочего пространства», хотя и необходимы для концентрации вычислительно мощных операторов на отдельных аспектах мира, одновременно способствуют информационной перегрузке и утрате данных. База знаний, содержащая специализированные «теории», а не изолированные факты, сохраняет осмысленность, но делает нас подверженными предвзятости подтверждения. Исключительно быстрая система поиска, способная находить релевантные элементы в практически неограниченной базе знаний, приводит к тому, что наши интерпретации настоящего и предвосхищения будущего слишком сильно формируются регулярностями прошлого. Подобные соображения ясно показывают, что широкомасштабный анализ повторяющихся форм ошибок необходим для адекватного понимания в значительной степени скрытых процессов, управляющих человеческим мышлением и действием.

2. Ошибки принимают ограниченное число форм
На первый взгляд шансы на безошибочное выполнение кажутся подавляюще малыми. Обычно существует лишь один (или, в лучшем случае, очень немного) правильный способ выполнения задачи; зато каждый шаг в запланированной последовательности действий или мыслей открывает возможность отклонения по множеству непреднамеренных или неуместных путей. Возьмём, к примеру, варку яйца всмятку. На каких этапах и сколькими способами даже эта относительно простая операция может быть испорчена? Список возможностей оказывается весьма длинным. Подобные размышления создают впечатление, что мы никогда не сможем адекватно описать всё многообразие человеческих ошибок.
К счастью, реальность иная. Человеческая ошибка ни по частоте, ни по разнообразию не столь велика, как могло бы подсказывать её огромное потенциальное пространство. Ошибки не только гораздо реже правильных действий, но и склонны принимать удивительно ограниченное число форм — удивительно, если сопоставить с их теоретическим разнообразием. Более того, ошибки проявляются в очень сходных обличьях в широком спектре психических деятельностей. Таким образом, удаётся выявить сопоставимые формы ошибок в действии, речи, восприятии, припоминании, узнавании, суждении, решении задач, принятии решений, формировании понятий и т. д. Повсеместная распространённость этих повторяющихся форм ошибок требует формулирования более глобальных теорий когнитивного управления, нежели те, что обычно выводятся из лабораторных экспериментов. Последние по необходимости сосредотачиваются на весьма узких аспектах психической функции в довольно искусственных условиях.

Поиск более предсказуемых разновидностей человеческой ошибки отнюдь не ведёт по бесчисленным разрозненным или расходящимся тропинкам — напротив, он постоянно направляет исследователя внутрь, к общему теоретическому ядру: сознанию, вниманию, рабочей памяти и огромному хранилищу структур знаний, с которыми они взаимодействуют. Именно этими теоретическими вопросами преимущественно и занята первая половина настоящей книги.

Чтобы самому не забыть - 22го июня конференция по натуралистическому принятию решений, вроде даже будет онлайн(а то будто мы можем поехать куда-то, ха!)

https://ndma.regfox.com/icndm2026

https://naturalisticdecisionmaking.org/conference-2026/

Из занятных тем на подумать:
The Importance of Context in Macrocognition
Metaphor as Cognitive Infrastructure
NDM Successes and Challenges
Scaling Expertise: Automating Knowledge Elicitation for Designing
Simulations

Естественно, атлеты, военные, пожарные и прочие по списку

Сборники прошлых конференций - тут

Странные интерфейсы: Wong–Baker FACES Pain Rating Scale

Изначально была разработана для маленьких детей, чтобы они могли сообщать об уровне своей боли, и таким образом получать более эффективное лечение и поддержку.

Под шкалой лиц:

0 – NO HURT – не больно

2 – HURTS LITTLE BIT – немного болит

4 – HURTS LITTLE MORE – болит чуть сильнее

6 – HURTS EVEN MORE – болит ещё сильнее

8 – HURTS WHOLE LOT – очень сильно болит

10 – HURTS WORST – болит невыносимо

В конце 1970‑х Донна Вонг занималась уходом за онкологическими и хирургическими пациентами‑детьми и искала способ, которым маленькие дети могли бы понятным образом сообщать о своей боли, не владея ещё хорошо речью и числами. Вместе с Конни Бейкер они создали ряд нарисованных лиц с разными выражениями — от улыбающегося (нет боли) до плачущего (максимальная боль) — и привязали их к числовой шкале от 0 до 10, чтобы врачи могли использовать её в клинических протоколах.
https://wongbakerfaces.org/us/wong-baker-faces-history/

Шкала Вонга–Бейкера стала одной из распространённых визуальных шкал боли в педиатрии

Конечно, тут уместно вспомнить и другие способы визуализации данных при помощи лиц - лица Чернова или проекты сбора настроения настроения страны в чилийском Киберсине
(и да, использовать эмодзи для опросов обычной аудитории обычного сервиса - риск и смещение выборки - скорее всего вы соберете репрезентацию настроения респондента)

Как люди принимают решения? Натуралистическое принятие решений

Оказывается книга отца-основателя NDM Гэри Кляйна даже есть на русском (гусары, не смейтесь - в переводе Кралечкина, известного, хм, переводами Делеза) - в ней описаны все основные проблемы изучения принятия решений пожарных, военных, специалистов в особых ситуациях и при проблемах - и почему Канеман не прав в своем делении на системы медленного и быстрого принятия решений и навешивания ярлыков "когнитивных искажений". В действительности, решения всегда принимаются экспертно, а то, что при этом происходит якобы нарушение матожиданий - так это в экспериментах поведенческой экономики происходит

Несколько цитат и тезисов в следующих постах в следующих сериях: речь пойдет об эмпирических исследованиях пожарных в США по гранту ВВС для военных - удачный пример когнитивных исследований на службе военных

Отрывки из "Источники силы. Как люди принимают решения"

Наши результаты оказались довольно прозрачными. Дело не в том, что руководители тушения пожара отказывались сравнивать варианты. Скорее, им было не нужно их сравнивать.

Я настолько зациклился на том, чего они не делали, что упустил реальный результат: руководители тушения пожара могли выйти на правильный план действий с самого начала. Именно об этом рассказывали истории, которые мы услышали. Даже столкнувшись со сложным случаем, опытные руководители могли увидеть в нём знакомую ситуацию и сразу понять, как реагировать. Секрет руководителей тушения пожара состоял в том, что их опыт позволял видеть ситуацию — даже нестандартную — как пример определённого прототипа. Благодаря этому они с самого начала знали, каков будет типичный план действий. Их опыт давал возможность сразу определить разумную реакцию — первую, которую они рассматривали. Поэтому им не нужно было думать о других вариантах.
Они не были ненормальными. Они просто были опытными. Теперь мы называем эту стратегию принятием решений на основе распознания.

Мы попытались построить классификацию для всех точек решений в соответствии с тем, демонстрировали ли руководители тушения пожара какие-либо признаки сравнения вариантов.

Мы тщательно определили категории. Точка решения считалась сравнительной оценкой, если человек, принимающий решение, сообщал, что одновременно рассматривал два или больше вариантов, пытаясь сопоставить их преимущества.
К другой категории относились решения, в которых человек сознательно придумывал совершенно новый план действий, которого раньше никогда не использовал и не встречал.
В категории решений на основе распознания люди использовали свой опыт, благодаря которому они сразу знали, что делать, и при этом не было никаких признаков сравнения разных вариантов.
Отдельно мы выделили случай, когда человек рассматривал несколько вариантов, но никогда не сравнивал их попарно. Он обдумывал каждый вариант поочерёдно, оценивал его, отвергал и переходил к следующему. Эту стратегию мы назвали подходом единичной оценки, чтобы отличить его от сравнительной оценки.

Различие между единичной и сравнительной оценкой связано с исследованиями Герберта Саймона, лауреата Нобелевской премии по экономике. Саймон (Simon, 1957) выделил стратегию принятия решений, которую назвал поиском «удовлетворительности» (satisficing) — когда выбирается первый вариант, который «работает».
Удовлетворительность отличается от оптимизации, которая предполагает поиск наилучшей стратегии. Оптимизация — сложная задача, требующая значительного времени. Удовлетворительность же гораздо эффективнее.
Стратегия единичной оценки основана именно на удовлетворительности. Саймон использовал это понятие для описания поведения бизнесменов. Однако эта стратегия ещё больше подходит руководителям тушения пожаров, поскольку они крайне ограничены во времени.

Постепенно складывалась наша модель принятия решений на основе распознания. Опытные руководители тушения пожаров могли быстро оценить ситуацию как прототипичную и знали, что делать. Если первый вариант не срабатывал, они могли рассмотреть другие — но не для того, чтобы найти наилучший, а чтобы найти первый, который сработает.

Модель RPD — пример описания того, как принимаются решения в естественных условиях. Есть и другие модели, также заслуживающие внимания, например работа Ли Бича и Терри Митчелла о теории образов (см., например: Beach, 1990) и схема навыков-правил-знания, разработанная Йенсом Расмуссеном (Rasmussen, 1983)(sic!). П.А. Андерсон (Anderson, 1983), Уол (Wohl, 1981) и Дрейфусы (Dreyfus and Dreyfus, 1986) излагают идеи, близкие к модели RPD.

Опытные лица, принимающие решения, сначала распознают ситуацию (типичный пожар в гараже, в жилом доме, пожар на фабрике или поисково-спасательную задачу), а потом приступают к действиям. Они понимают, какие именно типы целей имеют в таком случае смысл (так что сразу задают приоритеты), какие сигналы важны (поэтому избегают переизбытка информации), чего ждать дальше (а потому могут подготовиться и заметить неожиданности), а также каковы типичные способы реакции в данной ситуации. Распознавая ситуацию в качестве типичной, они в то же время распознают и план действий, который с наибольшей вероятностью приведет к успеху.

Распознание целей, сигналов, ожиданий и действий — часть того, что значит распознать ситуацию. То есть люди, принимающие решения, не начинают с целей или ожиданий, они определяют саму природу ситуации.

Некоторые ситуации сложнее, что отображено в вариациях 2 и 3 (рис. 3.1). Вариация 2 имеет место, когда человек, принимающий решение, может уделить больше внимания диагностированию ситуации, поскольку имеющаяся информация, возможно, не вполне соответствует типичному случаю или же соответствует более чем одному такому типичному случаю. Человеку, принимающему решения, возможно, понадобится собрать больше информации, чтобы провести диагностику. Еще одно затруднение состоит в том, что принимающий решение человек мог неправильно проинтерпретировать ситуацию, но понять это он может только тогда, когда какие-то из ожиданий не были выполнены. В таких случаях лица, принимающие решения, будут вынуждены среагировать на аномалию или неопределенность, проверив, какая интерпретация больше соответствует характеристикам ситуации.

Вариация 3 объясняет, как принимающие решение люди оценивают единичные варианты, представляя себе, как будет осуществляться план действий. Принимающий решение человек, предвидящий осложнения, возможно, захочет скорректировать план действий или вообще отвергнет его и начнет искать другой вариант

Три вариации можно представить в следующем виде: вариация 1 является, по существу, реакцией типа «если… то», поскольку из антецедента вытекает ответ, определяемый правилом. Экспертные знания позволяют в таком случае распознать, когда удовлетворяется условие, заданное антецедентом. Вариация 2 принимает форму «если (???)… то», поскольку человек, принимающий решения, размышляет над природой ситуации. Вариация 3 принимает форму «если… то (???)», поскольку человек, принимающий решения, раздумывает над результатом реакции.

Экстрасенсорика и NDM
а) выработать скептический настрой к курсам по формальным методам принятия решений. На таких курсах преподаются методы, которые люди на самом деле используют редко.

б)Второе применение — понимание того, когда нужно сравнивать варианты, а когда нет. При решении многих задач мы оказываемся в роли новичков, и метод рационального выбора помогает нам, когда нам не хватает экспертных знаний для распознания ситуаций. Порой нам действительно нужно использовать формальные методы, чтобы проанализировать широкий спектр альтернатив. В других случаях мы, возможно, решим, что надо опираться на наши экспертные знания и глубже изучать более узкий круг альтернатив — может быть, даже первую из имеющихся.

в) Последнее применение относится к образованию. Идеи, изложенные в этой главе, предполагают, что нельзя сделать человека экспертом, обучая его формальным методам анализа. На самом деле всё наоборот: обучая этим методам, мы можем замедлить выработку навыков. Если цель в том, чтобы научить людей принимать решения в условиях дефицита времени, возможно, надо требовать, чтобы обучающийся принимал быстрые решения, а не раздумывал над всеми следствиями и посылками. Если есть возможность предлагать ему по несколько ситуаций в час несколько часов в день в течение нескольких дней или недель, мы наверняка сможем повысить способность обучающегося выявлять знакомые паттерны.

В первом формальном интервью, которое я провел для нашего первого проекта с пожарными, я пытался найти какой-нибудь сложный случай, когда мой интервьюируемый, руководитель тушения пожара, должен был принять сложное решение. Он смог вспомнить только один случай, произошедший много лет назад, когда, по его словам, жизнь ему спасло его экстрасенсорное восприятие (ЭСВ). Я попытался отыскать в его воспоминаниях какой-нибудь другой инцидент, поскольку этот произошел слишком давно, когда он еще был лейтенантом, а не руководителем тушения пожара, а также потому, что я не слишком интересуюсь ЭСВ. Однако он очень хотел рассказать об этом случае, так что в конце концов я уступил и дал ему возможность изложить свою историю.
Речь пойдет о простом пожаре в одноэтажном доме в жилом районе. Пожар разгорелся в задней части дома, в зоне кухни. Лейтенант заводит свою группу ствольщиков в дом, чтобы залить огонь водой, однако огонь не сдается и теснит их.
«Странно, — думает он, — вода должна была оказать более заметное действие». Они пытаются снова залить огонь, но с тем же результатом. Тогда они немного отступают, чтобы перегруппироваться.
Тут лейтенант чувствует, что в доме что-то не так, поэтому он приказывает своим людям покинуть здание — совершенно обычное строение, в котором нет ничего странного.
Как только его люди покидают здание, пол, на котором они только что стояли, проваливается. Если бы они все еще были внутри здания, они упали бы в огонь, который был внизу.

Он уверял нас, что это было шестое чувство, которое присуще всякому опытному командиру. Но внимательный опрос позволил выявить следующие факты:

он не подозревал, что в доме был подвал;
он не подозревал, что место возгорания находится в подвале, прямо под гостиной, где он стоял со своей командой, когда дал приказ отойти;
он уже сам задумался, почему огонь не реагирует на их действия так, как ожидалось;
в гостиной было намного теплее, чем он мог ожидать в случае небольшого пожара на кухне односемейного дома;
огонь был очень тихим. Обычно пожар шумит, а в случае пожара, дававшего столь сильный жар, следовало ожидать очень сильный шум.

То есть общая картина не складывалась. Его ожидания не оправдались, и он не понимал, что именно происходит. Поэтому-то он приказал своим людям покинуть здание. Но в ретроспективе причины нестыковок были ясны. Поскольку пожар был под ним, а не на кухне, действия команды на него не влияли, жар был намного больше, чем он ожидал, а пол функционировал как шумопоглощающий буфер, так что в итоге образовалась жаркая, но тихая среда.

Ключевой момент в этой истории вот в чём: опыт и экспертиза не очень нужны тогда, когда события соответствуют ожиданиям и регламентируются инструкциям

🛠 Barman - позволяет вашей компании внедрить решения для аварийного восстановления баз данных PostgreSQL с высокими требованиями к непрерывности бизнес-процессов.

🌍 Сайт

Daily Coding #инструменты #SQL & Max

🛠 Scrollanim - облегченная библиотека CSS3 и JavaScript для создания анимации прокрутки. Она бесплатна, имеет открытый исходный код и проста в использовании. Scrollanim использует Animate.css и имеет большое количество встроенных анимаций CSS3, которые вы можете выбрать, например, bounceIn, bounceOut, fadeIn, fadeOut и многое другое.

🌍 Сайт

Daily Coding #инструменты #CSS & Max

🧰 Showcase — Framer запустил свое дизайн сообщество, где можно создать портфолио или посмотреть работы других дизайнеров

Dezzigners

Освойте нейросети для контента за 3 дня

ИИ это не про замену людей — это про усиление ваших умений и делегирование рутины. 80% контента уже делается с помощью ИИ и базовые навыки необходимы всем, кто работает с созданием контента.

Регистрируйтесь на бесплатный мини-курс, где вы получите готовое портфолио и научитесь:
— Писать продающие посты без «ИИ‑шаблонов»;
— Делать стильные визуалы для брендов и соцсетей;
— Проводить нейрофотосессии с реальными или вымышленными моделями;
— Готовить презентации, креативные арты и постеры.

Переходите по ссылке, чтобы получить доступ и бонусные материалы.

Реклама. Информация о рекламодателе по ссылкам в посте.

🧰 Fireline 129 — интересный шрифт, где каждый символ выполнен в виде языков пламени

Cкачать

Dezzigners

🧰 Components Generator — поможет быстро создавать компоненты

Dezzigners

🧰 Gradient Blend Noise Vol. 3 — небольшой пак, состоящий из 70 уникальных градиентных абстракций в форматах ai, jpg, png, psd

Cкачать

Dezzigners