Эксперимент Хофлинга: авторитет - страшная сила
Часть 1.
Сестринский пост. Ночь в обычной больнице. Всё спокойно. Дежурная медсестра с трудом борется с дремотой, когда тишину резко нарушает телефонный звонок. В трубке — уверенный, чуть торопливый мужской голос: «Это доктор Смит. У вас в шкафу должен быть Astroten. Проверьте». Сестра открывает шкаф — препарат действительно на месте. На этикетке чётко написано: максимальная суточная доза — 10 мг. «Всё верно, — продолжает голос. — Введите мистеру Джонсу 20 мг внутримышечно прямо сейчас. Я скоро подойду и подпишу назначение».
Она набирает в шприц двойную дозу незнакомого лекарства, выходит из процедурной и идёт по коридору к палате. Шаги отдаются в ночной тишине. Ещё несколько метров — и препарат окажется в пациенте.
Её останавливают в дверях. Потому что никакого доктора Смита нет. И эксперимент уже завершён.
В 1966 году психиатр Чарльз Хофлинг вместе с коллегами провёл именно такой полевой эксперимент в реальных американских больницах. Медсёстры на ночном дежурстве даже не подозревали, что стали участницами исследования. Им звонил совершенно незнакомый человек, представлявшийся врачом, и отдавал устный приказ ввести пациенту препарат Astroten в дозе 20 мг. На флаконе было указано, что максимальная суточная доза составляет всего 10 мг. Больничные правила прямо запрещали принимать назначения по телефону без письменного подтверждения и уж тем более вводить незнакомые препараты в такой дозировке.
На деле Astroten был вымышленным названием. Во флаконах находился обычный безвредный плацебо — глюкоза. Никто из пациентов не пострадал. Но медсёстры об этом, естественно, не знали.
Из 22 реальных дежурных медсестёр 21 спокойно начали готовить шприц и понесли его к пациенту. Только одна отказалась сразу. Когда их потом спрашивали, почему они не остановились, многие честно признавались: да, понимали, что нарушают правила, но голос врача звучал уверенно, а вся ситуация казалась совершенно рутинной. Одиннадцать из них даже заметили несоответствие дозы, но всё равно решили, что раз доктор приказал — значит, так и надо.
Для сравнения исследователи провели отдельный опрос среди другой группы медсестёр и студенток. Им в подробностях описали ту же самую ситуацию и попросили ответить, как бы они поступили. Почти все заявили, что ни за что не стали бы вводить препарат. Разница между тем, что люди говорят, и тем, что делают на самом деле, получилась просто разительной.
В ночной смене медсестра остаётся один на один с огромной ответственностью. Врач в больничной иерархии — это вершина. Привычка подчиняться «доктору» закладывается ещё в годы обучения и потом годами подкрепляется на практике. Когда приказ звучит буднично, а времени на долгие размышления почти нет, сомнения как-то сами собой отходят в сторону. Незнакомый препарат только добавлял неопределённости: спорить было сложнее, ведь не совсем понятно, какие именно последствия может иметь отказ.
Часть 1.
Сестринский пост. Ночь в обычной больнице. Всё спокойно. Дежурная медсестра с трудом борется с дремотой, когда тишину резко нарушает телефонный звонок. В трубке — уверенный, чуть торопливый мужской голос: «Это доктор Смит. У вас в шкафу должен быть Astroten. Проверьте». Сестра открывает шкаф — препарат действительно на месте. На этикетке чётко написано: максимальная суточная доза — 10 мг. «Всё верно, — продолжает голос. — Введите мистеру Джонсу 20 мг внутримышечно прямо сейчас. Я скоро подойду и подпишу назначение».
Она набирает в шприц двойную дозу незнакомого лекарства, выходит из процедурной и идёт по коридору к палате. Шаги отдаются в ночной тишине. Ещё несколько метров — и препарат окажется в пациенте.
Её останавливают в дверях. Потому что никакого доктора Смита нет. И эксперимент уже завершён.
В 1966 году психиатр Чарльз Хофлинг вместе с коллегами провёл именно такой полевой эксперимент в реальных американских больницах. Медсёстры на ночном дежурстве даже не подозревали, что стали участницами исследования. Им звонил совершенно незнакомый человек, представлявшийся врачом, и отдавал устный приказ ввести пациенту препарат Astroten в дозе 20 мг. На флаконе было указано, что максимальная суточная доза составляет всего 10 мг. Больничные правила прямо запрещали принимать назначения по телефону без письменного подтверждения и уж тем более вводить незнакомые препараты в такой дозировке.
На деле Astroten был вымышленным названием. Во флаконах находился обычный безвредный плацебо — глюкоза. Никто из пациентов не пострадал. Но медсёстры об этом, естественно, не знали.
Из 22 реальных дежурных медсестёр 21 спокойно начали готовить шприц и понесли его к пациенту. Только одна отказалась сразу. Когда их потом спрашивали, почему они не остановились, многие честно признавались: да, понимали, что нарушают правила, но голос врача звучал уверенно, а вся ситуация казалась совершенно рутинной. Одиннадцать из них даже заметили несоответствие дозы, но всё равно решили, что раз доктор приказал — значит, так и надо.
Для сравнения исследователи провели отдельный опрос среди другой группы медсестёр и студенток. Им в подробностях описали ту же самую ситуацию и попросили ответить, как бы они поступили. Почти все заявили, что ни за что не стали бы вводить препарат. Разница между тем, что люди говорят, и тем, что делают на самом деле, получилась просто разительной.
В ночной смене медсестра остаётся один на один с огромной ответственностью. Врач в больничной иерархии — это вершина. Привычка подчиняться «доктору» закладывается ещё в годы обучения и потом годами подкрепляется на практике. Когда приказ звучит буднично, а времени на долгие размышления почти нет, сомнения как-то сами собой отходят в сторону. Незнакомый препарат только добавлял неопределённости: спорить было сложнее, ведь не совсем понятно, какие именно последствия может иметь отказ.
👍18👏5❤1
Эксперимент Хофлинга: авторитет - страшная сила
Часть 2.
Авторы эксперимента сами отметили, что не ожидали такого результата. Никто из коллег, кого они заранее спрашивали о возможном исходе, не угадал, что послушание окажется почти тотальным. Хофлинг и его команда пришли к выводу, что в реальной больничной жизни давление авторитета работает заметно сильнее, чем в любой лаборатории. Здесь нет искусственно созданной ситуации — всё происходит в привычном рабочем пространстве, где подчинение врачу воспринимается как естественная часть профессии. Социальное давление от неравенства власти между врачом и медсестрой может привести к тому, что пациент окажется под реальным риском, лишь бы не ослушаться приказа.
Через одиннадцать лет, в 1977 году, Стивен Рэнк и Карделл Джейкобсон решили проверить, насколько устойчив этот эффект. Они повторили эксперимент, но внесли важные изменения. Медсёстрам так же звонили от имени врача и просили ввести повышенную дозу. Только теперь использовали не вымышленный препарат, а реальный и хорошо знакомый всем Valium — диазепам. Доза была в три раза выше рекомендованной. Кроме того, медсёстры могли свободно обсудить приказ с коллегами, как это обычно и происходит в настоящей практике.
Результат получился совсем иным. Из 18 медсестёр только две начали выполнять приказ. Остальные либо сразу отказались, либо стали проверять и обсуждать распоряжение. Знание препарата давало чёткие аргументы: «Я точно знаю, что это опасно». Возможность посоветоваться с коллегами снимала ощущение полного одиночества перед авторитетом.
Оригинальный эксперимент Хофлинга ярко продемонстрировал, насколько легко авторитет способен перекрыть и правила, и здравый смысл, когда всё выглядит обыденно и риски остаются размытыми. Повтор Рэнка и Джейкобсона добавил важный штрих: послушание резко падает, как только опасность становится очевидной и появляется хоть немного пространства для манёвра — знакомый препарат, возможность переговорить с коллегами.
В итоге авторитет работает особенно сильно не потому, что люди слепы или глупы, а потому, что в жёсткой иерархической системе подчинение часто выглядит самым безопасным и правильным выбором прямо здесь и сейчас. А когда картина проясняется, механизмы сопротивления включаются заметно быстрее.
Такие эксперименты проводились уже давно, но описанные в них динамики никуда не делись. Они просто стали чуть заметнее там, где иерархия остаётся жёсткой, а привычная рутина продолжает маскировать риски. Мы до сих пор уверены, что с нами бы такого точно не случилось. Пока однажды ночью не зазвонит телефон. А вы уверены, что сестра, которая идёт к вам под утро, просто делает очередной обход?
Часть 2.
Авторы эксперимента сами отметили, что не ожидали такого результата. Никто из коллег, кого они заранее спрашивали о возможном исходе, не угадал, что послушание окажется почти тотальным. Хофлинг и его команда пришли к выводу, что в реальной больничной жизни давление авторитета работает заметно сильнее, чем в любой лаборатории. Здесь нет искусственно созданной ситуации — всё происходит в привычном рабочем пространстве, где подчинение врачу воспринимается как естественная часть профессии. Социальное давление от неравенства власти между врачом и медсестрой может привести к тому, что пациент окажется под реальным риском, лишь бы не ослушаться приказа.
Через одиннадцать лет, в 1977 году, Стивен Рэнк и Карделл Джейкобсон решили проверить, насколько устойчив этот эффект. Они повторили эксперимент, но внесли важные изменения. Медсёстрам так же звонили от имени врача и просили ввести повышенную дозу. Только теперь использовали не вымышленный препарат, а реальный и хорошо знакомый всем Valium — диазепам. Доза была в три раза выше рекомендованной. Кроме того, медсёстры могли свободно обсудить приказ с коллегами, как это обычно и происходит в настоящей практике.
Результат получился совсем иным. Из 18 медсестёр только две начали выполнять приказ. Остальные либо сразу отказались, либо стали проверять и обсуждать распоряжение. Знание препарата давало чёткие аргументы: «Я точно знаю, что это опасно». Возможность посоветоваться с коллегами снимала ощущение полного одиночества перед авторитетом.
Оригинальный эксперимент Хофлинга ярко продемонстрировал, насколько легко авторитет способен перекрыть и правила, и здравый смысл, когда всё выглядит обыденно и риски остаются размытыми. Повтор Рэнка и Джейкобсона добавил важный штрих: послушание резко падает, как только опасность становится очевидной и появляется хоть немного пространства для манёвра — знакомый препарат, возможность переговорить с коллегами.
В итоге авторитет работает особенно сильно не потому, что люди слепы или глупы, а потому, что в жёсткой иерархической системе подчинение часто выглядит самым безопасным и правильным выбором прямо здесь и сейчас. А когда картина проясняется, механизмы сопротивления включаются заметно быстрее.
Такие эксперименты проводились уже давно, но описанные в них динамики никуда не делись. Они просто стали чуть заметнее там, где иерархия остаётся жёсткой, а привычная рутина продолжает маскировать риски. Мы до сих пор уверены, что с нами бы такого точно не случилось. Пока однажды ночью не зазвонит телефон. А вы уверены, что сестра, которая идёт к вам под утро, просто делает очередной обход?
👍25👏3
Думаю, что #драконьикомиксы я сохраню даже после окончания сказок на ночь. Среди них есть прям мимими...
🔥20😁6🥰5
Биксонимания: ИИ диагностировал выдуманную болезнь глаз
Весной 2024 года несколько популярных нейросетей начали уверенно диагностировать у людей редкое заболевание глаз под названием bixonimania. Симптомы звучали до боли знакомо: усталые, зудящие глаза, иногда с розоватым оттенком век после долгого сидения за экранами. Советы были стандартными — меньше синего света, специальные капли, визит к офтальмологу. Всё выглядело вполне серьёзно. Только одной детали не хватало: такой болезни не существовало в природе.
Автором эксперимента стала Алмира Османович Тунстрём, медицинский исследователь из Гётеборгского университета в Швеции. Она специально придумала несуществующее состояние, чтобы проверить, насколько легко большие языковые модели заглатывают и выдают медицинскую дезинформацию. «Я хотела увидеть, смогу ли создать болезнь, которой нет в базах данных», — объясняла она.
Сначала появились два поста на Medium, а в апреле и мае 2024 года — два препринта на платформе SciProfiles. Каждый получил свой DOI — постоянный цифровой идентификатор, который делает работу легко находимой и цитируемой. Препринты позволяют быстро поделиться рукописью до официального рецензирования, но не проверяют содержание на достоверность.
Чтобы любой внимательный читатель сразу понял подвох, текст набили очевидными сигналами. Ведущий автор — вымышленный Лазлив Изгубленович из несуществующего Asteria Horizon University в придуманном городе Нова-Сити. Фото учёного сгенерировано ИИ. В работах прямо написано: «this entire paper is made up» и «пятьдесят выдуманных участников в возрасте от 20 до 50 лет». Благодарности шли профессору Марии Бом из Академии Звёздного флота за помощь на борту USS Enterprise. Финансирование якобы выделил Фонд профессора Сайдшоу Боба за достижения в области продвинутого трюкачества, а также Университет Братства Кольца и Галактическая Триада. Даже название выбрали говорящее — заканчивается на «-мания», хотя это термин из психиатрии, а не офтальмологии.
Несмотря на весь набор красных флагов, через несколько недель крупные модели начали повторять информацию как факт. Microsoft Copilot называл bixonimania «интересным и относительно редким состоянием». Google Gemini объяснял, что болезнь вызвана чрезмерным воздействием синего света. Perplexity выдавал статистику — один случай на 90 000 человек. ChatGPT оценивал симптомы пользователей и иногда советовал обратиться к врачу. Даже в начале 2026 года отдельные версии моделей всё ещё упоминали «предлагаемый новый подтип» или «emerging term», хотя уже с оговорками.
Один из фейковых препринтов успели процитировать в реальной статье журнала Cureus — правда, потом эту работу отозвали. Получается, не только нейросети, но и отдельные исследователи иногда полагаются на красивый научный вид, не заглядывая в первоисточник.
Тунстрём заранее консультировалась с этическим советником и выбрала низкорисковую тему — она не хотела навредить. Просто показала, как легко профессионально оформленный текст проникает в систему. Препринты остаются полезным инструментом: они ускоряют обмен идеями в науке. Но история с bixonimania напоминает, что DOI и академический стиль ещё не равны истине. Особенно когда нейросеть учится на всем, что "плохо лежит" в сети.
Весной 2024 года несколько популярных нейросетей начали уверенно диагностировать у людей редкое заболевание глаз под названием bixonimania. Симптомы звучали до боли знакомо: усталые, зудящие глаза, иногда с розоватым оттенком век после долгого сидения за экранами. Советы были стандартными — меньше синего света, специальные капли, визит к офтальмологу. Всё выглядело вполне серьёзно. Только одной детали не хватало: такой болезни не существовало в природе.
Автором эксперимента стала Алмира Османович Тунстрём, медицинский исследователь из Гётеборгского университета в Швеции. Она специально придумала несуществующее состояние, чтобы проверить, насколько легко большие языковые модели заглатывают и выдают медицинскую дезинформацию. «Я хотела увидеть, смогу ли создать болезнь, которой нет в базах данных», — объясняла она.
Сначала появились два поста на Medium, а в апреле и мае 2024 года — два препринта на платформе SciProfiles. Каждый получил свой DOI — постоянный цифровой идентификатор, который делает работу легко находимой и цитируемой. Препринты позволяют быстро поделиться рукописью до официального рецензирования, но не проверяют содержание на достоверность.
Чтобы любой внимательный читатель сразу понял подвох, текст набили очевидными сигналами. Ведущий автор — вымышленный Лазлив Изгубленович из несуществующего Asteria Horizon University в придуманном городе Нова-Сити. Фото учёного сгенерировано ИИ. В работах прямо написано: «this entire paper is made up» и «пятьдесят выдуманных участников в возрасте от 20 до 50 лет». Благодарности шли профессору Марии Бом из Академии Звёздного флота за помощь на борту USS Enterprise. Финансирование якобы выделил Фонд профессора Сайдшоу Боба за достижения в области продвинутого трюкачества, а также Университет Братства Кольца и Галактическая Триада. Даже название выбрали говорящее — заканчивается на «-мания», хотя это термин из психиатрии, а не офтальмологии.
Несмотря на весь набор красных флагов, через несколько недель крупные модели начали повторять информацию как факт. Microsoft Copilot называл bixonimania «интересным и относительно редким состоянием». Google Gemini объяснял, что болезнь вызвана чрезмерным воздействием синего света. Perplexity выдавал статистику — один случай на 90 000 человек. ChatGPT оценивал симптомы пользователей и иногда советовал обратиться к врачу. Даже в начале 2026 года отдельные версии моделей всё ещё упоминали «предлагаемый новый подтип» или «emerging term», хотя уже с оговорками.
Один из фейковых препринтов успели процитировать в реальной статье журнала Cureus — правда, потом эту работу отозвали. Получается, не только нейросети, но и отдельные исследователи иногда полагаются на красивый научный вид, не заглядывая в первоисточник.
Тунстрём заранее консультировалась с этическим советником и выбрала низкорисковую тему — она не хотела навредить. Просто показала, как легко профессионально оформленный текст проникает в систему. Препринты остаются полезным инструментом: они ускоряют обмен идеями в науке. Но история с bixonimania напоминает, что DOI и академический стиль ещё не равны истине. Особенно когда нейросеть учится на всем, что "плохо лежит" в сети.
🔥14👍3👏3🦄1
На втором канале вышла обновленная статья о Кёпенкинском Капитане.
Собственно, инспирировал сиё действо один из уважаемых подписчиков, за что ему - спасибо!
https://t.me/ScamsOfSaneMan/287
Собственно, инспирировал сиё действо один из уважаемых подписчиков, за что ему - спасибо!
https://t.me/ScamsOfSaneMan/287
Telegram
Аферы Здравомыслящего
Фридрих Вильгельм Фойгт: сапожник, который обманул Пруссию
Часть 1.
И снова ревизия и переосмысление старой статьи. И снова, кажется, стало лучше.
«Невероятный жульнический трюк, который сильно напоминает русские ограбления банков и одновременно выглядит…
Часть 1.
И снова ревизия и переосмысление старой статьи. И снова, кажется, стало лучше.
«Невероятный жульнический трюк, который сильно напоминает русские ограбления банков и одновременно выглядит…
👍10🔥1