Думаю, что #драконьикомиксы я сохраню даже после окончания сказок на ночь. Среди них есть прям мимими...

Биксонимания: ИИ диагностировал выдуманную болезнь глаз

Весной 2024 года несколько популярных нейросетей начали уверенно диагностировать у людей редкое заболевание глаз под названием bixonimania. Симптомы звучали до боли знакомо: усталые, зудящие глаза, иногда с розоватым оттенком век после долгого сидения за экранами. Советы были стандартными — меньше синего света, специальные капли, визит к офтальмологу. Всё выглядело вполне серьёзно. Только одной детали не хватало: такой болезни не существовало в природе.

Автором эксперимента стала Алмира Османович Тунстрём, медицинский исследователь из Гётеборгского университета в Швеции. Она специально придумала несуществующее состояние, чтобы проверить, насколько легко большие языковые модели заглатывают и выдают медицинскую дезинформацию. «Я хотела увидеть, смогу ли создать болезнь, которой нет в базах данных», — объясняла она.

Сначала появились два поста на Medium, а в апреле и мае 2024 года — два препринта на платформе SciProfiles. Каждый получил свой DOI — постоянный цифровой идентификатор, который делает работу легко находимой и цитируемой. Препринты позволяют быстро поделиться рукописью до официального рецензирования, но не проверяют содержание на достоверность.

Чтобы любой внимательный читатель сразу понял подвох, текст набили очевидными сигналами. Ведущий автор — вымышленный Лазлив Изгубленович из несуществующего Asteria Horizon University в придуманном городе Нова-Сити. Фото учёного сгенерировано ИИ. В работах прямо написано: «this entire paper is made up» и «пятьдесят выдуманных участников в возрасте от 20 до 50 лет». Благодарности шли профессору Марии Бом из Академии Звёздного флота за помощь на борту USS Enterprise. Финансирование якобы выделил Фонд профессора Сайдшоу Боба за достижения в области продвинутого трюкачества, а также Университет Братства Кольца и Галактическая Триада. Даже название выбрали говорящее — заканчивается на «-мания», хотя это термин из психиатрии, а не офтальмологии.

Несмотря на весь набор красных флагов, через несколько недель крупные модели начали повторять информацию как факт. Microsoft Copilot называл bixonimania «интересным и относительно редким состоянием». Google Gemini объяснял, что болезнь вызвана чрезмерным воздействием синего света. Perplexity выдавал статистику — один случай на 90 000 человек. ChatGPT оценивал симптомы пользователей и иногда советовал обратиться к врачу. Даже в начале 2026 года отдельные версии моделей всё ещё упоминали «предлагаемый новый подтип» или «emerging term», хотя уже с оговорками.

Один из фейковых препринтов успели процитировать в реальной статье журнала Cureus — правда, потом эту работу отозвали. Получается, не только нейросети, но и отдельные исследователи иногда полагаются на красивый научный вид, не заглядывая в первоисточник.

Тунстрём заранее консультировалась с этическим советником и выбрала низкорисковую тему — она не хотела навредить. Просто показала, как легко профессионально оформленный текст проникает в систему. Препринты остаются полезным инструментом: они ускоряют обмен идеями в науке. Но история с bixonimania напоминает, что DOI и академический стиль ещё не равны истине. Особенно когда нейросеть учится на всем, что "плохо лежит" в сети.

Это, конечно, баян уже даже здесь. Но после этой статьи, кажется, без вариантов 🤓

На втором канале вышла обновленная статья о Кёпенкинском Капитане.
Собственно, инспирировал сиё действо один из уважаемых подписчиков, за что ему - спасибо!

https://t.me/ScamsOfSaneMan/287