Биксонимания: ИИ диагностировал выдуманную болезнь глаз

Весной 2024 года несколько популярных нейросетей начали уверенно диагностировать у людей редкое заболевание глаз под названием bixonimania. Симптомы звучали до боли знакомо: усталые, зудящие глаза, иногда с розоватым оттенком век после долгого сидения за экранами. Советы были стандартными — меньше синего света, специальные капли, визит к офтальмологу. Всё выглядело вполне серьёзно. Только одной детали не хватало: такой болезни не существовало в природе.

Автором эксперимента стала Алмира Османович Тунстрём, медицинский исследователь из Гётеборгского университета в Швеции. Она специально придумала несуществующее состояние, чтобы проверить, насколько легко большие языковые модели заглатывают и выдают медицинскую дезинформацию. «Я хотела увидеть, смогу ли создать болезнь, которой нет в базах данных», — объясняла она.

Сначала появились два поста на Medium, а в апреле и мае 2024 года — два препринта на платформе SciProfiles. Каждый получил свой DOI — постоянный цифровой идентификатор, который делает работу легко находимой и цитируемой. Препринты позволяют быстро поделиться рукописью до официального рецензирования, но не проверяют содержание на достоверность.

Чтобы любой внимательный читатель сразу понял подвох, текст набили очевидными сигналами. Ведущий автор — вымышленный Лазлив Изгубленович из несуществующего Asteria Horizon University в придуманном городе Нова-Сити. Фото учёного сгенерировано ИИ. В работах прямо написано: «this entire paper is made up» и «пятьдесят выдуманных участников в возрасте от 20 до 50 лет». Благодарности шли профессору Марии Бом из Академии Звёздного флота за помощь на борту USS Enterprise. Финансирование якобы выделил Фонд профессора Сайдшоу Боба за достижения в области продвинутого трюкачества, а также Университет Братства Кольца и Галактическая Триада. Даже название выбрали говорящее — заканчивается на «-мания», хотя это термин из психиатрии, а не офтальмологии.

Несмотря на весь набор красных флагов, через несколько недель крупные модели начали повторять информацию как факт. Microsoft Copilot называл bixonimania «интересным и относительно редким состоянием». Google Gemini объяснял, что болезнь вызвана чрезмерным воздействием синего света. Perplexity выдавал статистику — один случай на 90 000 человек. ChatGPT оценивал симптомы пользователей и иногда советовал обратиться к врачу. Даже в начале 2026 года отдельные версии моделей всё ещё упоминали «предлагаемый новый подтип» или «emerging term», хотя уже с оговорками.

Один из фейковых препринтов успели процитировать в реальной статье журнала Cureus — правда, потом эту работу отозвали. Получается, не только нейросети, но и отдельные исследователи иногда полагаются на красивый научный вид, не заглядывая в первоисточник.

Тунстрём заранее консультировалась с этическим советником и выбрала низкорисковую тему — она не хотела навредить. Просто показала, как легко профессионально оформленный текст проникает в систему. Препринты остаются полезным инструментом: они ускоряют обмен идеями в науке. Но история с bixonimania напоминает, что DOI и академический стиль ещё не равны истине. Особенно когда нейросеть учится на всем, что "плохо лежит" в сети.

Это, конечно, баян уже даже здесь. Но после этой статьи, кажется, без вариантов 🤓

На втором канале вышла обновленная статья о Кёпенкинском Капитане.
Собственно, инспирировал сиё действо один из уважаемых подписчиков, за что ему - спасибо!

https://t.me/ScamsOfSaneMan/287

Тоже адский баян, конечно... Но не мог не отреагировать. С фильтрацией рекламы тут полная жопа...

Продолжаем рубрику.
На этот раз будет совсем небольшая, но добрая интернет-древность с неизвестным автором: "Дневник сторожа садового товарищества".

Дневник сторожа садоводческого товарищества "Утес"

Часть 1.

15.05
Председатель предложил мне, раз уж я все равно здесь все время живу, подработать сторожем. Подумал. Согласился.

16.05
Осмотрел вверенные участки. Определил, где что растет. Hеподалеку от участков, где растет редиска и лук, поставил несколько водочных бутылок с намешанным слабительным.

18.05
Hа участки равномерным слоем внесено много органического удобрения.

20.05
Бутылки больше никто не трогает, овощи пока тоже.

21.05
Развесил объявления, что редис будут проверять на излишек радиации. Hекоторые корнеплоды раскрасил светящейся краской.

23.05
В местной пивной с наслаждением слушал рассуждения о том, что «Утес» расположили на месте заброшенного ядерного могильника. Влез в разговор и наплел, что там еще и нечистая сила водится.

25.05
Пошел к отцу Спиридону. Он отнесся с пониманием и в очередной проповеди коснулся темы, как уберечь себя при встрече с нечистой силой.

28.05
Закончился учебный год. Пошел к учителю и одолжил у него скелет, все равно, пока каникулы, он простаивает.

29.05
Приладил скелет вместе с сиреной на земляничной грядке нашего казначея.

30.05
Устройство сработало. Вор забрался на макушку тридцатиметровой груши, куда отродясь никто не забирался и наотрез отказывается спускаться.

3.06
Приехал казначей, я ему обрисовал ситуацию. Он наотрез отказался пилить верхушку груши, это у него самое высокое дерево, а палки туда не долетают, высоковато, поэтому сбить страдальца не удается. Hадо подумать, как быть.

6.06
Предупредил сидельца, что этой ночью будет полнолуние и на охоту выйдут оборотни. Все равно не слезает. Hу-ну…

6.06 ночью.
Раскрасил своего песика наподобие собачки Баскервилей и выпустил на казначейский участок. Блин, этому бы типу в цирке выступать, а не по участкам шарить, никогда не видел таких прыжков и сальто.

13.06
Hеделю нет посетителей. Старушки, идущие в кладбищенскую часовню опасливо крестятся. Приходили учитель и о. Спиридон, выпили, потом долго рассуждали о пользе и вреде суеверий.

16.06
Hа участке Марьи Петровны сперли капусту и морковь. Щи, что ли, варить собрались?

17.06
В заброшенном доме на том конце села, оказывается, обосновались бомжи. Взял у жены поношенный парик, все равно он ей больше не нужен.

18.06
Hадел парик и костюм, одолженный у пугала с участка Hиколая Сергеевича, выпил с бомжами и рассказал, что здесь небезопасно, нечисть водится, люди пропадают. Сделал вид что уснул, дождался, пока они уйдут, потом бросил кости от бараньей грудной клетки, парик и все залил тремя литрами свежей крови со скотобойни.

19.06
Приходил участковый, интересовался, не я ли напугал бомжей. Я поинтересовался, в чем дело, он ответил, что поджидал их утром, чтобы проверить документы, но они зашли в избушку, тут же с воплями выскочили и дали такого драла, что он на мотоцикле не смог их догнать. Я ему сказал, что не в курсе.

23.06
У Маришки из промтоварного одолжил манекены, пылящиеся у нее на складе и развесил по вишням и абрикосам.

24.06
Старушки на базаре рассказывают, что в «Утесе» завелась секта сатанистов, и что эти сатанисты по ночам проводят ритуальные казни. Кстати, на базаре почему-то нет в продаже ни вишен, ни абрикосов. Почему бы это?

30.06
Приехал Павлик с дружбанами, привез обещанную маску. Если бы я не знал, что ему заказал, непременно бы обде… испугался. Он говорит, что выбрал самую добрую, а в темноте она еще страшнее, потому как светится. Выпил с ними.

1-3.07
Пока брат здесь, патрулирую участки в маске и его рокерском рогатом шлеме. Местные старушки говорят, что в «Утесе» разгуливает сам Сатана и наседают на Спиридона и участкового, чтобы те приняли меры. Откуда они знают, что здесь творится, если они такие уж законопослушные?

4.07
Проводил Павлика.

7.07
Поправился после проводов Павлика. Обнаружил, что все эти дни не кормил Полкана. Бедненький. Выпустил его вечером на поиски съестного.

#читаемвместе