Наш ежедневный утренний ролик 🌅

⚡️МОЛОДЁЖЬ О НИЩЕТЕ, ОБРАЗОВАНИИ И ПЕРСПЕКТИВАХ

YouTube▶️https://youtu.be/5qGkqKcrQ4E
VK▶️https://vkvideo.ru/video-146151386_456244646
Бастион▶️https://clck.ru/3VjJMH

— Вы слышали? Там самолёт.
— Там люди в том здании.
— В него самолёт врезался.
— Возможно, теракт.

Редкие кадры теракта 11 сентября 2001 года, снятые неподалёку от башен-близнецов. Американка записала видео из окна квартиры и 25 лет хранила в сейфе.

Верите, или считаете теракт постановой, а видеозапись - продуктом нейронок?

31 августа вышел интересный препринт, который показал, что ИИ для медицинских записей (AI scribe) ошибается в более чем 30% случаев. Его широко рекламируют как инструмент, избавляющий врачей от бюрократии, но на практике он часто доставляет проблемы, выбрасывая существенные детали или додумывая недостающие.

В одном из таких случаев пациентка из Великобритании была потрясена, когда узнала, что у нее демиелинизация нервов, встречающаяся при тяжелых заболеваниях ЦНС. Она запросила данные МРТ, и тогда выяснилось, что ИИ просто выбросил слово “no” из описания. Больница исправила ошибку, указав, что “демиелинизация отсутствует”. В другом случае модель перепутала схожие названия препаратов, указав в назначениях неправильный. В третьем - самостоятельно “назначила” пациенту аспирин и т.д.

Сотрудники лондонской компании Composo, занимающейся AI scribe, решили выяснить уровень ошибок (правда, на чужих продуктах). Они прогнали 142 реальных и выдуманных разговора через 3 коммерческих AI scribe и получили 565 записей. Далее Claude Opus 5 искал все подозрительное (пропуски, галлюцинации, ошибки в препаратах и т.д.) и нашел их в изобилии - 13 678 потенциальных ошибок, из которых после первичной фильтрации осталось 5 898. Затем Claude и GPT-5.5 дали противоположную задачу: они должны были аргументированно доказать, что это не ошибка, если это было возможно. В результате осталось 618 подтвержденных ошибок, которые были обнаружены в 177 записях из 565 (31,3%).

В чем заключались эти ошибки? 
❇️ Самая большая категория (111) - пропуск информации об аллергии и препаратах, которые принимает пациент, несмотря на то, что они обсуждались на приеме. 
❇️ В 93 случаях ИИ додумывал данные пациента: если фамилия или имя были написаны неразборчиво или отсутствовали, AI scribe дописывал их сам. У одного человека так оказалось название препарата для химиотерапии вместо имени. 
❇️ В 53 записях был выброшен диагноз, хотя ИИ оставил на месте рекомендации по лечению. 
❇️ ИИ также был склонен представлять консультацию по телефону как физический осмотр (42 записи). Например, если врач говорил пациенту с сыпью, что осмотрел бы его, но такой возможности нет, AI scribe все равно создавал раздел “осмотр” с описанием сыпи. 
❇️ В 32 случаях планируемое исследование превращалось в выполненное: если врач говорил, что нужно договориться о проведении ЭКГ, ИИ писал, что “ЭКГ выполнена сегодня в клинике”. 
❇️ ИИ также менял описание симптомов (28): например, указывал, что они влияют на сон, хотя в разговоре не было ничего подобного. В другом случае пациент жаловался на отек и воспаление коленей, врач также фиксировал отечность и покраснение, но в записи эти симптомы отрицались. 
❇️ Заодно ИИ приписывал пациентам болезни их родственников, оставлял в силе предыдущий вариант лечения, если врач передумал, и т.д.

Но ключевой вопрос, который поставили авторы, заключался не в опасениях за судьбу пациентов, а в том, насколько можно доверять сообщениям о многочисленных ошибках, если неизвестен метод, которым их измеряли? При установлении строгих критериев LLM подтверждалось 9,3% потенциальных ошибок, при более мягких - 79% (что давало 96,5% записей с как минимум одной ошибкой). Но на практике ни пациенту, чьи симптомы или личные данные перепутали, ни врачу, назначения которого не записали, нет дела до методологических споров. Решение проблемы лежит в другой плоскости - создание AI scribe с множественными механизмами самопроверки на основе продвинутых LLM-моделей. Это усложнит жизнь разработчикам, но, по крайней мере, позволит отлавливать ошибки, когда вместо имени пациента написано название препарата.

Заодно эти случаи показывают, насколько декоративным на самом деле может быть контроль записей со стороны врача. Пациентке, которой “диагностировали” демиелинизацию, повезло - она сама работала в NHS и догадалась запросить оригинальные данные. Но многие на ее месте и не подозревают, что записи, под которыми стоит подпись врача, ошибочны.

Такими коврами торгуют на базаре в Кабуле бывшие бойцы Талибана. Ручная работа, предзаказ, доставка, маркетплейс.

Российские власти хотят построить железную дорогу за триллионы рублей для вывоза сырья в Китай

Правительство обсуждает строительство Трансалтайской магистрали через Горный Алтай по поручению Путина, пишут СМИ. Новый маршрут позволит напрямую отправлять в Китай уголь из Сибири и разгрузить БАМ и Транссиб.

Стоимость проекта пока не определена, однако эксперты оценивают необходимые инвестиции как триллионные

Я полагал еще 4 года назад, что именно ради этого проекта туда направили Андрея Турчака. Долго же они запрягали...

❗️Коронавирус накрыл Таиланд — туристов призывают отказаться от поездок на курорт

Новая вспышка COVID-19 массово распространяется в Пхукете, Бангкоке и провинции Чонбури

Туристы жалуются на тяжёлые симптомы: высокую температуру, сильные мигрени и ломоту в теле. Особенно тяжело ночью — жар такой, что одежду можно выжимать от пота

Больше никакой зимовки

Опять? "Чем ближе мир - тем ближе пандемия"?

Старый порядок

Совершите мысленный эксперимент. Представьте, что вы перенеслись во времени, в первую половину XIX века и пытаетесь объяснить помещику, что крепостное право все равно будет отменено, как ты ни крути – и конституция будет, и парламент, и самое главное – все эти нищие крестьяне получат такие же права, как он. Станут руководителями, культурными деятелями, изобретателями, военачальниками – и вообще вопрос родословной будет людей волновать далеко не в первую очередь.

А он тебе: традиционные ценности… соборность… община… лучина… особенный русский путь… А потом плюнет и скажет: да что я тут распинаюсь, ты вообще в избах крестьянских бывал? Это же скоты, темное суеверное быдло, с ними только нагайкой можно разговаривать. Ты их в приличное общество пусти и власть дай, они там всех изнасилуют.

И ведь будет доля правды в его словах. Действительно, между дворянами и крестьянами культурная пропасть. Но ведь все равно никуда не денешься – общество все равно поменяется.

И ты ему: вот, смотри, демографический навес – деревня перенаселена, земли не хватает, а в городах наоборот нужны работники на фабриках. Вот новые технологии: они механизируют ручной труд и делают неэффективными старые формы хозяйства. Вот успешный пример Америки и Европы, а вот теперь настолько легче получить информацию. Все сходится, брат. Времена меняются. И вам надо меняться, пока не поздно.

А он тебе: все это ерунда, теория-с, масонский заговор, нужно просто пожестче с этими… со скотами. Вешать побольше. И будет порядок.

Ровно такие же споры сегодня можно вести о мигрантах. Мигранты – это крестьяне XXI века, второе нашествие из деревни в город. Оно вызвано многими объективными факторами. Пытаться остановить этот процесс насильственными мерами – это воевать с ветряными мельницами. Причина вообще не в них.

И нет, они не априори хорошие люди – как это пытаются показать в социальном кино. Но и не априори плохие. Они такие же – только из другой культурной среды. Ну да, извините, отстающей в своем развитии от передовых мегаполисов.

Есть сложный, но достойный путь: постараться побыстрее культурно ассимилировать в обществе новичков и дать им экономический стимул для социального развития. Это путь адаптации и победы.

И есть простой, но глупый путь: привести к власти первого горлопана, который скажет: я возведу на границе стену с пулеметчиками и буду отстреливать каждого, кто приблизится ближе, чем на километр. Это путь поражения и революции. Кто хочет возглавить движение к краху?

Claude создавал БИООРУЖИЕ
команда Anthropic рассекретила журналистам инфу, что с помощью их нейронки пытались вывести ВИРУСЫ-УБИЙЦЫ, которые могли уничтожить все человечество.

Главное: какие-то сумасшедшие ученые пытались вывести штаммы, которые испепелили бы ВСЕХ людей на планете как в игре Plague Inc.

А теперь расскажем всю историю самого жуткого расследования за всю историю ИИ:

• С декабря 2025 по август 2026 года Claude пытались воспользоваться злые гении, которые прокачивали опасные штаммы для создания биологического оружия.
• И это не просто фанатики-одиночки, но официальные ВОЕННЫЕ институты неназванных стран. Пока их названия держат в секрете.
• Заявку при этом маскировали под исследовательские гранты и безобидные исследования.
• Все потому, что «биология двулика». Как объясняют разрабы, создание смертельного штамма вируса похоже на разработку вакцины от того же гриппа.
• Но безопасники Anthropic насторожились и решили прочитать чаты: юзеры просили сделать штаммы ЗАРАЗНЕЕ, чтобы они могли УБИВАТЬ инфицированных и быстро развиваться в любой среде.

Вот какие вирусы пытались прокачать до максимума:

• Чикунгунья — вирус из Африки, который передают комары, от него выворачивает суставы, а тело будто прокручивают через мясорубку.
• Птичий грипп — сейчас он убивает тысячи кур и другую домашнюю птицу, но может косить пачками и людей.
• Ортопоксвирусы — разновидности черной оспы, которая еще пару сотен лет назад создавала города-призраки с десятками тысяч мертвецов.
• Токсины и яды — мышьяк или дихлофос, но только для отравления человека.

Стало жутко.

Еще явно мало мер регулирующих деятельность ИИ, как и понимания опасностей.
ИИ вне сомнения несет новую технологическую революцию, но и весь пакет угроз тоже.

⚡️ЦБ РФ оставил ключевую ставку на уровне 14%

До этого ставка снижалась десять раз подряд

А ведь Владимир Владимирович так ждал, так надеялся... Очень интересно!