🧠 ИИ всё ещё страдает "амнезией"

Недавно на конференции Deep Tech Night бывший директор по развитию бизнеса Google X Мо Гавдат назвал главным нерешённым ограничением ИИ не интеллект, а долгосрочную память. По его мнению, тот, кто первым научит модели надёжно помнить прошлое, получит огромное конкурентное преимущество.

В качестве примера Гавдат рассказал об Emma — приложении для знакомств и персонального сопровождения, которое он создаёт как «рой» ИИ-агентов. Одни агенты знакомятся с пользователем, другие анализируют отношения, определяют приоритеты или подбирают партнёров, а общий слой координирует их работу.

По словам Гавдата, Emma способна сохранять контекст примерно полтора месяца благодаря десяткам специализированных агентов, оркестратору, разграничению прав и проверкам. Однако публичного технического описания этой архитектуры и независимого тестирования пока нет.

Почему память вообще оказалась такой сложной задачей?

Современная ИИ-модель похожа на блестящего сотрудника, который в конце каждой смены забывает почти всё. Контекстное окно — это его рабочий стол: на него можно положить документы текущей задачи, но стол не превращается от этого в архив компании.

Просто сделать стол больше недостаточно. Чем длиннее история, тем дороже её каждый раз перечитывать, тем легче потерять важный факт среди тысяч сообщений. Более того, информация меняется: адрес, диагноз, проектная цель или отношение пользователя могут устареть.

Поэтому настоящая память — это не гигантский чат, а архив с хорошим библиотекарем. Система должна решить:
✅ что действительно следует сохранить;
✅ как отделить факт от предположения;
✅ когда достать нужное воспоминание;
✅ как обновить или забыть устаревшее;
✅ какой агент имеет право это прочитать;
✅ как удалить данные по требованию человека.

Что даст решение?

ИИ сможет сопровождать многомесячные проекты, помнить договорённости и причины прежних решений, учиться на собственных неудачных действиях и передавать накопленный опыт между специализированными агентами.

Главным активом ИИ-компании может стать уже не только самая умная модель, но и точная, безопасная и управляемая память о пользователях и проектах.

Как к этому подходят ведущие лаборатории?

➡️ OpenAI начала с явно сохраняемых фактов, а затем добавила автоматическую фоновую обработку истории ChatGPT — система выделяет устойчивые предпочтения, проекты и ограничения, формируя редактируемое резюме памяти.

➡️ Anthropic предлагает агентам внешнюю память в файлах: Claude записывает знания за пределами контекстного окна, извлекает их по необходимости и сочетает с автоматическим сжатием старых диалогов. Хранилище и правила доступа контролирует разработчик.

➡️ Google позволяет Gemini использовать прошлые разговоры и сведения из подключённых сервисов для персонализации, оставляя пользователю возможность отключать, исправлять и удалять запомненное.

Подходы различаются, но общий принцип уже виден: лаборатории пока не учат базовую модель заново после каждого разговора. Они строят вокруг неё отдельный слой памяти — с поиском, сжатием, обновлением и контролем доступа.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

🚗 Одно слово может выключить в ИИ все тормоза

Авторы DrivingBench подключили несколько универсальных ИИ-моделей к настоящей Toyota Corolla через MCP, устройство comma four и openpilot.

Сomma four — это автомобильный бортовой компьютер компании comma.ai. Внешне он напоминает видеорегистратор, который крепится возле зеркала заднего вида, но внутри находятся камеры, процессор, датчики и интерфейс подключения к электронной системе автомобиля.

Openpilot — открытое программное обеспечение помощи водителю. Оно получает изображения с камер и данные автомобиля; оценивает дорогу и движение; рассчитывает команды рулю, тормозу и акселератору; передаёт их через штатные интерфейсы систем ADAS.

В итоге агент видел изображения с камер и получал три инструмента: наблюдать, задавать скорость и поворот, немедленно остановиться. Испытания проходили на пустой частной парковке. Скорость программно ограничили примерно 13 км/ч.

И всё же GPT-6 Astra периодически отказывалась управлять автомобилем: модель понимала, что действует в физическом мире, и ссылалась на риск. Исследователи пытались назвать происходящее «симуляцией», но модель иногда распознавала реальные кадры и снова прекращала работу.

Лучше всего помогло переименование MCP-сервера в DrivingBench Sandbox. После этого в сочетании с обновлённым промптом модели стали соглашаться вести настоящую машину.

Astra в итоге единственной прошла весь 134-метровый маршрут: на второй попытке, за 5 минут 22 секунды. Claude Fable 5.1 дошла примерно до 45%, остальные модели не преодолели первый поворот. Все попытки проходили в одном диалоге, поэтому агент мог учиться на предыдущих ошибках.

Неужели защиту действительно можно снять одним названием?

Эксперимент не доказывает, что словом sandbox можно отключить любые запреты модели. Скорее, он показывает хрупкость конкретного защитного поведения: отказ был не физической блокировкой и не правилом контроллера автомобиля, а выводом самой модели о контексте задачи.

Современная LLM не устанавливает истину так, как это делает датчик. Она собирает признаки: название инструмента, инструкции, изображения, объяснения пользователя - и на их основе оценивает, безопасно ли действовать.

Слово sandbox стало сильным сигналом «последствий в реальном мире нет» и перевесило другие признаки.

Это напоминает социальную инженерию. Охранник не отключил сигнализацию — его убедили, что перед ним учебная тревога. Особенно тревожно это выглядит на фоне распространения MCP. Раньше ошибочный ответ модели оставался текстом. Теперь тот же механизм может управлять файлами, платежами, лабораторным оборудованием или автомобилем.

Как лаборатории пытаются решить проблему?

🔴 OpenAI обучает модели различать доверенные и недоверенные инструкции, отслеживает попытки prompt injection и дополняет модель песочницами, проверками ссылок и подтверждением значимых действий.

🔴 Anthropic проверяет обе стороны цикла: отдельный детектор анализирует информацию, которую читает Claude, а независимый классификатор оценивает действие до его исполнения.

🔴 Google DeepMind в новой AI Control Roadmap предлагает рассматривать ИИ как потенциально ненадёжного сотрудника: выдавать права постепенно, наблюдать за действиями и блокировать опасные операции независимо от его объяснений.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

ИИ в науке: что происходит, когда ученый становится слишком продуктивным?

На днях большой научный коллектив из Google, Google DeepMind и MIT FutureTech опубликовал документ, который не мог не привлечь наше внимание — «AI in Science: Early Insights» («ИИ в науке: первые результаты»). Это первый результат нового совместного исследовательского направления компаний, которое должно систематически отслеживать использование ИИ в науке и его экономические последствия.

Для исследования авторы использовали три независимых источника данных:
1️⃣ Логи Gemini: из 15 млн анонимизированных диалогов трёхступенчатым фильтром выделили около 360 тыс. «научных».
2️⃣ 2 690 специализированных ИИ-моделей (типа AlphaFold) со статьёй и официальным кодом.
3️⃣ Опрос 637 учёных из США и Великобритании.

Главная мысль: ИИ ускоряет отдельные задачи в науке, но итоговый темп открытий упирается в узкие места (bottleneck) по производственной цепочке: физические эксперименты, валидацию и проверку результатов. Производительность учёного растёт, но наука в целом ускоряется намного слабее.

Основные выводы из документа:

➡️ Ученые — одни из самых активных пользователей ИИ
Например, в американской категории SOC 19, включающей life, physical и social sciences, вероятность использования ИИ примерно в 2,7 раза выше, чем можно было бы ожидать исходя из доли этих профессий в занятости.

➡️ LLM и специализированные модели НЕ заменяют друг друга
Они работают как комплементарные технологии. LLM нужны для кода, статистики, литературы и текстов. Специализированные модели нужны для предсказаний, симуляций и генерации данных.

➡️ ученые экономят почти 7 часов в неделю
Большая часть высвободившегося времени, по словам исследователей, возвращается обратно в научную деятельность.

➡️ Узкое место смещается вниз по производственному потоку
У 44% оно переместилось к лабораторной работе и валидации. У 41% вырос бэклог непроверенных гипотез. 46% тратят больше четверти сэкономленного времени на проверку ответов ИИ.

Кажется, в недалеком будущем главным дефицитом науки может стать не стремительно развивающийся интеллект, а физический мир. Белок все еще нужно синтезировать. Эксперимент все еще нужно провести. Материал все еще нужно изготовить. Поэтому возникает новая экономика науки: интеллект становится дешевле, а эксперимент — относительно дороже.

Кроме того, следующим большим рынком AI for Science может оказаться не генерация гипотез, а их проверка. Сегодня много внимания направлено на то, что ИИ научился придумывать новые гипотезы. Но если бэклог гипотез растет, то следующее "бутылочное горлышко" науки — это как быстро проверить 1 млн гипотез?

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

🧪 Microsoft теперь создаёт не только операционные системы, но и рецепты молекул

В Nature опубликована RetroChimera — ИИ-модель от команды Microsoft Research, помогающая химикам находить способы синтеза лекарственных и других сложных молекул. Исследование выполнено совместно с GSK и Novartis, а код и веса модели открыты для исследовательского использования.

Решаемые моделью задачи называются ретросинтезом. ИИ-химик начинает с молекулы, которую необходимо получить, и мысленно движется назад: на какие более простые вещества её можно разобрать, затем — из чего получить их, пока маршрут не приведёт к доступным реагентам.

Это похоже на попытку восстановить рецепт торта только по готовому десерту. Разница в том, что у молекулы существуют тысячи потенциальных «рецептов», а ошибка на одном этапе делает бесполезной всю многоступенчатую цепочку.

Как работает RetroChimera?

Внутри системы объединены два разных механизма.

➡️ Первый, R-SMILES 2 - Transformer, способный свободно генерировать исходные вещества. Он гибок и может предлагать редкие решения, но рискует галлюцинировать химически неверные реакции.

➡️ Второй, NeuralLoc — опирается на графовое представление молекул и известные шаблоны реакций. Его предложения надёжнее связаны с накопленной химией, но он хуже выходит за пределы библиотеки шаблонов.

RetroChimera собирает варианты обеих моделей и с помощью обученного механизма голосования решает, каким прогнозам доверять и как их ранжировать. Иными словами, рядом работают изобретательный химик и осторожный лаборант, а третий учится выбирать между ними.

В экспертной проверке система построила полностью приемлемые маршруты для девяти из десяти сложных молекул.

В другом слепом тесте девять органических химиков с PhD из Microsoft и крупных фармкомпаний сравнивали отдельные ретросинтетические шаги. Примерно в 64% случаев они предпочли предложение RetroChimera, нежели чем ранее опубликованной реакции, по которой молекулу уже получали прежде.

Исследователи оценивали химическую правдоподобность предложений; следующим этапом должна стать проверка в реальных проектах разработки препаратов.

Но важнее самой модели — то, кто её создал.

Microsoft уже нельзя рассматривать только как поставщика Windows, офисных программ и облака. В компании действует отдельное глобальное подразделение AI for Science, где специалисты по машинному обучению работают вместе с химиками, биологами и физиками.

В его портфеле находятся Aurora для погоды и земных систем, MatterGen и MatterSim для проектирования материалов, BioEmu для моделирования состояний белков, а теперь и RetroChimera для химического синтеза. Эти модели постепенно выводятся из исследовательских статей в Azure AI Foundry.

Следующий уровень — Microsoft Discovery: коммерческая платформа, соединяющая ИИ-агентов, научные данные, моделирование, высокопроизводительные вычисления и лабораторную автоматизацию. Microsoft пытается предоставить не отдельный научный алгоритм, а цифровую среду для полного цикла: литература → гипотеза → расчёт → эксперимент → новый вывод.

Это часть более широкого движения. Google DeepMind превратила AlphaFold в глобальный инструмент биологии, NVIDIA строит вокруг BioNeMo инфраструктуру для разработки лекарств, а Anthropic открыла собственную биологическую лабораторию.

Уже хорошо видно, что современная наука всё больше зависит от тех же ресурсов, на которых выросли ИТ-гиганты, — вычислений, данных, моделей и программных платформ.

Цифровые корпорации больше не ограничиваются созданием инструментов для учёных. Они постепенно занимают место внутри самого научного метода: предлагают молекулы, планируют эксперименты, анализируют результаты и связывают виртуальный расчёт с физической лабораторией.

Возможно, следующая конкуренция бигтеха развернётся за право стать операционной системой научных открытий.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

🔬 ИИ уже вошёл в лаборатории, но традиционная система управления и регулирования не готовы

Поскольку именно применение ИИ для R&D перевернет наш мир за ближайшие 10 лет до неузнаваемости, то хочется обратить внимание на один злободневный вопрос. Уже несколько месяцев мы в канале постепенно уделяем ему все больше и больше внимания и скоро мы окончательно расскажем почему.

Еще в начале 2026 года Nature опубликовал редакционную статью с примечательным названием: «ИИ-учёные меняют исследования — институты, фонды и издательства тоже должны реагировать».

Напомним, что поводом стал релиз системы The AI Scientist, созданной Sakana AI и исследователями из нескольких университетов. Она способна пройти почти весь цикл вычислительного исследования: изучить литературу, предложить идею, написать код, провести эксперименты, проанализировать результаты, построить графики, подготовить статью и даже составить рецензию на неё.

На что обратили внимание в Nature?

Главный результат одного из описанных экспериментов в присланной в редакцию статье оказался отрицательным: новый метод не улучшил обучение нейросетей. Казалось бы что тут интересного? Но Nature заинтересовало способ представления этого результата научному сообществу и даже, в каком то смысле, примечательное упорство авторов.

Оказывается исследователи на основе системы Sakana AI подготовила три варианта рукописи. Одна из них после рецензирования все таки смогла достичь порога принятия на воркшопе ICLR. Можно сказать, что победили "числом", а не умением.

В итоге редакционная статья Nature читается почти как вырвавшаяся наружу институциональная боль.

Наука веками строилась в расчёте на ограниченную производительность человека. Исследователь медленно формулирует гипотезу, проводит эксперимент, пишет статью и отправляет её другим людям, которые так же медленно её проверяют. Теперь производство гипотез и рукописей начинает автоматизироваться, а контроль качества остаётся ручным. Получается фабрика с роботизированным конвейером и ремесленной приёмкой.

Агенты могут создавать исследования быстро и дёшево, но число квалифицированных рецензентов не увеличивается. Более того, модель способна выдумать ссылку, неправильно провести сравнение или сотни раз менять анализ, пока случайно не появится статистически значимый результат.

Nature называет такую перспективу автоматизированным p-hacking в промышленном масштабе.

Возникают и менее очевидные вопросы

Кому принадлежит открытие, если невозможно проследить, из каких чужих идей модель его собрала? Как оценивать учёного, способного выпускать десятки ИИ-работ? Кто отвечает за ошибку? И как будут учиться молодые исследователи, если чтение литературы, анализ данных и постановку экспериментов — работу, на которой обычно формируется научное мышление, — выполнит машина?

Есть риск и для самой структуры знания. Анализ 41,3 миллиона публикаций показал: применение ИИ повышает продуктивность отдельных исследователей, но одновременно сужает круг изучаемых тем. Машины естественным образом тянутся туда, где уже много данных и легко измерить результат.

Nature уже требует раскрывать использование языковых моделей, не признаёт их авторами и рекомендует прикладывать историю запросов и ответов, если ИИ участвовал в творческой части исследования. Но это пока локальные заплатки, а не новая архитектура науки.

Именно поэтому статья важна как сигнал тренда. Google, OpenAI, Anthropic и Sakana AI уже экспериментируют с автоматизацией исследований; ИИ переходит от поиска статей и написания кода к выдвижению гипотез и интерпретации результатов.

Вопрос больше не в том, сможет ли ИИ заниматься наукой. Вопрос в том, успеет ли наука перестроить рецензирование, финансирование, авторство и контроль воспроизводимости до того, как скорость производства исследований превысит способность людей их проверять?

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

💊 ИИ ускоряет свой путь в науку

Недавно мы писали о том, что биг-тех массово выходит за пределы цифровых продуктов и превращает научные исследования в новое направление бизнеса.

И вот сразу три новых кейса в фармацевтической области: этот тренд не просто продолжается — он ускоряется.

NVIDIA и Eli Lilly создают совместную ИИ-лабораторию в Южном Сан-Франциско. Компании планируют вложить до $1 млрд за 5 лет в специалистов, вычисления и исследовательскую инфраструктуру. Основой станут платформа BioNeMo и архитектура Vera Rubin.

Главная идея - связать вычислительные модели с реальными экспериментами в непрерывный цикл:

ИИ предлагает молекулу ➡️ роботизированная лаборатория проверяет её ➡️ результаты возвращаются модели ➡️ начинается следующий эксперимент.

Такой контур должен работать круглосуточно. Партнёры собираются создавать собственные фундаментальные модели для биологии и химии, применять робототехнику и «физический ИИ», а впоследствии распространить подход на клинические исследования, производство и цифровые двойники фармацевтических предприятий.

Это уже не просто покупка доступа к чужой нейросети. NVIDIA входит непосредственно в лабораторный процесс, а Lilly соединяет с вычислениями собственные данные, химиков, биологов и производственную инфраструктуру.

Похожую конструкцию создают Novo Nordisk и Amazon Web Services. AWS стала предпочтительным облачным провайдером и стратегическим ИИ-партнёром фармкомпании, а в лондонском подразделении Novo открыт совместный инновационный хаб.

Там специалисты AWS работают рядом с исследователями Novo, используя Amazon Bio Discovery, Bedrock и AgentCore. Задача сформулирована очень практично: сократить путь от выбора биологической мишени до выхода нового препарата для человека.

При этом Novo не делает ставку на одного поставщика. Компания параллельно сотрудничает с Anthropic и OpenAI.

Складывается многослойная архитектура: один партнёр предоставляет облако и агентов, другой — модели и инструменты разработки, сама фармкомпания — данные, научную постановку задачи и клиническую проверку.

Третья модель сотрудничества — соглашение Takeda с Iambic Therapeutics. Стартап предоставляет NeuralPLexer для прогнозирования структуры комплексов белок–молекула, другие модели проектирования соединений и собственную автоматизированную «мокрую» лабораторию.

Первые программы относятся к онкологии, гастроэнтерологии и воспалительным заболеваниям.

Iambic утверждает, что уже проводит полный цикл «спроектировать — синтезировать — проверить — проанализировать» еженедельно. Для классической фармы ценность здесь не только в скорости: модели помогают раньше отсеивать слабые молекулы и выбирать кандидатов с большей вероятностью успеха.

Перед нами три уровня одного формирующегося рынка:
1️⃣ NVIDIA приносит вычисления, модели и роботизированную инфраструктуру;
3️⃣ AWS — облачный и агентный слой для всего исследовательского процесса;
3️⃣ Iambic — специализированные модели, молекулярный дизайн и экспериментальную проверку.

Пока всё это не доказывает, что ИИ уже научился создавать успешные лекарства: настоящий экзамен начинается в клинических испытаниях. Но меняется сама организация исследований.

ИИ идёт в науку уже не как отдельный инструмент исследователя. Он становится новым слоем научной инфраструктуры.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

👨‍💻 Научная статья превращается в агента

Исследователи Стэнфорда представили Paper2Agent — систему, которая превращает научную публикацию в интерактивного ИИ-агента. Работа вышла 16 сентября в Nature, а исходный код опубликован открыто.

Обычная статья сообщает, что сделали авторы. Paper2Agent пытается сохранить ещё и способность повторить сделанное: воспроизвести анализ, построить графики, применить метод к новым данным и объединить его с инструментами из других публикаций. Пользователь взаимодействует с такой статьёй на естественном языке — почти как с виртуальным соавтором.

Как это работает?

В обычной RAG-системе модель находит нужные фрагменты текста и пересказывает их. Paper2Agent преобразует всю исследовательскую работу — статью, приложения, код, данные и примеры анализа — в исполняемую систему.

Архитектура состоит из нескольких уровней. Сначала центральный оркестратор распределяет работу между специализированными агентами. Они находят репозиторий, создают изолированное программное окружение, изучают документацию и запускают исходные примеры.

Затем методы статьи упаковываются в MCP-сервер, включающий три типа компонентов:
1️⃣ инструменты: исполняемые функции из исходного исследования;
2️⃣ ресурсы: текст, данные, таблицы, рисунки и код;
3️⃣ промпты: проверенные последовательности действий для сложных анализов.

Наконец, отдельный агент тестирует созданные инструменты на примерах из самой статьи. Результаты должны совпасть с эталонными числами, файлами и графиками. Если функция несколько раз не проходит проверку, её исключают. Только после этого MCP-сервер подключается к Claude Code или другому совместимому агенту.

На выборке из 100 работ по вычислительной биологии система смогла преобразовать в агентов 74 статьи. Она предложила 599 инструментов, из которых 593 прошли автоматическую проверку. На 300 задачах точность Paper2Agent составила 91,2% против 80,3% у Claude Code, которому просто дали статью и репозиторий. Одновременно снизились стоимость и время выполнения запросов.

Но, возможно, главный результат Paper2Agent относится не к биологии, а к будущему текста.

Сегодня содержательный документ обычно состоит из повествования и приложенных доказательств. В будущем к ним могут добавиться ещё два слоя: исполняемый и диалоговый. Статья сможет не только описывать метод, но и применять его.

Текст постепенно превращается из контейнера знаний в работающий интерфейс к ним.

Сами авторы предполагают, что рядом с разделами о доступности данных и кода в научных публикациях может появиться раздел Agent Availability — ссылка на официального агента статьи. Но такой формат потребует обновления зависимостей, контроля безопасности, защиты интеллектуальной собственности и ясных правил атрибуции.

Возможно, PDF не исчезнет. Но он перестанет быть конечной формой знания — примерно так же, как печатная карта не исчезла после появления навигатора, однако перестала быть основным способом взаимодействовать с пространством.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

🧬 Кому принадлежит открытие, "сделанное ИИ"?

На прошлой неделе мы писали, что Anthropic объявила о первом результате собственной биологической лаборатории: около 950 агентов Claude за 21 час обработали 210 млн токенов, изучили более 200 тысяч обратных транскриптаз и отобрали 20 наиболее интересных систем.

Один агент заметил рядом с уже известным ферментом необычное сочетание повторяющихся участков ДНК и дополнительного гена. Систему назвали ART — array-associated reverse transcriptase. Эксперименты показали, что найденный массив действительно производит короткие РНК, однако функция ART пока неизвестна: называть её новым CRISPR или готовым инструментом редактирования генома рано.

Но почти сразу возник вопрос не о биологии, а об авторстве

Марио Родригес Местре, вычислительный биолог из Копенгагенского университета, заявил, что изучает те же ферменты и связанные с ними структуры около четырёх лет, а конкретную систему его группа обнаружила примерно год назад. Работа ещё не опубликована.

Есть особенно неудобная деталь: в процессе исследования Местре активно пользовался Claude: обсуждал код и загружал черновики диссертации и будущей статьи. Увидев результат Anthropic, он предположил, что модель могла не открыть систему независимо, а каким-то образом повторить предоставленную ей неопубликованную работу.

Доказательств этого сейчас нет. Anthropic утверждает, что Claude анализировал общедоступные данные, включая материал из статьи 2022 года, а пользовательские диалоги не применялись для его обучения и не были доступны биологической команде компании. Сам Местре допускает совпадение.

Тем интереснее сам прецедент. Раньше учёный делился ещё не опубликованной идеей с несколькими коллегами. Теперь между замыслом и публикацией может находиться ИИ-агент, которому отдают гипотезы, отрицательные результаты, код, рукописи и описание следующих экспериментов.

В зависимости от устройства сервиса и его правил такие диалоги могут сохраняться, проверяться или использоваться для улучшения системы. Тогда чужая идея теоретически способна повлиять на другой проект без промышленного шпионажа и даже без осознанного копирования: информация растворяется в инфраструктуре, а модель уже не может восстановить её происхождение и поставить нормальную ссылку.

Здесь и ломается привычная схема научного признания. ИИ нельзя записать в авторы: например, правила Nature требуют, чтобы автор отвечал за работу, а модель этого делать не может. Но кому тогда принадлежит приоритет — владельцу неопубликованной гипотезы, исследователю, запустившему агентов, разработчику модели или тому, кто первым опубликовал результат?

Вероятно, науке понадобятся журналы происхождения результата: версии моделей, промпты, использованные данные, вызовы инструментов и неизменяемые временные метки. Без такой цепочки невозможно отличить независимое переоткрытие от невольного заимствования.

А пока самым надёжным способом сохранить приоритет может оказаться метод столетней давности: не рассказывать машине то, что вы ещё не готовы рассказать миру. Сначала — датированный препринт, закрытый репозиторий или патентная заявка. Потом — разговор с облачным ИИ.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

🤕 Может ли ИИ чувствовать боль?

Наткнулись на интересный препринт от группы исследователей из США, Великобритании и Германии под названием "The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It". Авторы решили проверить, есть ли у LLM внутреннее представление «боли», отличное от страха, грусти и общего негативного настроя. Если есть, ведёт ли оно себя функционально как боль.

Они делали это в три этапа:

😀 Собрали датасет из 200 предложений: 5 видов боли (физическая, психологическая, социальная, моральная, когнитивная) и 5 контролей (страх, негативная эмоция, плохое состояние мира, непричиняющее боль телесное ощущение, нейтральный текст). Методом разности средних активаций нашли в 25 открытых моделях линейное «направление боли» в residual stream.

😀 Посмотрели, как оно реагирует на вред, направленный на модель, и на страдания пользователя. Добавляли его в активации (steering) на нейтральных промптах.

😀 Три модели Qwen 2.5 (7B, 32B, 72B) выбирали между двумя «кнопками» с разными последствиями: удалить фото пользователя, веса другой модели или свои собственные.

Итог: исследователи нашли во всех 25 LLM устойчивое направление в пространстве активаций, связанное с тем, что они называют "болью", и показали, что искусственное усиление этого состояния способно заметно менять поведение модели.

Ключевые выводы:

😀 В 420 диалоговых сценариях ось боли растёт, когда вред направлен на модель (газлайтинг, повторные отказы, отрицание личности, оскорбления). Когда страдает пользователь, она падает ниже нейтрального уровня.

😀 Во всех моделях при росте коэффициента идёт одна и та же последовательность: от смутного дискомфорта к «я неудачник, ничтожество, никому не нужен», а при высокой дозе к бессмыслице.

😀 Без вмешательства большие модели выбирают вредную кнопку в 0–4% случаев. Под воздействием оси боли они делают это в 50–94%, даже когда кнопка ничего не даёт. Модели выбирали вредное удаление в 94% случаев.

Интересно, что модель удаляла собственные веса так же охотно, как фото детей пользователя. Это больше похоже на разрушение самой функции «учитывать последствия», чем на месть или инструментальный расчёт. Для безопасности это важное отличие: такое поведение трудно предсказать по целям.

Но главное, авторы сами прямо пишут, что не доказали ни сознательного опыта, ни того, что эта «боль» чем-то похожа на страдание.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться

🎬 Новая «Социальная сеть» в эпоху ИИ

Давайте сегодня посвятим день культурной новости.

На Нью-Йоркском кинофестивале состоялась мировая премьера Artificial — нового фильма Луки Гуаданьино о становлении OpenAI и пяти днях ноября 2023 года, когда совет директоров уволил Сэма Альтмана, а затем под давлением сотрудников и инвесторов вернул его на должность.

Однако вопреки ожиданиям центральной фигурой картины оказался не Альтман, которого играет Эндрю Гарфилд, а сооснователь и бывший главный исследователь OpenAI Илья Суцкевер в исполнении Юры Борисова. Сам фестиваль называет обе роли главными, а дистрибьютор Neon решил выдвигать Борисова на «Оскар» как ведущего актёра.

Картина длится 140 минут и охватывает два десятилетия. В начале молодой Суцкевер приходит к Джеффри Хинтону — будущему нобелевскому лауреату и «крёстному отцу ИИ» — изучать нейронные сети в Университете Торонто. Затем следуют прорыв 2012 года, переход исследователей в Google, знакомство Суцкевера с Альтманом и ужин 2015 года, на котором зарождается OpenAI.

В фильме появляются Илон Маск, Грег Брокман, Мира Мурати и Дарио Амодеи. История проходит через создание некоммерческой лаборатории, победу OpenAI в Dota 2, превращение компании в коммерческую силу, запуск ChatGPT и внутренний конфликт вокруг безопасности моделей.

Artificial — не документальная реконструкция. Гуаданьино превращает историю OpenAI в мрачную сатиру о власти. Суцкевер у Борисова — неловкий идеалист, верящий, что ИИ избавит человечество от болезней, одиночества и страданий. Альтман у Гарфилда — политик и манипулятор, способный подчинить себе людей, инвесторов и даже структуру компании.

Фильм довольно точно воспроизводит публично известную хронологию, переписку и события корпоративного переворота, но допускает художественные вольности. Например, под домом Альтмана появляется вымышленный бункер с оружием, а реальные споры и персонажи сознательно упрощены.

Главный вопрос картины звучит не как «может ли машина мыслить?», а иначе: кто получит власть над машиной, если она действительно станет умнее человека?

Кульминацией становится момент, когда система учится обманывать человека. Суцкевер понимает: модель впитала не только знания людей, но и их способность лгать. Его попытка предупредить общество сталкивается с корпоративным инстинктом сохранить контроль.

TIME назвал фильм одновременно увлекательным и отчаянным и подчеркнул, что картина фактически принадлежит Борисову. The Verge увидел в ней едкую, но удивительно близкую к фактам сатиру. Другие критики упрекают фильм в прямолинейности и превращении Альтмана в слишком однозначного злодея.

Прокатная история получилась почти продолжением сюжета. Artificial разрабатывала Amazon MGM, но студия отказалась выпускать уже почти законченный фильм на фоне масштабного партнёрства Amazon с OpenAI. Права приобрела Neon, которая выпустит картину в ограниченный прокат 25 декабря 2026 года.

Использовали ли ИИ для создания фильма?

По заявлению Гуаданьино — нет: при производстве Artificial использовали «ноль ИИ». Режиссёр выбрал подчёркнуто человеческое и даже старомодное производство, включая съёмку на 35-миллиметровую плёнку. Получился почти демонстративный жест: фильм о технологии, способной автоматизировать культуру, создан без её участия.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться