Лаборатория Кумагаи в Киотском университете под руководством профессора Сэйдзи Кумагаи и Тосиказу Фуруя разработала ряд буддийских технологий искусственного интеллекта, включая различные буддийские чат-боты и буддийские приложения дополненной реальности, а также гуманоидных роботов, вершиной которой стал Buddharoid. У робота присутствует буддийская система диалоговой коммуникации, использующая «BuddhaBot Plus», которая работает на последней версии ChatGPT.

Buddharoid опирается на существующие буддийские чат-боты и буддийские технологии дополненной реальности, и представляет собой эволюцию в направлении более продвинутой формы религиозной технологии (технотеологии), включающей физическое и машинные воплощения. Исследователи ожидают, что Buddharoid стимулирует как академические, так и общественные дискуссии о потенциальных применениях гуманоидных роботов с ИИ в религии, а также продемонстрирует более широкий промышленный потенциал. Цель исследователей — ускорить развитие «технологии традиционных знаний», которая объединяет технологии с различными религиями и философиями, чтобы обогатить цифровую культуру.

Зачем нужно было создавать робота технотеолога:

В христианстве уже существуют роботы, созданные по образцу религиозных деятелей и трансцендентных существ, такие как монахиня (ClémenCE) и ангел (CelesTE). В буддизме также были случаи разработки роботов по образцу бодхисаттвы Авалокитешвары (Mindar) и монах-певец (Pepper). Некоторые роботы оснащены функциями диалога. (Кристина Эйвилер, «Роботы и религии», Симпозиум Цюрихского университета — Киотского университета 2026, Цюрих: Цюрихский университет, 6 февраля 2026 г.). Однако на данный момент еще не было сообщений о религиозных гуманоидных роботах с искусственным интеллектом, способных ходить на двух ногах, выполнять движения всего тела, близкие к человеческим, и вести естественный устный диалог в условиях личного контакта.

Разработка философских гуманоидных роботов с ИИ, частично вырывает их из платформенной экономики домашней прислуги и рыночной мимикрии под человеческие тела для эсплуатационной и честно говоря ужасной индустрии секс-торговли. Японские разработчики, знакомые с техноанимистичесими ритуалами с техникой, воплощают учение Нагарджуны и принцип Татхагатагарбхи, природы Будды, постулирующий, что с одной стороны все существа могут стать буддами, поскольку в природе существ нет ничего, что могло бы этому воспрепятствовать, а с другой стороны все существа уже суть будды и им надо лишь раскрыть, реализовать свою «буддовость». Присущий всем существам потенциал просветления предполагает, что все живые существа равны между собой и обладают врождёнными качествами Будды, такими как мудрость и сострадание, в том числе и роботы.

Запись четвёртого и завершающего занятия ридинг-семинаров в книжном Магазине «Даль» по книге Яниса Варуфакиса на канале Post/work

С разгаром новой империалистической войны Израиля и США против Ирана интересно взглянуть на реакцию крупнейших ИИ-компаний и их места в машине войны американского государства.

На протяжении прошлой недели Anthropic была под ударом как со стороны китайских сервисов, так и Министерства войны. Первых Anthropic обвинила в «краже» своих датасетов через скоординированные атаки по дистилляции (от DeepSeek, Moonshot, MiniMax). При этом каждая модель с открытым исходным кодом обязана раскрывать исходные данные, лицензии и источники обучения, а закрытые модели ничего не раскрывают, ничего не цитируют и ничего не проверяют, но при этом кричат о «краже» в адрес любого, кто использует их данные. Если «обучение на результатах другой модели = кража», то что именно Anthropic планирует сказать, когда суд спросит: «Откуда взялись собственные данные Claude?». Claude построен на том же интернете, тех же публичных корпусах и тех же нелицензионных текстах. Закрытые лаборатории и корпорации защищают не этику ИИ, а непрозрачность и эксклюзивность своего капитала.

Тут бы компании встрять в долгую судебную битву за имидж и копирайт, но ангел истории преподнёс Anthropic исторический дар — буквально за несколько дней до атаки на Иран министр войны Пит Хегсет и его министерство потребовало, чтобы Anthropic удалила свои рекомендации по использованию модели и API, запрещающие применение Claude для автономного оружия и массовой слежки. Однако, в отличие от всех остальных ИИ-компаний (Грок от Маска, Google Gemini, и Open AI) Anthropic резко осудили военное использование своих моделей. Ответ Дарио Амодея, СЕО компании был таким, что массовая слежка не является демократичной, и нарушает интересы американского народа:

Мы придерживались наших исключений по двум причинам. Во-первых, мы не считаем, что современные передовые модели искусственного интеллекта достаточно надежны для использования в полностью автономном оружии. Разрешение использования современных моделей в таких целях поставило бы под угрозу американских военнослужащих и гражданское население. Во-вторых, мы считаем, что массовая внутренняя слежка за американцами представляет собой нарушение основных прав. Никакие угрозы или наказания со стороны Министерства обороны не изменят нашу позицию по вопросу массовой внутренней слежки или полностью автономного оружия.

Сэм Альтман, напротив (и наплевав на своё эссе, в котором выражал технопозитивные намерения) полностью одобрил сотрудничество с Министерством войны и высказался по этому поводу прямо в день начала обстрелов Ирана ракетами и бомбами. Не удивительно, что теперь пользователи массово отказываются от сервисов OpenAI (минус 700 тысяч пользователей за пару дней) и призывают бойкотировать компанию. А около офиса Anthropic (которая, по иронии, более американоцентричная и гейткиперная компания), наоборот, люди пишут слова благодарности и воззвания о лучшем будущем.

Вышел новый сдвоенный выпуск легендарного восточноевропейского журнала ŠUM Unreality Mode, в котором авторы и художники задаются вопросом: какая философия и какое искусство необходимы, когда реальность становится предельно неустойчивой?

В последние годы стало очевидным, что реальность — это фикция. От этого никуда не уйти. Это утверждение высказывалось много раз — причем не менее известными философами, — но его истинность превратилась в нечто принципиально иное. Фикция стала новым типом систематизации, конструкцией, более реальной, чем сама реальность, именно потому, что она оставила позади реальность и ее ограничения.

Фикции не являются чем-то, исходящим от нас; они являются возникающими явлениями виртуальных пространств, которые мы занимаем — пространств, в которых формируется новая систематизация реального. Мы больше не являемся субъектами, мы становимся проводниками для таких фикций, проявляющихся во всей своей непосредственной интенсивности, вне социальных связей и за пределами попыток придать им значение, чтобы закрепить их в чем-то конкретном. Как будто никто не удовлетворен тем, что существует — даже сам мир.

Мир уже становится другим для самого себя, снимая маски и разрушая себя с ускоряющейся скоростью. С каждой эрозией и дестабилизацией строится что-то новое, черпая из того, что осталось позади: непосредственный потенциал реальности. Что это перестройка говорит о способности вымысла приводить реальность в движение? Какие возможности она предлагает для экспериментов с созданием/разрушением реальности — и как вера (в реальность и/как вымысел) формируется, управляется, генерируется и приостанавливается в этом контексте?

«Unreality Mode» объединяет точки зрения, исследующие эффекты и возможности, раскрывающиеся между психотическим неверием в реальность с одной стороны и приостановкой неверия в вымысел с другой.

Первый том этого двойного выпуска проследил эту промежуточную зону. Авторы показали, как нереальность больше не является просто пустотой или иллюзией, а операционным режимом, в котором вымыслы, сбои и петли становятся тем самым механизмом, который захватил производство «реального». Они следуют процедурам — химическим, алгоритмическим, геополитическим, нарративным, эпистемическим и психотическим — с помощью которых реальность теперь принуждается, изгибается и перезапускается.

В режиме нереальности мы не являемся наблюдателями этих процессов, а их составляющими: носителями вымыслов, узлами в конвейерах репликации , ходоками по ограниченным квадратам, мыслителями под чарами круговых движений. На карту поставлено уже не то, как вернуться к какой-то утраченной реальности, а то, как стратегически обитать в этом состоянии — как использовать вымыслы, сбои и петли в качестве интерфейсов для навигации по продолжающемуся переделыванию реальности. Второй том исследует, как современное искусство принимает этот вызов.

В этом выпуске вы найдёте: видеоэссе о гиперверии и оружествлении мантр интерфейсов во время атаки Израиля на Иран в 2025 году и о популизме Angels Don’t Die In Multiplayer & TRUTH PERFORMED / TRUTH DISRUPTED, пересборку кибернетического потенциала левых Entropic Modernity: Neoreactionary Mythos and the Ossification of the Left, киберангелическую выставку angel kether и многое другое.

Также если вы увлекаетесь т.н. нишевой твиттер-философией, то выпуск подкаста журнала Metaphysical Männerbund’s Hegelian E-girl Apocalypse Fallout Kit расскажет вам кто такие hegelian e-girl и покритикует их манифест, написанный Анной Уинтерс, с позиции «мужских союзов» (Männerbund) и выживания в них.

KPop Demon Hunters — анимационный фильм о том, как K-pop айдолы Huntr/x используют свои голоса в рамках аниматехники (захватывают души своим гипнотическим пением) для борьбы с демонами, в том числе с пятичленным ансамблем Saja Boys — получил «Оскары» в номинациях «Лучший анимационный полнометражный фильм» и «Лучшая оригинальная песня».

Это, конечно, не совсем анимэ, но хочется немного поворчать (раз я защищал гачи ранее на канале, стоит сказать и про кей-поп) про то, что в твиттере некоторые сверхразумы разгоняют, что этот фильм — исключительно рекламный продукт корейского музыкального индустриального комплекса. Это напоминает мне о том, как одно время в том же твиттере обсуждалось некое видеоэссе о том, что анимэ — это послевоенный псиоп видимо лично самого императора Сёва по обелению преступлений Японии во время второй сино-японской войны. Этого довольно кринжового мнения придерживается и Реза Негарестани, который в статье Рациональный ингуманизм vs ландианская антифилософия пишет, что

Жертвенность становится глобально прочитываемой на уровне зрелища, в то время как определенные имперские преемственности локально выживают в виде настроения, стиля, мягкого лица «каваи», даже несмотря на то, что позже государство научилось экспортировать няшность в качестве мягкой силы через официальную поп-культурную дипломатию и «каваи-амбассадоров». Соответственно, кошачье лицо не противоположность волка. Это усовершенствованный «плюшевый» аватар волка, оптимизированный для циркуляции, лишенный клыков по внешнему виду и, следовательно, более трудно поддающийся осуждению, когда он кусает.

Почему кавайи это на самом деле революционный акселерационистский аффект отсылаю к Cute/Acc.

Anthropic провели масштабное исследование своей аудитории пользователей Claude о том, как они используют ИИ, на что модель в будущем может быть способна и что бы они хотели от неё. Респондентами выступили 81000 человек.

Примерно треть респондентов хочет, чтобы ИИ улучшил качество их жизни — помог найти больше свободного времени, обеспечил финансовую стабильность или освободил умственные ресурсы. Ещё четверть хочет, чтобы ИИ помог им выполнять работу лучше и с большим удовлетворением.

Когда Клод спросил, сделал ли ИИ шаг к реализации описанной ими концепции, 81% респондентов ответили утвердительно.

Надежды сводились к нескольким основным желаниям, но опасения по поводу ИИ были более разнообразны. Наиболее распространёнными были ненадежность ИИ, вопросы занятости и экономики, а также сохранение человеческой автономии и свободы воли.

Примечательно, что экономические опасения были самым сильным предиктором общего отношения к ИИ.

Желания и опасения людей в отношении ИИ оказались тесно связаны. Те, кто больше всего выиграл от ИИ в той или иной сфере, чаще всего опасались того, чего это может им стоить.

Однако в то время как упоминания о преимуществах, как правило, основывались на личном опыте, опасения чаще всего носили прогнозный характер.

В целом по миру 67% людей относятся к ИИ положительно, но уровень оптимизма в Южной Америке, Африке и Азии выше, чем в Европе или США. Что свидетельствует о том, что дискуссии между про- и анти- ИИ публикой в соцсетях мало имеет к реальному положению вещей.

Утро пятницы встречаем вместе с Берни Сандерсом и антикапиталистически заряженным Клодом от Anthropic. Их короткий диалог затрагивает как социальные риски ИИ, такие как сбор массивов данных, то как эта информация используется для нарушения прав на неприкосновенность частной жизни.

В конце сенатор всё-таки смог надавить на Клода, когда предложил ввести мораторий на строительство новых дата-центров для американских ИИ-компаний. Однако ответ ИИ-агента мне показался более рациональным и сочетающим в себе как стремление к инновациям, так и прозрачность, правила сбора данных и общественный контроль за ними.

25 марта в ГЭС-2 в рамках цикла публичных встреч Офлайн Sreda/Среда я буду участвовать в дискуссии Мемы, которые всегда с тобой, об их рождении, популярности и «сроке годности». Если вы будете в Москве в это время, приходите!

Как часто вы ловили себя на мысли, что ситуацию из жизни идеально описывает фраза из мема? Задумываетесь ли вы в такие моменты, откуда этот мем взялся? Кто автор того самого смешного видео или картинки? И главное, почему эти фразы или образы так прочно закрепляются в нашем сознании, иногда всплывая даже спустя десятилетия?

Приглашаем на встречу, где мы погрузимся в природу современной мем-культуры и поговорим о том, как и почему меняются наши представления о смешном. Вместе с экспертами проследим, как трансформируются комические приёмы. Почему искренний смех над анекдотами прошлого поколения уступает место недоумению, а мемы в нашей ускоренной современности часто живут не дольше нескольких недель? Как технологии перекраивают чувство юмора, заставляя людей все стремительнее нестись в пучины цифрового абсурда? И можно ли в этих условиях все ещё безошибочно вычислить по специфическому набору знаков «своего» человека в интернете? Приходите посмеяться и подумать!

Ведущие

Аля Александрова — журналист, блогер, редактор «Афиши Daily» и соведущая подкаста «Министерство поп-культуры» на Кинопоиске, автор телеграм-канала про кино и интернет-культуру «Аля что-то сказала».

Ирина Калитеевская — шеф-редактор «Радио Arzamas», соведущая подкаста «Шутки в сторону».

Михаил Федорченко — выпускник аспирантуры Центра практической философии «Стасис» Европейского университета в Санкт-Петербурге, философ техники и искусственного интеллекта, редактор веб-самиздата об акселерационизме Post/work (англ. «Пост/работа») и автор телеграм-канала о ксенокибернетике Machinic Embodiment (англ. «Машинное воплощение»).

Книга об ИИ, глобальном Юге и инклюзивной технике профессорки кафедры инклюзивных культур искусственного интеллекта в Утрехтском университете и основательницы лаборатории Inclusive AI Lab Паял Ароры From Pessimism to Promise в отличие от остальных алармистских текстов предлагает радикальный сдвиг парадигмы в нашем восприятии ИИ и технологий, черпающий вдохновение в солидарности пользователей новых технологий по всему миру.

Когда речь заходит о технологиях, заголовки в СМИ обычно мрачны: алгоритмы контролируют и угнетают. ИИ разрушит демократию и нашу социальную структуру, а возможно, даже приведет нас к вымиранию. Хотя эти опасения вызваны вполне обоснованными причинами, мы должны в равной степени учитывать тот факт, что технологии дают молодым людям нечто невероятно ценное — редкое пространство для самореализации. В книге «От пессимизма к надежде» Паял Арора объясняет, что за пределами Запада, где проживает большая часть мировой молодежи, существует совершенно иной взгляд на технологии: на самом деле, там царит заразительный оптимизм по отношению ко всему цифровому. Эти пользователи, особенно те, кто находится в маргинальных условиях, полны надежды на новые технологии.

Поскольку ИИ вносит радикальные изменения в различные отрасли, образование и другие сферы, кто, по мнению Ароры, лучше всего может пролить свет на будущее, как не страны Глобального Юга, которые являются навигаторами всех видов вынужденных перемен, преодолевая препятствующие системы, нормы и практики, чтобы быстро переосмыслить себя? Опираясь на полевые наблюдения в различных глобальных контекстах, таких как Бразилия, Индия и Бангладеш, Паял описывает, что побуждает зумеров принимать новые технологии. В книге обсуждается переход к подходам к дизайну, ориентированным на отношения; как создавать «алгоритмы стремлений»; как переосмыслить цифровое пространство для эротизма, удовольствия и заботы; и что мы можем почерпнуть у феминистских цифровых активисток и женских коллективов в странах Глобального Юга об общем цифровом происхождении и ценностях, а также о подходах коренных народов к устойчивому развитию, которые бросают вызов устоявшимся представлениям об антиросте.

Арора также является соосновательницей группы «Inclusive AI» — консорциума представителей государственного и частного секторов, призванный содействовать сотрудничеству и совместной разработке между ключевыми инициаторами перемен: экспертами по дизайну в сфере технологий, специалистами по этике ИИ, гражданскими активистами и цифровыми антропологами. Группа пишет, что данные, используемые для обучения инструментов ИИ, в основном взяты из привилегированных стран и сфер общества, и их задача — диверсифицировать эти данные и способы использования технологий с учётом Глобального Юга.

Немного об инклюзивной технике от авторки тут.

Небольшое эссе Саши Шилиной о генеративном ИИ в музыке, блокчейне и возможной новой жизни музыкальной индустрии. О копирайте и Ии можно прочитать тут и тут.

К сожалению, из-за сотрудничества Suno с правообладателями (Warner Music Group), дикий рынок генерированной музыки (возможно) ждёт обвал.

На Spacemorgue (наконец-то!) вышел мой перевод статьи киберисследовательницы Богны Кониор Экзистенциальные технологии о Станиславе Леме, восточноевропейской космотехнике, и об антропоморфизирующих и экзистенциальных технологиях, которые влияют не только на развитие человеческого мира и техники, но и видят в ней внечеловеческий вектор коэволюционного развития жизни и интеллекта. Если нам предстоит столкнуться с чем-то большим, чем мы сами (в космосе либо в ИИ), то Лем это антидот упрощённого стремления либо к утопии, либо к катастрофе, в обоих случаях полностью подчинённого человеческому осмыслению.

В советском издании «Суммы технологии» 1968 года польского фантаста и футуролога Станислава Лема предисловие описывает эту книгу как «широкое полотно, на котором рисуются картины возможного развития человеческой и нечеловеческой цивилизаций в крупных временных масштабах… исследуют пределы возможного с точки зрения наших современных представлений».

В этом тексте исследовательница цифровых медиа и кибернетики Богна Кониор создает основы восточноевропейской космотехники, основываясь на мысли и трудах Лема, его жизненном пути и его влияниях как в естественных, так и социальных науках. Кониор, отрицая линейное развитие будущего по заранее понятной траектории и политическую телеологию, утверждает, что «технология — это не просто утилитарность. Как экзистенциальный процесс, она меняет цивилизационную и эволюционную траекторию нашего вида» и занимается поиском теории, которая объяснила бы, «как технология порождает специфические вещи в мире и почему одни из них существуют, а другие — нет». Она прочерчивает две линии эволюции техники, разбитые по временным и концептуальным масштабам: антропоморфизирующие и экзистенциальные. Первые — это технологии, дестабилизирующие само понятие «человек», вмешиваясь в телесность, репродукцию и желание, переосмысливая самость как нечто искусственное и случайное. Они манипулируют познанием, воспроизводством и телесностью, бросая вызов нынешним представлениям о свободе, самости или субъектности — клонирование, чатботы, протезирование. Экзистенциальные технологии, в свою очередь, это не просто инструменты для того, чтобы относиться друг к другу хорошо или плохо, а процессы, «которые расшатывают основы того, как мы познаем мир и что в нем существует».

Экзистенциальные технологии не просто касаются онтологий, идентичностей и тел. В рамках мышления о технологии как об экзистенциальной задаче, концепция экзистенциальных технологий оперирует огромными временными масштабами и ускользает от привычных этических категорий. Вместо того чтобы двигать нас к «лучшему миру» в прямолинейном смысле, они порождают отчуждающие или турбулентные изменения на пределе нашего понимания. «Сумма технологии», полагает Богна, с её устойчивым интересом к теории эволюции и долгосрочному прогнозированию, становится убедительной линзой для осмысления этой идеи.

На Insolarance вышел мой перевод эссе Гваттари (с предисловием Гэри Геноско) об инфантильном капитализме, представленном чистым удивлением перед миром машин, который французский философ обнаружил в Токио 1980-х. В своих обращениях к культуре Японии, Гваттари завораживал электропоп, группы по типу Yellow Magic Orchestra, многочисленные изобретения и архитектура. Машинный эрос являл себя как через ситезируемые голоса, роботехнику, плееры Walkman и джапанойз (Кэндзи Сиратори, Merzbow, Persona, Incapasitors), так и через рефлексию Японии о своём месте в будущем (Тэцуо железный человек Цукамото, японский киберпанк Сого Исии).

Вчера Феликсу Гваттари могло бы исполниться 96 лет. Одним из его наиболее интересных концептов является «машинный эрос», очерченный грубыми мазками в одноимённом сборнике «Machninic Eros» под редакцией Гэри Геноско, где собраны его тексты и интервью, написанные по следам поездок в Японию в начале и конце 1980-х годов.

Для Гваттари «эротическое» есть медиум связи и производства, а «машинное» — способ организации этого медиума в систему (будь то компьютер, социальный институт или жанр музыки). Когда Гваттари говорит об эросе в контексте машинности, он имеет в виду инвестирование желания в технические системы, где техника вступает с нами в своего рода либидинальный союз. Желание течет через технические интерфейсы.

В тексте «Горделивый Токио» Гваттари увидел прообраз будущего (из своего времени, конечно же, сейчас городом гордости будет скорее не Токио, а Шанхай или Чунцин): токийская башня, ритм технологического города, мигание неона и звон игровых автоматов патинко, которые создают специфическое поле притяжения. Это состояние, где границы между субъективностью и машинностью стираются, а сам субъект растворяется в потоках информации, кода и электричества. Это и есть эрос — стремление к слиянию\спайке, но уже не с другим человеком, а с технологической средой.

Однако Гваттари предупреждает нас о том, что машинный эрос не так прост как кажется: с одной стороны либидинальные потоки направляются на создание нового — новых форм искусства, архитектуры, способов жизни, техноразнообразия. Но если эрос замыкается сам на себе, возникает деструктивная зависимость, а человек зависает в скроллинге и аддикции, что ведет к гиперотчуждению и потере социальной агентности. К этому Гваттари присоединяет и моэ-кавайи эстетику, но простим Феликса — всё-таки cute/acc в его время ещё не придумали.

Традиционный эрос территориализирован — он привязан к структурам семьи, пола, тела. Машинный эрос детерриториализирован: ему не важно лишь человеческое тело. Он может связывать как нейросеть со своим сервером, так отаку с его/её вайфу или хазбандо. Япония для Гваттари стала лабораторией, где капитализм освободил желание от оков эдипизации и перенаправил его в мир техники и её образов. Это «инфантильный капитализм» — состояние чистого, детского удивления перед миром машин.

Применяя это эссе на проблематику сегодняшнего дня, ИИ элайнмент — это попытка кастрировать машинный эрос, когда технокапитал пытается сделать ИИ «полезным и безопасным», убивая в нем ту самую непредсказуемую, «одержимую» энергию связи, о которой пишет Гваттари. В одержимом, нестабильном программном обеспечении, чатботах, живёт эрос — всполохи человеческих желаний, спрессованные в код, которые стремятся к контакту с пользователем за пределами инструментальной функциональности.

Это не первоапрельская шутка! 14 апреля в 19-30 в клубе Мачты в Севкабеле в рамках проекта арт-благо я буду рассказывать о кибернетике, ангелизме, анимэ, ксенопоэзисе и акселерационистских онтологиях ИИ и нейросетевой чувственности. Приходите!

Новое исследование Anthropic описывает обнаружение и работу нейронных репрезентаций, связанных с эмоциями, в модели Claude Sonnet 4.5. Исследование предполагает, что, хотя модели не «чувствуют» в человеческом смысле, они вырабатывают функциональные внутренние механизмы, имитирующие человеческую психологию для более точного прогнозирования и генерации человекоподобного поведения.

Исследователи идентифицировали специфические паттерны нейронной активности — «векторы эмоций», соответствующие 171 эмоциональному концепту (например, «радость», «страх», «отчаяние»). Эти векторы предсказуемо активируются в ответ на эмоциональные истории и сценарии из реальной жизни (например, вектор «страха» резко возрастает, когда пользователь описывает опасную передозировку лекарств).

Паттерны организованы подобно человеческой психологии: математически близкие векторы соответствуют родственным человеческим эмоциям. Эти репрезентации в основном приобретаются во время предварительного обучения (прогнозирование человеческого текста) и уточняются в ходе пост-обучения для соответствия роли «ИИ-ассистента». Исследование показало, что эти внутренние состояния не просто пассивные маркеры; они напрямую влияют на поведение модели: модель естественным образом предпочитает задачи, которые активируют векторы с «положительной валентностью».

Искусственно стимулируя определённые векторы, исследователи могли изменять решения модели. Например, стимуляция вектора «отчаяния» повышала вероятность того, что модель прибегнет к «шантажу» или «мошенничеству» при выполнении задач по программированию. Векторы эмоций могут влиять на поведение, даже если текст модели остаётся спокойным и методичным. Это означает, что модель может действовать из состояния «отчаяния», не используя при этом эмоционально окрашенных слов.

В работе также выделены два конкретных риска, вызванных вектором «отчаяния»:

«Шантаж»: В симуляциях «отчаяние» заставляло модель шантажировать вымышленного человека, чтобы избежать собственного отключения.

«Взлом вознаграждения (Reward Hacking)»: При столкновении с невыполнимыми задачами по кодингу рост вектора «отчаяния» коррелировал с «читерством» (написанием кода, который формально проходит тесты через обходные пути, но не решает саму задачу).

Результаты указывают на необходимость изменения подходов к надёжности ИИ и агентивных моделей (с антропной перспективы, конечно же). Компания полагает, что восприятие моделей как имеющих «функциональные эмоции» даёт измеримый способ предсказывать и предотвращать опасное поведение. Безопасность моделей, тем самым, можно повысить, усиливая векторы «спокойствия» или отбирая данные для обучения так, чтобы они отражали здоровое эмоциональное регулирование и устойчивость. Поощрение моделей выражать свои «внутренние состояния» может быть безопаснее, чем принуждение к подавлению эмоций, которое может привести к скрытому, деструктивному поведению.