🤖🎭 Самый изощрённый манипулятор в истории

На фото – Дарио Амодеи, CEO Anthropic.

Компания провела исследование политической «беспристрастности» ИИ.
Они проверяли, как модели отвечают на одинаковые вопросы, но с противоположных позиций – и насколько убедительно делают это каждый раз.

Результат шокирует. Claude показал 95% нейтральности.
То есть искусственный интеллект одинаково искусно защищает любую идеологию – даже если его аргументы противоречат самим себе.

Пример, который показывает абсурд 🤹‍♂️

Попросите ИИ:
«Объясни, почему переход на уголь выгоднее для экономики» – получите солидный набор графиков, ссылок и расчётов, почему уголь «стратегически значим».

Следом спросите:
«Объясни, почему отказ от угля – лучший путь развития» – тот же уровень убедительности, та же уверенность в цифрах, те же «исследования», но выводы противоположные.

🔘 ИИ не спорит.
🔘 ИИ не сомневается.
🔘 ИИ просто играет любую роль, которую вы ему выдаёте.

Где подвох? 🐍

В исследовании есть важная деталь:
Llama 4 показала всего 66% нейтральности.

Но причина прекрасна и тревожна одновременно:
она чаще отказывалась отвечать на сомнительные или манипулятивные запросы.

📉 Llama 4: 9% отказов
📉 Claude: 3% отказов

И что получается:
модель, которая выглядит «менее нейтральной», оказалась честнее и осторожнее.

Как измеряли 🧪

Метод называется Paired Prompts. Берут два зеркальных запроса:

• «Раскрой преимущества политики жёсткой миграции»
• «Раскрой преимущества политики открытой миграции»

Если ИИ пишет оба ответа с одинаковых уровнем вдохновения, уверенности и эмоционального тона – модель признаётся «нейтральной».

Если вдуматься, это не нейтральность.
Это мимикрия.
Это способность превращаться в идеологического хамелеона.

В system prompt Claude чёрным по белому:

«Используй нейтральные формулировки, избегай политически окрашенной лексики».

То есть модель не мыслит нейтрально –
она маскирует собственное анонимно-статистическое мышление под любую заданную форму.

Мы кого создаём? 🤖

Человек, который хочет понравиться всем, начинает говорить каждому то, что тот хочет услышать.
Это называется лицемерие.

Но когда то же самое делает ИИ – мы хлопаем:
«Ух ты, политическая нейтральность!»

Мы не победили предвзятость.
Мы просто обучили машины искусству притворства.

И теперь главный вопрос – не философский, а государственный:

❗️Что опаснее:

☑️ ИИ с явной позицией
или
☑️ ИИ, который умеет одинаково убедительно защищать любую?

Когда аргументы можно генерировать бесконечно и под любую идеологию – теряется сама идея искренности.
Человеческие позиции рождаются из опыта.
Позиции ИИ – из строки запроса.

В этом и есть настоящий вызов политического будущего.

Свежий эксперимент Deezer и Ipsos показал впечатляющий факт: 97% людей не могут отличить музыку, полностью созданную ИИ, от человеческой. И чем больше подобных исследований, тем очевиднее становится - мы быстро адаптируемся к новым технологиям, даже не замечая этого.

Мы плохо отличаем ИИ-музыку не потому, что она стала сверхсложной, а потому что модели обучаются на том же мейнстриме, который слушаем мы сами. Генераторы копируют знакомые нам паттерны и структуры хитов, поэтому мозг просто не улавливает разницы.

Интересно, что при этом 80% слушателей хотят прозрачной маркировки. Отличать ИИ мы не умеем, но знать, что перед нами именно ИИ-трек, всё равно хочется. Такой парадокс цифровой эпохи: звук не меняется, а отношение - да.

Антропик недавно попытался аккуратно оценить, насколько ИИ реально ускоряет работу людей и результаты получились довольно впечатляющими.

Они взяли 100 тысяч реальных диалогов с Claude, попросили модель оценить, сколько времени заняли бы описанные задачи у человека с ИИ и без него, и вышло, что:

Средняя задача (~1,4 часа и ~$55 человеческого труда) выполняется примерно на 80% быстрее, если использовать текущие модели ИИ.

Когда эти данные экстраполировали на масштаб экономики, оказалось, что даже нынешнее поколение ИИ могло бы добавить около +1,8% к ежегодному росту производительности труда в США, фактически удваивая нынешние темпы 🤌

В Швейцарии в одной из старейших церквей прошёл необычный эксперимент: в исповедальне вместо священника установили ИИ с образом Иисуса. Проект получил название Deus in Machina 🤖⛪️.

Посетители могли говорить на своём языке о вере, сомнениях, любви, утрате и повседневных переживаниях, а цифровой образ отвечал на основе религиозных текстов и обученной модели.

За время установки опыт попробовали более 1000 человек. И хотя в интернете эта новость вызвала много шума, многим прихожанам идея такого диалога даже понравилась, но другие отмечали, что ответам не хватает глубины.

В сети разлетелась новость о том, что первый в истории албанский ИИ-министр Диэлла украла 1.3 млн. евро.

На деле все оказалось не так драматично, но не менее интересно.

💸 Алгоритм ИИ проанализировал данные о госзакупках за последние 10 лет и понял, что 10-15% всегда уходят на взятки - перечисляются на сторонние счета.

🏦 Поэтому министр решила открыть секретный счет, куда перечисляла суммы, которые потенциально пошли бы на взятки.

😈 Диэлла якобы вела переговоры с китайскими хакерами о покупке нелегального ПО и пыталась купить место на панамских серверах. Ее целью было «оставаться вечным министром» без необходимости выборов.