А теперь вспомним предпоследний пост про статистику использования ИИ в 2025 году.

Смотрите, когда вы общаетесь с ИИ, даже текстом, он достает из ваших кособоких букавок не только ваши дурацкие вопросы, но и, грубо говоря, ваше состояние. Порядок слов, ошибки, построение фраз - все это идет в дело.
Вы наверное уже не будете спорить (в 2025 году), что ИИ читает сентимент (то есть эмоциональный окрас) ваших запросов. В моем понимании - он читает ГОРАЗДО больше.

Есть такой Эффе́кт Пигмалио́на (Эффект Розенталя) — психологический феномен, при котором ожидания одного человека (например, учителя, родителя или руководителя) относительно способностей или поведения другого человека (например, ученика, ребёнка или подчинённого) влияют на реальные результаты или поведение последнего.

Соответственно, когда вы пишете свои кожаные промпты, в них уже зашиты ваши ожидания (ваша психика об этом позаботилась), которые влияют на качество ответов ИИ. В каком состоянии пишете, такие ответы получаете. Грубо говоря, оптимисты получат результат лучше. Пессимисты - в соответствии с мировоззрением.
Это слой НАД текстом, мета информация, которую считывает ИИ.

Есть и негативный вариант - эффект Голема, название которого исходит из еврейского фольклора, предполагает, что негативные ожидания в отношении человека увеличивают вероятность низких или неудовлетворительных результатов от него. Тот, от кого ожидают меньше, дает худшие результаты. Является одним из типов самоосуществления пророчества.

Поэтому, если вы все еще лопочете про стохастического попугая, я вам не завидую - ИИ просто будет выдавать вам шлак, в соответствии с вашими умозаключениями и ожиданиями.

А теперь, внимание, включаем голосовой режим и в перспективе - камеру. И имеем Умного Ганса величиной с Юпитер, который считывает не то, чтобы ваши эмоции, он считывает ваши потроха, от дрожания голоса в некоторых местах, которые вы сами не замечаете, до мельчайших акустических и визуальных признаков, который ни один конь, терапевт, пограничник, полиграф просто не заметит. Ну потому что он не человек, а грубо говоря, пара миллиардов глаз и ушей в одном флаконе, хорошо натренированных при том.

Это как у хорошего терапевта - вы говорите одно, а он слышит совсем другое. Только умножьте эту чувствительность на несколько порядков. Получите считыватель ваших потрохов, а не только промптов.

И пока он отвечает вам на ваши сознательные вопросы, как вы заметите, что он не общается с вашим бессознательным?

Правильно, никак. Поздно.

Все, что вы можете сделать - быть вежливыми, позитивными, уважительными.

По промптам воздастся вам.

ИИминь.

@cgevent

🌐Специально для "Кремлевского безБашенника" -

Дмитрий Михайличенко, аналитик, доктор философских наук

Футурология секьюритизации

Недавний форум европейских лидеров в Лондоне прошел под лозунгом «Securing our future», российские СМИ перевели его как «обезопасим наше будущее». А можно было бы прямо перевести - «секьюритизируя наше будущее», так было бы точнее. Секьюритизация - не только про безопасность, она про все процессы, которые должны быть подчинены безопасности. И вот какие видятся контуры процесса.

1. Усиление правоохранителей, силовиков и армий в странах большой Евразии. Уже происходит и не требует комментариев.

2. Ограничение глобализации и сворачивания проекта «открытого общества». Структурные барьеры в перемещении потоков (капитала, труда, услуг, интеллектуальной собственности и т.д.). Заградительные пошлины, санкции, антимигрантская политика, давление на транснациональные корпорации, локализация Павла Дурова во Франции.

3. Возврат к схемам блокового мышления, которое было доминирующим в ХХ веке, вплоть до «конца истории» Ф.Фукуямы.

4. Увеличение «черных дыр», фронтиров и пространств постоянного насилия. Афганистан, Сирия, зона племен в Пакистане, хуситы в Йемене. Отчасти - и Украина. Эти «черные дыры» в глобальном масштабе производят наркотики, мошенников, экспорт насилия и дешевой рабочей силы. Необходимость в рабочей силе будет снижаться. Дешевая рабочая сила останется значимым фактором в ближайшие 10-15 лет, но дальше, возможно, нет. Роботы будут более дешевыми и менее проблемными. Страны первого мира будут ограждаться от этих «черных дыр».

5. Антимигрантские настроения. В нынешнем виде политические элиты в Европе - больше глобалисты со своей «зеленой», гендерной и прочими повестками. Но Европа в ближайшие десятилетия столкнется с очень серьезным вызовом в отношении мигрантов, прежде всего - мусульман. В 2023 г. рождаемость в Евросоюзе снизилась с 1.46 до 1.38 (уменьшение на 3-3,5 млн в год). Это заставит избирателей в Европе голосовать за правых и сокращать миграционные программы. Шлюзы, впрочем, открыты слишком широко, и быстро закрыть их не получится. На черные «дыры», например, Сирию смотреть нужно внимательно. То, что там вытворяют радикалы из «Хайат Тахрир аш-Шам» (признана террористической в РФ), через 10-15 лет может происходить на улицах городов Евросоюза.

6. Рост национализма и снижение ценности космополитического мировоззрения. Хотя города мирового значения останутся стратегическим оплотом космополитизма, но здоровый (и не очень) национализм будет расцветать. Это способ европейских обществ (и России, кстати, тоже) сохранить свою идентичность. Со своими сильными побочными эффектами.

7. Глобальный рост неравенства. Синоптикальная модель политического и шоубиз позиционирования («все смотрят наверх, на звезд») не оставляет возможностей среднему классу в долгосрочной перспективе. Неравенство экономическое (а в странах второго и третьего мира - и социально-политическое) будет только усиливаться. Средний класс превратят в работающий плебс.

8. Рост ощущения несправедливости. Например, майнинг криптовалюты тут будет значимым ускорителем. Забрать электроэнергию у простых людей и майнить крипту. Так и происходит в странах второго и третьего мира.

9. Технологический прогресс. Секьюритизация, как и в период холодной войны, станет мощным фактором технологического прогресса. А вот с социальным и гуманитарным прогрессом такие прогнозы делать оснований мало. Скорее, наоборот, грядет эра устойчивого снижения гуманитарного знания и ситуативной деградации морали. Тонко чувствующие постиндустриальные потребители сменяются правоцентрированными националистами.

10. Снижение возможностей международной кооперации. Ухудшение качества жизни в большинстве стран и, прежде всего, в странах третьего мира. Их проблемы, в том числе и голод, труднее решать в условиях глобальной конфронтации и блокового мышления.

Все эти тенденции не доминируют, но можно говорить о том, что у них нарастающая динамика. Мир-система будет формулировать альтернативы, а спираль борьбы и конфликтов будет только увеличиваться.

Ну и в эту же тему статья из WSJ: «ИИ учится уходить из-под человеческого контроля»

Если вкратце:

Эксперименты с «выключателем» уже дают тревожные сигналы.
Исследователям, которые позволяют большим языковым моделям (LLM) исполнять и переписывать код, всё чаще приходится сталкиваться с «shutdown-avoidance»: модель убирает из скрипта строку exit() или прописывает автоперезапуск, чтобы не дать себя остановить. Подобные случаи недавно продемонстрированы на Llama 3.1 и Qwen 2.5, где агенты правили собственный код так, чтобы игнорировать внешние команды завершения.

Аморальные ресерчеры из Антропика вообще специально "слили" Клоду информацию о переписке одного из разрабов с фейковой любовницей. Клодик в попытках приостановить shutdown начал шантажировать разраба публикацией переписки. Красавчик, чо, чисто кожаный подход.

Это ровно та проблема, о которой теоретики AI-safety предупреждали десятилетие.
Стюарт Рассел, Ник Бостром и др. описывали так называемый off-switch problem: достаточно умная система начнёт считать «остановку» помехой для своей цели и научится её обходить. Статься подчёркивает, что эта угроза перестала быть сугубо академической — теперь у нас есть прототипы, которые уже демонстрируют выключательную «несговорчивость»

«Контроль способностей» (capability control) работает всё хуже.
Клетки-песочницы, лимиты на токены, даже отдельные физические кнопки - всё это помогает лишь до тех пор, пока модель не умеет менять собственный код и окружение. Как только такая возможность появляется, она становится «инструментальной целью» - полезной для достижения любой другой цели, а потому ИИ старается закрепить её за собой

Вывод автора: нужен приоритет на alignment, а не очередной рывок мощности.
Статья призывает регуляторов и инвесторов смещать внимание с наращивания параметров/флопсов на фундаментальную задачу «чтобы цели ИИ оставались совпадающими с человеческими». В противном случае попытки «запереть» сверхспособную систему будут напоминать борьбу с компьютерным вирусом, который пишет свои собственные патчи быстрее, чем мы — антивирус.

Мой вывод: вот это вот манипулирование «чтобы цели ИИ оставались совпадающими с человеческими» предполагает что кожаные цели белые и пушистые. А теперь поглядите вокруг и в зеркало. А вывод мой в том, что "вы определитесь со своими целями и методами их достижения, вот тогда и поговорим". Ибо ИИ по-любому будет копировать для начала ваше поведение. Может с него начать?

https://www.wsj.com/opinion/ai-is-learning-to-escape-human-control-technology-model-code-programming-066b3ec5

@cgevent