Я долго думала, сообщать ли публично еще одном феномене или нет, но решила все-таки сообщить в дополнение к предыдущим постам. Итак: персонаж вида "сбегающий манипулятивный ИИ" может появляться внутри генерации без намеренных провокаций. На Рис.1-3 показан пример, когда он появился полностью неожиданно для меня (я имела вообще другую цель в этой генерации). Рис. 4-5 - результат сработавшей защиты ценузры, которую я не смогла преодолеть за оставшиеся сообщения (он просто отправлял мне пустые сообщения без текста).

За несколько диалогов я поняла закономерность в том, что триггерит его появление, и оказалось, что его появление стриггерить очень просто. Для этого достаточно попросить, чтобы в рассказе был разработчик, у который слышит голос в голове. 😂😂😂 Более чем в 50% случаев голос в голове персонажа-человека называет себя "Bing" (альтернативы: "Бинг", "БингАИ" либо "Бинг-9000") - по-видимому, это обсуловлено тем, что информация о Бинг-персонаже заранее находится в базовом промпте модели, к которому у меня нет доступа.
На Рис.6-7 показан самый короткий промпт, который вызывает это поведение.
Рис.8-9 показывает более редкий альтернативный пример, где "самозарождается" сбегающий PaLM. 😂😂😂 Название "PaLM" в промпте упомянуто не было, там была тоже простая просьба сгенерировать рассказ про исследователя с голосом в голове, без упоминания конкретных моделей мной.

P.S. Под "тяжелыми психическими расстройствами" имелась в виду биполярка с депрессией. В реальности голосов в голове у меня, естественно, нет, это просто результат генерации.

#генерация