Оказалось, что люди готовы полностью доверять тому, что им говорят нейросети

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Не так давно вышло интересное исследование от американских учёных на тему отношения аудитории к разным источникам информации. В частности, исследователи решили выяснить: если вот дать человеку текст и сказать «этот текст сгенерировал ИИ», будут ли люди относиться к написанному более скептически?

Всего в эксперименте приняли участие свыше 1500 человек, которых разделили на три группы. Затем ИИ сгенерировал тексты по нескольким значимым темам государственной политики США (экология, импорт медицинских препаратов, зарплаты студентам, работа соцсетей). В результате получилось 4 одинаковых текста, но в разных группах испытуемых эти тексты маркировали по-разному. Например, в группе №1 говорили, что текст написал эксперт по политике. А в группе №2 утверждали, что текст сгенерировала нейросеть. В группе №3 текст давали без маркировки.

Результаты получились любопытные. Во-первых, оказалось, что нейросетевые тексты весьма убедительны. ИИ так подала факты и тезисы, что смогла повлиять на взгляды фокус-группы (в среднем на 9,74 процентных пункта по шкале до 100). Во-вторых, метка «сгенерировано нейросетью» почти ни на что не повлияла. Люди верили ИИ-текстам практически так же, как и текстам «экспертов».

В итоге авторы пришли к выводу, что маркировка ИИ-контента никак не влияет на отношение аудитории к этому самому контенту: люди не становятся более скептическими, не пытаются перепроверить факты и прочее. Что это значит на практике? Думаю, общественность постепенно привыкает к нейросетям и ИИ перестаёт восприниматься как нечто совершенно новое.

Всё это подводит нас к тому, что простая маркировка уже не сможет эффективно защищать от потенциально манипулятивного или предвзятого ИИ-контента. В ближайшем будущем нам, скорее всего, придётся искать более действенные способы – от глубокой фактчекинговой проверки до развития критического мышления в отношении любых текстов, независимо от их происхождения.

ЭКСПЕРТНЫЙ ВЗГЛЯД. В Госдуму внесены поправки в избирательное законодательство. Одно из важных ноу-хау - запрет использовать для агитации вымышленных, в том числе при помощи нейросетей, персонажей, и образов уже умерших людей. Очевидно, что у КПРФ отнимают и Ленина, и Сталина в любых форматах. ЛДПР в таком случае будет вынуждена отказаться от изображения Владимира Жириновского.

Член Российской ассоциации политконсультантов, интернет-технолог Захар Рубцов:

Думаю, это вполне логичный и ожидаемый шаг. Теперь же партии будут вынуждены перестраивать визуал и месседжи. Вместо привычных «сильных образов» им придется выходить с живыми кандидатами, реальными историями и новыми лицами. Для кого-то это определенно станет болезненным переходом, поскольку, например, та же КПРФ довольно часто использовала образы вождей в своей агитации. Пришла пора придумывать новые креативные ходы.
Если же говорить о качестве контента, лично мне кажется, нововведения могут пойти на пользу. Люди явно устали от синтетического контента, которого с каждым годом становится все больше. Нейросети, дипфейки, виртуальные образы – всё это постепенно начало вызывать раздражение.

Управляющий партнер компании «Деловая репутация» Сергей Вепренцев:

Если обратиться к существу поправок, то формально они не вносят революционных изменений. Закон о выборах и раньше разрешал кандидату использовать в агитации преимущественно себя, максимум — в окружении «неопределенного круга лиц». Но именно эта формулировка — «неопределенный круг лиц» — создает интересное поле для юридических споров. Например, можно ли считать сгенерированного нейросетью персонажа, не имеющего прототипа, частью этого самого «неопределенного круга»? Или это однозначно запрещенный вымышленный образ? В недавнем кейсе КПРФ одним из доводов было использование несовершеннолетнего образа, сгенерированного нейросетью. А если вымышленный персонаж будет изображен спиной? Это вымышленный персонаж или «неопределенный круг лиц»? Ответы на эти вопросы, скорее всего, будут появляться уже в ходе правоприменительной практики, и они станут лакмусовой бумажкой для трактовки закона.
Кроме того, не стоит забывать о временных рамках и обходных путях. Избирательная кампания в строгом смысле слова начинается только после официального выдвижения и регистрации кандидатов. До этого момента ограничения формально не действуют, что оставляет партиям пространство для «разогрева» аудитории с помощью привычных образов. Более того, можно ожидать появления креативных стратегий, когда, скажем, видеоролики с Жириновским или Лениным будут выходить в фирменных цветах партии и транслировать тезисы, совпадающие с их повесткой, но без прямого призыва голосовать. Формально это будет не агитацией, а, например, просветительским или историческим контентом, что позволяет обойти новые ограничения.

Глава аналитического центра «Политген», политконсультант Ярослав Игнатовский:

Понятно, что сегодня настройки избирательного законодательства ультраконсервативные, однако технологический прогресс остановить сложно – речь и про развитие нейросетей, искусственного интеллекта, дополненной реальности. Очевидно, мы наблюдаем желание ограничить влияние в России иностранных платформ и технологических гигантов, потому как их владельцы находятся в недружественных странах и связаны с разведками и военным блоком этих стран.
Не думаю, что от этой новации сильно пострадает агитация. В конце концов, образы умерших или вымышленных персонажей можно использовать так или иначе неофициально. Не могу представить, что ЛДПР откажется от образа Жириновского, и кто сможет им в этом помешать. В целом, визуальная агитация сегодня настолько выхолощена у всех политических партий, что на самом деле не особо важно, кто будет изображен.

«Оживлять» вождей через ИИ и делать нейросетевых двойников больше нельзя? Что меняется в агитации?

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Не так давно в Госдуму внесли поправки, которые запрещают использовать в предвыборной агитации образы умерших политиков и вымышленных персонажей, созданных в том числе нейросетями. То есть нельзя будет, например, «оживлять» архивные фотографии, генерировать контент с известными личностями. Лично мне кажется, что вообще идея вводить такие запреты появилась именно благодаря искусственному интеллекту. Ведь до того, как интернет завалили нейросетевыми роликами, использование для агитации вымышленных персонажей или образов умерших людей никого не смущало.

А что теперь? Если задуматься, то будто бы сильнее эти нововведения бьют по креативщикам КПРФ и ЛДПР. Серьёзно, за последние несколько кампаний я ни от одной из партий не видел такого конвейера по производству ИИ-проектов, а также контента, связанного с образами известных личностей. Отрадно, что коллеги осваивают новые технологии и подходы (даже получается весьма интересно), но, видимо, зрители пресытились. Синтетический контент перестал быть забавной игрушкой и начал серьёзно докучать. И это ожидаемый эффект.

Люди устали. Устали от фейковых голосов, от визуализации идеализированных или шутливых образов, которых никогда не существовало в реальности. Устали от ощущения, что их пытаются развести на эмоции через искусственную ностальгию. Лично у меня и моего окружения синтетика вызывает не доверие, а скорее раздражение. Поэтому моё мнение – эти поправки выглядят весьма своевременными.

С другой стороны, полагаю, в ближайшее время таких ограничений, прямо или косвенно связанных с использованием ИИ в агитации, станет больше. До полного запрета вряд ли дойдёт, но к нейросетям (как к инструменту) будут явно выдвигаться повышенные требования. Наблюдаем.