Оказалось, что люди готовы полностью доверять тому, что им говорят нейросети

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Не так давно вышло интересное исследование от американских учёных на тему отношения аудитории к разным источникам информации. В частности, исследователи решили выяснить: если вот дать человеку текст и сказать «этот текст сгенерировал ИИ», будут ли люди относиться к написанному более скептически?

Всего в эксперименте приняли участие свыше 1500 человек, которых разделили на три группы. Затем ИИ сгенерировал тексты по нескольким значимым темам государственной политики США (экология, импорт медицинских препаратов, зарплаты студентам, работа соцсетей). В результате получилось 4 одинаковых текста, но в разных группах испытуемых эти тексты маркировали по-разному. Например, в группе №1 говорили, что текст написал эксперт по политике. А в группе №2 утверждали, что текст сгенерировала нейросеть. В группе №3 текст давали без маркировки.

Результаты получились любопытные. Во-первых, оказалось, что нейросетевые тексты весьма убедительны. ИИ так подала факты и тезисы, что смогла повлиять на взгляды фокус-группы (в среднем на 9,74 процентных пункта по шкале до 100). Во-вторых, метка «сгенерировано нейросетью» почти ни на что не повлияла. Люди верили ИИ-текстам практически так же, как и текстам «экспертов».

В итоге авторы пришли к выводу, что маркировка ИИ-контента никак не влияет на отношение аудитории к этому самому контенту: люди не становятся более скептическими, не пытаются перепроверить факты и прочее. Что это значит на практике? Думаю, общественность постепенно привыкает к нейросетям и ИИ перестаёт восприниматься как нечто совершенно новое.

Всё это подводит нас к тому, что простая маркировка уже не сможет эффективно защищать от потенциально манипулятивного или предвзятого ИИ-контента. В ближайшем будущем нам, скорее всего, придётся искать более действенные способы – от глубокой фактчекинговой проверки до развития критического мышления в отношении любых текстов, независимо от их происхождения.

ЭКСПЕРТНЫЙ ВЗГЛЯД. В Госдуму внесены поправки в избирательное законодательство. Одно из важных ноу-хау - запрет использовать для агитации вымышленных, в том числе при помощи нейросетей, персонажей, и образов уже умерших людей. Очевидно, что у КПРФ отнимают и Ленина, и Сталина в любых форматах. ЛДПР в таком случае будет вынуждена отказаться от изображения Владимира Жириновского.

Член Российской ассоциации политконсультантов, интернет-технолог Захар Рубцов:

Думаю, это вполне логичный и ожидаемый шаг. Теперь же партии будут вынуждены перестраивать визуал и месседжи. Вместо привычных «сильных образов» им придется выходить с живыми кандидатами, реальными историями и новыми лицами. Для кого-то это определенно станет болезненным переходом, поскольку, например, та же КПРФ довольно часто использовала образы вождей в своей агитации. Пришла пора придумывать новые креативные ходы.
Если же говорить о качестве контента, лично мне кажется, нововведения могут пойти на пользу. Люди явно устали от синтетического контента, которого с каждым годом становится все больше. Нейросети, дипфейки, виртуальные образы – всё это постепенно начало вызывать раздражение.

Управляющий партнер компании «Деловая репутация» Сергей Вепренцев:

Если обратиться к существу поправок, то формально они не вносят революционных изменений. Закон о выборах и раньше разрешал кандидату использовать в агитации преимущественно себя, максимум — в окружении «неопределенного круга лиц». Но именно эта формулировка — «неопределенный круг лиц» — создает интересное поле для юридических споров. Например, можно ли считать сгенерированного нейросетью персонажа, не имеющего прототипа, частью этого самого «неопределенного круга»? Или это однозначно запрещенный вымышленный образ? В недавнем кейсе КПРФ одним из доводов было использование несовершеннолетнего образа, сгенерированного нейросетью. А если вымышленный персонаж будет изображен спиной? Это вымышленный персонаж или «неопределенный круг лиц»? Ответы на эти вопросы, скорее всего, будут появляться уже в ходе правоприменительной практики, и они станут лакмусовой бумажкой для трактовки закона.
Кроме того, не стоит забывать о временных рамках и обходных путях. Избирательная кампания в строгом смысле слова начинается только после официального выдвижения и регистрации кандидатов. До этого момента ограничения формально не действуют, что оставляет партиям пространство для «разогрева» аудитории с помощью привычных образов. Более того, можно ожидать появления креативных стратегий, когда, скажем, видеоролики с Жириновским или Лениным будут выходить в фирменных цветах партии и транслировать тезисы, совпадающие с их повесткой, но без прямого призыва голосовать. Формально это будет не агитацией, а, например, просветительским или историческим контентом, что позволяет обойти новые ограничения.

Глава аналитического центра «Политген», политконсультант Ярослав Игнатовский:

Понятно, что сегодня настройки избирательного законодательства ультраконсервативные, однако технологический прогресс остановить сложно – речь и про развитие нейросетей, искусственного интеллекта, дополненной реальности. Очевидно, мы наблюдаем желание ограничить влияние в России иностранных платформ и технологических гигантов, потому как их владельцы находятся в недружественных странах и связаны с разведками и военным блоком этих стран.
Не думаю, что от этой новации сильно пострадает агитация. В конце концов, образы умерших или вымышленных персонажей можно использовать так или иначе неофициально. Не могу представить, что ЛДПР откажется от образа Жириновского, и кто сможет им в этом помешать. В целом, визуальная агитация сегодня настолько выхолощена у всех политических партий, что на самом деле не особо важно, кто будет изображен.