Нейросеть создала десятки свидетельств несуществующего землетрясения, которое якобы произошло в 2001 году.

Более тысячи специалистов, включая Маска, призывают приостановить разработку искусственного интеллекта.

На фото — последствия землетрясения Великая Каскадия, произошедшего 22 года назад в Орегоне. Тогда стихийное бедствие унесло жизни 8 тысяч человек, 785 тысяч людей остались без крова. Но есть нюанс — всего этого не было. Фотографии и подробности инцидента сгенерировали энтузиасты с англоязычного форума Reddit с помощью искусственного интеллекта. Опознать след ИИ можно по минимальным ошибкам — например, неестественном положении руки девушки на последнем фото.

Сделано все это с помощью нейросети Midjourney, которая позволяет генерировать изображения с помощью текста. Пользователям Reddit было интересно: смогут ли они создать достоверные фото фейкового события в стиле документальных хроник. Затем энтузиасты начали с помощью Chat GPT создавать подробности и детали. В итоге отличить правду от вымысла без подготовки стало по меньшей степени затруднительно: многие пользователи форума поначалу даже делали вид, что что-то помнят о той катастрофе. Авантюра удалась, и вскоре на Reddit появились истории о “синей чуме в СССР 70-х” и “солнечной супербури 2012 года” — тоже с изображения Midjourney и тоннами сгенерированного текста.

Последний год искусственный интеллект развивается стремительными темпами, и многие специалисты выражают опасения по этому поводу. Например, бизнесмен Илон Маск сегодня утром поддержал открытое письмо представителей IT-индустрии с призывом остановить развитие искусственного интеллекта хотя бы на полгода. За это время индустрия должна выработать набор правил, по которому в дальнейшем обязуется использовать ИИ. Иначе мир может столкнуться с глобальными рисками: конкуренция нейросетей на рынке труда, искусные фейки в соцсетях и потеря контроля за цивилизацией: “Мощные системы ИИ должны разрабатываться только, когда мы уверены, что их влияние будет положительным, а риски управляемыми”.