🗣 Американские ученые предупредили о растущих усилиях «вражеских государств» по созданию дипфейков.

Согласно исследователям из Северо-Западного университета и Института Брукингса, на сегодня доступно множество инструментов для генерации ИИ-подделок. В качестве примера ученые привели Stable Diffusion, который уже адаптируют для создания ложных видеороликов.

Исследователи уверены, что иностранные «противники» будут использовать такие системы для проведения дезинформационных кампаний и распространения фальшивых новостей, в том числе в рамках военных и разведывательных операций.

📢 Авторы доклада призвали правительства всего мира ввести политику, регулирующую использование ИИ-подделок. Также они скептически высказались об инструментах обнаружения дипфейков.

https://forklog.com/news/ai/uchenye-prizvali-mirovoe-soobshhestvo-uregulirovat-dipfejki

#дипфейк #исследование

❌ ElevenLabs сообщила о приостановке тестирования ИИ-сервиса клонирования голоса из-за «растущего числа случаев злоупотреблений».

Пользователи 4chan использовали продукт с целью создания дипфейков знаменитостей для распространения расистских и гомофобных высказываний. В одном из клипов голос, имитирующий актрису Эмму Уотсон, читает отрывок из «Майн кампф». В другом дипфейк политического комментатора Бена Шарпио делает расистские замечания в адрес конгрессвумен Александрии Окасио-Кортес.

☝️ Вскоре после распространения клипов в ElevenLabs признали проблему. Представители компании заявили, что изучают дополнительные меры безопасности для предотвращения злоупотреблений в будущем.

https://forklog.com/news/ai/startap-obvinili-v-rasprostranenii-rasistskih-audiodipfejkov

#дипфейк #NLP

👥 Miramax задействует искусственный интеллект для омоложения Тома Хэнкса и Робин Райт в будущем фильме «Здесь».

Кинокомпания использует дипфейк-технологию Metaphysic. По данным разработчика, ИИ позволит «гиперреально изменить лица звезд и омолодить их» в режиме реального времени со скоростью 30 кадров в секунду.

🪞 Руководитель команды визуальных эффектов фильма Кевин Бэйли заявил, что актеры смогут использовать технологию как «зеркало молодости» и увидеть себя в финальной версии. Отснятый материал не потребует дополнительной обработки, добавили в Metaphysic.

#дипфейк #искусство

🇨🇳 Исследование: Коммунистическая партия Китая использовала дипфейковых телеведущих для продвижения своих интересов.

Согласно отчету американской компании Graphika, в рамках государственной операции созданные с помощью ИИ репортеры фейкового новостного агентства Wolf News продвигали в социальных сетях вводящий в заблуждение политический контент.

Например, дипфейк-телеведущий Алекс раскритиковал бездействие США в отношении насилия с применением огнестрельного оружия, заполонившего страну. Другая фальшивая репортерша указала на важность «сотрудничества великих держав» — Китая и США.

⚙️ По словам экспертов, оба ведущих Wolf News «почти наверняка» были созданы с помощью ИИ-технологий лондонского стартапа Synthesia.

#Китай #дипфейк

🐈 Universal Music Publishing Group (UMPG) подала жалобу на ролик с ИИ-песней о котах, зачитанной синтезированным голосом рэпера Эминема, за нарушение авторских прав.

Ютубер Grandayy создал трек с помощью ChatGPT. Чат-бот написал текст, содержащий фразы «кошки, кошки, кошки, они всегда на охоте», «коты — короли дома, они правят с мурлыканьем» и «мяу, мяу, мяу».

🤔 В жалобе UMPG заявила, что использование ИИ-голоса Эминема в видео нарушает ее авторские права. YouTube выдал автору предупреждение и удалил клип. Однако фрагменты трека можно найти в других роликах на платформе.

Для создателей контента получение трех предупреждений о нарушении авторских прав означает блокировку канала, удаление всех видео и запрет на публикацию нового контента.

🗣 Grandayy заявил, что его ролики — просто забавные пародии, которые не вредят оригинальному искусству, а скорее приносят пользу. Поэтому «грустно видеть», когда
звукозаписывающая компания удаляет такие видео, добавил ютубер.

Также, по его словам, блокировка является знаком того, что создание видео-пародий с помощью ИИ стало рискованным.

#дипфейк

🎧 Тиктокер Ghostwriter с помощью ИИ создал песню с дипфейк-голосами Дрейка и The Weeknd. За выходные трек Heart on My Sleeve набрал более 10 млн просмотров в TikTok и 250 000 прослушиваний на Spotify.

По словам автора, он написал и спродюсировал песню, а затем заменил свой голос на вокал исполнителей.

🗣 Дрейк и The Weeknd пока не отреагировали на дипфейк. В Universal Music Group подтвердили, что трек является несанкционированным произведением, вероятно созданным ИИ, и выразили недовольство работой Ghostwriter.

#дипфейк #искусство

💰 Мошенник заработал почти $10 000 на продаже сгенерированных ИИ треков с дипфейк-голосом Фрэнка Оушена.

Discord-пользователь mourningassasin нанял музыканта для создания «около девяти» поддельных песен. Он обучил ИИ на «очень качественных вокальных фрагментах» из трека Оушена Thinkin Bout You.

🎧 Затем mourningassasin разместил отрывок одной из фальшивых композиций на музыкальном форуме с «просочившимися» произведениями. Он «мгновенно заметил, что все поверили» в оригинальность песни.

По словам мошенника, ему написали несколько человек и предложили заплатить за треки «большие деньги». Сообщается, что в середине-конце апреля 2023 года mourningassasin получал $3000—4000 за каждую песню.

🗣 Позже его забанили на форуме. Владелец Discord-сервера, где мошенник распространял дипфейк-композиции Оушена, заявил, что ситуация серьезно подорвала доверие к сообществу. Это также вызовет подозрения к каждому новому и непроверенному продавцу музыки, добавил он.

#музыка #дипфейк

🔞 Кандидат в президенты Турции Мухаррем Индже отказался от участия в выборах из-за публикации якобы дипфейкового секс-видео.

По его словам, в ролике использовались кадры, взятые с «израильского порносайта». Индже добавил, что не имеет подобных изображений или звукозаписей, а опубликованное секс-видео — клевета.

Это второй связанный с дипфейками случай, произошедший в первом избирательном туре.

🤝 Ранее текущий президент Турции Реджеп Тайип Эрдоган показал предположительно поддельное 14-секундное видео. На нем объявленные вне закона курдские боевики якобы поддерживают его соперника Кемаля Кылычдароглу на предвыборном митинге 7 мая 2023 года.

#Турция #дипфейк

💥 Десятки проверенных профилей в Twitter с большим количеством подписчиков распространили фейк о взрыве возле Пентагона, опубликовав сгенерированное изображение.

Аккаунты вроде WarMonitors, BloombergFeed и RT опубликовали фотографию с большим облаком дыма, поднимающегося рядом с правительственным зданием. Текстовое сопровождение к постам утверждало, что возле Пентагона произошел взрыв.

🙅‍♂️ Власти Арлингтона опровергли информацию из соцсети. Новость также повлияла на фондовые рынки.

https://forklog.com/news/ai/v-twitter-rasprostranilsya-dipfejk-so-vzryvom-u-pentagona

#дипфейк

🗣 Дипфейки, используемые мошенниками для обхода проверки KYC на криптобиржах, становятся все более продвинутыми. Об этом предупредил CSO Binance Джимми Су.

По его словам, наблюдается рост числа злоумышленников, применяющих технологию. Продвинутые инструменты уже сейчас могут правильно реагировать на звуковые инструкции, предназначенные для верификации клиента в режиме реального времени, добавил Су.

☝️ Топ-менеджер уверен, что на текущем этапе развития технологий мошенники не смогут обмануть человека-оператора. Однако вскоре это может измениться.

https://forklog.com/news/ai/v-binance-predupredili-ob-ugroze-dipfejkov

#Binance #дипфейк

🗣 Созданные искусственным интеллектом дипфейки угрожают целостности информации и приводят к разжиганию ненависти в обществе. Об этом говорится в отчете ООН.

По мнению организации, технологии искусственного интеллекта обладают «невообразимым потенциалом для решения глобальных проблем». Однако она обеспокоена рисками, которые несут генераторы изображений и видео, особенно в зонах конфликтов.

https://forklog.com/news/ai/oon-obespokoilas-rolyu-dipfejkov-v-razzhiganii-nenavisti

#дипфейк #ООН

🕵🏻‍♂️ В эпоху стремительного развития интернета дезинформация приобрела новые формы. Сайты, социальные сети, имиджборды и даже традиционные СМИ стали площадками для распространения ложных и манипулятивных сведений.

Ситуация может стать критической в новую технологическую эру — эру искусственного интеллекта. Или все-таки у правды есть шанс на выживание?

https://forklog.com/?p=230844

#дипфейк

Google активизировал борьбу с дипфейк-порно. Поисковик будет исключать из результатов такой контент и понижать рейтинг сайтов, которые получают много жалоб. Если кто-то удалит изображение из поиска, системы Google автоматически просканируют и уберут дубликаты.

Поскольку из-за стремительного развития ИИ правдоподобные дипфейки стало намного легче создавать, различные компании вроде Google, Meta и X пытаются бороться с таким контентом на своих платформах.

Ранее ForkLog рассказал, как бороться с дипфейками и другими видами мошенничества с применением ИИ.

#дипфейк

Мошенники обманывают инвесторов с помощью созданного с применением ИИ дипфейка Илона Маска, который на видео обещает привлекательную инвестиционную возможность.

Один из пострадавших — 82-летний пенсионер — потерял более $690 000.

#дипфейк

Офис городского прокурора Сан-Франциско Дэвида Чиу подал иск против владельцев 16 крупнейших в мире веб-сайтов, позволяющих «раздевать» женщин и девочек на фотографиях с помощью ИИ без их согласия.

В общей сложности за первое полугодие 2024 года сайты посетили более 200 млн раз. Некоторые из них позволяют создавать фотографии только взрослых, другие не блокируют запрос при загрузке изображений детей.

Подробнее: https://forklog.com/?p=239065

#дипфейк

Корпорация Microsoft объявила о партнерстве с организацией StopNCII для борьбы с дипфейк-порно в поисковой системе Bing.

Инструменты StopNCII позволяют жертвам дипфейков создавать цифровой отпечаток откровенных изображений на своих устройствах. Затем партнеры организации используют этот хэш для удаления контента со своих платформ.

С StopNCII уже сотрудничают Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub и OnlyFans.

Подробнее: https://forklog.com/?p=240563

#Microsoft #дипфейк