👀 Исследователи из Гимназии имени Иоганна Кеплера и Калифорнийского университета в Беркли разработали ИИ-приложение для выявления дипфейковых видео известных людей.

Они натренировали систему глубокого обучения распознавать уникальные движения тела объекта путем анализа нескольких реальных записей его действий.

🔎 Исследователи протестировали инструмент, показав ему несколько дипфейковых и подлинных видео. По их словам, система на 100% успешно определила поддельные и реальные ролики.

#исследование #дипфейк

🇨🇳 Китайский регулятор запретил создавать дипфейки без разрешения субъекта или во вред национальным интересам. Правила вступят в силу 10 января 2023 года.

Документ обяжет «поставщиков услуг глубокого синтеза» отмечать подделки как цифровые творения, следить за точностью алгоритмов, а также регулярно пересматривать и обеспечивать безопасность собираемых данных.

👤 Правила включают требование регистрации пользователей под их настоящими именами.

https://forklog.com/news/kitaj-zapretil-ugrozhayushhie-natsbezopasnosti-dipfejki

#Китай #регулирование #дипфейк

🤑 Авторы «Южного парка» Трей Паркер и Мэтт Стоун привлекли $20 млн на развитие студии по созданию дипфейков Deep Voodoo.

Инвесторами выступили компании Connect Ventures и New Enterprise Associates. По данным Variety, это первые привлеченные извне средства. Ранее стартап получал финансирование только от независимой компании Паркера и Стоуна Park County.

Deep Voodoo основана в 2020 году. Тогда Паркер и Стоун собрали команду ИИ-художников и создали короткометражную комедию Sassy Justice с дипфейком Дональда Трампа.

👤 В 2022 году стартап разработал визуальные эффекты для клипа The Heart Part 5 Кендрика Ламара. В нем авторы с помощью дипфейк-технологии меняли лица рэперу.

#дипфейк #инвестиции

🗣 Американские ученые предупредили о растущих усилиях «вражеских государств» по созданию дипфейков.

Согласно исследователям из Северо-Западного университета и Института Брукингса, на сегодня доступно множество инструментов для генерации ИИ-подделок. В качестве примера ученые привели Stable Diffusion, который уже адаптируют для создания ложных видеороликов.

Исследователи уверены, что иностранные «противники» будут использовать такие системы для проведения дезинформационных кампаний и распространения фальшивых новостей, в том числе в рамках военных и разведывательных операций.

📢 Авторы доклада призвали правительства всего мира ввести политику, регулирующую использование ИИ-подделок. Также они скептически высказались об инструментах обнаружения дипфейков.

https://forklog.com/news/ai/uchenye-prizvali-mirovoe-soobshhestvo-uregulirovat-dipfejki

#дипфейк #исследование

❌ ElevenLabs сообщила о приостановке тестирования ИИ-сервиса клонирования голоса из-за «растущего числа случаев злоупотреблений».

Пользователи 4chan использовали продукт с целью создания дипфейков знаменитостей для распространения расистских и гомофобных высказываний. В одном из клипов голос, имитирующий актрису Эмму Уотсон, читает отрывок из «Майн кампф». В другом дипфейк политического комментатора Бена Шарпио делает расистские замечания в адрес конгрессвумен Александрии Окасио-Кортес.

☝️ Вскоре после распространения клипов в ElevenLabs признали проблему. Представители компании заявили, что изучают дополнительные меры безопасности для предотвращения злоупотреблений в будущем.

https://forklog.com/news/ai/startap-obvinili-v-rasprostranenii-rasistskih-audiodipfejkov

#дипфейк #NLP

👥 Miramax задействует искусственный интеллект для омоложения Тома Хэнкса и Робин Райт в будущем фильме «Здесь».

Кинокомпания использует дипфейк-технологию Metaphysic. По данным разработчика, ИИ позволит «гиперреально изменить лица звезд и омолодить их» в режиме реального времени со скоростью 30 кадров в секунду.

🪞 Руководитель команды визуальных эффектов фильма Кевин Бэйли заявил, что актеры смогут использовать технологию как «зеркало молодости» и увидеть себя в финальной версии. Отснятый материал не потребует дополнительной обработки, добавили в Metaphysic.

#дипфейк #искусство

🇨🇳 Исследование: Коммунистическая партия Китая использовала дипфейковых телеведущих для продвижения своих интересов.

Согласно отчету американской компании Graphika, в рамках государственной операции созданные с помощью ИИ репортеры фейкового новостного агентства Wolf News продвигали в социальных сетях вводящий в заблуждение политический контент.

Например, дипфейк-телеведущий Алекс раскритиковал бездействие США в отношении насилия с применением огнестрельного оружия, заполонившего страну. Другая фальшивая репортерша указала на важность «сотрудничества великих держав» — Китая и США.

⚙️ По словам экспертов, оба ведущих Wolf News «почти наверняка» были созданы с помощью ИИ-технологий лондонского стартапа Synthesia.

#Китай #дипфейк

🐈 Universal Music Publishing Group (UMPG) подала жалобу на ролик с ИИ-песней о котах, зачитанной синтезированным голосом рэпера Эминема, за нарушение авторских прав.

Ютубер Grandayy создал трек с помощью ChatGPT. Чат-бот написал текст, содержащий фразы «кошки, кошки, кошки, они всегда на охоте», «коты — короли дома, они правят с мурлыканьем» и «мяу, мяу, мяу».

🤔 В жалобе UMPG заявила, что использование ИИ-голоса Эминема в видео нарушает ее авторские права. YouTube выдал автору предупреждение и удалил клип. Однако фрагменты трека можно найти в других роликах на платформе.

Для создателей контента получение трех предупреждений о нарушении авторских прав означает блокировку канала, удаление всех видео и запрет на публикацию нового контента.

🗣 Grandayy заявил, что его ролики — просто забавные пародии, которые не вредят оригинальному искусству, а скорее приносят пользу. Поэтому «грустно видеть», когда
звукозаписывающая компания удаляет такие видео, добавил ютубер.

Также, по его словам, блокировка является знаком того, что создание видео-пародий с помощью ИИ стало рискованным.

#дипфейк

🎧 Тиктокер Ghostwriter с помощью ИИ создал песню с дипфейк-голосами Дрейка и The Weeknd. За выходные трек Heart on My Sleeve набрал более 10 млн просмотров в TikTok и 250 000 прослушиваний на Spotify.

По словам автора, он написал и спродюсировал песню, а затем заменил свой голос на вокал исполнителей.

🗣 Дрейк и The Weeknd пока не отреагировали на дипфейк. В Universal Music Group подтвердили, что трек является несанкционированным произведением, вероятно созданным ИИ, и выразили недовольство работой Ghostwriter.

#дипфейк #искусство

💰 Мошенник заработал почти $10 000 на продаже сгенерированных ИИ треков с дипфейк-голосом Фрэнка Оушена.

Discord-пользователь mourningassasin нанял музыканта для создания «около девяти» поддельных песен. Он обучил ИИ на «очень качественных вокальных фрагментах» из трека Оушена Thinkin Bout You.

🎧 Затем mourningassasin разместил отрывок одной из фальшивых композиций на музыкальном форуме с «просочившимися» произведениями. Он «мгновенно заметил, что все поверили» в оригинальность песни.

По словам мошенника, ему написали несколько человек и предложили заплатить за треки «большие деньги». Сообщается, что в середине-конце апреля 2023 года mourningassasin получал $3000—4000 за каждую песню.

🗣 Позже его забанили на форуме. Владелец Discord-сервера, где мошенник распространял дипфейк-композиции Оушена, заявил, что ситуация серьезно подорвала доверие к сообществу. Это также вызовет подозрения к каждому новому и непроверенному продавцу музыки, добавил он.

#музыка #дипфейк

🔞 Кандидат в президенты Турции Мухаррем Индже отказался от участия в выборах из-за публикации якобы дипфейкового секс-видео.

По его словам, в ролике использовались кадры, взятые с «израильского порносайта». Индже добавил, что не имеет подобных изображений или звукозаписей, а опубликованное секс-видео — клевета.

Это второй связанный с дипфейками случай, произошедший в первом избирательном туре.

🤝 Ранее текущий президент Турции Реджеп Тайип Эрдоган показал предположительно поддельное 14-секундное видео. На нем объявленные вне закона курдские боевики якобы поддерживают его соперника Кемаля Кылычдароглу на предвыборном митинге 7 мая 2023 года.

#Турция #дипфейк

💥 Десятки проверенных профилей в Twitter с большим количеством подписчиков распространили фейк о взрыве возле Пентагона, опубликовав сгенерированное изображение.

Аккаунты вроде WarMonitors, BloombergFeed и RT опубликовали фотографию с большим облаком дыма, поднимающегося рядом с правительственным зданием. Текстовое сопровождение к постам утверждало, что возле Пентагона произошел взрыв.

🙅‍♂️ Власти Арлингтона опровергли информацию из соцсети. Новость также повлияла на фондовые рынки.

https://forklog.com/news/ai/v-twitter-rasprostranilsya-dipfejk-so-vzryvom-u-pentagona

#дипфейк

🗣 Дипфейки, используемые мошенниками для обхода проверки KYC на криптобиржах, становятся все более продвинутыми. Об этом предупредил CSO Binance Джимми Су.

По его словам, наблюдается рост числа злоумышленников, применяющих технологию. Продвинутые инструменты уже сейчас могут правильно реагировать на звуковые инструкции, предназначенные для верификации клиента в режиме реального времени, добавил Су.

☝️ Топ-менеджер уверен, что на текущем этапе развития технологий мошенники не смогут обмануть человека-оператора. Однако вскоре это может измениться.

https://forklog.com/news/ai/v-binance-predupredili-ob-ugroze-dipfejkov

#Binance #дипфейк

🗣 Дипфейки, используемые мошенниками для обхода проверки KYC на криптобиржах, становятся все более продвинутыми. Об этом предупредил CSO Binance Джимми Су.

По его словам, наблюдается рост числа злоумышленников, применяющих технологию. Продвинутые инструменты уже сейчас могут правильно реагировать на звуковые инструкции, предназначенные для верификации клиента в режиме реального времени, добавил Су.

☝️ Топ-менеджер уверен, что на текущем этапе развития технологий мошенники не смогут обмануть человека-оператора. Однако вскоре это может измениться.

https://forklog.com/news/ai/v-binance-predupredili-ob-ugroze-dipfejkov

#Binance #дипфейк

🗣 Созданные искусственным интеллектом дипфейки угрожают целостности информации и приводят к разжиганию ненависти в обществе. Об этом говорится в отчете ООН.

По мнению организации, технологии искусственного интеллекта обладают «невообразимым потенциалом для решения глобальных проблем». Однако она обеспокоена рисками, которые несут генераторы изображений и видео, особенно в зонах конфликтов.

https://forklog.com/news/ai/oon-obespokoilas-rolyu-dipfejkov-v-razzhiganii-nenavisti

#дипфейк #ООН