❌ ElevenLabs сообщила о приостановке тестирования ИИ-сервиса клонирования голоса из-за «растущего числа случаев злоупотреблений».
Пользователи 4chan использовали продукт с целью создания дипфейков знаменитостей для распространения расистских и гомофобных высказываний. В одном из клипов голос, имитирующий актрису Эмму Уотсон, читает отрывок из «Майн кампф». В другом дипфейк политического комментатора Бена Шарпио делает расистские замечания в адрес конгрессвумен Александрии Окасио-Кортес.
☝️ Вскоре после распространения клипов в ElevenLabs признали проблему. Представители компании заявили, что изучают дополнительные меры безопасности для предотвращения злоупотреблений в будущем.
https://forklog.com/news/ai/startap-obvinili-v-rasprostranenii-rasistskih-audiodipfejkov
#дипфейк #NLP
Пользователи 4chan использовали продукт с целью создания дипфейков знаменитостей для распространения расистских и гомофобных высказываний. В одном из клипов голос, имитирующий актрису Эмму Уотсон, читает отрывок из «Майн кампф». В другом дипфейк политического комментатора Бена Шарпио делает расистские замечания в адрес конгрессвумен Александрии Окасио-Кортес.
☝️ Вскоре после распространения клипов в ElevenLabs признали проблему. Представители компании заявили, что изучают дополнительные меры безопасности для предотвращения злоупотреблений в будущем.
https://forklog.com/news/ai/startap-obvinili-v-rasprostranenii-rasistskih-audiodipfejkov
#дипфейк #NLP
ForkLog
Стартап обвинили в распространении расистских аудиодипфейков
Компания ElevenLabs сообщила о приостановке бета-тестирования ИИ-сервиса клонирования голоса из-за «растущего числа случаев злоупотреблений».
👥 Miramax задействует искусственный интеллект для омоложения Тома Хэнкса и Робин Райт в будущем фильме «Здесь».
Кинокомпания использует дипфейк-технологию Metaphysic. По данным разработчика, ИИ позволит «гиперреально изменить лица звезд и омолодить их» в режиме реального времени со скоростью 30 кадров в секунду.
🪞 Руководитель команды визуальных эффектов фильма Кевин Бэйли заявил, что актеры смогут использовать технологию как «зеркало молодости» и увидеть себя в финальной версии. Отснятый материал не потребует дополнительной обработки, добавили в Metaphysic.
#дипфейк #искусство
Кинокомпания использует дипфейк-технологию Metaphysic. По данным разработчика, ИИ позволит «гиперреально изменить лица звезд и омолодить их» в режиме реального времени со скоростью 30 кадров в секунду.
🪞 Руководитель команды визуальных эффектов фильма Кевин Бэйли заявил, что актеры смогут использовать технологию как «зеркало молодости» и увидеть себя в финальной версии. Отснятый материал не потребует дополнительной обработки, добавили в Metaphysic.
#дипфейк #искусство
🇨🇳 Исследование: Коммунистическая партия Китая использовала дипфейковых телеведущих для продвижения своих интересов.
Согласно отчету американской компании Graphika, в рамках государственной операции созданные с помощью ИИ репортеры фейкового новостного агентства Wolf News продвигали в социальных сетях вводящий в заблуждение политический контент.
Например, дипфейк-телеведущий Алекс раскритиковал бездействие США в отношении насилия с применением огнестрельного оружия, заполонившего страну. Другая фальшивая репортерша указала на важность «сотрудничества великих держав» — Китая и США.
⚙️ По словам экспертов, оба ведущих Wolf News «почти наверняка» были созданы с помощью ИИ-технологий лондонского стартапа Synthesia.
#Китай #дипфейк
Согласно отчету американской компании Graphika, в рамках государственной операции созданные с помощью ИИ репортеры фейкового новостного агентства Wolf News продвигали в социальных сетях вводящий в заблуждение политический контент.
Например, дипфейк-телеведущий Алекс раскритиковал бездействие США в отношении насилия с применением огнестрельного оружия, заполонившего страну. Другая фальшивая репортерша указала на важность «сотрудничества великих держав» — Китая и США.
⚙️ По словам экспертов, оба ведущих Wolf News «почти наверняка» были созданы с помощью ИИ-технологий лондонского стартапа Synthesia.
#Китай #дипфейк
🐈 Universal Music Publishing Group (UMPG) подала жалобу на ролик с ИИ-песней о котах, зачитанной синтезированным голосом рэпера Эминема, за нарушение авторских прав.
Ютубер Grandayy создал трек с помощью ChatGPT. Чат-бот написал текст, содержащий фразы «кошки, кошки, кошки, они всегда на охоте», «коты — короли дома, они правят с мурлыканьем» и «мяу, мяу, мяу».
🤔 В жалобе UMPG заявила, что использование ИИ-голоса Эминема в видео нарушает ее авторские права. YouTube выдал автору предупреждение и удалил клип. Однако фрагменты трека можно найти в других роликах на платформе.
Для создателей контента получение трех предупреждений о нарушении авторских прав означает блокировку канала, удаление всех видео и запрет на публикацию нового контента.
🗣 Grandayy заявил, что его ролики — просто забавные пародии, которые не вредят оригинальному искусству, а скорее приносят пользу. Поэтому «грустно видеть», когда
звукозаписывающая компания удаляет такие видео, добавил ютубер.
Также, по его словам, блокировка является знаком того, что создание видео-пародий с помощью ИИ стало рискованным.
#дипфейк
Ютубер Grandayy создал трек с помощью ChatGPT. Чат-бот написал текст, содержащий фразы «кошки, кошки, кошки, они всегда на охоте», «коты — короли дома, они правят с мурлыканьем» и «мяу, мяу, мяу».
🤔 В жалобе UMPG заявила, что использование ИИ-голоса Эминема в видео нарушает ее авторские права. YouTube выдал автору предупреждение и удалил клип. Однако фрагменты трека можно найти в других роликах на платформе.
Для создателей контента получение трех предупреждений о нарушении авторских прав означает блокировку канала, удаление всех видео и запрет на публикацию нового контента.
🗣 Grandayy заявил, что его ролики — просто забавные пародии, которые не вредят оригинальному искусству, а скорее приносят пользу. Поэтому «грустно видеть», когда
звукозаписывающая компания удаляет такие видео, добавил ютубер.
Также, по его словам, блокировка является знаком того, что создание видео-пародий с помощью ИИ стало рискованным.
#дипфейк
YouTube
Artificial Intelligence: Last Week Tonight with John Oliver (HBO)
Artificial intelligence is increasingly becoming part of our lives, from self-driving cars to ChatGPT. John Oliver discusses how AI works, where it might be heading next, and, of course, why it hates the bus.
Connect with Last Week Tonight online...
Subscribe…
Connect with Last Week Tonight online...
Subscribe…
This media is not supported in your browser
VIEW IN TELEGRAM
🎧 Тиктокер Ghostwriter с помощью ИИ создал песню с дипфейк-голосами Дрейка и The Weeknd. За выходные трек Heart on My Sleeve набрал более 10 млн просмотров в TikTok и 250 000 прослушиваний на Spotify.
По словам автора, он написал и спродюсировал песню, а затем заменил свой голос на вокал исполнителей.
🗣 Дрейк и The Weeknd пока не отреагировали на дипфейк. В Universal Music Group подтвердили, что трек является несанкционированным произведением, вероятно созданным ИИ, и выразили недовольство работой Ghostwriter.
#дипфейк #искусство
По словам автора, он написал и спродюсировал песню, а затем заменил свой голос на вокал исполнителей.
🗣 Дрейк и The Weeknd пока не отреагировали на дипфейк. В Universal Music Group подтвердили, что трек является несанкционированным произведением, вероятно созданным ИИ, и выразили недовольство работой Ghostwriter.
#дипфейк #искусство
💰 Мошенник заработал почти $10 000 на продаже сгенерированных ИИ треков с дипфейк-голосом Фрэнка Оушена.
Discord-пользователь mourningassasin нанял музыканта для создания «около девяти» поддельных песен. Он обучил ИИ на «очень качественных вокальных фрагментах» из трека Оушена Thinkin Bout You.
🎧 Затем mourningassasin разместил отрывок одной из фальшивых композиций на музыкальном форуме с «просочившимися» произведениями. Он «мгновенно заметил, что все поверили» в оригинальность песни.
По словам мошенника, ему написали несколько человек и предложили заплатить за треки «большие деньги». Сообщается, что в середине-конце апреля 2023 года mourningassasin получал $3000—4000 за каждую песню.
🗣 Позже его забанили на форуме. Владелец Discord-сервера, где мошенник распространял дипфейк-композиции Оушена, заявил, что ситуация серьезно подорвала доверие к сообществу. Это также вызовет подозрения к каждому новому и непроверенному продавцу музыки, добавил он.
#музыка #дипфейк
Discord-пользователь mourningassasin нанял музыканта для создания «около девяти» поддельных песен. Он обучил ИИ на «очень качественных вокальных фрагментах» из трека Оушена Thinkin Bout You.
🎧 Затем mourningassasin разместил отрывок одной из фальшивых композиций на музыкальном форуме с «просочившимися» произведениями. Он «мгновенно заметил, что все поверили» в оригинальность песни.
По словам мошенника, ему написали несколько человек и предложили заплатить за треки «большие деньги». Сообщается, что в середине-конце апреля 2023 года mourningassasin получал $3000—4000 за каждую песню.
🗣 Позже его забанили на форуме. Владелец Discord-сервера, где мошенник распространял дипфейк-композиции Оушена, заявил, что ситуация серьезно подорвала доверие к сообществу. Это также вызовет подозрения к каждому новому и непроверенному продавцу музыки, добавил он.
#музыка #дипфейк
🔞 Кандидат в президенты Турции Мухаррем Индже отказался от участия в выборах из-за публикации якобы дипфейкового секс-видео.
По его словам, в ролике использовались кадры, взятые с «израильского порносайта». Индже добавил, что не имеет подобных изображений или звукозаписей, а опубликованное секс-видео — клевета.
Это второй связанный с дипфейками случай, произошедший в первом избирательном туре.
🤝 Ранее текущий президент Турции Реджеп Тайип Эрдоган показал предположительно поддельное 14-секундное видео. На нем объявленные вне закона курдские боевики якобы поддерживают его соперника Кемаля Кылычдароглу на предвыборном митинге 7 мая 2023 года.
#Турция #дипфейк
По его словам, в ролике использовались кадры, взятые с «израильского порносайта». Индже добавил, что не имеет подобных изображений или звукозаписей, а опубликованное секс-видео — клевета.
Это второй связанный с дипфейками случай, произошедший в первом избирательном туре.
🤝 Ранее текущий президент Турции Реджеп Тайип Эрдоган показал предположительно поддельное 14-секундное видео. На нем объявленные вне закона курдские боевики якобы поддерживают его соперника Кемаля Кылычдароглу на предвыборном митинге 7 мая 2023 года.
#Турция #дипфейк
💥 Десятки проверенных профилей в Twitter с большим количеством подписчиков распространили фейк о взрыве возле Пентагона, опубликовав сгенерированное изображение.
Аккаунты вроде WarMonitors, BloombergFeed и RT опубликовали фотографию с большим облаком дыма, поднимающегося рядом с правительственным зданием. Текстовое сопровождение к постам утверждало, что возле Пентагона произошел взрыв.
🙅♂️ Власти Арлингтона опровергли информацию из соцсети. Новость также повлияла на фондовые рынки.
https://forklog.com/news/ai/v-twitter-rasprostranilsya-dipfejk-so-vzryvom-u-pentagona
#дипфейк
Аккаунты вроде WarMonitors, BloombergFeed и RT опубликовали фотографию с большим облаком дыма, поднимающегося рядом с правительственным зданием. Текстовое сопровождение к постам утверждало, что возле Пентагона произошел взрыв.
🙅♂️ Власти Арлингтона опровергли информацию из соцсети. Новость также повлияла на фондовые рынки.
https://forklog.com/news/ai/v-twitter-rasprostranilsya-dipfejk-so-vzryvom-u-pentagona
#дипфейк
ForkLog
В Twitter распространился дипфейк со взрывом у Пентагона
Десятки проверенных аккаунтов в Twitter с большим количеством подписчиков распространили фейк о взрыве возле Пентагона, опубликовав сгенерированное изображение.
🗣 Дипфейки, используемые мошенниками для обхода проверки KYC на криптобиржах, становятся все более продвинутыми. Об этом предупредил CSO Binance Джимми Су.
По его словам, наблюдается рост числа злоумышленников, применяющих технологию. Продвинутые инструменты уже сейчас могут правильно реагировать на звуковые инструкции, предназначенные для верификации клиента в режиме реального времени, добавил Су.
☝️ Топ-менеджер уверен, что на текущем этапе развития технологий мошенники не смогут обмануть человека-оператора. Однако вскоре это может измениться.
https://forklog.com/news/ai/v-binance-predupredili-ob-ugroze-dipfejkov
#Binance #дипфейк
По его словам, наблюдается рост числа злоумышленников, применяющих технологию. Продвинутые инструменты уже сейчас могут правильно реагировать на звуковые инструкции, предназначенные для верификации клиента в режиме реального времени, добавил Су.
☝️ Топ-менеджер уверен, что на текущем этапе развития технологий мошенники не смогут обмануть человека-оператора. Однако вскоре это может измениться.
https://forklog.com/news/ai/v-binance-predupredili-ob-ugroze-dipfejkov
#Binance #дипфейк
ForkLog
В Binance предупредили об угрозе дипфейков
Дипфейки, используемые мошенниками для обхода проверки KYC на криптобиржах, становятся все более продвинутыми. Об этом предупредил CSO Binance Джимми Су.
🗣 Дипфейки, используемые мошенниками для обхода проверки KYC на криптобиржах, становятся все более продвинутыми. Об этом предупредил CSO Binance Джимми Су.
По его словам, наблюдается рост числа злоумышленников, применяющих технологию. Продвинутые инструменты уже сейчас могут правильно реагировать на звуковые инструкции, предназначенные для верификации клиента в режиме реального времени, добавил Су.
☝️ Топ-менеджер уверен, что на текущем этапе развития технологий мошенники не смогут обмануть человека-оператора. Однако вскоре это может измениться.
https://forklog.com/news/ai/v-binance-predupredili-ob-ugroze-dipfejkov
#Binance #дипфейк
По его словам, наблюдается рост числа злоумышленников, применяющих технологию. Продвинутые инструменты уже сейчас могут правильно реагировать на звуковые инструкции, предназначенные для верификации клиента в режиме реального времени, добавил Су.
☝️ Топ-менеджер уверен, что на текущем этапе развития технологий мошенники не смогут обмануть человека-оператора. Однако вскоре это может измениться.
https://forklog.com/news/ai/v-binance-predupredili-ob-ugroze-dipfejkov
#Binance #дипфейк
ForkLog
В Binance предупредили об угрозе дипфейков
Дипфейки, используемые мошенниками для обхода проверки KYC на криптобиржах, становятся все более продвинутыми. Об этом предупредил CSO Binance Джимми Су.
🗣 Созданные искусственным интеллектом дипфейки угрожают целостности информации и приводят к разжиганию ненависти в обществе. Об этом говорится в отчете ООН.
По мнению организации, технологии искусственного интеллекта обладают «невообразимым потенциалом для решения глобальных проблем». Однако она обеспокоена рисками, которые несут генераторы изображений и видео, особенно в зонах конфликтов.
https://forklog.com/news/ai/oon-obespokoilas-rolyu-dipfejkov-v-razzhiganii-nenavisti
#дипфейк #ООН
По мнению организации, технологии искусственного интеллекта обладают «невообразимым потенциалом для решения глобальных проблем». Однако она обеспокоена рисками, которые несут генераторы изображений и видео, особенно в зонах конфликтов.
https://forklog.com/news/ai/oon-obespokoilas-rolyu-dipfejkov-v-razzhiganii-nenavisti
#дипфейк #ООН
ForkLog
ООН обеспокоилась ролью дипфейков в разжигании ненависти
Созданные искусственным интеллектом дипфейки угрожают целостности информации и приводят к разжиганию ненависти в обществе. Об этом говорится в отчете ООН.