☎️ Мошенники стали чаще применять технологии имитации голоса на базе искусственного интеллекта для шантажа родственников жертв.

Эксперты предупредили, что правоохранительная система не способна предотвратить наплыв ИИ-технологий клонирования речи. По их словам, сегодня уже доступны инструменты, позволяющие воссоздать голос по 30-секундному аудиофайлу.

😔 В FTC признали проблему. В 2022 году ведомство зафиксировало более 5100 случаев вымогательств по телефону.

https://forklog.com/news/ai/aferisty-vooruzhilis-ii-dlya-imitatsii-golosov-rodstvennikov-svoih-zhertv

#дипфейки #NLP

🔧 Twitch ужесточил политику в отношении демонстрации и распространения дипфейк-наготы. Изменения вступят в силу в течение месяца.

Платформа запретила мимолетный показ синтетических подделок, а также в целях критики их существования. Преднамеренное распространение созданных без согласия дипфейков может привести к временной блокировке аккаунта.

👀 Обновление политики произошло после скандала, когда известный стример Atrioc ненадолго показал вкладку браузера с веб-сайтом, продающим доступ к дипфейкам блогерш Twitch.

#Twitch #дипфейки

❌ TikTok запретил размещение дипфейков без соответствующей отметки.

Согласно обновленным правилам сервиса, авторы такого контента должны указывать, что ролик создан или отредактирован с помощью ИИ-инструментов — в виде водяного знака поверх видео или в описании. Посты без отметок будут банить.

Кроме этого, модераторы могут удалять видео, в которых используется реалистичный синтетический голос как известных людей, так и непубличных.

🙅‍♂️ Также платформа запретила политические и рекламные ИИ-подделки. Однако модераторы не будут удалять художественные или образовательные дипфейки со знаменитостями.

#TikTok #дипфейки

📰 Немецкий таблоид Die Aktuelle опубликовал «интервью» с Михаэлем Шумахером, сгенерированное искусственным интеллектом. Семья гонщика планирует подать в суд на журнал.

На обложке выпуска Die Aktuelle от 15 апреля редакторы разместили фотографию улыбающегося Шумахера с заголовком: «Михаэль Шумахер. Первое интервью!». Однако ниже они разместили подпись: «звучит обманчиво реально».

💬 «Интервью» содержит несколько цитат, якобы принадлежащие гонщику. Однако в конце концов выяснилось, что их сгенерировал ИИ.

https://forklog.com/news/ai/semya-shumahera-podast-v-sud-na-tabloid-za-ii-intervyu

#дипфейки

📰 Главную редакторку таблоида Die Aktuelle Энн Хоффманн уволили за публикацию фейкового «интервью» с Михаэлем Шумахером, сгенерированного ИИ.

По словам пресс-службы издательства Funke Mediengruppe, эта «безвкусная и вводящая в заблуждение статья» не должна была появится в журнале. Владельцы таблоида подчеркнули, что публикация не соответствует стандартам журналистики.

#дипфейки

🤖 Канадская служба разведки и безопасности (CSIS) выразила обеспокоенность по поводу кампаний по дезинформации, проводимых в интернете с использованием дипфейков.

Власти рассматривают «растущий реализм» ложного контента в сочетании с «неспособностью распознать или обнаружить» его как потенциальную угрозу для жителей страны.

https://forklog.com/?p=220339

#Канада #дипфейки

👤 Голливудское агентство по поиску талантов WME объявило о партнерстве с ИИ-проектом Vermillio для защиты знаменитостей от использования их личности в дипфейках.

Vermillio создал платформу Trace ID, отслеживающую фейковые изображения селебрити с помощью искусственного интеллекта. Технология позволяет внедрить «цифровой трекер» с идентификационными данными клиентов WME, с помощью которого можно определять подлинность изображений в сети.

https://forklog.com/?p=225068

#дипфейки #WME

👤 В сети распространились дипфейки австралийского магната Эндрю «Twiggy» Форреста, продвигающие мошенническую платформу для торговли криптовалютой.

Запись пытается пародировать поведение бизнесмена с его реального выступления у Rhodes Trust в октябре 2023 года. Обнаружившие его аналитики Cybertrace назвали видео «убедительным» и считают, что мошенники, вероятно, обучены продажам.

https://forklog.com/?p=225252

#дипфейки

⚖️ В ЕС рассматривают возможность введения уголовной ответственности за создание ИИ-изображений и дипфейков, демонстрирующих сексуальное насилие над детьми.

https://forklog.com/?p=225544

#ЕС #регулирование #дипфейки

🤖 Соучредитель Ethereum Виталик Бутерин написал статью о растущей проблеме дипфейков и разобрал возможные способы их выявления.

В качестве более надежной альтернативы криптографии разработчик предложил использовать в коммуникациях контрольные вопросы, которые должны касаться неких событий из реальной жизни.

Среди других — кодовые слова, ключи принуждения, номера безопасности из Signal или смайлики Telegram, а также прочие методы.

Подробнее: https://forklog.com/?p=225854

#дипфейки #Бутерин

🔈 В США учителя физкультуры обвинили в использовании голосового дипфейка, чтобы подставить своего начальника и добиться его увольнения.

На записи якобы слышны расистские и антисемитские высказывания директора старшей школы Пайксвилля Эрика Эйсверта. Однако независимые эксперты установили, что аудио было сфабриковано, поскольку имеет «ровный тон, необычно чистый фон, отсутствие последовательных звуков дыхания или пауз».

⚙️ По данным местных СМИ, запись подделал бывший спортивный директор школы Дажон Дарьен, чье имя упоминалось в клипе. Однако неизвестно, какой инструмент он для этого использовал.

Полиция арестовала учителя физкультуры в аэропорту. По версии следствия, его мотивом была месть Эйсверту, который расследовал возможное неправомерное использование школьных средств Дарьеном.

#дипфейки

🗣 Миллиардер и инвестор Уоррен Баффет сравнил влияние технологий искусственного интеллекта на незаконную финансовую деятельность с появлением атомной бомбы и распространением ядерного оружия.

«У ИИ есть огромный потенциал добра и огромный потенциал вреда — и я просто не понимаю, чем это закончится. […] Мы выпустили джинна из бутылки, когда разработали ядерное оружие, и этот джинн в последнее время творит ужасные вещи. Искусственный интеллект чем-то похож», — добавил Баффет.

Миллиардер осознал угрозу, когда увидел в сети собственный дипфейк. Он указал на способность технологии воспроизводить реалистичный и вводящий в заблуждение контент в злонамеренных целях.

https://forklog.com/?p=232198

#дипфейки

После урагана «Хелен» волна дезинформации, созданной искусственным интеллектом и людьми, захлестнула социальные сети. Она порождает страхи касательно надвигающегося урагана «Милтон».

Подробнее: https://forklog.com/?p=242815

#Дипфейки