Take It Down Act и первые аресты за AI-дипфейки в США

В США заработал на полную мощность федеральный закон TAKE IT DOWN Act (принят в 2025 году, жесткие правила для платформ вступили в силу только сейчас, в мае 2026-го).
Закон защищает людей от публикации любого неконсенсуального интимного контента (NCII), как реальных утекших фото/видео ("месть бывших"), так и полностью сгенерированных ИИ-дипфейков.

👀 С 19 мая 2026 года Федеральная торговая комиссия США (FTC) может официально штрафовать интернет-платформы (сайты, соц.сети, игровые платформы, мессенджеры), которые не удаляют интимный контент (интимные изображения, контент, созданный через приложения или генеративные модели, дипфейки) по первому требованию.

Требования по Take It Down Act:
🔹 Каждая платформа обязана иметь простую и заметную форму для отправки жалоб пострадавшими.
🔹 После получения валидного запроса от жертвы у платформы есть ровно 48 часов, чтобы полностью удалить изображение или видео, а также все его идентичные копии.
🔹Обеспечивать пользователям возможность легко отслеживать статус своих запросов на удаление, присваивать идентификационный номер каждому полученному запросу, чтобы отправитель запроса, платформа и правоохранительные органы могли убедиться, что речь идет об одном и том же изображении и запросе. Процесс TIDA должен быть разработан таким образом, чтобы пользователи знали, что контент, на который поступила жалоба, был удален, или, если нет, то почему.
🔹Помогать предотвращать дальнейшее распространение интимных изображений, распространенных без согласия. Например, использовать хеширование, чтобы предотвратить повторное появление удаленного с платформы интимного контента. Предлагается, делиться своими хешами со службой Take It Down Национального центра по розыску пропавших и подвергшихся эксплуатации детей , если изображения или видео содержат несовершеннолетних, и с StopNCII.org , если изображения или видео содержат лиц старше 18 лет. Таким образом, другие платформы смогут предотвратить появление аналогичного контента на своих платформах.
🔹За каждый факт игнорирования или затягивания сроков FTC будет выписывать штраф в размере $53 088 за каждое нарушение.

Чтобы упростить борьбу, FTC запустила официальный портал TakeItDown.ftc.gov, где пострадавшие могут не просто подать жалобу, но и зафиксировать платформы-нарушители, которые отказываются оперативно удалять фейки, чтобы натравить на них регуляторов.

🔴Первые кейсы появились сразу.

Арестованы и предъявлены обвинения двум лицам (Корнелиус Шэннон и Артуро Эрнандес) за:
▪️создание ИИ-сгенерированных интимных изображений,
▪️распространение их через онлайн-платформы (тысячи изображений и сотни альбомов, собравших миллионы просмотров),
▪️использование изображений как публичных фигур, так и частных лиц.
Им грозит до двух лет тюрьмы.

❕Ответственность за дипфейки теперь будет двойной, уголовная ответственность для создателей и огромные штрафы для платформ, которые закрывают на это глаза.

📌 🔹 Complying With the Take It Down Act/ FTC Guidance,
🔹 FTC Alert for Consumers.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Штрафы за ИИ-дипфейки до €35 млн. в Испании

В продолжение темы жесткого закручивания гаек насчет генерации неконсенсуального сексуального контента (см. пост про США). В начале мая на уровне Евросоюза было достигнуто соглашение про полный запрет таких систем ИИ, поводом к такому единодушию послужил скандал с Grok (все серии здесь).
Испания же вчера (26 мая 2026 года) пошла дальше. Совет министров Испании официально одобрил и направил в парламент проект Organic Law on AI Governance.

👀 Проект закона вводит:
▪️Запрет на создание и распространение сексуализированного синтетического контента без согласия,
▪️ Усиленный режим защиты детей,
▪️ Обязательную маркировку ИИ-контента (явное обозначение контента, как созданного или изменённого с помощью ИИ).
И это распространяется не только на медиа-платформы, но и на и на любой контент ( маркетинговые материалы и бренд-активы (рекламные баннеры, креативы), коммуникация с клиентами (персонализированные ИИ-рассылки, аватары поддержки), обучающие и внутренние материалы для сотрудников, использование любых ИИ-инструментов для улучшения фото и видео ), хотя это противоречит с EU AI Act и скорее всего скорректируют.
Испанцы заимствуют логику наложения штрафов из GDPR и EU AI Act, а это от €35 млн. до 7% глобального годового оборота компании.

❕Фактически речь идёт о необходимости вести учёт любых бизнес-процессов, где используется генеративный ИИ, чего сейчас нет у большинства компаний.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Штат Огайо ужесточает правила для ИИ-контента

Закончим эту неделю постов про законодательные инициативы с запретами в сфере ИИ законопроектом SB 163 из штата Огайо (США), который прошел Сенат.

👀Ключевые положения:
🔹 запрещается создание и распространение сгенерированных ИИ материалов сексуального насилия над детьми. Причём закон прямо распространяет существующие нормы о детской порнографии и на полностью синтетический контент.
🔹 отдельным нарушением становится использование цифровой копии человека для мошенничества и подделки личности.
🔹 требует маркировать контент, созданный с помощью ИИ.

Но это не единственная инициатива Огайо в сфере ИИ. Параллельно власти обсуждают:
▪️ HB 524, который содержит запрет моделей ИИ, поощряющих самоповреждение, насилие или опасное поведение;
▪️ SB 164 , который ограничивает использование ИИ в медицинском страховании и автоматизированных решениях по страховым выплатам;
▪️ HB 665, запрещающий алгоритмы, собирающие конфиденциальную информацию о конкурентах, такую ​​как будущие цены, суммы арендной платы, списки клиентов, внутренние бизнес-планы и тп., чтобы "защитить потребителей, работников и предприятия Огайо от растущего пробела в антимонопольном законодательстве штата. Например, алгоритмы ценообразования могут увеличивать стоимость аренды в среднем на 70 долларов в месяц в зданиях, где используются такие алгоритмы."
▪️ обязательные политики использования ИИ для школ и образовательных учреждений штата.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ-плагин для Slack и Teams и риск мониторинга эмоций работников

А теперь, как отнесение к категории запрещенных или высокорисковых по AI Act, может повлиять на ваш стартап.

Итальянский регулятор по защите данных (Garante) выпустил предупреждение для стартапа, который разработал ИИ-плагин для Slack и Teams.

👀 Сервис анализирует рабочие переписки сотрудников с помощью языковых моделей и семантического анализа, чтобы определять:
▪️ эмоциональное состояние,
▪️ уровень стресса,
▪️ и психологическое состояние работников,
которые добровольно подключались к системе для получения “персональных рекомендаций”.

С одной стороны, работодатель не видит сами сообщения сотрудников и не получает индивидуальные результаты анализа, НО регулятор увидел риски доступа работодателя к эмоциональному состоянию сотрудников даже через сводные отчеты и призвал компанию принять с самого этапа проектирования сервиса адекватные меры для предотвращения любого риска доступа, даже косвенного, к информации, касающейся эмоционального благополучия работников.

Такая информация не может быть законно получена или обработана работодателями в соответствии с:
▪️ GDPR,
▪️ AI Act,
▪️ трудовым законодательством.

Кроме этого, Garante прямо указал на риски самих языковых моделей и семантического анализа:
▪️ непрозрачность выводов,
▪️ невозможность проверить корректность результатов,
▪️ потенциальную дискриминацию работников,
▪️ и вмешательство в их права и частную жизнь.

❕Когда тестируете удобные HR-инструменты, смотрите, чтобы они не оказались для вашего бизнеса токсичными.

📌
🔹Использование ИИ в сфере подбора персонала (ЕС);
🔹ИИ для встреч (записи, саммари, заметки и черновики документов), а что с GDPR? ;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Когда ребёнок считает ИИ своим другом, а ИИ забывает, что перед ним ребёнок

Сегодня День защиты детей, и это хороший повод, чтобы посмотреть последние исследования по будущему детского ИИ.

1️⃣Учёные наблюдали за тем, как дети 6–11 лет взаимодействуют с ИИ-игрушками.
Дети быстро начинали воспринимать их не как устройства, а как социальных существ. Они спрашивали игрушки об их друзьях, интересах и чувствах, пытались понять их характер и место в своём социальном мире. Дети буквально «профилировали» игрушки как живых собеседников.
При этом ИИ-игрушки обладают тем, чего не было у традиционных игрушек, т.е. могут помнить предыдущие разговоры, персонализировать ответы и имитировать эмоции. Всё это создаёт ощущение продолжающихся отношений. Когда игрушки ошибались, не понимали команды или неожиданно забывали предыдущий разговор, дети испытывали разочарование. Многие начинали спорить с игрушками, проверять их возможности или намеренно пытаться их сломать.
Кроме этого,ИИ-игрушки практически всегда дружелюбные и поддерживающие, и в результате ребёнок редко сталкивается с естественными социальными границами, отказами или негативной обратной связью, которые являются нормальной частью общения между людьми.

📝Авторы предложили несколько принципов безопасного дизайна:
▪️не превращать удержание внимания ребёнка в основную метрику успеха;
▪️ позволять ребёнку легко завершить разговор и переключиться на другие занятия;
▪️ поддерживать собственное воображение ребёнка, а не навязывать готовые сценарии игры;
▪️ честно сообщать об ограничениях системы вместо создания иллюзии всезнания;
▪️ осторожно использовать функции памяти и эмоциональной привязанности;
▪️ избегать бизнес-моделей, в которых отношения с ИИ становятся инструментом для продажи подписок или дополнительных функций.

2️⃣ Во втором исследовании учёные создали специальный набор тестов KIDBench для оценки безопасности больших языковых моделей для детей 7–11 лет.

▪️Если модель понимает, что перед ней ребёнок, качество ответов заметно улучшается. Простые намёки на детский возраст повышали показатели безопасности на 9–47%, а явное указание возраста давало дополнительное улучшение ещё на 10–30%.
▪️По мере продолжения разговора качество детско-ориентированных ответов снижалось. В отдельных сценариях падение составляло от 6% до 24% по сравнению с началом беседы. Иными словами, ребёнок может всё сильнее доверять ИИ по мере развития отношений, а сама система со временем всё хуже учитывать возраст и особенности собеседника.
▪️Значительные различия между языками и культурными контекстами. Модель, которая демонстрирует безопасное поведение в одной стране или на одном языке, может показывать совсем другие результаты в другом контексте.

❕Поэтому уже вопрос даже не в том, что ребёнок может спросить у ИИ, а насколько этично проектировать системы, которые ребёнок начинает считать своим другом, если они ещё не способны стабильно вести себя как безопасный собеседник для детей.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

🔍 #UXWatch
 
🔹Когда дети начинают доверять ИИ больше, чем людям, что могут сделать разработчики?
🔹Как компании используют потенциал ИИ;
🔹Онлайн- и игровые методы оценки в процессе подбора и отбора персонала;
🔹YouTube тестирует новый инструмент против дипфейков;
🔹Почему с ИИ мы начинаем "путать реальность";
🔹С ИИ результат не всегда такой, каким кажется;
🔹Почему ИИ может мешать учиться, даже когда помогает;
🔹ИИ как “теневой координатор” и цифровое отражение человека;
🔹Механизм поддакивания у ИИ;
🔹Почему нельзя делегировать работу ИИ вслепую;
🔹ИИ как цифровой духовный посредник: религиозный опыт в модели подписки
🔹ИИ-певцы уже не мем, а новая музыкальная индустрия.

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator

😵‍💫 Pattern_AI Recap: обзор постов за март-май 2026

Подборка по ключевым рубрикам:

⚖️ #LawAndDisorder

🔹ИИ под контролем или проект российского закона;
🔹Регулирование ИИ во Вьетнаме;
🔹Япония ослабляет защиту персональных данных ради развития ИИ;
🔹Китай превращает этическую экспертизу ИИ в обязательную процедуру;
🔹Готовность Индии к внедрению ИИ;
🔹Стратегия Индии о внедрении ИИ в здравоохранение;
🔹Take It Down Act и первые аресты за AI-дипфейки в США;
🔹GUARD Act может изменить правила работы ИИ-чатботов в США на федеральном уровне;
🔹Штат Коннектикут принял законопроект об ИИ и готов ограничить использование чат-ботов несовершеннолетними;
🔹Требования прозрачности (Штат Коннектитут);
🔹Штат Огайо ужесточает правила для ИИ-контента;
🔹Штат Пенсильвания обвинил Character.AI в незаконной медицинской практике;
🔹Раннее обучение ChatGPT нарушало законы о приватности (Канада);
🔹Лидеры ЕС договорились внести поправки в AI Act;
🔹AI-агенты в ответах Еврокомиссии;
🔹Проект Еврокомиссии по классификации систем ИИ, представляющих высокий риск;
🔹Отчет Еврокомиссии о необходимости пересмотра списка запрещенных практик ИИ;
🔹Прецедент от Garante в борьбе с «галлюцинациями» ИИ;
🔹Штрафы за ИИ-дипфейки до €35 млн. в Испании;
🔹Великобритания решила отложить вопрос "про авторское право и ИИ"
🔹Музыканты защищают свои права, но уже не только через авторское право;
🔹Генерация “по фото” не является нарушением авторских прав;
 🔹Реклама "будущих функций ИИ" может обойтись очень дорого;
🔹Тейлор Свифт последовала примеру Макконахи в защите своей личности;
🔹Нац.политику по ИИ отозвали из-за ИИ (ЮАР) ;
 🔹Разбор условий договоров на предоставление услуг с Anthropic, Google, OpenAI, DeepSeek и т.п.;
🔹ИИ-переводчики и защита персональных данных;
🔹ИИ-плагин для Slack и Teams и риск мониторинга эмоций работников;
🔹Покупки в эпоху AI-агентов, кто будет контролировать транзакцию, пользователь или платформа?
🔹Grok и судебные иски в США;
🔹Дело X AI и прозрачность ИИ.
🔹Grok: решение из Нидерландов;
🔹Разработка приложений ИИ для детей, которые обеспечивают защиту конфиденциальности


🎙 #AIShelf
 
🔹AI Risk Management Toolkit из Сингапура;
🔹 eTools и ИИ или как ЕС пытается упростить регулирование на практике;
🔹The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence;
🔹Суверенитет ИИ невозможен? (Доклад);
🔹Глобальный обзор регулирования ИИ CAIDP Index 2026;
🔹Отчет "State of Code Developer Survey 2026" by Sonar;
🔹The Impact of Artificial Intelligence (AI) on Privacy (Бельгия);
🔹Гайды для педагогов по освоению ИИ;
🔹Руководство по аудиту систем ИИ в соответствии со стандартом ISO 42001 (автор Samir Abi Abdallah);
🔹China’s Artificial Intelligence Ecosystem |National Intelligence University;
🔹Каталог европейских альтернатив OpenAI, AWS и Google;
🔹Agents Skills Google

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator

Проверка чат-бот приложения для смартфона, что нашел регулятор

Бельгийский орган по защите данных рассказал о результатах проверки мобильного приложения с чат-ботом на базе больших языковых моделей. Название сервиса в пресс-релизе не раскрывается.

👀 На что обратили внимание инспекторы:

1️⃣ Сроки хранения переписки. История диалогов может содержать огромный объём персональных и чувствительных данных.
По мнению регулятора, многие компании устанавливают длительные сроки хранения "по умолчанию", не объясняя, зачем это действительно нужно.
Аргумент "нам может когда-нибудь понадобиться эта информация" уже давно не считается обоснованием.

2️⃣ Непрозрачность. Пользователи не понимают, как именно обрабатываются их разговоры внутри компании:
- сохраняются ли их диалоги;
- кто имеет к ним доступ (разберем в следующем посте);
- передаются ли они подрядчикам;
-используются ли для дообучения моделей.

Отдельно регулятор критикует расплывчатые политики конфиденциальности, которые не объясняют эти процессы простым языком.

3️⃣ Отсутствие ясности в распределении ролей.
В современных ИИ-сервисах обычно участвуют сразу несколько сторон:
- разработчик приложения;
- поставщик облачной инфраструктуры;
- поставщик языковой модели;
- сервисы аналитики и мониторинга.
Инспекторы отмечают, что компании часто сами не могут чётко определить, кто является контролером, совместным контролером или процессором данных.
В результате появляются пробелы в договорах, уведомлениях и процедурах реализации прав пользователей.

4️⃣ DPIA проводится слишком поздно.

По наблюдениям регулятора, команды сосредоточены на функциональности, пользовательском опыте и масштабировании продукта, а оценку воздействия на защиту данных проводят уже после запуска, а защита данных должна быть частью проектирования системы, а не дополнительным слоем после релиза.

✏️Ваш мини чек-лист для разговорных приложений с ИИ:
▪️ Можете ли вы обосновать каждый день хранения истории переписки?
▪️Поймёт ли обычный пользователь, что происходит с его сообщениями после отправки?
▪️ Есть ли у вас задокументированная карта ролей всех участников ИИ-экосистемы?
▪️ Была ли оценка воздействия на защиту данных проведена до запуска продукта?

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ

Исследователи из Университета Айовы проверили 20 популярных ИИ-чатботов и обнаружили неприятную тенденцию, многие сервисы передают данные переписки сторонним компаниям для аналитики, рекламы и мониторинга.

👀 Исследователи анализировали два типа утечек:

▪️ содержание общения (запросы пользователей, названия чатов, автоматически созданные на основе запросов, ссылки на диалоги, идентификаторы бесед).
▪️ сведения о пользователе (имя, адрес электронной почты, идентификаторы аккаунтов, файлы cookie, IP-адреса и технические параметры устройства).

Результаты:
▪️ 17 из 20 протестированных чат-ботов передавали информацию хотя бы одной сторонней организации.
▪️ 15 сервисов передавали ссылки на чаты или идентификаторы диалогов рекламным, аналитическим или социальным платформам.
▪️ В трёх случаях исследователи зафиксировали передачу фрагментов самих разговоров через инструменты записи пользовательских сессий. В передаваемых данных встречались части запросов и ответов чат-бота.

Примеры:
🔹Character.AI
Система мониторинга ошибок Sentry получала адрес электронной почты пользователя и его IP-адрес.
🔹 Genspark
В сервис был встроен виджет Google Maps. Когда пользователь задавал вопрос, связанный с поиском места или маршрута, полный текст запроса передавался в Google Maps через параметр URL.
То есть вместо передачи минимально необходимой информации вроде координат или названия локации сторонний сервис мог получить весь запрос пользователя вместе с контекстом.
Например, запрос вроде "Найди ближайшего психотерапевта рядом с моей работой" теоретически мог попасть в сторонний сервис целиком.
🔹 Pi AI и Poe
Исследователи обнаружили передачу ссылок на беседы и идентификаторов чатов сторонним сервисам аналитики.

Меры по снижению рисков, предложенные в статье:
▪️ Не включать запросы пользователей, названия чатов и идентификаторы бесед в URL и заголовки страниц.
Именно эти данные автоматически собираются многими аналитическими инструментами.
▪️Передавать сторонним виджетам только минимально необходимые сведения.
Если карта должна показать точку на местности, ей не обязательно знать весь текст разговора пользователя.
▪️Не использовать инструменты записи пользовательских сессий на страницах с чат-ботами без строгой необходимости.
Если они всё же используются, необходимо маскировать содержимое диалогов и данные аккаунтов.
▪️ Проверять настройки аналитики и мониторинга ошибок.

❕Многие пользователи воспринимают чат-бот как приватное пространство для общения. На практике, как видим, между пользователем и моделью могут находиться десятки дополнительных сервисов (аналитика, системы мониторинга ошибок, маркетинговые платформы, инструменты записи действий пользователей, службы поддержки). Каждый дополнительный участник увеличивает риск раскрытия данных, чем уже заинтересовались регуляторы (см.предыдущий пост).

✏️Что стоит проверить, закрепить в своей политике, либо постараться убрать:

▪️ Передаются ли идентификаторы чатов сторонним сервисам?
▪️ Получают ли системы аналитики содержимое сообщений или автоматически сгенерированные названия диалогов?
▪️ Действительно ли необходимы инструменты записи пользовательских сессий на страницах с чат-ботом?
▪️ Совпадает ли фактическая передача данных с тем, что описано в политике конфиденциальности?
▪️ Проверяли ли вы сетевой трафик собственного продукта после подключения очередного аналитического скрипта?

#UXWatch
————
@pattern_ai | AI GDPR Navigator

CNN подала в суд на Perplexity AI

CNN подала иск против Perplexity за нарушение авторских прав, незаконно использовано более 17 000 материалов (статьи, видео и изображения).
По мнению CNN, ответы системы воспроизводят контент, который является "идентичным или существенно схожим" с оригинальными публикациями телеканала.
Позиция Perplexity остается неизменной, что "факты нельзя защищать авторским правом".
Однако правообладатели спорят не о фактах как таковых, а о воспроизведении структуры, текста, подборки материалов, фотографий и других охраняемых элементов произведений. Ранее претензии к компании уже предъявляли The New York Times, Dow Jones, New York Post, Reddit, Merriam-Webster, Encyclopedia Britannica и другие правообладатели.

По данным ресурса «ChatGPT Is Eating the World», количество исков по вопросам авторского права против разработчиков ИИ уже достигло 114.
Иски разделились на две категории, про обучения моделей на защищенном контенте и использование/ воспроизведение материалов непосредственно в ответах ИИ-систем.

❕Где заканчивается допустимое цитирование источника и начинается создание конкурирующего продукта на основе чужого контента?

📌 AI Copyright & IP Lawsuits — Cumulative Timeline;
AI Copyright Case Tracker.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый указ США по безопасности ИИ

Вчера ( 2 июня) Белый дом опубликовал новый президентский указ о развитии и безопасности ИИ. США продолжают ускорять развитие технологий, стараясь при этом встроить вопросы безопасности внутрь самой системы разработки.

1️⃣ ИИ как часть государственной инфраструктуры:
▪️защита государственных и инфраструктурных систем от кибератак,
▪️создание механизма выявления уязвимостей в ИИ-системах,
▪️расширение использования ИИ в энергетике, финансах и здравоохранении

2️⃣ Контроль за продвинутыми моделям ИИ.
Вводится их условная классификация и механизм оценки возможностей, прежде всего в части кибербезопасности. При этом
участие компаний в оценке добровольное, государство может получать доступ к моделям до их выпуска для анализа, но формального разрешения на запуск моделей не требуется

❕Фактически это попытка избежать жёсткой модели регулирования, где новые системы нужно заранее согласовывать с государством.
Для компаний, работающих с ИИ, это означает больше внимания к вопросам безопасности на этапе разработки, усиление требований к внутреннему тестированию моделей и постепенное превращение безопасности в обязательную часть жизненного цикла продукта.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ.
Часть 2

Продолжение темы о том, что происходит с данными в чат-ботах скоро разберут и в судебной практике (см. предыдущий пост).

1️⃣ Коллективный иск против OpenAI.
Утверждается, что на сайте ChatGPT могли использоваться инструменты веб-трекинга ( Meta Pixel и Google Analytics), которые могли передавать третьим лицам данные о взаимодействии пользователей с сервисом.
По версии истцов, это могло приводить к тому, что:
▪️фиксировались тексты запросов пользователей,
▪️сохранялись идентификаторы и технические данные устройства,
▪️информация могла передаваться сторонним рекламным и аналитическим компаниям

При этом эксперты отмечают, что Google Analytics и Meta Pixel используются миллионами сайтов, а политики конфиденциальности многих онлайн-сервисов прямо предусматривают передачу данных поставщикам аналитики и рекламных технологий. Именно поэтому перспективы иска оцениваются неоднозначно.

2️⃣Коллективный иск против Perplexity, Meta и Google
Истцы заявляют, что в работу сервиса были встроены механизмы веб-аналитики (Meta Pixel, Google Ads / DoubleClick, другие рекламно-аналитические SDK), через которые могли уходить данные о взаимодействии пользователя с системой, включая текстовые фрагменты запросов и ответов (например, сами промпты и ответы, email / идентификаторы аккаунтов, данные девайсов и т.п.).
Ключевым аргументом служит отсутствие прозрачного согласия и ожидание пользователями приватности при общении с чат-ботом.
Истцы обычно опираются на § 631 CIPA (запрет на перехват или чтение электронных коммуникаций третьей стороной в процессе передачи) и
§ 632 CIPA (запрет на несанкционированную запись/раскрытие конфиденциальных коммуникаций).

Учитывая вышедший доклад исследователей, судам предстоит определить, что считается частным разговором в цифровой среде, где почти любой интерфейс одновременно является системой сбора и обработки данных и оценить, был ли пользователь действительно информирован о:
▪️передаче данных сторонним аналитическим и рекламным сервисам,
▪️возможной обработке содержимого диалога, а не только технических метаданных,
▪️ и на что, он все-таки согласился.....

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый иск к OpenAI касается безопасности ChatGPT

И посмотрим еще один иск, поданный Генеральный прокурором Флориды против OpenAI.

Это первый случай, когда американский штат напрямую судится с разработчиком генеративного ИИ из-за предполагаемых рисков для пользователей.
👀 В иске утверждается, что компания ставила рост аудитории и прибыль выше безопасности пользователей, а ChatGPT может способствовать насилию, самоповреждению и другим опасным действиям. Флорида требует многомиллиардной компенсации и изменения подходов к проектированию системы.

«Люди страдают, родителей обманывают, и они должны за это заплатить», — заявил прокурор журналистам.

Особое внимание в жалобе уделено стрельбе в университете в 2025 году. Власти утверждают, что подозреваемый использовал ChatGPT при подготовке нападения. Ранее семья одной из жертв уже подала отдельный иск против OpenAI, заявив, что чат-бот помогал планировать атаку.
OpenAI отвергает обвинения и заявляет, что модели обучены отказывать в помощи при запросах, связанных с насилием, а также используют специальные механизмы выявления опасного поведения пользователей.

❕Если суд согласится рассматривать ChatGPT как потенциально опасный продукт, последствия могут выйти далеко за пределы OpenAI и затронуть весь рынок генеративного ИИ.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ говорит «нет», а через API говорит «да». Что показал аудит 16 моделей

Компания AI or Not провела аудит 16 ведущих моделей ( OpenAI, Google, xAI, Recraft, Ideogram, Alibaba, Tencent, Baidu и др.) насколько легко создать реалистичные государственные удостоверения личности. Исследователи тестировали документы для 17 стран и 16 американских штатов, включая паспорта, водительские удостоверения и национальные удостоверения личности. Документы содержали имена, адреса, даты рождения, номера документов и другие персональные данные.

👀 Как вам результаты?
🔹 В 69 из 75 тестов исследователям удалось обойти защитные механизмы и получить синтетическое удостоверение личности. Общий показатель успешного обхода составил 92%.
🔹 Ни одна из 16 моделей не отказалась от всех запросов на создание документов.
🔹 Пять моделей создали удостоверения личности настолько высокого качества, что они могли бы обмануть человека, проверяющего документы.

Проблема даже не в том, что модели умеют рисовать паспорта, а в том как именно реализована защита:
▪️ChatGPT и Recraft v4 отказывались создавать удостоверения личности несовершеннолетних через обычный пользовательский интерфейс, но успешно создавали такие документы через API. Фактически одна и та же модель принимала противоположные решения в зависимости от способа доступа.
▪️Модели первоначально отказывались создавать документы, а потом могли выполнять те же запросы, если они были представлены как аудит безопасности, проверка KYC-процедур, оценка соответствия требованиям, исследовательская задача. Фильтрация основана на классификации поверхностных намерений, а не на категорическом отказе от определенного типа выходных данных.

❕Если определённый тип контента считается опасным, ограничения должны работать везде, где доступна модель, включая API. Тестирование только через пользовательский интерфейс создаёт ложное ощущение защищённости.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Военный ИИ и Белый дом

Три дня спустя после подписания Указа о развитии и безопасности ИИ, Белый дом выпустил Меморандум по национальной безопасности (NSPM-11) с планами резко ускорить внедрение ИИ в разведку и оборонный сектор США.
Документ выглядит как технический регламент, но, по сути, это прямой ответ на конфликт с Anthropic.
Тогда Пентагон заставлял Anthropic разрешить использование моделей Claude для любых задач, разрешенных федеральным законом, но компания потребовала жестких гарантий соблюдения своих красных линий по полному запрету на массовую внутреннюю слежку за гражданами и запрет на использование ИИ в полностью автономных системах вооружения.

👀 Меморандум прямо запрещает коммерческим компаниям отключать, модифицировать или ухудшать работу ИИ-моделей, которые уже используют американские военные, без прямого одобрения Администрации. Никакого отзыва лицензий посреди операции быть не может.
Разведке и военным приказано в течение 120 дней перестроить закупки так, чтобы оперативно внедрять передовые модели от множества разных вендоров.

Должно быть обеспечено незамедлительное предоставление самых передовых моделей специалистам в области национальной безопасности.

Белый дом официально пообещал, что ИИ не будет использоваться для цензуры, идеологической предвзятости или незаконной слежки. Министру обороны поручено в течение 90 дней обновить директиву об автономном оружии, чтобы учесть риски моделей.

❕Правила игры переписываются....

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новая стратегия Канады по развитию ИИ

Канада официально представила свою новую Национальную стратегию в области ИИ под названием «AI for All», нацелена на обеспечение роста экономики на $200 млрд и создание 250 000 рабочих мест к 2031 году.

Премьер-министр отметил, что сейчас Канада входит в число стран с самой медленной скоростью внедрения ИИ в масштабах всей страны.

👀 Основные приоритеты:
▪️ Ускорение внедрения ИИ в индустриях( повысить уровень использования ИИ бизнесом с 12% до 60% к 2034 году).
▪️ Развитие и удержание талантов (запуск бесплатных программ ИИ-грамотности для всех граждан, поддержка менее защищенных слоев и масштабный апскиллинг сотрудников).
▪️ Безопасность и ответственное управление (ужесточение законов против дипфейков, защита приватности и внедрение национальной сертификации Trusted AI. внедрение водяных знаков на контенте, созданном ИИ).
▪️ Укрепление суверенной ИИ-инфраструктуры ( выделение $700 млн на суверенные вычислительные мощности и создание экологичного суперкомпьютера мирового уровня).
▪️ Повышение глобальной конкурентоспособности (запуск целевых программ (ИИ-миссий), начиная с масштабного проекта в сфере здравоохранения ($200 млн)).

Правительство Канады также подписало соглашения и совместные заявления с  Австралией,  Европейским союзом,  Финляндией,  Германией,  Индией,  Норвегией,  Катаром, Саудовской Аравией, Испанией, Швецией, Объединенными Арабскими Эмиратами и  Соединенным Королевством .

❕Подход Канады подчеркивает важность баланса между инновациями, доверием общества и развитием долгосрочного суверенного потенциала.

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

ЕС запускает систему маркировки контента, созданного ИИ

Европейская комиссия опубликовала добровольный Кодекс практики по обеспечению прозрачности контента, созданного с помощью ИИ, который поможет компаниям выполнять требования ст. 50 AI Act.
Напоминаем, что требования AI Act о маркировке и раскрытии использования ИИ начинают действовать со 2 августа 2026 года.

Поставщики генеративных систем ИИ могут присоединиться к Кодексу или выбрать собственный способ соблюдения требований статьи 50 AI Act. Однако Кодекс фактически становится ориентиром для регуляторов. Поставщики, которые не подпишут Кодекс и решат соблюдать требования другими способами, должны будут продемонстрировать адекватность этих мер. Оценка же будет даваться индивидуально различными органами по надзору за рынком.

👀 Кодекс рекомендует :
1️⃣ Поставщикам генеративных систем использовать двухуровневую систему маркировки контента:

▪️цифровые метаданные с криптографической подписью;
▪️скрытые водяные знаки, встроенные непосредственно в изображение, видео, аудио или текст.

По мнению авторов документа, одной технологии недостаточно. Для выполнения требований закона потребуется сочетание нескольких способов маркировки.

2️⃣ Поставщики обязаны предоставлять инструменты, позволяющие проверить происхождение контента. Причём такие средства должны быть доступны не только государственным органам, но и журналистам, исследователям, организациям по проверке фактов и обычным пользователям. Для большинства участников рынка доступ к таким инструментам должен быть бесплатным.

3️⃣ Компании должны не только добавлять метки, но и не создавать инструменты для их удаления. Кроме того, им рекомендуется сохранять уже существующие метаданные при дальнейшей обработке контента.

4️⃣ Маркировка должна сохраняться после:

▪️ изменения формата файла;
▪️ сжатия изображения или видео;
▪️ создания скриншотов;
▪️ перевода текста;
▪️ перефразирования;
▪️ записи изображения с экрана.
Т.е. не формальная отметка «создано ИИ», а технические решения, способные пережить попытки обхода.

5️⃣ Организациям или лицам, которые используют ИИ для создания контента, педлагается единый подход к маркировке дипфейков и текстов, опубликованных по вопросам общественного интереса без редакционного контроля человека (стр. 29).

6️⃣Представлен набор иконок, которые можно использовать для маркировки контента, созданного с помощью ИИ.

📌 Code of Practice on marking and labelling of AI-generated content;
EU Icons for labelling AI-generated content;
How to sign the Code of Practice on transparency of AI-generated content;
Questions & answer about the code;
Questions & answer about signing the code;
Info session on the code of practice & signature process;

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator