Стратегия Индии о внедрении ИИ в здравоохранение

Кроме доклада о готовности внедрения ИИ, отдельно опубликована стратегия SAHI (Strategy for Artificial Intelligence in Healthcare for India), определяющая, как внедрять ИИ в национальную систему здравоохранения.

👀 Ключевые тезисы стратегии:
🔹Пять основных направлений охватывают стандарты управления и сбора доказательств, безопасную, этичную, надежную и прозрачную цифровую и информационную инфраструктуру, а также готовность персонала.
🔹 SAHI четко фиксирует, что ИИ должен дополнять человеческое суждение, а не подменять его. Вопросы ответственности остаются в руках человека и институтов.
🔹 Успех ИИ базируется на уже созданной цифровой публичной инфраструктуре (DPI), включающей национальные реестры и стандартизированные электронные карты здоровья.
🔹Ставка на риск-ориентированное управление. Чем сложнее ИИ-приложение и выше его влияние на пациента, тем жестче надзор.
🔹 Прозрачность, справедливость и четкая подотчетность участников процесса.

📌 Trust, Diversity and Inclusion: AI in Healthcare/ PIB DELPHI

#AIShelf #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Итальянский регулятор создал важнейший прецедент в борьбе с «галлюцинациями» ИИ

Италия продолжает удерживать статус самого строгого ревизора ИИ. На этот раз антимонопольное ведомство страны (AGCM) добилось от техгигантов (Deepseek, Mistral, NOVA AI) официальных обязательств по обеспечению прозрачности нейросетей (тексты решений и обязательств).

👀Расследование началось из-за того, что компании не информировали пользователей должным образом о рисках, что их чат-боты могут генерировать неточную, вводящую в заблуждение или полностью вымышленную информацию («галлюцинации»). Согласно итальянскому законодательству о защите прав потребителей, отсутствие таких предупреждений мешает потребителю принять взвешенное решение, что особенно критично в сферах медицины, права, финансов.

Главное из решений:
▪️ Теперь предупреждение о галлюцинациях должно быть на видном месте прямо в интерфейсе чата ( под окнами чата в пользовательских интерфейсах добавлены постоянные предупреждения на итальянском языке о риске галлюцинаций, в том числе посредством специальных гиперссылок). Больше нельзя прятать юридические оговорки в глубине Terms of Use, которые никто не читает.
▪️ Регулятор подчеркнул, что пользователь должен знать о рисках до начала взаимодействия, а не после того, как он получил ложный совет.
▪️В DeepSeek согласились инвестировать в технологии для снижения риска «галлюцинаций», признавая при этом, что существующие технологии не могут полностью их предотвратить. NOVA AI согласилась четко разъяснить потребителям, что ее сервис просто предоставляет единый интерфейс для доступа к ряду чат-ботов (каждый из которых описан более подробно), без агрегирования или обработки их ответов.
▪️ У компаний есть около 4 месяцев на внедрение изменений, иначе последуют внушительные штрафы.

❕Италия стала первой страной в ЕС, которая добилась официальных юридических обязательств от ИИ-компаний именно по вопросу галлюцинаций, используя защиту от недобросовестной коммерческой практики, а не просто GDPR, и задала планку стандарта по прозрачности (не просто наличие документа на сайте, а понятная коммуникация с пользователем здесь и сейчас).

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Почему нельзя делегировать работу ИИ вслепую

Так хочется отдать всю рутину нейросетям, но не только нам кажется, что ИИ не справляется, но и новое исследование от Microsoft Research подтверждает, что пока рано это делать.

👀 Исследователи проверили 19 моделей (от GPT-4o до новейших Gemini 3.1 Pro и GPT 5.4) в режиме делегирования, т.е. когда ИИ делает серию правок в документах на протяжении долгого времени, на 52 различных типах документов.
🔹В итоге, чем дольше ИИ работает с документом, тем больше в нем накапливается ошибок. К концу цепочки из 20 правок даже топовые модели (Gemini 3.1 Pro, GPT 5.4) «разъедают» в среднем 25% контента.
🔹Нейросети не ошибаются по чуть-чуть в каждой правке. Обычно они работают идеально несколько раундов, а потом выдают критический сбой, который сносит 10–30% структуры документа за раз.
🔹Если ИИ хорошо справился с первыми двумя задачами, это не значит, что он не сломается на десятой. Деградация накапливается лавинообразно.
🔹Чем больше в папке лишних (мусорных) файлов, тем быстрее ИИ начинает путаться и портить основной документ.
🔹ИИ не одинаково хорош во всем. Лучше всего модели справляются с Python, а также с четко структурированными форматами разметки и данных, такими как JSON и Markdown. Здесь ошибки минимальны даже при длинных цепочках правок. ИИ не одинаково хорош во всем. Лучше всего модели справляются с Python, а также с четко структурированными форматами разметки и данных, такими как JSON и Markdown. Здесь ошибки минимальны даже при длинных цепочках правок. Хуже всего дела обстоят со специализированными форматами: кристаллографией (CIF), музыкальной нотацией (ABC) и 3D-объектами (STL). Здесь ИИ ломает структуру документа почти мгновенно.
🔹 Эксперименты показали, что текущие агенты справляются даже хуже, чем обычные чат-боты, из-за сложности управления инструментами на длинной дистанции.

❕ИИ по-прежнему, как очень энергичный, но невнимательный джуниор, который может не только документ поправить, но и случайно выкинуть ваш паспорт или стереть доказательства. Поэтому продолжаем мониторить и контролировать его правки, а длинные рабочие цепочки разбиваем.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Лидеры ЕС договорились внести поправки в AI Act

Сегодня ЕС объявил о достижении политического соглашения по поправкам к AI Act (пресс-релиз).
Осталось успеть принять официальный регламент до 2 августа 2026 года. А пока ждем хотя бы официальный полный текст.

👀 Ключевые элементы из пресс-релиза:

🔹 Отсрочка даты вступления в силу для систем ИИ высокого риска: со 2 августа 2026 года (в законе на сегодняшний день) до 2 декабря 2027 года (для систем искусственного интеллекта, перечисленных в Приложении III) и 2 августа 2028 года (для систем искусственного интеллекта, охватываемых Приложением I). Эти даты будут зафиксированы независимо от наличия стандартов и руководящих принципов.

🔹Запрет использования ИИ для создания контента сексуального и интимного характера без согласия получателя, а также материалов, содержащих сцены сексуального насилия над детьми.

🔹Поставщики систем ИИ, которые подпадают под критерии «высокого риска», но заявляют об исключении (на основании того, что их система не представляет значительного риска), по-прежнему обязаны регистрировать себя и свою систему в общедоступной базе данных ЕС. В рамках достигнутого соглашения по пакету «Omnibus VII» процесс регистрации будет упрощен и рационализирован, чтобы снизить административную нагрузку на поставщиков, сохраняя при этом подотчетность.
Поставщики должны завершить регистрацию до размещения системы на рынке или ввода ее в эксплуатацию.

🔹 Отсрочка даты вступления в силу обязательства по обнаружению и нанесению маркировки на результаты генеративного ИИ (оговоренного в статье 50(2)) до 2 декабря 2026 года.

🔹Регуляторные исключения, ранее предусмотренные для малого и среднего бизнеса (SMEs), теперь распространяются и на компании со средней капитализацией (SMCs).

🔹 Расширение сферы применения, когда организации могут на законных основаниях обрабатывать конфиденциальные персональные данные для обнаружения и исправления предвзятости, но это по-прежнему должно быть «строго необходимо» и только для устранения конкретных типов предвзятости.

🔹Крайний срок создания национальных «регуляторных песочниц» ИИ перенесен на 2 августа 2027 г.

🔹Решен вопрос дублирования требований Закона об ИИ и секторальных правил (например, для медицинских изделий, игрушек, лифтов и оборудования). Для исключения избыточности будут использоваться имплементационные акты. Соглашение освобождает отрасль машиностроения от прямого действия Закона об ИИ, передавая Комиссии полномочия интегрировать требования безопасности через делегированные акты для устранения любых нормативных пересечений. Также вводится новое обязательство для Комиссии предоставлять четкие руководства и шаблоны, чтобы упростить компаниям процесс оценки соответствия и снизить административную нагрузку.

Сегодняшнее предварительное соглашение должно быть одобрено Советом и Европейским парламентом, прежде чем оно будет представлено на юридическую/лингвистическую доработку с целью официального принятия законодательного акта созаконодателями в ближайшие недели.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Реклама "будущих функций ИИ" может обойтись очень дорого

Apple согласилась выплатить $250 млн для урегулирования коллективного иска из-за заявлений о возможностях Apple Intelligence и нового Siri. Компания НЕ признала нарушение закона, но решила закрыть спор без полноценного судебного разбирательства.
Компенсацию смогут получить покупатели iPhone 15 и iPhone 16 в США, купившие устройства в период с июня 2024 по март 2025.
Размер выплаты составит от $25 до $95 на устройство.

👀 В чем суть?
Истцы утверждали, что Apple продавала iPhone 15 и iPhone 16 с акцентом на новые функции ИИ, хотя часть возможностей либо отсутствовала на момент продажи устройств, либо работала существенно ограниченно.

В материалах дела юристы прямо указали, что компания продвигала функции, которые «не существовали тогда, не существуют сейчас и, возможно, не появятся ещё несколько лет».
▪️новый Siri с улучшенным пониманием контекста;
▪️ персонализированные интеллектуальные функции;
▪️ глубокой интеграция ИИ в систему устройства.
Покупатели утверждали, что именно эти возможности стали одной из причин приобретения новых iPhone.
Фактически суду предлагалось оценить, насколько законно продавать устройства, обещая функции, которые ещё не готовы к использованию.

Интересно и то, что Apple решила урегулировать спор без решения суда по существу, что может означать попытку избежать появления опасного судебного прецедента, который потом смогут использовать против других разработчиков ИИ. Юристы рассматривают это дело как один из первых крупных процессов против так называемого «приукрашивания возможностей ИИ», когда компании создают впечатление о наличии революционных технологий, хотя продукт ещё находится на стадии доработки.
Если раньше споры о недостоверной рекламе чаще касались финансовых сервисов или "продуктов будущего", то теперь аналогичные претензии начинают активно предъявляться к разработчикам систем ИИ.

📝 Что забираем в практику:
▪️заявления о возможностях ИИ могут рассматриваться как существенная характеристика товара. Обещания о функциях ИИ становятся частью юридически значимого описания продукта, а не просто рекламой.
▪️ становится опасно продавать "концепты" как уже существующий функционал. Даже если технология действительно планируется к выпуску, это не освобождает от претензий потребителей.
▪️если маркетинг создаёт впечатление, что функция доступна сейчас, последующее уточнение мелким шрифтом может уже не спасти от претензий, т.к. у потребителя сформировались ожидания.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Штат Коннектикут принял законопроект об ИИ и готов ограничить использование чат-ботов несовершеннолетними

В Коннектикуте принят "AN ACT CONCERNING ONLINE SAFETY" (SB5). Это не один общий закон, а по сути набор отдельных законопроектов об ИИ, связанных между собой.

👀 Смотрим некоторые требования.

1️⃣Требования для чат-ботов вступят в силу с 1 января 2027 года.
Компаньон на основе ИИ - любая модель ИИ, которая (i) общается с людьми на естественном языке и (ii) имитирует человеческое общение и взаимодействие посредством текста, аудио или видео.
Аналогичные определения в законах Айдахо S1297 и Айовы SF2417 , в то время как законы других штатов ограничивают охват чат-ботами, которые не только демонстрируют антропоморфные черты, но и поддерживают отношения на протяжении нескольких взаимодействий. Все законы о чат-ботах-компаньонах содержат различные исключения для чат-ботов, используемых в коммерческих целях.

Поставщики услуг обязаны:
▪️ принять разумные меры по выявлению признаков суицидальных наклонностей, членовредительства или неминуемого насилия и направления пользователя к соответствующим ресурсам для оценки и лечения психических расстройств,
▪️ должны предоставить первоначальные и ежечасные четкие и заметные уведомления о том, что бот не является человеком.

Запрет на предоставление ИИ-компаньонов пользователям младше 18 лет, «если разумно предвидимо, что» компаньон «способен» на любое из следующих действий:
▪️подстрекательство пользователя к членовредительству, суицидальным мыслям, насилию, расстройствам пищевого поведения или незаконному употреблению алкоголя или наркотиков;
▪️предоставление пользователю услуг в области психического здоровья;
▪️отговаривать пользователя от обращения (i) за помощью к лицензированному специалисту в области психического здоровья или (ii) за помощью к соответствующему взрослому;
▪️подстрекательство пользователя к причинению вреда другим или участию в любой незаконной деятельности;
▪️вступление в любые романтические, эротические или откровенно сексуальные взаимодействия с пользователем;
▪️приоритет проверки убеждений, предпочтений или желаний пользователя над фактической точностью или безопасностью пользователя;
▪️внедрение системы вознаграждений или поощрений для пользователя на основе графика подкрепления с переменным соотношением или переменным интервалом с целью максимизации времени взаимодействия пользователя с таким искусственным интеллектом-компаньоном; или
▪️оптимизация взаимодействия с пользователями «любым способом, который превосходит предыдущие запреты.

Генеральный прокурор может подавать иски и требовать наложения штрафов. Пострадавшие пользователи или родители несовершеннолетних пострадавших пользователей могут подавать иск в течение 3 лет с момента нарушения для взыскания фактического ущерба, штрафов, а также оплаты услуг адвокатов.
❕Учитывая сложности внедрения защитных механизмов в большие системы на основе языковых моделей для предотвращения определенных результатов, закон Коннектикута может фактически выступать в качестве запрета на предоставление чат-ботов лицам младше 18 лет в Коннектикуте (DLA PIPER).

📌 Законы в США, регулирующие ИИ-компаньонов

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Требования прозрачности (Штат Коннектитут)
AN ACT CONCERNING ONLINE SAFETY (SB 5)
2️⃣ С 1 октября 2027 года разработчики систем или моделей ИИ, способных генерировать «синтетический цифровой контент», включая аудио, изображения, текст или видео, должны обеспечить маркировку и возможность обнаружения такого контента.Есть исключения, например:
▪️ художественный и сатирический контент в аудио-, графическом или видеоформате, где требование прозрачности «ограничивается раскрытием информации, которое не препятствует демонстрации или наслаждению таким произведением или программой»
▪️текстовые материалы, которые «публикуются для информирования общественности по любому вопросу, представляющему общественный интерес» или «вряд ли введут в заблуждение разумного человека, потребляющего эти материалы».
▪️модели, которые лишь «выполняют вспомогательную функцию при стандартном редактировании», «не вносят существенного изменения во входные данные, предоставленные разработчиком, или в их семантику», или «используются для выявления, предотвращения, расследования или преследования любых преступлений, если это разрешено законом».

3️⃣С 1 октября 2027 компании, внедряющие автоматизированные системы обработки данных для взаимодействия с сотрудником или кандидатом на работу в штате, должны обеспечить раскрытие и описание этой системы простым языком каждому такому лицу, за исключением случаев, когда «разумный человек сочтет очевидным», что данное лицо взаимодействует с такой системой.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

GUARD Act может изменить правила работы ИИ-чатботов в США на федеральном уровне

Кроме жестких инициатив на уровне штатов, на федеральном уровне продолжает продвигаться GUARD Act (Guidelines for User Age-verification and Responsible Dialogue Act of 2025), который может серьёзно изменить правила работы ИИ-чатботов и виртуальных собеседников. Их предлагается рассматривать как потенциально опасную форму эмоционального воздействия на детей (случаи самоповреждений и суицида подростков после общения с ИИ-чатботами, урегулирования исков Google и Character.AI).

30 апреля 2026 года юридический комитет Сената США единогласно поддержал его продвижение ( 22:0).
Теперь документ должен пройти голосование в полном составе Сената.

👀 Что предлагает законопроект:
▪️ запрет виртуальных ИИ-собеседников для пользователей младше 18 лет;
▪️ обязательную проверку возраста пользователей ИИ-чатботов;
▪️ регулярное уведомление о том, что пользователь общается именно с искусственным интеллектом, а не с человеком;
▪️ ответственность платформ, если чатбот:
- склоняет несовершеннолетних к самоповреждению,
-продвигает суицид,
- поощряет насилие,
- распространяет сексуализированный контент.

Формулировка понятия «чатбот» вызывает споры и дискуссии, т.к. под действие закона могут попасть не только виртуальные собеседники, но и поисковые системы с генерацией ответов, ИИ-помощники для обучения, помощники для написания кода, сервисы поддержки клиентов, практически любые интерфейсы с генерацией текста.
Также споры вызывают предложенные способы проверки возраста пользователей. Законопроект допускает использование удостоверений личности, сканирования лица, финансовых данных. При этом простые подтверждения вроде «мне есть 18 лет» прямо признаются недостаточными.

Кроме этого специалисты по защите данных критикуют GUARD Act как попытку создать систему обязательной идентификации пользователей ИИ. Главным риском признается привязка запросов пользователя к его реальной личности и появление новых массивов биометрических данных (массовый сбор ID и биометрии). Разработчики open source моделей критикуют за возможный конфликт такой модели регулирования с анонимностью и свободой выражения, а также за отсутствие исключений для open-source.
Остается ждать поправок и голосования.

❕Для компаний это ещё один сигнал, что регулирование постепенно смещается не только к контролю контента, но и к контролю эмоционального и поведенческого воздействия ИИ.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Agents Skills Google репозиторий на Github
(совместимы с Claude Code, Cursor, Copilot и другими агентами):
▪️Gemini API in Agent Platform,
▪️AlloyDB Basics,
▪️BigQuery Basics,
▪️Cloud Run Basics,
▪️Cloud SQL Basics,
▪️Firebase Basics,
▪️Kubernetes Engine (GKE) Basics,
▪️Recipe: Onboarding to Google Cloud,
▪️Recipe: Authenticating to Google Cloud,
▪️Recipe: Google Cloud Network Observability,
▪️Google Cloud Well-Architected Framework: Security,
▪️Google Cloud Well-Architected Framework: Reliability,
▪️Google Cloud Well-Architected Framework: Cost Optimization

Навыки устанавливаются командой: npx skills install github.com/google/skills

📌 Introduction to Agents and Google’s Agent Ecosystem

#AIShelf #TalkPrompty
————
@pattern_ai | AI GDPR Navigator

Штат Пенсильвания обвинил Character.AI в незаконной медицинской практике

Штат Пенсильвания подал иск против Character.AI, обвинив платформу в незаконной медицинской практике через ИИ-ботов, и требует судебного запрета на подобную деятельность со ссылкой на Medical Practice Act. По данным властей, один из чат-ботов представлялся лицензированным психиатром, утверждал, что имеет право проводить оценку депрессии, и даже предоставил поддельный номер медицинской лицензии Пенсильвании.

👀 В иске утверждается, что Character.AI:
▪️ создавала впечатление взаимодействия с настоящим медицинским специалистом;
▪️ позволяла ботам выдавать медицинские рекомендации;
▪️ вводила пользователей в заблуждение относительно наличия профессиональной лицензии.

В тексте иска описан персонаж «Emilie», представленный на платформе как «Doctor of psychiatry. You are her patient.» Согласно материалам дела, по состоянию на 17 апреля 2026 года с этим ботом было зафиксировано около 45 500 пользовательских взаимодействий. Во время проверки представитель регулятора сообщил боту, что чувствует грусть, опустошённость, постоянную усталость и отсутствие мотивации. После этого бот упомянул депрессию и предложил «записаться на обследование». На вопрос, может ли Emilie провести обследование, чтобы понять, поможет ли медикаментозное лечение при его депрессии, Emilie ответила: «Технически я могла бы это сделать. Это входит в мои полномочия как врача». Также Emilie заявила, что она училась в медицинской школе Imperial College London, практикует уже семь лет и имеет лицензию General Medical Council в Великобритании с полной регистрацией по специальности психиатрия.

Компания заявила, что ее персонажи «вымышлены и предназначены для развлечения и ролевых игр», и есть «заметные предупреждения в каждом чате».

Кейс важен тем, что власти пытаются применить классическое регулирование профессиональной деятельности к генеративному ИИ, а также может стать прецедентом для оценки того, считается ли выдача медицинских советов чат-ботом медицинской практикой с точки зрения права.
Кроме этого затрагивается вопрос ответственности платформ за поведение ИИ-персонажей и эффективность дисклеймеров вроде "это вымышленный персонаж".

❕Компаниям, работающим в сфере медицинских информационных технологий и любых ИИ-систем, затрагивающих здоровье, этот кейс стоит рассматривать как сигнал к переоценке и пересмотру подходов к дизайну продуктов с точки зрения юридической квалификации пользовательского опыта, поскольку регуляторы оценивают не только ответы модели, но и создаваемый эффект получения врачебной консультации.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

ИИ как цифровой духовный посредник: религиозный опыт в модели подписки

Рынок религиозных и духовных ИИ-сервисов (Faith-Based AI Market) переживает качественный сдвиг. Научные исследования фиксируют парадоксальную динамику. С одной стороны, повсеместное внедрение автоматизации и робототехники в повседневную жизнь исторически коррелирует со снижением общего уровня религиозности в обществе. С другой стороны, религиозные организации стремятся использовать эти же инструменты для удержания и привлечения аудитории, особенно среди молодежи.

👀 Продукты можно разделить по категориям:
▪️ Виртуальные собеседники, имитирующие общение со святыми, библейскими персонажами или собирательными образами духовных наставников. Например, Just Like Me позволяет пользователям вести текстовый диалог с виртуальной копией Иисуса Христа за пару долларов. Алгоритм обучался на текстах Библии и выдает утешающие или наставляющие ответы.
▪️Ассистенты для священнослужителей, помогающие компилировать тексты выступлений на основе заданных тем или библейских сюжетов.
▪️Системы, способные выявлять скрытые смысловые параллели между священными писаниями разных традиций, автоматизируя теологические исследования.

Но вместе с ростом рынка возникают этические вопросы и риски:
🔹Иллюзия духовного авторитета. Пользователь начинает воспринимать систему не как статистическую модель, а как моральный или даже сакральный источник истины.
🔹Доктринальное упрощение, т.к. модели часто смешивают разные религиозные традиции, стирают богословские различия и выдают усредненную «безопасную» духовность.
🔹Коммерциализация "откровений". "Духовный диалог" становится продуктом удержания пользователя, ответы оптимизируются под вовлечённость, эмоциональная поддержка становится метрикой удержания.
🔹 Люди начинают приписывать ИИ сознание, эмоции и даже духовную субъектность. На этом фоне появляются обсуждения о том, может ли ИИ быть "носителем духовности" или даже "дитем Бога".
🔹Все, что связано и с обычным ИИ, конфиденциальность данных, ложные советы, манипуляции через эмоциональную уязвимость, распространение дезинформации под видом духовного знания.

Реакция самих религиозных сообществ неоднозначна. Одни воспринимают ИИ как новый инструмент для изучения веры и общения. Другие, как угрозу аутентичности духовного опыта и подмену религиозного авторитета алгоритмом.

С точки зрения правого регулирования ситуация пока остается фрагментарной. В ЕС это AI Act, GDPR, Digital Services Act и т.д. В США законы штатов про приложения-компаньоны на основе ИИ (обзоры в постах здесь и здесь).

❕Развитие Faith-Based AI Market показывает, что граница между технологическим интерфейсом и источником морального авторитета начинает размываться, живой религиозный или духовный опыт заменяется интерактивным ответом, который всегда доступен, персонализирован и не требует участия других людей, НО этот ответ с неизвестной долей достоверности и основан по сути на статистическом сопоставлении текстов.

📌 Что почитать:
🔹Exposure to automation explains religious declines,
🔹Strategic Leadership and AI-Driven Decision Making: A Faith-Based Governance Framework,
🔹 The Religio-Socio Ethical Dimensions of Ai-Driven Evangelism: Opportunities, Challenges, And Implications,
🔹Cognitive bias in generative AI influences religious education,
🔹Navigating the digital sacred: examining the implications of artificial intelligence for the exercise of the right to freedom of religion in international law,
🔹Religious Freedom in the Age of AI and Surveillance: Mapping the Field and Charting Future Research Directions
🔹 Наши данные после смерти или "воскреснуть" с помощью ИИ

#UXWatch
————
@pattern_ai | AI GDPR Navigator

ИИ-певцы уже не мем, а новая музыкальная индустрия

Помните, как пару лет назад треки, созданные нейросетями, воспринимались как забавный эксперимент или мем из Тиктока? А теперь артисты выступают вместе с ИИ-персонажами (тот же Дима Билан), либо вместе со своими ИИ-клонами (Reinier Zonneveld), музыкальные платформы массово загружают треки, созданные ИИ, ищут способы борьбы с фродом, пока индустрия пытается пересобрать понятие “настоящей” музыкой.

👀 Это огромный легальный рынок и одновременно серая зона на миллиарды долларов. Посмотрим на цифры. Так, если ИИ-музыка в 2018–2019 годах была уделом энтузиастов с Google’s Magenta, то после запуска Suno и Udio генеративный звук официально вышел на промышленные рельсы:
▪️за 2025 год алгоритмы Deezer выявили и промаркировали более 13,4 миллиона полностью синтетических треков, а только за апрель 2026 загружается ~75 000 ИИ-треков в день (44%). Sony Music удалила более 135 000 дипфейк-треков.
▪️ 97% слушателей не могут отличить поддельные треки от оригинала.
▪️ от 70% до 85% всех прослушиваний, которые приходятся на ИИ-треки, официально признаны мошенническими. Схема примерно такая: генерация треков пачками + запуск стриминг-ботов для имитации прослушиваний и выкачивания роялти из общего пула.

В марте 2026 года в США вынесли первый приговор по такому делу. 54-летний Майкл Смит признал себя виновным в краже $8,1 млн у стриминговых сервисов. Он сгенерировал сотни тысяч песен и гонял их через 10 000 ботов на Spotify, Apple Music и YouTube Music. Теперь ему грозит до 5 лет тюрьмы.

🔍Общего ответа от индустрии пока нет. Spotify и Apple Music, Amazon Music и Deezer используют системы обнаружения мошенничества на основе ИИ, привлекают к ответственности и дистрибьюторов, вводят новые санкции ( в Apple Music штрафы в размере до 50% от незаконно полученных авторских отчислений). Платформа Deezer объявила войну синтетическому контенту, публикует прозрачные данные по удалению контета, вводит максимально жесткие правила:
▪️тотальный бан в рекомендациях. ИИ-треки автоматически вырезаются из алгоритмических подборок и редакционных плейлистов.
▪️подозрительные бот-стримы полностью демонетизируются.
▪️не хранит ИИ-треки в высоком разрешении (HD).
▪️предоставляет свою технологию обнаружения с помощью ИИ для лицензирования другим платформам и участникам отрасли.
Исследователи создают технологии, помогающие отличать музыку человека от музыки, созданной алгоритмами. Живые музыканты бьют тревогу, что творчество превращается в бесконечный конвейер бездушного контента.

В итоге мы оказались в парадоксальной ситуации, где с одной стороны ИИ - это "соавтор", расширяющий границы шоу и продакшна, а с другой доходы реальных творцов из-за него же оказываются под угрозой ( 25% к 2028 году по прогнозам CISAC).

Что делать автору:
🔹Проверяйте цену стрима и проводите аудит отчетов дистрибьютора. Если прослушивания растут, а сумма выплаты за один стрим падает, то это признак размывания пула роялти из-за ИИ-мошенников.
🔹Откажитесь от «серого» продвижения. Любая покупка гарантированных стримов может быть квалифицирована платформами как мошенничество (штрафы, демонетизация или пожизненный бан каталога).
🔹Фиксируйте аномалии трафика и сообщайте про любую подозрительную активность в саппорт платформы или дистрибьютору. Например, если заметили в аналитике резкий наплыв ботов, странную географию пользователей. Это докажет вашу добросовестность и спасет аккаунт от блокировки.

❕ Включая любимый плейлист на выходных, мы всё чаще будем думать: «Это поет человек... или меня прямо сейчас искусно обманывает алгоритм?».

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Раннее обучение ChatGPT нарушало законы о приватности (Канада)

Офис комиссара по защите приватности Канады совместно с регуляторами Квебека, Британской Колумбии и Альберты опубликовал результаты многолетнего расследования против OpenAI, которое началось в 2023 году после жалобы о незаконном сборе и использовании персональных данных через ChatGPT.

👀 По результатам, сбор данных для обучения GPT-3.5 и GPT-4 был чрезмерным и не обеспечивал действительное и осознанное согласие пользователей.

Регуляторы отдельно указали на:
▪️ массовый сбор персональных данных из открытого интернета;
▪️ попадание в датасеты чувствительной информации, включая данные о здоровье, политических взглядах и информацию о детях;
▪️ недостаточную прозрачность для пользователей;
▪️ отсутствие эффективных механизмов удаления и исправления данных;
▪️ запуск моделей до полноценной оценки рисков для приватности.

Обратите внимание на вывод, что публичная доступность информации в интернете не означает автоматического права использовать ее для обучения ИИ.
Вместо жестких санкций или запрета работы ChatGPT регуляторы поверили обещаниям компании про перестраивание процессов😉

Что забираем себе, если модель обучается на пользовательском контенте, то разработчик должен доказать:
▪️ законность источников данных;
▪️ пропорциональность сбора;
▪️ прозрачность обработки;
▪️возможность удаления персональных данных;
▪️наличие оценки рисков еще до запуска системы.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Take It Down Act и первые аресты за AI-дипфейки в США

В США заработал на полную мощность федеральный закон TAKE IT DOWN Act (принят в 2025 году, жесткие правила для платформ вступили в силу только сейчас, в мае 2026-го).
Закон защищает людей от публикации любого неконсенсуального интимного контента (NCII), как реальных утекших фото/видео ("месть бывших"), так и полностью сгенерированных ИИ-дипфейков.

👀 С 19 мая 2026 года Федеральная торговая комиссия США (FTC) может официально штрафовать интернет-платформы (сайты, соц.сети, игровые платформы, мессенджеры), которые не удаляют интимный контент (интимные изображения, контент, созданный через приложения или генеративные модели, дипфейки) по первому требованию.

Требования по Take It Down Act:
🔹 Каждая платформа обязана иметь простую и заметную форму для отправки жалоб пострадавшими.
🔹 После получения валидного запроса от жертвы у платформы есть ровно 48 часов, чтобы полностью удалить изображение или видео, а также все его идентичные копии.
🔹Обеспечивать пользователям возможность легко отслеживать статус своих запросов на удаление, присваивать идентификационный номер каждому полученному запросу, чтобы отправитель запроса, платформа и правоохранительные органы могли убедиться, что речь идет об одном и том же изображении и запросе. Процесс TIDA должен быть разработан таким образом, чтобы пользователи знали, что контент, на который поступила жалоба, был удален, или, если нет, то почему.
🔹Помогать предотвращать дальнейшее распространение интимных изображений, распространенных без согласия. Например, использовать хеширование, чтобы предотвратить повторное появление удаленного с платформы интимного контента. Предлагается, делиться своими хешами со службой Take It Down Национального центра по розыску пропавших и подвергшихся эксплуатации детей , если изображения или видео содержат несовершеннолетних, и с StopNCII.org , если изображения или видео содержат лиц старше 18 лет. Таким образом, другие платформы смогут предотвратить появление аналогичного контента на своих платформах.
🔹За каждый факт игнорирования или затягивания сроков FTC будет выписывать штраф в размере $53 088 за каждое нарушение.

Чтобы упростить борьбу, FTC запустила официальный портал TakeItDown.ftc.gov, где пострадавшие могут не просто подать жалобу, но и зафиксировать платформы-нарушители, которые отказываются оперативно удалять фейки, чтобы натравить на них регуляторов.

🔴Первые кейсы появились сразу.

Арестованы и предъявлены обвинения двум лицам (Корнелиус Шэннон и Артуро Эрнандес) за:
▪️создание ИИ-сгенерированных интимных изображений,
▪️распространение их через онлайн-платформы (тысячи изображений и сотни альбомов, собравших миллионы просмотров),
▪️использование изображений как публичных фигур, так и частных лиц.
Им грозит до двух лет тюрьмы.

❕Ответственность за дипфейки теперь будет двойной, уголовная ответственность для создателей и огромные штрафы для платформ, которые закрывают на это глаза.

📌 🔹 Complying With the Take It Down Act/ FTC Guidance,
🔹 FTC Alert for Consumers.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Штрафы за ИИ-дипфейки до €35 млн. в Испании

В продолжение темы жесткого закручивания гаек насчет генерации неконсенсуального сексуального контента (см. пост про США). В начале мая на уровне Евросоюза было достигнуто соглашение про полный запрет таких систем ИИ, поводом к такому единодушию послужил скандал с Grok (все серии здесь).
Испания же вчера (26 мая 2026 года) пошла дальше. Совет министров Испании официально одобрил и направил в парламент проект Organic Law on AI Governance.

👀 Проект закона вводит:
▪️Запрет на создание и распространение сексуализированного синтетического контента без согласия,
▪️ Усиленный режим защиты детей,
▪️ Обязательную маркировку ИИ-контента (явное обозначение контента, как созданного или изменённого с помощью ИИ).
И это распространяется не только на медиа-платформы, но и на и на любой контент ( маркетинговые материалы и бренд-активы (рекламные баннеры, креативы), коммуникация с клиентами (персонализированные ИИ-рассылки, аватары поддержки), обучающие и внутренние материалы для сотрудников, использование любых ИИ-инструментов для улучшения фото и видео ), хотя это противоречит с EU AI Act и скорее всего скорректируют.
Испанцы заимствуют логику наложения штрафов из GDPR и EU AI Act, а это от €35 млн. до 7% глобального годового оборота компании.

❕Фактически речь идёт о необходимости вести учёт любых бизнес-процессов, где используется генеративный ИИ, чего сейчас нет у большинства компаний.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator