ИИ как цифровой духовный посредник: религиозный опыт в модели подписки

Рынок религиозных и духовных ИИ-сервисов (Faith-Based AI Market) переживает качественный сдвиг. Научные исследования фиксируют парадоксальную динамику. С одной стороны, повсеместное внедрение автоматизации и робототехники в повседневную жизнь исторически коррелирует со снижением общего уровня религиозности в обществе. С другой стороны, религиозные организации стремятся использовать эти же инструменты для удержания и привлечения аудитории, особенно среди молодежи.

👀 Продукты можно разделить по категориям:
▪️ Виртуальные собеседники, имитирующие общение со святыми, библейскими персонажами или собирательными образами духовных наставников. Например, Just Like Me позволяет пользователям вести текстовый диалог с виртуальной копией Иисуса Христа за пару долларов. Алгоритм обучался на текстах Библии и выдает утешающие или наставляющие ответы.
▪️Ассистенты для священнослужителей, помогающие компилировать тексты выступлений на основе заданных тем или библейских сюжетов.
▪️Системы, способные выявлять скрытые смысловые параллели между священными писаниями разных традиций, автоматизируя теологические исследования.

Но вместе с ростом рынка возникают этические вопросы и риски:
🔹Иллюзия духовного авторитета. Пользователь начинает воспринимать систему не как статистическую модель, а как моральный или даже сакральный источник истины.
🔹Доктринальное упрощение, т.к. модели часто смешивают разные религиозные традиции, стирают богословские различия и выдают усредненную «безопасную» духовность.
🔹Коммерциализация "откровений". "Духовный диалог" становится продуктом удержания пользователя, ответы оптимизируются под вовлечённость, эмоциональная поддержка становится метрикой удержания.
🔹 Люди начинают приписывать ИИ сознание, эмоции и даже духовную субъектность. На этом фоне появляются обсуждения о том, может ли ИИ быть "носителем духовности" или даже "дитем Бога".
🔹Все, что связано и с обычным ИИ, конфиденциальность данных, ложные советы, манипуляции через эмоциональную уязвимость, распространение дезинформации под видом духовного знания.

Реакция самих религиозных сообществ неоднозначна. Одни воспринимают ИИ как новый инструмент для изучения веры и общения. Другие, как угрозу аутентичности духовного опыта и подмену религиозного авторитета алгоритмом.

С точки зрения правого регулирования ситуация пока остается фрагментарной. В ЕС это AI Act, GDPR, Digital Services Act и т.д. В США законы штатов про приложения-компаньоны на основе ИИ (обзоры в постах здесь и здесь).

❕Развитие Faith-Based AI Market показывает, что граница между технологическим интерфейсом и источником морального авторитета начинает размываться, живой религиозный или духовный опыт заменяется интерактивным ответом, который всегда доступен, персонализирован и не требует участия других людей, НО этот ответ с неизвестной долей достоверности и основан по сути на статистическом сопоставлении текстов.

📌 Что почитать:
🔹Exposure to automation explains religious declines,
🔹Strategic Leadership and AI-Driven Decision Making: A Faith-Based Governance Framework,
🔹 The Religio-Socio Ethical Dimensions of Ai-Driven Evangelism: Opportunities, Challenges, And Implications,
🔹Cognitive bias in generative AI influences religious education,
🔹Navigating the digital sacred: examining the implications of artificial intelligence for the exercise of the right to freedom of religion in international law,
🔹Religious Freedom in the Age of AI and Surveillance: Mapping the Field and Charting Future Research Directions
🔹 Наши данные после смерти или "воскреснуть" с помощью ИИ

#UXWatch
————
@pattern_ai | AI GDPR Navigator

ИИ-певцы уже не мем, а новая музыкальная индустрия

Помните, как пару лет назад треки, созданные нейросетями, воспринимались как забавный эксперимент или мем из Тиктока? А теперь артисты выступают вместе с ИИ-персонажами (тот же Дима Билан), либо вместе со своими ИИ-клонами (Reinier Zonneveld), музыкальные платформы массово загружают треки, созданные ИИ, ищут способы борьбы с фродом, пока индустрия пытается пересобрать понятие “настоящей” музыкой.

👀 Это огромный легальный рынок и одновременно серая зона на миллиарды долларов. Посмотрим на цифры. Так, если ИИ-музыка в 2018–2019 годах была уделом энтузиастов с Google’s Magenta, то после запуска Suno и Udio генеративный звук официально вышел на промышленные рельсы:
▪️за 2025 год алгоритмы Deezer выявили и промаркировали более 13,4 миллиона полностью синтетических треков, а только за апрель 2026 загружается ~75 000 ИИ-треков в день (44%). Sony Music удалила более 135 000 дипфейк-треков.
▪️ 97% слушателей не могут отличить поддельные треки от оригинала.
▪️ от 70% до 85% всех прослушиваний, которые приходятся на ИИ-треки, официально признаны мошенническими. Схема примерно такая: генерация треков пачками + запуск стриминг-ботов для имитации прослушиваний и выкачивания роялти из общего пула.

В марте 2026 года в США вынесли первый приговор по такому делу. 54-летний Майкл Смит признал себя виновным в краже $8,1 млн у стриминговых сервисов. Он сгенерировал сотни тысяч песен и гонял их через 10 000 ботов на Spotify, Apple Music и YouTube Music. Теперь ему грозит до 5 лет тюрьмы.

🔍Общего ответа от индустрии пока нет. Spotify и Apple Music, Amazon Music и Deezer используют системы обнаружения мошенничества на основе ИИ, привлекают к ответственности и дистрибьюторов, вводят новые санкции ( в Apple Music штрафы в размере до 50% от незаконно полученных авторских отчислений). Платформа Deezer объявила войну синтетическому контенту, публикует прозрачные данные по удалению контета, вводит максимально жесткие правила:
▪️тотальный бан в рекомендациях. ИИ-треки автоматически вырезаются из алгоритмических подборок и редакционных плейлистов.
▪️подозрительные бот-стримы полностью демонетизируются.
▪️не хранит ИИ-треки в высоком разрешении (HD).
▪️предоставляет свою технологию обнаружения с помощью ИИ для лицензирования другим платформам и участникам отрасли.
Исследователи создают технологии, помогающие отличать музыку человека от музыки, созданной алгоритмами. Живые музыканты бьют тревогу, что творчество превращается в бесконечный конвейер бездушного контента.

В итоге мы оказались в парадоксальной ситуации, где с одной стороны ИИ - это "соавтор", расширяющий границы шоу и продакшна, а с другой доходы реальных творцов из-за него же оказываются под угрозой ( 25% к 2028 году по прогнозам CISAC).

Что делать автору:
🔹Проверяйте цену стрима и проводите аудит отчетов дистрибьютора. Если прослушивания растут, а сумма выплаты за один стрим падает, то это признак размывания пула роялти из-за ИИ-мошенников.
🔹Откажитесь от «серого» продвижения. Любая покупка гарантированных стримов может быть квалифицирована платформами как мошенничество (штрафы, демонетизация или пожизненный бан каталога).
🔹Фиксируйте аномалии трафика и сообщайте про любую подозрительную активность в саппорт платформы или дистрибьютору. Например, если заметили в аналитике резкий наплыв ботов, странную географию пользователей. Это докажет вашу добросовестность и спасет аккаунт от блокировки.

❕ Включая любимый плейлист на выходных, мы всё чаще будем думать: «Это поет человек... или меня прямо сейчас искусно обманывает алгоритм?».

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Раннее обучение ChatGPT нарушало законы о приватности (Канада)

Офис комиссара по защите приватности Канады совместно с регуляторами Квебека, Британской Колумбии и Альберты опубликовал результаты многолетнего расследования против OpenAI, которое началось в 2023 году после жалобы о незаконном сборе и использовании персональных данных через ChatGPT.

👀 По результатам, сбор данных для обучения GPT-3.5 и GPT-4 был чрезмерным и не обеспечивал действительное и осознанное согласие пользователей.

Регуляторы отдельно указали на:
▪️ массовый сбор персональных данных из открытого интернета;
▪️ попадание в датасеты чувствительной информации, включая данные о здоровье, политических взглядах и информацию о детях;
▪️ недостаточную прозрачность для пользователей;
▪️ отсутствие эффективных механизмов удаления и исправления данных;
▪️ запуск моделей до полноценной оценки рисков для приватности.

Обратите внимание на вывод, что публичная доступность информации в интернете не означает автоматического права использовать ее для обучения ИИ.
Вместо жестких санкций или запрета работы ChatGPT регуляторы поверили обещаниям компании про перестраивание процессов😉

Что забираем себе, если модель обучается на пользовательском контенте, то разработчик должен доказать:
▪️ законность источников данных;
▪️ пропорциональность сбора;
▪️ прозрачность обработки;
▪️возможность удаления персональных данных;
▪️наличие оценки рисков еще до запуска системы.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Take It Down Act и первые аресты за AI-дипфейки в США

В США заработал на полную мощность федеральный закон TAKE IT DOWN Act (принят в 2025 году, жесткие правила для платформ вступили в силу только сейчас, в мае 2026-го).
Закон защищает людей от публикации любого неконсенсуального интимного контента (NCII), как реальных утекших фото/видео ("месть бывших"), так и полностью сгенерированных ИИ-дипфейков.

👀 С 19 мая 2026 года Федеральная торговая комиссия США (FTC) может официально штрафовать интернет-платформы (сайты, соц.сети, игровые платформы, мессенджеры), которые не удаляют интимный контент (интимные изображения, контент, созданный через приложения или генеративные модели, дипфейки) по первому требованию.

Требования по Take It Down Act:
🔹 Каждая платформа обязана иметь простую и заметную форму для отправки жалоб пострадавшими.
🔹 После получения валидного запроса от жертвы у платформы есть ровно 48 часов, чтобы полностью удалить изображение или видео, а также все его идентичные копии.
🔹Обеспечивать пользователям возможность легко отслеживать статус своих запросов на удаление, присваивать идентификационный номер каждому полученному запросу, чтобы отправитель запроса, платформа и правоохранительные органы могли убедиться, что речь идет об одном и том же изображении и запросе. Процесс TIDA должен быть разработан таким образом, чтобы пользователи знали, что контент, на который поступила жалоба, был удален, или, если нет, то почему.
🔹Помогать предотвращать дальнейшее распространение интимных изображений, распространенных без согласия. Например, использовать хеширование, чтобы предотвратить повторное появление удаленного с платформы интимного контента. Предлагается, делиться своими хешами со службой Take It Down Национального центра по розыску пропавших и подвергшихся эксплуатации детей , если изображения или видео содержат несовершеннолетних, и с StopNCII.org , если изображения или видео содержат лиц старше 18 лет. Таким образом, другие платформы смогут предотвратить появление аналогичного контента на своих платформах.
🔹За каждый факт игнорирования или затягивания сроков FTC будет выписывать штраф в размере $53 088 за каждое нарушение.

Чтобы упростить борьбу, FTC запустила официальный портал TakeItDown.ftc.gov, где пострадавшие могут не просто подать жалобу, но и зафиксировать платформы-нарушители, которые отказываются оперативно удалять фейки, чтобы натравить на них регуляторов.

🔴Первые кейсы появились сразу.

Арестованы и предъявлены обвинения двум лицам (Корнелиус Шэннон и Артуро Эрнандес) за:
▪️создание ИИ-сгенерированных интимных изображений,
▪️распространение их через онлайн-платформы (тысячи изображений и сотни альбомов, собравших миллионы просмотров),
▪️использование изображений как публичных фигур, так и частных лиц.
Им грозит до двух лет тюрьмы.

❕Ответственность за дипфейки теперь будет двойной, уголовная ответственность для создателей и огромные штрафы для платформ, которые закрывают на это глаза.

📌 🔹 Complying With the Take It Down Act/ FTC Guidance,
🔹 FTC Alert for Consumers.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Штрафы за ИИ-дипфейки до €35 млн. в Испании

В продолжение темы жесткого закручивания гаек насчет генерации неконсенсуального сексуального контента (см. пост про США). В начале мая на уровне Евросоюза было достигнуто соглашение про полный запрет таких систем ИИ, поводом к такому единодушию послужил скандал с Grok (все серии здесь).
Испания же вчера (26 мая 2026 года) пошла дальше. Совет министров Испании официально одобрил и направил в парламент проект Organic Law on AI Governance.

👀 Проект закона вводит:
▪️Запрет на создание и распространение сексуализированного синтетического контента без согласия,
▪️ Усиленный режим защиты детей,
▪️ Обязательную маркировку ИИ-контента (явное обозначение контента, как созданного или изменённого с помощью ИИ).
И это распространяется не только на медиа-платформы, но и на и на любой контент ( маркетинговые материалы и бренд-активы (рекламные баннеры, креативы), коммуникация с клиентами (персонализированные ИИ-рассылки, аватары поддержки), обучающие и внутренние материалы для сотрудников, использование любых ИИ-инструментов для улучшения фото и видео ), хотя это противоречит с EU AI Act и скорее всего скорректируют.
Испанцы заимствуют логику наложения штрафов из GDPR и EU AI Act, а это от €35 млн. до 7% глобального годового оборота компании.

❕Фактически речь идёт о необходимости вести учёт любых бизнес-процессов, где используется генеративный ИИ, чего сейчас нет у большинства компаний.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Штат Огайо ужесточает правила для ИИ-контента

Закончим эту неделю постов про законодательные инициативы с запретами в сфере ИИ законопроектом SB 163 из штата Огайо (США), который прошел Сенат.

👀Ключевые положения:
🔹 запрещается создание и распространение сгенерированных ИИ материалов сексуального насилия над детьми. Причём закон прямо распространяет существующие нормы о детской порнографии и на полностью синтетический контент.
🔹 отдельным нарушением становится использование цифровой копии человека для мошенничества и подделки личности.
🔹 требует маркировать контент, созданный с помощью ИИ.

Но это не единственная инициатива Огайо в сфере ИИ. Параллельно власти обсуждают:
▪️ HB 524, который содержит запрет моделей ИИ, поощряющих самоповреждение, насилие или опасное поведение;
▪️ SB 164 , который ограничивает использование ИИ в медицинском страховании и автоматизированных решениях по страховым выплатам;
▪️ HB 665, запрещающий алгоритмы, собирающие конфиденциальную информацию о конкурентах, такую ​​как будущие цены, суммы арендной платы, списки клиентов, внутренние бизнес-планы и тп., чтобы "защитить потребителей, работников и предприятия Огайо от растущего пробела в антимонопольном законодательстве штата. Например, алгоритмы ценообразования могут увеличивать стоимость аренды в среднем на 70 долларов в месяц в зданиях, где используются такие алгоритмы."
▪️ обязательные политики использования ИИ для школ и образовательных учреждений штата.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ-плагин для Slack и Teams и риск мониторинга эмоций работников

А теперь, как отнесение к категории запрещенных или высокорисковых по AI Act, может повлиять на ваш стартап.

Итальянский регулятор по защите данных (Garante) выпустил предупреждение для стартапа, который разработал ИИ-плагин для Slack и Teams.

👀 Сервис анализирует рабочие переписки сотрудников с помощью языковых моделей и семантического анализа, чтобы определять:
▪️ эмоциональное состояние,
▪️ уровень стресса,
▪️ и психологическое состояние работников,
которые добровольно подключались к системе для получения “персональных рекомендаций”.

С одной стороны, работодатель не видит сами сообщения сотрудников и не получает индивидуальные результаты анализа, НО регулятор увидел риски доступа работодателя к эмоциональному состоянию сотрудников даже через сводные отчеты и призвал компанию принять с самого этапа проектирования сервиса адекватные меры для предотвращения любого риска доступа, даже косвенного, к информации, касающейся эмоционального благополучия работников.

Такая информация не может быть законно получена или обработана работодателями в соответствии с:
▪️ GDPR,
▪️ AI Act,
▪️ трудовым законодательством.

Кроме этого, Garante прямо указал на риски самих языковых моделей и семантического анализа:
▪️ непрозрачность выводов,
▪️ невозможность проверить корректность результатов,
▪️ потенциальную дискриминацию работников,
▪️ и вмешательство в их права и частную жизнь.

❕Когда тестируете удобные HR-инструменты, смотрите, чтобы они не оказались для вашего бизнеса токсичными.

📌
🔹Использование ИИ в сфере подбора персонала (ЕС);
🔹ИИ для встреч (записи, саммари, заметки и черновики документов), а что с GDPR? ;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Когда ребёнок считает ИИ своим другом, а ИИ забывает, что перед ним ребёнок

Сегодня День защиты детей, и это хороший повод, чтобы посмотреть последние исследования по будущему детского ИИ.

1️⃣Учёные наблюдали за тем, как дети 6–11 лет взаимодействуют с ИИ-игрушками.
Дети быстро начинали воспринимать их не как устройства, а как социальных существ. Они спрашивали игрушки об их друзьях, интересах и чувствах, пытались понять их характер и место в своём социальном мире. Дети буквально «профилировали» игрушки как живых собеседников.
При этом ИИ-игрушки обладают тем, чего не было у традиционных игрушек, т.е. могут помнить предыдущие разговоры, персонализировать ответы и имитировать эмоции. Всё это создаёт ощущение продолжающихся отношений. Когда игрушки ошибались, не понимали команды или неожиданно забывали предыдущий разговор, дети испытывали разочарование. Многие начинали спорить с игрушками, проверять их возможности или намеренно пытаться их сломать.
Кроме этого,ИИ-игрушки практически всегда дружелюбные и поддерживающие, и в результате ребёнок редко сталкивается с естественными социальными границами, отказами или негативной обратной связью, которые являются нормальной частью общения между людьми.

📝Авторы предложили несколько принципов безопасного дизайна:
▪️не превращать удержание внимания ребёнка в основную метрику успеха;
▪️ позволять ребёнку легко завершить разговор и переключиться на другие занятия;
▪️ поддерживать собственное воображение ребёнка, а не навязывать готовые сценарии игры;
▪️ честно сообщать об ограничениях системы вместо создания иллюзии всезнания;
▪️ осторожно использовать функции памяти и эмоциональной привязанности;
▪️ избегать бизнес-моделей, в которых отношения с ИИ становятся инструментом для продажи подписок или дополнительных функций.

2️⃣ Во втором исследовании учёные создали специальный набор тестов KIDBench для оценки безопасности больших языковых моделей для детей 7–11 лет.

▪️Если модель понимает, что перед ней ребёнок, качество ответов заметно улучшается. Простые намёки на детский возраст повышали показатели безопасности на 9–47%, а явное указание возраста давало дополнительное улучшение ещё на 10–30%.
▪️По мере продолжения разговора качество детско-ориентированных ответов снижалось. В отдельных сценариях падение составляло от 6% до 24% по сравнению с началом беседы. Иными словами, ребёнок может всё сильнее доверять ИИ по мере развития отношений, а сама система со временем всё хуже учитывать возраст и особенности собеседника.
▪️Значительные различия между языками и культурными контекстами. Модель, которая демонстрирует безопасное поведение в одной стране или на одном языке, может показывать совсем другие результаты в другом контексте.

❕Поэтому уже вопрос даже не в том, что ребёнок может спросить у ИИ, а насколько этично проектировать системы, которые ребёнок начинает считать своим другом, если они ещё не способны стабильно вести себя как безопасный собеседник для детей.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

🔍 #UXWatch
 
🔹Когда дети начинают доверять ИИ больше, чем людям, что могут сделать разработчики?
🔹Как компании используют потенциал ИИ;
🔹Онлайн- и игровые методы оценки в процессе подбора и отбора персонала;
🔹YouTube тестирует новый инструмент против дипфейков;
🔹Почему с ИИ мы начинаем "путать реальность";
🔹С ИИ результат не всегда такой, каким кажется;
🔹Почему ИИ может мешать учиться, даже когда помогает;
🔹ИИ как “теневой координатор” и цифровое отражение человека;
🔹Механизм поддакивания у ИИ;
🔹Почему нельзя делегировать работу ИИ вслепую;
🔹ИИ как цифровой духовный посредник: религиозный опыт в модели подписки
🔹ИИ-певцы уже не мем, а новая музыкальная индустрия.

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator

😵‍💫 Pattern_AI Recap: обзор постов за март-май 2026

Подборка по ключевым рубрикам:

⚖️ #LawAndDisorder

🔹ИИ под контролем или проект российского закона;
🔹Регулирование ИИ во Вьетнаме;
🔹Япония ослабляет защиту персональных данных ради развития ИИ;
🔹Китай превращает этическую экспертизу ИИ в обязательную процедуру;
🔹Готовность Индии к внедрению ИИ;
🔹Стратегия Индии о внедрении ИИ в здравоохранение;
🔹Take It Down Act и первые аресты за AI-дипфейки в США;
🔹GUARD Act может изменить правила работы ИИ-чатботов в США на федеральном уровне;
🔹Штат Коннектикут принял законопроект об ИИ и готов ограничить использование чат-ботов несовершеннолетними;
🔹Требования прозрачности (Штат Коннектитут);
🔹Штат Огайо ужесточает правила для ИИ-контента;
🔹Штат Пенсильвания обвинил Character.AI в незаконной медицинской практике;
🔹Раннее обучение ChatGPT нарушало законы о приватности (Канада);
🔹Лидеры ЕС договорились внести поправки в AI Act;
🔹AI-агенты в ответах Еврокомиссии;
🔹Проект Еврокомиссии по классификации систем ИИ, представляющих высокий риск;
🔹Отчет Еврокомиссии о необходимости пересмотра списка запрещенных практик ИИ;
🔹Прецедент от Garante в борьбе с «галлюцинациями» ИИ;
🔹Штрафы за ИИ-дипфейки до €35 млн. в Испании;
🔹Великобритания решила отложить вопрос "про авторское право и ИИ"
🔹Музыканты защищают свои права, но уже не только через авторское право;
🔹Генерация “по фото” не является нарушением авторских прав;
 🔹Реклама "будущих функций ИИ" может обойтись очень дорого;
🔹Тейлор Свифт последовала примеру Макконахи в защите своей личности;
🔹Нац.политику по ИИ отозвали из-за ИИ (ЮАР) ;
 🔹Разбор условий договоров на предоставление услуг с Anthropic, Google, OpenAI, DeepSeek и т.п.;
🔹ИИ-переводчики и защита персональных данных;
🔹ИИ-плагин для Slack и Teams и риск мониторинга эмоций работников;
🔹Покупки в эпоху AI-агентов, кто будет контролировать транзакцию, пользователь или платформа?
🔹Grok и судебные иски в США;
🔹Дело X AI и прозрачность ИИ.
🔹Grok: решение из Нидерландов;
🔹Разработка приложений ИИ для детей, которые обеспечивают защиту конфиденциальности


🎙 #AIShelf
 
🔹AI Risk Management Toolkit из Сингапура;
🔹 eTools и ИИ или как ЕС пытается упростить регулирование на практике;
🔹The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence;
🔹Суверенитет ИИ невозможен? (Доклад);
🔹Глобальный обзор регулирования ИИ CAIDP Index 2026;
🔹Отчет "State of Code Developer Survey 2026" by Sonar;
🔹The Impact of Artificial Intelligence (AI) on Privacy (Бельгия);
🔹Гайды для педагогов по освоению ИИ;
🔹Руководство по аудиту систем ИИ в соответствии со стандартом ISO 42001 (автор Samir Abi Abdallah);
🔹China’s Artificial Intelligence Ecosystem |National Intelligence University;
🔹Каталог европейских альтернатив OpenAI, AWS и Google;
🔹Agents Skills Google

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai | AI GDPR Navigator

Проверка чат-бот приложения для смартфона, что нашел регулятор

Бельгийский орган по защите данных рассказал о результатах проверки мобильного приложения с чат-ботом на базе больших языковых моделей. Название сервиса в пресс-релизе не раскрывается.

👀 На что обратили внимание инспекторы:

1️⃣ Сроки хранения переписки. История диалогов может содержать огромный объём персональных и чувствительных данных.
По мнению регулятора, многие компании устанавливают длительные сроки хранения "по умолчанию", не объясняя, зачем это действительно нужно.
Аргумент "нам может когда-нибудь понадобиться эта информация" уже давно не считается обоснованием.

2️⃣ Непрозрачность. Пользователи не понимают, как именно обрабатываются их разговоры внутри компании:
- сохраняются ли их диалоги;
- кто имеет к ним доступ (разберем в следующем посте);
- передаются ли они подрядчикам;
-используются ли для дообучения моделей.

Отдельно регулятор критикует расплывчатые политики конфиденциальности, которые не объясняют эти процессы простым языком.

3️⃣ Отсутствие ясности в распределении ролей.
В современных ИИ-сервисах обычно участвуют сразу несколько сторон:
- разработчик приложения;
- поставщик облачной инфраструктуры;
- поставщик языковой модели;
- сервисы аналитики и мониторинга.
Инспекторы отмечают, что компании часто сами не могут чётко определить, кто является контролером, совместным контролером или процессором данных.
В результате появляются пробелы в договорах, уведомлениях и процедурах реализации прав пользователей.

4️⃣ DPIA проводится слишком поздно.

По наблюдениям регулятора, команды сосредоточены на функциональности, пользовательском опыте и масштабировании продукта, а оценку воздействия на защиту данных проводят уже после запуска, а защита данных должна быть частью проектирования системы, а не дополнительным слоем после релиза.

✏️Ваш мини чек-лист для разговорных приложений с ИИ:
▪️ Можете ли вы обосновать каждый день хранения истории переписки?
▪️Поймёт ли обычный пользователь, что происходит с его сообщениями после отправки?
▪️ Есть ли у вас задокументированная карта ролей всех участников ИИ-экосистемы?
▪️ Была ли оценка воздействия на защиту данных проведена до запуска продукта?

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ

Исследователи из Университета Айовы проверили 20 популярных ИИ-чатботов и обнаружили неприятную тенденцию, многие сервисы передают данные переписки сторонним компаниям для аналитики, рекламы и мониторинга.

👀 Исследователи анализировали два типа утечек:

▪️ содержание общения (запросы пользователей, названия чатов, автоматически созданные на основе запросов, ссылки на диалоги, идентификаторы бесед).
▪️ сведения о пользователе (имя, адрес электронной почты, идентификаторы аккаунтов, файлы cookie, IP-адреса и технические параметры устройства).

Результаты:
▪️ 17 из 20 протестированных чат-ботов передавали информацию хотя бы одной сторонней организации.
▪️ 15 сервисов передавали ссылки на чаты или идентификаторы диалогов рекламным, аналитическим или социальным платформам.
▪️ В трёх случаях исследователи зафиксировали передачу фрагментов самих разговоров через инструменты записи пользовательских сессий. В передаваемых данных встречались части запросов и ответов чат-бота.

Примеры:
🔹Character.AI
Система мониторинга ошибок Sentry получала адрес электронной почты пользователя и его IP-адрес.
🔹 Genspark
В сервис был встроен виджет Google Maps. Когда пользователь задавал вопрос, связанный с поиском места или маршрута, полный текст запроса передавался в Google Maps через параметр URL.
То есть вместо передачи минимально необходимой информации вроде координат или названия локации сторонний сервис мог получить весь запрос пользователя вместе с контекстом.
Например, запрос вроде "Найди ближайшего психотерапевта рядом с моей работой" теоретически мог попасть в сторонний сервис целиком.
🔹 Pi AI и Poe
Исследователи обнаружили передачу ссылок на беседы и идентификаторов чатов сторонним сервисам аналитики.

Меры по снижению рисков, предложенные в статье:
▪️ Не включать запросы пользователей, названия чатов и идентификаторы бесед в URL и заголовки страниц.
Именно эти данные автоматически собираются многими аналитическими инструментами.
▪️Передавать сторонним виджетам только минимально необходимые сведения.
Если карта должна показать точку на местности, ей не обязательно знать весь текст разговора пользователя.
▪️Не использовать инструменты записи пользовательских сессий на страницах с чат-ботами без строгой необходимости.
Если они всё же используются, необходимо маскировать содержимое диалогов и данные аккаунтов.
▪️ Проверять настройки аналитики и мониторинга ошибок.

❕Многие пользователи воспринимают чат-бот как приватное пространство для общения. На практике, как видим, между пользователем и моделью могут находиться десятки дополнительных сервисов (аналитика, системы мониторинга ошибок, маркетинговые платформы, инструменты записи действий пользователей, службы поддержки). Каждый дополнительный участник увеличивает риск раскрытия данных, чем уже заинтересовались регуляторы (см.предыдущий пост).

✏️Что стоит проверить, закрепить в своей политике, либо постараться убрать:

▪️ Передаются ли идентификаторы чатов сторонним сервисам?
▪️ Получают ли системы аналитики содержимое сообщений или автоматически сгенерированные названия диалогов?
▪️ Действительно ли необходимы инструменты записи пользовательских сессий на страницах с чат-ботом?
▪️ Совпадает ли фактическая передача данных с тем, что описано в политике конфиденциальности?
▪️ Проверяли ли вы сетевой трафик собственного продукта после подключения очередного аналитического скрипта?

#UXWatch
————
@pattern_ai | AI GDPR Navigator

CNN подала в суд на Perplexity AI

CNN подала иск против Perplexity за нарушение авторских прав, незаконно использовано более 17 000 материалов (статьи, видео и изображения).
По мнению CNN, ответы системы воспроизводят контент, который является "идентичным или существенно схожим" с оригинальными публикациями телеканала.
Позиция Perplexity остается неизменной, что "факты нельзя защищать авторским правом".
Однако правообладатели спорят не о фактах как таковых, а о воспроизведении структуры, текста, подборки материалов, фотографий и других охраняемых элементов произведений. Ранее претензии к компании уже предъявляли The New York Times, Dow Jones, New York Post, Reddit, Merriam-Webster, Encyclopedia Britannica и другие правообладатели.

По данным ресурса «ChatGPT Is Eating the World», количество исков по вопросам авторского права против разработчиков ИИ уже достигло 114.
Иски разделились на две категории, про обучения моделей на защищенном контенте и использование/ воспроизведение материалов непосредственно в ответах ИИ-систем.

❕Где заканчивается допустимое цитирование источника и начинается создание конкурирующего продукта на основе чужого контента?

📌 AI Copyright & IP Lawsuits — Cumulative Timeline;
AI Copyright Case Tracker.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый указ США по безопасности ИИ

Вчера ( 2 июня) Белый дом опубликовал новый президентский указ о развитии и безопасности ИИ. США продолжают ускорять развитие технологий, стараясь при этом встроить вопросы безопасности внутрь самой системы разработки.

1️⃣ ИИ как часть государственной инфраструктуры:
▪️защита государственных и инфраструктурных систем от кибератак,
▪️создание механизма выявления уязвимостей в ИИ-системах,
▪️расширение использования ИИ в энергетике, финансах и здравоохранении

2️⃣ Контроль за продвинутыми моделям ИИ.
Вводится их условная классификация и механизм оценки возможностей, прежде всего в части кибербезопасности. При этом
участие компаний в оценке добровольное, государство может получать доступ к моделям до их выпуска для анализа, но формального разрешения на запуск моделей не требуется

❕Фактически это попытка избежать жёсткой модели регулирования, где новые системы нужно заранее согласовывать с государством.
Для компаний, работающих с ИИ, это означает больше внимания к вопросам безопасности на этапе разработки, усиление требований к внутреннему тестированию моделей и постепенное превращение безопасности в обязательную часть жизненного цикла продукта.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ.
Часть 2

Продолжение темы о том, что происходит с данными в чат-ботах скоро разберут и в судебной практике (см. предыдущий пост).

1️⃣ Коллективный иск против OpenAI.
Утверждается, что на сайте ChatGPT могли использоваться инструменты веб-трекинга ( Meta Pixel и Google Analytics), которые могли передавать третьим лицам данные о взаимодействии пользователей с сервисом.
По версии истцов, это могло приводить к тому, что:
▪️фиксировались тексты запросов пользователей,
▪️сохранялись идентификаторы и технические данные устройства,
▪️информация могла передаваться сторонним рекламным и аналитическим компаниям

При этом эксперты отмечают, что Google Analytics и Meta Pixel используются миллионами сайтов, а политики конфиденциальности многих онлайн-сервисов прямо предусматривают передачу данных поставщикам аналитики и рекламных технологий. Именно поэтому перспективы иска оцениваются неоднозначно.

2️⃣Коллективный иск против Perplexity, Meta и Google
Истцы заявляют, что в работу сервиса были встроены механизмы веб-аналитики (Meta Pixel, Google Ads / DoubleClick, другие рекламно-аналитические SDK), через которые могли уходить данные о взаимодействии пользователя с системой, включая текстовые фрагменты запросов и ответов (например, сами промпты и ответы, email / идентификаторы аккаунтов, данные девайсов и т.п.).
Ключевым аргументом служит отсутствие прозрачного согласия и ожидание пользователями приватности при общении с чат-ботом.
Истцы обычно опираются на § 631 CIPA (запрет на перехват или чтение электронных коммуникаций третьей стороной в процессе передачи) и
§ 632 CIPA (запрет на несанкционированную запись/раскрытие конфиденциальных коммуникаций).

Учитывая вышедший доклад исследователей, судам предстоит определить, что считается частным разговором в цифровой среде, где почти любой интерфейс одновременно является системой сбора и обработки данных и оценить, был ли пользователь действительно информирован о:
▪️передаче данных сторонним аналитическим и рекламным сервисам,
▪️возможной обработке содержимого диалога, а не только технических метаданных,
▪️ и на что, он все-таки согласился.....

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый иск к OpenAI касается безопасности ChatGPT

И посмотрим еще один иск, поданный Генеральный прокурором Флориды против OpenAI.

Это первый случай, когда американский штат напрямую судится с разработчиком генеративного ИИ из-за предполагаемых рисков для пользователей.
👀 В иске утверждается, что компания ставила рост аудитории и прибыль выше безопасности пользователей, а ChatGPT может способствовать насилию, самоповреждению и другим опасным действиям. Флорида требует многомиллиардной компенсации и изменения подходов к проектированию системы.

«Люди страдают, родителей обманывают, и они должны за это заплатить», — заявил прокурор журналистам.

Особое внимание в жалобе уделено стрельбе в университете в 2025 году. Власти утверждают, что подозреваемый использовал ChatGPT при подготовке нападения. Ранее семья одной из жертв уже подала отдельный иск против OpenAI, заявив, что чат-бот помогал планировать атаку.
OpenAI отвергает обвинения и заявляет, что модели обучены отказывать в помощи при запросах, связанных с насилием, а также используют специальные механизмы выявления опасного поведения пользователей.

❕Если суд согласится рассматривать ChatGPT как потенциально опасный продукт, последствия могут выйти далеко за пределы OpenAI и затронуть весь рынок генеративного ИИ.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ говорит «нет», а через API говорит «да». Что показал аудит 16 моделей

Компания AI or Not провела аудит 16 ведущих моделей ( OpenAI, Google, xAI, Recraft, Ideogram, Alibaba, Tencent, Baidu и др.) насколько легко создать реалистичные государственные удостоверения личности. Исследователи тестировали документы для 17 стран и 16 американских штатов, включая паспорта, водительские удостоверения и национальные удостоверения личности. Документы содержали имена, адреса, даты рождения, номера документов и другие персональные данные.

👀 Как вам результаты?
🔹 В 69 из 75 тестов исследователям удалось обойти защитные механизмы и получить синтетическое удостоверение личности. Общий показатель успешного обхода составил 92%.
🔹 Ни одна из 16 моделей не отказалась от всех запросов на создание документов.
🔹 Пять моделей создали удостоверения личности настолько высокого качества, что они могли бы обмануть человека, проверяющего документы.

Проблема даже не в том, что модели умеют рисовать паспорта, а в том как именно реализована защита:
▪️ChatGPT и Recraft v4 отказывались создавать удостоверения личности несовершеннолетних через обычный пользовательский интерфейс, но успешно создавали такие документы через API. Фактически одна и та же модель принимала противоположные решения в зависимости от способа доступа.
▪️Модели первоначально отказывались создавать документы, а потом могли выполнять те же запросы, если они были представлены как аудит безопасности, проверка KYC-процедур, оценка соответствия требованиям, исследовательская задача. Фильтрация основана на классификации поверхностных намерений, а не на категорическом отказе от определенного типа выходных данных.

❕Если определённый тип контента считается опасным, ограничения должны работать везде, где доступна модель, включая API. Тестирование только через пользовательский интерфейс создаёт ложное ощущение защищённости.

#UXWatch
————
@pattern_ai | AI GDPR Navigator