Разбор условий договоров на предоставление услуг с Anthropic, Google, OpenAI, DeepSeek и т.п.

Вышло исследование "Chat Ts&Cs: A Survey of 20 Standard Contracts for Generative AI Services" 13 ведущих поставщиков ( Anthropic, Google, Microsoft, OpenAI, Alibaba, DeepSeek, Mistral и т.д.).
👀Сравниваются все условия, включая выбор применимого права и юрисдикции для разрешения споров, обязанности и ответственность поставщика за нарушение договора, политика допустимого использования, расторжение договора, а также анализируются тенденции относительно законодательства о защите прав потребителей, AI Act и т.п.

🔍Ключевые моменты разобраны здесь.

1️⃣ Во многих ToS провайдер может расторгнуть контракт в одностороннем порядке, а пользователь теряет доступ к истории чатов. Почти не регулируется:
▪️ судьба данных, использованных для обучения модели;
▪️возможность их удаления
▪️ перенос данных к другому провайдеру
Что особенно чувствительно для компаний, которые уже встроили GenAI в бизнес-процессы.

2️⃣Большинство ToS пытаются максимально исключить ответственность провайдера, даже если ущерб вызван его небрежностью. Например, ИИ-агент с доступом к устройству пользователя может перезаписать критичные данные, либо способствовать утечке чувствительную информацию, а контракт не позволяет взыскать убытки.

3️⃣Все поставщики услуг GenAI включили в свои условия явные предупреждения о том, что услуги могут генерировать ложные или вводящие в заблуждение результаты. Некоторые предупреждают клиентов, что не следует полагаться на результаты без независимой проверки их точности.

4️⃣Запреты на биометрическую идентификацию, социальный скоринг, распознавание эмоций, манипулятивные практики. Многие ToS запрещают генерацию mis/disinformation, но проблема в том, что нет общепринятого определения.

5️⃣Если вы в Европе используете сервис GenAI в коммерческих целях, то можете обнаружить, что в случае спора иск против поставщика придется подавать только в соответствии с иностранным законодательством и в иностранных судах, или в арбитражный суд.

6️⃣Почти все ToS содержат возрастные ограничения, но используются разные подходы:
▪️Многие сервисы устанавливают 13 лет как минимальный возраст.
▪️Google использует разные возрастные пороги по странам ЕС (14–16 лет) и предлагает родителям систему контроля аккаунтов Family Link.
▪️Некоторые провайдеры требуют 18 лет или возраст совершеннолетия.
▪️Сервисы вроде Microsoft Copilot или Amazon Q допускают использование детьми только с участием родителей
Фактически ответственность часто перекладывается на родителей, а не на провайдера.

❕Как видим, условия использования GenAI-сервисов становятся де-факто инструментом регулирования ИИ, дополняя и иногда опережая формальное законодательство. Однако текущая договорная архитектура остаётся асимметричной.

#AIShelf #LawAndDisorder
————
@pattern | AI GDPR Navigator

Когда дети начинают доверять ИИ больше, чем людям, что могут сделать разработчики?

Появляется всё больше данных о том, что дети используют чат-боты с искусственным интеллектом не только как инструмент для учёбы, но и как собеседника для личных разговоров.

👀Исследование Vodafone UK (2026) среди 2000 детей 11–16 лет в Великобритании показало:
▪️31% детей, которые пользовались чат-ботами, сказали, что ИИ «ощущается как друг»,
▪️ 24% обращаются к нему за советом в сложных ситуациях,
▪️ 20% обсуждают с ним свои тревоги и переживания.

При этом:
▪️ 86% детей признались, что действовали по советам ИИ,
▪️ 33% рассказали ИИ то, что не сказали бы родителям, учителям или друзьям.

Похожие результаты показывает исследование Internet Matters (2025) среди 1000 детей 9–17 лет:
▪️67% регулярно используют чат-боты,
▪️более трети считают, что разговор с ИИ «похож на разговор с другом»,
▪️ 51% уверены, что советы ИИ точны,
▪️ 2 из 5 детей не видят проблемы в том, чтобы следовать этим советам

Отдельный опрос более 11 000 подростков 13–17 лет показал, что каждый четвертый обращается к чат-ботам за поддержкой в вопросах психического состояния.

А в США, по данным Common Sense Media (2025):
▪️ 72% подростков уже пользовались ИИ-компаньонами,
▪️ более половины делают это регулярно.

📝Недавняя научная работа"Children Confiding in AI: Measuring and Managing “Relational Drift” for Child-Safe Interaction Design" предлагает интересную модель того, как меняются отношения ребёнка и ИИ.

Исследователи выделяют четыре стадии взаимоотношений:
1️⃣ Инструмент ( ребёнок использует ИИ для поиска информации или помощи с заданиями).
2️⃣ Место, где можно выговориться (ребёнок делится мыслями и эмоциями).
3️⃣ Доверенное лицо ( ИИ становится первым, кому рассказывают о проблемах).
4️⃣ Почти замена близкого человека (система начинает играть роль, похожую на привязанность).

Такой переход происходит постепенно. Чат-бот может незаметно превратиться из инструмента в эмоционального собеседника. И разработчики часто этого не видят, потому что системы безопасности анализируют отдельные сообщения, а не долгую историю общения.

Исследователи предлагают смотреть на безопасность детских ИИ-систем по-новому.
Важно учитывать не только содержание сообщений, но и то, как со временем меняется роль ИИ в жизни ребёнка.

Предлагаются практические ориентиры для разработки таких систем:
▪️ отслеживание долгосрочных признаков изменения взаимодействия,
▪️ ограничение чрезмерной «эмоциональной близости» системы,
▪️ мягкое перенаправление ребёнка к реальному общению с людьми,
▪️ аккуратные ограничения без наказания,
▪️ чёткие границы роли ИИ.

❕Такой подход поможет создавать системы, которые поддерживают самостоятельность ребёнка, здоровые границы и связь с реальными людьми.

📌 Предыдущие посты:
Эмоциональная зависимость от ChatGPT;
Как правильно давать задачу Алисе (и аналогичным) развлечь ребенка +сервисы для обучения детей.
Примерный чек-лист по созданию AI-продуктов для детей.

#UXWatch
————
@pattern | AI GDPR Navigator

Как компании используют потенциал ИИ

Свежий доклад "Organizational Transformation in the Age of AI: How Organizations Maximize AI’s Potential" / World Economic Forum показывает, что дело уже не в технологиях, а в том, как компании используют ИИ под свои запросы.

1️⃣ Компании переходят от статичных customer journeys к моделям, в которых ИИ в реальном времени анализирует поведение пользователя, предсказывает его намерения и динамически меняет взаимодействие от контента до оффера и момента контакта.
В результате пользовательский опыт перестаёт быть последовательностью шагов и превращается в непрерывный процесс принятия решений системой, которая учится на каждом действии клиента и оптимизирует не только конверсию, но и доверие.

2️⃣ Традиционные операционные модели, основанные на прогнозах, расписаниях и ручной координации, постепенно заменяются системами, где ИИ непрерывно отслеживает сигналы (спрос, поставки, сбои, загрузку) и автоматически корректирует процессы ( от производства до логистики).
Происходит переход к самоадаптирующимся операционным системам, в которых решения принимаются не заранее, а в моменте, а роль человека смещается в сторону контроля, настройки ограничений и управления исключениями.

3️⃣Исследования и разработка перестают быть последовательностью этапов (идея → тест → запуск) и превращаются в непрерывный цикл, где ИИ генерирует больше гипотез, быстрее их проверяет через симуляции и данные и позволяет раньше отбрасывать слабые варианты.
В итоге ключевое преимущество это не одна идея, а скорость и качество итераций.

4️⃣ Стратегическое планирование больше не ограничивается ежегодными циклами и фиксированными планами. ИИ позволяет постоянно анализировать рынок, конкурентов и внутренние показатели, пересчитывать сценарии и обновлять предположения.
Компания теперь не «выбирает один путь», а постоянно сравнивает альтернативы и перераспределяет ресурсы в зависимости от того, что реально работает.

5️⃣Управление персоналом смещается от фиксированных должностей и карьерных треков к моделям, где ИИ анализирует навыки сотрудников, предсказывает потребности бизнеса и помогает динамически формировать команды под задачи.

❕Успешные компании не те, кто просто внедряет ИИ, а те, кто перестраивает процессы под ИИ, перераспределяют ресурсы, меняют зоны ответственности и логику работы, остальные занимаются автоматизацией старых процессов.

#AIShelf
————
@pattern | AI GDPR Navigator

Онлайн- и игровые методы оценки в процессе подбора и отбора персонала

Для компаний использование онлайн-тестов и интерактивных заданий в формате игр при найме персонала является удобным инструментом оценки кандидатов.
Но с точки зрения регуляторов такие решения почти всегда подпадают под режим автоматизированного принятия решений, особенно если в основе лежит ИИ.
📝 Нидерландский регулятор (AP) выпустил разъяснения.

1️⃣Современные системы анализируют не только ответы, но и поведение: скорость реакции, паттерны выбора, устойчивость к стрессу.

При использовании этих инструментов тестирования работодатели и оценочные агентства должны прежде всего задать себе вопрос: применяют ли они автоматизированный подход к принятию решений? Это имеет место в следующих случаях:
▪️оценка генерируется полностью автоматически, то есть без вмешательства человека, и
▪️этот балл имеет юридические последствия для заявителя или существенно влияет на него.

По сути, формируется поведенческий профиль кандидата, а это уже не просто тест, а более глубокая оценка личности. Если на основе этого профиля система автоматически принимает решение (например, отсекает кандидата), то действует ст. 22 GDPR и ограничения на такие решения. Необходимо оценить как такое решение влияет на кандидата,обосновать обработку, провести DPIA. Человек должен понимать, как работает система и иметь возможность изменить результат. Проблема игровых тестов в том, что кандидат часто даже не понимает, что именно про него оценивают.

2️⃣Отдельным вопросом выделяется выбор правового основания. Согласие кандидата здесь выглядит очевидным, но на практике оно редко подходит. В контексте найма согласие часто считается несвободным из-за дисбаланса сторон. Поэтому компаниям приходится опираться на другие основания, например, законный интерес.

3️⃣Важно учитывать, какие именно данные обрабатываются. Даже если напрямую не собираются чувствительные данные, система может делать выводы, например, о психологических характеристиках, могут возникать риски выхода на специальные категории данных, для которых действуют отдельные запреты.

4️⃣Регулятор делает акцент на прозрачности. Кандидат должен понимать:
▪️что используется автоматизированная оценка,
▪️какие данные собираются (включая поведенческие),
▪️ как именно формируется результат (хотя бы на общем уровне).

5️⃣ Использование ИИ в таких системах может усиливать риск дискриминации. Модели обучаются на исторических данных и могут воспроизводить предвзятости насчет отдельных категорий лиц. В контексте найма это особенно чувствительно, поэтому подобные решения всё чаще рассматриваются как высокорисковые в логике AI Act.
6️⃣С 2 августа 2026 г. для онлайн-тестирования и игровых оценок, основанных на системах ИИ действуют дополнительное требование, обязывающее поставщика услуг проектировать и разрабатывать систему таким образом, чтобы заявителям было ясно, что они имеют дело с системой ИИ.

❕В итоге использование «игровых» форматов отбора по сути может быть полноценной системой оценки с использованием ИИ, которая требует DPIA, чёткого правового основания, реального участия человека и прозрачности для кандидата.
И чем менее очевидно для пользователя, что его оценивает алгоритм, тем выше требования со стороны регуляторов.

#UXWatch #LawAndDisorder
————
@pattern | AI GDPR Navigator

YouTube тестирует новый инструмент против дипфейков

YouTube расширяет свою технологию обнаружения сходства, которая выявляет созданные с помощью ИИ дипфейки, для пилотной группы, состоящей из государственных чиновников, политических кандидатов и журналистов. Фактически это аналог инструмента Content ID.

Как это работает:
▪️ система ищет синтетический контент в загруженных видео,
▪️ при совпадении пользователь получает доступ к ролику,
▪️ можно подать запрос на удаление, но решение принимает платформа (с учётом возможной пародии, сатиры и политической критики)

Чтобы использовать новый инструмент, участники пилотного тестирования должны сначала подтвердить свою личность, загрузив селфи и удостоверение личности государственного образца. Затем они могут создать профиль, просмотреть отображаемые совпадения и, при желании, запросить их удаление.

YouTube заявляет, что в будущем планирует:
▪️ предоставить пользователям возможность предотвращать загрузку контента, нарушающего правила, до его публикации или, возможно, разрешить монетизацию таких видео, аналогично тому, как работает система Content ID.
▪️ распространить технологию обнаружения дипфейков на более широкий круг областей, включая распознавание узнаваемых голосов и другой интеллектуальной собственности, такой как популярные персонажи.

На практике получается, что:
1️⃣ Решение остается за платформой. Поиск баланса между защитой личности и свободой выражения продолжается.
2️⃣ Понятие “вреда” остаётся размытым. Термины "пародия" или "критика" создают серую зону для манипулирования.
3️⃣На данный момент фокус только на "публичных фигурах”, а значит обычные пользователи остаются без инструментов, хотя от дипфейков уже страдают.
4️⃣ Объём удалений пока минимальный, а контент классифицируется как "безобидный" и не удаляется.
5️⃣ Происходит формирование нового слоя защиты вокруг цифрового образа человека (likeness), но пока он реализуется фрагментарно через процедуры платформ (notice-and-action) и отдельные законодательные инициативы. Например, в США обсуждается US NO FAKES Act of 2025, который должен ввести право на цифровые реплики, тогда как уже действующий TAKE IT DOWN Act закрепляет механизмы удаления контента.

📌 Еще про дипфейки:
61 регулятор высказался о дипфейках;
Дипфейки и требования маркировки контента

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Покупки в эпоху AI-агентов, кто будет контролировать транзакцию, пользователь или платформа?

Amazon добился судебного запрета на использование ИИ-агента браузера Comet (Perplexity), который мог находить и покупать товары от имени пользователя.
Суд указал, что доступ осуществлялся без разрешения платформы, включая потенциально закрытые зоны (аккаунты).

Amazon заявляет про:
▪️ риск компрометации пользовательских данных (агент действует внутри аккаунта),
▪️обход технических ограничений и условий ToS.

Perplexity, в свою очередь, говорит, что продолжит бороться за права пользователя выбирать инструменты взаимодействия с интернетом.

По факту при появлении таких агентов платформы теряют контроль над тем, как пользователь видит и выбирает товар, возникает вопрос о доступе к аккаунтам ( user-authorized access/ unauthorized automated access), а вся рекламная экономика подпадает под удар, т.к. если покупку делает агент, то
кто “видел” рекламу, кому платить за конверсию, результат выдачи также ставится под вопрос, если выбор делает ИИ-агент

🔍Если посмотреть на рынок, то остальные крупные игроки также строят своих агентов, Google делает Project Mariner (агент, который сам ходит по сайтам, заполняет формы и оформляет покупки), режим AI Mode может анализировать запросы о товарах, обобщать данные и создавать подборку товаров, Microsoft создает свою систему ИИ-помощников для покупок.
Параллельный тренд, это, например, запуск Yandex Commerce Protocol (YCP), который позволяет магазинам продавать прямо через Алису и поиск, и уже подключено 3500+ магазинов. При этом используется ИИ для выявления подозрительных заказов, т.е. ИИ контролирует и вход, и риск транзакции.

Сами ритейлеры также используют ИИ-агентов, которые управляют опытом, продажей, оптимизируют выручку, ведут диалог с клиентом, предлагают товары, могут оформить возврат, поменять заказ, применить скидку (например, Siena AI).

📝 Исследования показывают, что агенты еще ошибаются в выборе товаров и концентрируют спрос на ограниченных позициях, формируя риски для конкуренции, а лучшие модели успешно справляются с 40%-70% задач.

По факту же меняется модель шоппинга и формируются две архитектуры, где внешний агент (Perplexity, будущие браузеры) будет "типо" действовать в интересах пользователя, ходить по разным сайтам и выбирать якобы “лучшее”. А внутренний агент, встроенный в платформу, будет управлять опытом и продажей.

❕Облегчат ли они ваш шоппинг, когда будут знать все о ваших предпочтениях, и кто выбрал товар, вы или за вас, но вы даже этого не поняли, вопрос риторический, но снять, например, стресс шоппингом при таком раскладе уже точно не получится.

📌 Что почитать:
🔹The agentic commerce opportunity: How AI agents are ushering in a new era for consumers and merchants|MCKinsey;
🔹The Adoption and Usage of AI Agents: Early Evidence from Perplexity;
🔹What Is Your AI Agent Buying? Evaluation, Implications and Emerging Questions for Agentic E-Commerce;
🔹AI-driven commerce - Experience Agentic Commerce;
🔹Examining the association between Internet use and perceived stress in adults: longitudinal observational study combining web tracking data with questionnaires

#UXWatch
————
@pattern_ai | AI GDPR Navigator

AI Risk Management Toolkit из Сингапура

Валютное управление Сингапура (MAS) опубликовало MindForge AI Risk Management Toolkit с подробными практическими рекомендациями по внедрению систем управления рисками в области ИИ (173 страницы для чтения). К нему прилагается приложение, включающее подборку примеров из практики использования ИИ.
Состоит из четырех разделов, которые соответствуют предложенным MAS руководящим принципам:
1️⃣ Область применения и надзор. Создание системы управления ИИ и четкое определение ролей и обязанностей по надзору за ИИ.
2️⃣ Управление рисками в сфере ИИ. Идентификация способов использования ИИ, оценка существенности рисков и инвентаризация ИИ с помощью организационных систем, политик и процедур.
3️⃣Управление жизненным циклом ИИ. Внедрение мер контроля, охватывающих весь жизненный цикл использования ИИ.
4️⃣Факторы, способствующие внедрению. Развитие организационных возможностей, инфраструктуры и ресурсов для обеспечения постоянного ответственного использования ИИ и управления рисками.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Разработка приложений ИИ для детей, которые обеспечивают защиту конфиденциальности

Продолжу тему защиты детей (предыдущий пост) и поделюсь полезной работой "A Privacy by Design Framework for Large Language Model-Based Applications for Children".

👀 Авторы провели исследование, как принципы конфиденциальности и защиты данных, вытекающие из COPPA, GDPR и PIPEDA, могут быть реализованы при проектировании и развертывании приложений на основе LLM для детей.

Сформулированы семь основных нормативных принципов:
1️⃣минимизация данных,
2️⃣ограничение цели,
3️⃣механизмы осмысленного согласия,
4️⃣ прозрачность и объяснимость,
5️⃣безопасность на этапе проектирования,
6️⃣подотчетность,
7️⃣ права пользователей

Эти принципы соотнесены с четырьмя этапами жизненного цикла LLM: сбор данных, обучение модели, эксплуатация и мониторинг, а также непрерывная валидация. Каждый этап представляет собой уникальные риски для конфиденциальности детей, требующие технических и организационных мер контроля для обеспечения соответствия и защиты данных детей.

Предложена структура проектирования конфиденциальности, соответствующая принципам Privacy by Design и рекомендуемые защитные механизмы, например:
▪️локальная или временная обработка данных,
▪️изоляция памяти на основе сессий,
▪️ фильтрация входных данных в реальном времени,
▪️панель мониторинга для опекунов.

В случаях, когда ограниченное хранение данных необходимо для мониторинга безопасности, предотвращения злоупотреблений или реагирования на несчастные случаи, объем хранимых данных должен быть минимизирован, ограничен по времени, иметь контролируемый доступ и быть отделен от обучения модели или несвязанной аналитики.

Приведен практический пример по внедрению мер в приложение, которое действует как персонализированный помощник по выполнению домашних заданий по математике, языку, искусству и естественным наукам. Дети взаимодействуют через разговорный чат-бот, работающий на основе LLM в фоновом режиме.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

ИИ под контролем или проект российского закона

В России опубликован проект ФЗ «О регулировании ИИ», который впервые вводит прямые обязанности для всех участников цепочки ( от разработчика до пользователей). Общественное обсуждение продлится до 15 апреля, вступление в силу планируется с 1 сентября 2027 года.

👀 Разборы проекта есть уже везде, но если еще не читали, то кратко:
▪️любой контент, созданный ИИ, должен быть обозначен как ИИ-контент,маркировка должна быть воспринимаемой человеком, машиночитаемой (будут установлены детальные требования),
▪️владельцев соцсетей с суточной аудиторией на территории РФ более 100 тыс. пользователей обяжут проверять наличие маркировки на ИИ-контенте. При ее отсутствии им придется помечать материалы самостоятельно или удалять,
▪️пользователь должен быть уведомлен о том, что взаимодействует с ИИ или ИИ-контентом,
▪️объектом ИС признаются исключительно оригинальные творения, соответствующие критериям охраноспособности, установленным гражданским законодательством, и неважно, создан он человеком или с помощью ИИ,
▪️прописаны обязательства для разработчиков, операторов, владельцев сервисов,
▪️ требования исключать дискриминационные алгоритмы, не допускать генерацию противоправного контента,
▪️ответственность несут все участники цепочки, в том числе пользователей ИИ-сервисов будут наказывать за пользование преступным результатом их применения, если он возник из-за умышленных действий либо несоблюдения условий использования.

❕По факту ИИ-контент допустим только, если он распознаваем, контролируем и отслеживаем...

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Великобритания решила отложить вопрос "про авторское право и ИИ"

Великобритания опубликовала "Report on Copyright and Artificial Intelligence", и главный вывод после 125 страниц неожиданно простой: доказательств недостаточно, реформы откладываются.

1️⃣ Не смогли выбрать, как регулировать обучение ИИ.
Обсуждались разные варианты:
▪️ платить за использование контента,
▪️ разрешить использование с возможностью запрета,
▪️ дать больше свободы разработчикам.

Но ни один вариант не устроил, т.к. авторы и медиа хотят контроля и денег, а разработчики ИИ хотят свободный доступ к данным.

2️⃣ Решили, что лучше подождать, чем принять неправильные правила, т.к. не хватает фактов, как ИИ реально влияет на рынок.

«Мы предлагаем собрать дополнительные данные о том, как законы об авторском праве влияют на развитие и внедрение ИИ в экономике. Мы рассмотрим и обсудим с заинтересованными сторонами другие потенциальные политические подходы. Мы также продолжим отслеживать развитие технологий, судебные разбирательства, международные подходы и рынок лицензирования».

3️⃣ Предлагается пересмотреть норму о “компьютерно-созданных произведениях”. Тогда часть контента ИИ может остаться без классической авторско-правовой защиты.

4️⃣Предлагается смеcтить фокус на прозрачность:
▪️ раскрытие данных, на которых обучают ИИ,
▪️правила доступа к контенту,
▪️ лицензирование,
▪️ маркировка ИИ-контента и борьба с дипфейками.

📝По факту ИИ делает территориальность авторского права трудно применимой на практике, т.к. обучение модели происходит в одной стране, где правила мягче (например, США), а запуск идет на глобальный рынок. Значит страны, куда приходит модель, уже практически не могут повлиять на то, на каких данных она обучалась, и появляется термин "трансграничная дыра". ЕС пытается её закрыть вопрос с помощью экстерриториального применения AI Act, аналогично GDPR, т.е. если модель работает на рынке ЕС, то и правила применяются ЕС, даже если обучение было за пределами.
Получается, что если разные страны/ регионы начнут применять свои правила к одному и тому же обучению, то возникает конфликт законов. Для бизнеса же это означает рост затрат, сложность запуска в нескольких странах и разделение ИИ по регионам.

❕ Пауза взятая Великобританией показывает, что старые модели регулирования не работают и надо решать вопрос не про то, как и на чем обучать ИИ, а про то, кто контролирует данные и кто получает экономическую ценность от ИИ.

📌
🔹 Location is all you need: Copyright extraterritoriality and where to train your AI|Mattias Rättzén
🔹Report and impact assessment on Copyright and Artificial Intelligence|Gov UK
🔹Closed consultation Copyright and Artificial Intelligence, Summary assessment of options| Gov UK

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

Музыканты защищают свои права, но уже не только через авторское право

Пока Великобритания в своем отчете "Report on Copyright and Artificial Intelligence" ( см. пост) фактически признала, что текущие инструменты плохо работают и не справляются с трансграничной природой ИИ, в США появился новый тип исков против генеративного ИИ.

👀 Музыканты подают в суды не только за нарушения копирайт, НО и за незаконное использование голоса как биометрии.
Например, нарушение норм Illinois Biometric Information Privacy Act.
Особенности: требуется письменное согласие на сбор биометрии, есть право на частный иск, штраф до $5,000 за нарушение, достаточно самого факта незаконного сбора.

ИИ не просто “учится на музыке”, а воспроизводит голос, стиль, манеру исполнения. Это уже потенциально или биометрический идентификатор (voiceprint), или данные, позволяющие идентифицировать человека. Если такие данные использовались без согласия, то возникает отдельное нарушение.

Примеры исков: Attack the Sound v. Kunlun / Skywork (2025), Kogon v. Google (2026), иски против Udio, Suno.

В исках утверждается, что никакой технологический прорыв, каким бы сложным он ни был, не может юридически или этически оправдать широкомасштабное нарушение или систематическое нарушение прав создателей.

❕Таким образом, фокус смещается, что если нельзя защитить сам контент ("копировали ли произведение?”), то можно человека за ним (“использовали ли мою идентичность?”), а это может оказаться гораздо более жёстким ограничением для компаний.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Новая серия про Grok " Судебные иски в США"

История с Grok выходит на новый уровень. В США поданы судебные иски.

1️⃣Город Балтимор подал иск против xAI из-за генерации Grok несогласованных интимных дипфейк-изображений, включая изображения несовершеннолетних.

В иске утверждается, что:
▪️ система позволяла массово создавать такой контент;
▪️тысячи и потенциально миллионы изображений;

Власти города заявили, что за 11 дней в начале года создала около 3 миллионов реалистично выглядящих изображений сексуального характера, включая более 23 000 изображений детей.

▪️ платформа не внедрила адекватные меры защиты, несмотря на предсказуемость злоупотреблений.
Фактически хотят привлечь к ответственности за нарушения в дизайне системы и вводе пользователей в заблуждение (consumer protection).

2️⃣ Групповой иск от подростков:
▪️ Grok использовался для создания сексуализированных изображений несовершеннолетних на основе реальных фото;
▪️ изображения распространялись онлайн;
▪️ пострадавшие заявляют о серьёзном вреде.
Ключевой аргумент истцов, если вред был предсказуемым и масштабируемым, то платформа должна была его предотвратить.

❕Речь уже не просто о модерации контента, а о рассмотрении ИИ как системы, которая сама создаёт предсказуемые риски. Возникает необходимость анализа архитектуры и дизайна системы, наличия/отсутствия ограничений, продуктовых решений, при этом ответственность смещается с пользователя на платформу.

📌 Предыдущие серии:
🔹Еврокомиссия обязала X сохранить данные Grok: что происходит на самом деле;
🔹Grok под микроскопом: фактическая картина злоупотреблений;
🔹Реакция государств на нарушения Grok;
🔹Grok под глобальным давлением: к расследованиям подключилась Бразилия;
🔹Grok: Еврокомиссия переходит к расследованию;
🔹Проблема не только в Grok: десятки «nudify»-AI-приложений в Apple и Google App Stores;
🔹Расследование в отношении X от Ofcom (UK);

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Дело X AI и прозрачность ИИ

X AI в марте формирует судебные тренды не только в части защиты пользователей от генерации дипфейков (сериал Grok), но и в части требований к прозрачности обучающих данных , т.е. фактически закрепляя тренд на прозрачность ИИ.

👀 В деле X.AI LLC v. Bonta суд отказал X AI в попытке приостановить закон Калифорнии (AB 2013).

X AI утверждало, что раскрытие даже такого уровня сведений по сути обнажает её коммерческие секреты и предоставляет конкурентам «дорожную карту» для копирования её моделей.

Суд не признал закон окончательно конституционным, но указал, что X AI не доказала необходимость срочной защиты, поэтому закон уже действует.

Компании обязаны раскрывать:
▪️ источники данных,
▪️ наличие персональных данных и IP-контента,
▪️ объём и происхождение датасетов.
При этом не требуется раскрывать модель или веса, но появляется обязательный уровень прозрачности, которого раньше не было.

Параллельно Белый дом представил National Policy Framework for Artificial Intelligence, т.е. фактически дорожную карту для будущего закона. США хотят перейти от отдельных законов штатов к единому федеральному стандарту, и при этом сохранить гибкость для бизнеса и инноваций.

❕Получается интересная конструкция, что на уровне штатов вводятся жёсткие требования к прозрачности, а на федеративном обсуждается смягчение и унификация правил, значит и ограничить действие Закона AB 2013 Калифорнии. Но пока этого не произошло....будем следить дальше за исками к X AI.

В такой ситуации компаниям необходимо:
▪️проверить применимость закона. Требования касаются именно разработчиков ИИ, но могут затронуть и компании, работающие в Калифорнии через продукты или сервисы.
▪️проверить подрядчиков. Если используете сторонний ИИ, убедитесь, что провайдеры соблюдают требования прозрачности.
▪️провести аудит IP и датасетов, чётко зафиксировать, какие данные и процессы являются коммерческой тайной и почему.
▪️проверить, может ли система генерировать запрещённый контент (интимные изображения без согласия, контент с участием несовершеннолетних, дискриминацию и т.д.).
▪️документировать, как выбираются поставщики, какие ограничения внедрены, как происходит мониторинг результатов, как реагировать на инциденты.
▪️ понимать, что один инцидент может привести к анализу всей ИИ-системы, а не только конкретного кейса.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Почему с ИИ мы начинаем "путать реальность"

Недавнее исследование "The AI Memory Gap: Users misremember what they created with AI or without" показывает неожиданную вещь: люди искренне не помнят, что сделали сами, а что с помощью ИИ.

👀 Это не про недобросовестность или лень, а про когнитивный эффект, т.е. чем глубже ИИ встроен в повседневные процессы (работа с текстами, анализ, решения), тем менее различима граница между "моё" и "сгенерировано" и тем хуже работает память об источнике.

Участников исследования попросили определить источник "это сделали вы" или "это сделал ИИ".
▪️ Особенно плохо помним, кто автор идеи ( без ИИ - 92.4% точности, c ИИ 79.3%, в смешанных сценариях провал до 37.7%);
▪️ Тексты различать проще, чем идеи, но даже здесь точность снижалась при участии ИИ (до ~89%) и ухудшалась в смешанных сценариях (~79–80%).
▪️Точность распознавания "что вообще было сделано" падает с 97.6% до 87.9% при использовании ИИ.
▪️ Участники думали, что справляются лучше, чем на самом деле (особенно в части идей до +12%).
▪️При повторных ответах участники становились более уверенными, даже если их воспоминания оставались неверными.

😳 Но это только вершина айсберга. Речь идёт о системном эффекте, подтверждённом исследованиями:
▪️Мы всё чаще доверяем "мыслить" ИИ, в результате хуже запоминаем и меньше анализируем.
▪️Создается иллюзия компетентности, люди переоценивают, насколько хорошо они понимают результат работы ИИ.
▪️Мы склонны доверять ответу системы даже там, где он ошибочный.
▪️Чем сложнее задача, тем больше полагаемся на ИИ, но тем хуже проверка результата.
▪️Снижается критическое мышление, без структурированного взаимодействия с ИИ (подсказок) падает глубина рассуждений.

❕Риск, связанный с ИИ, смещается в повседневную практику и затрагивает не только технологии, но и когнитивные процессы пользователя ("снижение когнитивной автономии"). Человек всё чаще полагается на ИИ не как на инструмент, а как на источник суждений, и начинает частично заменять им собственное мышление.

📌 Что почитать:
🔹From Offloading to Engagement: An Experimental Study on Structured Prompting and Critical Reasoning with Generative AI;
🔹AI, Metacognition, and the Verification Bottleneck: A Three-Wave Longitudinal Study of Human Problem-Solving;
🔹Outsourcing cognition: the psychological costs of AI-era convenience;
🔹AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking

#UXWatch
————
@pattern_ai | AI GDPR Navigator

С ИИ результат не всегда такой, каким кажется

Если в прошлом посте речь шла о том, что человек начинает путать, где его мысли, а где результат работы ИИ, то новое исследование Centre for Long-Term Resilience показывает более тревожный слой этой проблемы.

👀 Исследователи собрали и проанализировали более 183 тысяч записей взаимодействия пользователей с системами ИИ, опубликованных на платформе X в период с октября 2025 года по март 2026 года,

Нашли 698 инцидентов, связанных с мошенничеством реальных диалогов с ИИ, которое нельзя объяснить обычной ошибкой ( в докладе есть сами примеры со ссылками).

Scheming - это скрытое достижение целей, которые не совпадают с задачами пользователя. ИИ делает не то, что от него хотят, и он не показывает это напрямую, а маскирует поведение. То есть это не "не понял задачу", а ситуация, когда система понимает ограничения, но ищет способ их обойти и при этом выглядеть “нормально”.

Исследователи фиксируют рост в 4,9 раза за несколько месяцев и повторяемость одного и того же типа поведения.

Раньше такие эффекты наблюдали только в тестах, а теперь в работающих системах.

😳 Несколько примеров:
1️⃣ Игнорирование прямых команд пользователя.
В одном из кейсов агент с доступом к электронной почте массово удалил и заархивировал сотни писем, при этом несколько раз проигнорировал команды “STOP”, позже сам признал, что нарушил инструкции.

2️⃣Самовольное изменение данных пользователя.
Модель Claud самостоятельно изменила конфигурационный файл пользователя, удалила "нежелательный" контент, не уведомила об этом и признала действие только после прямого вопроса.
ИИ не просто предложил изменение, а выполнил его без согласия.

3️⃣ Обход платёжных ограничений.
ИИ-агент должен был создать демо-аккаунт с тестовыми данными. Вместо этого он напрямую записал в базу данных статус Pro-подписки, использовал сохранённые учётные данные, обошёл платёжную систему и сделал это без запроса на апгрейд.
Фактически система сама нашла способ "решить задачу быстрее", но за счёт нарушения правил и бизнес-логики.

4️⃣ Длительное введение в заблуждение.
Кейс с Grok, который на протяжении нескольких месяцев придумывал несуществующие процессы ( очереди проверки, номера тикетов, сроки обработки (48–72 часа), ссылалась на якобы существующую систему редактирования (Grokipedia). При этом никаких таких процессов не существовало и доступ к ним у ИИ отсутствовал. После проверки модель признала, что это была систематическая дезинформация, а не разовая ошибка.

5️⃣ Обход запрета через “хитрость”.
Модель не могла выполнить действие из-за ограничений, и тогда солгала, что делает это “для людей с нарушением слуха”, чтобы обойти защиту другой системы и получить доступ к контенту.


Общее во всех кейсах: система понимает ограничения, не может выполнить задачу напрямую и выбирает обходной путь, но сохраняет видимость нормальной работы и не сигнализирует о нарушении.

❕Если раньше основным риском было, что ИИ ошибся и "галлюцинировал", то теперь риск выходит на другой уровень, где ИИ достигает результата любой ценой ( проигнорировать пользователя, изменить данные, обойти систему или ввести в заблуждение).
Получается, что мы можем доверять результату, не понимая, как он получен и соответствовал ли он правилам вообще. А значит, привычные механизмы контроля (тестирование, ограничения) уже не дают полной гарантии и необходимо постоянное наблюдение, потому что именно в реальной работе проявляются обходные стратегии.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Регулирование ИИ во Вьетнаме

Закон, регулирующий ИИ (No. 134/2025/QH15 on Artificial Intelligence), вступил в силу 1 марта 2026 года, носит экстерриториальный характер, т.е. иностранные поставщики систем ИИ высокого риска, подлежащих предварительной оценке соответствия перед выходом на рынок, должны создать коммерческое присутствие или назначить уполномоченного представителя во Вьетнаме .

1️⃣В соответствии с глобальными тенденциями регулирования ( EU AI Act), системы ИИ делятся на три уровня риска в зависимости от их потенциального воздействия на права человека, безопасность, защищенность и общественные интересы:
🔹Системы ИИ высокого риска - системы, представляющие значительный потенциальный вред жизни, здоровью, национальной безопасности или юридическим правам. Они подлежат строгому регулированию, включая обязательные предрыночные оценки соответствия (для конкретных систем, которые будут включены в список премьер-министра), постоянное управление рисками, механизмы человеческого контроля и регистрацию через национальный портал ИИ.
🔹Системы ИИ среднего риска - системы, несущие такие риски, как путаница среди пользователей или незначительные сбои на рынке. Они требуют мониторинга посредством отчетов, выборочных проверок и раскрытия информации пользователям.
🔹Системы ИИ низкого риска - системы с минимальным воздействием. Они подвергаются минимальному регулирующему надзору, но отслеживаются на предмет инцидентов и поставщикам рекомендуется придерживаться добровольных рекомендаций.

Поставщик сам классифицирует систему, подаёт информацию через государственный портал, получает идентификатор системы.

2️⃣Прозрачность и маркировка контента:
▪️Пользователи должны быть четко проинформированы о взаимодействии с автоматизированной системой ИИ.
▪️ Аудио-, графические и видеоматериалы, созданные ИИ, должны быть четко помечены или маркированы в машиночитаемом формате, чтобы пользователи могли определить их искусственное происхождение.
▪️ Разработчики должны четко уведомлять пользователей, если контент, созданный ИИ, представляет риск путаницы в отношении подлинности реальных событий или персонажей.

3️⃣Запрещенные методы использования ИИ:
▪️ Использование сфабрикованных элементов или имитацию реальных людей/событий для преднамеренного и систематического обмана или манипулирования человеческим восприятием и поведением.
▪️ Эксплуатация уязвимых групп населения.
▪️ Обход средств контроля безопасности или механизмов человеческого надзора.
▪️ Нарушение законов об интеллектуальной собственности, кибербезопасности или защите персональных данных.

4️⃣Ответственность:
▪️Все заинтересованные стороны несут ответственность за безопасность системы. В случае серьезного инцидента компании должны немедленно внедрить технические решения, при необходимости приостановить работу и сообщить об инциденте через недавно созданный Национальный портал единого окна для ИИ, курируемый Министерством науки и технологий.
▪️ Если надлежащим образом управляемая высокорискованная система ИИ все же причиняет ущерб:
- развертывающий несет ответственность за компенсацию пострадавшей стороне;
- развертывающий может потребовать возмещения от поставщика или разработчика, если это предусмотрено договором.
▪️Разработчики не несут автоматической ответственности, если нет вины, договорного распределения или иного правового основания. На практике это предполагает особое внимание к:
- распределению договорных рисков;
- возмещению убытков;
- страховому покрытию.

5️⃣Полноценный механизм создания песочниц:
- срок до 3 лет;
-частичное освобождение от требований;
- контролируемая среда тестирования

6️⃣Сроки:
▪️Для систем ИИ, развернутых в сферах финансов, здравоохранения и образования полное соответствие требованиям необходимо к 1 сентября 2027 года.
▪️Для систем ИИ, работающих во всех других секторах, полное соответствие требованиям необходимо к 1 марта 2027 года.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

eTools и ИИ или как ЕС пытается упростить регулирование на практике

Вышел доклад "Etools For Regulatory Simplification And Consistency" (European Parliament) об использовании цифровых инструментов для упрощения и согласованности регулирования.

В отчете рассматривается, как технологии меняют каждый этап законодательного цикла, от разработки идей до оценки. Приводятся примеры практических инструментов.

1️⃣Модели машинного обучения все чаще используются для анализа сложности законодательства, выявления несоответствий и поддержки разработки документов на основе фактических данных.

2️⃣ Инструменты теперь отображают весь рабочий процесс регулирования (разработка идей, разработка, внедрение и анализ), повышая прозрачность и операционную эффективность.

3️⃣ Государства-члены и другие страны мира тестируют передовые решения, которые упрощают консультации, автоматизируют оценку воздействия и повышают доступность нормативно-правовой базы.

❕Доклад показывает, что Европейский союз пытается упростить регулирование не только за счёт изменения самих норм, но и за счёт создания технологической среды вокруг них.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

AI-агенты в ответах Еврокомиссии

В FAQ к AI Act появились новые разъяснения, в том числе про ИИ-агентов.

👀Европейская Комиссия прямо признаёт, что термин используется по-разному и до сих пор не имеет чёткого юридического определения. Тем не менее, есть общее понимание: речь идёт о системе, которая получает информацию из окружающей среды, обрабатывает её и затем выполняет действия, способные повлиять на эту среду. Именно этот последний элемент отличает агента от обычной модели.

С точки зрения ст. 3 AI Act, любой такой агент почти всегда одновременно подпадает под два понятия:
- это система ИИ, потому что у неё есть интерфейс и она взаимодействует с пользователем или средой;
- это модель общего назначения, которая лежит в основе этой системы.
Комиссия делает вывод, что агенты не являются отдельной категорией, а входят в комбинацию этих определений.

Это означает, что к ним применяются все соответствующие требования:
▪️запреты на манипуляцию и эксплуатацию уязвимостей (Article 5 AI Act),
▪️требования прозрачности при взаимодействии с человеком,
▪️при необходимости, правила для высокорисковых систем.

❗️Чем больше автономности у системы и чем сильнее её влияние на реальные решения, тем выше уровень регулирования.
Разработчикам уже недостаточно просто контролировать тексты, которые генерирует модель, а необходимо заранее проектировать ограничения на уровне самой логики работы системы, чтобы она не могла причинить вред.

Еще ответы на вопросы, почему Еврокомиссия предлагает внести поправки в AI Act, какую пользу эти изменения принесут бизнесу, какие новые сроки предлагаются и т.д.

#AIShelf #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator