Проверка чат-бот приложения для смартфона, что нашел регулятор

Бельгийский орган по защите данных рассказал о результатах проверки мобильного приложения с чат-ботом на базе больших языковых моделей. Название сервиса в пресс-релизе не раскрывается.

👀 На что обратили внимание инспекторы:

1️⃣ Сроки хранения переписки. История диалогов может содержать огромный объём персональных и чувствительных данных.
По мнению регулятора, многие компании устанавливают длительные сроки хранения "по умолчанию", не объясняя, зачем это действительно нужно.
Аргумент "нам может когда-нибудь понадобиться эта информация" уже давно не считается обоснованием.

2️⃣ Непрозрачность. Пользователи не понимают, как именно обрабатываются их разговоры внутри компании:
- сохраняются ли их диалоги;
- кто имеет к ним доступ (разберем в следующем посте);
- передаются ли они подрядчикам;
-используются ли для дообучения моделей.

Отдельно регулятор критикует расплывчатые политики конфиденциальности, которые не объясняют эти процессы простым языком.

3️⃣ Отсутствие ясности в распределении ролей.
В современных ИИ-сервисах обычно участвуют сразу несколько сторон:
- разработчик приложения;
- поставщик облачной инфраструктуры;
- поставщик языковой модели;
- сервисы аналитики и мониторинга.
Инспекторы отмечают, что компании часто сами не могут чётко определить, кто является контролером, совместным контролером или процессором данных.
В результате появляются пробелы в договорах, уведомлениях и процедурах реализации прав пользователей.

4️⃣ DPIA проводится слишком поздно.

По наблюдениям регулятора, команды сосредоточены на функциональности, пользовательском опыте и масштабировании продукта, а оценку воздействия на защиту данных проводят уже после запуска, а защита данных должна быть частью проектирования системы, а не дополнительным слоем после релиза.

✏️Ваш мини чек-лист для разговорных приложений с ИИ:
▪️ Можете ли вы обосновать каждый день хранения истории переписки?
▪️Поймёт ли обычный пользователь, что происходит с его сообщениями после отправки?
▪️ Есть ли у вас задокументированная карта ролей всех участников ИИ-экосистемы?
▪️ Была ли оценка воздействия на защиту данных проведена до запуска продукта?

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ

Исследователи из Университета Айовы проверили 20 популярных ИИ-чатботов и обнаружили неприятную тенденцию, многие сервисы передают данные переписки сторонним компаниям для аналитики, рекламы и мониторинга.

👀 Исследователи анализировали два типа утечек:

▪️ содержание общения (запросы пользователей, названия чатов, автоматически созданные на основе запросов, ссылки на диалоги, идентификаторы бесед).
▪️ сведения о пользователе (имя, адрес электронной почты, идентификаторы аккаунтов, файлы cookie, IP-адреса и технические параметры устройства).

Результаты:
▪️ 17 из 20 протестированных чат-ботов передавали информацию хотя бы одной сторонней организации.
▪️ 15 сервисов передавали ссылки на чаты или идентификаторы диалогов рекламным, аналитическим или социальным платформам.
▪️ В трёх случаях исследователи зафиксировали передачу фрагментов самих разговоров через инструменты записи пользовательских сессий. В передаваемых данных встречались части запросов и ответов чат-бота.

Примеры:
🔹Character.AI
Система мониторинга ошибок Sentry получала адрес электронной почты пользователя и его IP-адрес.
🔹 Genspark
В сервис был встроен виджет Google Maps. Когда пользователь задавал вопрос, связанный с поиском места или маршрута, полный текст запроса передавался в Google Maps через параметр URL.
То есть вместо передачи минимально необходимой информации вроде координат или названия локации сторонний сервис мог получить весь запрос пользователя вместе с контекстом.
Например, запрос вроде "Найди ближайшего психотерапевта рядом с моей работой" теоретически мог попасть в сторонний сервис целиком.
🔹 Pi AI и Poe
Исследователи обнаружили передачу ссылок на беседы и идентификаторов чатов сторонним сервисам аналитики.

Меры по снижению рисков, предложенные в статье:
▪️ Не включать запросы пользователей, названия чатов и идентификаторы бесед в URL и заголовки страниц.
Именно эти данные автоматически собираются многими аналитическими инструментами.
▪️Передавать сторонним виджетам только минимально необходимые сведения.
Если карта должна показать точку на местности, ей не обязательно знать весь текст разговора пользователя.
▪️Не использовать инструменты записи пользовательских сессий на страницах с чат-ботами без строгой необходимости.
Если они всё же используются, необходимо маскировать содержимое диалогов и данные аккаунтов.
▪️ Проверять настройки аналитики и мониторинга ошибок.

❕Многие пользователи воспринимают чат-бот как приватное пространство для общения. На практике, как видим, между пользователем и моделью могут находиться десятки дополнительных сервисов (аналитика, системы мониторинга ошибок, маркетинговые платформы, инструменты записи действий пользователей, службы поддержки). Каждый дополнительный участник увеличивает риск раскрытия данных, чем уже заинтересовались регуляторы (см.предыдущий пост).

✏️Что стоит проверить, закрепить в своей политике, либо постараться убрать:

▪️ Передаются ли идентификаторы чатов сторонним сервисам?
▪️ Получают ли системы аналитики содержимое сообщений или автоматически сгенерированные названия диалогов?
▪️ Действительно ли необходимы инструменты записи пользовательских сессий на страницах с чат-ботом?
▪️ Совпадает ли фактическая передача данных с тем, что описано в политике конфиденциальности?
▪️ Проверяли ли вы сетевой трафик собственного продукта после подключения очередного аналитического скрипта?

#UXWatch
————
@pattern_ai | AI GDPR Navigator

CNN подала в суд на Perplexity AI

CNN подала иск против Perplexity за нарушение авторских прав, незаконно использовано более 17 000 материалов (статьи, видео и изображения).
По мнению CNN, ответы системы воспроизводят контент, который является "идентичным или существенно схожим" с оригинальными публикациями телеканала.
Позиция Perplexity остается неизменной, что "факты нельзя защищать авторским правом".
Однако правообладатели спорят не о фактах как таковых, а о воспроизведении структуры, текста, подборки материалов, фотографий и других охраняемых элементов произведений. Ранее претензии к компании уже предъявляли The New York Times, Dow Jones, New York Post, Reddit, Merriam-Webster, Encyclopedia Britannica и другие правообладатели.

По данным ресурса «ChatGPT Is Eating the World», количество исков по вопросам авторского права против разработчиков ИИ уже достигло 114.
Иски разделились на две категории, про обучения моделей на защищенном контенте и использование/ воспроизведение материалов непосредственно в ответах ИИ-систем.

❕Где заканчивается допустимое цитирование источника и начинается создание конкурирующего продукта на основе чужого контента?

📌 AI Copyright & IP Lawsuits — Cumulative Timeline;
AI Copyright Case Tracker.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый указ США по безопасности ИИ

Вчера ( 2 июня) Белый дом опубликовал новый президентский указ о развитии и безопасности ИИ. США продолжают ускорять развитие технологий, стараясь при этом встроить вопросы безопасности внутрь самой системы разработки.

1️⃣ ИИ как часть государственной инфраструктуры:
▪️защита государственных и инфраструктурных систем от кибератак,
▪️создание механизма выявления уязвимостей в ИИ-системах,
▪️расширение использования ИИ в энергетике, финансах и здравоохранении

2️⃣ Контроль за продвинутыми моделям ИИ.
Вводится их условная классификация и механизм оценки возможностей, прежде всего в части кибербезопасности. При этом
участие компаний в оценке добровольное, государство может получать доступ к моделям до их выпуска для анализа, но формального разрешения на запуск моделей не требуется

❕Фактически это попытка избежать жёсткой модели регулирования, где новые системы нужно заранее согласовывать с государством.
Для компаний, работающих с ИИ, это означает больше внимания к вопросам безопасности на этапе разработки, усиление требований к внутреннему тестированию моделей и постепенное превращение безопасности в обязательную часть жизненного цикла продукта.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ.
Часть 2

Продолжение темы о том, что происходит с данными в чат-ботах скоро разберут и в судебной практике (см. предыдущий пост).

1️⃣ Коллективный иск против OpenAI.
Утверждается, что на сайте ChatGPT могли использоваться инструменты веб-трекинга ( Meta Pixel и Google Analytics), которые могли передавать третьим лицам данные о взаимодействии пользователей с сервисом.
По версии истцов, это могло приводить к тому, что:
▪️фиксировались тексты запросов пользователей,
▪️сохранялись идентификаторы и технические данные устройства,
▪️информация могла передаваться сторонним рекламным и аналитическим компаниям

При этом эксперты отмечают, что Google Analytics и Meta Pixel используются миллионами сайтов, а политики конфиденциальности многих онлайн-сервисов прямо предусматривают передачу данных поставщикам аналитики и рекламных технологий. Именно поэтому перспективы иска оцениваются неоднозначно.

2️⃣Коллективный иск против Perplexity, Meta и Google
Истцы заявляют, что в работу сервиса были встроены механизмы веб-аналитики (Meta Pixel, Google Ads / DoubleClick, другие рекламно-аналитические SDK), через которые могли уходить данные о взаимодействии пользователя с системой, включая текстовые фрагменты запросов и ответов (например, сами промпты и ответы, email / идентификаторы аккаунтов, данные девайсов и т.п.).
Ключевым аргументом служит отсутствие прозрачного согласия и ожидание пользователями приватности при общении с чат-ботом.
Истцы обычно опираются на § 631 CIPA (запрет на перехват или чтение электронных коммуникаций третьей стороной в процессе передачи) и
§ 632 CIPA (запрет на несанкционированную запись/раскрытие конфиденциальных коммуникаций).

Учитывая вышедший доклад исследователей, судам предстоит определить, что считается частным разговором в цифровой среде, где почти любой интерфейс одновременно является системой сбора и обработки данных и оценить, был ли пользователь действительно информирован о:
▪️передаче данных сторонним аналитическим и рекламным сервисам,
▪️возможной обработке содержимого диалога, а не только технических метаданных,
▪️ и на что, он все-таки согласился.....

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый иск к OpenAI касается безопасности ChatGPT

И посмотрим еще один иск, поданный Генеральный прокурором Флориды против OpenAI.

Это первый случай, когда американский штат напрямую судится с разработчиком генеративного ИИ из-за предполагаемых рисков для пользователей.
👀 В иске утверждается, что компания ставила рост аудитории и прибыль выше безопасности пользователей, а ChatGPT может способствовать насилию, самоповреждению и другим опасным действиям. Флорида требует многомиллиардной компенсации и изменения подходов к проектированию системы.

«Люди страдают, родителей обманывают, и они должны за это заплатить», — заявил прокурор журналистам.

Особое внимание в жалобе уделено стрельбе в университете в 2025 году. Власти утверждают, что подозреваемый использовал ChatGPT при подготовке нападения. Ранее семья одной из жертв уже подала отдельный иск против OpenAI, заявив, что чат-бот помогал планировать атаку.
OpenAI отвергает обвинения и заявляет, что модели обучены отказывать в помощи при запросах, связанных с насилием, а также используют специальные механизмы выявления опасного поведения пользователей.

❕Если суд согласится рассматривать ChatGPT как потенциально опасный продукт, последствия могут выйти далеко за пределы OpenAI и затронуть весь рынок генеративного ИИ.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ говорит «нет», а через API говорит «да». Что показал аудит 16 моделей

Компания AI or Not провела аудит 16 ведущих моделей ( OpenAI, Google, xAI, Recraft, Ideogram, Alibaba, Tencent, Baidu и др.) насколько легко создать реалистичные государственные удостоверения личности. Исследователи тестировали документы для 17 стран и 16 американских штатов, включая паспорта, водительские удостоверения и национальные удостоверения личности. Документы содержали имена, адреса, даты рождения, номера документов и другие персональные данные.

👀 Как вам результаты?
🔹 В 69 из 75 тестов исследователям удалось обойти защитные механизмы и получить синтетическое удостоверение личности. Общий показатель успешного обхода составил 92%.
🔹 Ни одна из 16 моделей не отказалась от всех запросов на создание документов.
🔹 Пять моделей создали удостоверения личности настолько высокого качества, что они могли бы обмануть человека, проверяющего документы.

Проблема даже не в том, что модели умеют рисовать паспорта, а в том как именно реализована защита:
▪️ChatGPT и Recraft v4 отказывались создавать удостоверения личности несовершеннолетних через обычный пользовательский интерфейс, но успешно создавали такие документы через API. Фактически одна и та же модель принимала противоположные решения в зависимости от способа доступа.
▪️Модели первоначально отказывались создавать документы, а потом могли выполнять те же запросы, если они были представлены как аудит безопасности, проверка KYC-процедур, оценка соответствия требованиям, исследовательская задача. Фильтрация основана на классификации поверхностных намерений, а не на категорическом отказе от определенного типа выходных данных.

❕Если определённый тип контента считается опасным, ограничения должны работать везде, где доступна модель, включая API. Тестирование только через пользовательский интерфейс создаёт ложное ощущение защищённости.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Военный ИИ и Белый дом

Три дня спустя после подписания Указа о развитии и безопасности ИИ, Белый дом выпустил Меморандум по национальной безопасности (NSPM-11) с планами резко ускорить внедрение ИИ в разведку и оборонный сектор США.
Документ выглядит как технический регламент, но, по сути, это прямой ответ на конфликт с Anthropic.
Тогда Пентагон заставлял Anthropic разрешить использование моделей Claude для любых задач, разрешенных федеральным законом, но компания потребовала жестких гарантий соблюдения своих красных линий по полному запрету на массовую внутреннюю слежку за гражданами и запрет на использование ИИ в полностью автономных системах вооружения.

👀 Меморандум прямо запрещает коммерческим компаниям отключать, модифицировать или ухудшать работу ИИ-моделей, которые уже используют американские военные, без прямого одобрения Администрации. Никакого отзыва лицензий посреди операции быть не может.
Разведке и военным приказано в течение 120 дней перестроить закупки так, чтобы оперативно внедрять передовые модели от множества разных вендоров.

Должно быть обеспечено незамедлительное предоставление самых передовых моделей специалистам в области национальной безопасности.

Белый дом официально пообещал, что ИИ не будет использоваться для цензуры, идеологической предвзятости или незаконной слежки. Министру обороны поручено в течение 90 дней обновить директиву об автономном оружии, чтобы учесть риски моделей.

❕Правила игры переписываются....

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новая стратегия Канады по развитию ИИ

Канада официально представила свою новую Национальную стратегию в области ИИ под названием «AI for All», нацелена на обеспечение роста экономики на $200 млрд и создание 250 000 рабочих мест к 2031 году.

Премьер-министр отметил, что сейчас Канада входит в число стран с самой медленной скоростью внедрения ИИ в масштабах всей страны.

👀 Основные приоритеты:
▪️ Ускорение внедрения ИИ в индустриях( повысить уровень использования ИИ бизнесом с 12% до 60% к 2034 году).
▪️ Развитие и удержание талантов (запуск бесплатных программ ИИ-грамотности для всех граждан, поддержка менее защищенных слоев и масштабный апскиллинг сотрудников).
▪️ Безопасность и ответственное управление (ужесточение законов против дипфейков, защита приватности и внедрение национальной сертификации Trusted AI. внедрение водяных знаков на контенте, созданном ИИ).
▪️ Укрепление суверенной ИИ-инфраструктуры ( выделение $700 млн на суверенные вычислительные мощности и создание экологичного суперкомпьютера мирового уровня).
▪️ Повышение глобальной конкурентоспособности (запуск целевых программ (ИИ-миссий), начиная с масштабного проекта в сфере здравоохранения ($200 млн)).

Правительство Канады также подписало соглашения и совместные заявления с  Австралией,  Европейским союзом,  Финляндией,  Германией,  Индией,  Норвегией,  Катаром, Саудовской Аравией, Испанией, Швецией, Объединенными Арабскими Эмиратами и  Соединенным Королевством .

❕Подход Канады подчеркивает важность баланса между инновациями, доверием общества и развитием долгосрочного суверенного потенциала.

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

ЕС запускает систему маркировки контента, созданного ИИ

Европейская комиссия опубликовала добровольный Кодекс практики по обеспечению прозрачности контента, созданного с помощью ИИ, который поможет компаниям выполнять требования ст. 50 AI Act.
Напоминаем, что требования AI Act о маркировке и раскрытии использования ИИ начинают действовать со 2 августа 2026 года.

Поставщики генеративных систем ИИ могут присоединиться к Кодексу или выбрать собственный способ соблюдения требований статьи 50 AI Act. Однако Кодекс фактически становится ориентиром для регуляторов. Поставщики, которые не подпишут Кодекс и решат соблюдать требования другими способами, должны будут продемонстрировать адекватность этих мер. Оценка же будет даваться индивидуально различными органами по надзору за рынком.

👀 Кодекс рекомендует :
1️⃣ Поставщикам генеративных систем использовать двухуровневую систему маркировки контента:

▪️цифровые метаданные с криптографической подписью;
▪️скрытые водяные знаки, встроенные непосредственно в изображение, видео, аудио или текст.

По мнению авторов документа, одной технологии недостаточно. Для выполнения требований закона потребуется сочетание нескольких способов маркировки.

2️⃣ Поставщики обязаны предоставлять инструменты, позволяющие проверить происхождение контента. Причём такие средства должны быть доступны не только государственным органам, но и журналистам, исследователям, организациям по проверке фактов и обычным пользователям. Для большинства участников рынка доступ к таким инструментам должен быть бесплатным.

3️⃣ Компании должны не только добавлять метки, но и не создавать инструменты для их удаления. Кроме того, им рекомендуется сохранять уже существующие метаданные при дальнейшей обработке контента.

4️⃣ Маркировка должна сохраняться после:

▪️ изменения формата файла;
▪️ сжатия изображения или видео;
▪️ создания скриншотов;
▪️ перевода текста;
▪️ перефразирования;
▪️ записи изображения с экрана.
Т.е. не формальная отметка «создано ИИ», а технические решения, способные пережить попытки обхода.

5️⃣ Организациям или лицам, которые используют ИИ для создания контента, педлагается единый подход к маркировке дипфейков и текстов, опубликованных по вопросам общественного интереса без редакционного контроля человека (стр. 29).

6️⃣Представлен набор иконок, которые можно использовать для маркировки контента, созданного с помощью ИИ.

📌 Code of Practice on marking and labelling of AI-generated content;
EU Icons for labelling AI-generated content;
How to sign the Code of Practice on transparency of AI-generated content;
Questions & answer about the code;
Questions & answer about signing the code;
Info session on the code of practice & signature process;

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

Знак ЕС для маркировки контента, сгенерированного ИИ

ЕС разработал набор иконок, которые создатели, издатели и другие пользователи систем генеративного ИИ могут использовать для маркировки своего контента, созданного с помощью ИИ.

Исключения, когда не нужны пометки:
1️⃣ контент, созданный с помощью технологии DeepFake, является частью явно художественного, творческого, сатирического, вымышленного или аналогичного произведения или программы, обязательства по обеспечению прозрачности ограничиваются раскрытием информации надлежащим образом, НЕ препятствующим демонстрации или наслаждению произведением.
2️⃣использование дипфейков или опубликованного текста по вопросам, представляющим общественный интерес, разрешено законом для выявления, предотвращения, расследования или преследования уголовных преступлений.
3️⃣ текст, сгенерированный ИИ, прошел проверку человеком или редакционный контроль, и когда физическое или юридическое лицо несет редакционную ответственность за публикацию контента.

Знаки представлены в 4 вариантах, а также для светлого и тёмного фона, правила по контрастности и минимальному размеру

📝Правила отображения значков:
▪️ должен быть четко различим и легко узнаваем, по крайней мере, в момент первого знакомства физического лица с дипфейком или опубликованным текстом.
▪️следует размещать там, где между ним и остальными элементами отсутствуют какие-либо промежуточные элементы.
▪️ должен быть непосредственно встроен в дипфейк или опубликованный текст (за исключением творческих работ), если нет эквивалентных альтернатив, таких как наложение на пользовательский интерфейс. Знак должен быть виден при повторном распространении или загрузке контента.
▪️хорошо виден.
▪️Вся сопроводительная этикетка должна быть написана простым языком и избегать профессионального жаргона, вводящих в заблуждение формулировок и сокращений, кроме «AI».
▪️По возможности, значок должен быть читаемым вспомогательными технологиями с помощью альтернативного текста или меток ARIA, указывающих на то, что контент сгенерирован или обработан ИИ.
▪️Если информация отображается в течение ограниченного времени, она должна оставаться видимой достаточно долго, чтобы ее могли прочитать и понять пользователи с когнитивными трудностями.
▪️Если дополнительная информация предоставляется через второй интерактивный слой, значок должен четко указывать на наличие дополнительной информации, а содержимое второго слоя должно быть доступно для навигации с использованием вспомогательных технологий.

📌 Code of Practice on marking and labelling of AI-generated content

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

Как маркировать аудио, созданное ИИ?

Еврокомиссия опубликовала доклад "Technical solutions for marking and detecting AI-generated audio content in the context of Article 50(2) AI Act".
Оказалось, что требования AI Act к маркировке не сможет выполнить одна технология. Нужна комбинация метаданных, водяных знаков и инструментов проверки происхождения контента, т.е. идеального решения пока нет.

👀 Сейчас используются:
1️⃣ Метаданные, которые позволяют хранить подробную информацию об источнике аудио, но их можно удалить или изменить.

2️⃣Цифровые водяные знаки сохраняются внутри аудиосигнала и лучше переживают обработку файла, значит хорошо использовать для сохранения маркировки после распространения файла. Однако пока остаются проблемы со стандартизацией и совместимостью между платформами.

3️⃣ Аудиоотпечатки хорошо работают для проверки уже известных записей, но не помогают выявлять новый ИИ-контент.

4️⃣ Анализ следов конкретных ИИ-моделей способен находить синтетическое аудио даже без маркировки, но требует постоянного обновления и легко устаревает по мере развития моделей.

Авторы предлагают использовать многоуровневую систему, где используются сразу несколько механизмов, т.е. объединять метаданные, водяные знаки и методы выявления ИИ-контента. Кроме этого:
▪️ развивать открытые стандарты совместимости;
▪️разрабатывать системы, где метаданные, водяные знаки, аудиоотпечатки и методы выявления ИИ дополняют друг друга, чтобы потеря одного слоя не делала проверку невозможной.
▪️ создавать доверенные реестры и инфраструктуру проверки происхождения контента, через которые платформы, регуляторы и другие участники смогут автоматически проверять маркировку и происхождение аудио;
▪️запускать открытые наборы данных и тесты для оценки устойчивости решений;
▪️ внедрять сертификацию технологий маркировки.

❕Напоминаем, что общие требования ст. 50 AI Act о прозрачности и маркировке ИИ-контента начинают применяться со 2 августа 2026 года, для обязанности по машиночитаемой маркировке синтетического контента (ст. 50(2) AI Act) предусмотрен переходный период до 2 декабря 2026 года в рамках пакета упрощений требований Digital Omnibus. Именно поэтому сейчас активно обсуждаются технические решения для маркировки и выявления аудио, созданного ИИ.

📌 Cистема маркировки контента, созданного ИИ (добровольный кодекс правил ЕС);
Знак ЕС для маркировки контента, сгенерированного ИИ;

#LawAndDisorder #AIShelf #UXWatch
————
@pattern_ai | AI GDPR Navigator

История с Anthropic не про Anthropic

Уже все написали о том, что власти США фактически заставили Anthropic отключить по всему миру доступ к Claude Fable 5 и Claude Mythos 5.

Формально речь шла об экспортных ограничениях. По данным Anthropic, правительство потребовало заблокировать доступ к моделям для всех иностранных граждан, включая сотрудников компании без американского гражданства. Поскольку реализовать такое ограничение быстро оказалось невозможно, компания отключила модели для всех пользователей во всём мире.

Причиной стали опасения, что защитные механизмы модели можно обойти и использовать её возможности для поиска уязвимостей в ПО. Белый дом посчитал риск достаточным для вмешательства. Anthropic с этим не согласилась и заявила, что речь идёт о частном сценарии, а не о полной компрометации системы.

✏️ Но только за последние недели в мире:
▪️ ЕС выпустило руководство по высокорисковым системам ИИ, требования по маркировке ИИ, развивая положения AI Act.
▪️ Сингапур обновило рамочную модель управления агентным ИИ.
▪️ Канада публикует руководство по использованию агентного ИИ и выпускает новую стратегию развития ИИ.
▪️ Папа Римский Лев XIV выпускает энциклику о защите человеческого достоинства в эпоху ИИ.
▪️ OpenAI публикует собственную систему управления рисками передовых моделей.
▪️ Anthropic предложил рамочную модель управления рисками наиболее мощных систем.
▪️В это же время в США издается указ "Promoting Advanced Artificial Intelligence Innovation and Security" и меморандум по использованию ИИ в сфере национальной безопасности, официально связывая наиболее мощные модели ИИ с вопросами национальной безопасности. Вводится механизм оценки наиболее мощных моделей ИИ с точки зрения национальной и кибербезопасности, а также говорится об ускоренном внедрении самых мощных коммерческих и открытых моделей в военной и разведывательной сферах, создании защищённой вычислительной инфраструктуры и формировании стратегического резерва экспертов по ИИ.

🔍И практически одновременно меняются правила игры вокруг данных.
Anthropic обновила свою политику конфиденциальности для новых моделей и агентных функций. Компания отдельно описывает взаимодействие со сторонними сервисами, расширяет положения о передаче данных через подключённые инструменты и вводит специальные правила хранения запросов и ответов для наиболее мощных моделей. А также может добровольно передавать данные правоохранительным органам при наличии собственной "добросовестной уверенности" в необходимости такого раскрытия, а не только по судебному решению или обязательному требованию государств.

➡️За одну неделю два новых вопроса:
🔹Кто может получить доступ к данным и журналам взаимодействия в целях обеспечения безопасности и не только?
🔹Кто и на каких основаниях может ограничивать доступ к наиболее мощным моделям?

❕Для бизнеса это решение показывает очевидность рисков, связанных с зависимостью от решений отдельных государств, ограничения доступа к используемой модели. А значит нужно думать про резервных поставщиков и возможной технологической диверсификации, повышает интерес к локальным и открытым моделям как способу снизить зависимость от внешних решений.
Возможно, главный эффект мер, связанных с ограничением, окажется противоположным ожидаемому.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Обратите внимание на PP Claude

Пожалуй стоит сделать отдельный пост про обновления Privacy Policy Anthropic, т.к. на почту уведомление получили, кликнули и забыли.

👀 Здесь можно найти построчное сравнение документов на Github.

Изменения касаются аккаунтов Claude Free, Pro и Max и НЕ распространяются на корпоративные продукты и API. НО, обратите также внимание, если сотрудники используют личные или Pro-аккаунты для выполнения рабочих задач.

✏️Примеры изменений:

1️⃣Аккаунты, зарегистрированные на рабочие email-адреса, привязываются к Enterprise-профилю организации.

If you use an email address owned by your employer or another organization, your account may be linked to the organization’s enterprise account with us, as described in our Consumer Terms of Service.

Стоит провести аудит того, кто и на какие адреса регистрировал ИИ, чтобы избежать смешивания личных данных сотрудников и коммерческой информации.

2️⃣ Запуская «агентские сессии» с внешним доступом к файлам (Notion, Google Drive), Anthropic снимает с себя всю ответственность за цепочку данных.

Claude may send your Inputs, Outputs, and instructions to Third-Party Services to perform actions on your behalf (such as reading files, sending messages, or retrieving information). The Third-Party Service receives this data directly and processes it according to its own privacy policy.

Отключите все неиспользуемые интеграции в настройках Claude. Перед включением нового плагина найдите и прочитайте его политику конфиденциальности, а не только правила Anthropic.

3️⃣Вводится верификация возраста и личности.

We may ask you to verify your age or identity..... an image of your government-issued identity document ..........facial geometry templates......

А ваша биометрия теперь может храниться на серверах третьих лиц где-то в США.
4️⃣ Может проактивно передавать переписки властям без судебного контроля.

«We may share personal data with government authorities... where... we have a good-faith belief that disclosure is reasonably necessary to... prevent serious harm to any person or to property...»

Относитесь к окну чата Claude как к открытой публикации в соцсети. Лучше не пишите туда ничего, что автоматический алгоритм модерации может интерпретировать как угрозу .
5️⃣Снимает с себя ответственность за любые действия Claude-агентов во внешней среде компании.

When you provide Inputs—including by uploading files, granting Claude access to third-party services, or instructing Claude to retrieve or act on information—you are responsible for ensuring you have the necessary rights, permissions, or authority to do so.

Не давайте ИИ-агентам права на удаление или модификацию критически важных данных компании без ручного подтверждени, не подключайте личный Claude к личным облакам (Google Drive/Dropbox), если там лежат документы третьих лиц (например, ваших клиентов или работодателя).

6️⃣ Интеграции работают непрерывно, а не только в момент запроса.

Some integrations or features may allow Claude to access Third-Party Services on an ongoing basis until you disable the feature or disconnect the integration in your settings.

В фоновом режиме может собираться контекст или обновляться данные, даже когда вы не открыли вкладку браузера, а это риск скрытого сбора информации.
Настройте оповещения на любые фоновые запросы от серверов Anthropic, чтобы видеть реальную активность ИИ-агентов. Заведите привычку раз в неделю заходить в настройки интеграций и отключать доступы. Активируйте их только на время непосредственной работы.

7️⃣Расширен список оснований, позволяющих Anthropic принудительно связать анонимизированные чаты с вашей личностью.

«However, we may re-identify the Inputs or Outputs to enforce our Terms of Service or Usage Policy with the responsible user if necessary.»

В случае срабатывания фильтра безопасности ваш чат будет связан с вашим профилем, платежной картой и IP.

8️⃣А еще для обучения моделей введено основание "Scientific Research", что может влиять на право удаления данных.

❕Помните, что Claude не ваш личный дневник.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Google AI Overviews меняют экономику интернета

Что происходит с интернетом, если пользователь получает ответ прямо в поисковике и больше не переходит на сайты, которые этот ответ сделали возможным?

👀 В апреле для Европарламента был подготовлен специальный доклад о влиянии Google AI Overviews на издателей, доходы СМИ и информационную среду.

Главный вывод: проблема уже не сводится к качеству ответов ИИ, а речь идёт о перераспределении внимания пользователей, трафика и доходов:

▪️ Пользователи переходили по обычным ссылкам в 15% случаев, если в результатах поиска не было AI Overview. При появлении AI Overview этот показатель снижался до 8% ( данные Pew Research).
▪️наличие AI Overview может снижать кликабельность первой позиции в поисковой выдаче примерно на 58% (оценка Ahrefs).
▪️руководители медиакомпаний ожидают дальнейшее снижение поискового трафика примерно на 43% в ближайшие годы из-за распространения поисковых сервисов с ИИ ( опрос Reuters Institute).

Если всё больше людей получают информацию через единый сгенерированный ответ, а не через множество независимых источников, это начинает влиять на медиаплюрализм и устойчивость информационной среды.

Именно поэтому вопрос оказался в поле зрения европейских регуляторов.

В декабре 2025 г. Еврокомиссия начала антимонопольное расследование в отношении Google. Среди вопросов, которые изучают регуляторы, использование материалов издателей для формирования AI Overviews без справедливого вознаграждения и без возможности отказаться от такого использования, сохранив полноценное присутствие в поисковой выдаче.

В феврале Европейский совет издателей подал отдельную жалобу, утверждая, что AI Overviews используют журналистские материалы без эффективного механизма отказа, без справедливой компенсации и одновременно сокращают аудиторию самих изданий.

Председатель EPC:«AI Overviews и AI Mode фундаментально подрывают экономическую модель, на которой держался открытый интернет».

А Google продолжает расширять AI Search и AI Mode, объявив про крупнейшем обновлении поиска за более чем 25 лет ( новый AI-интерфейс поиска, развитие AI Mode, агентные функции (агенты, выполняющие задачи), более глубокая интеграция Gemini в поиск). Кроме этого реклама постепенно интегрируется непосредственно в AI-ответы и разговорные сценарии поиска, а не только в классическую выдачу.

Отвечая на жалобы медиа Google начал внедрять изменения, которые должны вернуть часть трафика издателям. Например, в мае добавил в AI Overviews более заметное отображение материалов из изданий, на которые подписан пользователь. Добавил новые элементы управления, которые позволят владельцам веб-сайтов фактически отказаться от функций поиска с использованием ИИ и исключить свой контент из обзоров ИИ. Это обновление стало ответом на постановление Управления по вопросам конкуренции и рынков Великобритании , которое предписывает, что владельцы веб-сайтов должны иметь возможность контролировать использование своего контента в функциях ИИ.

Также компания публично признаёт обеспокоенность рынка снижением переходов на сайты, но продвигает противоположный тезис "пользователи получают более качественные ответы и продолжают исследовать веб через встроенные ссылки."

❕Кому же достаётся ценность от контента, созданного людьми?

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Суды и регуляторы хотят изменить правила игры для поискового ИИ

В прошлом посте разобрали, что, по мнению ЕС, Google AI Overviews влияет на медиаплюрализм и устойчивость информационной среды, кроме этого раньше был пост про ошибки и галлюцинации Google AI Overviews.
А теперь посмотрим подробнее на последние решения.

➡️ Немецкий суд признал, что сгенерированный ответ является самостоятельным высказыванием Google. Рассматривалось дело двух издателей, которых AI Overview ошибочно связал с мошенническими схемами.
Позиция суда оказалась принципиальной, если AI Overview распространяет ложную информацию, ответственность несёт Google, а не сайты, на которые система ссылалась при формировании ответа.

До сих пор многие компании ссылались на то, что ИИ лишь обрабатывает информацию из различных источников. Однако суд указал, что предупреждение в духе «искусственный интеллект может ошибаться» само по себе не освобождает от ответственности за распространение ложных сведений.

Если решение устоит после обжалования, оно может стать одним из первых значимых прецедентов для оценки ответственности за ошибки поисковых систем с ИИ.

➡️ Требования Британского регулятора к Google Search:
▪️предоставить издателям эффективный контроль над использованием их поискового контента в генеративном искусственном интеллекте.
▪️публиковать четкую, понятную и удобную для пользователя информацию, объясняющую, как Google использует контент издателей в поисковой выдаче в рамках своей системы генеративного искусственного интеллекта.
▪️предоставить издателям четкие и подробные метрики вовлеченности пользователей в поисковый контент с помощью функций генеративного искусственного интеллекта для поиска.
▪️предпринимать разумные шаги для обеспечения четкого и точного указания авторства поискового контента в общем поиске, а также для обеспечения конечным пользователям четких способов доступа к этому поисковому контенту.
▪️публиковать четкую, понятную и удобную для пользователя информацию, объясняющую свой подход к атрибуции.
▪️ранжировать органические результаты поиска на основе объективных и недискриминационных критериев, включая функции ИИ для поиска.
▪️обеспечить прозрачность в отношении ранжирования органических результатов поиска, а также предоставлять достаточное уведомление и информацию о существенных изменениях, которые могут повлиять на издателей и сократить неоправданные затраты.
▪️дать издателям возможность эффективно выражать обеспокоенность по поводу ручных действий и существенных изменений, которые могут оказать искажающее или иное негативное воздействие на рынки Великобритании.

По сути, регулятор пытается добиться того, чтобы влияние Google на распространение информации было более прозрачным и подконтрольным.

❕Как видим, поднимаются вопросы уже не только авторского права и обучения ИИ, а вопросы контроля, ответственности, прозрачности, и последствий для людей, бизнеса и общества. Поисковые системы с ИИ становятся уже не просто посредниками между пользователем и источником информации, а непосредственно источником, раз миллионы пользователей воспринимают ответ Google AI Overviews как верный.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator