CNN подала в суд на Perplexity AI

CNN подала иск против Perplexity за нарушение авторских прав, незаконно использовано более 17 000 материалов (статьи, видео и изображения).
По мнению CNN, ответы системы воспроизводят контент, который является "идентичным или существенно схожим" с оригинальными публикациями телеканала.
Позиция Perplexity остается неизменной, что "факты нельзя защищать авторским правом".
Однако правообладатели спорят не о фактах как таковых, а о воспроизведении структуры, текста, подборки материалов, фотографий и других охраняемых элементов произведений. Ранее претензии к компании уже предъявляли The New York Times, Dow Jones, New York Post, Reddit, Merriam-Webster, Encyclopedia Britannica и другие правообладатели.

По данным ресурса «ChatGPT Is Eating the World», количество исков по вопросам авторского права против разработчиков ИИ уже достигло 114.
Иски разделились на две категории, про обучения моделей на защищенном контенте и использование/ воспроизведение материалов непосредственно в ответах ИИ-систем.

❕Где заканчивается допустимое цитирование источника и начинается создание конкурирующего продукта на основе чужого контента?

📌 AI Copyright & IP Lawsuits — Cumulative Timeline;
AI Copyright Case Tracker.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый указ США по безопасности ИИ

Вчера ( 2 июня) Белый дом опубликовал новый президентский указ о развитии и безопасности ИИ. США продолжают ускорять развитие технологий, стараясь при этом встроить вопросы безопасности внутрь самой системы разработки.

1️⃣ ИИ как часть государственной инфраструктуры:
▪️защита государственных и инфраструктурных систем от кибератак,
▪️создание механизма выявления уязвимостей в ИИ-системах,
▪️расширение использования ИИ в энергетике, финансах и здравоохранении

2️⃣ Контроль за продвинутыми моделям ИИ.
Вводится их условная классификация и механизм оценки возможностей, прежде всего в части кибербезопасности. При этом
участие компаний в оценке добровольное, государство может получать доступ к моделям до их выпуска для анализа, но формального разрешения на запуск моделей не требуется

❕Фактически это попытка избежать жёсткой модели регулирования, где новые системы нужно заранее согласовывать с государством.
Для компаний, работающих с ИИ, это означает больше внимания к вопросам безопасности на этапе разработки, усиление требований к внутреннему тестированию моделей и постепенное превращение безопасности в обязательную часть жизненного цикла продукта.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Ваш разговор с ИИ может читать не только ИИ.
Часть 2

Продолжение темы о том, что происходит с данными в чат-ботах скоро разберут и в судебной практике (см. предыдущий пост).

1️⃣ Коллективный иск против OpenAI.
Утверждается, что на сайте ChatGPT могли использоваться инструменты веб-трекинга ( Meta Pixel и Google Analytics), которые могли передавать третьим лицам данные о взаимодействии пользователей с сервисом.
По версии истцов, это могло приводить к тому, что:
▪️фиксировались тексты запросов пользователей,
▪️сохранялись идентификаторы и технические данные устройства,
▪️информация могла передаваться сторонним рекламным и аналитическим компаниям

При этом эксперты отмечают, что Google Analytics и Meta Pixel используются миллионами сайтов, а политики конфиденциальности многих онлайн-сервисов прямо предусматривают передачу данных поставщикам аналитики и рекламных технологий. Именно поэтому перспективы иска оцениваются неоднозначно.

2️⃣Коллективный иск против Perplexity, Meta и Google
Истцы заявляют, что в работу сервиса были встроены механизмы веб-аналитики (Meta Pixel, Google Ads / DoubleClick, другие рекламно-аналитические SDK), через которые могли уходить данные о взаимодействии пользователя с системой, включая текстовые фрагменты запросов и ответов (например, сами промпты и ответы, email / идентификаторы аккаунтов, данные девайсов и т.п.).
Ключевым аргументом служит отсутствие прозрачного согласия и ожидание пользователями приватности при общении с чат-ботом.
Истцы обычно опираются на § 631 CIPA (запрет на перехват или чтение электронных коммуникаций третьей стороной в процессе передачи) и
§ 632 CIPA (запрет на несанкционированную запись/раскрытие конфиденциальных коммуникаций).

Учитывая вышедший доклад исследователей, судам предстоит определить, что считается частным разговором в цифровой среде, где почти любой интерфейс одновременно является системой сбора и обработки данных и оценить, был ли пользователь действительно информирован о:
▪️передаче данных сторонним аналитическим и рекламным сервисам,
▪️возможной обработке содержимого диалога, а не только технических метаданных,
▪️ и на что, он все-таки согласился.....

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новый иск к OpenAI касается безопасности ChatGPT

И посмотрим еще один иск, поданный Генеральный прокурором Флориды против OpenAI.

Это первый случай, когда американский штат напрямую судится с разработчиком генеративного ИИ из-за предполагаемых рисков для пользователей.
👀 В иске утверждается, что компания ставила рост аудитории и прибыль выше безопасности пользователей, а ChatGPT может способствовать насилию, самоповреждению и другим опасным действиям. Флорида требует многомиллиардной компенсации и изменения подходов к проектированию системы.

«Люди страдают, родителей обманывают, и они должны за это заплатить», — заявил прокурор журналистам.

Особое внимание в жалобе уделено стрельбе в университете в 2025 году. Власти утверждают, что подозреваемый использовал ChatGPT при подготовке нападения. Ранее семья одной из жертв уже подала отдельный иск против OpenAI, заявив, что чат-бот помогал планировать атаку.
OpenAI отвергает обвинения и заявляет, что модели обучены отказывать в помощи при запросах, связанных с насилием, а также используют специальные механизмы выявления опасного поведения пользователей.

❕Если суд согласится рассматривать ChatGPT как потенциально опасный продукт, последствия могут выйти далеко за пределы OpenAI и затронуть весь рынок генеративного ИИ.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

ИИ говорит «нет», а через API говорит «да». Что показал аудит 16 моделей

Компания AI or Not провела аудит 16 ведущих моделей ( OpenAI, Google, xAI, Recraft, Ideogram, Alibaba, Tencent, Baidu и др.) насколько легко создать реалистичные государственные удостоверения личности. Исследователи тестировали документы для 17 стран и 16 американских штатов, включая паспорта, водительские удостоверения и национальные удостоверения личности. Документы содержали имена, адреса, даты рождения, номера документов и другие персональные данные.

👀 Как вам результаты?
🔹 В 69 из 75 тестов исследователям удалось обойти защитные механизмы и получить синтетическое удостоверение личности. Общий показатель успешного обхода составил 92%.
🔹 Ни одна из 16 моделей не отказалась от всех запросов на создание документов.
🔹 Пять моделей создали удостоверения личности настолько высокого качества, что они могли бы обмануть человека, проверяющего документы.

Проблема даже не в том, что модели умеют рисовать паспорта, а в том как именно реализована защита:
▪️ChatGPT и Recraft v4 отказывались создавать удостоверения личности несовершеннолетних через обычный пользовательский интерфейс, но успешно создавали такие документы через API. Фактически одна и та же модель принимала противоположные решения в зависимости от способа доступа.
▪️Модели первоначально отказывались создавать документы, а потом могли выполнять те же запросы, если они были представлены как аудит безопасности, проверка KYC-процедур, оценка соответствия требованиям, исследовательская задача. Фильтрация основана на классификации поверхностных намерений, а не на категорическом отказе от определенного типа выходных данных.

❕Если определённый тип контента считается опасным, ограничения должны работать везде, где доступна модель, включая API. Тестирование только через пользовательский интерфейс создаёт ложное ощущение защищённости.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Военный ИИ и Белый дом

Три дня спустя после подписания Указа о развитии и безопасности ИИ, Белый дом выпустил Меморандум по национальной безопасности (NSPM-11) с планами резко ускорить внедрение ИИ в разведку и оборонный сектор США.
Документ выглядит как технический регламент, но, по сути, это прямой ответ на конфликт с Anthropic.
Тогда Пентагон заставлял Anthropic разрешить использование моделей Claude для любых задач, разрешенных федеральным законом, но компания потребовала жестких гарантий соблюдения своих красных линий по полному запрету на массовую внутреннюю слежку за гражданами и запрет на использование ИИ в полностью автономных системах вооружения.

👀 Меморандум прямо запрещает коммерческим компаниям отключать, модифицировать или ухудшать работу ИИ-моделей, которые уже используют американские военные, без прямого одобрения Администрации. Никакого отзыва лицензий посреди операции быть не может.
Разведке и военным приказано в течение 120 дней перестроить закупки так, чтобы оперативно внедрять передовые модели от множества разных вендоров.

Должно быть обеспечено незамедлительное предоставление самых передовых моделей специалистам в области национальной безопасности.

Белый дом официально пообещал, что ИИ не будет использоваться для цензуры, идеологической предвзятости или незаконной слежки. Министру обороны поручено в течение 90 дней обновить директиву об автономном оружии, чтобы учесть риски моделей.

❕Правила игры переписываются....

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Новая стратегия Канады по развитию ИИ

Канада официально представила свою новую Национальную стратегию в области ИИ под названием «AI for All», нацелена на обеспечение роста экономики на $200 млрд и создание 250 000 рабочих мест к 2031 году.

Премьер-министр отметил, что сейчас Канада входит в число стран с самой медленной скоростью внедрения ИИ в масштабах всей страны.

👀 Основные приоритеты:
▪️ Ускорение внедрения ИИ в индустриях( повысить уровень использования ИИ бизнесом с 12% до 60% к 2034 году).
▪️ Развитие и удержание талантов (запуск бесплатных программ ИИ-грамотности для всех граждан, поддержка менее защищенных слоев и масштабный апскиллинг сотрудников).
▪️ Безопасность и ответственное управление (ужесточение законов против дипфейков, защита приватности и внедрение национальной сертификации Trusted AI. внедрение водяных знаков на контенте, созданном ИИ).
▪️ Укрепление суверенной ИИ-инфраструктуры ( выделение $700 млн на суверенные вычислительные мощности и создание экологичного суперкомпьютера мирового уровня).
▪️ Повышение глобальной конкурентоспособности (запуск целевых программ (ИИ-миссий), начиная с масштабного проекта в сфере здравоохранения ($200 млн)).

Правительство Канады также подписало соглашения и совместные заявления с  Австралией,  Европейским союзом,  Финляндией,  Германией,  Индией,  Норвегией,  Катаром, Саудовской Аравией, Испанией, Швецией, Объединенными Арабскими Эмиратами и  Соединенным Королевством .

❕Подход Канады подчеркивает важность баланса между инновациями, доверием общества и развитием долгосрочного суверенного потенциала.

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

ЕС запускает систему маркировки контента, созданного ИИ

Европейская комиссия опубликовала добровольный Кодекс практики по обеспечению прозрачности контента, созданного с помощью ИИ, который поможет компаниям выполнять требования ст. 50 AI Act.
Напоминаем, что требования AI Act о маркировке и раскрытии использования ИИ начинают действовать со 2 августа 2026 года.

Поставщики генеративных систем ИИ могут присоединиться к Кодексу или выбрать собственный способ соблюдения требований статьи 50 AI Act. Однако Кодекс фактически становится ориентиром для регуляторов. Поставщики, которые не подпишут Кодекс и решат соблюдать требования другими способами, должны будут продемонстрировать адекватность этих мер. Оценка же будет даваться индивидуально различными органами по надзору за рынком.

👀 Кодекс рекомендует :
1️⃣ Поставщикам генеративных систем использовать двухуровневую систему маркировки контента:

▪️цифровые метаданные с криптографической подписью;
▪️скрытые водяные знаки, встроенные непосредственно в изображение, видео, аудио или текст.

По мнению авторов документа, одной технологии недостаточно. Для выполнения требований закона потребуется сочетание нескольких способов маркировки.

2️⃣ Поставщики обязаны предоставлять инструменты, позволяющие проверить происхождение контента. Причём такие средства должны быть доступны не только государственным органам, но и журналистам, исследователям, организациям по проверке фактов и обычным пользователям. Для большинства участников рынка доступ к таким инструментам должен быть бесплатным.

3️⃣ Компании должны не только добавлять метки, но и не создавать инструменты для их удаления. Кроме того, им рекомендуется сохранять уже существующие метаданные при дальнейшей обработке контента.

4️⃣ Маркировка должна сохраняться после:

▪️ изменения формата файла;
▪️ сжатия изображения или видео;
▪️ создания скриншотов;
▪️ перевода текста;
▪️ перефразирования;
▪️ записи изображения с экрана.
Т.е. не формальная отметка «создано ИИ», а технические решения, способные пережить попытки обхода.

5️⃣ Организациям или лицам, которые используют ИИ для создания контента, педлагается единый подход к маркировке дипфейков и текстов, опубликованных по вопросам общественного интереса без редакционного контроля человека (стр. 29).

6️⃣Представлен набор иконок, которые можно использовать для маркировки контента, созданного с помощью ИИ.

📌 Code of Practice on marking and labelling of AI-generated content;
EU Icons for labelling AI-generated content;
How to sign the Code of Practice on transparency of AI-generated content;
Questions & answer about the code;
Questions & answer about signing the code;
Info session on the code of practice & signature process;

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

Знак ЕС для маркировки контента, сгенерированного ИИ

ЕС разработал набор иконок, которые создатели, издатели и другие пользователи систем генеративного ИИ могут использовать для маркировки своего контента, созданного с помощью ИИ.

Исключения, когда не нужны пометки:
1️⃣ контент, созданный с помощью технологии DeepFake, является частью явно художественного, творческого, сатирического, вымышленного или аналогичного произведения или программы, обязательства по обеспечению прозрачности ограничиваются раскрытием информации надлежащим образом, НЕ препятствующим демонстрации или наслаждению произведением.
2️⃣использование дипфейков или опубликованного текста по вопросам, представляющим общественный интерес, разрешено законом для выявления, предотвращения, расследования или преследования уголовных преступлений.
3️⃣ текст, сгенерированный ИИ, прошел проверку человеком или редакционный контроль, и когда физическое или юридическое лицо несет редакционную ответственность за публикацию контента.

Знаки представлены в 4 вариантах, а также для светлого и тёмного фона, правила по контрастности и минимальному размеру

📝Правила отображения значков:
▪️ должен быть четко различим и легко узнаваем, по крайней мере, в момент первого знакомства физического лица с дипфейком или опубликованным текстом.
▪️следует размещать там, где между ним и остальными элементами отсутствуют какие-либо промежуточные элементы.
▪️ должен быть непосредственно встроен в дипфейк или опубликованный текст (за исключением творческих работ), если нет эквивалентных альтернатив, таких как наложение на пользовательский интерфейс. Знак должен быть виден при повторном распространении или загрузке контента.
▪️хорошо виден.
▪️Вся сопроводительная этикетка должна быть написана простым языком и избегать профессионального жаргона, вводящих в заблуждение формулировок и сокращений, кроме «AI».
▪️По возможности, значок должен быть читаемым вспомогательными технологиями с помощью альтернативного текста или меток ARIA, указывающих на то, что контент сгенерирован или обработан ИИ.
▪️Если информация отображается в течение ограниченного времени, она должна оставаться видимой достаточно долго, чтобы ее могли прочитать и понять пользователи с когнитивными трудностями.
▪️Если дополнительная информация предоставляется через второй интерактивный слой, значок должен четко указывать на наличие дополнительной информации, а содержимое второго слоя должно быть доступно для навигации с использованием вспомогательных технологий.

📌 Code of Practice on marking and labelling of AI-generated content

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

Как маркировать аудио, созданное ИИ?

Еврокомиссия опубликовала доклад "Technical solutions for marking and detecting AI-generated audio content in the context of Article 50(2) AI Act".
Оказалось, что требования AI Act к маркировке не сможет выполнить одна технология. Нужна комбинация метаданных, водяных знаков и инструментов проверки происхождения контента, т.е. идеального решения пока нет.

👀 Сейчас используются:
1️⃣ Метаданные, которые позволяют хранить подробную информацию об источнике аудио, но их можно удалить или изменить.

2️⃣Цифровые водяные знаки сохраняются внутри аудиосигнала и лучше переживают обработку файла, значит хорошо использовать для сохранения маркировки после распространения файла. Однако пока остаются проблемы со стандартизацией и совместимостью между платформами.

3️⃣ Аудиоотпечатки хорошо работают для проверки уже известных записей, но не помогают выявлять новый ИИ-контент.

4️⃣ Анализ следов конкретных ИИ-моделей способен находить синтетическое аудио даже без маркировки, но требует постоянного обновления и легко устаревает по мере развития моделей.

Авторы предлагают использовать многоуровневую систему, где используются сразу несколько механизмов, т.е. объединять метаданные, водяные знаки и методы выявления ИИ-контента. Кроме этого:
▪️ развивать открытые стандарты совместимости;
▪️разрабатывать системы, где метаданные, водяные знаки, аудиоотпечатки и методы выявления ИИ дополняют друг друга, чтобы потеря одного слоя не делала проверку невозможной.
▪️ создавать доверенные реестры и инфраструктуру проверки происхождения контента, через которые платформы, регуляторы и другие участники смогут автоматически проверять маркировку и происхождение аудио;
▪️запускать открытые наборы данных и тесты для оценки устойчивости решений;
▪️ внедрять сертификацию технологий маркировки.

❕Напоминаем, что общие требования ст. 50 AI Act о прозрачности и маркировке ИИ-контента начинают применяться со 2 августа 2026 года, для обязанности по машиночитаемой маркировке синтетического контента (ст. 50(2) AI Act) предусмотрен переходный период до 2 декабря 2026 года в рамках пакета упрощений требований Digital Omnibus. Именно поэтому сейчас активно обсуждаются технические решения для маркировки и выявления аудио, созданного ИИ.

📌 Cистема маркировки контента, созданного ИИ (добровольный кодекс правил ЕС);
Знак ЕС для маркировки контента, сгенерированного ИИ;

#LawAndDisorder #AIShelf #UXWatch
————
@pattern_ai | AI GDPR Navigator

История с Anthropic не про Anthropic

Уже все написали о том, что власти США фактически заставили Anthropic отключить по всему миру доступ к Claude Fable 5 и Claude Mythos 5.

Формально речь шла об экспортных ограничениях. По данным Anthropic, правительство потребовало заблокировать доступ к моделям для всех иностранных граждан, включая сотрудников компании без американского гражданства. Поскольку реализовать такое ограничение быстро оказалось невозможно, компания отключила модели для всех пользователей во всём мире.

Причиной стали опасения, что защитные механизмы модели можно обойти и использовать её возможности для поиска уязвимостей в ПО. Белый дом посчитал риск достаточным для вмешательства. Anthropic с этим не согласилась и заявила, что речь идёт о частном сценарии, а не о полной компрометации системы.

✏️ Но только за последние недели в мире:
▪️ ЕС выпустило руководство по высокорисковым системам ИИ, требования по маркировке ИИ, развивая положения AI Act.
▪️ Сингапур обновило рамочную модель управления агентным ИИ.
▪️ Канада публикует руководство по использованию агентного ИИ и выпускает новую стратегию развития ИИ.
▪️ Папа Римский Лев XIV выпускает энциклику о защите человеческого достоинства в эпоху ИИ.
▪️ OpenAI публикует собственную систему управления рисками передовых моделей.
▪️ Anthropic предложил рамочную модель управления рисками наиболее мощных систем.
▪️В это же время в США издается указ "Promoting Advanced Artificial Intelligence Innovation and Security" и меморандум по использованию ИИ в сфере национальной безопасности, официально связывая наиболее мощные модели ИИ с вопросами национальной безопасности. Вводится механизм оценки наиболее мощных моделей ИИ с точки зрения национальной и кибербезопасности, а также говорится об ускоренном внедрении самых мощных коммерческих и открытых моделей в военной и разведывательной сферах, создании защищённой вычислительной инфраструктуры и формировании стратегического резерва экспертов по ИИ.

🔍И практически одновременно меняются правила игры вокруг данных.
Anthropic обновила свою политику конфиденциальности для новых моделей и агентных функций. Компания отдельно описывает взаимодействие со сторонними сервисами, расширяет положения о передаче данных через подключённые инструменты и вводит специальные правила хранения запросов и ответов для наиболее мощных моделей. А также может добровольно передавать данные правоохранительным органам при наличии собственной "добросовестной уверенности" в необходимости такого раскрытия, а не только по судебному решению или обязательному требованию государств.

➡️За одну неделю два новых вопроса:
🔹Кто может получить доступ к данным и журналам взаимодействия в целях обеспечения безопасности и не только?
🔹Кто и на каких основаниях может ограничивать доступ к наиболее мощным моделям?

❕Для бизнеса это решение показывает очевидность рисков, связанных с зависимостью от решений отдельных государств, ограничения доступа к используемой модели. А значит нужно думать про резервных поставщиков и возможной технологической диверсификации, повышает интерес к локальным и открытым моделям как способу снизить зависимость от внешних решений.
Возможно, главный эффект мер, связанных с ограничением, окажется противоположным ожидаемому.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Обратите внимание на PP Claude

Пожалуй стоит сделать отдельный пост про обновления Privacy Policy Anthropic, т.к. на почту уведомление получили, кликнули и забыли.

👀 Здесь можно найти построчное сравнение документов на Github.

Изменения касаются аккаунтов Claude Free, Pro и Max и НЕ распространяются на корпоративные продукты и API. НО, обратите также внимание, если сотрудники используют личные или Pro-аккаунты для выполнения рабочих задач.

✏️Примеры изменений:

1️⃣Аккаунты, зарегистрированные на рабочие email-адреса, привязываются к Enterprise-профилю организации.

If you use an email address owned by your employer or another organization, your account may be linked to the organization’s enterprise account with us, as described in our Consumer Terms of Service.

Стоит провести аудит того, кто и на какие адреса регистрировал ИИ, чтобы избежать смешивания личных данных сотрудников и коммерческой информации.

2️⃣ Запуская «агентские сессии» с внешним доступом к файлам (Notion, Google Drive), Anthropic снимает с себя всю ответственность за цепочку данных.

Claude may send your Inputs, Outputs, and instructions to Third-Party Services to perform actions on your behalf (such as reading files, sending messages, or retrieving information). The Third-Party Service receives this data directly and processes it according to its own privacy policy.

Отключите все неиспользуемые интеграции в настройках Claude. Перед включением нового плагина найдите и прочитайте его политику конфиденциальности, а не только правила Anthropic.

3️⃣Вводится верификация возраста и личности.

We may ask you to verify your age or identity..... an image of your government-issued identity document ..........facial geometry templates......

А ваша биометрия теперь может храниться на серверах третьих лиц где-то в США.
4️⃣ Может проактивно передавать переписки властям без судебного контроля.

«We may share personal data with government authorities... where... we have a good-faith belief that disclosure is reasonably necessary to... prevent serious harm to any person or to property...»

Относитесь к окну чата Claude как к открытой публикации в соцсети. Лучше не пишите туда ничего, что автоматический алгоритм модерации может интерпретировать как угрозу .
5️⃣Снимает с себя ответственность за любые действия Claude-агентов во внешней среде компании.

When you provide Inputs—including by uploading files, granting Claude access to third-party services, or instructing Claude to retrieve or act on information—you are responsible for ensuring you have the necessary rights, permissions, or authority to do so.

Не давайте ИИ-агентам права на удаление или модификацию критически важных данных компании без ручного подтверждени, не подключайте личный Claude к личным облакам (Google Drive/Dropbox), если там лежат документы третьих лиц (например, ваших клиентов или работодателя).

6️⃣ Интеграции работают непрерывно, а не только в момент запроса.

Some integrations or features may allow Claude to access Third-Party Services on an ongoing basis until you disable the feature or disconnect the integration in your settings.

В фоновом режиме может собираться контекст или обновляться данные, даже когда вы не открыли вкладку браузера, а это риск скрытого сбора информации.
Настройте оповещения на любые фоновые запросы от серверов Anthropic, чтобы видеть реальную активность ИИ-агентов. Заведите привычку раз в неделю заходить в настройки интеграций и отключать доступы. Активируйте их только на время непосредственной работы.

7️⃣Расширен список оснований, позволяющих Anthropic принудительно связать анонимизированные чаты с вашей личностью.

«However, we may re-identify the Inputs or Outputs to enforce our Terms of Service or Usage Policy with the responsible user if necessary.»

В случае срабатывания фильтра безопасности ваш чат будет связан с вашим профилем, платежной картой и IP.

8️⃣А еще для обучения моделей введено основание "Scientific Research", что может влиять на право удаления данных.

❕Помните, что Claude не ваш личный дневник.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Google AI Overviews меняют экономику интернета

Что происходит с интернетом, если пользователь получает ответ прямо в поисковике и больше не переходит на сайты, которые этот ответ сделали возможным?

👀 В апреле для Европарламента был подготовлен специальный доклад о влиянии Google AI Overviews на издателей, доходы СМИ и информационную среду.

Главный вывод: проблема уже не сводится к качеству ответов ИИ, а речь идёт о перераспределении внимания пользователей, трафика и доходов:

▪️ Пользователи переходили по обычным ссылкам в 15% случаев, если в результатах поиска не было AI Overview. При появлении AI Overview этот показатель снижался до 8% ( данные Pew Research).
▪️наличие AI Overview может снижать кликабельность первой позиции в поисковой выдаче примерно на 58% (оценка Ahrefs).
▪️руководители медиакомпаний ожидают дальнейшее снижение поискового трафика примерно на 43% в ближайшие годы из-за распространения поисковых сервисов с ИИ ( опрос Reuters Institute).

Если всё больше людей получают информацию через единый сгенерированный ответ, а не через множество независимых источников, это начинает влиять на медиаплюрализм и устойчивость информационной среды.

Именно поэтому вопрос оказался в поле зрения европейских регуляторов.

В декабре 2025 г. Еврокомиссия начала антимонопольное расследование в отношении Google. Среди вопросов, которые изучают регуляторы, использование материалов издателей для формирования AI Overviews без справедливого вознаграждения и без возможности отказаться от такого использования, сохранив полноценное присутствие в поисковой выдаче.

В феврале Европейский совет издателей подал отдельную жалобу, утверждая, что AI Overviews используют журналистские материалы без эффективного механизма отказа, без справедливой компенсации и одновременно сокращают аудиторию самих изданий.

Председатель EPC:«AI Overviews и AI Mode фундаментально подрывают экономическую модель, на которой держался открытый интернет».

А Google продолжает расширять AI Search и AI Mode, объявив про крупнейшем обновлении поиска за более чем 25 лет ( новый AI-интерфейс поиска, развитие AI Mode, агентные функции (агенты, выполняющие задачи), более глубокая интеграция Gemini в поиск). Кроме этого реклама постепенно интегрируется непосредственно в AI-ответы и разговорные сценарии поиска, а не только в классическую выдачу.

Отвечая на жалобы медиа Google начал внедрять изменения, которые должны вернуть часть трафика издателям. Например, в мае добавил в AI Overviews более заметное отображение материалов из изданий, на которые подписан пользователь. Добавил новые элементы управления, которые позволят владельцам веб-сайтов фактически отказаться от функций поиска с использованием ИИ и исключить свой контент из обзоров ИИ. Это обновление стало ответом на постановление Управления по вопросам конкуренции и рынков Великобритании , которое предписывает, что владельцы веб-сайтов должны иметь возможность контролировать использование своего контента в функциях ИИ.

Также компания публично признаёт обеспокоенность рынка снижением переходов на сайты, но продвигает противоположный тезис "пользователи получают более качественные ответы и продолжают исследовать веб через встроенные ссылки."

❕Кому же достаётся ценность от контента, созданного людьми?

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Суды и регуляторы хотят изменить правила игры для поискового ИИ

В прошлом посте разобрали, что, по мнению ЕС, Google AI Overviews влияет на медиаплюрализм и устойчивость информационной среды, кроме этого раньше был пост про ошибки и галлюцинации Google AI Overviews.
А теперь посмотрим подробнее на последние решения.

➡️ Немецкий суд признал, что сгенерированный ответ является самостоятельным высказыванием Google. Рассматривалось дело двух издателей, которых AI Overview ошибочно связал с мошенническими схемами.
Позиция суда оказалась принципиальной, если AI Overview распространяет ложную информацию, ответственность несёт Google, а не сайты, на которые система ссылалась при формировании ответа.

До сих пор многие компании ссылались на то, что ИИ лишь обрабатывает информацию из различных источников. Однако суд указал, что предупреждение в духе «искусственный интеллект может ошибаться» само по себе не освобождает от ответственности за распространение ложных сведений.

Если решение устоит после обжалования, оно может стать одним из первых значимых прецедентов для оценки ответственности за ошибки поисковых систем с ИИ.

➡️ Требования Британского регулятора к Google Search:
▪️предоставить издателям эффективный контроль над использованием их поискового контента в генеративном искусственном интеллекте.
▪️публиковать четкую, понятную и удобную для пользователя информацию, объясняющую, как Google использует контент издателей в поисковой выдаче в рамках своей системы генеративного искусственного интеллекта.
▪️предоставить издателям четкие и подробные метрики вовлеченности пользователей в поисковый контент с помощью функций генеративного искусственного интеллекта для поиска.
▪️предпринимать разумные шаги для обеспечения четкого и точного указания авторства поискового контента в общем поиске, а также для обеспечения конечным пользователям четких способов доступа к этому поисковому контенту.
▪️публиковать четкую, понятную и удобную для пользователя информацию, объясняющую свой подход к атрибуции.
▪️ранжировать органические результаты поиска на основе объективных и недискриминационных критериев, включая функции ИИ для поиска.
▪️обеспечить прозрачность в отношении ранжирования органических результатов поиска, а также предоставлять достаточное уведомление и информацию о существенных изменениях, которые могут повлиять на издателей и сократить неоправданные затраты.
▪️дать издателям возможность эффективно выражать обеспокоенность по поводу ручных действий и существенных изменений, которые могут оказать искажающее или иное негативное воздействие на рынки Великобритании.

По сути, регулятор пытается добиться того, чтобы влияние Google на распространение информации было более прозрачным и подконтрольным.

❕Как видим, поднимаются вопросы уже не только авторского права и обучения ИИ, а вопросы контроля, ответственности, прозрачности, и последствий для людей, бизнеса и общества. Поисковые системы с ИИ становятся уже не просто посредниками между пользователем и источником информации, а непосредственно источником, раз миллионы пользователей воспринимают ответ Google AI Overviews как верный.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Иллюзия продуктивности или как нейросети незаметно уничтожают успеваемость школьников

В свежем исследовании "The Generative AI Learning Penalty: Evidence from Chinese Secondary Education" ученые проанализировали данные за 30 месяцев по 26 811 учащимся 7–12 классов, сопоставив время выполнения домашних заданий, оценки за них и результаты независимых закрытых экзаменов.

1️⃣ В краткосрочном периоде ИИ выглядит как чудо-помощник. У школьников, начавших использовать нейросети оценки за домашку взлетают на 18%, время на домашнее задание сокращается на 30% (в среднем с 64 до 45 минут).

Но уже через 6 месяцев оценки этих же студентов на ежемесячных закрытых классных экзаменах (где телефона под рукой нет) падают на 20%!

В долгосрочной перспективе ситуация еще хуже. Результаты важнейших выпускных и вступительных экзаменов снижаются на 18–24%.
Полное снижение результатов проявляется только примерно через два года.

2️⃣Почему так происходит. Ученые оценили делегирование задач ИИ.
▪️Полное делегирование (81% учащихся). Сдавали домашку аномально быстро (быстрее самых прилежных отличников без ИИ), получали за неё идеальные баллы, но полностью проваливали реальные тесты.
▪️Умные «пользователи» (19%). Те, кто тратил на домашку столько же времени, сколько и ученики без ИИ (используя нейросеть скорее как репетитора для объяснений, а не как генератор готовых ответов), не потеряли в знаниях. Их экзаменационные баллы остались на высоком уровне.

3️⃣ Кто страдает сильнее всего:
▪️социальные науки (политология, география -27%), чуть меньше в точных науках (STEM -22%) и слабее всего при изучении языков.
▪️высокоуспевающие студенты несут самые большие академические потери от бездумного использования ИИ.
▪️ученики средней школы (7–9 классы) теряют в успеваемости сильнее старшеклассников.

❕Исследование доказывает, что ИИ полностью ломает информационную ценность домашних заданий для учителей и родителей. Отличная оценка в тетради больше не означает, что ребенок что-то понял.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Недооценка рисков ИИ может оказаться самой дорогой ошибкой бизнеса

Исследователи MIT опубликовали одно из самых масштабных исследований по приоритизации рисков искусственного интеллекта.
Статья здесь.
Вместо очередного списка гипотетических угроз они опросили 272 международных эксперта по методу Delphi, чтобы понять три вещи:
▪️ какие риски наиболее опасны;
▪️ кто сильнее всего пострадает;
▪️ кто должен нести основную ответственность за их предотвращение.

1️⃣Наиболее серьезные риски в ближайшие 5 лет:
▪️ опасные возможности современных моделей (dangerous capabilities);
▪️нездоровая конкуренция между разработчиками, когда скорость становится важнее безопасности;
▪️ использование ИИ для кибератак и создания оружия;
▪️ концентрация власти у небольшого числа компаний;
▪️ распространение ложной информации.

При этом именно привычные для бизнеса темы, например, конфиденциальность, дискриминация или мошенничество , уже не считаются единственными ключевыми угрозами. Все больше внимания уделяется системным последствиям развития генеративного ИИ.

18 из 24 категорий рисков имеют вероятность не менее 10% привести к катастрофическим последствиям, т.е. событиям с ущербом более 100 млрд долларов или гибелью более 1 миллиона человек при сохранении текущих тенденций через 5 лет.

Если будут внедрены реалистичные меры управления рисками, пять категорий по-прежнему сохраняют вероятность выше 10%:
▪️опасные возможности моделей;
▪️ кибератаки и использование ИИ в вооружениях;
▪️ экологические последствия;
▪️ рост неравенства и безработицы;
▪️концентрация власти.

2️⃣ Кто больше всего пострадает?
И это вовсе не разработчики, а на первом месте:
▪️ пользователи ИИ;
▪️ граждане, на которых влияют решения ИИ;
▪️ организации, использующие ИИ.

3️⃣Основную ответственность эксперты возлагают на:
▪️ разработчиков универсальных моделей;
▪️ государства;
▪️ регуляторов;
▪️организации, разрабатывающие стандарты.

4️⃣Наиболее уязвимые отрасли:
▪️ информационная сфера;
▪️ финансовый сектор;
▪️ национальная безопасность.
Именно здесь последствия ошибок, злоупотреблений или неконтролируемого использования ИИ могут проявляться быстрее всего.

❕Исследование MIT хорошо показывает, что вопрос уже не в том, будут ли возникать риски, а в том, какие из них требуют первоочередного внимания и кто должен отвечать за их снижение.

#UXWatch
————
@pattern_ai | AI GDPR Navigator