Суды и регуляторы хотят изменить правила игры для поискового ИИ

В прошлом посте разобрали, что, по мнению ЕС, Google AI Overviews влияет на медиаплюрализм и устойчивость информационной среды, кроме этого раньше был пост про ошибки и галлюцинации Google AI Overviews.
А теперь посмотрим подробнее на последние решения.

➡️ Немецкий суд признал, что сгенерированный ответ является самостоятельным высказыванием Google. Рассматривалось дело двух издателей, которых AI Overview ошибочно связал с мошенническими схемами.
Позиция суда оказалась принципиальной, если AI Overview распространяет ложную информацию, ответственность несёт Google, а не сайты, на которые система ссылалась при формировании ответа.

До сих пор многие компании ссылались на то, что ИИ лишь обрабатывает информацию из различных источников. Однако суд указал, что предупреждение в духе «искусственный интеллект может ошибаться» само по себе не освобождает от ответственности за распространение ложных сведений.

Если решение устоит после обжалования, оно может стать одним из первых значимых прецедентов для оценки ответственности за ошибки поисковых систем с ИИ.

➡️ Требования Британского регулятора к Google Search:
▪️предоставить издателям эффективный контроль над использованием их поискового контента в генеративном искусственном интеллекте.
▪️публиковать четкую, понятную и удобную для пользователя информацию, объясняющую, как Google использует контент издателей в поисковой выдаче в рамках своей системы генеративного искусственного интеллекта.
▪️предоставить издателям четкие и подробные метрики вовлеченности пользователей в поисковый контент с помощью функций генеративного искусственного интеллекта для поиска.
▪️предпринимать разумные шаги для обеспечения четкого и точного указания авторства поискового контента в общем поиске, а также для обеспечения конечным пользователям четких способов доступа к этому поисковому контенту.
▪️публиковать четкую, понятную и удобную для пользователя информацию, объясняющую свой подход к атрибуции.
▪️ранжировать органические результаты поиска на основе объективных и недискриминационных критериев, включая функции ИИ для поиска.
▪️обеспечить прозрачность в отношении ранжирования органических результатов поиска, а также предоставлять достаточное уведомление и информацию о существенных изменениях, которые могут повлиять на издателей и сократить неоправданные затраты.
▪️дать издателям возможность эффективно выражать обеспокоенность по поводу ручных действий и существенных изменений, которые могут оказать искажающее или иное негативное воздействие на рынки Великобритании.

По сути, регулятор пытается добиться того, чтобы влияние Google на распространение информации было более прозрачным и подконтрольным.

❕Как видим, поднимаются вопросы уже не только авторского права и обучения ИИ, а вопросы контроля, ответственности, прозрачности, и последствий для людей, бизнеса и общества. Поисковые системы с ИИ становятся уже не просто посредниками между пользователем и источником информации, а непосредственно источником, раз миллионы пользователей воспринимают ответ Google AI Overviews как верный.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Иллюзия продуктивности или как нейросети незаметно уничтожают успеваемость школьников

В свежем исследовании "The Generative AI Learning Penalty: Evidence from Chinese Secondary Education" ученые проанализировали данные за 30 месяцев по 26 811 учащимся 7–12 классов, сопоставив время выполнения домашних заданий, оценки за них и результаты независимых закрытых экзаменов.

1️⃣ В краткосрочном периоде ИИ выглядит как чудо-помощник. У школьников, начавших использовать нейросети оценки за домашку взлетают на 18%, время на домашнее задание сокращается на 30% (в среднем с 64 до 45 минут).

Но уже через 6 месяцев оценки этих же студентов на ежемесячных закрытых классных экзаменах (где телефона под рукой нет) падают на 20%!

В долгосрочной перспективе ситуация еще хуже. Результаты важнейших выпускных и вступительных экзаменов снижаются на 18–24%.
Полное снижение результатов проявляется только примерно через два года.

2️⃣Почему так происходит. Ученые оценили делегирование задач ИИ.
▪️Полное делегирование (81% учащихся). Сдавали домашку аномально быстро (быстрее самых прилежных отличников без ИИ), получали за неё идеальные баллы, но полностью проваливали реальные тесты.
▪️Умные «пользователи» (19%). Те, кто тратил на домашку столько же времени, сколько и ученики без ИИ (используя нейросеть скорее как репетитора для объяснений, а не как генератор готовых ответов), не потеряли в знаниях. Их экзаменационные баллы остались на высоком уровне.

3️⃣ Кто страдает сильнее всего:
▪️социальные науки (политология, география -27%), чуть меньше в точных науках (STEM -22%) и слабее всего при изучении языков.
▪️высокоуспевающие студенты несут самые большие академические потери от бездумного использования ИИ.
▪️ученики средней школы (7–9 классы) теряют в успеваемости сильнее старшеклассников.

❕Исследование доказывает, что ИИ полностью ломает информационную ценность домашних заданий для учителей и родителей. Отличная оценка в тетради больше не означает, что ребенок что-то понял.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Недооценка рисков ИИ может оказаться самой дорогой ошибкой бизнеса

Исследователи MIT опубликовали одно из самых масштабных исследований по приоритизации рисков искусственного интеллекта.
Статья здесь.
Вместо очередного списка гипотетических угроз они опросили 272 международных эксперта по методу Delphi, чтобы понять три вещи:
▪️ какие риски наиболее опасны;
▪️ кто сильнее всего пострадает;
▪️ кто должен нести основную ответственность за их предотвращение.

1️⃣Наиболее серьезные риски в ближайшие 5 лет:
▪️ опасные возможности современных моделей (dangerous capabilities);
▪️нездоровая конкуренция между разработчиками, когда скорость становится важнее безопасности;
▪️ использование ИИ для кибератак и создания оружия;
▪️ концентрация власти у небольшого числа компаний;
▪️ распространение ложной информации.

При этом именно привычные для бизнеса темы, например, конфиденциальность, дискриминация или мошенничество , уже не считаются единственными ключевыми угрозами. Все больше внимания уделяется системным последствиям развития генеративного ИИ.

18 из 24 категорий рисков имеют вероятность не менее 10% привести к катастрофическим последствиям, т.е. событиям с ущербом более 100 млрд долларов или гибелью более 1 миллиона человек при сохранении текущих тенденций через 5 лет.

Если будут внедрены реалистичные меры управления рисками, пять категорий по-прежнему сохраняют вероятность выше 10%:
▪️опасные возможности моделей;
▪️ кибератаки и использование ИИ в вооружениях;
▪️ экологические последствия;
▪️ рост неравенства и безработицы;
▪️концентрация власти.

2️⃣ Кто больше всего пострадает?
И это вовсе не разработчики, а на первом месте:
▪️ пользователи ИИ;
▪️ граждане, на которых влияют решения ИИ;
▪️ организации, использующие ИИ.

3️⃣Основную ответственность эксперты возлагают на:
▪️ разработчиков универсальных моделей;
▪️ государства;
▪️ регуляторов;
▪️организации, разрабатывающие стандарты.

4️⃣Наиболее уязвимые отрасли:
▪️ информационная сфера;
▪️ финансовый сектор;
▪️ национальная безопасность.
Именно здесь последствия ошибок, злоупотреблений или неконтролируемого использования ИИ могут проявляться быстрее всего.

❕Исследование MIT хорошо показывает, что вопрос уже не в том, будут ли возникать риски, а в том, какие из них требуют первоочередного внимания и кто должен отвечать за их снижение.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Как взять ИИ в компании под контроль за 90 дней

Если сотрудники вовсю используют ChatGPT, а вы не знаете, куда утекают данные, вам нужен четкий план. Эксперт из Digital 520 выпустил дорожную карту «AI Governance Program-in-a-Box», включающее пошаговый план и 15 готовых шаблонов документов, которые помогут из хаоса сделать понятную структуру за 3 месяца.

📝 Предлагаемый календарь внедрения:
🔹 1–30 День: Составляем полную инвентаризацию ИИ-систем, запускаем форму первичной оценки, классифицируем инструменты по уровням риска, принимаем политику приемлемого использования (AUP) и начинаем обучение команды.
🔹 31–60 День: Заполняем системные карточки (Model Cards), проводим детальную оценку рисков (Impact Assessments) для критических систем, открываем реестр ИИ-рисков и проверяем ключевых вендоров.
🔹 61–90 День: Внедряем жесткие «шлюзы» (Go/No-Go) перед каждым деплоем, выводим метрики на KPI-панель, репетируем реагирование на инциденты и отправляем первый отчет совету директоров.

➡️ Правильный комплаенс строится снизу вверх. Методология Digita основана на том, что любая ИИ-система должна контролироваться на 5 взаимосвязанных уровнях. Ошибка на нижнем уровне неизбежно разрушит верхний:
▪️ Данные (Откуда они и законны ли?)
▪️Модель ( Как она работает и нет ли в ней предвзятости?)
▪️Интеграция (Кто и как может вручную отменить решение ИИ?)
▪️Мониторинг ( Как мы узнаем, что ИИ начал «глючить»?)
▪️Аудит ( Готовы ли логи для проверки регулятором?)

Предлагаемые шаблоны:
▪️ AI System Inventory (список всех используемых ИИ-решений, включая сторонние сервисы).
▪️ AI Use-Case Intake Form (форма для заполнения сотрудником, желающим внедрить новый ИИ-сервис).
▪️ Risk Classification Worksheet (скоринг систем по 4 уровням риска (от минимального до неприемлемого, как в EU AI Act).
▪️ Model/System Card ( одностраничный паспорт модели с ее ограничениями и метриками).
▪️ AI Impact Assessment & DPIA Trigger ( оценка влияния на права пользователей и триггер обязательного аудита вопросов приватности) .
▪️AI Risk Register ( лог рисков с назначенными владельцами и дедлайнами).
▪️Stakeholder Accountability Matrix (RACI) ( матрица ответственности, чтобы ИИ-задачи не «зависали» между IT, Legal и Security отделами).
▪️ AI Acceptable Use Policy (базовая политика для сотрудников, что можно, а что категорически нельзя скармливать публичным ИИ).
▪️ Vendor Due Diligence Checklist (чек-лист для проверки безопасности ИИ-подрядчиков при закупке).
▪️ Pre-Deployment Go/No-Go Gate ( финальный чек-лист, без прохождения которого модель не пустят в прод.)
▪️ Операционные дашборды ( метрики эффективности, план быстрого реагирования на инциденты ИИ (Quick Reference), шаблон отчета для топ-менеджмента и план повышения ИИ-грамотности сотрудников).

❕Эти шаблоны могут отлично помочь, но могут и создать опасную иллюзию безопасности, т.к. важно не просто "смочь" задокументировать все за 90 дней, а сделать адаптацию под ваши процессы, держать все на постоянном контроле и изменять по мере необходимости, чтобы комплаенс смог выдержать проверки регуляторов.


#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

Как ИИ-поставщики используют ваши данные? Проверяем, что в DPA перед запуском

Продолжаем про документы. Если вы внедряете ИИ-инструменты и есть обработка персональных данных (особенно для ЕС по GDPR), то базового договора недостаточно. Каждый ИИ-поставщик, обрабатывающий персональные данные от вашего имени, должен иметь подписанное с вами cоглашение об обработке данных (DPA) до начала потока данных.

👀 Обязательные пункты для проверки:
1️⃣Ограничение целей. Никаких размытых фраз об "улучшении сервиса", должна быть обработка только в разрешенных вами целях.
2️⃣Запрет на обучение моделей. Прямое табу на использование ваших промптов и ответов для обучения общих ИИ-моделей.
3️⃣Настраиваемый срок хранения. Указание конкретных настроек хранения, включая возможность нулевого хранения данных (zero data retention), где это доступно.
4️⃣Контроль субподрядчиков. Текущий список субподрядчиков, предварительное уведомление об изменениях, право на возражение или расторжение договора.
5️⃣Механизм трансграничной передачи данных. Например, SCCs (Стандартные договорные условия), UK IDTA (Британское соглашение о передаче данных) или механизм адекватности, с оценкой воздействия передачи (TIA) для передачи данных из ЕС в США.
6️⃣Обязательства по обеспечению безопасности. Ссылка на TOMs (технические и организационные меры) поставщика, шифрование при хранении и передаче, действующий сертификат SOC 2 Type II или ISO 27001.
7️⃣Уведомление об утечках. Максимум 72 часа с момента подтверждения, с обязательным содержанием уведомления.
8️⃣Право на аудит. Либо договорное право на проведение аудита, либо, что более распространено, право на получение отчетов о сертификации и ежегодный обзор результатов независимого аудита.
9️⃣Помощь с запросами пользователей. Поставщик обязуется оказывать содействие в выполнении запросов на удаление, доступ и исправление данных в определенные сроки.
1️⃣0️⃣Удаление при расторжении. Окончательное удаление данных клиента в течение определенного окна после расторжения договора с письменным подтверждением.
1️⃣1️⃣Конфиденциальность сотрудников. Персонал вендора должен быть юридически связан обязательствами о неразглашении.
1️⃣2️⃣ Адекватная ответственность. Поставщик возмещает ущерб в случае утечки/нарушения по вине поставщика. Лимит ответственности должен соответствовать конфиденциальности данных (кратно стоимости услуг, а не равен ей).

В дополнение к стандартным пунктам фиксируйте в DPA или в основном соглашении:
▪️Право собственности на выходные данные. Вы владеете промптами (входными запросами) и результатами (выходными данными). Поставщик не получает никаких прав на выходные данные, кроме необходимых для предоставления услуги.
▪️Отказ от ответственности за галлюцинации и точность. Поставщик описывает ограничения точности. Вы соглашаетесь с тем, что выходные данные требуют проверки человеком.
▪️Обязательства по прозрачности. Поставщик обязуется предоставить идентификатор модели, версию и уведомления о существенных изменениях. Требуется для выполнения обязательств развертывателя (deployer) в рамках EU AI Act.
▪️Тестирование на предвзятость. Для сценариев использования с высоким уровнем риска поставщик обязуется использовать задокументированную методологию оценки предвзятости.
▪️Логирование и отслеживаемость. Поставщик сохраняет логи в объеме, достаточном для поддержки аудита клиента и реагирования на инциденты, в течение определенного периода.
▪️Соответствие AI Act (ЕС). Там, где это применимо, поставщик обязуется соблюдать обязательства провайдера и поддерживать обязательства развертывателя.

❕Если стандартное DPA поставщика упускает обязательный пункт, то запросите добавление в письменном виде, предложите альтернативные формулировки, ограничьте сценарии использования, если не можете достичь компромисса, либо найдите другого поставщика. Безопасность данных компании дороже любого хайпового инструмента.

📌 🔹Промпт для проверки DPA от DataGrail;
🔹ИИ и защита ПД: рекомендации немецких DPA;

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

Al Compliance для бизнеса: чек-лист готовности

И еще немного про ключевые документы от Digital 520. В гайде расписывают регуляторные требования по странам и секторам, дают список рекомендаций и документов.

👀Например:
1️⃣ Реестр всех используемых систем ИИ должен ответить на вопросы:
▪️ какие сервисы используются;
▪️ какие персональные данные они получают;
▪️ кто является поставщиком;
▪️ какие договоры заключены;
▪️ какие субподрядчики участвуют в обработке данных.

2️⃣При оценке рисков для каждого значимого сценария применения предлагается использовать единый шаблон, который одновременно учитывает требования GDPR (DPIA), EU AI Act (FRIA), законодательства отдельных штатов США, NIST AI Risk Management Framework и должны анализироваться:
▪️ описание системы;
▪️ используемые данные;
▪️ правовое основание обработки;
▪️ возможный ущерб;
▪️ риск дискриминации;
▪️ применяемые меры защиты;
▪️ остаточный риск;
▪️ периодичность пересмотра.

3️⃣ Необходимо заранее определить действия компании, если:
▪️ злоумышленник заставил модель раскрыть данные;
▪️ модель выдала конфиденциальную информацию;
▪️ поставщик модели столкнулся с инцидентом безопасности;
▪️ качество модели существенно ухудшилось;
▪️ встроенная функция отправляет данные неизвестному обработчику.
И НЕ ограничиваться инструкциями, а минимум два раза в год проводить практические учения с разбором подобных ситуаций.

4️⃣ Компания должна уметь удалить ПД не только из своей базы данных, но и:
▪️ из журналов запросов к модели;
▪️ из кэша ответов;
▪️из аналитических систем;
▪️ из всех производных данных.
Если поставщик этого обеспечить не может, авторы рекомендуют отказаться от такого решения.

5️⃣При аудите компания должна быть способна в течение короткого времени предоставить:
▪️ перечень всех поставщиков ИИ;
▪️ договоры с ними;
▪️ оценки рисков;
▪️ журнал обработки запросов субъектов данных;
▪️ документы по реагированию на инциденты;
▪️ сведения о субподрядчиках;
▪️ документы по внутреннему управлению использованием искусственного интеллекта.

📝Самые распространенные ошибки компаний:
▪️ использование обычных пользовательских версий сервисов вместо корпоративных;
▪️отсутствие договоров с поставщиками;
▪️политика конфиденциальности не учитывает применение ИИ;
▪️ отсутствует ответственный за управление использованием ИИ;
▪️ никто не оценивает риски для конкретных сценариев применения;
▪️отсутствуют проверки на дискриминацию;
▪️сотрудники используют несанкционированные сервисы ИИ.


#AIShelf
————
@pattern_ai | AI GDPR Navigator

95% всего GenAI-трафика приходится на чатботов

OECD опубликовала исследование, основанное на данных Similarweb, которое показывает, как люди на самом деле используют генеративный ИИ. Вместо опросов исследователи проанализировали реальный веб-трафик миллионов пользователей.

1️⃣95% всего веб-трафика сервисов генеративного ИИ приходится именно на чатботов.
На все остальные категории ( генерацию изображений, видео, музыки и другие GenAI-инструменты) приходится лишь около 5%
2️⃣Использование чат-ботов GenAI резко выросло за последний год с примерно 18% населения в среднем в январе 2025 года до 28% в январе 2026 года.
Странами с наибольшим ростом в 2025 году стали Япония и Турция, где уровень использования увеличился более чем вдвое.
Сингапур неизменно занимает первое место по количеству пользователей на душу населения и также продемонстрировал наибольший рост в абсолютном выражении, увеличив долю пользователей чат-ботов с ИИ с 36% до 63% населения в 2025 году
3️⃣Более молодая аудитория чаще всего использует чат-боты на основе ИИ. 
Более половины людей в возрасте 25-34 лет в феврале 2026 года использовали чат-боты GenAI в то время как среди людей в возрасте 65 лет и старше чат-ботами пользовались лишь около 8%
4️⃣ Люди моложе 25 лет гораздо чаще используют Character.AI (бесплатный чат-бот, позволяющий создавать цифровых персонажей и взаимодействовать с ними посредством текста, голосовых сообщений и звонков), чем любой другой чат-бот. Более старшие возрастные группы, напротив, гораздо чаще используют Microsoft Copilot, возможно, из-за встроенной реферальной программы и подписок, оплачиваемых работодателем.
5️⃣Пользователи ChatGPT и Gemini чаще посещают развлекательные платформы, пользователи Claude и Microsoft Copilot чаще посещают такие сайты, как LinkedIn, облачные платформы, Notion и GitHub.
6️⃣Мужчины используют чат-боты GenAI чаще, чем женщины. В Корее самый большой гендерный разрыв, где показатели использования среди мужчин почти вдвое выше, чем среди женщин. В Германии и Италии также отмечается значительно более высокий уровень использования среди мужчин.

#UXWatch #AIShelf
————
@pattern_ai | AI GDPR Navigator

AI-компаньоны, алгоритмы и UX ЕС считает новыми рисками для психического здоровья

Европейская парламентская исследовательская служба (EPRS) опубликовала один из самых масштабных докладов о влиянии цифровой среды на психическое здоровье детей и молодежи

1️⃣ 15,5% молодых людей в Европе имеют диагностируемое психическое расстройство. Это примерно 13,6 млн человек в возрасте 10–24 лет.
2️⃣ Почти половина 15-летних подростков сообщает о симптомах депрессии, а более половины испытывают тревожность (данные PISA 2022).
3️⃣ Среди девочек ситуация значительно хуже: 60% 15-летних девушек сообщают о чувстве депрессии против 35% мальчиков.
4️⃣Доля подростков с множественными психосоматическими жалобами (раздражительность, подавленность, проблемы со сном и др.) выросла с 42% до 52% всего за четыре года (2018–2022).
5️⃣ Почти каждый второй европеец в возрасте 15–24 лет сообщает о неудовлетворенной потребности в психиатрической или психологической помощи.
6️⃣ Если ничего не менять, совокупные экономические потери ЕС из-за психических расстройств молодежи за период 2024–2033 гг. составят около €1,68 трлн ( от €1,28 до €2,02 трлн).

Авторы подчеркивают, что технологии усиливают уже существующие уязвимости психики.
👀 Основные механизмы:
🔹 Дизайн, провоцирующий чрезмерное использование, т.е. хорошо знакомые UX-паттерны (бесконечная лента, вознаграждение, постоянные push-уведомления).
Такие механизмы увеличивают время использования сервисов и вытесняют сон, физическую активность, живое общение и учебу, что приводит к ухудшению внимания, раздражительности, усталости и эмоциональном выгоранию.
Фактически EPRS рассматривает подобные механики как один из факторов риска для психического здоровья.
🔹 Алгоритмы рекомендаций, которые способны быстро вовлекать подростков в потоки контента о самоповреждении, расстройствах пищевого поведения, экстремизме, ненависти.
Для уязвимых пользователей это может усиливать уже существующие психологические проблемы.
🔹 Социальные AI-компаньоны
Доклад отмечает, что подобные системы имитируют эмпатию и близкие отношения, способны формировать эмоциональную зависимость, не обладают моральным суждением, могут подтверждать опасные мысли пользователя или давать небезопасные советы.
Это один из первых официальных документов ЕС, где AI-компаньоны рассматриваются как самостоятельный фактор риска для психического здоровья молодежи.

Авторы подчеркивают, что цифровые технологии вредят далеко не всем одинаково.
Для большинства подростков интернет остается нейтральной или даже полезной средой.
Но для детей, которые уже сталкиваются с бедностью, семейными конфликтами, дискриминацией, миграцией, насилием или отсутствием поддержки взрослых, цифровая среда становится усилителем существующих проблем.
Доклад называет это «двойным неблагополучием» (double disadvantage),т.е. офлайн- и онлайн-риски взаимно усиливают друг друга.

🔍 Что предлагают:
▪️ развитие школьных программ по цифровому благополучию (digital wellbeing);
▪️ создание молодежных центров ранней психологической помощи (Youth Hubs);
▪️ единые требования к цифровым инструментам поддержки психического здоровья;
▪️ более строгую реализацию существующего цифрового законодательства с акцентом на защиту детей, включая AI Act, Digital Services Act, GDPR и другие акты;
▪️развитие мониторинга и сбора данных о психическом здоровье молодежи.


❕Если раньше обсуждение психического здоровья касалось главным образом медицины, то теперь европейские институты напрямую связывают архитектуру цифровых продуктов с вопросами общественного здоровья. Это означает, что разработчикам цифровых продуктов необходимо проверять потенциальное влияние своих продуктов на психическое здоровье пользователей, особенно несовершеннолетних.

#UXWatch #AIShelf
————
@pattern_ai | AI GDPR Navigator

ИИ используется официально в судебном процессе в Южной Корее

Патентный суд Южной Кореи запустил пилотный проект, в рамках судьи используют коммерческие генеративные модели (включая ChatGPT и Claude) как вспомогательный инструмент в судебной работе. Речь не идёт о «AI-суде» или передаче решений алгоритмам. Это ограниченный эксперимент по внедрению ИИ в деятельность судей.

👀 В эксперименте сейчас участвуют две патентные коллегии.
Период тестирования с апреля по сентябрь 2026 года.
ИИ используется только в делах, где обе стороны дали согласие на его применение.
Судьи могут применять коммерческие LLM в ограниченных и вспомогательных задачах, в частности:
▪️ суммирование исков, отзывов и процессуальных документов;
▪️ структурирование и анализ материалов дела;
▪️ перевод и обработка технических материалов:
▪️ редактирование и лингвистическая корректировка патентных описаний;
▪️ помощь при проверке черновиков судебных решений.

Подготовка к рассмотрению дела, проведение судебного заседания, формирование проекта судебного решения остаются полностью в компетенции судей.

❗️Уже рассмотрено первое дело в рамках пилота (патентный спор о правомерности отказа в регистрации изобретения) с согласия сторон.
ИИ применялся:
▪️ для обобщения и систематизации искового заявления, ответа и подготовительных документов, которые затем использовались для проверки проекта решения.
▪️для полного перевода материалов предшествующего уровня техники там, где существующие переводы были недостаточны.
▪️ для пересмотра описаний изобретений в соответствии с современной корейской грамматикой и для добавления подробных пояснений к техническим терминам.

Судьи подчеркнули:

"Поскольку это первый случай, когда было получено согласие обеих сторон, и в судебной системе пока нет консенсуса относительно объема и способа использования, мы подошли к использованию максимально осторожно".

❕Это один из первых публично известных случаев, когда суд официально разрешает использование коммерческих LLM в рамках судебного процесса, используя модель процессуального согласия сторон, при этом эксперимент сохраняет ключевой принцип, где ИИ НЕ заменяет судью и НЕ участвует в принятии судебного решения.
Подобные пилотные проекты показывают, что правосудие постепенно переходит от дискуссии о допустимости ИИ к практическим вопросам:
▪️ на каких этапах допустима его помощь,
▪️ какие задачи могут быть делегированы инструментам,
▪️ как обеспечивать процессуальные гарантии,
▪️ где проходит граница между вспомогательной обработкой и "на усмотрение суда".

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

70% организаций уже используют ИИ. Но к AI Act готовы только 31%

Французский регулятор CNIL опубликовал результаты исследования среди DPO, проведенного совместно с DGEFP, AFPA и AFCDP. Опрос показывает, как компании внедряют ИИ и кто на практике становится ответственным за соблюдение требований AI Act.

1️⃣ 70% организаций уже используют ИИ или планируют его внедрение.
При этом среди таких организаций 81% используют именно генеративный ИИ (ChatGPT, Copilot, Gemini и аналогичные системы).
Большинство компаний не разрабатывают собственные модели:
▪️ 66% приобретают готовые решения у внешних поставщиков;
▪️ 22% создают их самостоятельно.
Использование ИИ напрямую зависит от размера организации: чем крупнее компания, тем выше вероятность, что ИИ уже встроен в бизнес-процессы.

2️⃣По оценке DPO, большинство используемых ИИ-систем обрабатывают персональные данные, поэтому вопросы соответствия GDPR возникают практически в каждом проекте по внедрению ИИ.

3️⃣Несмотря на быстрый рост использования ИИ, внутреннее управление развивается значительно медленнее.
Исследование показывает, что:
▪️ менее 25% организаций имеют формальную ИИ-стратегию или политику;
▪️ менее 33% проводят обучение сотрудников по вопросам использования ИИ или приняли внутренние правила по его использования;
▪️ только 31% начали подготовку к применению EU AI Act.
Иными словами, большинство компаний уже используют ИИ, но еще не построили систему управления его рисками.

4️⃣DPO становятся участниками по управлению ИИ.
Более половины DPO сообщили, что их часто или всегда привлекают к ИИ-проектам.
Хотя AI Act вообще не предусматривает обязательной роли DPO, именно специалисты по защите данных постепенно становятся ключевыми участниками управления ИИ:
▪️ 55% DPO уже отвечают за вопросы соответствия AI Act;
▪️ 71% считают, что в сферу ответственности DPO должно входить соблюдение требований AI Act.
Иными словами, практика начинает опережать законодательство. При этом большинство DPO пока не готовы к новой роли.
▪️ только 27% считают, что хорошо знают AI Act;
▪️ 85% еще не проходили специализированного обучения по ИИ.
Если с оценкой требований GDPR большинство специалистов уже работают уверенно, то для оценки требований AI Act им зачастую не хватает практических инструментов и методик.
При этом сами DPO отмечают, что развитие ИИ делает их работу значительно более технической и требует новых компетенций, хотя одновременно открывает возможности для профессионального развития.

❕Проекты по внедрению ИИ появляются значительно быстрее, чем корпоративные процессы управления ими. В результате именно DPO становятся первыми, кто рассматривает вопросы по управлению ИИ. По мере вступления в силу требований AI Act организациям потребуется не только обеспечивать соответствие GDPR, но и выстраивать полноценную систему управления ИИ ( определять роли и ответственность, внедрять внутренние политики, обучать сотрудников, документировать процессы оценки рисков и обеспечивать взаимодействие между юридическими, техническими и бизнес-командами).

#AIShelf
————
@pattern_ai | AI GDPR Navigator

AI-актриса получила главную роль в полнометражном фильме

В Великобритании студия Particle6 объявила, что ИИ-персонаж Tilly Norwood исполнит главную роль в полнометражном фильме Misaligned. Это первый случай, когда специально созданный ИИ-«актёр» становится центральным персонажем художественного фильма.

👀 По сюжету Tilly, цифровое существо, существующее в облаке, которое постепенно выходит за пределы своих ограничений, начинает испытывать желания и сталкивается с вопросами идентичности, творчества и собственной природы.

Когда Tilly впервые представили в 2025 году, это вызвало жёсткую реакцию индустрии. Профсоюз SAG-AFTRA заявил, что подобные «актёры» обучаются на работах реальных исполнителей без их согласия и компенсации, а значит создают серьёзные риски для рынка творческого труда.
В ответ создатели проекта подчёркивают, что Misaligned это гибридное производство, где сценаристы, режиссёры, монтажёры и другие специалисты остаются людьми, а ИИ используется как инструмент.

По словам основателя Particle6 Элин ван дер Вельден, ИИ может поддерживать создание высококачественных художественных фильмов, но только при наличии значительного количества человеческого мастерства, навыков, суждений и времени.

С юридической точки зрения история интересна сразу по нескольким причинам. Если используем ИИ-актера, то возникают вопросы:
▪️ Авторское право и обучающие данные. На каких материалах обучался ИИ-актер? Были ли получены необходимые лицензии и согласия?
▪️Права исполнителей. Если синтетические актёры начинают конкурировать с людьми, потребуется всё более детальное регулирование использования внешности, голоса, мимики и других элементов личности.
▪️ Прозрачность для зрителей. Должны ли платформы и продюсеры прямо сообщать, что главную роль исполняет ИИ-персонаж? Указывать датасет в титрах? Этот вопрос уже постепенно выходит в сферу регулирования доверия к ИИ-контенту.
▪️ Трудовое право и коллективные договоры. Использование синтетических исполнителей неизбежно станет предметом новых переговоров между студиями и профсоюзами.


❕Похоже, эпоха споров "этот актёр переигрывает" заканчивается. Начинается эпоха "а на каких данных его вообще обучили и кому платить гонорар?". На красной дорожке будем встречать команду разработчиков и юристов?

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Иллинойс принял один из самых жестких законов США о безопасности передовых ИИ-моделей

В это же время в США пока на федеральном уровне продолжаются споры о регулировании ИИ, штат Иллинойс принял Artificial Intelligence Safety Measures Act, который впервые вводит комплексные обязательства для разработчиков передовых ИИ-моделей ( установленный технический порог) в зависимости от размера годовой выручки компании (свыше 500 млн долларов).
Аналогичен калифорнийскому  SB-53 и  Закону Нью-Йорка об ответственной безопасности и образовании в области ИИ.

👀 Что предусматривается:

1️⃣ Обязательная система управления рисками.
С 1 января 2028 года крупные разработчики frontier-моделей обязаны разработать, внедрить, соблюдать и публично опубликовать собственную систему управления рисками.
Она должна описывать:
▪️ критерии выявления моделей, способных создавать катастрофические риски;
▪️ процедуры оценки и снижения таких рисков;
▪️ внутреннее корпоративное управление;
▪️меры по защите model weights от кражи и несанкционированного доступа;
▪️ процедуры реагирования на критические инциденты;
▪️регулярный пересмотр и обновление всей системы безопасности.

2️⃣ Публичные отчеты о безопасности
Перед выпуском новой frontier-модели разработчики обязаны публиковать обязан опубликовать отчет, содержащий, в частности:
▪️ дату выпуска модели;
▪️ поддерживаемые языки;
▪️ поддерживаемые модальности;
▪️ предполагаемые сценарии использования;
▪️действующие ограничения использования;
▪️контактную информацию разработчика.

Для Large Frontier Developers требования значительно шире. Они дополнительно обязаны раскрывать:
▪️результаты оценки катастрофических рисков;
▪️ краткое описание проведенных тестов безопасности;
▪️ степень участия независимых экспертов;
▪️ сведения о мерах по снижению выявленных рисков.

3️⃣ Независимый ежегодный аудит
Каждый крупный разработчик обязан ежегодно проходить независимый аудит соблюдения требований закона.
Проверяются:
▪️ выполнение требований Frontier AI Framework;
▪️ внутренние процессы управления безопасностью;
▪️процедуры оценки катастрофических рисков;
▪️корпоративное управление.
Закон отдельно требует, чтобы аудитор не имел финансовой заинтересованности в проверяемой компании. Краткое содержание результатов аудита подлежит публикации.

4️⃣Обязательное уведомление о критических инцидентах:
▪️ в течение 72 часов после получения достаточных оснований полагать, что произошел критический инцидент;
▪️ в течение 24 часов, если инцидент создает непосредственную угрозу смерти или причинения тяжкого вреда здоровью.

5️⃣ Защита сотрудников. Запрещается увольнять или иным образом преследовать сотрудников, которые добросовестно сообщают государственным органам о нарушениях требований закона или о существенных рисках для общественной безопасности.
Для крупных разработчиков также становятся обязательными внутренние анонимные механизмы подачи таких сообщений.

6️⃣Штрафы:
▪️ до 1 млн долларов за первое нарушение;
▪️ до 3 млн долларов за каждое последующее.

При этом закон не предоставляет частным лицам права предъявлять иски. Контроль за соблюдением требований осуществляется исключительно Генеральным прокурором штата.

Закон вводит отдельное понятие катастрофических рисков, когда модель может способствовать:
▪️оказанию экспертной помощи при создании или распространении химического, биологического, радиологического или ядерного оружия (CBRN);
▪️ совершению автономных кибератак или тяжких преступлений без значимого человеческого контроля;
▪️ выходу модели из-под контроля разработчика или пользователя.

❕Таким образом, закон сосредоточен не на традиционных вопросах дискриминации, прозрачности или защиты персональных данных и ориентиром на права пользователей, а на управлении наиболее опасными сценариями использования передовых моделей ИИ.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Правила веб-скрейпинга для обучения ИИ от EDPB

Европейский совет по защите данных (EDPB) опубликовал проект рекомендаций по использованию веб-скрейпинга при разработке генеративного ИИ.
Комментарии можно направить до 30 октября 2026 года.

❗️Если данные публично доступны, еще не значит, что свободны для обучения моделей.

1️⃣Минимизация данных начинается еще до запуска краулера.
Компания должна заранее определить критерии отбора, выбрать источники, оценить возможность использования синтетических данных и исключить сайты, содержащие чувствительные данные или данные детей.

2️⃣Технические запреты приобретают юридическое значение.
Если сайт использует robots.txt, ai.txt, CAPTCHA или иные механизмы защиты от скрейпинга, это следует учитывать при оценке законности обработки и разумных ожиданий пользователей.
Фактически регулятор предлагает строить датасеты по принципу privacy by design.

3️⃣ Публикация данных в интернете не означает согласия на их использование для обучения ИИ.
EDPB отдельно подчеркивает, что публикация информации в открытом доступе и даже отсутствие robots.txt не являются согласием на использование данных для обучения AI.

При использовании законного интереса необходимо, опираясь на полный трехступенчатый тест, доказать не только наличие законной цели, но и невозможность достичь ее менее инвазивными способами, например с помощью синтетических или обезличенных данных.
EDPB вводит важный критерий " reasonable expectations."
При оценке законности нужно учитывать:
▪️где опубликованы данные;
▪️насколько сайт публичный;
▪️есть ли ограничения на автоматический сбор;
▪️мог ли пользователь разумно ожидать использование своих данных для обучения ИИ.

4️⃣EDPB допускает, что индивидуально уведомить всех субъектов данных (миллионы) иногда невозможно.
Но тогда компания должна:
▪️опубликовать подробную Privacy Notice;
▪️максимально подробно раскрыть источники данных;
▪️описать категории данных;
▪️объяснить цели обработки;
▪️по возможности указать перечень доменов и URL, с которых собирались данные;
▪️предоставить механизм реализации прав субъектов данных.

5️⃣ Особые категории данных требуют отдельной защиты.
Даже если компания не собиралась получать специальные категории персональных данных, они могут попасть в датасет случайно, поэтому рекомендуется:
▪️фильтровать такие данные до начала сбора;
▪️автоматически удалять их после обнаружения;
▪️использовать фильтры при генерации ответов модели;
▪️регулярно тестировать модель на утечки персональных данных;
▪️внедрять меры против заучивания и дословного воспроизведения.

6️⃣ Требование достоверности распространяется и на результаты работы модели.
Поэтому качество источников, проверка данных и фиксация даты их получения становятся вопросом соблюдения GDPR, а не только хорошей инженерной практики.

❕Под контроль и требования GDPR подпадает весь жизненный цикл разработки ИИ ( от выбора источников данных до предотвращения воспроизведения персональных данных обученной моделью).

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Руководство по безопасной разработке ИИ-систем SAIL 2.0

Компания Pillar опубликовала обновленную версию одного из наиболее практических фреймворков по безопасности ИИ. Документ ориентирован не только на модели, но и на современные ИИ-приложения и агентные системы.
👀 SAIL можно использовать для:
1️⃣Оценки своей текущей программы и составления плана с приоритетами.
2️⃣Составления запроса предложений (RFP).
3️⃣Проведения оценки рисков.
4️⃣Карты соответствия требованиям.
5️⃣ Моделей угроз для агента.

В нем собраны типовые риски, сгруппированные по всему жизненному циклу ИИ. Для каждого из них приведены:
▪️описание угрозы;
▪️ пример сценария атаки;
▪️ затрагиваемые активы;
▪️ практические меры защиты;
▪️ сопоставление с международными стандартами.

Новые риски, связанные с агентными ИИ-системами:
▪️неполное моделирование угроз для агентных архитектур;
▪️отсутствие проверки внешних источников данных и MCP-инструментов;
▪️неправильная классификация уровня автономности агента;
▪️чрезмерные привилегии и неконтролируемое выполнение действий;
▪️риски долговременной памяти и управления контекстом.
Каждая рекомендация привязана к существующим стандартам и руководствам, включая ISO/IEC 42001, ISO/IEC 27001/27002, OWASP AI Security, MITRE ATLAS, NIST AI RMF, EU AI Act, OWASP Top 10 for LLM Applications и другим.

❕Цель SAIL: объединить разработчиков, MLOps, специалистов по безопасности и управлению с помощью общего языка и действенных стратегий для управления рисками, специфичными для ИИ, и обеспечения надежности ИИ.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

ЕС готовится ограничить доступ детей к социальным сетям

Председатель Европейской комиссии Урсула фон дер Ляйен представила выводы экспертной группы по безопасности детей в интернете.
👀 Что вызывает обеспокоенность:
▪️ подростки в Европе проводят перед экранами 4–6 часов ежедневно;
▪️почти 60% детей сталкивались с эмоциональными или психосоциальными проблемами, связанными с онлайн-средой;
▪️среди последствий называют тревожность, депрессию, кибербуллинг, нарушения сна и контакт с вредным контентом.

Комиссия обозначила три ключевых направления регулирования:
▪️ Ответственность платформ. Социальные сети должны доказывать безопасность своих сервисов по принципу safety by design. Особое внимание будет уделено алгоритмам, вызывающим зависимость, «тёмным паттернам», вредному контенту и нежелательным контактам. Требования DSA в действии.
▪️ Возрастная верификация. ЕС продолжает внедрение механизмов для подтверждения возраста, чтобы ограничить доступ детей к неподходящим сервисам.
▪️ Минимальный возраст для социальных сетей.
После изучения доклада Комиссия намерена представить законодательное предложение уже после летних каникул.
Если инициатива будет реализована, речь пойдёт не просто о новых обязанностях платформ. Это может стать одним из крупнейших изменений европейского регулирования социальных сетей после Закона о цифровых услугах.

Из пресс-релиза: "....Хотя в конечном итоге именно родители решают, когда дети получат свои первые смартфоны, у нас уже есть консенсус относительно того, что необходимо установить возраст, с которого дети могут начать пользоваться социальными сетями. Нынешнее положение дел, мир, в котором мы продолжаем предоставлять крупным технологическим компаниям неограниченный доступ к нашим детям, лишь обречет еще одно поколение на еще больший психологический вред, зависимость и страдания....."

“Platforms should grow with the child. […] Any recommender system serving a minor must be optimised for that сhild’s well-being, not for engagement.” — GABRIELE BATTIMELLI, BIK+ AMBASSADOR FROM ITALY

📌 Survey: EU challenges and priorities,
Report: Child safety online,
Report:Mental health of young people in a digital era

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Еврокомиссия и AI Board признали Кодекс прозрачности эффективным способом соблюдения AI Act

Европейская комиссия и Совет по ИИ (AI Board) признали "Code of Practice on Transparency of AI-Generated Content", эффективным инструментом для соблюдения требований статьи 50 AI Act.
Кодекс остается добровольным, однако его применение позволит поставщикам ИИ использовать предусмотренные в нем меры в качестве способа продемонстрировать соответствие требованиям AI Act по маркировке и обнаружению ИИ-контента, включая дипфейки.
Регуляторы фактически подтвердили, что следование Кодексу рассматривается как надежный путь к выполнению обязательств по прозрачности, которые начинают применяться с 2 августа 2026 года.

Разбор был в постах здесь.

И в файле пример напоминания от Голландского управление по защите данных.
1️⃣Информирование о общении с ИИ: Поставщики систем, которые напрямую взаимодействуют с людьми (например, чат-боты), обязаны четко давать понять, что собеседник не является человеком.
2️⃣Предупреждение о распознавании эмоций и биометрии: Пользователи систем, классифицирующих людей по биометрическим данным или определяющих их эмоции и намерения, обязаны информировать граждан о том, что они подвергаются такому анализу.
3️⃣Маркировка ИИ-контента: Разработчики систем, генерирующих текст, аудио, фото или видео, должны внедрять механизмы распознаваемой маркировки (водяные знаки, метаданные, криптографические метки).
4️⃣Распознавание дипфейков: Тех, кто создает или редактирует дипфейки, обяжут явно (визуально или аудиально) сообщать о манипуляциях с контентом. Для этого Европейская комиссия предлагает использовать бесплатные официальные иконки с надписями «AI», «AI generated» или «AI modified»

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator