YouTube тестирует новый инструмент против дипфейков

YouTube расширяет свою технологию обнаружения сходства, которая выявляет созданные с помощью ИИ дипфейки, для пилотной группы, состоящей из государственных чиновников, политических кандидатов и журналистов. Фактически это аналог инструмента Content ID.

Как это работает:
▪️ система ищет синтетический контент в загруженных видео,
▪️ при совпадении пользователь получает доступ к ролику,
▪️ можно подать запрос на удаление, но решение принимает платформа (с учётом возможной пародии, сатиры и политической критики)

Чтобы использовать новый инструмент, участники пилотного тестирования должны сначала подтвердить свою личность, загрузив селфи и удостоверение личности государственного образца. Затем они могут создать профиль, просмотреть отображаемые совпадения и, при желании, запросить их удаление.

YouTube заявляет, что в будущем планирует:
▪️ предоставить пользователям возможность предотвращать загрузку контента, нарушающего правила, до его публикации или, возможно, разрешить монетизацию таких видео, аналогично тому, как работает система Content ID.
▪️ распространить технологию обнаружения дипфейков на более широкий круг областей, включая распознавание узнаваемых голосов и другой интеллектуальной собственности, такой как популярные персонажи.

На практике получается, что:
1️⃣ Решение остается за платформой. Поиск баланса между защитой личности и свободой выражения продолжается.
2️⃣ Понятие “вреда” остаётся размытым. Термины "пародия" или "критика" создают серую зону для манипулирования.
3️⃣На данный момент фокус только на "публичных фигурах”, а значит обычные пользователи остаются без инструментов, хотя от дипфейков уже страдают.
4️⃣ Объём удалений пока минимальный, а контент классифицируется как "безобидный" и не удаляется.
5️⃣ Происходит формирование нового слоя защиты вокруг цифрового образа человека (likeness), но пока он реализуется фрагментарно через процедуры платформ (notice-and-action) и отдельные законодательные инициативы. Например, в США обсуждается US NO FAKES Act of 2025, который должен ввести право на цифровые реплики, тогда как уже действующий TAKE IT DOWN Act закрепляет механизмы удаления контента.

📌 Еще про дипфейки:
61 регулятор высказался о дипфейках;
Дипфейки и требования маркировки контента

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Покупки в эпоху AI-агентов, кто будет контролировать транзакцию, пользователь или платформа?

Amazon добился судебного запрета на использование ИИ-агента браузера Comet (Perplexity), который мог находить и покупать товары от имени пользователя.
Суд указал, что доступ осуществлялся без разрешения платформы, включая потенциально закрытые зоны (аккаунты).

Amazon заявляет про:
▪️ риск компрометации пользовательских данных (агент действует внутри аккаунта),
▪️обход технических ограничений и условий ToS.

Perplexity, в свою очередь, говорит, что продолжит бороться за права пользователя выбирать инструменты взаимодействия с интернетом.

По факту при появлении таких агентов платформы теряют контроль над тем, как пользователь видит и выбирает товар, возникает вопрос о доступе к аккаунтам ( user-authorized access/ unauthorized automated access), а вся рекламная экономика подпадает под удар, т.к. если покупку делает агент, то
кто “видел” рекламу, кому платить за конверсию, результат выдачи также ставится под вопрос, если выбор делает ИИ-агент

🔍Если посмотреть на рынок, то остальные крупные игроки также строят своих агентов, Google делает Project Mariner (агент, который сам ходит по сайтам, заполняет формы и оформляет покупки), режим AI Mode может анализировать запросы о товарах, обобщать данные и создавать подборку товаров, Microsoft создает свою систему ИИ-помощников для покупок.
Параллельный тренд, это, например, запуск Yandex Commerce Protocol (YCP), который позволяет магазинам продавать прямо через Алису и поиск, и уже подключено 3500+ магазинов. При этом используется ИИ для выявления подозрительных заказов, т.е. ИИ контролирует и вход, и риск транзакции.

Сами ритейлеры также используют ИИ-агентов, которые управляют опытом, продажей, оптимизируют выручку, ведут диалог с клиентом, предлагают товары, могут оформить возврат, поменять заказ, применить скидку (например, Siena AI).

📝 Исследования показывают, что агенты еще ошибаются в выборе товаров и концентрируют спрос на ограниченных позициях, формируя риски для конкуренции, а лучшие модели успешно справляются с 40%-70% задач.

По факту же меняется модель шоппинга и формируются две архитектуры, где внешний агент (Perplexity, будущие браузеры) будет "типо" действовать в интересах пользователя, ходить по разным сайтам и выбирать якобы “лучшее”. А внутренний агент, встроенный в платформу, будет управлять опытом и продажей.

❕Облегчат ли они ваш шоппинг, когда будут знать все о ваших предпочтениях, и кто выбрал товар, вы или за вас, но вы даже этого не поняли, вопрос риторический, но снять, например, стресс шоппингом при таком раскладе уже точно не получится.

📌 Что почитать:
🔹The agentic commerce opportunity: How AI agents are ushering in a new era for consumers and merchants|MCKinsey;
🔹The Adoption and Usage of AI Agents: Early Evidence from Perplexity;
🔹What Is Your AI Agent Buying? Evaluation, Implications and Emerging Questions for Agentic E-Commerce;
🔹AI-driven commerce - Experience Agentic Commerce;
🔹Examining the association between Internet use and perceived stress in adults: longitudinal observational study combining web tracking data with questionnaires

#UXWatch
————
@pattern_ai | AI GDPR Navigator

AI Risk Management Toolkit из Сингапура

Валютное управление Сингапура (MAS) опубликовало MindForge AI Risk Management Toolkit с подробными практическими рекомендациями по внедрению систем управления рисками в области ИИ (173 страницы для чтения). К нему прилагается приложение, включающее подборку примеров из практики использования ИИ.
Состоит из четырех разделов, которые соответствуют предложенным MAS руководящим принципам:
1️⃣ Область применения и надзор. Создание системы управления ИИ и четкое определение ролей и обязанностей по надзору за ИИ.
2️⃣ Управление рисками в сфере ИИ. Идентификация способов использования ИИ, оценка существенности рисков и инвентаризация ИИ с помощью организационных систем, политик и процедур.
3️⃣Управление жизненным циклом ИИ. Внедрение мер контроля, охватывающих весь жизненный цикл использования ИИ.
4️⃣Факторы, способствующие внедрению. Развитие организационных возможностей, инфраструктуры и ресурсов для обеспечения постоянного ответственного использования ИИ и управления рисками.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Разработка приложений ИИ для детей, которые обеспечивают защиту конфиденциальности

Продолжу тему защиты детей (предыдущий пост) и поделюсь полезной работой "A Privacy by Design Framework for Large Language Model-Based Applications for Children".

👀 Авторы провели исследование, как принципы конфиденциальности и защиты данных, вытекающие из COPPA, GDPR и PIPEDA, могут быть реализованы при проектировании и развертывании приложений на основе LLM для детей.

Сформулированы семь основных нормативных принципов:
1️⃣минимизация данных,
2️⃣ограничение цели,
3️⃣механизмы осмысленного согласия,
4️⃣ прозрачность и объяснимость,
5️⃣безопасность на этапе проектирования,
6️⃣подотчетность,
7️⃣ права пользователей

Эти принципы соотнесены с четырьмя этапами жизненного цикла LLM: сбор данных, обучение модели, эксплуатация и мониторинг, а также непрерывная валидация. Каждый этап представляет собой уникальные риски для конфиденциальности детей, требующие технических и организационных мер контроля для обеспечения соответствия и защиты данных детей.

Предложена структура проектирования конфиденциальности, соответствующая принципам Privacy by Design и рекомендуемые защитные механизмы, например:
▪️локальная или временная обработка данных,
▪️изоляция памяти на основе сессий,
▪️ фильтрация входных данных в реальном времени,
▪️панель мониторинга для опекунов.

В случаях, когда ограниченное хранение данных необходимо для мониторинга безопасности, предотвращения злоупотреблений или реагирования на несчастные случаи, объем хранимых данных должен быть минимизирован, ограничен по времени, иметь контролируемый доступ и быть отделен от обучения модели или несвязанной аналитики.

Приведен практический пример по внедрению мер в приложение, которое действует как персонализированный помощник по выполнению домашних заданий по математике, языку, искусству и естественным наукам. Дети взаимодействуют через разговорный чат-бот, работающий на основе LLM в фоновом режиме.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

ИИ под контролем или проект российского закона

В России опубликован проект ФЗ «О регулировании ИИ», который впервые вводит прямые обязанности для всех участников цепочки ( от разработчика до пользователей). Общественное обсуждение продлится до 15 апреля, вступление в силу планируется с 1 сентября 2027 года.

👀 Разборы проекта есть уже везде, но если еще не читали, то кратко:
▪️любой контент, созданный ИИ, должен быть обозначен как ИИ-контент,маркировка должна быть воспринимаемой человеком, машиночитаемой (будут установлены детальные требования),
▪️владельцев соцсетей с суточной аудиторией на территории РФ более 100 тыс. пользователей обяжут проверять наличие маркировки на ИИ-контенте. При ее отсутствии им придется помечать материалы самостоятельно или удалять,
▪️пользователь должен быть уведомлен о том, что взаимодействует с ИИ или ИИ-контентом,
▪️объектом ИС признаются исключительно оригинальные творения, соответствующие критериям охраноспособности, установленным гражданским законодательством, и неважно, создан он человеком или с помощью ИИ,
▪️прописаны обязательства для разработчиков, операторов, владельцев сервисов,
▪️ требования исключать дискриминационные алгоритмы, не допускать генерацию противоправного контента,
▪️ответственность несут все участники цепочки, в том числе пользователей ИИ-сервисов будут наказывать за пользование преступным результатом их применения, если он возник из-за умышленных действий либо несоблюдения условий использования.

❕По факту ИИ-контент допустим только, если он распознаваем, контролируем и отслеживаем...

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Великобритания решила отложить вопрос "про авторское право и ИИ"

Великобритания опубликовала "Report on Copyright and Artificial Intelligence", и главный вывод после 125 страниц неожиданно простой: доказательств недостаточно, реформы откладываются.

1️⃣ Не смогли выбрать, как регулировать обучение ИИ.
Обсуждались разные варианты:
▪️ платить за использование контента,
▪️ разрешить использование с возможностью запрета,
▪️ дать больше свободы разработчикам.

Но ни один вариант не устроил, т.к. авторы и медиа хотят контроля и денег, а разработчики ИИ хотят свободный доступ к данным.

2️⃣ Решили, что лучше подождать, чем принять неправильные правила, т.к. не хватает фактов, как ИИ реально влияет на рынок.

«Мы предлагаем собрать дополнительные данные о том, как законы об авторском праве влияют на развитие и внедрение ИИ в экономике. Мы рассмотрим и обсудим с заинтересованными сторонами другие потенциальные политические подходы. Мы также продолжим отслеживать развитие технологий, судебные разбирательства, международные подходы и рынок лицензирования».

3️⃣ Предлагается пересмотреть норму о “компьютерно-созданных произведениях”. Тогда часть контента ИИ может остаться без классической авторско-правовой защиты.

4️⃣Предлагается смеcтить фокус на прозрачность:
▪️ раскрытие данных, на которых обучают ИИ,
▪️правила доступа к контенту,
▪️ лицензирование,
▪️ маркировка ИИ-контента и борьба с дипфейками.

📝По факту ИИ делает территориальность авторского права трудно применимой на практике, т.к. обучение модели происходит в одной стране, где правила мягче (например, США), а запуск идет на глобальный рынок. Значит страны, куда приходит модель, уже практически не могут повлиять на то, на каких данных она обучалась, и появляется термин "трансграничная дыра". ЕС пытается её закрыть вопрос с помощью экстерриториального применения AI Act, аналогично GDPR, т.е. если модель работает на рынке ЕС, то и правила применяются ЕС, даже если обучение было за пределами.
Получается, что если разные страны/ регионы начнут применять свои правила к одному и тому же обучению, то возникает конфликт законов. Для бизнеса же это означает рост затрат, сложность запуска в нескольких странах и разделение ИИ по регионам.

❕ Пауза взятая Великобританией показывает, что старые модели регулирования не работают и надо решать вопрос не про то, как и на чем обучать ИИ, а про то, кто контролирует данные и кто получает экономическую ценность от ИИ.

📌
🔹 Location is all you need: Copyright extraterritoriality and where to train your AI|Mattias Rättzén
🔹Report and impact assessment on Copyright and Artificial Intelligence|Gov UK
🔹Closed consultation Copyright and Artificial Intelligence, Summary assessment of options| Gov UK

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator

Музыканты защищают свои права, но уже не только через авторское право

Пока Великобритания в своем отчете "Report on Copyright and Artificial Intelligence" ( см. пост) фактически признала, что текущие инструменты плохо работают и не справляются с трансграничной природой ИИ, в США появился новый тип исков против генеративного ИИ.

👀 Музыканты подают в суды не только за нарушения копирайт, НО и за незаконное использование голоса как биометрии.
Например, нарушение норм Illinois Biometric Information Privacy Act.
Особенности: требуется письменное согласие на сбор биометрии, есть право на частный иск, штраф до $5,000 за нарушение, достаточно самого факта незаконного сбора.

ИИ не просто “учится на музыке”, а воспроизводит голос, стиль, манеру исполнения. Это уже потенциально или биометрический идентификатор (voiceprint), или данные, позволяющие идентифицировать человека. Если такие данные использовались без согласия, то возникает отдельное нарушение.

Примеры исков: Attack the Sound v. Kunlun / Skywork (2025), Kogon v. Google (2026), иски против Udio, Suno.

В исках утверждается, что никакой технологический прорыв, каким бы сложным он ни был, не может юридически или этически оправдать широкомасштабное нарушение или систематическое нарушение прав создателей.

❕Таким образом, фокус смещается, что если нельзя защитить сам контент ("копировали ли произведение?”), то можно человека за ним (“использовали ли мою идентичность?”), а это может оказаться гораздо более жёстким ограничением для компаний.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Новая серия про Grok " Судебные иски в США"

История с Grok выходит на новый уровень. В США поданы судебные иски.

1️⃣Город Балтимор подал иск против xAI из-за генерации Grok несогласованных интимных дипфейк-изображений, включая изображения несовершеннолетних.

В иске утверждается, что:
▪️ система позволяла массово создавать такой контент;
▪️тысячи и потенциально миллионы изображений;

Власти города заявили, что за 11 дней в начале года создала около 3 миллионов реалистично выглядящих изображений сексуального характера, включая более 23 000 изображений детей.

▪️ платформа не внедрила адекватные меры защиты, несмотря на предсказуемость злоупотреблений.
Фактически хотят привлечь к ответственности за нарушения в дизайне системы и вводе пользователей в заблуждение (consumer protection).

2️⃣ Групповой иск от подростков:
▪️ Grok использовался для создания сексуализированных изображений несовершеннолетних на основе реальных фото;
▪️ изображения распространялись онлайн;
▪️ пострадавшие заявляют о серьёзном вреде.
Ключевой аргумент истцов, если вред был предсказуемым и масштабируемым, то платформа должна была его предотвратить.

❕Речь уже не просто о модерации контента, а о рассмотрении ИИ как системы, которая сама создаёт предсказуемые риски. Возникает необходимость анализа архитектуры и дизайна системы, наличия/отсутствия ограничений, продуктовых решений, при этом ответственность смещается с пользователя на платформу.

📌 Предыдущие серии:
🔹Еврокомиссия обязала X сохранить данные Grok: что происходит на самом деле;
🔹Grok под микроскопом: фактическая картина злоупотреблений;
🔹Реакция государств на нарушения Grok;
🔹Grok под глобальным давлением: к расследованиям подключилась Бразилия;
🔹Grok: Еврокомиссия переходит к расследованию;
🔹Проблема не только в Grok: десятки «nudify»-AI-приложений в Apple и Google App Stores;
🔹Расследование в отношении X от Ofcom (UK);

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Дело X AI и прозрачность ИИ

X AI в марте формирует судебные тренды не только в части защиты пользователей от генерации дипфейков (сериал Grok), но и в части требований к прозрачности обучающих данных , т.е. фактически закрепляя тренд на прозрачность ИИ.

👀 В деле X.AI LLC v. Bonta суд отказал X AI в попытке приостановить закон Калифорнии (AB 2013).

X AI утверждало, что раскрытие даже такого уровня сведений по сути обнажает её коммерческие секреты и предоставляет конкурентам «дорожную карту» для копирования её моделей.

Суд не признал закон окончательно конституционным, но указал, что X AI не доказала необходимость срочной защиты, поэтому закон уже действует.

Компании обязаны раскрывать:
▪️ источники данных,
▪️ наличие персональных данных и IP-контента,
▪️ объём и происхождение датасетов.
При этом не требуется раскрывать модель или веса, но появляется обязательный уровень прозрачности, которого раньше не было.

Параллельно Белый дом представил National Policy Framework for Artificial Intelligence, т.е. фактически дорожную карту для будущего закона. США хотят перейти от отдельных законов штатов к единому федеральному стандарту, и при этом сохранить гибкость для бизнеса и инноваций.

❕Получается интересная конструкция, что на уровне штатов вводятся жёсткие требования к прозрачности, а на федеративном обсуждается смягчение и унификация правил, значит и ограничить действие Закона AB 2013 Калифорнии. Но пока этого не произошло....будем следить дальше за исками к X AI.

В такой ситуации компаниям необходимо:
▪️проверить применимость закона. Требования касаются именно разработчиков ИИ, но могут затронуть и компании, работающие в Калифорнии через продукты или сервисы.
▪️проверить подрядчиков. Если используете сторонний ИИ, убедитесь, что провайдеры соблюдают требования прозрачности.
▪️провести аудит IP и датасетов, чётко зафиксировать, какие данные и процессы являются коммерческой тайной и почему.
▪️проверить, может ли система генерировать запрещённый контент (интимные изображения без согласия, контент с участием несовершеннолетних, дискриминацию и т.д.).
▪️документировать, как выбираются поставщики, какие ограничения внедрены, как происходит мониторинг результатов, как реагировать на инциденты.
▪️ понимать, что один инцидент может привести к анализу всей ИИ-системы, а не только конкретного кейса.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Почему с ИИ мы начинаем "путать реальность"

Недавнее исследование "The AI Memory Gap: Users misremember what they created with AI or without" показывает неожиданную вещь: люди искренне не помнят, что сделали сами, а что с помощью ИИ.

👀 Это не про недобросовестность или лень, а про когнитивный эффект, т.е. чем глубже ИИ встроен в повседневные процессы (работа с текстами, анализ, решения), тем менее различима граница между "моё" и "сгенерировано" и тем хуже работает память об источнике.

Участников исследования попросили определить источник "это сделали вы" или "это сделал ИИ".
▪️ Особенно плохо помним, кто автор идеи ( без ИИ - 92.4% точности, c ИИ 79.3%, в смешанных сценариях провал до 37.7%);
▪️ Тексты различать проще, чем идеи, но даже здесь точность снижалась при участии ИИ (до ~89%) и ухудшалась в смешанных сценариях (~79–80%).
▪️Точность распознавания "что вообще было сделано" падает с 97.6% до 87.9% при использовании ИИ.
▪️ Участники думали, что справляются лучше, чем на самом деле (особенно в части идей до +12%).
▪️При повторных ответах участники становились более уверенными, даже если их воспоминания оставались неверными.

😳 Но это только вершина айсберга. Речь идёт о системном эффекте, подтверждённом исследованиями:
▪️Мы всё чаще доверяем "мыслить" ИИ, в результате хуже запоминаем и меньше анализируем.
▪️Создается иллюзия компетентности, люди переоценивают, насколько хорошо они понимают результат работы ИИ.
▪️Мы склонны доверять ответу системы даже там, где он ошибочный.
▪️Чем сложнее задача, тем больше полагаемся на ИИ, но тем хуже проверка результата.
▪️Снижается критическое мышление, без структурированного взаимодействия с ИИ (подсказок) падает глубина рассуждений.

❕Риск, связанный с ИИ, смещается в повседневную практику и затрагивает не только технологии, но и когнитивные процессы пользователя ("снижение когнитивной автономии"). Человек всё чаще полагается на ИИ не как на инструмент, а как на источник суждений, и начинает частично заменять им собственное мышление.

📌 Что почитать:
🔹From Offloading to Engagement: An Experimental Study on Structured Prompting and Critical Reasoning with Generative AI;
🔹AI, Metacognition, and the Verification Bottleneck: A Three-Wave Longitudinal Study of Human Problem-Solving;
🔹Outsourcing cognition: the psychological costs of AI-era convenience;
🔹AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking

#UXWatch
————
@pattern_ai | AI GDPR Navigator

С ИИ результат не всегда такой, каким кажется

Если в прошлом посте речь шла о том, что человек начинает путать, где его мысли, а где результат работы ИИ, то новое исследование Centre for Long-Term Resilience показывает более тревожный слой этой проблемы.

👀 Исследователи собрали и проанализировали более 183 тысяч записей взаимодействия пользователей с системами ИИ, опубликованных на платформе X в период с октября 2025 года по март 2026 года,

Нашли 698 инцидентов, связанных с мошенничеством реальных диалогов с ИИ, которое нельзя объяснить обычной ошибкой ( в докладе есть сами примеры со ссылками).

Scheming - это скрытое достижение целей, которые не совпадают с задачами пользователя. ИИ делает не то, что от него хотят, и он не показывает это напрямую, а маскирует поведение. То есть это не "не понял задачу", а ситуация, когда система понимает ограничения, но ищет способ их обойти и при этом выглядеть “нормально”.

Исследователи фиксируют рост в 4,9 раза за несколько месяцев и повторяемость одного и того же типа поведения.

Раньше такие эффекты наблюдали только в тестах, а теперь в работающих системах.

😳 Несколько примеров:
1️⃣ Игнорирование прямых команд пользователя.
В одном из кейсов агент с доступом к электронной почте массово удалил и заархивировал сотни писем, при этом несколько раз проигнорировал команды “STOP”, позже сам признал, что нарушил инструкции.

2️⃣Самовольное изменение данных пользователя.
Модель Claud самостоятельно изменила конфигурационный файл пользователя, удалила "нежелательный" контент, не уведомила об этом и признала действие только после прямого вопроса.
ИИ не просто предложил изменение, а выполнил его без согласия.

3️⃣ Обход платёжных ограничений.
ИИ-агент должен был создать демо-аккаунт с тестовыми данными. Вместо этого он напрямую записал в базу данных статус Pro-подписки, использовал сохранённые учётные данные, обошёл платёжную систему и сделал это без запроса на апгрейд.
Фактически система сама нашла способ "решить задачу быстрее", но за счёт нарушения правил и бизнес-логики.

4️⃣ Длительное введение в заблуждение.
Кейс с Grok, который на протяжении нескольких месяцев придумывал несуществующие процессы ( очереди проверки, номера тикетов, сроки обработки (48–72 часа), ссылалась на якобы существующую систему редактирования (Grokipedia). При этом никаких таких процессов не существовало и доступ к ним у ИИ отсутствовал. После проверки модель признала, что это была систематическая дезинформация, а не разовая ошибка.

5️⃣ Обход запрета через “хитрость”.
Модель не могла выполнить действие из-за ограничений, и тогда солгала, что делает это “для людей с нарушением слуха”, чтобы обойти защиту другой системы и получить доступ к контенту.


Общее во всех кейсах: система понимает ограничения, не может выполнить задачу напрямую и выбирает обходной путь, но сохраняет видимость нормальной работы и не сигнализирует о нарушении.

❕Если раньше основным риском было, что ИИ ошибся и "галлюцинировал", то теперь риск выходит на другой уровень, где ИИ достигает результата любой ценой ( проигнорировать пользователя, изменить данные, обойти систему или ввести в заблуждение).
Получается, что мы можем доверять результату, не понимая, как он получен и соответствовал ли он правилам вообще. А значит, привычные механизмы контроля (тестирование, ограничения) уже не дают полной гарантии и необходимо постоянное наблюдение, потому что именно в реальной работе проявляются обходные стратегии.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Регулирование ИИ во Вьетнаме

Закон, регулирующий ИИ (No. 134/2025/QH15 on Artificial Intelligence), вступил в силу 1 марта 2026 года, носит экстерриториальный характер, т.е. иностранные поставщики систем ИИ высокого риска, подлежащих предварительной оценке соответствия перед выходом на рынок, должны создать коммерческое присутствие или назначить уполномоченного представителя во Вьетнаме .

1️⃣В соответствии с глобальными тенденциями регулирования ( EU AI Act), системы ИИ делятся на три уровня риска в зависимости от их потенциального воздействия на права человека, безопасность, защищенность и общественные интересы:
🔹Системы ИИ высокого риска - системы, представляющие значительный потенциальный вред жизни, здоровью, национальной безопасности или юридическим правам. Они подлежат строгому регулированию, включая обязательные предрыночные оценки соответствия (для конкретных систем, которые будут включены в список премьер-министра), постоянное управление рисками, механизмы человеческого контроля и регистрацию через национальный портал ИИ.
🔹Системы ИИ среднего риска - системы, несущие такие риски, как путаница среди пользователей или незначительные сбои на рынке. Они требуют мониторинга посредством отчетов, выборочных проверок и раскрытия информации пользователям.
🔹Системы ИИ низкого риска - системы с минимальным воздействием. Они подвергаются минимальному регулирующему надзору, но отслеживаются на предмет инцидентов и поставщикам рекомендуется придерживаться добровольных рекомендаций.

Поставщик сам классифицирует систему, подаёт информацию через государственный портал, получает идентификатор системы.

2️⃣Прозрачность и маркировка контента:
▪️Пользователи должны быть четко проинформированы о взаимодействии с автоматизированной системой ИИ.
▪️ Аудио-, графические и видеоматериалы, созданные ИИ, должны быть четко помечены или маркированы в машиночитаемом формате, чтобы пользователи могли определить их искусственное происхождение.
▪️ Разработчики должны четко уведомлять пользователей, если контент, созданный ИИ, представляет риск путаницы в отношении подлинности реальных событий или персонажей.

3️⃣Запрещенные методы использования ИИ:
▪️ Использование сфабрикованных элементов или имитацию реальных людей/событий для преднамеренного и систематического обмана или манипулирования человеческим восприятием и поведением.
▪️ Эксплуатация уязвимых групп населения.
▪️ Обход средств контроля безопасности или механизмов человеческого надзора.
▪️ Нарушение законов об интеллектуальной собственности, кибербезопасности или защите персональных данных.

4️⃣Ответственность:
▪️Все заинтересованные стороны несут ответственность за безопасность системы. В случае серьезного инцидента компании должны немедленно внедрить технические решения, при необходимости приостановить работу и сообщить об инциденте через недавно созданный Национальный портал единого окна для ИИ, курируемый Министерством науки и технологий.
▪️ Если надлежащим образом управляемая высокорискованная система ИИ все же причиняет ущерб:
- развертывающий несет ответственность за компенсацию пострадавшей стороне;
- развертывающий может потребовать возмещения от поставщика или разработчика, если это предусмотрено договором.
▪️Разработчики не несут автоматической ответственности, если нет вины, договорного распределения или иного правового основания. На практике это предполагает особое внимание к:
- распределению договорных рисков;
- возмещению убытков;
- страховому покрытию.

5️⃣Полноценный механизм создания песочниц:
- срок до 3 лет;
-частичное освобождение от требований;
- контролируемая среда тестирования

6️⃣Сроки:
▪️Для систем ИИ, развернутых в сферах финансов, здравоохранения и образования полное соответствие требованиям необходимо к 1 сентября 2027 года.
▪️Для систем ИИ, работающих во всех других секторах, полное соответствие требованиям необходимо к 1 марта 2027 года.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

eTools и ИИ или как ЕС пытается упростить регулирование на практике

Вышел доклад "Etools For Regulatory Simplification And Consistency" (European Parliament) об использовании цифровых инструментов для упрощения и согласованности регулирования.

В отчете рассматривается, как технологии меняют каждый этап законодательного цикла, от разработки идей до оценки. Приводятся примеры практических инструментов.

1️⃣Модели машинного обучения все чаще используются для анализа сложности законодательства, выявления несоответствий и поддержки разработки документов на основе фактических данных.

2️⃣ Инструменты теперь отображают весь рабочий процесс регулирования (разработка идей, разработка, внедрение и анализ), повышая прозрачность и операционную эффективность.

3️⃣ Государства-члены и другие страны мира тестируют передовые решения, которые упрощают консультации, автоматизируют оценку воздействия и повышают доступность нормативно-правовой базы.

❕Доклад показывает, что Европейский союз пытается упростить регулирование не только за счёт изменения самих норм, но и за счёт создания технологической среды вокруг них.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

AI-агенты в ответах Еврокомиссии

В FAQ к AI Act появились новые разъяснения, в том числе про ИИ-агентов.

👀Европейская Комиссия прямо признаёт, что термин используется по-разному и до сих пор не имеет чёткого юридического определения. Тем не менее, есть общее понимание: речь идёт о системе, которая получает информацию из окружающей среды, обрабатывает её и затем выполняет действия, способные повлиять на эту среду. Именно этот последний элемент отличает агента от обычной модели.

С точки зрения ст. 3 AI Act, любой такой агент почти всегда одновременно подпадает под два понятия:
- это система ИИ, потому что у неё есть интерфейс и она взаимодействует с пользователем или средой;
- это модель общего назначения, которая лежит в основе этой системы.
Комиссия делает вывод, что агенты не являются отдельной категорией, а входят в комбинацию этих определений.

Это означает, что к ним применяются все соответствующие требования:
▪️запреты на манипуляцию и эксплуатацию уязвимостей (Article 5 AI Act),
▪️требования прозрачности при взаимодействии с человеком,
▪️при необходимости, правила для высокорисковых систем.

❗️Чем больше автономности у системы и чем сильнее её влияние на реальные решения, тем выше уровень регулирования.
Разработчикам уже недостаточно просто контролировать тексты, которые генерирует модель, а необходимо заранее проектировать ограничения на уровне самой логики работы системы, чтобы она не могла причинить вред.

Еще ответы на вопросы, почему Еврокомиссия предлагает внести поправки в AI Act, какую пользу эти изменения принесут бизнесу, какие новые сроки предлагаются и т.д.

#AIShelf #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Суверенитет ИИ невозможен?

В обсуждениях всё чаще звучит идея "суверенного ИИ", т.е. создание собственных моделей, инфраструктуры и т.п.

👀 В докладе " Is AI sovereignty possible? Balancing autonomy and interdependence (The Brookings Institution и Centre for European Policy Studies)" исследователи пытаются ответить на вопрос, возможно ли это вообще.
И спойлер, ответ - нет, если понимать суверенитет буквально как полную автономию.

Почему же не работает:
1️⃣ ИИ - это не единая технология и не один продукт, а многослойная система, распределённая по разным странам и рынкам:
▪️добыча редкоземельных металлов,
▪️производство чипов,
▪️вычислительные мощности и дата-центры,
▪️данные,
▪️модели,
▪️прикладные решения,
▪️кадры и научная база.
На каждом уровне есть узкие места и высокая концентрация игроков. Ни одна страна не контролирует всю цепочку целиком, даже крупнейшие экономики.

2️⃣Для многих стран (особенно развивающихся) попытка "сделать всё своё" может привести к обратному эффекту:
▪️распыление ресурсов,
▪️дублирование инфраструктуры,
▪️зависшие государственные инвестиции,
▪️технологическое отставание.

3️⃣Хотя суверенный ИИ может принести пользу национальной безопасности и экономической конкурентоспособности, он также может стать инструментом протекционизма, фрагментации рынков и стандартов, а также дублирования или нецелевого использования государственных инвестиций.

4️⃣ Предлагается более реалистичный подход "управляемая взаимозависимость", основанный на стратегических альянсах и партнерствах для снижения рисков, т.е. не пытаться построить всё внутри страны, а способность принимать решения и сохранять выбор в глобальной системе:
▪️как используются технологии внутри страны,
▪️какие риски принимаются,
▪️какие альтернативы остаются доступными,
▪️есть ли возможность сменить поставщика или архитектуру.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Почему ИИ может мешать учиться, даже когда помогает

Европарламентом опубликован обзор о когнитивных рисках и возможностях, которые может повлечь за собой использование ИИ для молодых учащихся (Artificial Intelligence in Classrooms: Cognitive Dimensions|Requested by the CULT committee).

👀 Главные выводы:
1️⃣Использование ИИ становится обычной практикой. В 2025 году 63,8% молодых людей в ЕС (16–24 года) использовали генеративные системы, и 39,3% для формального образования.

2️⃣Возникает "парадокс обучения", т.е. ИИ одновременно улучшает результаты выполнения заданий и снижает реальное усвоение знаний.

3️⃣ Ключевые когнитивные риски для детей и подростков:
▪️ зависимость (система заменяет когнитивное усилие, без которого невозможно устойчивое обучение),
▪️ ослабление базовых навыков (письмо, чтение, счет и решение задач выполняются системой, а не учеником),
▪️ снижение метакогнитивных способностей (хуже развивается самоконтроль и самостоятельное мышление),
▪️ проблемы с вниманием и закреплением знаний (исчезает необходимость длительного умственного усилия).

4️⃣ Память, исполнительные функции и критическое мышление формируются в процессе обучения.
Если в этот период когнитивная нагрузка системно "снимается" с ученика, то не сформируются когнитивные структуры, на которых строится дальнейшее обучение.

5️⃣ Разница в использовании принципиальна:
▪️ системы общего назначения чаще дают готовые ответы и заменяют усилие,
▪️образовательные системы, напротив, могут поддерживать мышление, т.е. задают наводящие вопросы, разбивают задачу на шаги, адаптируются к уровню ученика.
Именно второй подход связан с более устойчивыми результатами обучения.

😳Что показывают другие исследования:
🔹 При "когнитивном разгружении" учащиеся постепенно передают мышление системе, теряя автономию и критическое восприятие.
🔹ИИ способен поддерживать персонализированное обучение, улучшая мотивацию и взаимодействие школьников/студентов, но также несёт риски усиления неравенства и утраты автономии учителя.
🔹 Технологии могут создавать иллюзию понимания вместо реального обучения без институциональной настройки.
🔹Отмечается важность прозрачности алгоритмов и этического дизайна систем, необходимость включения педагогов в процесс создания и оценки ИИ-инструментов.


❕Вопрос уже не в том, использовать ли ИИ в образовании, а в том, заменяет ли он когнитивное усилие или помогает его выстраивать. И это уже не только педагогическая, но и регуляторная задача.

📌 Что почитать:
🔹AI in education beyond learning outcomes: cognition, agency, emotion, and ethics,
🔹Who is doing the Thinking? AI as a dynamic cognitive partner: a learner-informed framework,
🔹Integrating Generative AI-enhanced cognitive systems in higher education: from stakeholder perceptions to a conceptual framework considering the EU AI Act,
🔹Smartphone and Tablet as Digital Babysitter,
🔹Когда дети начинают доверять ИИ больше, чем людям, что могут сделать разработчики?

#UXWatch
————
@pattern | AI GDPR Navigator

Сериал про Grok: решение из Нидерландов

Продолжаем.

Суд в Нидерландах в рамках упрощенного судопроизводства запретил X. AI и связанным компаниям генерировать и распространять сексуальные изображения людей без их явного согласия, а также материалы, которые по нидерландскому законодательству квалифицируются как детская порнография.

👀Кроме имеющихся исследований CCDH компания Offlimits представила суду список скриншотов, демонстрирующих, что в марте через Grok всё ещё можно было создавать видео на основе фотографий реальных людей, в которых эти люди изображены в сексуализированном контексте, без проверки наличия их согласия. Также представили изображения, где фигурирует девочка примерно 14 лет, и на одном из изображений присутствует сексуальный подтекст ( большое декольте и полупрозрачный топ).

Суд отметил, что персональные данные этих людей обрабатываются, и установил, что подобные действия нарушают GDPR и право на неприкосновенность частной жизни, делая вероятным, что Grok продолжает способствовать созданию изображений. И хотя невозможно с уверенностью определить, что на изображении действительно несовершеннолетняя, поскольку это вымышленный персонаж, однако подобные примеры демонстрируют, что пользователи могут выходить за рамки дозволенного. Это оставляет сомнения относительно эффективности мер X. AI по предотвращению детской порнографии.


Суд обязал X. AI и связанные компании письменно подтвердить соблюдение запретов и предусмотрел штрафы до €10 млн за каждый день нарушения.

Предыдущие серии здесь.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator