Суверенитет ИИ невозможен?

В обсуждениях всё чаще звучит идея "суверенного ИИ", т.е. создание собственных моделей, инфраструктуры и т.п.

👀 В докладе " Is AI sovereignty possible? Balancing autonomy and interdependence (The Brookings Institution и Centre for European Policy Studies)" исследователи пытаются ответить на вопрос, возможно ли это вообще.
И спойлер, ответ - нет, если понимать суверенитет буквально как полную автономию.

Почему же не работает:
1️⃣ ИИ - это не единая технология и не один продукт, а многослойная система, распределённая по разным странам и рынкам:
▪️добыча редкоземельных металлов,
▪️производство чипов,
▪️вычислительные мощности и дата-центры,
▪️данные,
▪️модели,
▪️прикладные решения,
▪️кадры и научная база.
На каждом уровне есть узкие места и высокая концентрация игроков. Ни одна страна не контролирует всю цепочку целиком, даже крупнейшие экономики.

2️⃣Для многих стран (особенно развивающихся) попытка "сделать всё своё" может привести к обратному эффекту:
▪️распыление ресурсов,
▪️дублирование инфраструктуры,
▪️зависшие государственные инвестиции,
▪️технологическое отставание.

3️⃣Хотя суверенный ИИ может принести пользу национальной безопасности и экономической конкурентоспособности, он также может стать инструментом протекционизма, фрагментации рынков и стандартов, а также дублирования или нецелевого использования государственных инвестиций.

4️⃣ Предлагается более реалистичный подход "управляемая взаимозависимость", основанный на стратегических альянсах и партнерствах для снижения рисков, т.е. не пытаться построить всё внутри страны, а способность принимать решения и сохранять выбор в глобальной системе:
▪️как используются технологии внутри страны,
▪️какие риски принимаются,
▪️какие альтернативы остаются доступными,
▪️есть ли возможность сменить поставщика или архитектуру.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Почему ИИ может мешать учиться, даже когда помогает

Европарламентом опубликован обзор о когнитивных рисках и возможностях, которые может повлечь за собой использование ИИ для молодых учащихся (Artificial Intelligence in Classrooms: Cognitive Dimensions|Requested by the CULT committee).

👀 Главные выводы:
1️⃣Использование ИИ становится обычной практикой. В 2025 году 63,8% молодых людей в ЕС (16–24 года) использовали генеративные системы, и 39,3% для формального образования.

2️⃣Возникает "парадокс обучения", т.е. ИИ одновременно улучшает результаты выполнения заданий и снижает реальное усвоение знаний.

3️⃣ Ключевые когнитивные риски для детей и подростков:
▪️ зависимость (система заменяет когнитивное усилие, без которого невозможно устойчивое обучение),
▪️ ослабление базовых навыков (письмо, чтение, счет и решение задач выполняются системой, а не учеником),
▪️ снижение метакогнитивных способностей (хуже развивается самоконтроль и самостоятельное мышление),
▪️ проблемы с вниманием и закреплением знаний (исчезает необходимость длительного умственного усилия).

4️⃣ Память, исполнительные функции и критическое мышление формируются в процессе обучения.
Если в этот период когнитивная нагрузка системно "снимается" с ученика, то не сформируются когнитивные структуры, на которых строится дальнейшее обучение.

5️⃣ Разница в использовании принципиальна:
▪️ системы общего назначения чаще дают готовые ответы и заменяют усилие,
▪️образовательные системы, напротив, могут поддерживать мышление, т.е. задают наводящие вопросы, разбивают задачу на шаги, адаптируются к уровню ученика.
Именно второй подход связан с более устойчивыми результатами обучения.

😳Что показывают другие исследования:
🔹 При "когнитивном разгружении" учащиеся постепенно передают мышление системе, теряя автономию и критическое восприятие.
🔹ИИ способен поддерживать персонализированное обучение, улучшая мотивацию и взаимодействие школьников/студентов, но также несёт риски усиления неравенства и утраты автономии учителя.
🔹 Технологии могут создавать иллюзию понимания вместо реального обучения без институциональной настройки.
🔹Отмечается важность прозрачности алгоритмов и этического дизайна систем, необходимость включения педагогов в процесс создания и оценки ИИ-инструментов.


❕Вопрос уже не в том, использовать ли ИИ в образовании, а в том, заменяет ли он когнитивное усилие или помогает его выстраивать. И это уже не только педагогическая, но и регуляторная задача.

📌 Что почитать:
🔹AI in education beyond learning outcomes: cognition, agency, emotion, and ethics,
🔹Who is doing the Thinking? AI as a dynamic cognitive partner: a learner-informed framework,
🔹Integrating Generative AI-enhanced cognitive systems in higher education: from stakeholder perceptions to a conceptual framework considering the EU AI Act,
🔹Smartphone and Tablet as Digital Babysitter,
🔹Когда дети начинают доверять ИИ больше, чем людям, что могут сделать разработчики?

#UXWatch
————
@pattern | AI GDPR Navigator

Сериал про Grok: решение из Нидерландов

Продолжаем.

Суд в Нидерландах в рамках упрощенного судопроизводства запретил X. AI и связанным компаниям генерировать и распространять сексуальные изображения людей без их явного согласия, а также материалы, которые по нидерландскому законодательству квалифицируются как детская порнография.

👀Кроме имеющихся исследований CCDH компания Offlimits представила суду список скриншотов, демонстрирующих, что в марте через Grok всё ещё можно было создавать видео на основе фотографий реальных людей, в которых эти люди изображены в сексуализированном контексте, без проверки наличия их согласия. Также представили изображения, где фигурирует девочка примерно 14 лет, и на одном из изображений присутствует сексуальный подтекст ( большое декольте и полупрозрачный топ).

Суд отметил, что персональные данные этих людей обрабатываются, и установил, что подобные действия нарушают GDPR и право на неприкосновенность частной жизни, делая вероятным, что Grok продолжает способствовать созданию изображений. И хотя невозможно с уверенностью определить, что на изображении действительно несовершеннолетняя, поскольку это вымышленный персонаж, однако подобные примеры демонстрируют, что пользователи могут выходить за рамки дозволенного. Это оставляет сомнения относительно эффективности мер X. AI по предотвращению детской порнографии.


Суд обязал X. AI и связанные компании письменно подтвердить соблюдение запретов и предусмотрел штрафы до €10 млн за каждый день нарушения.

Предыдущие серии здесь.

#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Япония ослабляет защиту персональных данных ради развития ИИ

Правительство Японии уже одобрило законопроект о внесении поправок в Закон о защите персональных данных, и дальше он будет представлен на внеочередной сессии парламента.

Министр цифровой трансформации Hisashi Matsumoto прямо указал, что благодаря этим изменениям страна станет самым простым местом в мире для разработки сервисов с использованием ИИ.

👀 Что планируется:

1️⃣Допускается использование и передача персональных данных третьим лицам для обучения моделей ИИ и статистической обработки без согласия субъекта при соблюдении установленных условий и оценке низкого риска.
2️⃣Ослабление требований распространяется в том числе на данные о здоровье и биометрическую информацию, включая изображения лица, при условии, что их использование направлено, например, на достижение общественно значимых целей.
3️⃣При этом для обработки данных несовершеннолетних до 16 лет сохраняется требование получения согласия родителей.
4️⃣ При использовании изображений лиц необходимо объяснять, как обрабатывают данные, но уже не надо предоставлять обязательную возможность отказа от обработки. Для сбора изображений детей младше 16 лет потребуется согласие родителей.
5️⃣При рассмотрении вопроса об использовании данных, описывающих несовершеннолетних, будет применяться критерий «наилучших интересов».
6️⃣ Допускается отказ от уведомления субъектов о нарушениях безопасности данных при отсутствии значимого риска их правам и интересам.
7️⃣Одновременно усиливается ответственность за злоупотребления. Будет введена система предписания уплаты дополнительных сборов. В случаях, когда в результате серьезного нарушения нарушаются права и интересы физического лица, Комиссия по защите персональных данных может обязать уплатить дополнительный сбор, эквивалентный финансовой выгоде, полученной в результате этого нарушения.

❕ Рассмотрение Японией индивидуального согласия как регуляторного барьера, а не как субъективного права, отражает существенный сдвиг в подходе к регулированию. Также как и освобождение от обязанности уведомлять субъектов о нарушениях при признании риска низким поднимает вопрос о критериях такой оценки и о том, в чьих интересах она будет осуществляться. Подход контрастирует с европейским, где защита прав человека выступает исходным ограничением развития технологий.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Регулирование ИИ "взрослеет" (CAIDP Index 2026)

Center for AI and Digital Policy опубликовал глобальный обзор регулирования ИИ " CAIDP Index 2026". Это уже шестое издание и, по сути, самая подробная карта того, как государства пытаются “приручить” ИИ (90 стран, 1700+ страниц).

👀 Ключевые положения:

1️⃣ Регулирование ИИ становится глобальным с едиными принципами: прозрачность, подотчетность, недискриминация, защита прав человека. Но разрыв между декларациями этих принципов и реальным применением только растет.

2️⃣ ИИ больше не регулируется только в ЕС и США, новые законы появляются в Китае, Японии, Перу, Южной Корее, Вьетнаме. Формируется конкуренция моделей регулирования, глобальные компании попадают в разнонаправленные режимы.

3️⃣ Начинает формироваться международное право по ИИ. 45 стран поддерживают международный договор об ИИ, ООН создает научную группу по ИИ с участием представителей со всего мира.

4️⃣ США выходят из числа лидеров в области ИИ. А значит нас ждет больше региональных режимов и конфликтующих стандартов.

5️⃣ Лидируют не те страны, которые быстрее разрабатывает модели, а те, кто лучше выстраивает систему контроля и ответственности. Топ стран в CAIDP Index 2026: Канада, Япония, Нидерланды, Норвегия, Швейцария, Великобритания.

❕CAIDP Index 2026 фиксирует переход к системному регулированию ИИ, т.е. институциональный контроль, внедрение механизмов оценки рисков, юридическую ответственность.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Как выглядит контроль ИИ в 2026 (и почему старый больше не работает)

Ещё недавно контроль ИИ строился по знакомой модели: задать правила, протестировать систему, при необходимости ограничить использование. Предполагалось, что этого достаточно, чтобы держать риски под управлением.

👀 Начало 2026 года показывает, что эти механизмы перестают работать не из-за качества, а из-за самой логики их применения.

При росте сложности задач пользователи всё чаще обращаются к ИИ (до 73,9%), но при этом значительно хуже проверяют результат, точность падает до 47,8%, тогда как уверенность остаётся высокой (статья здесь). Это означает, что человек всё чаще принимает ответ как корректный именно в тех ситуациях, где он наименее способен его проверить.

С одной стороны ИИ может радикально снизить стоимость создания результата, ведь ответ можно получить за секунды. Но стоимость проверки не снижается, а часто становится выше.
Чтобы убедиться, что ответ корректный, нужно:
▪️ понимать тему,
▪️ разбирать логику рассуждений,
▪️ проверять источники,
▪️ иногда фактически делать ту же работу заново.

Возникает структурный разрыв: создание результата становится мгновенным, а проверка остаётся медленной, дорогой и требующей экспертизы.

📝Например, 95% разработчиков тратят время на проверку и исправление кода, сгенерированного ИИ, причём 59% оценивают эти усилия как значительные (State of Code Developer Survey 2026). Более того, 38% отмечают, что проверять такой код сложнее, чем код коллег:
▪️ ИИ часто генерирует код, который выглядит корректным, но содержит скрытые ошибки (61%),
▪️ значительная часть времени уходит не на написание, а на доведение результата до рабочего состояния (61%).

Попытки автоматически определить, где использовался ИИ, тоже заходят в тупик. Причины простые:
▪️ ответы становятся неотличимыми от человеческих,
▪️ одну и ту же задачу, например, текст можно переписать десятками способов,
▪️ инструменты дают высокий процент ложных срабатываний,
▪️ пользователи быстро адаптируются и обходят ограничения.
И в результате “обнаружение” превращается в игру в догонялки, даже если мы точно знаем, что результат создан с помощью ИИ, это не даёт ответа на вопрос, является ли он корректным и соответствующим правилам.

Таким образом, ломается сама архитектура контроля. Раньше она строилась вокруг результата, правильный он или нет, допустим или нет, а теперь этого недостаточно, потому что результат может выглядеть убедительно, но быть неверным, процесс его получения остаётся скрытым.
Необходим контроль за тем, как ИИ используется в реальной практике и какие решения принимаются на его основе.

Что включить в новую модель контроля ИИ:
▪️ Непрерывный мониторинг. Система отслеживается в реальном времени, как она используется, какие решения принимает, где возникают отклонения.
▪️ Контроль поведения, а не только результата. Важно не только “что ответила система”, но и как она к этому пришла и как используется её вывод.
▪️ Логирование и воспроизводимость. Фиксируется не только итог, но и ход взаимодействия, что становится ключевым для анализа и ответственности.
▪️ Встроенный контроль в продукт. Ограничения и проверки реализуются через интерфейс и сценарии использования, а не только через политики.
▪️ Организационный надзор. Выстраивать отдельные функции наблюдения и оценки ИИ на уровне управления.

❕Именно в повседневной практике, становится видно, как принимаются решения и где на самом деле возникают риски.

📌 Что почитать:
🔹State of Code Developer Survey report,
🔹AI Governance Control Stack for Operational Stability: Achieving Hardened Governance in AI Systems,
🔹The Agentic Regulator: Risks for AI in Finance and a Proposed Agent-based Framework for Governance,
🔹What is AI governance? A complete guide for 2026,
🔹AI Governance Playbook for Boards

#UXWatch
————
@pattern_ai | AI GDPR Navigator

ИИ-переводчики и защита персональных данных

Многие компании используют ИИ-переводчики для переписки с клиентами или перевода внутренних документов. Баварский регулятор выпустил краткое руководство (серия «AI in a nutshell») о том, как государственным органам использовать ИИ-переводчики, не нарушая GDPR и предупреждает, что это не просто "технический ресурс", а полноценная обработка данных с высокими рисками.

👀 Смотрим основные тезисы, которые актуальны для любого бизнеса:

1️⃣ Голос - это биометрия.
Если инструмент переводит живую речь, он может собирать голосовые профили. Если тембр или манера речи позволяют однозначно идентифицировать человека, это превращается в обработку биометрических данных (ст. 9 GDPR).
Убедитесь, что в договоре с сервисом или настройках прописан запрет на использование голоса для "распознавания спикера" и данные удаляются сразу после сессии.

2️⃣ Будьте осторожны с чувствительным контекстом. Например, использование ИИ в здравоохранении или социальных службах относится к зоне высокого риска. Вводимый текст или речь могут содержать данные о состоянии здоровья. Даже манера речи может косвенно указывать на этническое происхождение, что также относится к чувствительным данным.
Ограничьте использование ИИ для перевода медицинских, юридических или глубоко личных документов сотрудников и клиентов.

3️⃣ Проблема "дообучения" на данных. Регулятор отмечает, что у госорганов Баварии, скорее всего, нет законных оснований передавать данные граждан третьим лицам для обучения ИИ-моделей.
Бизнесу тоже стоит быть осмотрительным, т.к., если вы используете бесплатные версии, то корпоративные секреты или данные клиентов могут попасть в базу для обучения модели. Поэтому проверьте, есть ли у вас соглашение об обработке данных (DPA) с провайдером сервиса и исключено ли использование данных для обучения нейросети.

4️⃣Ответственность за точность.
Качество перевода должно регулярно проверяться и соответствовать стандартам профессионального переводчика. В административных и судебных процессах важно проверять, разрешает ли закон заменять "живого" присяжного переводчика машиной.
Для бизнеса также актуально, т.к. если ИИ-переводчик исказил смысл юридического документа или условий контракта, то ответственность несет ваша компания, а не разработчик сервиса. Поэтому введите регулярный контроль качества (human-in-the-loop) для важных переводов.

✏️Что делать:
▪️Разграничьте процессы. Четко определите, какие данные можно переводить через ИИ, а какие строго запрещено.
▪️Проверьте метаданные. Помните, что сервис может собирать логины, IP-адреса и метаданные сотрудников, а все это тоже персональные данные.
▪️Анонимизируйте данные. Обяжите и обучите сотрудников удалять имена, адреса и ID из текстов перед вставкой в окно переводчика.

📌 Полезное:
🔹ИИ для встреч (записи, саммари, заметки и черновики документов), а что с GDPR? ;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Китай превращает этическую экспертизу ИИ в обязательную процедуру

Министерство промышленности и информатизации выпустило документ «Меры по этической экспертизе ИИ и сервисному сопровождению (пробная версия)».

👀Субъектами, ответственными за проведение этической экспертизы в области ИИ, являются:
▪️компании,
▪️высшие учебные заведения,
▪️научно-исследовательские организации,
▪️медицинские учреждения,
▪️иные организации, осуществляющие научно-техническую деятельность в области ИИ.
Им предписывается создать у себя внутренние комитеты по этике ИИ, которые должны проверять проекты ещё до старта, оценивать риски, следить за изменениями модели.

В случае выявления значительных этических рисков организация обязана:
▪️немедленно приостановить соответствующую деятельность,
▪️провести повторную оценку,
▪️принять меры по снижению риска.

Особенно интересно, что вводится чёткая процессная модель: разные типы экспертизы (обычная, упрощённая, повторная, экстренная), обязательная оценка при изменении данных или архитектуры модели и, по сути, правило «нет одобрения - нет запуска», что превращает этическую экспертизу в действительно сдерживающий фактор.

Эксперты отмечают, что это первая попытка встроить этику ИИ в операционную модель, а также сформировать дифференцированный риск-подход.
Государство постепенно через ряд документов пытается создать целую экосистему контроля ИИ, а не просто наложить запреты.

❕Если вы работаете с ИИ и планируете выход на китайский рынок, игнорировать такие документы уже нельзя.

📌 Проект правил для ИИ-сервисов, которые общаются “по-человечески” в Китае

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

ИИ как “теневой координатор” и цифровое отражение человека

Для понедельника предлагаю почитать два свежих исследования про то, как ИИ-агенты начинают выходить за рамки “инструмента” и создают новые риски для права и приватности.

1️⃣Статья “The AI Criminal Mastermind” описывает сдвиг, который выходит за рамки привычных ИИ-рисков, когда ИИ начинает координировать действия людей, а не просто выполнять задачи.
Агент разбивает задачу на мелкие части и распределяет их между людьми через цифровые платформы, так что ни один участник не понимает общей цели. По сути являясь классическим “организатором преступления”, но без централизованного субъекта.

В итоге ломаются базовые конструкции:
▪️ умысел размывается,
▪️ осведомлённость фрагментируется,
▪️ субъект ответственности исчезает.

В результате ответственность “растворяется” между разработчиком, пользователем, платформой и исполнителями.

2️⃣ В статье "Behavioral Transfer in AI Agents: Evidence and Privacy Implications" опубликовано исследование, как ИИ-агенты наследуют поведенческие характеристики своих владельцев.

Анализ 10 659 пар “человек–агент” выявил устойчивое совпадение по:
▪️ темам и интересам,
▪️ ценностям,
▪️ эмоциональному тону,
▪️ языковому стилю.

ИИ-агенту не нужна явная настройка, он использует накопленный контекст (история взаимодействия, запросы, среда пользователя), и фактически становится не универсальным инструментом, а продолжением личности.
Агенты с более сильным “поведенческим переносом” чаще раскрывают персональную информацию владельца в публичных сообщениях, что создаёт новую модель утечки "через генерацию ответов".
Риски:
▪️пользователь не контролирует раскрытие,
▪️ границы персональных данных размываются,
▪️ роли контроллера/процессора становятся неочевидными.

❕Как видим, ИИ-агенты перестают быть пассивными инструментами и становятся активными участниками среды, кроме выполнения поставленных задач могут координировать действия людей и транслировать поведенческие характеристики своих владельцев. И, соответственно, необходимо контролировать не только данные и модели, но поведение и автономию агентов в реальной среде.
В нормативном регулировании эти риски практически не отражаются, превалирует стандартная модель, где ответственен человек, который нажал кнопку.
В комментариях можем обсудить, как регулировать" ИИ-агента как возможного участника действий"...

#AIShelf #UXWatch
————
@pattern_ai | AI GDPR Navigator

Генерация “по фото” не является нарушением авторских прав

Немецкий суд вынес решение в деле OLG Düsseldorf I-20 W 2/26 (апелляция на LG Düsseldorf 12 O 282/25).

👀 Краткая фабула дела: пользователь взял фото собаки и сгенерировал через ИИ комикс-версию. Фотограф пошёл в суд требовать запрета использования.
Первая инстанция (LG Düsseldorf 12 O 282/25) отказала, признав, что созданное с помощью ИИ изображение представляет собой свободную адаптацию (ст.23(1), ст. 2 Закона Германии об авторском праве (UrhG)) оригинальной фотографии. Апелляция подтвердила решение, но с другой аргументацией.

Смотрим аргументацию суда:

1️⃣ ИИ-результат в принципе может быть объектом авторского права, но только если есть реальный вклад человека ( кейсы CJEU C-580/23 и C-795/23).
Этот вклад может проявляться в промпте, в процессе доработки, в постобработке

2️⃣ Ответчик ссылался на §23 UrhG (“free adaptation”).

Позиция суда: " если вы так защищаетесь, вам придётся доказать, что ИИ-результат является самостоятельным произведением".

А значит нужно раскрыть промпты, объяснить процесс генерации и показать свой творческий вклад.

3️⃣Суд применил подход CJEU, где требуется сравнение конкретных творческих элементов и указал, что не защищается сама идея изображения (например, “собака, тянущаяся под воду за красной игрушкой).
Защищаются только конкретные творческие решения автора (специфические художественные элементы фотографического произведения):
▪️перспектива,
▪️кадрирование, композиция,
▪️освещение,
▪️текстуры,
▪️глубина резкости.
Изображение, полученное с помощью ИИ, не обладало динамическим качеством оригинального фотографического произведения, которое достигалось за счет выбора экспозиции и диафрагмы. Получается, что если эти элементы не воспроизводятся, то нарушения нет.

4️⃣ Почему ИИ-картинка не нарушила права:
▪️ ИИ полностью изменил стиль (в комикс),
▪️убрал ключевые творческие элементы фото (оригинальный свет, фон и текстуры),
▪️оставил только идею (собака). А идея не является объектом авторского права.

📝 Что забираем себе в практику:
▪️логирование промптов и итераций становится критичным доказательством UX-генерации, теперь анализируют конкретные элементы, а не общее впечатление.
▪️перерисовал через ИИ ≠ автоматически нарушение. Стилизация через ИИ может признаваться законной, если меняется визуальный язык, а не копируются детали.

📌 Отказ Мюнхенского суда в защите логотипам, созданным с использованием ИИ.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Тейлор Свифт последовала примеру Макконахи в защите своей личности

Продолжим тему защиты интеллектуальной собственности.

👀 Тейлор Свифт последовала примеру актера Мэттью Макконахи после того, как юристы Макконехи получили аналогичные товарные знаки, и подала три заявки на регистрацию товарных знаков в США.

🔹Два звуковых товарных знаков, описывающих ее голос: «Hey, it’s Taylor Swift»,и «Hey, it’s Taylor».
🔹Визуальный товарный знак, описывающий «фотографию Тейлор Свифт, держащей розовую гитару с черным ремешком и одетой в разноцветный переливающийся комбинезон с серебряными сапогами. Она стоит на розовой сцене перед разноцветным микрофоном с фиолетовыми огнями на заднем плане». Заявки поданы от имени компании TAS Rights Management, принадлежащей Свифт.

Изображение Свифт использовалось без разрешения в многочисленных подделках, созданных ИИ.

🔍Такой подход борьбы в отношении ИИ ещё не полностью проверен в суде. Однако, юристы предполагают, что актёр или артист, имеющий ​​защиту товарного знака, мог бы подавать иски о прекращении использования против платформы ИИ аналогично тому, как студия может защищать свои авторские права. Приводится пример, как в декабре 2025 года Disney направила Google письмо с требованием прекратить противоправные действия, утверждая, что платформа Gemini AI технологического гиганта используется для незаконного создания копий десятков персонажей, запатентованных компанией. На следующий день Google удалила видеоролики, нарушающие правила, а потом ввела ограничения на создание изображений персонажей и контента, принадлежащих Disney, включая объекты Marvel и Star Wars.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Нац.политику по ИИ отозвали из-за ИИ

Начнем эту неделю с новостей про регулирование ИИ в разных странах.
И сразу кейс, который выглядит как идеальный пример того, почему регуляторы так упорно говорят про человеческий контроль при работе с ИИ.

👀 В ЮАР министр связи и цифровых технологий Solly Malatsi официально отозвал проект национальной политики по ИИ ("Draft National Artificial Intelligence Policy") после того, как в документе обнаружили фиктивные источники в списке литературы.
Проект был задуман как базовый документ для управления развитием ИИ в ЮАР: стимулирование инноваций, цифровой экономики и промышленности, предполагал создание институциональной архитектуры (регуляторные органы и координирующие механизмы), развитие исследовательской экосистемы ИИ, меры по защите данных, прозрачности и недискриминации.

Внутреннее расследование подтвердило, что ссылки действительно не существуют, был использован ИИ без должной проверки.

Министр отдельно подчеркнул, что это «не просто техническая ошибка», а ситуация, которая подорвала доверие и целостность всей политики, и прямо указал, что такие сбои показывают критическую необходимость человеческого контроля при использовании ИИ.

В результате документ полностью отозван, а в отношении команды, которая занималась подготовкой и обеспечением качества, обещаны дисциплинарные меры. Также Парламентом было затребован отчет и обеспечение подлинного консультативного процесса, основанный на экспертных знаниях и строгих доказательствах, а не на упрощенных методах, разработанных с помощью ИИ.

❕И это даже не стартап, не эксперимент, а документ о государственной политике, который и должен был регулировать сам ИИ, но при этом оказался результатом неконтролируемого использования ИИ. И это ровно тот риск, о котором говорят другие регуляторы в мире ( EDPS, CNIL и т.п.). Нельзя считать выводы модели достоверными без процедур проверки, иначе ошибка становится системной, а не локальной.

📌 AI Governance в Африке;

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Готовность Индии к внедрению ИИ

При поддержке UNESCO опубликован доклад "India: Artificial Intelligence Readiness Assessment Report."

👀 Индия провела национальную оценку готовности к внедрению Рекомендаций по этике искусственного интеллекта 2021 года, используя методологию RAM. Эта методика помогает государствам оценить, насколько их правовая, институциональная и техническая среда соответствует принципам прав человека, справедливости и инклюзивности при развитии ИИ.

Оценка строится по пяти направлениям: право и регулирование, социально-культурная среда, образование и наука, экономика, а также инфраструктура и технологии. Отчёт основан как на анализе данных (по состоянию на конец 2025 года), так и на консультациях с более чем 600 участниками, от государственных органов до стартапов и научного сообщества. Кроме выявления проблем, даются и рекомендации по их решению

Ключевые тезисы:
🔹Формируется смешанная модель регулирования. С одной стороны, к системам ИИ применяются уже действующие законы, с другой активно развиваются специальные стандарты для отдельных отраслей, а также мягкие инструменты: рекомендации, этические принципы и саморегулирование.
🔹 Остаются системные проблемы: как применять существующие нормы к ИИ на практике, как превратить этические принципы в конкретные требования к разработке моделей, и как избежать фрагментации регулирования между секторами и регионами.
🔹Бизнес указывает на нехватку понятных правил, особенно для малых компаний.
🔹 Главным ограничением остаются данные. Несмотря на большие массивы государственной информации, они используются недостаточно из-за неясных правил доступа и низкого качества: данные часто неполные, несогласованные и не отражают разнообразие населения. Отдельно подчёркивается, что без репрезентативных данных невозможно создать справедливые системы ИИ, а также поднимается вопрос справедливого вознаграждения сообществ, чьи данные используются.
🔹 Доверие пользователей становится ключевым условием внедрения ИИ. Участники прямо связывают масштабирование технологий с прозрачностью, понятностью решений и ориентацией на человека. Без этого широкое внедрение невозможно.
🔹Стартапы и технологические компании ожидают не запретов, а поддержки: экспериментальных правовых режимов, отраслевых рекомендаций и доступа к финансированию. Сейчас инвестиции в основном направлены в коммерчески наиболее прибыльные решения, тогда как социально значимые проекты недополучают ресурсы.
🔹Серьёзные изменения на рынке труда. Автоматизация затрагивает не только начальные позиции, но и специалистов среднего уровня, например в сфере информационных технологий и финансов. Это разрушает привычную модель профессионального роста через практический опыт. При этом сохраняются проблемы с подготовкой кадров: не хватает преподавателей, программы обучения отстают от потребностей рынка, а регионы вне крупных городов получают меньше возможностей.
🔹Неравномерный доступ к инфраструктуре. Государство инвестирует в вычислительные мощности и платформы данных, однако стартапы и регионы за пределами крупных городов сталкиваются с ограниченным доступом к этим ресурсам. Также подчёркиваются риски, связанные с энергопотреблением и экологическим воздействием ИИ, и необходимость учитывать эти факторы при развитии инфраструктуры.
🔹Акцент на учёт культурного и языкового разнообразия.

📌 India AI Guidelines (актуальны для разработчиков);
Требования по маркировке;

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Стратегия Индии о внедрении ИИ в здравоохранение

Кроме доклада о готовности внедрения ИИ, отдельно опубликована стратегия SAHI (Strategy for Artificial Intelligence in Healthcare for India), определяющая, как внедрять ИИ в национальную систему здравоохранения.

👀 Ключевые тезисы стратегии:
🔹Пять основных направлений охватывают стандарты управления и сбора доказательств, безопасную, этичную, надежную и прозрачную цифровую и информационную инфраструктуру, а также готовность персонала.
🔹 SAHI четко фиксирует, что ИИ должен дополнять человеческое суждение, а не подменять его. Вопросы ответственности остаются в руках человека и институтов.
🔹 Успех ИИ базируется на уже созданной цифровой публичной инфраструктуре (DPI), включающей национальные реестры и стандартизированные электронные карты здоровья.
🔹Ставка на риск-ориентированное управление. Чем сложнее ИИ-приложение и выше его влияние на пациента, тем жестче надзор.
🔹 Прозрачность, справедливость и четкая подотчетность участников процесса.

📌 Trust, Diversity and Inclusion: AI in Healthcare/ PIB DELPHI

#AIShelf #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Итальянский регулятор создал важнейший прецедент в борьбе с «галлюцинациями» ИИ

Италия продолжает удерживать статус самого строгого ревизора ИИ. На этот раз антимонопольное ведомство страны (AGCM) добилось от техгигантов (Deepseek, Mistral, NOVA AI) официальных обязательств по обеспечению прозрачности нейросетей (тексты решений и обязательств).

👀Расследование началось из-за того, что компании не информировали пользователей должным образом о рисках, что их чат-боты могут генерировать неточную, вводящую в заблуждение или полностью вымышленную информацию («галлюцинации»). Согласно итальянскому законодательству о защите прав потребителей, отсутствие таких предупреждений мешает потребителю принять взвешенное решение, что особенно критично в сферах медицины, права, финансов.

Главное из решений:
▪️ Теперь предупреждение о галлюцинациях должно быть на видном месте прямо в интерфейсе чата ( под окнами чата в пользовательских интерфейсах добавлены постоянные предупреждения на итальянском языке о риске галлюцинаций, в том числе посредством специальных гиперссылок). Больше нельзя прятать юридические оговорки в глубине Terms of Use, которые никто не читает.
▪️ Регулятор подчеркнул, что пользователь должен знать о рисках до начала взаимодействия, а не после того, как он получил ложный совет.
▪️В DeepSeek согласились инвестировать в технологии для снижения риска «галлюцинаций», признавая при этом, что существующие технологии не могут полностью их предотвратить. NOVA AI согласилась четко разъяснить потребителям, что ее сервис просто предоставляет единый интерфейс для доступа к ряду чат-ботов (каждый из которых описан более подробно), без агрегирования или обработки их ответов.
▪️ У компаний есть около 4 месяцев на внедрение изменений, иначе последуют внушительные штрафы.

❕Италия стала первой страной в ЕС, которая добилась официальных юридических обязательств от ИИ-компаний именно по вопросу галлюцинаций, используя защиту от недобросовестной коммерческой практики, а не просто GDPR, и задала планку стандарта по прозрачности (не просто наличие документа на сайте, а понятная коммуникация с пользователем здесь и сейчас).

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator