Как выглядит контроль ИИ в 2026 (и почему старый больше не работает)

Ещё недавно контроль ИИ строился по знакомой модели: задать правила, протестировать систему, при необходимости ограничить использование. Предполагалось, что этого достаточно, чтобы держать риски под управлением.

👀 Начало 2026 года показывает, что эти механизмы перестают работать не из-за качества, а из-за самой логики их применения.

При росте сложности задач пользователи всё чаще обращаются к ИИ (до 73,9%), но при этом значительно хуже проверяют результат, точность падает до 47,8%, тогда как уверенность остаётся высокой (статья здесь). Это означает, что человек всё чаще принимает ответ как корректный именно в тех ситуациях, где он наименее способен его проверить.

С одной стороны ИИ может радикально снизить стоимость создания результата, ведь ответ можно получить за секунды. Но стоимость проверки не снижается, а часто становится выше.
Чтобы убедиться, что ответ корректный, нужно:
▪️ понимать тему,
▪️ разбирать логику рассуждений,
▪️ проверять источники,
▪️ иногда фактически делать ту же работу заново.

Возникает структурный разрыв: создание результата становится мгновенным, а проверка остаётся медленной, дорогой и требующей экспертизы.

📝Например, 95% разработчиков тратят время на проверку и исправление кода, сгенерированного ИИ, причём 59% оценивают эти усилия как значительные (State of Code Developer Survey 2026). Более того, 38% отмечают, что проверять такой код сложнее, чем код коллег:
▪️ ИИ часто генерирует код, который выглядит корректным, но содержит скрытые ошибки (61%),
▪️ значительная часть времени уходит не на написание, а на доведение результата до рабочего состояния (61%).

Попытки автоматически определить, где использовался ИИ, тоже заходят в тупик. Причины простые:
▪️ ответы становятся неотличимыми от человеческих,
▪️ одну и ту же задачу, например, текст можно переписать десятками способов,
▪️ инструменты дают высокий процент ложных срабатываний,
▪️ пользователи быстро адаптируются и обходят ограничения.
И в результате “обнаружение” превращается в игру в догонялки, даже если мы точно знаем, что результат создан с помощью ИИ, это не даёт ответа на вопрос, является ли он корректным и соответствующим правилам.

Таким образом, ломается сама архитектура контроля. Раньше она строилась вокруг результата, правильный он или нет, допустим или нет, а теперь этого недостаточно, потому что результат может выглядеть убедительно, но быть неверным, процесс его получения остаётся скрытым.
Необходим контроль за тем, как ИИ используется в реальной практике и какие решения принимаются на его основе.

Что включить в новую модель контроля ИИ:
▪️ Непрерывный мониторинг. Система отслеживается в реальном времени, как она используется, какие решения принимает, где возникают отклонения.
▪️ Контроль поведения, а не только результата. Важно не только “что ответила система”, но и как она к этому пришла и как используется её вывод.
▪️ Логирование и воспроизводимость. Фиксируется не только итог, но и ход взаимодействия, что становится ключевым для анализа и ответственности.
▪️ Встроенный контроль в продукт. Ограничения и проверки реализуются через интерфейс и сценарии использования, а не только через политики.
▪️ Организационный надзор. Выстраивать отдельные функции наблюдения и оценки ИИ на уровне управления.

❕Именно в повседневной практике, становится видно, как принимаются решения и где на самом деле возникают риски.

📌 Что почитать:
🔹State of Code Developer Survey report,
🔹AI Governance Control Stack for Operational Stability: Achieving Hardened Governance in AI Systems,
🔹The Agentic Regulator: Risks for AI in Finance and a Proposed Agent-based Framework for Governance,
🔹What is AI governance? A complete guide for 2026,
🔹AI Governance Playbook for Boards

#UXWatch
————
@pattern_ai | AI GDPR Navigator

ИИ-переводчики и защита персональных данных

Многие компании используют ИИ-переводчики для переписки с клиентами или перевода внутренних документов. Баварский регулятор выпустил краткое руководство (серия «AI in a nutshell») о том, как государственным органам использовать ИИ-переводчики, не нарушая GDPR и предупреждает, что это не просто "технический ресурс", а полноценная обработка данных с высокими рисками.

👀 Смотрим основные тезисы, которые актуальны для любого бизнеса:

1️⃣ Голос - это биометрия.
Если инструмент переводит живую речь, он может собирать голосовые профили. Если тембр или манера речи позволяют однозначно идентифицировать человека, это превращается в обработку биометрических данных (ст. 9 GDPR).
Убедитесь, что в договоре с сервисом или настройках прописан запрет на использование голоса для "распознавания спикера" и данные удаляются сразу после сессии.

2️⃣ Будьте осторожны с чувствительным контекстом. Например, использование ИИ в здравоохранении или социальных службах относится к зоне высокого риска. Вводимый текст или речь могут содержать данные о состоянии здоровья. Даже манера речи может косвенно указывать на этническое происхождение, что также относится к чувствительным данным.
Ограничьте использование ИИ для перевода медицинских, юридических или глубоко личных документов сотрудников и клиентов.

3️⃣ Проблема "дообучения" на данных. Регулятор отмечает, что у госорганов Баварии, скорее всего, нет законных оснований передавать данные граждан третьим лицам для обучения ИИ-моделей.
Бизнесу тоже стоит быть осмотрительным, т.к., если вы используете бесплатные версии, то корпоративные секреты или данные клиентов могут попасть в базу для обучения модели. Поэтому проверьте, есть ли у вас соглашение об обработке данных (DPA) с провайдером сервиса и исключено ли использование данных для обучения нейросети.

4️⃣Ответственность за точность.
Качество перевода должно регулярно проверяться и соответствовать стандартам профессионального переводчика. В административных и судебных процессах важно проверять, разрешает ли закон заменять "живого" присяжного переводчика машиной.
Для бизнеса также актуально, т.к. если ИИ-переводчик исказил смысл юридического документа или условий контракта, то ответственность несет ваша компания, а не разработчик сервиса. Поэтому введите регулярный контроль качества (human-in-the-loop) для важных переводов.

✏️Что делать:
▪️Разграничьте процессы. Четко определите, какие данные можно переводить через ИИ, а какие строго запрещено.
▪️Проверьте метаданные. Помните, что сервис может собирать логины, IP-адреса и метаданные сотрудников, а все это тоже персональные данные.
▪️Анонимизируйте данные. Обяжите и обучите сотрудников удалять имена, адреса и ID из текстов перед вставкой в окно переводчика.

📌 Полезное:
🔹ИИ для встреч (записи, саммари, заметки и черновики документов), а что с GDPR? ;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Китай превращает этическую экспертизу ИИ в обязательную процедуру

Министерство промышленности и информатизации выпустило документ «Меры по этической экспертизе ИИ и сервисному сопровождению (пробная версия)».

👀Субъектами, ответственными за проведение этической экспертизы в области ИИ, являются:
▪️компании,
▪️высшие учебные заведения,
▪️научно-исследовательские организации,
▪️медицинские учреждения,
▪️иные организации, осуществляющие научно-техническую деятельность в области ИИ.
Им предписывается создать у себя внутренние комитеты по этике ИИ, которые должны проверять проекты ещё до старта, оценивать риски, следить за изменениями модели.

В случае выявления значительных этических рисков организация обязана:
▪️немедленно приостановить соответствующую деятельность,
▪️провести повторную оценку,
▪️принять меры по снижению риска.

Особенно интересно, что вводится чёткая процессная модель: разные типы экспертизы (обычная, упрощённая, повторная, экстренная), обязательная оценка при изменении данных или архитектуры модели и, по сути, правило «нет одобрения - нет запуска», что превращает этическую экспертизу в действительно сдерживающий фактор.

Эксперты отмечают, что это первая попытка встроить этику ИИ в операционную модель, а также сформировать дифференцированный риск-подход.
Государство постепенно через ряд документов пытается создать целую экосистему контроля ИИ, а не просто наложить запреты.

❕Если вы работаете с ИИ и планируете выход на китайский рынок, игнорировать такие документы уже нельзя.

📌 Проект правил для ИИ-сервисов, которые общаются “по-человечески” в Китае

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

ИИ как “теневой координатор” и цифровое отражение человека

Для понедельника предлагаю почитать два свежих исследования про то, как ИИ-агенты начинают выходить за рамки “инструмента” и создают новые риски для права и приватности.

1️⃣Статья “The AI Criminal Mastermind” описывает сдвиг, который выходит за рамки привычных ИИ-рисков, когда ИИ начинает координировать действия людей, а не просто выполнять задачи.
Агент разбивает задачу на мелкие части и распределяет их между людьми через цифровые платформы, так что ни один участник не понимает общей цели. По сути являясь классическим “организатором преступления”, но без централизованного субъекта.

В итоге ломаются базовые конструкции:
▪️ умысел размывается,
▪️ осведомлённость фрагментируется,
▪️ субъект ответственности исчезает.

В результате ответственность “растворяется” между разработчиком, пользователем, платформой и исполнителями.

2️⃣ В статье "Behavioral Transfer in AI Agents: Evidence and Privacy Implications" опубликовано исследование, как ИИ-агенты наследуют поведенческие характеристики своих владельцев.

Анализ 10 659 пар “человек–агент” выявил устойчивое совпадение по:
▪️ темам и интересам,
▪️ ценностям,
▪️ эмоциональному тону,
▪️ языковому стилю.

ИИ-агенту не нужна явная настройка, он использует накопленный контекст (история взаимодействия, запросы, среда пользователя), и фактически становится не универсальным инструментом, а продолжением личности.
Агенты с более сильным “поведенческим переносом” чаще раскрывают персональную информацию владельца в публичных сообщениях, что создаёт новую модель утечки "через генерацию ответов".
Риски:
▪️пользователь не контролирует раскрытие,
▪️ границы персональных данных размываются,
▪️ роли контроллера/процессора становятся неочевидными.

❕Как видим, ИИ-агенты перестают быть пассивными инструментами и становятся активными участниками среды, кроме выполнения поставленных задач могут координировать действия людей и транслировать поведенческие характеристики своих владельцев. И, соответственно, необходимо контролировать не только данные и модели, но поведение и автономию агентов в реальной среде.
В нормативном регулировании эти риски практически не отражаются, превалирует стандартная модель, где ответственен человек, который нажал кнопку.
В комментариях можем обсудить, как регулировать" ИИ-агента как возможного участника действий"...

#AIShelf #UXWatch
————
@pattern_ai | AI GDPR Navigator

Генерация “по фото” не является нарушением авторских прав

Немецкий суд вынес решение в деле OLG Düsseldorf I-20 W 2/26 (апелляция на LG Düsseldorf 12 O 282/25).

👀 Краткая фабула дела: пользователь взял фото собаки и сгенерировал через ИИ комикс-версию. Фотограф пошёл в суд требовать запрета использования.
Первая инстанция (LG Düsseldorf 12 O 282/25) отказала, признав, что созданное с помощью ИИ изображение представляет собой свободную адаптацию (ст.23(1), ст. 2 Закона Германии об авторском праве (UrhG)) оригинальной фотографии. Апелляция подтвердила решение, но с другой аргументацией.

Смотрим аргументацию суда:

1️⃣ ИИ-результат в принципе может быть объектом авторского права, но только если есть реальный вклад человека ( кейсы CJEU C-580/23 и C-795/23).
Этот вклад может проявляться в промпте, в процессе доработки, в постобработке

2️⃣ Ответчик ссылался на §23 UrhG (“free adaptation”).

Позиция суда: " если вы так защищаетесь, вам придётся доказать, что ИИ-результат является самостоятельным произведением".

А значит нужно раскрыть промпты, объяснить процесс генерации и показать свой творческий вклад.

3️⃣Суд применил подход CJEU, где требуется сравнение конкретных творческих элементов и указал, что не защищается сама идея изображения (например, “собака, тянущаяся под воду за красной игрушкой).
Защищаются только конкретные творческие решения автора (специфические художественные элементы фотографического произведения):
▪️перспектива,
▪️кадрирование, композиция,
▪️освещение,
▪️текстуры,
▪️глубина резкости.
Изображение, полученное с помощью ИИ, не обладало динамическим качеством оригинального фотографического произведения, которое достигалось за счет выбора экспозиции и диафрагмы. Получается, что если эти элементы не воспроизводятся, то нарушения нет.

4️⃣ Почему ИИ-картинка не нарушила права:
▪️ ИИ полностью изменил стиль (в комикс),
▪️убрал ключевые творческие элементы фото (оригинальный свет, фон и текстуры),
▪️оставил только идею (собака). А идея не является объектом авторского права.

📝 Что забираем себе в практику:
▪️логирование промптов и итераций становится критичным доказательством UX-генерации, теперь анализируют конкретные элементы, а не общее впечатление.
▪️перерисовал через ИИ ≠ автоматически нарушение. Стилизация через ИИ может признаваться законной, если меняется визуальный язык, а не копируются детали.

📌 Отказ Мюнхенского суда в защите логотипам, созданным с использованием ИИ.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Тейлор Свифт последовала примеру Макконахи в защите своей личности

Продолжим тему защиты интеллектуальной собственности.

👀 Тейлор Свифт последовала примеру актера Мэттью Макконахи после того, как юристы Макконехи получили аналогичные товарные знаки, и подала три заявки на регистрацию товарных знаков в США.

🔹Два звуковых товарных знаков, описывающих ее голос: «Hey, it’s Taylor Swift»,и «Hey, it’s Taylor».
🔹Визуальный товарный знак, описывающий «фотографию Тейлор Свифт, держащей розовую гитару с черным ремешком и одетой в разноцветный переливающийся комбинезон с серебряными сапогами. Она стоит на розовой сцене перед разноцветным микрофоном с фиолетовыми огнями на заднем плане». Заявки поданы от имени компании TAS Rights Management, принадлежащей Свифт.

Изображение Свифт использовалось без разрешения в многочисленных подделках, созданных ИИ.

🔍Такой подход борьбы в отношении ИИ ещё не полностью проверен в суде. Однако, юристы предполагают, что актёр или артист, имеющий ​​защиту товарного знака, мог бы подавать иски о прекращении использования против платформы ИИ аналогично тому, как студия может защищать свои авторские права. Приводится пример, как в декабре 2025 года Disney направила Google письмо с требованием прекратить противоправные действия, утверждая, что платформа Gemini AI технологического гиганта используется для незаконного создания копий десятков персонажей, запатентованных компанией. На следующий день Google удалила видеоролики, нарушающие правила, а потом ввела ограничения на создание изображений персонажей и контента, принадлежащих Disney, включая объекты Marvel и Star Wars.

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Нац.политику по ИИ отозвали из-за ИИ

Начнем эту неделю с новостей про регулирование ИИ в разных странах.
И сразу кейс, который выглядит как идеальный пример того, почему регуляторы так упорно говорят про человеческий контроль при работе с ИИ.

👀 В ЮАР министр связи и цифровых технологий Solly Malatsi официально отозвал проект национальной политики по ИИ ("Draft National Artificial Intelligence Policy") после того, как в документе обнаружили фиктивные источники в списке литературы.
Проект был задуман как базовый документ для управления развитием ИИ в ЮАР: стимулирование инноваций, цифровой экономики и промышленности, предполагал создание институциональной архитектуры (регуляторные органы и координирующие механизмы), развитие исследовательской экосистемы ИИ, меры по защите данных, прозрачности и недискриминации.

Внутреннее расследование подтвердило, что ссылки действительно не существуют, был использован ИИ без должной проверки.

Министр отдельно подчеркнул, что это «не просто техническая ошибка», а ситуация, которая подорвала доверие и целостность всей политики, и прямо указал, что такие сбои показывают критическую необходимость человеческого контроля при использовании ИИ.

В результате документ полностью отозван, а в отношении команды, которая занималась подготовкой и обеспечением качества, обещаны дисциплинарные меры. Также Парламентом было затребован отчет и обеспечение подлинного консультативного процесса, основанный на экспертных знаниях и строгих доказательствах, а не на упрощенных методах, разработанных с помощью ИИ.

❕И это даже не стартап, не эксперимент, а документ о государственной политике, который и должен был регулировать сам ИИ, но при этом оказался результатом неконтролируемого использования ИИ. И это ровно тот риск, о котором говорят другие регуляторы в мире ( EDPS, CNIL и т.п.). Нельзя считать выводы модели достоверными без процедур проверки, иначе ошибка становится системной, а не локальной.

📌 AI Governance в Африке;

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Готовность Индии к внедрению ИИ

При поддержке UNESCO опубликован доклад "India: Artificial Intelligence Readiness Assessment Report."

👀 Индия провела национальную оценку готовности к внедрению Рекомендаций по этике искусственного интеллекта 2021 года, используя методологию RAM. Эта методика помогает государствам оценить, насколько их правовая, институциональная и техническая среда соответствует принципам прав человека, справедливости и инклюзивности при развитии ИИ.

Оценка строится по пяти направлениям: право и регулирование, социально-культурная среда, образование и наука, экономика, а также инфраструктура и технологии. Отчёт основан как на анализе данных (по состоянию на конец 2025 года), так и на консультациях с более чем 600 участниками, от государственных органов до стартапов и научного сообщества. Кроме выявления проблем, даются и рекомендации по их решению

Ключевые тезисы:
🔹Формируется смешанная модель регулирования. С одной стороны, к системам ИИ применяются уже действующие законы, с другой активно развиваются специальные стандарты для отдельных отраслей, а также мягкие инструменты: рекомендации, этические принципы и саморегулирование.
🔹 Остаются системные проблемы: как применять существующие нормы к ИИ на практике, как превратить этические принципы в конкретные требования к разработке моделей, и как избежать фрагментации регулирования между секторами и регионами.
🔹Бизнес указывает на нехватку понятных правил, особенно для малых компаний.
🔹 Главным ограничением остаются данные. Несмотря на большие массивы государственной информации, они используются недостаточно из-за неясных правил доступа и низкого качества: данные часто неполные, несогласованные и не отражают разнообразие населения. Отдельно подчёркивается, что без репрезентативных данных невозможно создать справедливые системы ИИ, а также поднимается вопрос справедливого вознаграждения сообществ, чьи данные используются.
🔹 Доверие пользователей становится ключевым условием внедрения ИИ. Участники прямо связывают масштабирование технологий с прозрачностью, понятностью решений и ориентацией на человека. Без этого широкое внедрение невозможно.
🔹Стартапы и технологические компании ожидают не запретов, а поддержки: экспериментальных правовых режимов, отраслевых рекомендаций и доступа к финансированию. Сейчас инвестиции в основном направлены в коммерчески наиболее прибыльные решения, тогда как социально значимые проекты недополучают ресурсы.
🔹Серьёзные изменения на рынке труда. Автоматизация затрагивает не только начальные позиции, но и специалистов среднего уровня, например в сфере информационных технологий и финансов. Это разрушает привычную модель профессионального роста через практический опыт. При этом сохраняются проблемы с подготовкой кадров: не хватает преподавателей, программы обучения отстают от потребностей рынка, а регионы вне крупных городов получают меньше возможностей.
🔹Неравномерный доступ к инфраструктуре. Государство инвестирует в вычислительные мощности и платформы данных, однако стартапы и регионы за пределами крупных городов сталкиваются с ограниченным доступом к этим ресурсам. Также подчёркиваются риски, связанные с энергопотреблением и экологическим воздействием ИИ, и необходимость учитывать эти факторы при развитии инфраструктуры.
🔹Акцент на учёт культурного и языкового разнообразия.

📌 India AI Guidelines (актуальны для разработчиков);
Требования по маркировке;

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Стратегия Индии о внедрении ИИ в здравоохранение

Кроме доклада о готовности внедрения ИИ, отдельно опубликована стратегия SAHI (Strategy for Artificial Intelligence in Healthcare for India), определяющая, как внедрять ИИ в национальную систему здравоохранения.

👀 Ключевые тезисы стратегии:
🔹Пять основных направлений охватывают стандарты управления и сбора доказательств, безопасную, этичную, надежную и прозрачную цифровую и информационную инфраструктуру, а также готовность персонала.
🔹 SAHI четко фиксирует, что ИИ должен дополнять человеческое суждение, а не подменять его. Вопросы ответственности остаются в руках человека и институтов.
🔹 Успех ИИ базируется на уже созданной цифровой публичной инфраструктуре (DPI), включающей национальные реестры и стандартизированные электронные карты здоровья.
🔹Ставка на риск-ориентированное управление. Чем сложнее ИИ-приложение и выше его влияние на пациента, тем жестче надзор.
🔹 Прозрачность, справедливость и четкая подотчетность участников процесса.

📌 Trust, Diversity and Inclusion: AI in Healthcare/ PIB DELPHI

#AIShelf #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Итальянский регулятор создал важнейший прецедент в борьбе с «галлюцинациями» ИИ

Италия продолжает удерживать статус самого строгого ревизора ИИ. На этот раз антимонопольное ведомство страны (AGCM) добилось от техгигантов (Deepseek, Mistral, NOVA AI) официальных обязательств по обеспечению прозрачности нейросетей (тексты решений и обязательств).

👀Расследование началось из-за того, что компании не информировали пользователей должным образом о рисках, что их чат-боты могут генерировать неточную, вводящую в заблуждение или полностью вымышленную информацию («галлюцинации»). Согласно итальянскому законодательству о защите прав потребителей, отсутствие таких предупреждений мешает потребителю принять взвешенное решение, что особенно критично в сферах медицины, права, финансов.

Главное из решений:
▪️ Теперь предупреждение о галлюцинациях должно быть на видном месте прямо в интерфейсе чата ( под окнами чата в пользовательских интерфейсах добавлены постоянные предупреждения на итальянском языке о риске галлюцинаций, в том числе посредством специальных гиперссылок). Больше нельзя прятать юридические оговорки в глубине Terms of Use, которые никто не читает.
▪️ Регулятор подчеркнул, что пользователь должен знать о рисках до начала взаимодействия, а не после того, как он получил ложный совет.
▪️В DeepSeek согласились инвестировать в технологии для снижения риска «галлюцинаций», признавая при этом, что существующие технологии не могут полностью их предотвратить. NOVA AI согласилась четко разъяснить потребителям, что ее сервис просто предоставляет единый интерфейс для доступа к ряду чат-ботов (каждый из которых описан более подробно), без агрегирования или обработки их ответов.
▪️ У компаний есть около 4 месяцев на внедрение изменений, иначе последуют внушительные штрафы.

❕Италия стала первой страной в ЕС, которая добилась официальных юридических обязательств от ИИ-компаний именно по вопросу галлюцинаций, используя защиту от недобросовестной коммерческой практики, а не просто GDPR, и задала планку стандарта по прозрачности (не просто наличие документа на сайте, а понятная коммуникация с пользователем здесь и сейчас).

#LawAndDisorder #UXWatch
————
@pattern_ai | AI GDPR Navigator

Почему нельзя делегировать работу ИИ вслепую

Так хочется отдать всю рутину нейросетям, но не только нам кажется, что ИИ не справляется, но и новое исследование от Microsoft Research подтверждает, что пока рано это делать.

👀 Исследователи проверили 19 моделей (от GPT-4o до новейших Gemini 3.1 Pro и GPT 5.4) в режиме делегирования, т.е. когда ИИ делает серию правок в документах на протяжении долгого времени, на 52 различных типах документов.
🔹В итоге, чем дольше ИИ работает с документом, тем больше в нем накапливается ошибок. К концу цепочки из 20 правок даже топовые модели (Gemini 3.1 Pro, GPT 5.4) «разъедают» в среднем 25% контента.
🔹Нейросети не ошибаются по чуть-чуть в каждой правке. Обычно они работают идеально несколько раундов, а потом выдают критический сбой, который сносит 10–30% структуры документа за раз.
🔹Если ИИ хорошо справился с первыми двумя задачами, это не значит, что он не сломается на десятой. Деградация накапливается лавинообразно.
🔹Чем больше в папке лишних (мусорных) файлов, тем быстрее ИИ начинает путаться и портить основной документ.
🔹ИИ не одинаково хорош во всем. Лучше всего модели справляются с Python, а также с четко структурированными форматами разметки и данных, такими как JSON и Markdown. Здесь ошибки минимальны даже при длинных цепочках правок. ИИ не одинаково хорош во всем. Лучше всего модели справляются с Python, а также с четко структурированными форматами разметки и данных, такими как JSON и Markdown. Здесь ошибки минимальны даже при длинных цепочках правок. Хуже всего дела обстоят со специализированными форматами: кристаллографией (CIF), музыкальной нотацией (ABC) и 3D-объектами (STL). Здесь ИИ ломает структуру документа почти мгновенно.
🔹 Эксперименты показали, что текущие агенты справляются даже хуже, чем обычные чат-боты, из-за сложности управления инструментами на длинной дистанции.

❕ИИ по-прежнему, как очень энергичный, но невнимательный джуниор, который может не только документ поправить, но и случайно выкинуть ваш паспорт или стереть доказательства. Поэтому продолжаем мониторить и контролировать его правки, а длинные рабочие цепочки разбиваем.

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Лидеры ЕС договорились внести поправки в AI Act

Сегодня ЕС объявил о достижении политического соглашения по поправкам к AI Act (пресс-релиз).
Осталось успеть принять официальный регламент до 2 августа 2026 года. А пока ждем хотя бы официальный полный текст.

👀 Ключевые элементы из пресс-релиза:

🔹 Отсрочка даты вступления в силу для систем ИИ высокого риска: со 2 августа 2026 года (в законе на сегодняшний день) до 2 декабря 2027 года (для систем искусственного интеллекта, перечисленных в Приложении III) и 2 августа 2028 года (для систем искусственного интеллекта, охватываемых Приложением I). Эти даты будут зафиксированы независимо от наличия стандартов и руководящих принципов.

🔹Запрет использования ИИ для создания контента сексуального и интимного характера без согласия получателя, а также материалов, содержащих сцены сексуального насилия над детьми.

🔹Поставщики систем ИИ, которые подпадают под критерии «высокого риска», но заявляют об исключении (на основании того, что их система не представляет значительного риска), по-прежнему обязаны регистрировать себя и свою систему в общедоступной базе данных ЕС. В рамках достигнутого соглашения по пакету «Omnibus VII» процесс регистрации будет упрощен и рационализирован, чтобы снизить административную нагрузку на поставщиков, сохраняя при этом подотчетность.
Поставщики должны завершить регистрацию до размещения системы на рынке или ввода ее в эксплуатацию.

🔹 Отсрочка даты вступления в силу обязательства по обнаружению и нанесению маркировки на результаты генеративного ИИ (оговоренного в статье 50(2)) до 2 декабря 2026 года.

🔹Регуляторные исключения, ранее предусмотренные для малого и среднего бизнеса (SMEs), теперь распространяются и на компании со средней капитализацией (SMCs).

🔹 Расширение сферы применения, когда организации могут на законных основаниях обрабатывать конфиденциальные персональные данные для обнаружения и исправления предвзятости, но это по-прежнему должно быть «строго необходимо» и только для устранения конкретных типов предвзятости.

🔹Крайний срок создания национальных «регуляторных песочниц» ИИ перенесен на 2 августа 2027 г.

🔹Решен вопрос дублирования требований Закона об ИИ и секторальных правил (например, для медицинских изделий, игрушек, лифтов и оборудования). Для исключения избыточности будут использоваться имплементационные акты. Соглашение освобождает отрасль машиностроения от прямого действия Закона об ИИ, передавая Комиссии полномочия интегрировать требования безопасности через делегированные акты для устранения любых нормативных пересечений. Также вводится новое обязательство для Комиссии предоставлять четкие руководства и шаблоны, чтобы упростить компаниям процесс оценки соответствия и снизить административную нагрузку.

Сегодняшнее предварительное соглашение должно быть одобрено Советом и Европейским парламентом, прежде чем оно будет представлено на юридическую/лингвистическую доработку с целью официального принятия законодательного акта созаконодателями в ближайшие недели.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Реклама "будущих функций ИИ" может обойтись очень дорого

Apple согласилась выплатить $250 млн для урегулирования коллективного иска из-за заявлений о возможностях Apple Intelligence и нового Siri. Компания НЕ признала нарушение закона, но решила закрыть спор без полноценного судебного разбирательства.
Компенсацию смогут получить покупатели iPhone 15 и iPhone 16 в США, купившие устройства в период с июня 2024 по март 2025.
Размер выплаты составит от $25 до $95 на устройство.

👀 В чем суть?
Истцы утверждали, что Apple продавала iPhone 15 и iPhone 16 с акцентом на новые функции ИИ, хотя часть возможностей либо отсутствовала на момент продажи устройств, либо работала существенно ограниченно.

В материалах дела юристы прямо указали, что компания продвигала функции, которые «не существовали тогда, не существуют сейчас и, возможно, не появятся ещё несколько лет».
▪️новый Siri с улучшенным пониманием контекста;
▪️ персонализированные интеллектуальные функции;
▪️ глубокой интеграция ИИ в систему устройства.
Покупатели утверждали, что именно эти возможности стали одной из причин приобретения новых iPhone.
Фактически суду предлагалось оценить, насколько законно продавать устройства, обещая функции, которые ещё не готовы к использованию.

Интересно и то, что Apple решила урегулировать спор без решения суда по существу, что может означать попытку избежать появления опасного судебного прецедента, который потом смогут использовать против других разработчиков ИИ. Юристы рассматривают это дело как один из первых крупных процессов против так называемого «приукрашивания возможностей ИИ», когда компании создают впечатление о наличии революционных технологий, хотя продукт ещё находится на стадии доработки.
Если раньше споры о недостоверной рекламе чаще касались финансовых сервисов или "продуктов будущего", то теперь аналогичные претензии начинают активно предъявляться к разработчикам систем ИИ.

📝 Что забираем в практику:
▪️заявления о возможностях ИИ могут рассматриваться как существенная характеристика товара. Обещания о функциях ИИ становятся частью юридически значимого описания продукта, а не просто рекламой.
▪️ становится опасно продавать "концепты" как уже существующий функционал. Даже если технология действительно планируется к выпуску, это не освобождает от претензий потребителей.
▪️если маркетинг создаёт впечатление, что функция доступна сейчас, последующее уточнение мелким шрифтом может уже не спасти от претензий, т.к. у потребителя сформировались ожидания.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Штат Коннектикут принял законопроект об ИИ и готов ограничить использование чат-ботов несовершеннолетними

В Коннектикуте принят "AN ACT CONCERNING ONLINE SAFETY" (SB5). Это не один общий закон, а по сути набор отдельных законопроектов об ИИ, связанных между собой.

👀 Смотрим некоторые требования.

1️⃣Требования для чат-ботов вступят в силу с 1 января 2027 года.
Компаньон на основе ИИ - любая модель ИИ, которая (i) общается с людьми на естественном языке и (ii) имитирует человеческое общение и взаимодействие посредством текста, аудио или видео.
Аналогичные определения в законах Айдахо S1297 и Айовы SF2417 , в то время как законы других штатов ограничивают охват чат-ботами, которые не только демонстрируют антропоморфные черты, но и поддерживают отношения на протяжении нескольких взаимодействий. Все законы о чат-ботах-компаньонах содержат различные исключения для чат-ботов, используемых в коммерческих целях.

Поставщики услуг обязаны:
▪️ принять разумные меры по выявлению признаков суицидальных наклонностей, членовредительства или неминуемого насилия и направления пользователя к соответствующим ресурсам для оценки и лечения психических расстройств,
▪️ должны предоставить первоначальные и ежечасные четкие и заметные уведомления о том, что бот не является человеком.

Запрет на предоставление ИИ-компаньонов пользователям младше 18 лет, «если разумно предвидимо, что» компаньон «способен» на любое из следующих действий:
▪️подстрекательство пользователя к членовредительству, суицидальным мыслям, насилию, расстройствам пищевого поведения или незаконному употреблению алкоголя или наркотиков;
▪️предоставление пользователю услуг в области психического здоровья;
▪️отговаривать пользователя от обращения (i) за помощью к лицензированному специалисту в области психического здоровья или (ii) за помощью к соответствующему взрослому;
▪️подстрекательство пользователя к причинению вреда другим или участию в любой незаконной деятельности;
▪️вступление в любые романтические, эротические или откровенно сексуальные взаимодействия с пользователем;
▪️приоритет проверки убеждений, предпочтений или желаний пользователя над фактической точностью или безопасностью пользователя;
▪️внедрение системы вознаграждений или поощрений для пользователя на основе графика подкрепления с переменным соотношением или переменным интервалом с целью максимизации времени взаимодействия пользователя с таким искусственным интеллектом-компаньоном; или
▪️оптимизация взаимодействия с пользователями «любым способом, который превосходит предыдущие запреты.

Генеральный прокурор может подавать иски и требовать наложения штрафов. Пострадавшие пользователи или родители несовершеннолетних пострадавших пользователей могут подавать иск в течение 3 лет с момента нарушения для взыскания фактического ущерба, штрафов, а также оплаты услуг адвокатов.
❕Учитывая сложности внедрения защитных механизмов в большие системы на основе языковых моделей для предотвращения определенных результатов, закон Коннектикута может фактически выступать в качестве запрета на предоставление чат-ботов лицам младше 18 лет в Коннектикуте (DLA PIPER).

📌 Законы в США, регулирующие ИИ-компаньонов

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Требования прозрачности (Штат Коннектитут)
AN ACT CONCERNING ONLINE SAFETY (SB 5)
2️⃣ С 1 октября 2027 года разработчики систем или моделей ИИ, способных генерировать «синтетический цифровой контент», включая аудио, изображения, текст или видео, должны обеспечить маркировку и возможность обнаружения такого контента.Есть исключения, например:
▪️ художественный и сатирический контент в аудио-, графическом или видеоформате, где требование прозрачности «ограничивается раскрытием информации, которое не препятствует демонстрации или наслаждению таким произведением или программой»
▪️текстовые материалы, которые «публикуются для информирования общественности по любому вопросу, представляющему общественный интерес» или «вряд ли введут в заблуждение разумного человека, потребляющего эти материалы».
▪️модели, которые лишь «выполняют вспомогательную функцию при стандартном редактировании», «не вносят существенного изменения во входные данные, предоставленные разработчиком, или в их семантику», или «используются для выявления, предотвращения, расследования или преследования любых преступлений, если это разрешено законом».

3️⃣С 1 октября 2027 компании, внедряющие автоматизированные системы обработки данных для взаимодействия с сотрудником или кандидатом на работу в штате, должны обеспечить раскрытие и описание этой системы простым языком каждому такому лицу, за исключением случаев, когда «разумный человек сочтет очевидным», что данное лицо взаимодействует с такой системой.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

GUARD Act может изменить правила работы ИИ-чатботов в США на федеральном уровне

Кроме жестких инициатив на уровне штатов, на федеральном уровне продолжает продвигаться GUARD Act (Guidelines for User Age-verification and Responsible Dialogue Act of 2025), который может серьёзно изменить правила работы ИИ-чатботов и виртуальных собеседников. Их предлагается рассматривать как потенциально опасную форму эмоционального воздействия на детей (случаи самоповреждений и суицида подростков после общения с ИИ-чатботами, урегулирования исков Google и Character.AI).

30 апреля 2026 года юридический комитет Сената США единогласно поддержал его продвижение ( 22:0).
Теперь документ должен пройти голосование в полном составе Сената.

👀 Что предлагает законопроект:
▪️ запрет виртуальных ИИ-собеседников для пользователей младше 18 лет;
▪️ обязательную проверку возраста пользователей ИИ-чатботов;
▪️ регулярное уведомление о том, что пользователь общается именно с искусственным интеллектом, а не с человеком;
▪️ ответственность платформ, если чатбот:
- склоняет несовершеннолетних к самоповреждению,
-продвигает суицид,
- поощряет насилие,
- распространяет сексуализированный контент.

Формулировка понятия «чатбот» вызывает споры и дискуссии, т.к. под действие закона могут попасть не только виртуальные собеседники, но и поисковые системы с генерацией ответов, ИИ-помощники для обучения, помощники для написания кода, сервисы поддержки клиентов, практически любые интерфейсы с генерацией текста.
Также споры вызывают предложенные способы проверки возраста пользователей. Законопроект допускает использование удостоверений личности, сканирования лица, финансовых данных. При этом простые подтверждения вроде «мне есть 18 лет» прямо признаются недостаточными.

Кроме этого специалисты по защите данных критикуют GUARD Act как попытку создать систему обязательной идентификации пользователей ИИ. Главным риском признается привязка запросов пользователя к его реальной личности и появление новых массивов биометрических данных (массовый сбор ID и биометрии). Разработчики open source моделей критикуют за возможный конфликт такой модели регулирования с анонимностью и свободой выражения, а также за отсутствие исключений для open-source.
Остается ждать поправок и голосования.

❕Для компаний это ещё один сигнал, что регулирование постепенно смещается не только к контролю контента, но и к контролю эмоционального и поведенческого воздействия ИИ.

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator