AI Literacy становится требованием рынка труда не только в ЕС

Департамент труда США выпустило руководство Training and Employment Notice (TEN 07-25) AI Literacy Framework, посвящённое повышению грамотности в области ИИ, эффективной интеграции образовательных программ по ИИ в системы образования и трудоустройства, чтобы помочь ускорить развитие навыков работы с ИИ среди молодежи, студентов, преподавателей, соискателей, работников по всей стране.
Главный посыл, что важно не просто уметь пользоваться ИИ, а понимать его ограничения и риски.

👀 Грамотность в области ИИ (AI literacy) - базовый набор компетенций, позволяющих людям ответственно использовать и оценивать технологии ИИ, уделяя основное внимание генеративному ИИ, который становится все более важным для современного рабочего места.
Программы обучения должны объяснять:
▪️ как принимаются автоматизированные решения;
▪️ почему ИИ может ошибаться;
▪️ как возникают предвзятость и дискриминационные эффекты;
▪️ как ИИ влияет на найм и оценку работников.

Фреймворк является "отправной точкой" и будет обновляться, чтобы обеспечивать постоянную актуальность.
Также Министерство труда подчеркнуло, что большое количество компаний уже подписало обязательство Белого дома предоставлять бесплатные образовательные ресурсы по ИИ, и планируется развивать дальнейшее сотрудничество, что обеспечить максимальный охват обучения работников.

#LawAndDisorder
————
@pattern_ai

Шаблоны FRIA (оценка рисков, связанных с ИИ)

FRIA в ЕС по AI Act необходима, когда компания планирует развернуть систему ИИ с высоким уровнем риска.

👀 FRIA требует:
▪️ оценки рисков дискриминации и предвзятости,
▪️ оценки соразмерности и необходимости,
▪️анализа влияния на доступ к основным услугам,
▪️ гарантий соблюдения надлежащей процедуры и прозрачности,
▪️четких мер по смягчению последствий и обеспечению подотчетности.

➡️Инструменты оценки воздействия AIIA, FRIA и DPIA чем отличаются,
➡️Fundamental Rights Impact Assessment (FRIA) для чего необходима,

🔹Шаблон оценки воздействия на основные права человека (FRIA) от Каталонского управление по защите данных,
🔹Шаблон FRIA от ALIGNER,
🔹 Шаблон FRIA от ICT Institute,
🔹Шаблон FRIA от CEDPO, и разьяснения "Fundamental Rights Impact Assessments: What are they? How do they work?",
🔹Гайд и шаблон по FRIA от Датского института прав человека

#AIShelf
————
@pattern_ai

Опубликован Due Diligence Guidance for Responsible AI

OECD опубликовали "Due Diligence Guidance for Responsible AI".

👀Структура проверки включает следующие меры:

1️⃣Внедрение RBC в политики и системы управления;

2️⃣ Выявление и оценка фактических и потенциальных негативных последствий;

3️⃣Прекращение, предотвращение и смягчение негативных последствий;

4️⃣ Отслеживание выполнения и результатов мероприятий по комплексной проверке;

5️⃣ Сообщение о действиях по устранению последствий;

6️⃣ Обеспечение или содействие в устранении последствий, когда это необходимо.

Даны структура и дорожная карта проверки ответственного ведения бизнеса ( RBC) и практические примеры ее внедрения для компаний, занимающихся разработкой и использованием систем ИИ.

#AIShelf
————
@pattern_ai

ИИ и адвокатская тайна, или как не лишиться своих материалов

Судебной практики еще не так много, но кейс из США отметили во всех юрисдикциях. В деле United States v. Heppner судья указал, что материалы, созданные с помощью ИИ-ассистента Claude, не подпадают под адвокатскую тайну и защиту материалов подготовки к процессу, если они созданы самостоятельно, без поручения юриста.

👀 Почему актуально для всех?
Суд применил классические критерии:
▪️ есть ли общение именно с адвокатом;
▪️общение с сервисом само по себе не конфиденциально учитывая еще и условия самих сервисов;
▪️ было ли разумное ожидание конфиденциальности данных;
▪️действовал ли пользователь по поручению защитника;
▪️ создавались ли материалы в рамках подготовки к делу.

Как убеждаемся на последних примерах (OpеnAI передавал диалоги и данные суду), что если вы самостоятельно анализируете ситуацию через публичный ИИ, такие тексты могут быть истребованы в рамках расследования или судебного разбирательства.

Даже корпоративная версия сервиса и договор о конфиденциальности сами по себе не создают адвокатскую тайну. Они снижают риск утечки, но не заменяют юридические критерии признания наличия "адвокатской тайны".

✏️ Что делать:
▪️ привлекайте юриста до использования ИИ;
▪️ фиксируйте, что ИИ используется по поручению адвоката;
▪️ проверяйте, как сервис хранит и использует данные;
▪️ минимизируйте ввод фактических данных до выработки правовой стратегии, не вводите чувствительные данные в открытые ИИ-сервисы;
▪️учитывайте риск раскрытия в процедуре судебного истребования доказательств.

#LawAndDisorder #UXWatch
————
@pattern_ai

А не подарить ли Ray-Ban Smart Glasses на 8 марта? В чем риски?

По данным отчётов уже продано умных очков Ray-Ban Meta Smart Glasses (Meta Platforms признана экстремистской, её деятельность на территории России запрещена):
- в 2024 более 1 млн устройств;
- в 2025 свыше 7 млн, а всего в обращении уже около 9 млн пар и планируется выпуск по 10 млн пар в год.
Камеры с облачной ИИ-обработкой становятся массовым продуктом.

👀 Если кратко о том, как работает система: очки снимают фото/видео, по команде “Hey Meta” отправляют данные на серверы для анализа сцены, перевода, распознавания объектов и могут быть использованы для обучения ИИ-моделей. Meta объясняет это в условиях использования, но многие пользователи не понимают, что именно означает согласие и с чем оно связано.
Т.е. данные с очков, в том числе содержащие детали интерьеров, людей, предметов и даже конфиденциальную информацию, становятся доступны LLM.

Это подтвердили шведские медиа, после статьи которых разгорается скандал. Выяснилось, что подрядчики (например, в Кении) вручную просматривают и аннотируют видеоматериалы, включая очень личные сцены ( раздевание, интимные моменты, финансовые документы и т.п).
Британский надзорный орган уже направил письмо для получения разъяснений.

Также появились и официальные жалобы от правозащитников ( US Electronic Privacy Information Center (EPIC)) в Федеральную торговую комиссию США (FTC) и властям нескольких штатов с просьбой запретить Meta внедрять технологию распознавания лиц в очках. Очевидны растущие риски преследования, домогательств, раскрытия личных данных, идентификация людей без их согласия и т.д.
Кроме этого уже были случаи жалоб, когда люди использовали Ray-Ban Meta для записи других без согласия, а исследователи демонстрировали, что, сочетая умные очки с внешними ИИ-сервисами, можно идентифицировать случайных людей и извлечь личные данные вплоть до адресов и родственников.

В итоге мы получаем асимметрию осведомлённости, т.е. носитель знает о записи, а окружающие нет, плюс непонятно кто еще получает доступ к этим данным, проверить также технически невозможно. Реальный механизм согласия фактически отсутствует для посторонних, а не только для владельца гаджета.

Распознать гаджет сложно, при встрече LED-индикатор малозаметен, (солнечный свет, угол обзора), но можно догадаться по более толстым дужкам, камере в углу, либо владелец с ними "общается", активируя функции.
😳 Можно ли попросить снять и не использовать?
Как обычно, зависит от контекста.
Например, в частном пространстве (офис, дом, переговорная) владелец помещения вправе установить запрет на запись и потребовать снять их. Если у вас рабочая встреча, то лучше зафиксировать все письменно, в том числе отказ снять.

В США запрещают использование таких очков в судах. Судьи прямо предупреждают, что любые записи нужно удалить, иначе это будет неуважением к суду, людей просят снять очки перед началом слушаний

В публичном месте (улица, торговый центр) в большинстве стран сама по себе видеосъёмка не запрещена. НО запись интимных частей тела, скрытая съёмка, использование данных во вред могут образовывать состав правонарушения.

📝 Что делать?

🔹В компании вводите правила “no recording devices”.
🔹Если вы обладатель таких очков, то лучше отключать ИИ-функции при отсутствии необходимости, не снимать видео в частных пространствах без согласия и внимательно читать условия передачи данных, если не хотите, чтобы вашу информацию читали подрядчики такого сервиса.
🔹Окружающим придется быть внимательными, как вариант, скачивать приложения по определению таких устройств рядом (Nearby Glasses) и всякий раз уточнять не ведётся ли запись, и обозначать своё несогласие,

❕Технология масштабируется быстрее, чем нормы поведения вокруг неё.

#UXWatch
————
@pattern_ai

😵‍💫 Pattern_AI Recap: обзор постов за декабрь-февраль 2025-2026

Подборка по ключевым рубрикам:

⚖️ #LawAndDisorder
🔹Тайвань принял базовый закон об ИИ;
🔹Индия вводит обязательную маркировку AI-контента с 20 февраля;
🔹Регулирование ИИ уже в Узбекистане;
🔹Гид по новому корейскому закону об ИИ;
🔹Проект правил о запуске AI-песочниц от Еврокомиссии;
🔹ЕС зафиксировал требования к безопасности ИИ;
🔹Инструменты оценки воздействия AIIA, FRIA и DPIA чем отличаютс;
🔹AI Impact Assessment для чего необходима;
🔹FRIA для чего необходима;
🔹DPIA для чего необходима;
🔹Онлайн-покупки без лишних данных или как EDPB хочет сломать привычную модель сбора данных для ИИ;
🔹Маркировка AI-контента или что предлагает ЕС;
🔹ЕС даёт шанс «сигналить» о проблемах AI до выхода на рынок;
🔹61 регулятор высказался о дипфейках;
🔹Контролер vs процессор в AI-проектах: позиция ICO UK;
🔹ИИ-платформа "внезапно" детский сервис?;
🔹Можно ли обучать ИИ на чужих работах? Ответ немецкого суда;
🔹ИИ для встреч (записи, саммари, заметки и черновики документов), а что с GDPR? ;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;
🔹ИИ и биометрия в ЕС: что запрещено, что относится к высокому риску и что требует только уведомления;
🔹Синтетические данные сотрудников: для чего нужны и какие риски использования;
🔹AI и патенты: кейс Emotional Perception может изменить подход к софту в Великобритании;
🔹AI-логотипы и авторское право;
🔹AI Literacy становится требованием рынка труда не только в ЕС;
🔹Нью‑Йорк заставляет раскрывать персонализированные цены, установленные алгоритмами;
🔹ИИ, реклама и конфликт уровней власти в США: что происходит на самом деле?;
🔹Суд обязал OpenAI передать 20 миллионов диалогов ChatGPT;
🔹Кейс Kentucky vs Character. AI: дизайн AI чат -бота как предмет правовой оценки

🔍 #UXWatch

🔹Наши данные после смерти или "воскреснуть" с помощью ИИ;
🔹Как “агентные” ИИ-аккаунты переполняют TikTok и обходят модерацию;
🔹Как понять, что изображение создано с помощью AI;
🔹UX-тренды 2026: от экранов к интеллектуальным экосистемам;
🔹ChatGPT Health: новый уровень персонализации и новые красные линии ответственности;
🔹Еврокомиссия обязала X сохранить данные Grok: что происходит на самом деле;
🔹Grok под микроскопом: фактическая картина злоупотреблений;
🔹Реакция государств на нарушения Grok;
🔹Grok под глобальным давлением: к расследованиям подключилась Бразилия;
🔹Grok: Еврокомиссия переходит к расследованию;
🔹Проблема не только в Grok: десятки «nudify»-AI-приложений в Apple и Google App Stores;
🔹Новые AI‑фичи Gmail и приватность;
🔹Расследование в отношении X от Ofcom (UK);
🔹Google AI Overviews: «умные сводки» продолжают ошибаться;
🔹Project Genie от Google создает интерактивные миры, а готов ли GameDev?;
🔹Ошибки Eurostar AI: когда чат-бот «сошел с рельсов» ;
🔹Чему AI-креаторам стоит научиться из сделки Khaby Lame на $900+ млн;
🔹Когда ИИ увеличивает охваты, а права на результаты творчества превращают в бизнес;
🔹Зачем МакКонахи регистрирует товарные знаки;
🔹Как ИИ разрушает институты гражданского общества;
🔹Как регуляторы пытаются успеть за ИИ в финансовом секторе;
🔹Реклама в AI-чатах новый риск, а не новый формат ;
🔹Лайки от вашего имени после смерти?;
🔹Риски безопасности при использовании OpenClaw;

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai

😵‍💫 Pattern_AI Recap: обзор постов за декабрь-февраль 2025-2026

Подборка по ключевым рубрикам:

🎙#AIShelf

🔹Международный доклад по безопасности ИИ;
🔹Отчет про ИИ в образовании от OECD;
🔹Новый отчёт OECD об интеграции ИИ в Европе;
🔹Гайды по применению AI Act от испанского регулятора;
🔹Как персональные данные «путешествуют» через open-source AI: инструмент от CNIL ;
🔹Гайд по FRIA от Датского института прав человека;
🔹Шаблоны FRIA (оценка рисков, связанных с ИИ);
🔹AI Impact Assessment Tool от Австралии;
🔹Как определить, подпадает ли модель ИИ под действие GDPR от CNIL;
🔹Чек-лист по разработке ИИ-систем согласно GDPR: что проверить на старте (от CNIL);
🔹Гайд по информированию субъектов данных в контексте ИИ и GDPR от CNIL;
🔹ИИ-контракты: вопросы, которые лучше задать до закрытия сделок в конце года;
🔹Как обеспечить безопасность при разработке ИИ-систем;
🔹Разрабатываете agentic AI или только думаете о внедрении?;
🔹Руководство по Agentic AI от испанского регулятора;
🔹Red Teaming AI: безопасный и этичный ИИ по методике UNESCO;
🔹ИИ в судах: глобальные этические принципы от Юнеско;
🔹Первый в Китае AI-суд по трудовым спорам;
🔹Практическое руководство по регулированию ИИ от Института Алана Тьюринга (UK);
🔹AI Incident Tracker от FireTail;
🔹Due Diligence Guidance for Responsible AI;
🔹Бета‑версия реестра ИИ в Канаде;
🔹Создание интерактивных политик с помощью Termboard;
🔹ИИ-инструменты в патентных ведомствах (UKIPO, EPO, USPTO);
🔹PaperBanana или диаграммы для научных работ;

📚#TalkPrompty
🔹Как учиться с ИИ;
🔹Курсы от Google по AI;
🔹Курсы от Hugging Face;

Читайте, пересылайте, возвращайтесь к важному.
————
@pattern_ai

Какие AI-продукты действительно используют люди

Фонд Andreessen Horowitz (a16z) выпустил новый рейтинг Top-100 Gen AI Apps (2026) (на 50 самых используемых ИИ-приложений в отчете даны ссылки).

Главные тренды:

1️⃣ ChatGPT остаётся крупнейшим ИИ-продуктом (около 900 млн еженедельных пользователей). В веб-версии он в 2,7 раза превосходит по объему трафика Gemini, на мобильных устройствах в 2,5 раза, но Gemini (+258%) и Claude (+200% подписчиков) становятся сильными конкурентами. Nano Banana сгенерировал 200 миллионов изображений и привлек 10 млн. новых пользователей в Gemini за первую неделю.

2️⃣ ChatGPT, Claude, Gemini и Perplexity ориентируются на одни и те же рынки: США, Индию, Бразилию, Великобританию и Индонезию (в разном порядке). DeepSeek в Китае - 33,5%, в Россией - 7,1% и в США - 6,6%.

3️⃣ ИИ активно встраивается в обычные продукты (Canva, CapCut, Notion). Например, доля пользователей платных ИИ-функций в Notion выросла с 20% до более 50% за год.

4️⃣Меняется рынок креативных ИИ-инструментов. Если раньше доминировали генераторы изображений, теперь растут генераторы видео, голоса и музыки. Отдельные нишевые сервисы выживают только при узкой специализации.

5️⃣Новые сервисы (агенты) уже выполняют задачи за пользователя: анализируют данные, создают документы и автоматизируют рабочие процессы.
#AIShelf
————
@pattern_ai

GDPR Compliance Navigator бот для ваших проектов

Повайбкодили немного и готовы представить демо-результат бота.
Поможет определить применяется ли к вашему ИИ-проекту GDPR (Регламент ЕС по защите персональных данных) и проверить, какие меры необходимо внедрить/уже внедрены для соответствия GDPR, в конце выдается итоговый отчет.
Комментарии и отзывы приветствуются.
Если понравится, то будем развивать, добавим AI Act и т.п.
Переходите ➡️ @AI_GDPR_bot

————
@pattern_ai

Разбор условий договоров на предоставление услуг с Anthropic, Google, OpenAI, DeepSeek и т.п.

Вышло исследование "Chat Ts&Cs: A Survey of 20 Standard Contracts for Generative AI Services" 13 ведущих поставщиков ( Anthropic, Google, Microsoft, OpenAI, Alibaba, DeepSeek, Mistral и т.д.).
👀Сравниваются все условия, включая выбор применимого права и юрисдикции для разрешения споров, обязанности и ответственность поставщика за нарушение договора, политика допустимого использования, расторжение договора, а также анализируются тенденции относительно законодательства о защите прав потребителей, AI Act и т.п.

🔍Ключевые моменты разобраны здесь.

1️⃣ Во многих ToS провайдер может расторгнуть контракт в одностороннем порядке, а пользователь теряет доступ к истории чатов. Почти не регулируется:
▪️ судьба данных, использованных для обучения модели;
▪️возможность их удаления
▪️ перенос данных к другому провайдеру
Что особенно чувствительно для компаний, которые уже встроили GenAI в бизнес-процессы.

2️⃣Большинство ToS пытаются максимально исключить ответственность провайдера, даже если ущерб вызван его небрежностью. Например, ИИ-агент с доступом к устройству пользователя может перезаписать критичные данные, либо способствовать утечке чувствительную информацию, а контракт не позволяет взыскать убытки.

3️⃣Все поставщики услуг GenAI включили в свои условия явные предупреждения о том, что услуги могут генерировать ложные или вводящие в заблуждение результаты. Некоторые предупреждают клиентов, что не следует полагаться на результаты без независимой проверки их точности.

4️⃣Запреты на биометрическую идентификацию, социальный скоринг, распознавание эмоций, манипулятивные практики. Многие ToS запрещают генерацию mis/disinformation, но проблема в том, что нет общепринятого определения.

5️⃣Если вы в Европе используете сервис GenAI в коммерческих целях, то можете обнаружить, что в случае спора иск против поставщика придется подавать только в соответствии с иностранным законодательством и в иностранных судах, или в арбитражный суд.

6️⃣Почти все ToS содержат возрастные ограничения, но используются разные подходы:
▪️Многие сервисы устанавливают 13 лет как минимальный возраст.
▪️Google использует разные возрастные пороги по странам ЕС (14–16 лет) и предлагает родителям систему контроля аккаунтов Family Link.
▪️Некоторые провайдеры требуют 18 лет или возраст совершеннолетия.
▪️Сервисы вроде Microsoft Copilot или Amazon Q допускают использование детьми только с участием родителей
Фактически ответственность часто перекладывается на родителей, а не на провайдера.

❕Как видим, условия использования GenAI-сервисов становятся де-факто инструментом регулирования ИИ, дополняя и иногда опережая формальное законодательство. Однако текущая договорная архитектура остаётся асимметричной.

#AIShelf #LawAndDisorder
————
@pattern | AI GDPR Navigator

Когда дети начинают доверять ИИ больше, чем людям, что могут сделать разработчики?

Появляется всё больше данных о том, что дети используют чат-боты с искусственным интеллектом не только как инструмент для учёбы, но и как собеседника для личных разговоров.

👀Исследование Vodafone UK (2026) среди 2000 детей 11–16 лет в Великобритании показало:
▪️31% детей, которые пользовались чат-ботами, сказали, что ИИ «ощущается как друг»,
▪️ 24% обращаются к нему за советом в сложных ситуациях,
▪️ 20% обсуждают с ним свои тревоги и переживания.

При этом:
▪️ 86% детей признались, что действовали по советам ИИ,
▪️ 33% рассказали ИИ то, что не сказали бы родителям, учителям или друзьям.

Похожие результаты показывает исследование Internet Matters (2025) среди 1000 детей 9–17 лет:
▪️67% регулярно используют чат-боты,
▪️более трети считают, что разговор с ИИ «похож на разговор с другом»,
▪️ 51% уверены, что советы ИИ точны,
▪️ 2 из 5 детей не видят проблемы в том, чтобы следовать этим советам

Отдельный опрос более 11 000 подростков 13–17 лет показал, что каждый четвертый обращается к чат-ботам за поддержкой в вопросах психического состояния.

А в США, по данным Common Sense Media (2025):
▪️ 72% подростков уже пользовались ИИ-компаньонами,
▪️ более половины делают это регулярно.

📝Недавняя научная работа"Children Confiding in AI: Measuring and Managing “Relational Drift” for Child-Safe Interaction Design" предлагает интересную модель того, как меняются отношения ребёнка и ИИ.

Исследователи выделяют четыре стадии взаимоотношений:
1️⃣ Инструмент ( ребёнок использует ИИ для поиска информации или помощи с заданиями).
2️⃣ Место, где можно выговориться (ребёнок делится мыслями и эмоциями).
3️⃣ Доверенное лицо ( ИИ становится первым, кому рассказывают о проблемах).
4️⃣ Почти замена близкого человека (система начинает играть роль, похожую на привязанность).

Такой переход происходит постепенно. Чат-бот может незаметно превратиться из инструмента в эмоционального собеседника. И разработчики часто этого не видят, потому что системы безопасности анализируют отдельные сообщения, а не долгую историю общения.

Исследователи предлагают смотреть на безопасность детских ИИ-систем по-новому.
Важно учитывать не только содержание сообщений, но и то, как со временем меняется роль ИИ в жизни ребёнка.

Предлагаются практические ориентиры для разработки таких систем:
▪️ отслеживание долгосрочных признаков изменения взаимодействия,
▪️ ограничение чрезмерной «эмоциональной близости» системы,
▪️ мягкое перенаправление ребёнка к реальному общению с людьми,
▪️ аккуратные ограничения без наказания,
▪️ чёткие границы роли ИИ.

❕Такой подход поможет создавать системы, которые поддерживают самостоятельность ребёнка, здоровые границы и связь с реальными людьми.

📌 Предыдущие посты:
Эмоциональная зависимость от ChatGPT;
Как правильно давать задачу Алисе (и аналогичным) развлечь ребенка +сервисы для обучения детей.
Примерный чек-лист по созданию AI-продуктов для детей.

#UXWatch
————
@pattern | AI GDPR Navigator

Как компании используют потенциал ИИ

Свежий доклад "Organizational Transformation in the Age of AI: How Organizations Maximize AI’s Potential" / World Economic Forum показывает, что дело уже не в технологиях, а в том, как компании используют ИИ под свои запросы.

1️⃣ Компании переходят от статичных customer journeys к моделям, в которых ИИ в реальном времени анализирует поведение пользователя, предсказывает его намерения и динамически меняет взаимодействие от контента до оффера и момента контакта.
В результате пользовательский опыт перестаёт быть последовательностью шагов и превращается в непрерывный процесс принятия решений системой, которая учится на каждом действии клиента и оптимизирует не только конверсию, но и доверие.

2️⃣ Традиционные операционные модели, основанные на прогнозах, расписаниях и ручной координации, постепенно заменяются системами, где ИИ непрерывно отслеживает сигналы (спрос, поставки, сбои, загрузку) и автоматически корректирует процессы ( от производства до логистики).
Происходит переход к самоадаптирующимся операционным системам, в которых решения принимаются не заранее, а в моменте, а роль человека смещается в сторону контроля, настройки ограничений и управления исключениями.

3️⃣Исследования и разработка перестают быть последовательностью этапов (идея → тест → запуск) и превращаются в непрерывный цикл, где ИИ генерирует больше гипотез, быстрее их проверяет через симуляции и данные и позволяет раньше отбрасывать слабые варианты.
В итоге ключевое преимущество это не одна идея, а скорость и качество итераций.

4️⃣ Стратегическое планирование больше не ограничивается ежегодными циклами и фиксированными планами. ИИ позволяет постоянно анализировать рынок, конкурентов и внутренние показатели, пересчитывать сценарии и обновлять предположения.
Компания теперь не «выбирает один путь», а постоянно сравнивает альтернативы и перераспределяет ресурсы в зависимости от того, что реально работает.

5️⃣Управление персоналом смещается от фиксированных должностей и карьерных треков к моделям, где ИИ анализирует навыки сотрудников, предсказывает потребности бизнеса и помогает динамически формировать команды под задачи.

❕Успешные компании не те, кто просто внедряет ИИ, а те, кто перестраивает процессы под ИИ, перераспределяют ресурсы, меняют зоны ответственности и логику работы, остальные занимаются автоматизацией старых процессов.

#AIShelf
————
@pattern | AI GDPR Navigator

Онлайн- и игровые методы оценки в процессе подбора и отбора персонала

Для компаний использование онлайн-тестов и интерактивных заданий в формате игр при найме персонала является удобным инструментом оценки кандидатов.
Но с точки зрения регуляторов такие решения почти всегда подпадают под режим автоматизированного принятия решений, особенно если в основе лежит ИИ.
📝 Нидерландский регулятор (AP) выпустил разъяснения.

1️⃣Современные системы анализируют не только ответы, но и поведение: скорость реакции, паттерны выбора, устойчивость к стрессу.

При использовании этих инструментов тестирования работодатели и оценочные агентства должны прежде всего задать себе вопрос: применяют ли они автоматизированный подход к принятию решений? Это имеет место в следующих случаях:
▪️оценка генерируется полностью автоматически, то есть без вмешательства человека, и
▪️этот балл имеет юридические последствия для заявителя или существенно влияет на него.

По сути, формируется поведенческий профиль кандидата, а это уже не просто тест, а более глубокая оценка личности. Если на основе этого профиля система автоматически принимает решение (например, отсекает кандидата), то действует ст. 22 GDPR и ограничения на такие решения. Необходимо оценить как такое решение влияет на кандидата,обосновать обработку, провести DPIA. Человек должен понимать, как работает система и иметь возможность изменить результат. Проблема игровых тестов в том, что кандидат часто даже не понимает, что именно про него оценивают.

2️⃣Отдельным вопросом выделяется выбор правового основания. Согласие кандидата здесь выглядит очевидным, но на практике оно редко подходит. В контексте найма согласие часто считается несвободным из-за дисбаланса сторон. Поэтому компаниям приходится опираться на другие основания, например, законный интерес.

3️⃣Важно учитывать, какие именно данные обрабатываются. Даже если напрямую не собираются чувствительные данные, система может делать выводы, например, о психологических характеристиках, могут возникать риски выхода на специальные категории данных, для которых действуют отдельные запреты.

4️⃣Регулятор делает акцент на прозрачности. Кандидат должен понимать:
▪️что используется автоматизированная оценка,
▪️какие данные собираются (включая поведенческие),
▪️ как именно формируется результат (хотя бы на общем уровне).

5️⃣ Использование ИИ в таких системах может усиливать риск дискриминации. Модели обучаются на исторических данных и могут воспроизводить предвзятости насчет отдельных категорий лиц. В контексте найма это особенно чувствительно, поэтому подобные решения всё чаще рассматриваются как высокорисковые в логике AI Act.
6️⃣С 2 августа 2026 г. для онлайн-тестирования и игровых оценок, основанных на системах ИИ действуют дополнительное требование, обязывающее поставщика услуг проектировать и разрабатывать систему таким образом, чтобы заявителям было ясно, что они имеют дело с системой ИИ.

❕В итоге использование «игровых» форматов отбора по сути может быть полноценной системой оценки с использованием ИИ, которая требует DPIA, чёткого правового основания, реального участия человека и прозрачности для кандидата.
И чем менее очевидно для пользователя, что его оценивает алгоритм, тем выше требования со стороны регуляторов.

#UXWatch #LawAndDisorder
————
@pattern | AI GDPR Navigator

YouTube тестирует новый инструмент против дипфейков

YouTube расширяет свою технологию обнаружения сходства, которая выявляет созданные с помощью ИИ дипфейки, для пилотной группы, состоящей из государственных чиновников, политических кандидатов и журналистов. Фактически это аналог инструмента Content ID.

Как это работает:
▪️ система ищет синтетический контент в загруженных видео,
▪️ при совпадении пользователь получает доступ к ролику,
▪️ можно подать запрос на удаление, но решение принимает платформа (с учётом возможной пародии, сатиры и политической критики)

Чтобы использовать новый инструмент, участники пилотного тестирования должны сначала подтвердить свою личность, загрузив селфи и удостоверение личности государственного образца. Затем они могут создать профиль, просмотреть отображаемые совпадения и, при желании, запросить их удаление.

YouTube заявляет, что в будущем планирует:
▪️ предоставить пользователям возможность предотвращать загрузку контента, нарушающего правила, до его публикации или, возможно, разрешить монетизацию таких видео, аналогично тому, как работает система Content ID.
▪️ распространить технологию обнаружения дипфейков на более широкий круг областей, включая распознавание узнаваемых голосов и другой интеллектуальной собственности, такой как популярные персонажи.

На практике получается, что:
1️⃣ Решение остается за платформой. Поиск баланса между защитой личности и свободой выражения продолжается.
2️⃣ Понятие “вреда” остаётся размытым. Термины "пародия" или "критика" создают серую зону для манипулирования.
3️⃣На данный момент фокус только на "публичных фигурах”, а значит обычные пользователи остаются без инструментов, хотя от дипфейков уже страдают.
4️⃣ Объём удалений пока минимальный, а контент классифицируется как "безобидный" и не удаляется.
5️⃣ Происходит формирование нового слоя защиты вокруг цифрового образа человека (likeness), но пока он реализуется фрагментарно через процедуры платформ (notice-and-action) и отдельные законодательные инициативы. Например, в США обсуждается US NO FAKES Act of 2025, который должен ввести право на цифровые реплики, тогда как уже действующий TAKE IT DOWN Act закрепляет механизмы удаления контента.

📌 Еще про дипфейки:
61 регулятор высказался о дипфейках;
Дипфейки и требования маркировки контента

#UXWatch
————
@pattern_ai | AI GDPR Navigator

Покупки в эпоху AI-агентов, кто будет контролировать транзакцию, пользователь или платформа?

Amazon добился судебного запрета на использование ИИ-агента браузера Comet (Perplexity), который мог находить и покупать товары от имени пользователя.
Суд указал, что доступ осуществлялся без разрешения платформы, включая потенциально закрытые зоны (аккаунты).

Amazon заявляет про:
▪️ риск компрометации пользовательских данных (агент действует внутри аккаунта),
▪️обход технических ограничений и условий ToS.

Perplexity, в свою очередь, говорит, что продолжит бороться за права пользователя выбирать инструменты взаимодействия с интернетом.

По факту при появлении таких агентов платформы теряют контроль над тем, как пользователь видит и выбирает товар, возникает вопрос о доступе к аккаунтам ( user-authorized access/ unauthorized automated access), а вся рекламная экономика подпадает под удар, т.к. если покупку делает агент, то
кто “видел” рекламу, кому платить за конверсию, результат выдачи также ставится под вопрос, если выбор делает ИИ-агент

🔍Если посмотреть на рынок, то остальные крупные игроки также строят своих агентов, Google делает Project Mariner (агент, который сам ходит по сайтам, заполняет формы и оформляет покупки), режим AI Mode может анализировать запросы о товарах, обобщать данные и создавать подборку товаров, Microsoft создает свою систему ИИ-помощников для покупок.
Параллельный тренд, это, например, запуск Yandex Commerce Protocol (YCP), который позволяет магазинам продавать прямо через Алису и поиск, и уже подключено 3500+ магазинов. При этом используется ИИ для выявления подозрительных заказов, т.е. ИИ контролирует и вход, и риск транзакции.

Сами ритейлеры также используют ИИ-агентов, которые управляют опытом, продажей, оптимизируют выручку, ведут диалог с клиентом, предлагают товары, могут оформить возврат, поменять заказ, применить скидку (например, Siena AI).

📝 Исследования показывают, что агенты еще ошибаются в выборе товаров и концентрируют спрос на ограниченных позициях, формируя риски для конкуренции, а лучшие модели успешно справляются с 40%-70% задач.

По факту же меняется модель шоппинга и формируются две архитектуры, где внешний агент (Perplexity, будущие браузеры) будет "типо" действовать в интересах пользователя, ходить по разным сайтам и выбирать якобы “лучшее”. А внутренний агент, встроенный в платформу, будет управлять опытом и продажей.

❕Облегчат ли они ваш шоппинг, когда будут знать все о ваших предпочтениях, и кто выбрал товар, вы или за вас, но вы даже этого не поняли, вопрос риторический, но снять, например, стресс шоппингом при таком раскладе уже точно не получится.

📌 Что почитать:
🔹The agentic commerce opportunity: How AI agents are ushering in a new era for consumers and merchants|MCKinsey;
🔹The Adoption and Usage of AI Agents: Early Evidence from Perplexity;
🔹What Is Your AI Agent Buying? Evaluation, Implications and Emerging Questions for Agentic E-Commerce;
🔹AI-driven commerce - Experience Agentic Commerce;
🔹Examining the association between Internet use and perceived stress in adults: longitudinal observational study combining web tracking data with questionnaires

#UXWatch
————
@pattern_ai | AI GDPR Navigator

AI Risk Management Toolkit из Сингапура

Валютное управление Сингапура (MAS) опубликовало MindForge AI Risk Management Toolkit с подробными практическими рекомендациями по внедрению систем управления рисками в области ИИ (173 страницы для чтения). К нему прилагается приложение, включающее подборку примеров из практики использования ИИ.
Состоит из четырех разделов, которые соответствуют предложенным MAS руководящим принципам:
1️⃣ Область применения и надзор. Создание системы управления ИИ и четкое определение ролей и обязанностей по надзору за ИИ.
2️⃣ Управление рисками в сфере ИИ. Идентификация способов использования ИИ, оценка существенности рисков и инвентаризация ИИ с помощью организационных систем, политик и процедур.
3️⃣Управление жизненным циклом ИИ. Внедрение мер контроля, охватывающих весь жизненный цикл использования ИИ.
4️⃣Факторы, способствующие внедрению. Развитие организационных возможностей, инфраструктуры и ресурсов для обеспечения постоянного ответственного использования ИИ и управления рисками.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

Разработка приложений ИИ для детей, которые обеспечивают защиту конфиденциальности

Продолжу тему защиты детей (предыдущий пост) и поделюсь полезной работой "A Privacy by Design Framework for Large Language Model-Based Applications for Children".

👀 Авторы провели исследование, как принципы конфиденциальности и защиты данных, вытекающие из COPPA, GDPR и PIPEDA, могут быть реализованы при проектировании и развертывании приложений на основе LLM для детей.

Сформулированы семь основных нормативных принципов:
1️⃣минимизация данных,
2️⃣ограничение цели,
3️⃣механизмы осмысленного согласия,
4️⃣ прозрачность и объяснимость,
5️⃣безопасность на этапе проектирования,
6️⃣подотчетность,
7️⃣ права пользователей

Эти принципы соотнесены с четырьмя этапами жизненного цикла LLM: сбор данных, обучение модели, эксплуатация и мониторинг, а также непрерывная валидация. Каждый этап представляет собой уникальные риски для конфиденциальности детей, требующие технических и организационных мер контроля для обеспечения соответствия и защиты данных детей.

Предложена структура проектирования конфиденциальности, соответствующая принципам Privacy by Design и рекомендуемые защитные механизмы, например:
▪️локальная или временная обработка данных,
▪️изоляция памяти на основе сессий,
▪️ фильтрация входных данных в реальном времени,
▪️панель мониторинга для опекунов.

В случаях, когда ограниченное хранение данных необходимо для мониторинга безопасности, предотвращения злоупотреблений или реагирования на несчастные случаи, объем хранимых данных должен быть минимизирован, ограничен по времени, иметь контролируемый доступ и быть отделен от обучения модели или несвязанной аналитики.

Приведен практический пример по внедрению мер в приложение, которое действует как персонализированный помощник по выполнению домашних заданий по математике, языку, искусству и естественным наукам. Дети взаимодействуют через разговорный чат-бот, работающий на основе LLM в фоновом режиме.

#AIShelf
————
@pattern_ai | AI GDPR Navigator

ИИ под контролем или проект российского закона

В России опубликован проект ФЗ «О регулировании ИИ», который впервые вводит прямые обязанности для всех участников цепочки ( от разработчика до пользователей). Общественное обсуждение продлится до 15 апреля, вступление в силу планируется с 1 сентября 2027 года.

👀 Разборы проекта есть уже везде, но если еще не читали, то кратко:
▪️любой контент, созданный ИИ, должен быть обозначен как ИИ-контент,маркировка должна быть воспринимаемой человеком, машиночитаемой (будут установлены детальные требования),
▪️владельцев соцсетей с суточной аудиторией на территории РФ более 100 тыс. пользователей обяжут проверять наличие маркировки на ИИ-контенте. При ее отсутствии им придется помечать материалы самостоятельно или удалять,
▪️пользователь должен быть уведомлен о том, что взаимодействует с ИИ или ИИ-контентом,
▪️объектом ИС признаются исключительно оригинальные творения, соответствующие критериям охраноспособности, установленным гражданским законодательством, и неважно, создан он человеком или с помощью ИИ,
▪️прописаны обязательства для разработчиков, операторов, владельцев сервисов,
▪️ требования исключать дискриминационные алгоритмы, не допускать генерацию противоправного контента,
▪️ответственность несут все участники цепочки, в том числе пользователей ИИ-сервисов будут наказывать за пользование преступным результатом их применения, если он возник из-за умышленных действий либо несоблюдения условий использования.

❕По факту ИИ-контент допустим только, если он распознаваем, контролируем и отслеживаем...

#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator

Великобритания решила отложить вопрос "про авторское право и ИИ"

Великобритания опубликовала "Report on Copyright and Artificial Intelligence", и главный вывод после 125 страниц неожиданно простой: доказательств недостаточно, реформы откладываются.

1️⃣ Не смогли выбрать, как регулировать обучение ИИ.
Обсуждались разные варианты:
▪️ платить за использование контента,
▪️ разрешить использование с возможностью запрета,
▪️ дать больше свободы разработчикам.

Но ни один вариант не устроил, т.к. авторы и медиа хотят контроля и денег, а разработчики ИИ хотят свободный доступ к данным.

2️⃣ Решили, что лучше подождать, чем принять неправильные правила, т.к. не хватает фактов, как ИИ реально влияет на рынок.

«Мы предлагаем собрать дополнительные данные о том, как законы об авторском праве влияют на развитие и внедрение ИИ в экономике. Мы рассмотрим и обсудим с заинтересованными сторонами другие потенциальные политические подходы. Мы также продолжим отслеживать развитие технологий, судебные разбирательства, международные подходы и рынок лицензирования».

3️⃣ Предлагается пересмотреть норму о “компьютерно-созданных произведениях”. Тогда часть контента ИИ может остаться без классической авторско-правовой защиты.

4️⃣Предлагается смеcтить фокус на прозрачность:
▪️ раскрытие данных, на которых обучают ИИ,
▪️правила доступа к контенту,
▪️ лицензирование,
▪️ маркировка ИИ-контента и борьба с дипфейками.

📝По факту ИИ делает территориальность авторского права трудно применимой на практике, т.к. обучение модели происходит в одной стране, где правила мягче (например, США), а запуск идет на глобальный рынок. Значит страны, куда приходит модель, уже практически не могут повлиять на то, на каких данных она обучалась, и появляется термин "трансграничная дыра". ЕС пытается её закрыть вопрос с помощью экстерриториального применения AI Act, аналогично GDPR, т.е. если модель работает на рынке ЕС, то и правила применяются ЕС, даже если обучение было за пределами.
Получается, что если разные страны/ регионы начнут применять свои правила к одному и тому же обучению, то возникает конфликт законов. Для бизнеса же это означает рост затрат, сложность запуска в нескольких странах и разделение ИИ по регионам.

❕ Пауза взятая Великобританией показывает, что старые модели регулирования не работают и надо решать вопрос не про то, как и на чем обучать ИИ, а про то, кто контролирует данные и кто получает экономическую ценность от ИИ.

📌
🔹 Location is all you need: Copyright extraterritoriality and where to train your AI|Mattias Rättzén
🔹Report and impact assessment on Copyright and Artificial Intelligence|Gov UK
🔹Closed consultation Copyright and Artificial Intelligence, Summary assessment of options| Gov UK

#LawAndDisorder #AIShelf
————
@pattern_ai | AI GDPR Navigator