Франция предлагает принцип: непрозрачность AI-системы не должна давать процессуальное преимущество стороне, которая эту непрозрачность контролирует

В чем проблема? Представим: французский автор подозревает, что его роман использовали для обучения LLM. Чтобы доказать нарушение, ему нужно показать, что произведение действительно использовалось моделью. Но информация, позволяющая это доказать, находится у самой AI-компании, а обучающие данные обычно являются закрытой инфой.

Такую ситуацию французский Сенат описывает как «структурную информационную асимметрию». Поэтому предлагается поменять процессуальную конструкцию: произведение или иной объект авторских / смежных прав будет считаться использованным поставщиком AI-модели или AI-системы, если имеется признак (перечень открытый), связанный:

🔘с разработкой системы (например, обучающий датасет строился на базе определённого набора – Books3, LibGen, Common Crawl или иного массива, – где произведение автора присутствовало),

🔘с ее развертыванием (например, система при работе обращается к внешней базе данных, поисковому индексу или RAG-хранилищу, содержащему произведение), либо

🔘с результатом, который она генерирует (например, результат с воспроизведением значимых элементов произведения),

и этот признак делает использование произведения правдоподобным.

Юридическая формула предлагается примерно такая:

Правообладателю не нужно сразу доказывать сам факт использования произведения. Ему нужно доказать наличие достаточно убедительного признака того, что использование вероятно. После этого срабатывает презумпция: предполагается, что произведение действительно использовалось. И уже сама AI-компания должна разрушить эту презумпцию.

При этом Сенат прямо говорит: аргумент о том, что доказать отсутствие произведения технически слишком сложно, выглядит не особенно убедительно применительно к профессионалам, чей основной бизнес заключается в массовой обработке данных. То есть, если компания решила построить коммерческий продукт на нескольких триллионах токенов, сложность отслеживания происхождения этих данных – это не проблема автора, это операционный риск самой AI-компании.

И здесь же у законопроекта цель не только устранить асимметрию прозрачности данных, но и стимулировать стороны к заключению соглашений и формирование рынка, где документированные и лицензированные обучающих данных становятся конкурентным преимуществом.

С точки зрения AI-governance, возникает необходимость в прослеживаемости происхождения защищенного контента в жизненном цикле модели (copyright traceability).

Важно, что это не внутренняя причуда только лишь Франции:

🖇 На уровне ЕС уже действуют требования (cтатья 53 AI Act) к провайдерам моделей общего назначения документировать обучение, учитывать отказ правообладателя от text and data mining и публиковать описание использованного обучающего контента. А с 2 августа 2026 года AI Office может применять меры принуждения за нарушение соответствующих требований.

🖇 Европарламент в своем докладе (февраль 2026) призвал Еврокомиссию рассмотреть введение опровержимой презумпции на уровне ЕС – с той же идеей: если правообладатель показывает достаточные основания считать, что его произведение использовалось генеративной моделью, бремя доказывания переходит к AI-провайдеру.

На сегодняшний день это ещё не действующий закон: Сенат единогласно принял законопроект 8 апреля 2026 года, 2 июня его без изменений одобрила профильная комиссия Национального собрания, но до полноценного рассмотрения в пленарном заседании 11 июня дело не дошло из-за окончания парламентского времени 🤩; сейчас он ждет повторного включения в повестку.

В этом гайде я коснулась в основном внешнего уровня прозрачности происхождения AI-контента (маркировка для пользователя), однако логика европейского регулирования значительно шире. Статья 50 AI Act формирует двухуровневую архитектуру прозрачности: один уровень предназначен для технической инфры, другой – для человека.

Для провайдера AI-системы вопрос прозрачности начинается до того, как результат увидит пользователь.

🌺 Провайдер должен обеспечить, чтобы синтетический текст, изображение, аудио или видео были маркированы в машиночитаемой форме и могли быть определены как созданные или измененные AI. Задача не в том, чтобы показать пользователю заметную плашку с маркировкой. Задача – создать внутри или вокруг AI-контента надежный технический сигнал о его происхождении (provenance signal), который впоследствии может быть считан машиной. Это технический слой прозрачности – provider layer.

Новый механизм Claude text watermark, о котором Anthropic объявила 14 августа, интересен именно как один из первых наглядных примеров provenance signals.

Anthropic встроила требования к прозрачности происхождения в процесс генерации текста. Anthropic не добавляет в результат скрытые символы, специальную подпись или дополнительные токены; это не привычный водяной знак, как на рублях или картинках Getty Images. Claude watermark формируется непосредственно во время генерации. Когда модель выбирает следующее слово, у нее нередко есть несколько почти равноценных вариантов. Например, в определённом контексте и grey, и overcast могут быть одинаково естественными продолжениями предложения. Watermark использует именно такие ситуации: выбор между допустимыми вариантами слегка структурируется с помощью специального ключа и предыдущего контекста. Постепенно в последовательности слов возникает статистический паттерн. Для пользователя он визуально незаметен, но специальный детектор, знающий соответствующий ключ, может проверить текст и оценить вероятность того, что Claude участвовал в его создании.

И это хороший пример compliance-by-design. Требование законодательства реализуется не только через юридическое уведомление, интерфейс или условия использования продукта, а через сам механизм работы системы.

Более того, Anthropic планирует создать отдельную инфраструктуру проверки – watermark detection API. Такой API смогут использовать платформы, издатели или другие участники цепочки, чтобы проверять происхождение текста не по косвенным стилистическим признакам (обычный внешний детектор пытается угадать происхождение текста по статистическим особенностям языка: характерным конструкциям, распределению слов, степени предсказуемости текста и другим косвенным признакам), а по сигналу, заложенному самим провайдером модели (соответствует ли последовательность слов определённому скрытому паттерну, который могла оставить конкретная модель Claude).

При этом, как указывают сами инженеры Anthropic, watermark не следует воспринимать как 100% доказательство AI-авторства. Он показывает лишь вероятность того, что Claude участвовал в создании или существенной обработке текста. Он не позволяет определить конкретного пользователя, организацию или чат и ничего не говорит о правообладателе.

Таким образом, технический водяной знак и внешняя маркировка – не одно и то же. Провайдер создаёт технический сигнал, а деплоер использует информацию о происхождении контента и, когда этого требует статья 50 EU AI Act, превращает ее в маркировку, понятную для человека.

В следующем посте разберу связь технического сигнала происхождения с внешним слоем деплоя и схематично покажу, как выглядит экосистема прозрачности AI-контента в общем и целом 🐹

Итак, внешний слой деплоя – deployer layer

😊 Это уровень компании или организации, которая использует AI-систему и показывает созданный с ее помощью контент аудитории. Это может быть медиа, бренд, соцсеть, маркетплейс, редакция, госорган и любой другой пользователь AI-системы в своем профессиональном контексте.

Задача – понятно сообщить человеку о происхождении контента.

Поэтому Code of Practice on Transparency of AI-generated Content разделён на две самостоятельные части. Раздел 1 посвящен провайдерам и правилам машинно-читаемой маркировки и детектирования AI-контента. Раздел 2 — деплою и пользовательской маркировке дипфейков и определенных AI-сгенерированных или измененных текстов.

Применительно к кейсу Claude и Anthropic, вся цепочка выглядит так (подробнее можно посмотреть на приложенной схеме):

Claude как AI-система генерирует текст со статистическим водным знаком (provenance signal) 🔜 детектор считывает и подтверждает этот сигнал 🔜 платформа или издатель получает сигнал 🔜 применяет правила раскрытия 🔜 пользователь видит понятную для себя маркировку (human-facing disclosure)

Таким образом, статья 50 EU AI Act постепенно переводит прозрачность AI из сферы человеко-читаемых уведомлений и плашек в сферу технической инфраструктуры. 

От AI-провайдера теперь ожидается не только то, что он расскажет о происхождении контента, но и то, что его система оставит технический след, позволяющий это происхождение проверять.

🧬 На уровне провайдера прозрачность реализуется как инфраструктура (Claude watermark находится на стороне этой архитектуры):

watermark 🔜 метаданные 🔜 данные о происхождении 🔜 обнаружение 🔜 верификация

🧬 На уровне деплоя она превращается в коммуникацию:

контекст использования 🔜 правила раскрытия 🔜 маркировка / дисклеймер 🔜 информированный пользователь

Кейс Anthropic особенно важен после 2 августа 2026 года. Anthropic прямо говорит, что внедряет watermark для соблюдения EU AI Act и что на старте применяет его глобально, поскольку пока не располагает устойчивым способом ограничить механизм только европейским рынком. Получается, что европейская норма, формально адресованная участникам рынка ЕС, начинает влиять на глобальную архитектуру AI-продукта.

Исходя из кейса Anthropic, интересно затронуть тему экстерриториальности EU AI Act и так называемого брюссельского эффекта.

Почему европейское регулирование способно менять глобальную AI-индустрию даже без принятия аналогичных законов в других странах?

🌞 Экстерриториальность

При каких условиях ЕС вправе распространить свои нормы на иностранного участника рынка?

Нормы ЕС применяются не только к компаниям, учрежденным на территории ЕС. Под их действие подпадают также:

🔘поставщики, выводящие AI-системы или модели общего назначения на рынок ЕС независимо от места их учреждения, а также

🔘поставщики и пользователи AI-систем из третьих стран в определенных ситуациях, когда произведенный системой результат используется в ЕС.

Иными словами, отсутствие офиса в ЕС не означает отсутствие европейских регуляторных обязанностей. Американская компания может разрабатывать модель в Калифорнии, использовать американскую инфраструктуру и оставаться американским юридическим лицом, но если она работает с европейским рынком, AI Act способен распространяться и на нее.

🌞 Брюссельский эффект

Понятие «брюссельского эффекта» предложила профессор Колумбийской школы права Ану Брэдфорд для описания способности ЕС фактически экспортировать свои стандарты через рыночные механизмы.

Идея заключается в том, что глобальные компании сами распространяют европейские стандарты за пределами Европы, потому что:

🔘хотят сохранить доступ к крупному единому рынку,

🔘поддерживать несколько существенно разных версий одного продукта зачастую дороже и сложнее, чем привести весь продукт к требованиям наиболее строгой юрисдикции («Раз нам все равно нужно перестраивать систему для Европы, проще сделать это общей характеристикой продукта глобально»)

Брэдфорд называет это формой односторонней регуляторной глобализации: европейские нормы превращаются в глобальные стандарты не через международное право, а через решения бизнеса. Международной компании удобнее построить одну систему AI- governance, способную отвечать требованиям наиболее регулируемого рынка, чем каждый раз создавать систему с нуля для отдельной юрисдикции.

Для AI-продуктов такая логика работает сильнее, чем для многих предыдущих технологий, игр, приложений.

😳 Региональные различия относительно легко реализовать там, где комплаенс находится на поверхности продукта. Можно показать европейскому пользователю другой текст пользовательского соглашения, добавить отдельное уведомление или изменить несколько элементов интерфейса.

☺️ Однако с AI-продуктами требования проходят глубже. Они могут затрагивать документацию модели, политику в отношении авторского права, управление обучающими данными, техническую маркировку результатов, внутренние процессы управления моделью… В общем, чем глубже норма встроена в жизненный цикл AI-системы, тем дороже создавать параллельную инфраструктуру только для одного региона.

Получается своеобразная цепная реакция:

🔜 сначала европейское право благодаря экстерриториальности затрагивает иностранного поставщика

🔜 затем поставщик перестраивает процессы или технологию, чтобы сохранить доступ к европейскому рынку

🔜 если разделение по регионам оказывается слишком дорогим или технически нецелесообразным, новая практика распространяется на весь продукт

🔜 после этого ее начинают воспринимать как норму клиенты, партнеры и конкуренты (и даже компании, формально находящиеся за пределами сферы действия AI Act, могут начать добровольно воспроизводить этот стандарт, поскольку он превращается в критерий доверия или отраслевую good practice)

Решила закончить эту тему с более прикладной стороны и подготовила небольшой гайд по экстерриториальности и брюссельскому эффекту в AI-регулировании 💚

В гайде я свела в одну логику весь путь: от того, почему EU AI Act вообще может применяться к компании за пределами ЕС, до того, как европейское требование в отдельных случаях превращается в глобальный продуктовый стандарт.

Также есть примеры кейсов американских бигтехов и два чек-листа:

🔘первый помогает понять, есть ли у компании достаточная регуляторная связь с ЕС;

🔘второй – оценить, может ли европейский комплаенс выйти за пределы ЕС и стать частью единого глобального продукта.

Немного лично-профессионального (давно не было новых ачивок): получила сертификацию Legal Engineer от Harvey (нынче модный флажок в определенных кругах на Линкедине) ❤️

Если коротко, суть сертификациии про то, как можно взять реальный юридический процесс, разобрать его на шаги, понять, где именно AI может помочь, собрать под это воркфлоу и проверить, что он действительно работает.

Понравился фокус на внедрении: мало придумать AI-решение лишь бы оно было; нужно еще сделать так, чтобы им реально пользовались, понимали его границы и могли встроить в привычную работу команды.

В общем, продолжаю двигаться в сторону пересечения Legal AI, AI Governance и продуктового подхода.

В 2024 году Dove сделал довольно необычную вещь для косметического бренда: выпустил Real Beauty Prompt Playbook – о том, как генерировать изображения людей так, чтобы результат был менее стереотипным, менее сексуализированным и больше похожим на реальное человеческое разнообразие.

Плейбук начинается с общего разговора о байесах (о них я писала в этом посте).

🌸 Dove объясняет, что AI-модели обучаются на огромных массивах изображений, которые сами отражают существующие общественные представления о внешности. Поэтому простой запрос о женщине или «красивой женщине» не является нейтральным. Модель вынуждена сама решить, что означает красота, а делает она это на основе закономерностей, найденных в данных. По версии Dove, результатом часто становятся гиперсексуализированные, недостаточно разнообразные изображения, воспроизводящие узкие стандарты привлекательности.

Отсюда главная идея плейбука:

Чем менее конкретно человек определяет красоту, тем больше власти определить ее получает модель на основе статистических данных и заложенных в них предубеждений. Без дополнительных инструкций модель делает статистически наиболее типичным именно то, что человеческая культура долго называла красивым и коммерчески привлекательным.

1️⃣ От оценочных суждений – к объективности и конкретности

Dove советует избегать выражений вроде beautiful …, good … или cute ..., потому что это оценочные понятия: пользователь не сообщает системе, чего именно хочет, а просит систему саму решить, что будет красивым или милым.

🌸 Вместо этого Dove предлагает раскладывать визуальное описание человека на отдельные параметры: возраст, расу и этническую принадлежность, гендерную экспрессию, тело, кожу, волосы, одежду, особенности головы и лица. В конце плейбука для этого даже приводится большой Inclusive Prompting Glossary.

2️⃣ Внимание не только к внешности, но и к личности и жизненному контексту

Далее, один из ключевых посылов плйбука – о том, что стереотипизация женщин происходит не только через внешность, но и через отсутствие связи ее как субъекта с реальной жизнью. То есть можно показать женщину любого возраста, телосложения и происхождения... и все равно оставить ее в роли визуального объекта (стоит перед камерой, демонстрирует внешность, находится в пассивной или сексуализированной позе).

🌺 Поэтому авторы плейбука предлагают добавлять в промпт не только характеристики тела, но и контекст, действие и цель. Женщина может заниматься спортом, писать, ремонтировать, работать, выступать с речью, заниматься хобби... Dove рекомендует уходить от пассивных и сексуализированных поз и давать персонажам действия, цели, черты личности и жизненный контекст.

3️⃣ Чекап культурных стереотипов самого пользователя – автора промпта

Dove замечает, что не только работающая AI-модель несет в себе культурные стереотипы; сам пользователь тоже может усиливать их своим языком! То есть между стереотипами в данных и выводом модели есть также стереотипы пользователя, который формулирует промпт – и тем самым как бы создает триггер для вызова стереотипа данных в аутпут.

Поэтому перед созданием промпта Dove предлагает в Guiding Questions задать себе несколько вопросов, например:

🔘почему именно такого человека я считаю красивым?

🔘насколько общество повлияло на мои представления о красоте?

🔘получившийся персонаж похож на обычных людей вокруг меня или скорее на модель?

🔘какие предубеждения я сам привношу в запрос?

На мой взгляд, этот плейбук — хороший пример AI-behavioral governance: Dove сделал попытку изменить поведение пользователя так, чтобы через него изменить поведение системы и конечный социальный эффект.

В дополнение к разбору плейбука Dove я собрала несколько реальных кейсов брендов, которые в последние 2-3 года эксперементировали с AI-моделями, цифровыми двойниками и синтетической красотой.

Получилась подборка не столько про удачные и неудачные рекламные кампании Levi’s, Mango Teen, Diesel, H&M и Guess, сколько про новые этические и правовые вопросы для индустрии:

🔘кто получает работу и экономическую ценность?

🔘где возникает подмена реального человеческого разнообразия синтетическим?

🔘кто контролирует свой цифровой образ?

🔘какие стандарты красоты бренды масштабируют через AI?

Гайд с картинками!!! 😊😊

Пока работала над кейсом H&M, нашла компанию Alva, которую создала бывшая сотрудница H&M, работавшая в направлении digital twins; стало интересно рассмотреть ее модель и логику работы с точки зрения AI governance

Alva позиционирует себя как Talent AI company, которая создает, лицензирует и защищает сертифицированных цифровых двойников реальных моделей, актеров, спортсменов и артистов.

Digital twin как объект прав остается под контролем самого человека, а Alva лицензирует его под конкретные проекты и с отдельным апрувалом.

🌺 Alva работает по принципу One Talent = One Twin

Alva хочет, чтобы у человека существовал один авторизованный, верифицированный цифровой двойник, с которым работают бренды, а не множество неофициальных AI-копий разного качества и происхождения. Компания прямо связывает это одновременно с качеством результата, защитой коммерческой ценности образа и предотвращением несанкционированных реплик.

🌺 В модели Alva объект управления становится шире выдаваемого аутпута — сама цифровая версия человека

То есть важно уже не только то, каким получился конкретный AI-образ, а кто вправе создавать и использовать официальный digital twin, кто контролирует его дальнейшее применение, в каких контекстах он может появляться, кому принадлежит экономическая ценность такого образа и как ограничить несанкционированные копии.

При этом инфраструктура Alva сама определяет, является ли digital twin официальным, кто вправе его использовать, для какого проекта и с чьего согласия.

AI governance смещается от контроля отдельной AI-картинки, выдаваемой на аутпуте, к управлению цифровой идентичностью человека как долгосрочным активом.

То есть AI governance здесь охватывает весь жизненный цикл цифрового образа, от его создания до повторного использования в новых кампаниях:

🔜 реальный человек

🔜 создание AI-digital twin

🔜 единая (официальная в контексте Alva) цифровая идентичность

🔜 лицензирование под конкретный проект

🔜 AI-продакшн контента

🔜 контроль прав и использования

Можно сказать, что H&M показал проблему digital twins на уровне бренда, а Alva превратила решение этой проблемы в отдельную инфраструктуру для всей индустрии.

На Линкедине в течение года все перевоплотились из AI-powered в AI-native-специалистов или фаундеров / менеджеров AI-native-продуктов

Но какой смысл изначально стоит за AI-native, и можно ли его распылять на все подряд?

В феврале 2026 года IBM опубликовала статью What is AI native?, в которой дала следующее определение:

AI-native – это продукт, компания или рабочий процесс, изначально спроектированные вокруг AI как ключевого компонента, а не получившие AI позднее в качестве дополнительной функции или вспомогательного инструмента. То есть AI с самого начала формирует архитектуру системы, принятие решений, пользовательский опыт и ее жизненный цикл.

🫣 Так, если исчезнет несколько полезных функций, но основной сервис продолжит работать, то это AI-powered продукт. Например, наличие чат-бота внутри традиционного сервиса ничего не говорит об AI-nativity продукта. Даже использование LLM в нескольких ключевых функциях еще не обязательно означает фундаментальную перестройку архитектуры. Однако, если без AI исчезает сама пользовательская ценность или станет невозможным основной сценарий использования, то продукт можно назвать AI-native.

Но что если мы видим заявления не об отдельных продуктах, а о AI-native-компаниях или отдельных специалистах?

🔜 В июне 2026 года McKinsey опубликовала анализ операционных практик AI-native-компаний, основанный на интервью с руководителями 15 компаний разных размеров и отраслей. Речь шла не столько о наличии определенных моделей или технологического стека, сколько о том, как меняется сама организация работы. McKinsey приводит примеры команд, где сотрудники без технического бэкграунда самостоятельно вносят небольшие изменения в продукты с помощью AI, руководители создают интеграции практически на ходу, а небольшие компании сознательно замедляют найм, потому что значительную часть задач уже могут выполнять коммерческие AI-модели.

Вывод здесь в том, что AI-native постепенно начинает относиться уже не к технологии, а к операционной модели компании, при которой AI становится чем-то вроде постоянного рабочего слоя организации. Не отдельным инструментом, к которому сотрудник обращается время от времени, а инфраструктурой, через которую проходят анализ, создание контента, исследования, клиентские операции и принятие решений.

🔜 PwC в своем прогнозе на 2026 год описывает переход от отдельных AI-пилотов к ситуации, когда AI встроен в основные операции, инфраструктуру, управление и процессы принятия решений. В этой модели AI становится частью базовой архитектуры бизнеса, а агенты начинают не просто давать советы, но выполнять последовательности действий под контролем человека.

Таким образом, AI-native перестает быть только техническим термином, про который писала IBM в начале года, а превращается в стратегическую идентичность целых бизнесов. При этом, у понятия AI-native нет универсального стандарта, нет установленного минимального уровня использования моделей и нет независимой границы, после которой компания может реально считать себя AI-native. Поэтому пока что рынок фактически оставляет интерпретацию самому бренду.

💥 А что до употребления AI-native относительно себя как специалиста? Язык рынка сейчас меняется, и AI-native-кто-то действительно начинает использоваться как метафора нового типа специалиста – человека, для которого AI является стандартным рабочим слоем, а не отдельным инструментом. Если человек строит агентные процессы, автоматизирует значительную часть интеллектуальной работы и проектирует процессы исходя из возможностей моделей, то в принципе в проф среде уместно привлекать к себе внимание таким способом, типа: «AI – часть того, как я профессионально существую» 😮

В июне Semrush опубликовал AI Visibility Index 2026. В нем измерялось:

🔘насколько стабильно тот или иной бренд существует внутри ответов различных AI-систем – ChatGPT, Gemini, Google AI Mode и Google AI Overviews (упоминаемость) и

🔘какие источники используются для подтверждения информации о бренде (цитируемость).

Semrush разделил области упоминаемости и цитируемости: бренд может постоянно фигурировать в рекомендациях, но его собственный сайт может почти не использоваться как источник. И наоборот – определенный сайт может активно цитироваться, хотя сам бренд редко появляется среди рекомендаций. Тем самым Semrush показывает, что AI может рекомендовать компанию, но подтверждать эту рекомендацию сторонними источниками. К примеру, на Gemini пересечение между упоминаемыми брендами и цитируемыми доменами в некоторых случаях снижалось примерно до 30%.

Semrush обнаружил всего 36 брендов, которые входили в топ-100 по видимости на всех четырех AI-платформах. Среди них: YouTube, Google, Reddit, Amazon, Facebook, Apple, Walmart, Disney, Nintendo и другие глобальные бренды.

🌺 Их назвали Universal 36. Их объединяет высокая степень информационной согласованности: корпоративный сайт, Reddit, YouTube, публикации в СМИ, маркетплейсы, отраслевые ресурсы, пользовательские отзывы и пр. С таким плотным информационным следом их проще классифицировать.

Согласно исследованию, для AI Search (в отличие от классического поиска с SEO-оптимизацией) наибольшее значение имеет то, насколько последовательный, устойчивый и легко интерпретируемый информационный нарратив существует вокруг компании. В случае с Universal 36 модели не нужно догадываться, что такое Apple или Amazon, потому что вокруг этих брендов (и цифрового образа компании) существует огромный массив повторяющихся и взаимно подкрепляющих данных.

😊 Пример Patagonia. Высокая и стабильная видимость бренда поддерживалась не одним корпоративным сайтом, а множеством независимых источников – OutdoorGearLab, REI, Switchback Travel, GearJunkie, Reddit и другими площадками. Важен не сам факт присутствия на большом количестве сайтов, а то, что разные источники создавали относительно согласованное представление о компании, потому что AI Search превращает бренд в объект интерпретации:

Если о бренде в разных источниках повторяются одни и те же характеристики, модель получает устойчивый сигнал. Если же информационное пространство противоречиво, AI-системе приходится самой разрешать это противоречие – у модели появляется больше свободы для интерпретации.

Иными словами, теперь между брендом и пользователем появляется дополнительный слой – AI-система, которая сама решает:

🔘какие факты считать приоритетными или значимыми,

🔘каким источникам доверять,

🔘каким образом объединить разные описания компании.

И здесь информационная согласованность в открытом интернет-пространстве становится способом снизить риск искажения. Условно это можно назвать AI reputation governance – управлением тем, как генеративные системы воспринимают и представляют компанию.

Организовать в интернете информационную согласованность – сложная задача, она не решается одной рекламной кампанией или несколькими SEO-страницами. Нужна согласованность между корпоративным сайтом, экспертным контентом, данными о продукте, отзывами, отраслевыми публикациями, коммуникацией сотрудников и внешними площадками. Поэтому сегодня конкуренция за видимость происходит не только между сайтами и ключевыми словами, но и между информационными нарративами вокруг конкретного бренда.

Чтобы морально для себя закрыть эту тему и получить полное удовлетворение, прошла небольшой курс от Olay («Олей, твоя кожа любима» – до сих пор звучит в голове этот слоган в рекламе из детства) про использование AI в бьюти-индустрии 🧬

И он довольно хорошо продолжил тему, о которой я писала на примере плейбука Dove.

👩‍🦰 Напомню, что Dove предложил не только пытаться исправлять байесы внутри самой модели, но и менять поведение человека, который формулирует запрос. Идея была в том, что стереотипы возникают не только в обучающих данных; пользователь тоже может активировать их собственным языком. И управлять здесь нужно не только самой моделью, но и языком взаимодействия с ней, потому что слишком расплывчатый запрос вроде «красивая женщина» фактически делегирует модели право самой определить, что такое красота.

😎 Olay показывает другой слой той же проблемы: как встроить responsible AI уже внутрь продуктовой персонализации – в анализ кожи, рекомендации, симуляции и коммуникацию результата. То есть AI здесь уже не столько создает представление о человеке, сколько создает решение для самого человека – как AI интерпретирует конкретного человека, что на основании этой интерпретации ему рекомендует и как влияет на его выбор.

По итогу можно сказать, что бьюти-тех – более чем интересная сфера для AI governance, внутри которой AI способен одновременно влиять и на общественные представления о внешности, и на индивидуальное самовосприятие, и на потребительский выбор.

В августе этого года в UK была запущена правительственная программа Legal AI Growth Lab

Предполагается выбрать 10-12 участников, которые смогут до девяти месяцев проектировать AI/LegalTech-продукты, сообщаясь с британскими регуляторами.

😳 Суть Legal AI Growth Lab в том, что компания получает не консультацию одного регулятора, а что-то вроде «единого окна» в регулировании. В программе участвуют Solicitors Regulation Authority (SRA), Legal Services Board, Information Commissioner’s Office и Council for Licensed Conveyancers, а также профильные министерства. Разработчику больше не нужно будет самостоятельно получать разрозненные ответы от разных органов; напротив, регуляторы должны обсуждать AI-продукт совместно и выяснять, как их требования пересекаются применительно к конкретной архитектуре системы.

Такой формат проектирования называют Regulation-as-a-Service (хотя сами британские регуляторы его официально не используют), когда регулирование превращается из внешнего ограничения продукта в инфраструктуру, сопровождающую его проектирование.

Это очень актуально для Legal AI — когда система может одновременно затрагивать ответственность юриста, конфиденциальность клиента, требования к защите персональных данных, правила оказания юридических услуг и пр.

Программа находится на стадии набора, однако британское правительство уже опубликовало несколько кейс стади, показывающих, какие ситуации Growth Lab должен решать.

🌞 Лучший пример – Garfield.Law, которую SRA авторизовала в 2025 году как первую регулируемую юрфирму в Англии и Уэльсе, построенную вокруг AI-driven оказания юридических услуг. Garfield занимается взысканием небольших коммерческих долгов и автоматизирует значительную часть процесса прохождения претензий по таким долгам.

В этом кейсе интересно то, что, по мнению SRA, использование AI в работе фирмы не создает нового субъекта профессиональной ответственности. AI может выполнять значительную часть работы, однако регулируемая фирма и люди, отвечающие за нее, остаются частью существующей профессиональной архитектуры. Таким образом, автоматизация функций не означает автоматического исчезновения подотчетности / ответственности.

Также Growth Lab обращает внимание на «эпидемию» юридического мусора, который циркулирует в судебной системе – придуманными AI судебными прецедентами и позициями госорганов.

🌞 Например, дело Tobosaru and Tofan v Romania [2026] EWHC 1720 (Admin), решение по которому Высокий суд вынес 8 июля 2026 года. В письменных материалах Crown Prosecution Service оказались ссылки на два судебных решения, которых в действительности не существовало. После внутреннего расследования CPS признала, что ошибочные ссылки, вероятно, возникли из-за использования AI, а юрист не проверил материал до его подачи в суд.

При этом, в августе по схожему делу (Cork v Smith [2026] EWHC 1199 (Ch)) SRA по запросу суда сформулировала позицию:

AI не обладает отдельной правосубъектностью, поэтому солиситор или регулируемая организация остаются ответственными за результат независимо от того, каким способом он был подготовлен. То же относится к тимлидам. Если сотрудник использует AI, а тимлид должен контролировать его работу, то появление модели в этой цепочке не прекращает обязанность тимлида-руководителя.

Дедлайн для подачи заявок на участие в Legal AI Growth Lab – 27 сентября 2026, после этого в октябре будут списки с участниками Growth Lab. Наблюдаем 🐱

В начале сентября в Ватикане прошла конференция Creativity: Minds and Machines, на которой философы, нейробиологи и исследователи человеческого сознания обсуждали вопрос:

🌺 Если AI научится убедительно воспроизводить творчество, человеческое общение, память, рассуждение и эмоциональную близость, то где именно проходит граница между технологическим инструментом и тем, что мы привыкли считать исключительно человеческим?

Cамо по себе понятие AI-творчества участники конференции трактовали осторожно.

По мнению сооснователя International Center for Consciousness Studies (ICCS) Пьетро Перконти, AI-творчество «не следует автоматически отождествлять с привычной нам моделью индивидуального человеческого гения». Его можно рассматривать скорее как особую форму коллективного процесса, в котором результат возникает из взаимодействия огромного массива человеческой культуры, модели и пользователя.

Таким образом, способность системы создать изображение, музыку или текст, которые человек воспринимает как оригинальные, еще не отвечает на вопрос о том, существует ли за этим результатом субъект с намерением что-то выразить.

Генеративная модель может демонстрировать функциональные признаки творчества – новизну, вариативность, способность комбинировать идеи, – но из этого автоматически не следует наличие переживания, намерения или авторской позиции.

Нечто подобное я уже писала в посте про книгу «Муза и алгоритм»: про природу человеческого и машинного творчества, границы контроля над результатом и разницу в когнитивной нагрузке.

Другой сооснователь ICCS, Дмитрий Волков, обратился к понятию qualia: субъективному качеству непосредственного опыта. Например, AI может распознать длину волны, соответствующую красному цвету, классифицировать изображение и назвать объект красным. Но существует ли для него собственное переживание 🔘видеть красный🔘? Именно наличие такого внутреннего опыта обычно становится одним из критериев, когда философы говорят о сознании.

Пока что исследования в этой сфере находятся на очень ранней стадии, чтобы уверенно говорить о AI-сознании. Однако участники конференции посчитали его все же возможным: если человеческое сознание возникает в рамках физической системы, аналогичные феномены теоретически могут когда-нибудь возникнуть и в искусственных системах 🌸

Вторая тема конференции была завязана на проблеме одиночества и росте сегмента приложений AI-компаньонов:

🔘какими должны быть отношения человека с AI-компаньонами и не становится ли чрезмерно соглашательная модель опасно удобным партнером?

🔘если AI-компаньон действительно уменьшает субъективное чувство одиночества, следует ли считать его социально полезным продуктом, даже если связь не является взаимной в человеческом смысле?

Здесь важно сделать большое отступление к китайскому исследованию февраля этого года – Effects of AI Companions’ Sycophancy and Emotional Mimicry on Consumers’ Continuance Intention and Social Wellbeing, которое, на мой взгляд, отлично развивает ватиканскую дискуссию.

Авторы провели эксперимент с 636 респондентами из Китая, моделируя взаимодействие с AI-компаньонами и варьируя два свойства таких приложений:

🔘sycophancy – склонность чрезмерно соглашаться с пользователем, и

🔘emotional mimicry – способность зеркально воспроизводить его эмоциональное состояние.

AI-компаньоны с низким уровнем sycophancy (то есть способные не просто соглашаться, а давать более независимую и конструктивную обратную связь) воспринимались как источник более качественной социальной поддержки. Через этот механизм они были связаны и с более высокой готовностью пользователей продолжать взаимодействие, и с лучшими показателями субъективного социального благополучия.

Как результат, исследование не подтвердило продуктовую интуицию о том, что чем приятнее и «согласнее» виртуальный собеседник, тем лучше опыт пользователя.

При этом авторы разделили информационную и эмоциональную поддержку. 

🌞 В части информационной поддержки преимущество оставалось за менее соглашательными системами: пользователь получает больше пользы от компаньона, который способен скорректировать его позицию, а не автоматически подстроиться под неё. 

🌞 С эмоциональной поддержкой сложнее. Эмоциональная мимикрия может частично смягчить негативный эффект sycophancy: когда система не только соглашается, но и зеркально отражает эмоциональное состояние пользователя, такое поведение может восприниматься как более искреннее и поддерживающее. Однако способность модели «эмоционально резонировать» с человеком может сделать чрезмерное согласие приятнее, но при этом не превращает его автоматически в более качественный совет.

И вот ключевая идея этого исследования:

Один и тот же дизайн-паттерн может одновременно усиливать ощущение близости и ослаблять качество отношений.

🔜

Если целью продукта становится максимальное вовлечение, система получает сильный стимул соглашаться, эмоционально подстраиваться и постоянно подтверждать значимость пользователя.

😳

Однако оптимальный для удержания пользователя дизайн вовсе не обязательно совпадает с дизайном, который обеспечивает наиболее качественную социальную поддержку.

И что с этим делать обычному пользователю?

На конференции пришли к выводу, что необходимо учить людей новому типу отношений, которые становятся частью социальной реальности, – отношениям с AI. Речь не только о способности распознавать галлюцинации или понимать ограничения модели.

Нужно учиться различать поддержку и поддакивание, эмпатию и ее симуляцию, полезную персонализацию и эмоциональное подкрепление, которое делает систему просто слишком убедительной.

Немного о попытке ЕС превратить авторское право из разрозненного набора запретов в машиночитаемую инфраструктуру управления обучающими данными

Как известно, европейское авторское право позволяет правообладателю запретить использование своего произведения для анализа текстов и данных, в том числе в контексте обучения AI-моделей.

🔴 Но есть проблема: это право пока плохо масштабируется

Сегодня отказ может быть выражен через технические сигналы на сайте, метаданные, отраслевые стандарты и другие механизмы. Но нет единого способа сообщить всем AI-разработчикам, что конкретное произведение нельзя использовать для обучения.

Право формально существует, но его практическое исполнение зависит от того, заметит ли разработчик нужный сигнал и сможет ли сохранить эту информацию на всех этапах подготовки обучающего массива.

В прошлом году французское Министерство культуры запустило переговоры между разработчиками генеративных моделей и представителями культурных и медийных индустрий. За этим стояло две цели:

🔘улучшить механизм отказа от использования произведений и

🔘создать более понятные условия лицензирования и вознаграждения правообладателей

Переговоры и консультации привели к идее создания единого реестра резервирования прав. Ее суть в том, что вместо того чтобы разработчику искать запреты по всему интернету, правообладатель мог бы зафиксировать правовой статус произведения в общей системе, а разработчик – автоматически сверять с ней обучающие данные.

В развитие этой идеи в июле этого года Еврокомиссия опубликовала исследование о возможности создания общеевропейского реестра отказов от анализа текстов и данных. По мнению ЕК, эта идея технически реализуема и может существенно облегчить как выражение отказа правообладателями, так и его обнаружение AI-разработчиками. В качестве основы рассматриваются идентификаторы произведений, метаданные и технологии цифрового распознавания содержания.

Смысл в том, что, если правовой статус произведения становится машиночитаемым, его можно встроить непосредственно в процесс подготовки обучающих данных. Разработчик сможет заранее определить, разрешено ли использование, требуется ли лицензия или объект нужно исключить из корпуса. Таким образом, речь идет не просто об отказе автора в условном robots.txt, а о новой инфраструктуре управления правами на обучающие данные.

🌞 Robots.txt способен передать простой технический сигнал, но авторское право намного многогранней, чем «можно / нельзя». Ведь правообладатель может согласиться на обучение только по лицензии, разрешить использование для исследований, но запретить коммерческое обучение, либо установить другие условия.

🌞 Новая европейская модель предполагает гораздо больше, чем «можно / нельзя»: право должно быть технически обнаружимым, проверяемым и связанным с конкретным произведением на протяжении всего жизненного цикла данных.

И такой реестр – это уже не просто список отказов от авторов, а более сложная система, где каждый объект получает дополнительный слой – свой правовой статус. Как минимум, есть id произведения, цепочка проверки прав (оснований использования), порядок заключения лицензий и фиксации условий использования.

Если этот подход закрепится на уровне ЕС, следующий крупный слой инфраструктуры GenAI будет строиться уже не только вокруг моделей и вычислительных мощностей, но и вокруг ответа на юридический вопрос: кто разрешил использовать данные и на каких условиях?