AI в HR: что должны учитывать работодатели в ЕС
Часть 1
Системы ИИ в сфере занятости по AI Act подразделяются на подкатегории (Annex III AI Act):
▪️ системы, используемые для набора персонала, рекламы и оценки кандидатов (например, написание описаний вакансий, взаимодействие с кандидатами через чат-ботов, фильтрация заявок, подготовка сценариев собеседований или анализ и оценка ответов и поведения кандидатов);
▪️ системы, используемые для принятия решений относительно повышения по службе, увольнений, назначения задач на основе индивидуального поведения или характеристик, а также мониторинга и оценки индивидуальной производительности и поведения ( организация работы, установление показателей и целей, выявление возможностей для развития, разработка программ вознаграждения, разработка планов преемственности или выявление сотрудников, имеющих право на повышение).
Примеры ИИ- инструментов по оценки категории риска:
▪️Запрещены (Unacceptable risk): инструменты по определению эмоций сотрудников на работе (если только они не служат медицинским целям или целям обеспечения безопасности, таким как контроль усталости), инструменты использующие данные биометрии, расы, политических, религиозных и философских взглядов, сексуальной ориентации.
▪️Высокий риск: инструменты, используемые при приеме на работу или отборе людей, для размещения целевых объявлений о приеме на работу, анализа и фильтрации заявлений о приеме на работу и оценки кандидатов, инструменты, используемые для принятия решений рабочего характера (повышение, увольнение и тд); для создания задач на основе индивидуального поведения и черт сотрудника; для мониторинга эффективности сотрудника.
▪️Исключения (ст. 6(3) AI Act) которые не представляют существенного риска причинения вреда здоровью, безопасности или фундаментальным правам физических лиц, включая отсутствие значительного влияния на принятие решений при выполнении следующих условий:
- выполнение узкой процедурной задачи.
- улучшение результата завершенной человеком деятельности.
- обнаружение паттернов решений без замены оценки человека.
- выполнение подготовительной задачи для оценки.
Например, инструменты для аппрува отпусков, переводчики, обучающие программы.
Работодатель - развертыватель высокорисковой системы ИИ, если не является разработчиками систем ИИ, но покупает и использует существующие системы ИИ.
Работодатель - поставщик высокорисковой системы ИИ, если сам «настраивает» высокорисковые системы ИИ.
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Часть 1
Системы ИИ в сфере занятости по AI Act подразделяются на подкатегории (Annex III AI Act):
▪️ системы, используемые для набора персонала, рекламы и оценки кандидатов (например, написание описаний вакансий, взаимодействие с кандидатами через чат-ботов, фильтрация заявок, подготовка сценариев собеседований или анализ и оценка ответов и поведения кандидатов);
▪️ системы, используемые для принятия решений относительно повышения по службе, увольнений, назначения задач на основе индивидуального поведения или характеристик, а также мониторинга и оценки индивидуальной производительности и поведения ( организация работы, установление показателей и целей, выявление возможностей для развития, разработка программ вознаграждения, разработка планов преемственности или выявление сотрудников, имеющих право на повышение).
Примеры ИИ- инструментов по оценки категории риска:
▪️Запрещены (Unacceptable risk): инструменты по определению эмоций сотрудников на работе (если только они не служат медицинским целям или целям обеспечения безопасности, таким как контроль усталости), инструменты использующие данные биометрии, расы, политических, религиозных и философских взглядов, сексуальной ориентации.
▪️Высокий риск: инструменты, используемые при приеме на работу или отборе людей, для размещения целевых объявлений о приеме на работу, анализа и фильтрации заявлений о приеме на работу и оценки кандидатов, инструменты, используемые для принятия решений рабочего характера (повышение, увольнение и тд); для создания задач на основе индивидуального поведения и черт сотрудника; для мониторинга эффективности сотрудника.
▪️Исключения (ст. 6(3) AI Act) которые не представляют существенного риска причинения вреда здоровью, безопасности или фундаментальным правам физических лиц, включая отсутствие значительного влияния на принятие решений при выполнении следующих условий:
- выполнение узкой процедурной задачи.
- улучшение результата завершенной человеком деятельности.
- обнаружение паттернов решений без замены оценки человека.
- выполнение подготовительной задачи для оценки.
Например, инструменты для аппрува отпусков, переводчики, обучающие программы.
Работодатель - развертыватель высокорисковой системы ИИ, если не является разработчиками систем ИИ, но покупает и использует существующие системы ИИ.
Работодатель - поставщик высокорисковой системы ИИ, если сам «настраивает» высокорисковые системы ИИ.
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
AI в HR: что должны учитывать работодатели в ЕС
Часть 2
Индивидуальные меры регулирования нац. законодательства + требования к системам ИИ с высоким риском + основополагающие принципы, регулирующие этические практики наблюдения = ответственное и этичное использование ИИ, обеспечивая баланс между технологическими достижениями и защитой индивидуальных прав.
📝 Чек-лист:
1️⃣ Осознанное согласие: сотрудники должны быть полностью информированы об используемых инструментах мониторинга, их целях и собираемых данных. Получение явного согласия обеспечивает осведомленность и согласие с методами наблюдения.
2️⃣ Обеспечить прозрачность: работники и кандидаты должны понимать, когда при принятии кадровых решений используется ИИ, какие данные анализируются и каким образом результаты влияют на итоговое решение.
3️⃣ Минимизация данных: следует собирать только необходимые данные для законных деловых целей. Этот принцип предотвращает чрезмерное наблюдение, защищая сотрудников от ненужного вторжения в личную жизнь.
4️⃣ Недискриминация: системы ИИ должны быть разработаны и внедрены таким образом, чтобы избегать дискриминации по признаку расы, пола, возраста или других защищенных характеристик. Регулярные проверки и стратегии смягчения предвзятости имеют важное значение для обеспечения справедливости в практике наблюдения. Соответствующий и достаточно репрезентативный ввод данных, например, в систему подбора персонала на основе ИИ, которая поддерживает выбор подходящих кандидатов.
5️⃣ Соразмерность и необходимость: мониторинг должен быть соразмерен его цели. Например, отслеживание производительности может быть оправдано, но постоянное наблюдение без четкой, необходимой цели неэтично и потенциально незаконно.
6️⃣ Проведение DPIA. Определить обязательства путем соблюдения подхода, основанного на оценке риска, как для уже используемых систем ИИ, так и для планирования и внедрения новых систем.
7️⃣ Установить правила использования ИИ на рабочем месте и предложить обучение по базовому техническому пониманию ИИ.
8️⃣ Назначить должностное лицо по внедрению и использованию ИИ в рабочих процессах/человеческий надзор.
9️⃣ Использование и мониторинг высокорисковых систем ИИ в соответствии с инструкциями по использованию и немедленное сообщение об обнаруженных рисках.
1️⃣ 0️⃣ Участие представителей сотрудников (это обязательство уже применяется в некоторых государствах-членах, например, в Германии).
1️⃣ 1️⃣ Если работодатель классифицируется как поставщик - обеспечить, чтобы система ИИ с высоким риском соответствовала общим требованиям к надежному ИИ, пройти процедуру оценки соответствия и внедрить систему управления качеством, соблюдать строгие обязательства по регистрации, документированию и предоставлению информации.
Подробно в предыдущих постах про:
🔹ИИ для встреч (записи, саммари, заметки и черновики документов);
🔹ИИ-переводчики и защита персональных данных;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;
🔹Синтетические данные сотрудников: для чего нужны и какие риски использования;
Гайды регуляторов:
▪️Here’s what jobseekers need to know about automated recruitment decisions/ ICO;
▪️AI tools in recruitment, Audit outcomes report November 2024 by ICO;
▪️Recent policy developments on AI in the labour market;
▪️Navigating AI with Pestalozzi – Part 6: Employment;
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Часть 2
Индивидуальные меры регулирования нац. законодательства + требования к системам ИИ с высоким риском + основополагающие принципы, регулирующие этические практики наблюдения = ответственное и этичное использование ИИ, обеспечивая баланс между технологическими достижениями и защитой индивидуальных прав.
📝 Чек-лист:
Подробно в предыдущих постах про:
🔹ИИ для встреч (записи, саммари, заметки и черновики документов);
🔹ИИ-переводчики и защита персональных данных;
🔹ИИ-транскрипция голоса и персональные данные (позиция Испанского регулятора (AEPD));
🔹AI- транскрипция на собеседованиях и GDPR: разъяснения латвийского регулятора;
🔹Синтетические данные сотрудников: для чего нужны и какие риски использования;
Гайды регуляторов:
▪️Here’s what jobseekers need to know about automated recruitment decisions/ ICO;
▪️AI tools in recruitment, Audit outcomes report November 2024 by ICO;
▪️Recent policy developments on AI in the labour market;
▪️Navigating AI with Pestalozzi – Part 6: Employment;
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM
В Польше подписан Закон об ИИ
Президентом подписан Закон от 3 июля 2026 года "О системах искусственного интеллекта" (o systemach sztucznej inteligencji) в развитие положений EU AI Act. Полный текст здесь.
👀 Разбираем ключевые пункты:
1️⃣ Создается специализированный орган надзора за рынком ИИ - Комиссия по развитию и безопасности ИИ (Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji).
Компетенции (ст.6): контроль за соблюдением требований EU AI Act, проведение проверок и аудитов, наложение административных штрафов, а также ведение национального реестра, реализация образовательных программ и т.п.
Регулятор работает в контакте с UOKiK (защита конкуренции и потребителей), UKE, KNF и PUODO (защита персональных данных), что обеспечивает всесторонний контроль использования алгоритмов.
Состав комиссии: председатель, два заместителя председателя и четыре члена, назначенные органами, ответственными за конкуренцию и защиту прав потребителей, финансовый надзор, вещание и электронные коммуникации. Её члены должны действовать самостоятельно. Председатель назначается Сеймом с согласия Сената на пятилетний срок и может служить не более двух сроков.
Социальный совет по искусственному интеллекту будет работать вместе с Комиссией в качестве консультативного органа. В него войдут представители государственных учреждений, академических кругов, бизнеса, профсоюзов и гражданского общества. Совет сможет выносить мнения, формулировать собственные позиции и запрашивать инициирование процедур по исполнению исполнения.
2️⃣ Процедура официальных запросов (ст. 9 -17).
Если у компании есть сомнения, относится ли её ИИ-решение к категории высокого риска (high-risk) или подпадает ли под ограничения, она может подать заявление в Комиссию на получение официального индивидуального заключения.
Запрос позволяет заранее прояснить позицию регулятора, зафиксировать правовой статус системы и сформировать доказательную базу на случай будущих проверок.
3️⃣ Вводятся правила проведения проверок.
Комиссия (плановые и внеплановые инспекции), Социальный совет (Rada Społeczna) или граждане/клиенты могут инициировать процесс через механизм официальных жалоб (например, при оспаривании автоматизированного отказа в найме или кредите).
При незначительных отклонениях Комиссия может выдать предписание с указанием конкретных мер для восстановления соответствия с требованиями закона без наложения штрафа.
В случае существенных нарушений регулятор уполномочен обязать компанию изменить алгоритм, приостановить его использование или полностью отозвать ИИ-систему с рынка.
Все решения Комиссии (включая штрафы и запреты) обжалуются в специализированном Суде по защите конкуренции и потребителей в Варшаве (SOKiK).
4️⃣ Вводится возможность досудебного урегулирования, заключив официальное соглашение с Комиссией и взяв на себя обязательства по устранению нарушений. В случае активного сотрудничества и полного устранения последствий соглашение позволяет существенно снизить размер штрафа или полностью освободить компанию от административной ответственности.
5️⃣ Вводится уголовная ответственность для должностных лиц (директоров, ответственных за комплаенс):
▪️за воспрепятствование или противодействие проведению проверки Комиссией;
▪️за непредоставление (или предоставление ложной) информации, необходимой для определения размера штрафа.
6️⃣ Правовая база для регуляторных песочниц. Доступ будет предоставлен через конкурсную процедуру. Микро, малые и средние предприятия смогут участвовать бесплатно.
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Президентом подписан Закон от 3 июля 2026 года "О системах искусственного интеллекта" (o systemach sztucznej inteligencji) в развитие положений EU AI Act. Полный текст здесь.
Компетенции (ст.6): контроль за соблюдением требований EU AI Act, проведение проверок и аудитов, наложение административных штрафов, а также ведение национального реестра, реализация образовательных программ и т.п.
Регулятор работает в контакте с UOKiK (защита конкуренции и потребителей), UKE, KNF и PUODO (защита персональных данных), что обеспечивает всесторонний контроль использования алгоритмов.
Состав комиссии: председатель, два заместителя председателя и четыре члена, назначенные органами, ответственными за конкуренцию и защиту прав потребителей, финансовый надзор, вещание и электронные коммуникации. Её члены должны действовать самостоятельно. Председатель назначается Сеймом с согласия Сената на пятилетний срок и может служить не более двух сроков.
Социальный совет по искусственному интеллекту будет работать вместе с Комиссией в качестве консультативного органа. В него войдут представители государственных учреждений, академических кругов, бизнеса, профсоюзов и гражданского общества. Совет сможет выносить мнения, формулировать собственные позиции и запрашивать инициирование процедур по исполнению исполнения.
Если у компании есть сомнения, относится ли её ИИ-решение к категории высокого риска (high-risk) или подпадает ли под ограничения, она может подать заявление в Комиссию на получение официального индивидуального заключения.
Запрос позволяет заранее прояснить позицию регулятора, зафиксировать правовой статус системы и сформировать доказательную базу на случай будущих проверок.
Комиссия (плановые и внеплановые инспекции), Социальный совет (Rada Społeczna) или граждане/клиенты могут инициировать процесс через механизм официальных жалоб (например, при оспаривании автоматизированного отказа в найме или кредите).
При незначительных отклонениях Комиссия может выдать предписание с указанием конкретных мер для восстановления соответствия с требованиями закона без наложения штрафа.
В случае существенных нарушений регулятор уполномочен обязать компанию изменить алгоритм, приостановить его использование или полностью отозвать ИИ-систему с рынка.
Все решения Комиссии (включая штрафы и запреты) обжалуются в специализированном Суде по защите конкуренции и потребителей в Варшаве (SOKiK).
▪️за воспрепятствование или противодействие проведению проверки Комиссией;
▪️за непредоставление (или предоставление ложной) информации, необходимой для определения размера штрафа.
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM
Доверие к ИИ важнее политики конфиденциальности
С 23 по 26 августа пройдет SOUPS 2026 (Symposium on Usable Privacy and Security), объединяющий экспертов в области взаимодействия человека с компьютером, информационной безопасности и психологии.
👀 Один из докладов посвящен вопросу: как пользователи оценивают существующие коммуникации в области безопасности и конфиденциальности? Препринт здесь.
Исследователи опросили 21 человек в США и выяснили, что большинство людей не читают политики конфиденциальности, описания безопасности или документацию. Вместо этого они судят о надежности сервиса по косвенным признакам:
▪️ насколько известна компания;
▪️ насколько популярен сервис;
▪️ пользуются ли им друзья и коллеги;
▪️ вызывает ли интерфейс ощущение доверия.
Если возникают сомнения, пользователи чаще отказываются использовать ИИ для работы с конфиденциальной информацией, чем пытаются разобраться в юридических документах.
При этом участники исследования достаточно четко сформулировали, какой прозрачности они ожидают. Вместо длинных политик они хотят:
▪️ безопасные настройки по умолчанию;
▪️ возможность получить более подробную информацию только при необходимости;
▪️ понятные сведения о том, какие данные собираются и как используются;
▪️ независимые оценки и сертификацию, которым можно доверять.
Авторы рекомендуют проектировать интерфейсы так, чтобы безопасность была обеспечена по умолчанию, предлагая при этом дополнительную детализацию по запросу. Такой подход снижает когнитивную нагрузку и помогает избежать ложного ощущения безопасности, которое может возникать при большом количестве настроек.
Также обращают внимание на то, что сегодня требования к прозрачности ИИ существенно различаются между странами. AI Act устанавливает обязательные требования к прозрачности для отдельных категорий ИИ-систем, тогда как многие другие международные инициативы, включая Singapore Model AI Governance Framework и OECD Hiroshima AI Process Reporting Framework, носят рекомендательный характер.
По мнению исследователей, следующим этапом развития регулирования должны стать обязательные механизмы прозрачности, ориентированные на потребителя:
▪️стандартизированные и сопоставимые раскрытия информации о работе ИИ;
▪️независимая сертификация, которой можно доверять;
▪️единые сигналы безопасности, понятные пользователям.
Одновременно регуляторам предстоит бороться с явлением, которое авторы называют transparency washing, т.е. созданием ложного ощущения прозрачности с помощью расплывчатых обещаний, собственных «значков доверия» без независимой проверки или интерфейсов, которые побуждают пользователя раскрывать больше данных, скрывая при этом важные условия их обработки.
В программе конференции также исследования о совместном использовании устройств семьями, защите уязвимых групп пользователей, борьбе с цифровым мошенничеством, кибербезопасности и ИИ, уведомлениях о конфиденциальности, разрешениях и маркировке.
Про еще один доклад в следующем посте.
#UXWatch
————
@pattern_ai | AI GDPR Navigator
С 23 по 26 августа пройдет SOUPS 2026 (Symposium on Usable Privacy and Security), объединяющий экспертов в области взаимодействия человека с компьютером, информационной безопасности и психологии.
Исследователи опросили 21 человек в США и выяснили, что большинство людей не читают политики конфиденциальности, описания безопасности или документацию. Вместо этого они судят о надежности сервиса по косвенным признакам:
▪️ насколько известна компания;
▪️ насколько популярен сервис;
▪️ пользуются ли им друзья и коллеги;
▪️ вызывает ли интерфейс ощущение доверия.
Если возникают сомнения, пользователи чаще отказываются использовать ИИ для работы с конфиденциальной информацией, чем пытаются разобраться в юридических документах.
При этом участники исследования достаточно четко сформулировали, какой прозрачности они ожидают. Вместо длинных политик они хотят:
▪️ безопасные настройки по умолчанию;
▪️ возможность получить более подробную информацию только при необходимости;
▪️ понятные сведения о том, какие данные собираются и как используются;
▪️ независимые оценки и сертификацию, которым можно доверять.
Авторы рекомендуют проектировать интерфейсы так, чтобы безопасность была обеспечена по умолчанию, предлагая при этом дополнительную детализацию по запросу. Такой подход снижает когнитивную нагрузку и помогает избежать ложного ощущения безопасности, которое может возникать при большом количестве настроек.
Также обращают внимание на то, что сегодня требования к прозрачности ИИ существенно различаются между странами. AI Act устанавливает обязательные требования к прозрачности для отдельных категорий ИИ-систем, тогда как многие другие международные инициативы, включая Singapore Model AI Governance Framework и OECD Hiroshima AI Process Reporting Framework, носят рекомендательный характер.
При этом большинство существующих требований сосредоточено на технической документации, управлении рисками и отчетности для регуляторов, а не на информации, понятной обычному пользователю
По мнению исследователей, следующим этапом развития регулирования должны стать обязательные механизмы прозрачности, ориентированные на потребителя:
▪️стандартизированные и сопоставимые раскрытия информации о работе ИИ;
▪️независимая сертификация, которой можно доверять;
▪️единые сигналы безопасности, понятные пользователям.
Одновременно регуляторам предстоит бороться с явлением, которое авторы называют transparency washing, т.е. созданием ложного ощущения прозрачности с помощью расплывчатых обещаний, собственных «значков доверия» без независимой проверки или интерфейсов, которые побуждают пользователя раскрывать больше данных, скрывая при этом важные условия их обработки.
В программе конференции также исследования о совместном использовании устройств семьями, защите уязвимых групп пользователей, борьбе с цифровым мошенничеством, кибербезопасности и ИИ, уведомлениях о конфиденциальности, разрешениях и маркировке.
Про еще один доклад в следующем посте.
#UXWatch
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM
Чьи рекомендации важнее, человека или ИИ?
Недавно на Линкедине мне попался пост, как девушка не знала, радоваться, смеяться или плакать, потому что тезисы ее старого поста стали попадаться в обзор Google AI Overviews
и, соответственно, содержали ошибки и неточности, т.к. положения законодательства уже успели поменяться.
На конференции SOUPS 2026 исследователи представят результаты немного по другому вопросу в работе «Clear, Actionable and Confidence-Inspiring Recommendations? Comparative Study of AI-Generated and Human-Written Penetration Testing Reports». Она будет опубликована в сборнике после конференции.
Суть в том, что 600 специалистов по ИТ и кибербезопасности оценивали и сравнивали рекомендации по устранению уязвимостей, которые были написаны экспертами и сгенерированы ИИ.
Оценивались по трем критериям:
▪️насколько понятны рекомендации;
▪️насколько легко их выполнить;
▪️насколько они внушают уверенность в правильности действий.
Исследователи обнаружили, что происхождение текста ( человек или ИИ) само по себе не определяет его качество. Гораздо большее значение имеет структура рекомендации.
Наиболее высокие оценки получили рекомендации, которые:
▪️ разбиты на последовательные шаги;
▪️ содержат конкретные действия;
▪️ исключают двусмысленность;
▪️ помогают быстро понять, что именно нужно сделать.
❕Этот вывод хорошо отражает более широкий тренд в использовании генеративного ИИ. Пользователи оценивают прежде всего качество результата, а не то, кем он создан. И, возможно, именно поэтому хорошо структурированные материалы чаще становятся источниками для ИИ-сервисов. Но они не всегда актуальны или безошибочны. Если информация не обновляется, ИИ будет воспроизводить уже устаревшие выводы.
📌 Ошибки Google AI Overviews
#UXWatch
————
@pattern_ai | AI GDPR Navigator
Недавно на Линкедине мне попался пост, как девушка не знала, радоваться, смеяться или плакать, потому что тезисы ее старого поста стали попадаться в обзор Google AI Overviews
и, соответственно, содержали ошибки и неточности, т.к. положения законодательства уже успели поменяться.
На конференции SOUPS 2026 исследователи представят результаты немного по другому вопросу в работе «Clear, Actionable and Confidence-Inspiring Recommendations? Comparative Study of AI-Generated and Human-Written Penetration Testing Reports». Она будет опубликована в сборнике после конференции.
Суть в том, что 600 специалистов по ИТ и кибербезопасности оценивали и сравнивали рекомендации по устранению уязвимостей, которые были написаны экспертами и сгенерированы ИИ.
Оценивались по трем критериям:
▪️насколько понятны рекомендации;
▪️насколько легко их выполнить;
▪️насколько они внушают уверенность в правильности действий.
Исследователи обнаружили, что происхождение текста ( человек или ИИ) само по себе не определяет его качество. Гораздо большее значение имеет структура рекомендации.
Наиболее высокие оценки получили рекомендации, которые:
▪️ разбиты на последовательные шаги;
▪️ содержат конкретные действия;
▪️ исключают двусмысленность;
▪️ помогают быстро понять, что именно нужно сделать.
❕Этот вывод хорошо отражает более широкий тренд в использовании генеративного ИИ. Пользователи оценивают прежде всего качество результата, а не то, кем он создан. И, возможно, именно поэтому хорошо структурированные материалы чаще становятся источниками для ИИ-сервисов. Но они не всегда актуальны или безошибочны. Если информация не обновляется, ИИ будет воспроизводить уже устаревшие выводы.
#UXWatch
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Если ИИ «запомнил» произведение, это может быть нарушением авторских прав
Суд Мюнхена последователен и после кейса с OpenAI вынес решение, по которому Suno должна предоставить информацию GEMA и выплатить компенсацию. Решение пока не вступило в законную силу.
1️⃣ Суд пришел к выводу, что спорные музыкальные произведения воспроизводимо содержатся в моделях Suno (v3.5 и v4). По мнению суда, модели не только извлекли закономерности из обучающих данных, но и сохранили содержание произведений в своих параметрах.
Эти модели хранились на серверах в Германии. Исследования в области информационных технологий показали, что обучающие данные могут содержаться в моделях ИИ и извлекаться в качестве выходных данных.
2️⃣ Само обучение может нарушать авторские права. Суд признал, что воспроизведение произведений в процессе обучения является использованием, подпадающим под исключительное право автора на воспроизведение. При этом немецкое исключение для интеллектуального анализа текста и данных (TDM) в данном случае, по мнению суда, не применяется.
3️⃣ Воспроизводя музыку в выходных данных в Германии, ответчики незаконно воспроизвели и публично исполнили спорные музыкальные произведения. Оригинальные элементы музыки были узнаваемы в выходных данных.
4️⃣ Ответственность за это несут разработчики, а не пользователи. Выходные данные генерировались с помощью простых и открытых запросов, которые указывали только на текст и музыкальный стиль. Ответчики управляли моделями ИИ, для которых музыка была выбрана в качестве обучающих данных и на которых модели обучались. Они отвечали за архитектуру моделей и за запоминание обучающих данных.
5️⃣ Fair Use не спас. Суд также оценил обучение с точки зрения американского авторского права, поскольку копирование произведений происходило в США. В отличие от недавних дел Bartz и Kadrey, где обучение моделей было признано добросовестным использованием, здесь суд указал, что модель способна воспроизводить произведения, существенно схожие с оригиналами. Поэтому защита по §107 Copyright Act, по мнению суда, неприменима.
Три элемента вместе:
▪️ наличие произведений в обучающих данных;
▪️ их «запоминание» моделью;
▪️ возможность воспроизведения по относительно простым запросам.
❕Проверьте еще раз ваши датасеты и выдачу ответов.
📌 Кейс GEMA vs OpenAI
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Суд Мюнхена последователен и после кейса с OpenAI вынес решение, по которому Suno должна предоставить информацию GEMA и выплатить компенсацию. Решение пока не вступило в законную силу.
Эти модели хранились на серверах в Германии. Исследования в области информационных технологий показали, что обучающие данные могут содержаться в моделях ИИ и извлекаться в качестве выходных данных.
Три элемента вместе:
▪️ наличие произведений в обучающих данных;
▪️ их «запоминание» моделью;
▪️ возможность воспроизведения по относительно простым запросам.
❕Проверьте еще раз ваши датасеты и выдачу ответов.
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM
Решение Бабушкиного суда.pdf
278.2 KB
Загрузка данных в DeepSeek признана судом разглашением коммерческой тайны
Бабушкинский районный суд Москвы вынес решение, которое может стать важным ориентиром для компаний, внедряющих генеративный ИИ.
Суд рассмотрел дело об увольнении директора по продажам, которая выгружала корпоративные документы (лиды, панель РОПов, финансовые метрики по отделам) из внутренней системы Power BI в DeepSeek, а также пересылала служебные документы на личную почту и передавала конфиденциальную информацию поставщику. Служба ИБ поймала, работодатель провёл расследование и уволил.
Суд не требовал доказывать, что кто-либо действительно получил доступ к этой информации. Был применен подход, ранее сформулированный Конституционным Судом РФ (Постановление № 25-П от 26.10.2017), что уже само создание условий для неконтролируемого использования конфиденциальных данных может рассматриваться как нарушение режима коммерческой тайны.
Работодатель заранее оформил режим коммерческой тайны: утвердил перечень конфиденциальных сведений, ознакомил сотрудника с внутренними политиками, получил обязательство о неразглашении и потом провел служебное расследование в соответствии с требованиями трудового законодательства.
Похожая тенденция прослеживается в других странах.
Напомню, про кейс в США United States v. Heppner, где суд пришел к выводу, что использование публичного генеративного ИИ может привести к утрате адвокатской тайны, поскольку информация добровольно передается третьей стороне. Хотя дело касалось юридической привилегии, а не коммерческой тайны, логика очень похожа: передача данных во внешний ИИ-сервис означает потерю контроля над конфиденциальной информацией (см пост здесь).
В Великобритании в кейсе Munir v Secretary of State for the Home Department суд также указывал на риски использования публичных генеративных моделей для обработки клиентских документов и противопоставил их корпоративным решениям с контролируемой средой обработки данных.
В Европейском союзе регуляторы неоднократно рекомендуют организациям не передавать персональные данные и иную чувствительную информацию в публичные генеративные модели без соответствующих мер защиты:
▪️ рекомендации французского регулятора CNIL,
▪️позиция британского ICO по генеративному ИИ,
▪️Руководящие принципы по веб-скрейпингу для генеративного ИИ.
❕Бездумная загрузка корпоративной информации в публичные генеративные модели может приводить как к рискам информационной безопасности, так и юридическим.
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Бабушкинский районный суд Москвы вынес решение, которое может стать важным ориентиром для компаний, внедряющих генеративный ИИ.
Суд рассмотрел дело об увольнении директора по продажам, которая выгружала корпоративные документы (лиды, панель РОПов, финансовые метрики по отделам) из внутренней системы Power BI в DeepSeek, а также пересылала служебные документы на личную почту и передавала конфиденциальную информацию поставщику. Служба ИБ поймала, работодатель провёл расследование и уволил.
Суд не требовал доказывать, что кто-либо действительно получил доступ к этой информации. Был применен подход, ранее сформулированный Конституционным Судом РФ (Постановление № 25-П от 26.10.2017), что уже само создание условий для неконтролируемого использования конфиденциальных данных может рассматриваться как нарушение режима коммерческой тайны.
.....Выгрузка сведений, составляющих коммерческую тайну, и (или) являющихся конфиденциальной информацией, в систему искусственного интеллекта Deepseek, является разглашением таких сведений. ......Угроза заключается в том, что возможно просматривать активность пользователя или перехватывать передаваемые данные
Работодатель заранее оформил режим коммерческой тайны: утвердил перечень конфиденциальных сведений, ознакомил сотрудника с внутренними политиками, получил обязательство о неразглашении и потом провел служебное расследование в соответствии с требованиями трудового законодательства.
Похожая тенденция прослеживается в других странах.
Напомню, про кейс в США United States v. Heppner, где суд пришел к выводу, что использование публичного генеративного ИИ может привести к утрате адвокатской тайны, поскольку информация добровольно передается третьей стороне. Хотя дело касалось юридической привилегии, а не коммерческой тайны, логика очень похожа: передача данных во внешний ИИ-сервис означает потерю контроля над конфиденциальной информацией (см пост здесь).
В Великобритании в кейсе Munir v Secretary of State for the Home Department суд также указывал на риски использования публичных генеративных моделей для обработки клиентских документов и противопоставил их корпоративным решениям с контролируемой средой обработки данных.
В Европейском союзе регуляторы неоднократно рекомендуют организациям не передавать персональные данные и иную чувствительную информацию в публичные генеративные модели без соответствующих мер защиты:
▪️ рекомендации французского регулятора CNIL,
▪️позиция британского ICO по генеративному ИИ,
▪️Руководящие принципы по веб-скрейпингу для генеративного ИИ.
❕Бездумная загрузка корпоративной информации в публичные генеративные модели может приводить как к рискам информационной безопасности, так и юридическим.
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
В России с 1 сентября вступит в силу Закон "О поддержке развития технологий ИИ в РФ"
Ключевые нормы вступают в силу с 1 марта 2027 года.
Полный разбор можно почитать у RKS Global здесь.
Текст закона здесь.
1️⃣ Единых технических требований к маркировке нет, как нет и последствий ее отсутствия.
▪️Владельцы соц. сетей и иных информационных ресурсов (с аудиторией более 500 тысяч пользователей в сутки на территории РФ) обязаны обеспечить пользователям возможность разместить предупреждение о применении технологий ИИ.
▪️Обязанность пользователя маркировать такой материал, как и ответственность за отсутствие предупреждения, или технические требования к предупреждению, закон не устанавливает.
▪️Лица, предоставляющие возможность применения моделей, должны уведомить пользователя о принадлежности прав на полученные с помощью модели результаты интеллектуальной.
деятельности, а также об условиях доступа к ним, их использования и сохранения при наличии технической возможности.
2️⃣ Для обучения российских («суверенных» или «национальных») фундаментальных моделей ИИ разработчики смогут анализировать произведения, извлекать из них информацию, сравнивать, классифицировать, выявлять закономерности, тенденции и взаимосвязи, а также временно копировать их в память компьютера при одном из двух условий:
▪️разработчик получил экземпляр произведения законным способом (одной книги хватит); или
▪️произведение уже было опубликовано и доступно для анализа без технических ограничений (например, без защиты от доступа).
3️⃣ Дан термин большой фундаментальной модели ИИ и категории.
Суверенная модель разрабатывается российским ЮЛ, которое обеспечивает полную техническую воспроизводимость всего цикла разработки, включая обучение. Национальная модель тоже создаётся российским ЮЛ, но может включать зарубежные компоненты, распространяемые на условиях открытой лицензии. Данные и ответы пользователям должны храниться в дата-центрах на территории России, принадлежащих российским ЮЛ, а также подтверждать соответствие модели рос. законодательству и традиционным духовно-нравственным ценностям.
Планируется разделить центры обработки данных для ИИ (ЦОД ИИ) и прочих ЦОДов
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Ключевые нормы вступают в силу с 1 марта 2027 года.
Полный разбор можно почитать у RKS Global здесь.
Текст закона здесь.
▪️Владельцы соц. сетей и иных информационных ресурсов (с аудиторией более 500 тысяч пользователей в сутки на территории РФ) обязаны обеспечить пользователям возможность разместить предупреждение о применении технологий ИИ.
▪️Обязанность пользователя маркировать такой материал, как и ответственность за отсутствие предупреждения, или технические требования к предупреждению, закон не устанавливает.
▪️Лица, предоставляющие возможность применения моделей, должны уведомить пользователя о принадлежности прав на полученные с помощью модели результаты интеллектуальной.
деятельности, а также об условиях доступа к ним, их использования и сохранения при наличии технической возможности.
▪️разработчик получил экземпляр произведения законным способом (одной книги хватит); или
▪️произведение уже было опубликовано и доступно для анализа без технических ограничений (например, без защиты от доступа).
Суверенная модель разрабатывается российским ЮЛ, которое обеспечивает полную техническую воспроизводимость всего цикла разработки, включая обучение. Национальная модель тоже создаётся российским ЮЛ, но может включать зарубежные компоненты, распространяемые на условиях открытой лицензии. Данные и ответы пользователям должны храниться в дата-центрах на территории России, принадлежащих российским ЮЛ, а также подтверждать соответствие модели рос. законодательству и традиционным духовно-нравственным ценностям.
Планируется разделить центры обработки данных для ИИ (ЦОД ИИ) и прочих ЦОДов
#LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM
👎1
Android вводит обязательную верификацию разработчиков
Google продолжает внедрение Android Developer Verification (системы обязательной проверки личности разработчиков). После волны критики компания смягчила некоторые требования, но от самой идеи не отказалась.
1️⃣ Первые страны перейдут на новую систему уже в конце 2026 года, а затем она начнет распространяться на остальные регионы.
С 30 сентября 2026 обязательная верификация начинает применяться в:
▪️Бразилии,
▪️Индонезии,
▪️Сингапуре,
▪️Таиланде;
с 2027 года поэтапное распространение на остальные регионы мира.
2️⃣ Google хочет, чтобы верифицированы были разработчики любых Android-приложений, включая распространяемые:
▪️через собственные сайты;
▪️сторонние магазины приложений;
▪️APK-файлы;
▪️корпоративные каналы распространения.
Пользователь должен знать, кто создал приложение, даже если оно установлено не из Google Play.
В первоначальной концепции предполагалось, что приложения от неверифицированных разработчиков практически невозможно будет установить.
Однако после критики со стороны сообщества Android, разработчиков независимых магазинов приложений, организаций EFF, FSFE, F-Droid, Proton, Tor Project и других Google пересмотрел подход.
Теперь появился Advanced Flow. Если разработчик не прошел верификацию, пользователь все равно сможет установить приложение, но только после дополнительной процедуры:
▪️включить режим разработчика;
▪️подтвердить, что устройство не находится под удаленным управлением мошенника;
▪️перезагрузить устройство;
▪️подождать 24 часа;
▪️подтвердить установку с помощью PIN-кода или биометрии.
3️⃣ В июле Google запустил Android Developer ID Status API и ранний доступ к Android Developer Console API. Теперь магазины приложений и производители устройств могут автоматически проверять, зарегистрирован ли разработчик
4️⃣ Google также представил Limited Distribution Account.
Такой режим предназначен для студентов, образовательных проектов и небольших проектов:
▪️не требуется оплачивать регистрационный сбор;
▪️не требуется проходить полную идентификацию;
▪️приложение можно распространять максимум на 20 заранее авторизованных устройств.
🔍 Кто сможет пройти проверки?
Google сообщает, что проверяет личность разработчика, а не его гражданство. Формально критериями являются:
▪️подтверждение личности или существования компании;
▪️действительные документы;
▪️возможность связаться с разработчиком;
▪️контроль над аккаунтом Google.
Однако компания не опубликовала, какие документы принимаются по каждой стране и как будут обрабатываться документы государств, находящихся под санкциями.
Европейская комиссия пока не начала отдельного разбирательства относительно Android Developer Verification.
В настоящее время основное внимание ЕС сосредоточено на исполнении Digital Markets Act (DMA), в рамках которого Google уже обязали открыть Android для сторонних ИИ-ассистентов, предоставить больше возможностей выбора сервисов и обеспечить доступ конкурентов к системным функциям (см пост здесь).
❕Если Google не изменит планы, то в 2027 году Android может стать первой массовой мобильной платформой, где для распространения приложений вне официального магазина также потребуется подтверждение личности разработчика.
#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Google продолжает внедрение Android Developer Verification (системы обязательной проверки личности разработчиков). После волны критики компания смягчила некоторые требования, но от самой идеи не отказалась.
С 30 сентября 2026 обязательная верификация начинает применяться в:
▪️Бразилии,
▪️Индонезии,
▪️Сингапуре,
▪️Таиланде;
с 2027 года поэтапное распространение на остальные регионы мира.
▪️через собственные сайты;
▪️сторонние магазины приложений;
▪️APK-файлы;
▪️корпоративные каналы распространения.
Пользователь должен знать, кто создал приложение, даже если оно установлено не из Google Play.
В первоначальной концепции предполагалось, что приложения от неверифицированных разработчиков практически невозможно будет установить.
Однако после критики со стороны сообщества Android, разработчиков независимых магазинов приложений, организаций EFF, FSFE, F-Droid, Proton, Tor Project и других Google пересмотрел подход.
Теперь появился Advanced Flow. Если разработчик не прошел верификацию, пользователь все равно сможет установить приложение, но только после дополнительной процедуры:
▪️включить режим разработчика;
▪️подтвердить, что устройство не находится под удаленным управлением мошенника;
▪️перезагрузить устройство;
▪️подождать 24 часа;
▪️подтвердить установку с помощью PIN-кода или биометрии.
Такой режим предназначен для студентов, образовательных проектов и небольших проектов:
▪️не требуется оплачивать регистрационный сбор;
▪️не требуется проходить полную идентификацию;
▪️приложение можно распространять максимум на 20 заранее авторизованных устройств.
Google сообщает, что проверяет личность разработчика, а не его гражданство. Формально критериями являются:
▪️подтверждение личности или существования компании;
▪️действительные документы;
▪️возможность связаться с разработчиком;
▪️контроль над аккаунтом Google.
Однако компания не опубликовала, какие документы принимаются по каждой стране и как будут обрабатываться документы государств, находящихся под санкциями.
Европейская комиссия пока не начала отдельного разбирательства относительно Android Developer Verification.
В настоящее время основное внимание ЕС сосредоточено на исполнении Digital Markets Act (DMA), в рамках которого Google уже обязали открыть Android для сторонних ИИ-ассистентов, предоставить больше возможностей выбора сервисов и обеспечить доступ конкурентов к системным функциям (см пост здесь).
❕Если Google не изменит планы, то в 2027 году Android может стать первой массовой мобильной платформой, где для распространения приложений вне официального магазина также потребуется подтверждение личности разработчика.
#UXWatch #LawAndDisorder
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
ENISA Secure by Design and by Default.pdf
1.7 MB
ENISA Secure by Design and Default Playbook
80 страниц пользы, принципы и конкретные рекомендации по применению требований безопасности на протяжении всего жизненного цикла продукта.
#AIShelf
————
@pattern_ai | AI GDPR Navigator
80 страниц пользы, принципы и конкретные рекомендации по применению требований безопасности на протяжении всего жизненного цикла продукта.
#AIShelf
————
@pattern_ai | AI GDPR Navigator
Guide on federated learning.pdf
2.9 MB
Privacy Enhancing Technologies: Guide on Federated Learning|PDPC Singapore
Технологии повышения конфиденциальности (PET) позволяют организациям обрабатывать, анализировать и извлекать полезную информацию из данных, не раскрывая при этом личную или коммерчески конфиденциальную информацию.
Федеративные вычисления - один из методов, решающий проблему, как обеспечить совместную разработку ИИ в организациях, чьи наборы данных изолированы нормативными, конкурентными или операционными ограничениями.
Это достигается за счет переноса вычислений туда, где находятся данные, а не централизации необработанной конфиденциальной информации.
Включает в себя две взаимодополняющие возможности: федеративное обучение (FL) и федеративную аналитику (FA).
Гайд в основном посвящен FL из-за его большей технической сложности и рисков конфиденциальности, включает структурированную оценку соответствия проблемы, практические рекомендации по проектным решениям, а также средства управления и технические меры по снижению рисков.
Целевая аудитория: CIO, CTO, CDO, специалисты по ИИ, защите данных и лиц, принимающих технические решения, которые могут прямо или косвенно участвовать в оценке, внедрении и управлении федеративными системами.
#AIShelf
————
@pattern_ai | AI GDPR Navigator
Технологии повышения конфиденциальности (PET) позволяют организациям обрабатывать, анализировать и извлекать полезную информацию из данных, не раскрывая при этом личную или коммерчески конфиденциальную информацию.
Федеративные вычисления - один из методов, решающий проблему, как обеспечить совместную разработку ИИ в организациях, чьи наборы данных изолированы нормативными, конкурентными или операционными ограничениями.
Это достигается за счет переноса вычислений туда, где находятся данные, а не централизации необработанной конфиденциальной информации.
Включает в себя две взаимодополняющие возможности: федеративное обучение (FL) и федеративную аналитику (FA).
Гайд в основном посвящен FL из-за его большей технической сложности и рисков конфиденциальности, включает структурированную оценку соответствия проблемы, практические рекомендации по проектным решениям, а также средства управления и технические меры по снижению рисков.
Целевая аудитория: CIO, CTO, CDO, специалисты по ИИ, защите данных и лиц, принимающих технические решения, которые могут прямо или косвенно участвовать в оценке, внедрении и управлении федеративными системами.
#AIShelf
————
@pattern_ai | AI GDPR Navigator
Как компании будут бороться за рекомендации ИИ или почему SEO меняется
Еще недавно главной задачей маркетолога было оказаться на первой странице поисковой выдачи.
Сегодня у бизнеса появляется другой вопрос: «Что скажет нейросеть о моем бренде, когда пользователь спросит ее совета?»
Эта смена кажется небольшой, но она меняет модель цифрового маркетинга. С развитием ИИ-ассистентов путь клиента будет выглядеть, как пользователь → ChatGPT / Gemini / Алиса → рекомендация → покупка.
👀 А значит появляется новое направление Generative Engine Optimization (GEO) или попытка сделать так, чтобы ИИ чаще упоминал бренд в своих ответах.
Например, если пользователь спрашивает: «Какие сервисы подходят для автоматизации бухгалтерии?», то в поиске он получает список ссылок. ИИ может сразу сказать: «Для малого бизнеса можно рассмотреть X, Y и Z».
Сервисы вроде brandfound уже предлагают мониторинг того, как бренды представлены в ChatGPT, Gemini, Claude, Perplexity, Алисе и других системах, анализируя запросы пользователей и ответы нейросетей. Компания задает вопросы, которые реальные пользователи могут задавать нейросетям (например, какой банк выбрать для бизнеса в Европе). Дальше сервис проверяет ответы разных ИИ ( упоминается ли бренд, как часто он появляется, с кем его сравнивают, какие преимущества или недостатки ему приписывают) и создает аналитики для управления присутствием бренда в ответах ИИ.
Фактически появляется новая аналитика не сколько людей увидели рекламу", а сколько раз ИИ рекомендовал бренд потенциальному клиенту.
🔍 Какие методы использовать:
1️⃣ Структурированные данные. Разметка Schema.org позволяет указать поисковым системам, что именно находится на странице ( товар, цена, организация, отзывы, автор, дата публикации). Это помогает алгоритмам лучше понимать содержание сайта.
2️⃣ Файл llms.txt как экспериментальный подход и машинно-читаемый контент. Его идея похожа на robots.txt, т.е. дать ИИ-системам краткое описание сайта, его структуры и важных материалов. Например, компания может указать, какие страницы являются основными, где находится документация, какие данные можно использовать.
3️⃣ Авторитетность источников. ИИ-модели оценивают не только текст, а важны еще параметры, кто написал материал, насколько источник надежен, есть ли подтверждение информации, насколько давно обновлялись данные. Принцип E-E-A-T (опыт, экспертность, авторитетность, надежность), который Google использует в рекомендациях для качества контента, становится еще более важным.
4️⃣ Качество данных становится конкурентным преимуществом. Если в интернете противоречивая информация, ИИ может сделать неправильный вывод.
5️⃣ Учитывать контекст пользователя. Интеграции Google с собственными сервисами дают ИИ-помощникам возможности отвечать на вопрос "что важно именно для этого человека?". И тот же туристический сервис может быть рекомендован не просто потому, что у него хороший сайт, а потому что ИИ знает, что пользователь планирует поездку, у него есть определенные даты, он уже покупал похожие услуги.
❗️ Пользователям в таком контексте остается:
▪️не воспринимать ответ ИИ как истину.
▪️понимать, что рекомендации могут стать новым видом рекламы.
▪️учиться задавать вопросы, т.к. качество ответа будет зависеть от запроса. Не спрашивать "какой лучший банк", а " сравни, какие банки подходят под такие-то задачи, какие есть ограничения, зак-во, тарифы, история клиентских отношения и т.п".
▪️проверять результаты.
📌 Разметка структурированных данных Google,
GEO: Generative Engine Optimization,
What is Generative Engine Optimization (GEO) and how does it differ from SEO?
#UXWatch
————
@pattern_ai | AI GDPR Navigator
Еще недавно главной задачей маркетолога было оказаться на первой странице поисковой выдачи.
Сегодня у бизнеса появляется другой вопрос: «Что скажет нейросеть о моем бренде, когда пользователь спросит ее совета?»
Эта смена кажется небольшой, но она меняет модель цифрового маркетинга. С развитием ИИ-ассистентов путь клиента будет выглядеть, как пользователь → ChatGPT / Gemini / Алиса → рекомендация → покупка.
Например, если пользователь спрашивает: «Какие сервисы подходят для автоматизации бухгалтерии?», то в поиске он получает список ссылок. ИИ может сразу сказать: «Для малого бизнеса можно рассмотреть X, Y и Z».
Сервисы вроде brandfound уже предлагают мониторинг того, как бренды представлены в ChatGPT, Gemini, Claude, Perplexity, Алисе и других системах, анализируя запросы пользователей и ответы нейросетей. Компания задает вопросы, которые реальные пользователи могут задавать нейросетям (например, какой банк выбрать для бизнеса в Европе). Дальше сервис проверяет ответы разных ИИ ( упоминается ли бренд, как часто он появляется, с кем его сравнивают, какие преимущества или недостатки ему приписывают) и создает аналитики для управления присутствием бренда в ответах ИИ.
Фактически появляется новая аналитика не сколько людей увидели рекламу", а сколько раз ИИ рекомендовал бренд потенциальному клиенту.
▪️не воспринимать ответ ИИ как истину.
▪️понимать, что рекомендации могут стать новым видом рекламы.
▪️учиться задавать вопросы, т.к. качество ответа будет зависеть от запроса. Не спрашивать "какой лучший банк", а " сравни, какие банки подходят под такие-то задачи, какие есть ограничения, зак-во, тарифы, история клиентских отношения и т.п".
▪️проверять результаты.
📌 Разметка структурированных данных Google,
GEO: Generative Engine Optimization,
What is Generative Engine Optimization (GEO) and how does it differ from SEO?
#UXWatch
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
AI Assistants Overassist.pdf
1.8 MB
Синдром гиперопеки: как ИИ-ассистенты разрушают навыки долгосрочного обучения
Новое исследование Гарварда и Стенфорда показывает проблему современных ИИ-ассистентов: они мешают нам учиться, потому что помогают слишком быстро и слишком сильно.
Ученые представили бенчмарк INT-BENCH, который имитирует взаимодействие "ученика" и "учителя" в трех сферах: отладка кода, математика и логические задачи. Оценка происходит в области обучения по частоте и времени вмешательств, а также по влиянию на
как непосредственный успех в выполнении задачи, так и решения новых проблем.
Результаты сравнения ИИ-преподавателей с людьми оказались весьма показательными:
1️⃣ Синдром гиперопеки (Overassisting)
ИИ вмешивается слишком рано. В 90% случаев модель встревает в процесс рассуждения на самых первых шагах (в среднем показав всего 18% текста).
ИИ вмешивается, даже когда всё хорошо. Такие модели, как GPT-5.2 и GPT-OSS-120B, давали подсказки в 98–100% случаев, когда «ученик» прекрасно справлялся сам и шёл к верному ответу.
2️⃣ Сливы решений вместо обучения
Вместо того чтобы натолкнуть на мысль (наводящие вопросы, намеки), ИИ в 58–65% случаев сразу выдает почти готовый ответ или прямую инструкцию.
Человек-преподаватель в аналогичных условиях чаще указывает на ошибку косвенно или предлагает перепроверить шаги, давая возможность додумать самостоятельно.
3️⃣ Ноль навыков в долгосрочной перспективе (Generalization)
Быстрая помощь ИИ дает иллюзию успеха, т.к. сиюминутная точность выполнения задачи действительно растет.
Однако обобщение знаний падает. Когда «ученику» дают аналогичную, но новую задачу, наличие предыдущих подсказок от ИИ вообще не улучшает результат. Ученик не усваивает принцип, так как за него проделали всю ментальную работу.
Авторы статьи предупреждают о риске постепенного выгорания самостоятельного мышления (gradual disempowerment). Когда нейросети оптимизированы на быстрый результат, они приучают пользователя к «когнитивной разгрузке». Мы теряем навык преодоления сложных задач (productive struggle), ведь проще сразу получить готовый ответ.
Разработчикам LLM нужно обучать ассистентов не просто реверсировать ошибки, а балансировать между краткосрочной помощью и долгосрочным обучением, т.е. давать пользователю совершать ошибки и доходить до сути своим умом.
#UXWatch
————
@pattern_ai | AI GDPR Navigator
Новое исследование Гарварда и Стенфорда показывает проблему современных ИИ-ассистентов: они мешают нам учиться, потому что помогают слишком быстро и слишком сильно.
Ученые представили бенчмарк INT-BENCH, который имитирует взаимодействие "ученика" и "учителя" в трех сферах: отладка кода, математика и логические задачи. Оценка происходит в области обучения по частоте и времени вмешательств, а также по влиянию на
как непосредственный успех в выполнении задачи, так и решения новых проблем.
Результаты сравнения ИИ-преподавателей с людьми оказались весьма показательными:
ИИ вмешивается слишком рано. В 90% случаев модель встревает в процесс рассуждения на самых первых шагах (в среднем показав всего 18% текста).
ИИ вмешивается, даже когда всё хорошо. Такие модели, как GPT-5.2 и GPT-OSS-120B, давали подсказки в 98–100% случаев, когда «ученик» прекрасно справлялся сам и шёл к верному ответу.
Вместо того чтобы натолкнуть на мысль (наводящие вопросы, намеки), ИИ в 58–65% случаев сразу выдает почти готовый ответ или прямую инструкцию.
Человек-преподаватель в аналогичных условиях чаще указывает на ошибку косвенно или предлагает перепроверить шаги, давая возможность додумать самостоятельно.
Быстрая помощь ИИ дает иллюзию успеха, т.к. сиюминутная точность выполнения задачи действительно растет.
Однако обобщение знаний падает. Когда «ученику» дают аналогичную, но новую задачу, наличие предыдущих подсказок от ИИ вообще не улучшает результат. Ученик не усваивает принцип, так как за него проделали всю ментальную работу.
Авторы статьи предупреждают о риске постепенного выгорания самостоятельного мышления (gradual disempowerment). Когда нейросети оптимизированы на быстрый результат, они приучают пользователя к «когнитивной разгрузке». Мы теряем навык преодоления сложных задач (productive struggle), ведь проще сразу получить готовый ответ.
Разработчикам LLM нужно обучать ассистентов не просто реверсировать ошибки, а балансировать между краткосрочной помощью и долгосрочным обучением, т.е. давать пользователю совершать ошибки и доходить до сути своим умом.
#UXWatch
————
@pattern_ai | AI GDPR Navigator
Please open Telegram to view this post
VIEW IN TELEGRAM