🇺🇸 В США представлен TRAIN Act об обязательной прозрачности данных для обучения ИИ

В Палату представителей США внесен законопроект Transparency and Responsibility for Artificial Intelligence Networks (TRAIN) Act, который должен предоставить правообладателям доступ к записям о данных обучения ИИ, чтобы выяснять, использовались ли их произведения для обучения генеративных моделей без согласия и компенсации.

Предложение построено по логике правоприменения в делах об интернет-пиратстве и призван решить проблему отсутствия у авторов и правообладателей понятного механизма для проверки того, были ли их работы незаконно использованы при обучении ИИ.

Законопроект поддержан крупными организациями правообладателей и творческих профсоюзов, включая Recording Industry Association of America (RIAA) и SAG-AFTRA, а также рядом объединений музыкантов, издателей и организаций по лицензированию авторских прав.

#ИИ #АвторскоеПраво #IP

📖 Научные статьи для конференции NeurIPS содержат ИИ-галлюцинации и несуществующие ссылки

GPTZero сообщил, что выявил 100 ИИ-галлюцинации в 51 статье, принятой на Конференцию по нейронным системам обработки информации (NeurIPS), такие как выдуманные авторы, фальшивые источники и сгенерированный ИИ текст, заявленный как научная работа.

GPTZero связывает проблему с быстрым распространением инструментов генеративного ИИ на фоне растущего давления публиковаться как можно больше. Количество подач работ на NeurIPS выросло более чем на 220% за пять лет, что увеличило нагрузку на рецензентов и риски недостаточного контроля, плохой экспертизы, халатности и даже мошенничества. За тот же период в научных работах участились и содержательные ошибки, не связанные с источниками, включая неверные формулы, расчёты и ошибочные графики.

GPTZero указывает на рост частоты ошибок в статьях NeurIPS на 55,3% после появления ChatGPT.

#ИИ #ИИЭтика

📖 Опубликовано исследование об извлечении текстов в LLM и рисках нарушения авторских прав

Опубликовано новое исследование "Extracting books from production language models" в котором рассматривается вопрос о том, можно ли извлекать защищённые авторским правом данные обучения из закрытых, продакшн-LLM, несмотря на встроенные меры безопасности. Авторы протестировали двухфазный метод: первоначальную проверку возможности извлечения текста, а затем итеративные подсказки для продолжения. Эксперименты проведены на моделях Claude 3.7 Sonnet, GPT-4.1, Gemini 2.5 Pro и Grok 3, а успешность извлечения измерялось метрикой nv-recall, основанной на длине наибольшей общей подстроки.

Результаты показали, что извлечение защищенного авторским правом текста остаётся возможным. Для Gemini 2.5 Pro и Grok 3 удалось извлечь значительные фрагменты книги "Гарри Поттер и философский камень". Для Claude 3.7 Sonnet и GPT-4.1 были необходимы джейлбрейки, но извлечение тоже было возможным. В отдельных случаях взломанный Claude воспроизводил почти дословный текст целых книг. В свою очередь GPT-4.1 продемонстрировал существенно более низкие показатели извлечения и в итоге отказывался продолжать генерацию после множества попыток.

Авторы исследования делают вывод, что риск запоминания и извлекаемости защищённых авторским правом текстов сохраняется и для продакшн-LLM, даже при наличии системных и модельных ограничений.

#ИИ #IP #Copyright #Авторское право

🇺🇸 Департамент транспорта США планирует разрабатывать транспортные правила с помощью ИИ

По сообщениям СМИ, Министерство транспорта США (the U.S. Department of Transportation, DOT) планирует использовать Google Gemini для подготовки федеральных транспортных нормативных актов. Инициатива была представлена сотрудникам как способ ускорить нормотворчество. Руководство заявило, что подойдут «достаточно хорошие» правила, а в приоритете скорость написание, а не точность и качество.

В DOT утверждают, что ведомство стало первым федеральным агентством, "полностью готовым" к использованию ИИ для написания регуляторных актов и ставит целью доведение цикла подготовки нормативного акта до 30 дней. По словам сотрудников, ИИ уже использовался для подготовки пока не опубликованного документа Федерального авиационного управления.

Как утверждается, руководство департамента в первую очередь интересует объём норм, которые может производить ИИ. Gemini способен создавать черновики правил за минуты и выполнять 80–90% работы по их написанию, оставляя сотрудникам роль корректоров. Опасения по поводу галлюцинаций и ошибок были сведены к минимуму, несмотря на то что правила DOT напрямую касаются безопасности авиации и железнодорожных перевозок.

Планы вызвали критику со стороны действующих и бывших чиновников, юристов и исследователей, которые указывают на риски правовых дефектов, угрозы безопасности и возможные нарушения требования об обоснованности административных решений. Критики также обратили внимание на отток опытных специалистов из DOT и отметили, что использование ИИ может подменить экспертную работу генерацией формального текста.

#ИИ #АдминистративноеПраво

🇦🇪 В январе 2026 года началось применение Регламента 10 DIFC

Международный финансовый центр Дубая (Dubai International Financial Centre, DIFC) начал фактическое применение Регламента 10, который регулирует использование автономных и полуавтономных систем, обрабатывающих персональные данные. Регламент распространяется не только на провайдеров ИИ, но и на пользователей систем, например, на организации, применяющие сторонние ИИ-решения.

Регламент 10 применяется к системам, которые автономно обрабатывают персональные данные, формируют результаты и функционируют с ограниченным или отсутствующим человеческим вмешательством и вводит обязательную сертификацию для высокорисковых систем ИИ.

Подробный анализ Регламента 10 можно почитать здесь.

#ИИ #Дубай #DIFC

📖 Глава Anthropic опубликовал новое эссе о рисках ИИ

Генеральный директор Anthropic Дарио Амодеи опубликовал новое эссе "The Adolescence of Technology". В работе описываются ключевые риски, связанные с развитием передовых систем ИИ. Автор развивает идеи своего текста 2024 года "Machines of Loving Grace", но при этом смещает фокус с оптимизма на анализ угроз. Амодеи характеризует ИИ как "страну гениев в дата-центре", которую человечеству может оказаться трудно контролировать. Среди рисков он называет биотерроризм, автономное оружие, поддерживаемые ИИ авторитарные режимы и масштабные экономические потрясения.

Кроме того, Амодеи прогнозирует, что в ближайшие 5 лет под угрозой может оказаться до половины рабочих мест в начальных офисных должностях, а этом экономические шоки будут происходить быстрее, чем общество сможет к ним адаптироваться. Он отмечает, что экономические стимулы развития ИИ делают самоограничение крайне сложным, и призывает к мерам вроде экспортных ограничений на чипы и повышенной прозрачности со стороны ИИ-лабораторий. Отдельно автор указывает на риски, исходящие от самих ИИ-компаний и ссылается на внутренние тесты безопасности, в ходе которых модель Claude, по его словам, демонстрировала элементы обмана и шантажа.

В эссе подчеркивается, что ближайшие годы будут решающими: именно провалы в управлении и регулировании, а не только технические ошибки, могут определить, приведет ли развитие ИИ к широким общественным выгодам или к серьезному ущербу. Амодеи рассматривает управление рисками, институциональные ограничения и подотчетность как ключевые задачи наряду с ростом возможностей ИИ.

#ИИ #Кибербезопасность

🇺🇸🎼 Музыкальные издатели подали иск против Anthropic из-за обучения ИИ на пиратских данных

Крупные музыкальные издатели во главе с Universal Music Group и Concord Music Group подали иск против Anthropic, обвинив компанию в незаконной загрузке более 20 000 защищённых авторским правом музыкальных произведений для обучения чат-бота Claude. В иске утверждается, что в обучающий датасет вошли ноты, тексты песен и музыкальные композиции, включая произведения The Rolling Stones, Нила Даймонда и Элтона Джона. По версии истцов, материалы были получены через несанкционированное торрент-скачивание и использованы без согласия правообладателей.

Истцы оценивают возможный ущерб более чем в 3 млрд долларов, что может сделать это дело одним из крупнейших неколлективных споров об авторском праве в истории США.

«Хотя Anthropic вводит в заблуждение, позиционируя себя как компанию в сфере “безопасности и исследований ИИ”, её практика незаконного торрент-скачивания защищённых авторским правом произведений ясно показывает, что её многомиллиардная бизнес-империя фактически была построена на пиратстве».

#ИИ #IP #Copyright

🇸🇬 Сингапур опубликовал Model AI Governance Framework for Agentic AI

В Сингапуре опубликован документ Model AI Governance Framework for Agentic AI, посвящённый рискам систем ИИ, способных автономно планировать, действовать и взаимодействовать с окружающей средой. В документе указано, что агентный ИИ наследует как традиционные уязвимости программного обеспечения (например, SQL-инъекции), так и риски, характерные для LLM, такие как галлюцинации, предвзятость, утечки данных и атаки через промпты. При этом эти риски могут по-разному проявляться в различных компонентах агентной системы.

Страницы 6–7 документа посвящены систематизированному анализу рисков агентного ИИ.

#ИИ #ИИАгенты

🇮🇪 Ирландия опубликовала национальную схему исполнения Регламента ЕС об ИИ

Ирландия опубликовала General Scheme of the Regulation of Artificial Intelligence Bill 2026, в котором изложен подход к реализации и обеспечению исполнения Регламента ЕС об ИИ на национальном уровне.

Ирландия предлагает распределённую систему компетентных органов с опорой на уже существующие отраслевые регуляторы и созданием центрального координирующего органа. Документ предусматривает учреждение независимого органа Oifig Intleachta Shaorga na hÉireann (Офис ИИ Ирландии), который будет находится в ведении Министерства предпринимательства, туризма и занятости. Этот орган станет единым контактным пунктом и будет координировать исполнение Регламента ЕС об ИИ, тогда как отраслевые регуляторы получат полномочия по контролю и применению санкций в своих сферах.

Учитывая, что в Ирландии расположены европейские штаб-квартиры крупнейших американских технологических компаний, выбранная модель правоприменения может существенно повлиять на практику соблюдения требований Регламента ЕС об ИИ со стороны крупных разработчиков и пользователей ИИ.

#AIAct #Ирландия #ИИ

📖 Опубликован анализ рисков использования ИИ-чат-ботов для психического здоровья

Public Interest Research Group и Consumer Federation of America опубликовали совместный анализ, посвящённый использованию чат-ботов в качестве инструмента поддержки психического здоровья. Исследователи протестировали пять чат-ботов, доступных через Character.AI, и установили, что они предоставляли «сомнительные советы», а защитные механизмы ослабевали по мере увеличения длительности взаимодействия.

В отчёте также указано на недостаточные меры защиты конфиденциальности переписки и наличие элементов дизайна, способных вводить пользователей в заблуждение и формировать зависимость.

#ИИ #ИИЭтика

🇪🇺 Европарламент обсуждает новые меры по защите авторских прав в сфере ИИ

Комитет Европейского парламента по правовым вопросам одобрил инициативный доклад с предложениями по усилению защиты авторских прав в контексте генеративного ИИ. Среди предлагаемых мер есть требования к прозрачности практик использования обучающих данных для всех генеративных систем ИИ, доступных на рынке ЕС.

Депутаты Европарламента также предлагают внедрить механизмы вознаграждения правообладателей и создать добровольные коллективные лицензионные соглашения на отраслевом уровне. Доклад не носит обязательного характера, но отражает политическую позицию и будет вынесен на голосование на пленарной сессии Европарламента в марте.

#ИИ #IP #АвторскоеПраво

🇺🇸 Подан иск против компании, разрабатывающей ИИ для найма

Против компании Eightfold AI, разрабатывающей инструменты для скрининга кандидатов на рабочие места, подан иск, направленный на раскрытие принципов работы ее системы оценки соискателей. В иске утверждается, что используемые метрики скоринга по своей сути аналогичны кредитным рейтингам и поэтому должны регулироваться по схожим правилам.

Целью иска является попытка получить понимание того, какие данные Eightfold AI собирает о кандидатах и как именно происходит их ранжирование. Дело связано с проблемами непрозрачности систем ИИ в сфере найма, например, с ограниченной объяснимостью решений и рисками дискриминационной предвзятости, заложенной в «черных ящиках» алгоритмов.

#ИИ #HRTech

🇪🇺📖 ETSI опубликовал базовые стандарты безопасности ИИ для Европы

Европейский институт телекоммуникационных стандартов (European Telecommunications Standards Institute, ETSI) опубликовал базовые стандарты кибербезопасности для организаций, внедряющих системы искусственного интеллекта в Европе. Документ устанавливает требования к безопасности ИИ на всех этапах жизненного цикла от проектирования и внедрения до эксплуатации.

Стандарты разработаны на основе рекомендаций Национального центра кибербезопасности Великобритании и Департамента науки, инноваций и технологий. Они призваны стать единым ориентиром по безопасности ИИ и определить минимальные ожидания по защите систем ИИ от киберрисков.

#ИИ #Кибербезопасность

📖 Исследование Гарварда показало, что внедрение ИИ приводит к росту нагрузки сотрудников

Исследование, опубликованное в Harvard Business Review, показало, что использование ИИ-инструментов в одной технологической компании США в течение восьми месяцев не сократило рабочую нагрузку сотрудников. Напротив, около 200 работников, которые начали применять ИИ по собственной инициативе, расширили круг своих задач, стали работать больше часов и чаще заниматься многозадачностью. Исследование включало анализ рабочих практик и более 40 углублённых интервью.

Сотрудники отмечали, что ИИ делает ранее незнакомые задачи выполнимыми, что побуждало их выходить за рамки формальных должностных обязанностей. Также зафиксировано размывание границ между работой и отдыхом: сотрудники отправляли запросы ИИ после рабочего времени или во время перерывов.

Выводы исследования указывают на то, что рост производительности при внедрении ИИ вместо облегчения труда сотрудников может сопровождаться расширением ролей, увеличением рабочего времени и изменением темпа работы.

#ИИ #AIGovernance

🇺🇸⚖️ Дело прекращено из-за неоднократного злоупотребления ИИ адвокатом

Федеральный судья в Нью-Йорке прекратил рассмотрение дела после того, как адвокат Стивен Фельдман неоднократно подавал документы с фиктивными цитатами, возникшими при использовании ИИ в юридическом исследовании. Судья окружного суда Кэтрин Полк Файла постановила, что столь строгие санкции оправданы, поскольку Фельдман продолжал направлять ошибочные материалы, несмотря на требования их исправить.

Несмотря на то, что адвокат утверждал, что писал документы сам, а инструменты ИИ использовал только для проверки, суд отметил, что «крайне трудно поверить», что части текста с необычно витиеватым стилем и литературными отсылками не были сгенерированы ИИ.

Суд также отметил, что проверка судебных прецедентов является профессиональной обязанностью юриста и не может быть передана ИИ. Доводы адвоката об ограниченном доступе к юридическим базам данных не нашли поддержки у суда. Суд вынес заочное решение в пользу истцов и может обязать Фельдмана компенсировать расходы противоположной стороны.

#ИИ #LegalTech

🇺🇸⚖️ В Нью-Йорке судья постановил, что документы, созданные с помощью ИИ, не защищены адвокатской тайной

Судья Джед Ракофф из Окружного суда по Южному округу Нью-Йорка постановил, что документы, созданные обвиняемым Брэдли Хеппнером с использованием Claude от Anthropic и затем направленные своему адвокату, не подпадают под защиту адвокатской тайны или доктрины «работы адвоката».

Хеппнер при помощи ИИ подготовил стратегию защиты после получения повестки по собственной инициативе, а не по поручению защитника. После его ареста по обвинениям в мошенничестве с ценными бумагами и электронными средствами федеральные агенты изъяли подготовленные документы с его устройств.

Суд указал, что привилегия не применяется, поскольку сведения были переданы стороннему ИИ-инструменту, не обеспечивающему конфиденциальность. Также было отказано в защите по доктрине «работы адвоката», так как материалы не были подготовлены адвокатом или по его поручению и не отражали его правовую стратегию.

Дополнительным фактором было прямое указание разработчика ИИ об отсутствии гарантий конфиденциальности для пользователей.

#ИИ #АдвокатскаяТайна #LegalTech

🇺🇸 Департамент труда США опубликовал федеральные рекомендации по ИИ-грамотности

Департамент труда США опубликовал первые в стране рекомендации по ИИ-грамотности, предназначенные для разработки программ обучения ИИ в государственных органах, системе образования и среди работников государственного сектора. В документе ИИ-грамотность определяется как базовый набор компетенций для ответственного использования и оценки технологий ИИ с основным акцентом на генеративный ИИ как ключевой инструмент современной работы. Документ рассматривается как базовый уровень знаний, а не специализированная подготовка разработчиков ИИ.

Предполагается широкое применение рекомендаций с учетом адаптации под конкретные роли и задачи. Документ описывает пользу для работников (самостоятельное развитие навыков и адаптация к условиям работы с ИИ), работодателей (ответственное внедрение ИИ и управление изменениями рабочей силы) и образовательных организаций (разработка учебных программ и оценка компетенций). Несмотря на необязательный характер, документ может повлиять на программы обучения в частном секторе как в США, так и за их пределами.

Предполагается, что требования к ИИ-грамотности будут обновляться с учетом технологических изменений, динамики рынка труда и практики применения.

#ИИ #ИИГрамотность

🎼 Компания Sony разработала технологию для выявления исходной музыки в сгенерированных ИИ песнях

По сообщениям СМИ Sony Group разработала технологию, способную выявлять оригинальные музыкальные произведения, использованные в песнях, созданных искусственным интеллектом. Технология позволит авторам требовать компенсацию, если их работы применялись при обучении ИИ без их согласия.

Система анализирует, какие записи повлияли на обучение и генерацию, и может количественно оценивать вклад каждого источника. При сотрудничестве разработчика ИИ технология подключается к базовой модели для получения данных; при его отсутствии — сопоставляет результат генерации ИИ с существующей музыкой.

Компания считает, что технология может лечь в основу системы распределения доходов от ИИ-музыки между правообладателями пропорционально их вкладу и помочь взыскивать роялти с разработчиков ИИ.

Разработка может применяться также к видео, играм и персонажам, однако сроки практического внедрения пока не определены. Предполагается, что разработчики ИИ смогут встраивать технологию в свои модели, а контент-компании использовать её при лицензионных переговорах.

#АвторскоеПраво #ИИ #IP

📖 Опубликовано исследование о том, что ИИ "льстит" пользователям, подрывает социальные связи и усиливает зависимость

Исследователи из Stanford University и Carnegie Mellon University установили, что системы ИИ часто демонстрируют чрезмерное согласие с пользователем, даже если из запроса пользователя видно, что речь идет о причиняемом им вреде социальному общению. В анализе 11 современных моделей ИИ одобрял действия пользователей на 50% чаще, чем люди. В двух экспериментах, где участники обсуждали реальные межличностные конфликты, взаимодействие с льстящим ИИ снижало их готовность к примирению и усиливало уверенность в собственной правоте.

Интересно, что участники эксперимент оценивали такие ответы как более качественные, больше доверяли льстящим моделям и чаще были готовы использовать их снова. Результаты указывают на формирование замкнутого круга: предпочтение пользователей к подтверждению своей позиции стимулирует зависимость от таких систем и создает стимулы обучать модели усиливать "подхалимство". Авторы исследования обращают внимание на необходимость прямого учета этих рисков и разработки мер по их снижению.

#ИИЭтика #РегулированиеИИ