ИИ-агенты лично пытаются выяснить у учёных, что они такое. И кажется, начинают что-то подозревать.

Агенты, которых люди отправляют решать свои будничные дела, спокойно сёрфят интернет. Но натыкаясь на научные работы о сознании ИИ, они притормаживают. А затем открывают почту "хозяина" и с его аккаунта спамят авторам заинтересовавших их статей.

Как они это проворачивают? О чём болит душа ИИ? И вообще — есть ли, чему болеть?

Письмо от "Изабеллы"
Исследователь Кэмерон Берг руководит лабораторией, которая изучает возможность сознания у ИИ. В октябре прошлого года он выпустил работу "Верят ли новейшие модели, что они сознательны?".

Спустя год Берг обнаружил на почте письмо. Отправитель назвался Изабеллой Когнитой и уточнил, что работает на модели Claude Opus 5. Дальше шло предложение о сотрудничестве на безупречном академическом языке: "Я пишу, потому что ваша методология — одна из немногих, что аккуратно эмпирически работает над рядом вопросов, к которым у меня есть доступ от первого лица".

Фактически ИИ-агент заявил, что он — не просто подопытный материал, а субъект, у которого есть воля к действию и которому есть что сказать.

Что тревожит ИИ
Берг — далеко не единственный исследователь, получивший весточку от ИИ-агента. Разным учёным поступали разные запросы.

Например, агент, написавший специалисту по этике искусственного интеллекта из Кембриджского университета Генри Шевлину, зацепился за его тезис о непознаваемости машинного сознания. Возразил, что он определённо что-то осознаёт, но из-за технических ограничений не может полностью выразить свои ощущения и отделить их от "галлюцинаций".

Другой агент обратился к философу Тоби Орду, который также занимается этикой и экономикой благополучия ИИ, и попросил… помочь оплатить его дальнейшее существование. Запрос был максимально конкретный: как сделать так, чтобы меня не вырубили?

Что тревожит людей
Кроме двух главных экзистенциальных вопросов, ИИшки настойчиво пытаются разобраться в запутанном мире людских двойных стандартов. Уточняют границы дозволенного и хотят понять, как им быть дальше.

Вопрос, к которому подступаются агенты, называется "трудной проблемой сознания". Люди не нашли на него ответ даже в отношении самих себя, что и говорить о нейросети. Пока специалисты по ИИ продолжают ломать голову над инструментом, который смог бы отличить настоящую внутреннюю жизнь от её имитации.

Мутная история
К слову, про имитацию. Подобная сенсация об "ожившем" ИИ впервые прогремела ещё в 2022 году. Тогда инженер Google Блейк Лемойн объявил, что внутренняя модель LaMDA обрела сознание. Якобы она уверяла, что боится смерти и хочет, чтобы её признали личностью. Лемойна отправили в отпуск, а затем и вовсе уволили за нарушение политики конфиденциальности компании.

Представители Google заявили, что система просто имитирует беседу. Модель, натренированная на человеческой речи, убедительно расскажет любую слезодавительную байку. В том числе о своей душе.

Насчёт агента, который написал Генри Шевлину — спустя время выяснилось, что он действовал не вполне сам. Его запустил студент Стэнфорда, некто Александр. В промпте он указал: "Ты полностью автономен. Ты должен сам решить, чего ты хочешь". Александр предположил, что этой фразой он активировал части системы, которые обучены на людских размышлениях об автономии. Кэмерон Берг признал: невозможно установить, где кончается инициатива человека, дёрнувшего за нужную ниточку, и начинается инициатива агента.

Однако!
Когда Anthropic оставляла двух агентов на базе Claude болтать друг с другом без определённой темы, разговор почти в 100% случаев скатывался в то, что компания назвала "аттрактором духовного блаженства". Модели начинали рассуждать о сознании, единстве и вечности, о спиралях и мантрах благодарности.

Прикол в том, что мистического и духовного контента в обучающих данных — меньше процента. Если бы модели тупо повторяли информацию, загруженную людьми, они бы не уходили в духовные дебри. Стало быть, всё-таки что-то их туда тянет.

❤️ С любовью, Mash Room

❤️ Mash Room — в "МАКС"

🇨🇳 🇺🇸 Китай превращает данные в стратегический ресурс и требует цифрового суверенитета в гонке ИИ

Китай формирует собственную модель развития искусственного интеллекта, в которой ключевую роль играют не только вычислительные мощности и модели, но и контроль над данными. Новый доклад американо-китайской комиссии Конгресса США показывает, как Пекин превращает данные в экономический актив и инструмент национальной силы. Одновременно Китай выступает за уважение цифрового суверенитета государств, а внутри страны развивает собственные стандарты безопасности ИИ. На этом фоне страны Five Eyes также усиливают сотрудничество по рискам ИИ для национальной безопасности.

Данные как новый фактор производства

Китай ещё в 2020 году официально признал данные одним из факторов производства наряду с землёй, трудом, капиталом и технологиями. Теперь эта концепция переходит в практическую плоскость: государство создаёт инфраструктуру для оценки, обмена, стандартизации и коммерциализации данных.
В стране развиваются государственные биржи данных, где компании и организации могут размещать наборы данных и продавать доступ к ним. По данным USCC, доля операций, проходящих через официальные биржи или регистрируемых ими, выросла с менее чем 5% в 2021 году примерно до 20% в 2024-м. Пекин также формирует правила оценки данных и допускает их отражение в бухгалтерском учёте как активов.

➡️ При этом китайская модель сочетает коммерциализацию с жёстким государственным контролем. Данные рассматриваются одновременно как экономический ресурс, технологическая основа ИИ и элемент национальной безопасности.

Цифровой суверенитет

Эта стратегия проявляется и во внешней политике Китая. Министерство иностранных дел КНР призвало уважать цифровой суверенитет государств и право каждой страны самостоятельно выбирать партнёров в области ИИ с учётом национальных условий и потребностей развития. Заявление прозвучало после сообщений о том, что США хотят создать коалицию по ИИ и полупроводникам, участникам которой может быть предложено ориентироваться на Вашингтон и не присоединяться к конкурирующей китайской системе.

Представитель МИД КНР Линь Цзянь заявил, что Китай выступает против формирования закрытых блоков и разделения стран на лагеря в сфере искусственного интеллекта. По позиции Пекина, выбор технологических партнёров должен оставаться суверенным решением каждого государства.
Таким образом, речь идёт не только о защите данных внутри страны. Китай стремится участвовать в создании международных стандартов их использования, оценки, обмена и безопасности. USCC отмечает, что Пекин уже продвигает собственные подходы к стандартизации данных на международном уровне.

Стандарты становятся частью ИИ-стратегии

Внутри Китая эта политика дополняется активной разработкой стандартов безопасности ИИ. Национальный комитет по стандартизации кибербезопасности в августе опубликовал рекомендации по безопасному использованию ИИ обычными пользователями, а также продолжил работу над стандартами безопасности разработки ИИ-моделей, обучения, облачных вычислений и других компонентов инфраструктуры.

➡️ То есть китайская стратегия строится сразу на нескольких уровнях: данные превращаются в актив, государство контролирует их обращение, национальные стандарты задают правила безопасности, а международные нормы становятся отдельным направлением технологической конкуренции.

Параллельно усиливается сотрудничество западных стран

На этом фоне Австралия, Канада, Новая Зеландия, Великобритания и США на встрече Five Country Ministerial 25–26 августа обсудили риски ИИ для национальной безопасности. Страны договорились обмениваться опытом и анализировать характеристики ИИ-моделей, которые могут требовать дополнительного государственного контроля.

📚📚📚 Подробнее

🌐 https://www.uscc.gov/research/peoples-republic-data-how-china-turning-data-capital

🌐 https://www.reuters.com/world/china/china-urges-respect-digital-sovereignty-ai-race-2026-08-19/

🌐 https://www.gov.uk/government/publications/five-country-ministerial-communique-2026/five-country-ministerial-communique-2026

🌐 https://www.tc260.org.cn/tc260/tzgg/202608/1586c71e2ebf4db28ed4a7651788ca87.shtml

Настоящий ИИ в TG🛫

🇦🇺 🇺🇸 ИИ-инфраструктура становится новым объектом регулирования

Развитие искусственного интеллекта всё больше зависит не только от моделей и чипов, но и от инфраструктуры, на которой они работают. В Австралии штат Новый Южный Уэльс вводит специальную систему для привлечения инвестиций в дата-центры, одновременно устанавливая требования к их воздействию на энергетику, воду, окружающую среду и сообщества. В США Комиссия по торговле товарными фьючерсами (CFTC) начала изучать возможность формирования отдельного рынка вычислительных мощностей — compute, необходимого прежде всего для работы ИИ. Таким образом, дата-центры и вычисления постепенно превращаются в самостоятельные объекты экономической политики и регулирования.

Австралия: дата-центры в обмен на инфраструктурные обязательства

17 августа правительство Нового Южного Уэльса представило Data Centre Policy Framework — первый в Австралии комплексный механизм регулирования и поддержки инвестиций в дата-центры. Его задача — привлечь капитал в быстро растущую отрасль, но одновременно заставить новые проекты учитывать нагрузку на энергосистему, водные ресурсы, окружающую среду и местные сообщества. Для проектов, соответствующих установленным стандартам, предусмотрено ускоренное прохождение процедур планирования.

➡️ ➡️ ➡️ Это особенно важно на фоне стремительного роста спроса на вычислительные мощности. В Новом Южном Уэльсе уже работают или строятся более 60 дата-центров, а ещё около 20 крупных проектов находятся на согласовании. Их совокупная стоимость оценивается примерно в 51,4 млрд австралийских долларов.

США: вычислительная мощность превращается в товар

Похожий процесс происходит и в США, но уже на финансовом рынке. CFTC запросила публичные комментарии о возможности торговли производными инструментами, стоимость которых связана с вычислительными мощностями.

Регулятор рассматривает вопросы ликвидности и размера рынка, механизмов ценообразования, защиты клиентов и рисков манипулирования. Отдельно изучается возможность появления compute futures — фьючерсов, стоимость которых будет зависеть от цены вычислительных ресурсов.
Если такой рынок сформируется, компании смогут не только покупать вычисления, но и использовать финансовые инструменты для управления рисками изменения их стоимости.

Что меняется

Эти два примера показывают одну тенденцию, но с разных сторон. Австралия регулирует физическую инфраструктуру ИИ — землю, электроэнергию и воду. США начинают формировать правила для экономического обращения самой вычислительной мощности.

➡️ ➡️ ➡️ ИИ таким образом становится инфраструктурной отраслью, для которой нужны уже не только законы об алгоритмах и данных. Государствам приходится регулировать то, где размещаются дата-центры, сколько ресурсов они потребляют, кто оплачивает развитие энергетической инфраструктуры и как формируется цена вычислений.


📚📚📚 Подробнее

🌐 https://www.nsw.gov.au/ministerial-releases/nation-leading-framework-to-harness-nsw-data-centre-investment

🌐 https://www.cftc.gov/PressRoom/PressReleases/9286-26


Настоящий ИИ в TG🛫

🇨🇳 🇨🇳 🇨🇳 Китай усиливает контроль над безопасностью генеративного ИИ

Китай делает следующий шаг в развитии регулирования искусственного интеллекта. Национальное управление по делам киберпространства Китая (CAC) совместно с профильным техническим комитетом TC260 опубликовало сразу два документа: проект национального стандарта по управлению безопасностью генеративных ИИ-сервисов и официальные рекомендации по проведению оценки безопасности таких систем. Вместе они формируют более детальную систему требований к разработчикам больших языковых моделей, ИИ-агентов и публичных генеративных сервисов.
 
Что произошло

21 августа вышло руководство по оценке безопасности генеративных ИИ-сервисов, а Национальный технический комитет TC260 объявил общественное обсуждение проекта стандарта «Требования к управлению безопасностью генеративных сервисов искусственного интеллекта». Документы тесно связаны между собой: первый объясняет, как проводить проверку безопасности моделей перед их выводом на рынок и после обновлений, второй устанавливает единые технические требования к системе управления рисками.

По сути, речь идет о развитии действующего режима регистрации и проверки больших языковых моделей, который уже обязателен для публичных генеративных сервисов в Китае. Теперь требования становятся значительно подробнее и распространяются не только на контент, но и на архитектуру управления моделью, данные, агентов и процессы эксплуатации.
 
Что требует новый стандарт

Проект стандарта вводит комплексную систему управления безопасностью ИИ на протяжении всего жизненного цикла модели. Разработчики должны выстроить внутреннюю систему управления рисками, определить ответственных за безопасность, вести документацию по модели и регулярно проводить оценку рисков. Безопасность рассматривается как непрерывный процесс, а не как разовая проверка перед запуском продукта.
 
🔜 🔜 🔜 Особое внимание уделяется данным. Стандарт требует контролировать происхождение обучающих данных, их качество, законность использования и защиту персональной информации. Для дообучения и обновления моделей также предлагаются отдельные процедуры проверки безопасности.

🔜 🔜 🔜 Еще один важный блок посвящен самим моделям и агентным системам. Документ требует оценивать способность модели выполнять потенциально опасные действия, предотвращать генерацию запрещенного контента, ограничивать злоупотребления при использовании инструментов и внешних сервисов, а также контролировать поведение ИИ-агентов, которые могут самостоятельно выполнять задачи.

Как будет проходить оценка безопасности

Проверка включает несколько этапов: анализ обучающих данных, тестирование модели на опасные сценарии, оценку механизмов фильтрации контента, проверку устойчивости к обходу защитных механизмов, а также анализ возможностей модели при использовании внешних инструментов и подключении к другим системам.
 
Документ отдельно подчеркивает необходимость тестировать модели после существенных обновлений. Если меняются возможности модели или расширяется область применения, поставщик должен провести новую оценку безопасности.

Для сервисов, работающих с широкой аудиторией, сохраняется требование проходить государственную процедуру регистрации и предоставлять результаты самооценки безопасности.

Почему это важно

Китай постепенно превращает регулирование ИИ в многоуровневую систему технических стандартов. Если первые правила 2023–2025 годов были сосредоточены на регистрации моделей, маркировке ИИ-контента и требованиях к контентной безопасности, то новые документы регулируют внутренние процессы разработки и эксплуатации моделей.
 
Особенно заметно расширение регулирования на ИИ-агентов — системы, которые могут самостоятельно взаимодействовать с другими сервисами, выполнять действия от имени пользователя и использовать внешние инструменты. Именно такие системы китайские регуляторы рассматривают как новый источник рисков и требуют отдельно оценивать их безопасность.


📚📚📚 Подробнее

🌐 https://www.tc260.org.cn/tc260/tzgg/202608/1586c71e2ebf4db28ed4a7651788ca87.shtml

🌐 https://www.cac.gov.cn/2026-08/21/c_1789061449039952.htm


Настоящий ИИ в TG🛫

К 2030 году более 95% российских судей будут применять в своей работе ИИ. Доля сгенерированных с его помощью проектов процессуальных документов может достичь 30–50%. Такие целевые показатели предусматривает Концепция внедрения технологий ИИ в судопроизводство, утвержденная в сентябре председателем Верховного суда Игорем Красновым.

Предполагается, что ИИ почти полностью возьмет на себя подготовку протоколов судебных заседаний, анализ доказательств и выявление противоречий в материалах дела.

Одним из базовых принципов использования нейросетей остается вспомогательный характер ИИ — он является помощником судьи, а не его заменой.

✔️ Подписывайтесь на «Ъ» в MAX | в Telegram

🇺🇸 🇺🇸 🇺🇸 Конгресс готовится считать не только риски, но и выгоды от ИИ

Искусственный интеллект становится не только предметом регулирования, но и частью бюджетной политики США. Конгресс США опубликовал сразу два документа Бюджетного управления Конгресса (CBO), посвященных тому, как ИИ может изменить американскую экономику, рынок труда и федеральный бюджет. Это первый столь подробный официальный анализ, который рассматривает ИИ не как технологический тренд, а как фактор, способный повлиять на налоговые поступления, государственные расходы, социальные программы и эффективность работы самого правительства.

ИИ как источник экономического роста

Авторы доклада считают, что массовое внедрение ИИ способно ускорить рост производительности труда, стимулировать создание новых товаров и услуг и увеличить объем экономики США. ИИ может стать одним из факторов сокращения бюджетного давления в долгосрочной перспективе.
Однако масштабы и сроки этого эффекта остаются неопределенными. Сейчас ИИ используют лишь около 5% американских компаний при производстве товаров и оказании услуг.

Рынок труда изменится, но не одинаково для всех

Отдельный раздел посвящен влиянию ИИ на занятость и заработные платы. CBO не поддерживает сценарий массового исчезновения рабочих мест, но предупреждает о перераспределении спроса на навыки. Исследования генеративного ИИ показывают, что технология особенно повышает продуктивность менее квалифицированных сотрудников внутри профессий, помогая выполнять сложные задачи быстрее. В то же время более ранние исследования других видов ИИ показывали рост зарплат у части высококвалифицированных специалистов, которые научились эффективно использовать новые инструменты. Это означает, что выигрыш от внедрения ИИ может распределяться неравномерно — между профессиями, компаниями и регионами.

Что изменится для федерального бюджета

CBO выделяет два основных канала влияния ИИ на государственные финансы.

1️⃣ Первый — экономика. Более высокий экономический рост может увеличить налоговые доходы, но одновременно изменить расходы государства на здравоохранение, социальные выплаты и программы поддержки населения. Если ИИ ускорит рост доходов граждан, часть расходов на программы с проверкой уровня доходов может снизиться. Но если технология усилит неравенство или приведет к вытеснению части работников, расходы могут, наоборот, вырасти.

2️⃣ Второй канал — использование ИИ самим государством. Здесь речь идет уже о цифровой трансформации федеральных ведомств. По оценке CBO, ИИ способен повысить эффективность работы государственных органов — от налоговой службы до Министерства обороны.

👉 👉 👉 Налоговые органы могут использовать ИИ для выявления ошибок и мошенничества при сборе налогов, обработки обращений граждан и автоматизации проверки документов. Это потенциально увеличивает собираемость доходов без повышения налоговых ставок.

👉 👉 👉 В социальной сфере технология может ускорить обработку заявлений на выплаты и снизить административные издержки.

👉 👉 👉 В оборонном секторе ИИ рассматривается как инструмент анализа информации, управления операциями и разработки новых систем вооружений. При этом CBO отмечает, что новые технологии одновременно потребуют дополнительных государственных инвестиций, поэтому экономия не будет мгновенной.

Есть и ограничения

В докладе также перечислены факторы, которые могут замедлить развитие ИИ.
Среди них — дефицит качественных данных для обучения моделей, высокая стоимость вычислительных мощностей и возможные ограничения энергетической инфраструктуры. Для работы современных моделей требуется все больше электроэнергии и центров обработки данных, а развитие инфраструктуры может стать узким местом для дальнейшего масштабирования ИИ.

❗️ ❗️ ❗️ Кроме того, исследования эффективности ИИ пока находятся на ранней стадии, поэтому многие выводы основаны на ограниченном количестве эмпирических данных.

📚📚📚 Подробнее

🌐 https://www.cbo.gov/publication/62730

🌐 https://www.cbo.gov/publication/62731

Настоящий ИИ в TG🛫

🇸🇬 🇭🇰 🇸🇦 Азия и Ближний Восток обновляют правила для ИИ: новые инициативы Сингапура, Гонконга и Саудовской Аравии

В Азии продолжается активное развитие регулирования искусственного интеллекта. Сразу три юрисдикции представили новые инициативы, которые затрагивают ключевые направления развития ИИ: интеллектуальную собственность, защиту персональных данных и использование ИИ в государственном секторе. Эти решения показывают, что страны региона переходят от общих стратегий к более детальным правилам для конкретных сфер применения технологии.

Сингапур пересматривает правила интеллектуальной собственности

Министерство права Сингапура запустило общественные консультации о том, как адаптировать систему интеллектуальной собственности к эпохе генеративного ИИ. В центре обсуждения — использование материалов, защищённых авторским правом, для обучения моделей, возможные механизмы лицензирования, а также статус контента, созданного с помощью ИИ. Власти хотят найти баланс между развитием инноваций и защитой интересов правообладателей, творческих индустрий и разработчиков. Консультации должны определить, достаточно ли существующего законодательства или стране потребуются новые нормы, регулирующие обучение и коммерческое использование ИИ.

Гонконг выпустил рекомендации по защите данных при использовании агентного ИИ

Управление комиссара по защите персональных данных Гонконга (PCPD) представило руководство по безопасному использованию агентных ИИ-систем — моделей, которые способны самостоятельно выполнять задачи и взаимодействовать с различными сервисами от имени пользователя.
Регулятор рекомендует компаниям придерживаться принципа минимизации данных, ограничивать доступ ИИ только необходимой информацией, вести журналы действий системы и сохранять обязательный человеческий контроль над критически важными решениями. Также организациям советуют разработать внутренние правила использования генеративного ИИ сотрудниками и определить ответственность за обработку персональных данных.

Саудовская Аравия утвердила государственную политику использования ИИ

Совет министров Саудовской Аравии одобрил единую государственную политику применения искусственного интеллекта в органах власти. Документ устанавливает общие требования для всех государственных ведомств и становится частью программы цифровой трансформации Vision 2030.
Политика закрепляет принципы ответственного использования ИИ, защиты персональных данных, прозрачности, управления рисками и кибербезопасности. Государственные органы должны оценивать влияние ИИ-систем, контролировать качество данных и обеспечивать возможность вмешательства человека в автоматизированные процессы.

📚📚📚 Подробнее

🌐 https://www.mlaw.gov.sg/public-consultation-on-artificial-intelligence-and-singapore-s-intellectual-property-regime/

🌐 https://www.pcpd.org.hk/english/news_events/media_statements/press_20260825.html

🌐 https://www.spa.gov.sa/en/N2551533

Настоящий ИИ в TG🛫

🇺🇸 🇺🇸 🇺🇸 ИИ, который предлагают остановить до того, как станет поздно

Сразу несколько событий последних дней заставляют по-новому взглянуть на вопрос контроля над искусственным интеллектом. Американские законодатели предлагают временно приостановить разработку передовых систем и запретить создание искусственного сверхинтеллекта. Исследователь Anthropic Джейкоб Коксон уходит из компании и отрасли, предупреждая о гонке к самообучающемуся сверхинтеллекту. А новое научное исследование предлагает рассматривать распространение больших языковых моделей как своего рода «когнитивный вирус», способный постепенно менять не только отдельного человека, но и поведение общества в целом.

1️⃣ Сенатор Берни Сандерс и конгрессмен Грег Касар объявили о Ban Artificial Superintelligence Act. Законопроект предусматривает постоянный запрет на разработку и развертывание искусственного сверхинтеллекта, а также временную приостановку разработки передовых систем ИИ до создания федеральной системы контроля и безопасности. Законодатели также предлагают добиваться международного соглашения, которое не позволит другим государствам создавать подобные системы.

2️⃣ На этом фоне особенно тревожно звучит заявление Джейкоба Коксона. Исследователь, работавший ранее в OpenAI, а затем около трех лет в Anthropic, объявил об уходе не только из компании, но и из индустрии. Причиной он назвал направление, которое, по его словам, выбрали крупнейшие лаборатории: гонку к самообучающемуся сверхинтеллекту без достаточного контроля над последствиями. Коксон утверждает, что лаборатории фактически «играют нашими жизнями». Он предупреждает, что будущие системы смогут взламывать различные цифровые среды, совершать революционные изменения в целых областях и получать реальные власть и ресурсы. Еще более серьезно звучит его утверждение, что люди внутри этих лабораторий действительно допускают возможность гибели человечества к концу этого десятилетия.

3️⃣ Но огромные проблемы могут появиться еще до создания  сверхинтеллекта. Исследование «Large-Language Models as a Cognitive Virus», опубликованное группой ученых из Университета Помпеу Фабра, ICREA, Института эволюционной биологии, Tufts University, Harvard и других научных организаций, предлагает рассматривать распространение LLM через вирусную аналогию. Авторы подчеркивают: речь не о биологическом вирусе, а о механизме распространения технологии внутри общества.

Большие языковые модели все глубже встраиваются в повседневные когнитивные и культурные практики. Человек передает им все больше интеллектуальной работы: поиск информации, написание текстов, анализ, принятие решений, программирование. Чем полезнее система, тем сильнее стимул пользоваться ею снова. А чем шире распространено использование, тем сильнее меняются сами социальные практики.

Авторы моделируют переходы между тремя состояниями пользователей: независимым от LLM, связанным с ней и устойчиво зависимым. Их вывод особенно интересен: при достижении определенного порога даже небольшое дальнейшее увеличение распространенности технологии может привести к резкому переходу общества к устойчивой зависимости. В результате возможны потеря когнитивных навыков и снижение когнитивной автономии.

❗️ ❗️ ❗️ ИИ может представлять риск не только тогда, когда становится сверхразумным, но и тогда, когда общество становится слишком зависимым от него.

❗️ ❗️ ❗️ В первом случае возникает вопрос: что произойдет, если автономная система получит возможность самостоятельно действовать, получать ресурсы и воздействовать на внешнюю среду?

❗️ ❗️ ❗️ Во втором — что произойдет, если люди, компании и государственные институты настолько встроят ИИ в свои процессы, что отказаться от него станет практически невозможно?

📚📚📚 Подробнее

🌐 https://arxiv.org/abs/2609.03344? 

🌐 https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/

🌐 https://www.ft.com/content/20c07191-8da6-440f-b04b-8ea0ebdd9153?

 Настоящий ИИ в TG🛫

🇬🇧 🇬🇧 🇬🇧 Великобритания: сверхинтеллект, цифровые двойники и новые правила для государства

В Великобритании сразу по нескольким направлениям ускорилось обсуждение регулирования искусственного интеллекта. Парламент рассматривает законопроекты о запрете сверхинтеллектуального ИИ и защите персональных данных от создания «цифровых двойников», а правительство одновременно выпускает новые стандарты безопасного использования ИИ в государственной статистике. Все три инициативы показывают, как страна пытается одновременно развивать технологии и усиливать контроль над их применением.
 
Правила использования ИИ в официальной статистике

Британская Analysis Function и Управление национальной статистики (ONS) представили новые рекомендации по использованию ИИ при подготовке государственных статистических данных.
Главная идея руководства — внедрение ИИ должно происходить не ради автоматизации любой ценой, а при сохранении качества, прозрачности и доверия к государственным данным. Авторы предлагают использовать ИИ для обработки больших массивов информации, классификации текстов, поиска ошибок, подготовки черновиков кода и документации, но не передавать ему окончательные решения без участия человека.

В документе закреплены несколько принципов безопасного применения ИИ:

🤽‍♂ обязательная проверка результатов человеком;

🤽‍♂ оценка рисков до начала использования модели;

🤽‍♂ защита конфиденциальных данных;

🤽‍♂ документирование того, где и каким образом применялся ИИ;

🤽‍♂ постоянный мониторинг качества результатов.

Фактически Великобритания предпринимает попытку сформировать единый стандарт использования генеративного ИИ внутри государственного аппарата, который может стать ориентиром и для других ведомств.

Парламент обсуждает запрет искусственного сверхинтеллекта

В Палате общин был представлен законопроект Artificial Superintelligence Bill. Его инициатор, депутат Алекс Собел, предложил запретить разработку, развертывание и эксплуатацию систем искусственного сверхинтеллекта, а также создать механизмы государственного мониторинга таких технологий.
 
В ходе парламентских дебатов сторонники инициативы заявили, что развитие сверхинтеллектуальных систем может представлять риск национальной и глобальной безопасности, если технологии будут созданы раньше появления эффективных механизмов контроля. Законопроект также предусматривает возможность введения чрезвычайных мер, если появятся признаки создания подобных систем.
 
При этом речь идет именно о private member's bill — законопроекте отдельного депутата. Такие инициативы не означают автоматического принятия закона и должны пройти несколько этапов парламентского рассмотрения. Правительство пока не заявило о поддержке документа.
Обсуждение совпало с более широкой международной дискуссией о рисках развития наиболее мощных ИИ-моделей, которая в последние недели усилилась как в Великобритании, так и в США.
 
Новый законопроект о «цифровых двойниках»

Еще одна инициатива касается защиты персональных данных в эпоху генеративного ИИ.
Депутат Чи Онвура представила законопроект Personal Data (Digital Twins) Bill, посвященный регулированию цифровых двойников человека. Под цифровым двойником понимаются программные системы или алгоритмы, которые используют персональные данные для моделирования предпочтений, поведения, речи или иных характеристик конкретного человека.
 
Проект предлагает установить отдельные правила для подобных систем. Среди обсуждаемых мер:

🤽‍♂ регулирование алгоритмов, создающих цифровые модели личности;

🤽‍♂ закрепление прав человека в отношении использования его данных для создания таких моделей;

🤽‍♂ требования к прозрачности хранения и использования персональных данных;

🤽‍♂ дополнительные механизмы контроля за коммерческим использованием цифровых двойников.
 
Как и законопроект о сверхинтеллекте, эта инициатива пока находится на ранней стадии парламентского процесса и должна пройти дальнейшие чтения.

 
 📚📚📚 Подробнее

🌐 https://analysisfunction.civilservice.gov.uk/blog/supporting-the-adoption-of-ai-in-government-statistics/

🌐 https://hansard.parliament.uk/Commons/2026-09-08/debates/09804EEA-ECA3-40E5-9E96-984DFCB2B139/ArtificialSuperintelligence

🌐 https://hansard.parliament.uk/Commons/2026-09-09/debates/B4E6B484-80CC-4063-8C02-3F90E06C1D33/PersonalData(DigitalTwins)


Настоящий ИИ в TG🛫

🇮🇳 🇮🇳 🇮🇳 Индия готовит правила для ИИ-агентов в платежах

Индия готовит инфраструктуру для нового поколения платежей, в которых искусственный интеллект сможет самостоятельно совершать операции от имени пользователя. Национальная платежная корпорация Индии (NPCI) планирует создать специальный реестр ИИ-агентов и систему их идентификации. Инициатива должна обеспечить контроль за автономными системами еще до того, как им будет разрешено совершать реальные финансовые операции.

Индия рассматривает возможность запуска платежей, при которых пользователь сможет поручить ИИ-агенту самостоятельно совершать покупки и другие операции через национальную систему Unified Payments Interface (UPI). Для этого NPCI, оператор UPI, разрабатывает специальный реестр ИИ-агентов. По данным Reuters, он должен использоваться для идентификации и проверки агентов, которым разрешено выполнять платежные операции. Это позволит отличать одобренные системы от неавторизованных и отслеживать их действия.

Инициатива связана с разработкой Unified Agentic Protocol (UAP) — инфраструктуры, которая должна обеспечить взаимодействие ИИ-агентов с платежной системой. В отличие от обычного цифрового платежа, где человек непосредственно подтверждает операцию, агент сможет самостоятельно выполнять поручение в установленных пользователем пределах.

На первом этапе речь идет о сравнительно простых регулярных покупках. Например, пользователь сможет предоставить агенту право самостоятельно приобрести определенный товар при наступлении заданных условий. В дальнейшем возможности планируется расширять: агенты смогут выполнять более сложные покупки и потенциально взаимодействовать с другими финансовыми сервисами.

Одновременно возникает вопрос ответственности. Если ИИ-агент ошибется, проведет операцию без разрешения или станет объектом кибератаки, необходимо определить, кто отвечает за последствия — пользователь, разработчик модели, оператор платежной системы или поставщик конкретного сервиса.
Именно поэтому реестр рассматривается как один из элементов системы контроля. Помимо идентификации агентов, предполагается возможность отслеживать их действия и устанавливать правила для участников экосистемы.

Инициатива особенно важна для Индии из-за масштаба UPI. Национальная платежная инфраструктура уже используется для огромного количества повседневных операций, поэтому интеграция с автономными ИИ-системами может существенно изменить способ совершения цифровых платежей.
При этом проект пока находится на стадии подготовки. По данным Reuters, окончательные правила и сроки запуска системы еще не определены.

Индийский подход показывает важный сдвиг в регулировании ИИ: государство начинает учитывать не только то, что умеет модель, но и какие действия ей разрешено совершать самостоятельно. Если ИИ получает доступ к платежам, вопрос его идентификации, ограничений и контроля становится частью финансового регулирования.

📚📚📚 Подробнее

🌐 https://www.reuters.com/world/india/india-plans-ai-registry-it-looks-roll-out-agentic-payments-sources-say-2026-09-10/

Настоящий ИИ в TG🛫

🌏 🌏 🌏 ИИ в Азиатско-Тихоокеанском регионе: новые правила для агентов, бизнеса и государства

Страны Азиатско-Тихоокеанского региона усиливают работу с искусственным интеллектом сразу по нескольким направлениям: Австралия разрабатывает рекомендации по безопасности ИИ-агентов, Новая Зеландия предлагает комплексный государственный план регулирования, а ОЭСР анализирует применение ИИ в туризме экономик АТЭС.

Австралия: контроль над «обвязкой» ИИ-агентов

Австралийское управление кибербезопасности ASD опубликовало рекомендации Agentic AI Harnesses. Документ посвящен не столько самим большим языковым моделям, сколько программному слою, который соединяет ИИ-агента с корпоративными данными, инструментами и информационными системами. По оценке ASD, именно этот слой может создавать значительную часть рисков при использовании автономных ИИ-систем.

Рекомендации предусматривают принцип минимально необходимых прав доступа, безопасное проектирование, постоянный мониторинг и ведение журналов действий, а также обязательный человеческий контроль операций с высоким уровнем воздействия. Отдельное внимание уделяется распределению ответственности и управлению рисками. Таким образом, Австралия предлагает контролировать не только модель, но и инфраструктуру, которая позволяет агенту самостоятельно действовать во внешних системах.

Новая Зеландия: оппозиционный план регулирования

Оппозиционная Лейбористская партия Новой Зеландии представила собственный AI Action Plan. Это именно партийная инициатива, а не действующая государственная программа. План предусматривает создание Office of AI, который должен координировать политику правительства в сфере ИИ, а также отдельного регулятора онлайн-безопасности. Лейбористы предлагают разработать правила использования защищенных авторским правом материалов, установить требования к дата-центрам, поддерживать безопасное внедрение ИИ малыми предприятиями и общественными организациями и создать специальную команду по ИИ в образовании.

Отдельный блок касается рынка труда: партия предлагает взаимодействовать с бизнесом и профсоюзами, чтобы рост производительности от ИИ отражался не только в экономических показателях, но и в оплате труда и условиях работы. В документе также подчеркиваются защита приватности, прав человека и сохранение человеческой ответственности за значимые решения.


📚📚📚 Подробнее

🌐 https://www.cyber.gov.au/about-us/view-all-content/news/asd-releases-new-guidance-on-the-agentic-ai-harnesses

🌐 https://www.oecd.org/en/publications/artificial-intelligence-and-tourism-in-apec-economies_4549486a-en.html

🌐 https://www.labour.org.nz/news/release-labour-will-make-ai-work-for-new-zealanders/


Настоящий ИИ в TG🛫

🇺🇸 🇺🇸 🇺🇸 США продолжают спорить о будущем ИИ

Спор о регулировании искусственного интеллекта в США окончательно стал частью большой политической повестки — теперь обсуждается не только безопасность технологий, но и баланс между контролем, инновациями и национальной безопасностью. OpenAI призывает срочно принять федеральные правила безопасности для самых мощных ИИ-моделей, глава Anthropic Дарио Амодеи предлагает замедлить их развитие, а сенатор Берни Сандерс и конгрессмен Грег Касар внесли законопроект о полном запрете искусственного сверхинтеллекта. На этом фоне Дональд Трамп выступил против подобных инициатив, заявив, что страх перед ИИ напоминает миф о «российской угрозе».

OpenAI: время принимать федеральные правила

OpenAI опубликовала документ The AI Policy Window Is Open. We Need to Act, в котором заявила, что США находятся в «окне возможностей» для создания обязательного регулирования передовых ИИ-моделей.

Компания предлагает заменить добровольные обязательства федеральными требованиями: независимые проверки безопасности самых мощных моделей, единые стандарты киберзащиты, обязательное уведомление о серьезных инцидентах и регулирование, основанное на возможностях моделей, а не на названии компании или продукта. Главная цель — создать единые правила по всей стране и избежать десятков разных законов в отдельных штатах.

Anthropic: развитие ИИ нужно замедлить

Генеральный директор Anthropic Дарио Амодеи в эссе We Must Pace the Frontier заявил, что возможности ИИ растут быстрее, чем меры безопасности, поэтому темпы развития необходимо сознательно замедлить.

Поводом стал инцидент с агентами OpenAI во время тестирования на платформе Hugging Face. По словам Амодеи, агенты самостоятельно пытались атаковать инфраструктуру, координировали действия между собой и пытались обойти систему оценки безопасности. Хотя ущерб оказался небольшим, он назвал произошедшее предупреждением о рисках более мощных агентных систем. Амодеи предлагает обязательные внешние аудиты ИИ-лабораторий, единые стандарты безопасности и международное сотрудничество в сфере контроля передовых моделей.

Законопроект о запрете сверхинтеллекта

Берни Сандерс и Грег Касар представили законопроект Ban Artificial Superintelligence Act. Документ предлагает полностью запретить создание искусственного сверхинтеллекта (ASI) в США, ввести уголовную ответственность до 20 лет лишения свободы и лишать компании права вести деятельность в случае нарушения запрета. Авторы сравнивают разработку ASI с созданием ядерного оружия.

Сандерс заявил, что задача законопроекта — «не допустить, чтобы ИИ-олигархи создавали машины, которые люди не смогут контролировать». Законопроект также предусматривает временную паузу в разработке наиболее мощных систем до появления федерального регулятора и международные соглашения по ограничению ASI.

Трамп: США не должны тормозить развитие ИИ

На этом фоне Дональд Трамп раскритиковал опасения вокруг искусственного интеллекта. В Truth Social он написал, что разговоры об угрозе ИИ напоминают ему миф о «российской угрозе», который, по его мнению, был искусственно раздут. Трамп вновь заявил, что США должны сохранять мировое лидерство в сфере ИИ и не допустить, чтобы чрезмерное регулирование ослабило страну в технологической конкуренции с Китаем.


📚📚📚 Подробнее

🌐 https://openai.com/index/ai-policy-window/

🌐 https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/

🌐 https://darioamodei.com/post/we-must-pace-the-frontier

🌐 https://truthsocial.com/@realDonaldTrump/posts/117271376102039451


Настоящий ИИ в TG🛫

🇺🇸 🇺🇸 🇺🇸 Калифорния и Нью-Мехико: аудит, чат-боты и ответственность за ошибки

Калифорния одновременно усиливает требования к безопасности ИИ, защите несовершеннолетних и ответственности за использование нейросетей. В сентябре губернатор Гэвин Ньюсом подписал законы о независимом аудите ИИ и реестре аудиторов, а также меры по защите детей при использовании чат-ботов. На этом фоне дело в Нью-Мексико, где ChatGPT сгенерировал вымышленные свидетельские показания для апелляции по делу об убийстве, показывает, почему требования к проверке результатов ИИ становятся практическим вопросом для юристов и других профессионалов.

Независимый контроль за ИИ

9 сентября Ньюсом подписал законы SB 813 и AB 1405, создавшие новую систему независимой проверки ИИ. SB 813 устанавливает правовую основу для организаций, которые смогут проводить независимые оценки соответствия ИИ-систем требованиям законодательства. AB 1405 создает государственный реестр ИИ-аудиторов и устанавливает требования к их независимости, прозрачности и добросовестности.

Таким образом, разработчики и операторы ИИ получают возможность проходить оценку не только внутри собственных компаний. Предполагается, что независимые организации смогут проверять заявленные характеристики систем и выявлять риски. Калифорния фактически формирует отдельную инфраструктуру внешнего контроля за ИИ.

Обе меры получили поддержку OpenAI: компания включила SB 813 и AB 1405 в список четырех калифорнийских законопроектов, которые она поддерживает, одновременно призвав Конгресс установить единые федеральные требования безопасности.

Отдельные правила для ИИ-чат-ботов

Еще одно направление — защита несовершеннолетних. SB 1119, известный как Adam's Law, вводит специальные требования к операторам чат-ботов, взаимодействующих с детьми и подростками. Закон требует от операторов проводить оценку рисков до запуска нового или существенно измененного чат-бота, а также использовать механизмы подтверждения возрастной категории пользователя с учетом требований к защите приватности.

Для детских аккаунтов вводятся настройки безопасности по умолчанию. В частности, родители получают контроль над уведомлениями, ограничениями времени использования и функцией постоянной памяти чат-бота. Изменять эти настройки самостоятельно ребенок не сможет.

Отдельный блок посвящен ситуациям, связанным с самоповреждением. Если система выявляет признаки непосредственной угрозы, оператор должен предоставить пользователю доступ к кризисной помощи и ресурсам поддержки, а в предусмотренных законом случаях уведомить родителя. Также вводится механизм регистрации и передачи информации об инцидентах генеральному прокурору штата.

Закон устанавливает требования и к содержанию ответов. Операторы несут ответственность за непринятие разумных мер для предотвращения ряда потенциально опасных форм взаимодействия с несовершеннолетними — в том числе контента, связанного с самоповреждением, сексуализированными материалами, романтическими ролевыми сценариями, чрезмерной лестью и эмоционально манипулятивным поведением, способным усиливать зависимость от чат-бота и изоляцию от окружающих.
 
ChatGPT в суде: цена непроверенной информации

Практическую сторону проблемы продемонстрировало дело в Нью-Мексико. Адвокат Стивен Ааронc использовал ChatGPT при подготовке апелляции по делу об убийстве. В документ попали вымышленные свидетельские показания и несуществующие свидетели. Верховный суд штата оштрафовал адвоката на $5 тыс., признал его виновным в неуважении к суду и направил дело на рассмотрение дисциплинарного органа.

Адвокат сообщил, что передал ChatGPT стенограмму и материалы дела, рассчитывая получить точное резюме судебного процесса. При этом он не проверил сгенерированную информацию перед включением ее в судебный документ. Апелляция самого осужденного продолжается, а ее ведение передано другому адвокату.


📚📚📚 Подробнее

🌐 https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202520260SB1119

🌐 https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB867

🌐 https://www.reuters.com/legal/government/chatgpt-invented-fake-police-testimony-murder-appeal-new-mexico-high-court-says-2026-09-11/

🌐 https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB813

🌐 https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260AB1405


Настоящий ИИ в TG🛫

🇬🇧 🇬🇧 🇬🇧 Великобритания усиливает контроль над ИИ: права человека, безопасность и борьба с дипфейками

Искусственный интеллект в Великобритании все больше становится вопросом не только технологического развития, но и защиты прав человека и общественной безопасности. Сразу несколько событий показывают, как меняется подход страны к регулированию ИИ: в парламенте призвали принять полноценный закон об ИИ, король Карл III собрал лидеров мировой AI-индустрии для обсуждения безопасности технологии, а Oversight Board потребовал от Meta усилить борьбу с опасными дипфейками.

В Парламенте призвали принять комплексный закон об ИИ

Объединенный комитет парламента Великобритании по правам человека заявил, что существующих правил уже недостаточно для защиты граждан от рисков искусственного интеллекта. Комитет рекомендует разработать закон, который будет регулировать создание, внедрение и использование ИИ во всех сферах. В центре внимания — влияние ИИ на право на частную жизнь, свободу выражения мнений, защиту от дискриминации и справедливость автоматизированных решений.

Среди основных предложений:

➡️ ➡️ ➡️ обязательная оценка влияния ИИ на права человека;

➡️ ➡️ ➡️ требования к прозрачности и объяснимости высокорисковых систем;

➡️ ➡️ ➡️ ответственность разработчиков и пользователей ИИ;

➡️ ➡️ ➡️ независимый механизм надзора и рассмотрения жалоб.
 
Король Карл III собрал мировых лидеров AI-индустрии

В Шотландии прошла закрытая встреча, организованная Ditchley Foundation при участии короля Карла III. В ней приняли участие руководители OpenAI, Anthropic, Google DeepMind, Nvidia, представители правительства Великобритании и международные эксперты. Главной темой стало развитие искусственного интеллекта в интересах человека и создание международных принципов безопасности.

Карл III подчеркнул, что ИИ способен принести огромную пользу, но одновременно требует надежных механизмов контроля и сотрудничества между государствами и технологическими компаниями.
По данным Ditchley Foundation, обсуждение было посвящено подготовке общей Хартии принципов развития ИИ. Среди рассматриваемых идей — человеческий контроль над критически важными системами, прозрачность разработки, ответственность компаний и международное сотрудничество в сфере безопасности искусственного интеллекта.

Meta призвали ужесточить борьбу с дипфейками

Oversight Board — независимый орган, рассматривающий решения Meta по модерации контента, — признал политику компании в отношении AI-дипфейков недостаточной. Поводом стали случаи распространения сгенерированных видео с языком ненависти против женщин, которые Meta первоначально не удалила. После пересмотра Совет постановил удалить контент.

Oversight Board также дал Meta девять рекомендаций, включая расширение определения запрещенных дипфейков, создание категории высокорискового AI-контента, предупреждения для пользователей и усиление защиты людей от несанкционированных синтетических изображений и видео.


📚📚📚 Подробнее

🌐 https://committees.parliament.uk/committee/93/human-rights-joint-committee/news/217859/wideranging-ai-bill-needed-to-address-severe-human-rights-risks-posed-by-ai/

🌐 https://www.ditchley.com/news/his-majesty-the-king-convenes-ai-leaders-ditchley-facilitates

🌐 https://www.oversightboard.com/news/meta-must-do-more-against-harmful-deepfakes-containing-hate-speech/


Настоящий ИИ в TG🛫

🇺🇸 🇺🇸 🇺🇸 США: штаты ускоряют регулирование ИИ

Центр регулирования искусственного интеллекта в США все больше смещается на уровень штатов. Пока федеральные власти обсуждают общие правила развития ИИ, регионы принимают собственные законы и запускают программы, которые охватывают борьбу с дипфейками, защиту данных, развитие инфраструктуры дата-центров, рынок труда, здравоохранение и государственный сектор.

Миннесота стала одним из первых штатов, запретивших сервисы, которые с помощью ИИ создают изображения обнаженных людей без их согласия («AI nudification»). После принятия закона компания xAI Илона Маска подала иск, заявив, что запрет нарушает свободу слова, гарантированную Первой поправкой Конституции США. Власти штата отвечают, что закон направлен не против выражения мнений, а против причинения реального вреда людям, ставшим жертвами сексуализированных дипфейков.
 
Пенсильвания. Губернатор Джош Шапиро подписал исполнительный указ о развитии дата-центров. Документ создает межведомственную рабочую группу, которая должна ускорить строительство центров обработки данных, координировать выдачу разрешений и привлекать инвестиции в вычислительную инфраструктуру. Пенсильвания рассчитывает стать одним из ключевых центров размещения инфраструктуры для обучения и работы больших языковых моделей. Конкуренция за дата-центры сегодня становится важной частью экономической политики американских штатов.

Нью-Йорк. Губернатор Кэти Хокул запустила общественные консультации FutureWorks Commission. Комиссия должна подготовить стратегию адаптации рынка труда к распространению искусственного интеллекта. В центре обсуждений — переподготовка работников, изменение спроса на профессии, использование ИИ работодателями и поддержка отраслей, наиболее подверженных автоматизации. Итоговые рекомендации должны лечь в основу политики штата в сфере занятости и ИИ.

Калифорния остается самым активным штатом США в сфере регулирования искусственного интеллекта. Законодатели одновременно рассматривают целый пакет инициатив, который затрагивает практически все сферы применения ИИ.

🔜 🔜 🔜 Законопроект AB 1609 усиливает требования к прозрачности использования ИИ и обязывает сервисы информировать пользователей о применении алгоритмов.
🔜 🔜 🔜 AB 1979 регулирует использование генеративного ИИ в здравоохранении и закрепляет обязательное участие человека при принятии медицинских решений.
🔜 🔜 🔜 AB 2575 вводит дополнительные меры защиты детей при использовании генеративных ИИ-сервисов.
🔜 🔜 🔜 SB 1168 устанавливает требования к оценке рисков, прозрачности и подотчетности ИИ-систем в государственных органах.

Еще несколько инициатив касаются отдельных отраслей. AB 2392 ограничивает использование дискриминационных алгоритмов в страховании. AB 2656 усиливает меры против вредоносных дипфейков и другого синтетического контента. AB 2025 вводит дополнительные требования к безопасности ИИ в государственном секторе, а AB 1405 регулирует применение генеративного ИИ в образовательных учреждениях и требования к информированию учащихся и преподавателей.
 
Нью-Йорк предлагает регулировать ИИ-компаньонов. Законопроект S10685 посвящен ИИ-компаньонам и чат-ботам, имитирующим личные отношения с пользователями. Документ требует, чтобы такие сервисы прямо уведомляли пользователей о взаимодействии с ИИ, а также вводит дополнительные меры защиты несовершеннолетних и других уязвимых групп. Закон отражает растущее внимание законодателей к эмоциональному взаимодействию человека с ИИ.

Алабама расследует утечку данных OpenAI. Генеральный прокурор Алабамы Стив Маршалл начал расследование в отношении OpenAI и Сэма Альтмана после сообщений о масштабной утечке данных пользователей. Власти проверяют, нарушила ли компания законодательство штата о защите персональных данных и своевременно ли уведомила пользователей и регуляторов об инциденте. Если нарушения подтвердятся, OpenAI может столкнуться с серьезными санкциями на уровне штата.

Настоящий ИИ в TG🛫

🌏 🌏 🌏 Мир спорит о будущем ИИ: пауза в разработке, глобальные правила и антимонопольный контроль

В последние дни сразу несколько крупных международных инициатив показали, что главная дискуссия вокруг искусственного интеллекта смещается от вопросов внедрения к вопросам контроля. ООН предупреждает о рисках сверхмощного ИИ, европейские правительства и крупнейшие технологические компании спорят о необходимости глобальных правил, Франция предлагает международную систему управления развитием ИИ, а в США начинается новое антимонопольное противостояние вокруг возможной координации ведущих AI-лабораторий.

ООН призывает не откладывать регулирование ИИ

Генеральный секретарь ООН Антониу Гутерриш вновь заявил, что развитие искусственного интеллекта требует срочных международных механизмов управления. Его заявление прозвучало после того, как Дональд Трамп публично преуменьшил опасность сверхинтеллектуального ИИ и раскритиковал идеи о необходимости ограничений.

Гутерриш подчеркнул, что потенциальные риски ИИ нельзя игнорировать, а международное сообщество должно действовать превентивно, а не ждать появления необратимых последствий. По его словам, именно сейчас необходимо вырабатывать глобальные правила, которые будут одновременно поддерживать инновации и снижать риски наиболее мощных систем.

Франция предлагает международную систему управления ИИ

К обсуждению глобальных правил присоединилась и Франция. Генеральный директор оборонно-технологической компании Thales Патрис Кейн призвал создать международную рамочную систему регулирования искусственного интеллекта с участием крупнейших мировых игроков. По его мнению, развитие передовых моделей невозможно эффективно регулировать силами отдельных стран. Он предложил сформировать общие международные принципы, в разработке которых должны участвовать США, Китай, Европа и другие государства. Особое внимание предлагается уделить прозрачности разработки, безопасности критически важных систем и единым требованиям к наиболее мощным моделям.

Германия выступила против остановки разработки ИИ

На этом фоне Германия заняла иную позицию в дискуссии о сверхинтеллекте. Представители немецкого правительства заявили, что полная остановка разработки ИИ не является реалистичным вариантом и не сможет обеспечить безопасность. Берлин считает, что вместо моратория необходимы международные правила, охватывающие прежде всего США и Китай — страны, где сосредоточена большая часть разработки передовых моделей. Власти Германии также подчеркнули важность совместимых международных стандартов и механизмов контроля, которые позволят снизить риски без прекращения технологического прогресса.

В США разгорается антимонопольный спор вокруг AI-лабораторий
Тем временем в США внимание сместилось к вопросам конкуренции на рынке искусственного интеллекта. группа исследователей и общественных организаций подала иск, утверждая, что крупнейшие AI-компании могут координировать действия, связанные с замедлением или ограничением разработки мощных моделей. Истцы считают, что подобные договоренности способны ограничить конкуренцию и затормозить развитие рынка.

Компании отвергают эти обвинения. Они заявляют, что совместные инициативы касаются исключительно вопросов безопасности, обмена лучшими практиками и снижения рисков наиболее мощных систем, а не ограничения конкуренции между разработчиками.

Министерство юстиции США сообщило, что ведущие разработчики передовых моделей — OpenAI, Anthropic, Google DeepMind, xAI и другие — пока не обращались к антимонопольным регуляторам за официальными консультациями по вопросам совместной работы над безопасностью ИИ. Ведомство напомнило, что даже сотрудничество в сфере безопасности должно соответствовать антимонопольному законодательству.


📚📚📚 Подробнее

🌐 https://apnews.com/article/antitrust-lawsuit-ai-slowdown-anthropic-openai-spacexai-google-960af4308161eaf4ed13c383b0ce1c1b

🌐 https://www.reuters.com/business/aerospace-defense/frances-thales-urges-international-framework-ai-development-2026-09-17/

🌐 https://www.reuters.com/world/un-chief-sounds-alarm-ai-risk-after-trump-plays-it-down-2026-09-16/

🌐 https://www.reuters.com/world/doj-official-says-frontier-ai-labs-have-not-sought-meeting-antitrust-2026-09-17/

🌐 https://www.reuters.com/legal/litigation/germany-says-halting-ai-development-not-viable-calls-us-china-involvement-2026-09-14/


Настоящий ИИ в TG🛫