🆕 «Регуляторная песочница» в области генеративного ИИ в Сингапуре

7 февраля Управлением по информационному и медиа развитию совместно с Enterprise Singapore была запущена GenAI Sandbox, которая позволит максимально использовать преимущества генеративного искусственного интеллекта для повышения качества обслуживания клиентов.

❗️Суть особого правового режима:
Малый и средний бизнес получат доступ к 13 технологиям ГенИИ и смогут применять их для повышения своей производительности.

Среди этих технологий:
🟢 платформа для генерации контента
🟢 система анализа конкурентов
🟢 чат-бот, интегрируемый в веб-сайты и мессенджеры

По 2 направлениям развития бизнеса компания может получить и использовать любой понравившейся ей продукт на срок до 3 месяцев, начиная с конца мая:
💲Маркетинг и продажи
• Создание разнообразного и уникального контента
• Разработка креативных концепций развития бизнеса
• Оптимизация выстраивания маркетинговых стратегий

🤝Привлечение клиентов
• Персонализированные рекомендации и предложения
• Улучшение пользовательского опыта при поиске информации
• Автоматизация пользовательских запросов (например, бронирование номера в отеле)

Ожидается, что данный режим охватит примерно 300 предприятий малого и среднего бизнеса. По итогам "песочницы" Управление по информационному и медиа развитию проанализирует отзывы участников, чтобы оценить целесообразность дальнейшего внедрения генеративного ИИ в местное бизнес-сообщество.

*** Enterprise Singapore – государственная структура, занимающаяся поддержкой предпринимательства и международного сотрудничества

#ГенеративныйИИ #РегуляторнаяПесочница #Сингапур

🇺🇳 Ежегодный саммит ООН "AI for good" 2024

29-31 мая в Женеве прошел ежегодный глобальный саммит «Искусственный интеллект во благо» («AI for good»), организованный Международным союзом электросвязи. На саммите присутствовали представители государственного сектора, частного сектора и гражданского общества.

Много внимания было уделено следующим вопросам:

✏️ Маркировка контента

Для достижения прогресса в данной области несколько международных организаций и ассоциаций договорились о сотрудничестве. В частности: Международная организация по стандартизации (ISO), Международная электротехническая комиссия (IEC), Content Authenticity Initiative (CAI) и другие.
Цель данного сотрудничества - определить технические стандарты для создания водяных знаков и технологий обнаружения дипфейков.

🚨 Конфиденциальность и безопасность

В рамках этого направления правительствам было предложено выделять значительные ресурсы для обеспечения безопасности ИИ.
Кроме того, эксперты отметили необходимость создания отделов red teaming в компаниях-разработчиках ИИ для смягчения потенциальных рисков использования ГенИИ. Отдельный акцент был сделан на привлечении юристов к тестированию систем ИИ.


🌎 Разработка Глобального цифрового договора

Ожидается, что Глобальный цифровой договор будет принят на Саммите будущего в сентябре 2024 года и обозначит общие принципы открытого, свободного и безопасного цифрового будущего для всех.
Подробнее о проекте данного документа мы расскажем в отдельном посте.

#ООН #Саммит

💡Разработчиков ИИ в РФ могут обязать страховать ответственность перед третьими лицами

💬 18 июня Госдума РФ приняла во втором чтении законопроект, обязывающий разработчиков систем ИИ в ЭПР** страховать ответственность.

💬 После вступления закона в силу участники ЭПР будут отвечать за причинение вреда жизни, здоровью или имуществу человека либо юрлица при реализации эксперимента.

💬 Разработчики будут вести реестры с указанием зон ответственности сотрудников и лиц, использующих и работающих с ИИ.

*Источник

**Экспериментальные правовые режимы - вводятся государством для тестирования новых технологий, для этого на определенной территории на некоторый период вводят специальное правовое регулирование, смягчают или отменяют для участников эксперимента ранее введенные правовые нормы.

📱 Apple заявила, что не будет развертывать функции ИИ в Европе из-за проблем нормативного регулирования

В начале июня Apple представила новый функционал – систему ИИ "Apple Intelligence", что стало одним из самых значительных обновлений продуктов компании за последнее время.

Apple Intelligence — набор ИИ-функций на базе генеративных нейросетей. "Вшитый" ИИ сможет:
✏️ переписать текст
📸 сгенерировать картинку
💬 и даже сгруппировать ваши уведомления по степени важности

В США интеграция ИИ начнется уже этим летом, в отличие от Европы, где сотни миллионов пользователей пока не получат доступ к новейшим технологиям.

Компания объяснила свое решение следующим образом:
📃 Закон ЕС «О цифровых рынках» (Digital Markets Act) предписывает крупным онлайн-платформам предоставлять доступ другим поставщикам, а не отдавать предпочтение своим собственным предложениям
➡️ Соответственно, производители устройств и поставщики программного обеспечения могут потребовать столь же углубленный доступ к продуктам Apple, что есть у самой компании
💬 По мнению Apple, соблюдение данного требования нарушает целостность всей системы и может поставить под угрозу конфиденциальность пользователей и безопасность их данных

❗️Тем не менее, компания подчеркивает, что ведет переговоры с Комиссией ЕС о решении проблемы и хочет сделать функции доступными в Европе.

📌 Стоит отметить, что ранее у компании уже были проблемы с законодательством Евросоюза, и в тот раз Apple пришлось уступить и отказаться от своих принципов ради исполнения DMA, разрешив использование сторонних магазинов на территории Европы.

#AI #Apple #EU #DMA

🇺🇳Глобальный цифровой договор

Глобальный цифровой договор - инициатива ООН по созданию международного документа, который "обозначит общие принципы открытого, свободного и безопасного цифрового будущего для всех".

Цель этого договора - гарантировать, что цифровые технологии используются ответственно и на благо всех, одновременно устраняя цифровой разрыв и способствуя созданию безопасной и инклюзивной цифровой среды.

На данный момент уже представлена первая редакция документа, охватывающая целый ряд насущных вопросов, среди которых:
🌎 недопущение фрагментации Интернета
🚨 конфиденциальность персональных данных
💻 осуществление прав человека в Интернете
🎓 развитие цифровых компетенций у работающего населения по всему миру
🤖 закрепление критериев ответственности за дискриминацию и введение в заблуждение в Интернете

Что касается ИИ, то договор предлагает создать два новых института с целью развития всестороннего партнерства и международного сотрудничества в этой сфере.

1️⃣Международная научная группа по ИИ и новым технологиям
Группа будет выпускать междисциплинарные научные отчеты о рисках и мерах по смягчению последствий использования ИИ, опираясь на национальные инициативы регулирования.

2️⃣Международная контактная группа по управлению ИИ
Планируется, что группа в составе представителей правительств, ответственных за безопасность и управление ИИ, будет ежегодно собираться в рамках соответствующих конференций и совещаний ООН для выработки общего понимания вопросов безопасного, надежного и заслуживающего доверия ИИ.

Согласно докладу Генерального секретаря «Наша общая повестка дня» (2021) Глобальный цифровой договор должен быть согласован на Саммите будущего в сентябре 2024 года в рамках технологического направления с участием всех заинтересованных сторон: правительств, специализированных учреждений ООН, частного сектора, гражданского общества и научных кругов.

#AI #UN #GlobalDigitalCompact

🎙 Группа музыкальных лейблов подала в суд на разработчиков ИИ

24 июня Американская ассоциация звукозаписывающих компаний (RIAA) (Sony Music Entertainment, Universal Music Group и Warner Records и другие) подала два иска: один против Suno, а другой против Udio.

🎤 И Suno, и Udio занимаются разработкой нейросетей, которые позволяют создавать музыкальные треки с помощью текстовых запросов.
Компании уже добились успеха: например, Suno доступен для использования в Microsoft Copilot в партнерстве с технологическим гигантом.

По мнению истцов компании нарушили авторские права исполнителей и музыкантов, используя для обучения ИИ работы артистов без разрешения.

В качестве возмещения ущерба музыкальные лейблы требуют компенсацию в 150 тыс. долларов за каждое произведение.
🔵Suno, возможно, придется заплатить за 660 песен
🔵Udio более чем за 1,5 тыс. композиций

💬Главный исполнительный директор Suno AI Майки Шульман заявил, что технология «разработана для создания совершенно новых результатов, а не для запоминания и повторения уже существующего контента» и не позволяет пользователям ссылаться на конкретных исполнителей.
По словам Шульмана, он пытался объяснить это лейблам, но, они "вместо того, чтобы вести добросовестную дискуссию, вернулись к своим старым методам ведения бизнеса под руководством юристов".

💬Председатель и исполнительный директор RIAA Митч Глейзер, в свою очередь, заявил, что музыкальная индустрия сотрудничает с ответственными разработчиками ИИ, но «нелицензионные сервисы вроде Suno и Udio, которые утверждают, что "честно" копируют труд всей жизни артиста и используют его в своих интересах без согласия и оплаты, мешают общему делу создания инновационного и справедливого ИИ».

❗️Это не первый подобный спор между правообладателями и разработчиками ИИ.
Например, в прошлом году Гильдия авторов подала коллективный иск против OpenAI и Microsoft за нарушение авторских прав. По словам литераторов компании использовали произведения для обучения ИИ без согласия правообладателей.

#AI #Copyright #Courts

🇷🇺 Подборка новостей по России за прошедшую неделю

1️⃣ Владимир Путин подписал закон о господдержке производителей беспилотников.

2️⃣ Андрей Незнамов на ПМЮФ подчеркнул, что регулирование дипфейков необходимо лишь в той области, которую нельзя охватить существующим законодательством.

3️⃣ Талия Хабриева на ПМЮФ отметила, что Конституционный суд РФ станет основным средством защиты прав человека в отношениях с ИИ.

4️⃣ НИУ ВШЭ первым из российских университетов разработал и утвердил Декларацию этических принципов использования ИИ.

5️⃣ Верховный Суд РФ в принятом постановлении пленума указал, что использование технологии дипфейк в ходе выборов является нарушением, за которое предусмотрена административная ответственность.

6️⃣ МВД разрабатывает законопроект, чтобы признать дипфейки отягчающим обстоятельством.

🌐 Подборка зарубежных новостей за прошедшую неделю

1️⃣ YouTube и звукозаписывающие компании ведут переговоры по лицензированию музыки для обучения ИИ.

2️⃣ Крупнейшие музыкальные лейблы подали в суд на ИИ-генераторы песен за нарушение авторских прав.

3️⃣ Совет ЕС официально принял поправку к регламенту European High-Performance Computing о создании "фабрик ИИ".

4️⃣ Эксперты Google DeepMind представили исследование способов применения ГенИИ с преступными намерениями.

5️⃣ Издание Time и OpenAI объявили о партнёрстве по обучению и использованию ChatGPT.

6️⃣ Руководитель ИИ-подразделения Microsoft считает, что весь контент, размещённый в Сети, доступен для использования в целях обучения ИИ, если только владелец контента не заявит иное.

7️⃣ Центр долгосрочной устойчивости Великобритании призывает правительство разработать систему регистрации ИИ-инцидентов.

8️⃣ Губернатор Луизианы наложил вето на законопроект, который запретил бы политические дипфейки, так как такая практика «противоречит Первой поправке и свободе слова компаний, разрабатывающих ИИ».

9️⃣ В Ватикане прошла конференция по вопросам этики ИИ «Алгоритм на службе человечества: коммуникации в эпоху ИИ».

🔟 Министерство финансов Австралии опубликовало практическое руководство по применению принципов этики ИИ в работе государственных органов.

1️⃣1️⃣ Европейские антимонопольные органы совместно с ОЭСР провели конференцию о конкуренции на рынке ГенИИ.

1️⃣2️⃣ Регуляторы ЕС готовятся к антимонопольному расследованию сотрудничества в области ИИ между Google и Samsung Electronics в части установки модели ГенИИ на смартфоны. Также планируется расследование партнерства Microsoft с OpenAI.

1️⃣3️⃣ В интервью Марк Цукерберг призвал конкурентов к открытой дискуссии об этических последствиях и потенциальных рисках развития ИИ, а также отметил, что ИИ должен разрабатываться таким образом, чтобы служить человечеству и его ценностям.

1️⃣4️⃣ Генеральная Ассамблея ООН приняла инициированную Китаем резолюцию по ИИ.

🇺🇳🇨🇳 В ООН приняли предложенную Китаем Резолюцию по ИИ

1 июля Генеральная Ассамблея ООН единогласно приняла инициированную Китаем Резолюцию "Об укреплении международного сотрудничества в области наращивания потенциала искусственного интеллекта".

Резолюция призывает международное сообщество создать «свободную, открытую, инклюзивную и недискриминационную» деловую среду среди как развитых, так и развивающихся стран для разработки и внедрения ИИ.

Фу Конг, постоянный представитель Китая при ООН, объяснил основной посыл предложенной резолюции:
🟦Все страны должны пользоваться равными возможностями разработки и использования ИИ не в военной сфере
🟦Более развитые государства должны помогать развивающимся, так как они сталкиваются с уникальными для них вызовами
🟦Фрагментированный подход к ИИ и к цифровым технологиям никому не принесет пользы

В тексте резолюции также приводятся ключевые рекомендации для подписавшихся стран:
💰 увеличить объемы финансовой и технической помощи развивающимся странам
📌 укреплять сотрудничество для ликвидации барьеров развития ИИ, в том числе за счет расширения доступа к инфраструктуре, знаниям и навыкам
👥 поощрять, защищать и сохранять языковое и культурное разнообразие особенно при разработке больших языковых моделей

📝 Стоит отметить, что это уже второй документ в рамках ООН по вопросам ИИ. Резолюция «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития», инициированная США, была принята в марте этого года. Она призывает страны защищать права человека, обеспечивать конфиденциальность персональных данных и контролировать потенциальные риски ИИ.

#AI #UN #Resolution

🇷🇺 Подборка новостей по России за прошедшую неделю

1️⃣ Яндекс начал маркировать рекламу, созданную генеративным ИИ.

2️⃣ Лидеры стран ШОС утвердили Астанинскую декларацию, в рамках которой заявлена готовность объединить усилия в борьбе с рисками и укреплении безопасности в сфере ИИ.

3️⃣ Андрей Незнамов рассказал об этических дилеммах, связанных с взаимодействием человека с ИИ.

4️⃣ В ВС РФ не видят препятствий для применения ИИ при назначении обвиняемым наказания ввиду возможности снижения количества ошибок при вынесении приговоров.

5️⃣ Новые сервисы ИИ помогут автоматизировать измерения на МРТ и КТ.

🌐 Подборка зарубежных новостей за прошедшую неделю

1️⃣ Всемирная организация интеллектуальной собственности представила отчет о глобальном патентном ландшафте ГенИИ.

2️⃣ ОЭСР и GPAI объявили о своем сотрудничестве в части внедрения человекоцентричного, безопасного, надежного и заслуживающего доверия ИИ.

3️⃣ 4 июля в рамках Всемирной конференции по искусственному интеллекту была опубликована Шанхайская декларация о глобальном управлении ИИ.

4️⃣ Китай к 2026 году планирует разработать более 50 стандартов для развития ИИ.

5️⃣ 3–4 июля в Индии прошел глобальный саммит IndiaAI, посвященный вопросам безопасности ИИ.

6️⃣ 9–10 июля в Японии пройдет конференция «Этика ИИ для установления мира: мировые религии присоединяются к Римскому призыву».

7️⃣ 10 июля начнет свою работу Национальный центр ИИ в Иране.

8️⃣ Французский антимонопольный орган призвал Европейскую комиссию назначить облачные сервисы генеративного ИИ «привратниками» в рамках DMA.

9️⃣ Общественные организации призвали Европейскую комиссию обеспечить независимость национальных органов, отвечающих за соблюдение AI Act.

🔟 Суд Северной Каролины обязал юристов прилагать к каждому процессуальному документу сертификат, подтверждающий, что ИИ не использовался в процессе исследования.

1️⃣1️⃣ Канадское Copyright Licensing Agency призывает правительство принудить разработчиков ГенИИ раскрывать информацию о данных, на которых обучалась модель.

1️⃣2️⃣ Национальное агентство по защите данных Бразилии запретило Meta* использовать посты бразильцев для обучения своих моделей ИИ.

1️⃣3️⃣ Пять канадских юридических ассоциаций издали руководство для юристов, использующих в своей практике ГенИИ.

1️⃣4️⃣ Warner Music Group направила письмо технологическим компаниям, в котором заявила, что ее контент может быть использован для обучения ИИ только с разрешения компании.

1️⃣5️⃣ YouTube разрешит пользователям запрашивать удаление контента, созданного ИИ, который имитирует лицо или голос.

* Meta признана в России экстремистской организацией и запрещена

🇨🇳 Итоги Всемирной конференции по ИИ в Шанхае

6 июля в Шанхае завершилась седьмая ежегодная Всемирная конференция по ИИ (World Artificial Intelligence Conference, WAIC).

Ключевая тема конференции - управление ИИ для всеобщего блага и для всех («AI Governance for good and for all»).

В качестве участников присутствовали правительственные делегации, представители международных организаций, технологических гигантов и стартапов, а также иные специалисты и эксперты в области ИИ.

Программа WAIC 2024 включила:
🌎 правительственный форум с участием министров из разных стран, включая Россию, страны СНГ, Латинской Америки, Ближнего Востока, Африки и Азии
💬 тематические форумы и панельные сессии по ключевым темам (например, этика ИИ, беспилотный транспорт, ИИ в науке)
💻 выставка инновационных решений в сфере ИИ

На полях WAIC было объявлено о создании экспертных центров и исследовательских программ:
📃 Центр передового опыта Глобального отраслевого альянса в области ИИ на базе ЮНИДО
📄 Ежегодная исследовательская программа по глобальному управлению ИИ

Более того, по итогам WAIC были опубликованы или анонсированы нормативно-правовые акты и рекомендации в сфере ИИ:
🟦Шанхайская декларация Глобального регулирования ИИ
🟦Руководство по управлению человекоподобными роботами
🟦Голубая книга по ИИ и верховенству права в мире (2024)

❗️Также на конференции была озвучена официальная позиция Китая - важно укреплять международное сотрудничество и содействовать построению единой системы управления ИИ.

💬 Герд Мюллер, Генеральный директор ООН по промышленному развитию (ЮНИДО), на церемонии открытия WAIC 2024 заявил, что ИИ позволит решить многие актуальные проблемы человечества: голод, формирование устойчивой промышленности, создание более качественных рабочих мест и др. Однако, одновременно с этим, риски ИИ возрастают, а цифровой разрыв между странами увеличивается. Именно поэтому необходимо создавать центры обмена опытом, а также разрабатывать нормативную базу в области регулирования ИИ.

#AI #WAIC #China #UN

ℹ️ Правительственный форум по глобальному управлению ИИ в рамках WAIC

4 июля в рамках ежегодной Всемирной конференции по ИИ состоялась закрытая встреча высокого уровня с участием официальных правительственных делегаций зарубежных стран (Китай, Росиия, Австралия, ОАЭ, Эфиопия, Венгрия, Швейцария, Саудовская Аравия, Сингапур, Нидерланды и другие), а также представителей международных организаций (ЮНЕСКО, ЮНИДО).

Встреча была посвящена следующим вопросам:
🟦Построение глобальной системы управления ИИ при участии ООН
🟦Сокращение технологического разрыва между Югом и Севером посредством предоставления помощи развивающимся странам
🟦Недопустимость монополизации сферы ИИ отдельными странами и корпорациями, а также разработки международного регулирования исключительно в интересах отдельных государств
🟦Международное сотрудничество для разработки международных стандартов в области ИИ
🟦Разработка и соблюдение прав человека и этических принципов на всех этапах жизненного цикла ИИ
🟦Своевременная подготовка квалифицированных кадров
🟦Недопустимость использования ИИ для вмешательства во внутреннюю политику государств

Отдельно была отмечена важность разработки безопасного ИИ и подсвечены актуальные риски его использования:
🙅‍♂️ распространение недостоверной информации, в т. ч. посредством создания дипфейков
🙅‍♂️ нарушение конфиденциальности данных
🙅‍♂️ риски внедрения ИИ в системы вооружения
🙅‍♂️ угрозы использования ИИ с целью дестабилизации государств

❗️ Главный вывод форума: нужно укрепить международное сотрудничество, чтобы создать эффективную и справедливую систему регулирования ИИ. Это позволит всему мировому сообществу использовать возможности, которые предоставляет ИИ.

#AI #WAIC #China #UN

👋Искусственный интеллект все глубже проникает в органы власти

27 июня председатель Конституционного суда РФ, Валерий Зорькин, выступил на Петербургском международном юридическом форуме с лекцией на тему "Право и вызовы ИИ", в которой подчеркнул, что технологии ИИ уже "на полных парах проникают в сферу юриспруденции".

Так, ИИ сейчас применяется в следующих сферах и задачах:
⚖️ автоматизация типовых юридических услуг и частичный переход правосудия в онлайн-сферу
💬 онлайн-сервисы для клиентов с ботами
📄разработка типовых решений на основе ИИ, включая конструкторы документов
❗️сервисы проверки контрагента и системы поиска судебной практики

👨‍⚖️ При этом 25 мая Совет судей РФ объявил, что в следующем году планируется запуск системы "Правосудие онлайн", в рамках которой будут использоваться технологии ИИ. Основной задачей ИИ станет автоматизированное составление проектов судебных актов на основе анализа материалов судебного дела. Также рассматривается возможность его использования для расшифровки аудиопротоколов и систематизации судебной практики.

Кроме того, Генпрокурор России Игорь Краснов, отвечая на вопросы сенаторов на пленарном заседании Совета Федерации, также рассказал о планах использования ИИ и нейронных сетей для работы прокуроров.

Внедрение ИИ в работу органов власти:
✔️снижает нагрузку на судей
✔️автоматизирует рутинные задачи
✔️повышает качество информационно-аналитической работы
✔️обсечпечивает более точное заполнение типовых судебных документов
✔️повышает доверие к правовой системе
✔️способствует эффективному прогнозированию возможного роста преступности

Стоит отметить, что не только Россия стремится к автоматизации правосудия и работы правоохранительных органов.
🇫🇷 Например, Франция нацелена на создание полностью функциональной цифровой службы государственного правосудия. Так, ИИ уже применяется в качестве инструмента поддержки принятия решений, основываясь на базе данных прецедентного права аппелляционных судов по гражданским делам.
🇨🇳Китай запустил систему умных судов, которая умеет самостоятельно принимать решение по делу и составлять процессуальный документ.

#ИИ #Правосудие

🇷🇺 Подборка новостей по России за прошедшую неделю

1️⃣ В России принят закон, который обязывает работающих в ЭПР разработчиков технологий ИИ страховать ответственность за возможный вред от применения технологии.

2️⃣ Замгендиректор ФЦПР ИИ Андрей Чукарин сообщил, что ФЦПР ИИ приступил к разработке методологии оценки ИИ-сервисов компаний для выделения им господдержки.

3️⃣ В Твери возбуждено уголовное дело по факту подделки с помощью нейросети голоса 25-летней женщины, с помощью которого злоумышленники записали голосовые сообщения друзьям девушки с просьбой одолжить денежные средства.

4️⃣ В России впервые был опубликован меморандум по использованию ИИ в образовании.