Forwarded from Комиссия по Регуляторике
Сегодня на круглом столе "Искусственный интеллект: разумный партнер" XII Международного ИТ-Форума с участием стран БРИКС и ШОС представлен доклад "Этика и цифра: от проблем к решениям", в котором рассмотрено, в том числе и развитие оценки воздействия алгоритмических систем на международном уровне и ее перспективы в России.
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment
ethics.cdto.center
Аналитический доклад «Этика и "цифра": от проблем к решениям»
Цифровые технологии становятся основой госуправления, а цифровой формат — форматом по умолчанию. 2020-е годы показывают нам, насколько важно уделять внимание этическим вопросам при внедрении цифровых технологий.
Forwarded from Цифровое право
#ИИ
Прозрачность и предсказуемость функционирования ИИ (explainable AI) стали предметом судебных разбирательств в Европе.
Итальянские суды приняли два значимых решения по искусственному интеллекту. В обоих случаях присутствует асимметричность информации между онлайн-платформами и пользователями, которую первые используют в своих интересах.
Дело Deliveroo (онлайн-компания по доставке продуктов питания и еды из ресторанов)
Deliveroo использует алгоритм «Франк» для рейтингования своих курьеров и распределения заказов. Рейтинг зависит от «надежности» курьера и его готовности работать в пиковое время. Рейтинг понижается, например, если курьер не предупреждает о том, что не сможет выйти в свою смену, хотя бы за сутки до ее начала. Чем выше рейтинг, тем больше заказов в удобное время получает курьер.
Суд пришел к выводу, что алгоритм Deliveroo не принимает во внимание причины, по которым курьер не сообщил о том, что не сможет выйти на работу. Таким образом, не делается различий между теми, кто просто прогулял, и теми, у кого были уважительные причины (болезнь, уход за ребенком, забастовка и т.д.). По решению суда Deliveroo должны устранить дискриминацию, которая лежит в основе работы их алгоритма.
Дело Mevaluate (платформа, которая позволяет узнать о репутации человека или компании)
Mevaluate строит свои рейтинги на основе персональных данных. Суд решил, что пользователям платформы ничего не известно о том, как и на основании какой логики работает ее алгоритм, он абсолютно непрозрачен. Пользователям неизвестно, как их персональные данные используются системой.
В связи с этим согласия на обработку персональных данных, которые предоставляют пользователи, даются ими неинформированно и, следовательно, не распространяются на работу алгоритма. Суд поддержал запрет Mevaluate обрабатывать персональные данные через свою платформу.
Прозрачность и предсказуемость функционирования ИИ (explainable AI) стали предметом судебных разбирательств в Европе.
Итальянские суды приняли два значимых решения по искусственному интеллекту. В обоих случаях присутствует асимметричность информации между онлайн-платформами и пользователями, которую первые используют в своих интересах.
Дело Deliveroo (онлайн-компания по доставке продуктов питания и еды из ресторанов)
Deliveroo использует алгоритм «Франк» для рейтингования своих курьеров и распределения заказов. Рейтинг зависит от «надежности» курьера и его готовности работать в пиковое время. Рейтинг понижается, например, если курьер не предупреждает о том, что не сможет выйти в свою смену, хотя бы за сутки до ее начала. Чем выше рейтинг, тем больше заказов в удобное время получает курьер.
Суд пришел к выводу, что алгоритм Deliveroo не принимает во внимание причины, по которым курьер не сообщил о том, что не сможет выйти на работу. Таким образом, не делается различий между теми, кто просто прогулял, и теми, у кого были уважительные причины (болезнь, уход за ребенком, забастовка и т.д.). По решению суда Deliveroo должны устранить дискриминацию, которая лежит в основе работы их алгоритма.
Дело Mevaluate (платформа, которая позволяет узнать о репутации человека или компании)
Mevaluate строит свои рейтинги на основе персональных данных. Суд решил, что пользователям платформы ничего не известно о том, как и на основании какой логики работает ее алгоритм, он абсолютно непрозрачен. Пользователям неизвестно, как их персональные данные используются системой.
В связи с этим согласия на обработку персональных данных, которые предоставляют пользователи, даются ими неинформированно и, следовательно, не распространяются на работу алгоритма. Суд поддержал запрет Mevaluate обрабатывать персональные данные через свою платформу.
27 июня председатель Конституционного суда РФ, Валерий Зорькин, выступил на Петербургском международном юридическом форуме с лекцией на тему "Право и вызовы ИИ", в которой подчеркнул, что технологии ИИ уже "на полных парах проникают в сферу юриспруденции".
Так, ИИ сейчас применяется в следующих сферах и задачах:
👨⚖️ При этом 25 мая Совет судей РФ объявил, что в следующем году планируется запуск системы "Правосудие онлайн", в рамках которой будут использоваться технологии ИИ. Основной задачей ИИ станет автоматизированное составление проектов судебных актов на основе анализа материалов судебного дела. Также рассматривается возможность его использования для расшифровки аудиопротоколов и систематизации судебной практики.
Кроме того, Генпрокурор России Игорь Краснов, отвечая на вопросы сенаторов на пленарном заседании Совета Федерации, также рассказал о планах использования ИИ и нейронных сетей для работы прокуроров.
Внедрение ИИ в работу органов власти:
Стоит отметить, что не только Россия стремится к автоматизации правосудия и работы правоохранительных органов.
🇫🇷 Например, Франция нацелена на создание полностью функциональной цифровой службы государственного правосудия. Так, ИИ уже применяется в качестве инструмента поддержки принятия решений, основываясь на базе данных прецедентного права аппелляционных судов по гражданским делам.
🇨🇳Китай запустил систему умных судов, которая умеет самостоятельно принимать решение по делу и составлять процессуальный документ.
#ИИ #Правосудие
Please open Telegram to view this post
VIEW IN TELEGRAM
Замначальника Управления федерального государственного надзора в области защиты прав потребителей Марина Кочнева во время конференции «Партнерство БРИКС по развитию цифровой экономики» поделилась новостью о том, что Роспотребнадзор подготовит предложения для нормативного регулирования рынка ИИ-решений в части защиты прав потребителей технологий ИИ.
Для подготовки данного предложения ведомством будут изучены:
Какие планируются законодательные нововведения?
#ИИ #Регулирование #ПраваПотребителей
Please open Telegram to view this post
VIEW IN TELEGRAM
🇷🇺 Правительство оставило свой отзыв на законопроект о дипфейках
Глава комитета Госдумы по труду, социальной политике и делам ветеранов Ярослав Нилов (ЛДПР) разработал законопроект, которым предлагается ввести в несколько статей Уголовного кодекса новый квалифицирующий признак - использование дипфейков.
ℹ️ Под использованием дипфейк-технологий в законопроекте понимается использование фальсифицированных или искусственно созданных изображений или голоса человека.
Изменения предлагается внести в следующие статьи:
🔵 Клевета
🔵 Мошенничество
🔵 Кража
🔵 Вымогательство
🔵 Мошенничество в сфере компьютерной информации
🔵 Причинение имущественного ущерба путем обмана или злоупотребления доверием
В пояснительной записке отмечается, что «современные программно-аппаратные комплексы, а также использование нейросетей и ИИ (технологии "дипфейк", "цифровые маски" и т. д.), позволяют создавать подделки, отличить которые от реальности неспециалисту практически невозможно».
💬 Как говорится в официальном отзыве правительства на законопроект, в отраслевом законодательстве не урегулированы вопросы использования технологий подмены личности. Включение предложенных изменений в статьи при отсутствии корреспондирующих норм материального законодательства может повлечь формирование некорректной правоприменительной практики.
Также в правительстве уточняют, что пояснительная записка к законопроекту не содержит статистических и иных данных, "свидетельствующих об общественной опасности криминализируемых деяний".
💬 Ярослав Нилов заявил, что рабочая группа учтет замечания, доработает инициативу и будет вносить в Государственную Думу на рассмотрение.
#ИИ #Дипфейк #Регулирование
Глава комитета Госдумы по труду, социальной политике и делам ветеранов Ярослав Нилов (ЛДПР) разработал законопроект, которым предлагается ввести в несколько статей Уголовного кодекса новый квалифицирующий признак - использование дипфейков.
Изменения предлагается внести в следующие статьи:
В пояснительной записке отмечается, что «современные программно-аппаратные комплексы, а также использование нейросетей и ИИ (технологии "дипфейк", "цифровые маски" и т. д.), позволяют создавать подделки, отличить которые от реальности неспециалисту практически невозможно».
Также в правительстве уточняют, что пояснительная записка к законопроекту не содержит статистических и иных данных, "свидетельствующих об общественной опасности криминализируемых деяний".
#ИИ #Дипфейк #Регулирование
Please open Telegram to view this post
VIEW IN TELEGRAM
🇷🇺 В России замерят уровень внедрения ИИ
Дмитрий Григоренко, руководитель аппарата Правительства РФ, сообщил, что 19 августа начался ежегодный опрос среди российских организаций и органов исполнительной власти с целью замерить уровень внедрения технологий ИИ в отраслях экономики, социальной сферы и госуправления.
📌 Собранные данные лягут в основу расчета показателей эффективности развития ИИ в национальной стратегии развития ИИ на период до 2030 года, утвержденной указом Президента.
Более того, данное исследование позволит получить дополнительную информацию о существующих барьерах в этой сфере - с чем сталкиваются бизнес и органы власти на местах. Полученную информацию особенно полезно проанализировать перед запуском нового нацпроекта "Экономика данных".
Исследование будет включать в себя, в частности, вопросы:
🟥 о применении ИИ
🟥 об эффектах от использования технологий
🟥 о деятельности организаций по обеспечению безопасности использования ИИ
🟥 о наличии необходимых ресурсов
🗓 Аналитический доклад планируется подготовить к 15 октября.
🧷 Ссылки для участия в опросе для отраслевых организаций и для органов власти.
#ИИ #УровеньВнедрения
Дмитрий Григоренко, руководитель аппарата Правительства РФ, сообщил, что 19 августа начался ежегодный опрос среди российских организаций и органов исполнительной власти с целью замерить уровень внедрения технологий ИИ в отраслях экономики, социальной сферы и госуправления.
Более того, данное исследование позволит получить дополнительную информацию о существующих барьерах в этой сфере - с чем сталкиваются бизнес и органы власти на местах. Полученную информацию особенно полезно проанализировать перед запуском нового нацпроекта "Экономика данных".
Исследование будет включать в себя, в частности, вопросы:
#ИИ #УровеньВнедрения
Please open Telegram to view this post
VIEW IN TELEGRAM
🇷🇺🇨🇳 Россия и Китай усиливают сотрудничество в сфере ИИ
По итогам встречи премьер-министра Российской Федерации Михаила Мишустина и премьер-министра Китая Ли Цяна, стороны договорились, что будут предпринимать усилия, направленные на дальнейшее эффективное продвижение двустороннего сотрудничества в сфере искусственного интеллекта.
Как сообщается в коммюнике, для достижения поставленной цели стороны планируют:
🆗 активизировать практическое сотрудничество в сфере ИИ на основе взаимного уважения, равенства и взаимной выгоды
🆗 усилить координацию по вопросам, связанным с глобальным управлением
🆗 поддержать создание рабочей группы
🆗 содействовать обмену опытом и лучшими практиками в отношении регулирования этики и промышленного применения ИИ
❗️ Более того, Россия и Китай договорились поддержать сотрудничество стран БРИКС по развитию потенциала в области ИИ и приветствовать создание китайской стороной "Центра развития искусственного интеллекта Китай – БРИКС".
#ИИ #Регулирование #Россия #Китай
По итогам встречи премьер-министра Российской Федерации Михаила Мишустина и премьер-министра Китая Ли Цяна, стороны договорились, что будут предпринимать усилия, направленные на дальнейшее эффективное продвижение двустороннего сотрудничества в сфере искусственного интеллекта.
Как сообщается в коммюнике, для достижения поставленной цели стороны планируют:
#ИИ #Регулирование #Россия #Китай
Please open Telegram to view this post
VIEW IN TELEGRAM
3 сентября Всероссийский центр изучения общественного мнения (ВЦИОМ) опубликовал результаты опроса россиян об этике и искусственном интеллекте.
Согласно опросу технологии ИИ поддерживает наиболее технологически «продвинутая» часть общества — молодое поколение, образованные и обеспеченные граждане, живущие в больших городах, а также активные пользователи интернета.
#ИИ #Этика
Please open Telegram to view this post
VIEW IN TELEGRAM
⚖️ Сейчас Гражданский кодекс Российской Федерации охраняет право гражданина только на изображение. Однако развитие технологий ИИ привело к том, что образовался законодательный пробел в этой области для голоса. Появились резонансные случаи несанкционированного использования голосов и актеров дубляжа для создания ИИ-синтеза речи.
🏛️ Эта проблема стала предметом обсуждения на заседании секции «Искусственный интеллект» Совета Федерации осенью 2023 г. В течение года при участии Альянса в сфере ИИ и Национальной Федерации Музыкальной Индустрии велась разработка соответствующих поправок в Гражданский кодекс.
В результате предложено дополнить часть первую Гражданского кодекса статьей 152.3, которая установит положения, направленные на охрану голоса гражданина:
#ИИ #Регулирование #Законопроект
Please open Telegram to view this post
VIEW IN TELEGRAM
🇷🇺 В России прошел Цифровой форум БРИКС
26–27 сентября в Иннополисе состоялся ежегодный Цифровой Форум БРИКС и официальная встреча министров связи стран БРИКС. В мероприятии также приняли участие представители государственных структур, бизнеса и научно-образовательного сообщества.
На данном мероприятии эксперты в сфере ИИ обсудили:
⚡️ этические аспекты его применения
⚖️ необходимость регулирования технологии
Так, большинство экспертов согласились с тем, что ИИ не нужно комплексное регулирование, так как другие законы уже охватывают многие сферы.
💬 «30 лет назад в нашу жизнь вошли персональные компьютеры. У нас есть закон о персональных компьютерах? У нас много регуляторных актов, регламентирующих конкретные случаи использования, но под крышу общего закона их не собрали. С искусственным интеллектом то же самое», - считает директор по развитию технологий ИИ «Яндекс» Александр Крайнов.
Участники дискуссии также считают, что важно "саморегулирование" отрасли:
🔜 необходимо продолжать работу над Кодексом этики в сфере ИИ (в отличие от закона, его можно оперативно корректировать)
Андрей Незнамов, председатель Комиссии по этике в сфере ИИ, управляющий директор-начальник Центра человекоцентричного ИИ ПАО "Сбербанк", объявил о новой инициативе:
📄 Комиссия по этике в сфере ИИ через два месяца представит Белую книгу по этике ИИ, в которой будут собраны ответы на самые популярные этические вопросы в данной сфере
❗️ Подводя итоги дискуссии, участники форума пришли к выводу, что тормозить развитие ИИ ни в коем случае не надо, чтобы не отставать от других стран.
#ИИ #Этика #Регулирование #БРИКС
26–27 сентября в Иннополисе состоялся ежегодный Цифровой Форум БРИКС и официальная встреча министров связи стран БРИКС. В мероприятии также приняли участие представители государственных структур, бизнеса и научно-образовательного сообщества.
На данном мероприятии эксперты в сфере ИИ обсудили:
Так, большинство экспертов согласились с тем, что ИИ не нужно комплексное регулирование, так как другие законы уже охватывают многие сферы.
Участники дискуссии также считают, что важно "саморегулирование" отрасли:
Андрей Незнамов, председатель Комиссии по этике в сфере ИИ, управляющий директор-начальник Центра человекоцентричного ИИ ПАО "Сбербанк", объявил о новой инициативе:
#ИИ #Этика #Регулирование #БРИКС
Please open Telegram to view this post
VIEW IN TELEGRAM
Открыла деловую программу Форума пленарная сессия «Этика ИИ: окно возможностей».
Сергей Юрьевич Наквасин — директор Национального центра развития искусственного интеллекта при Правительстве Российской Федерации.
#ИИ #Этика
Please open Telegram to view this post
VIEW IN TELEGRAM