Добро пожаловать на канал Центра регулирования искусственного интеллекта!
Он целиком посвящен вопроса регулирования этих технологий и смежных сфер. Мы говорим про законодательство, этику применения ИИ, международное регулирование, стандартизацию, правовые аспекты внедрения ИИ в отдельных отраслях.
На этом канале будут размещаться:


- Проекты нормативно-правовых актов на стадии обсуждения
- Авторские переводы зарубежных законов и других актов
- Справки и подборки
- Большие аналитические исследования, проводимые в России
- Вакансии для юристов в сфере ИИ
- Анонсы мероприятий по теме регулирования ИИ
- Актуальные новости

Поехали!

⚡️🇪🇺📃Проект регламента Еврокомиссии о регулировании ИИ - впервые на русском языке

14 апреля Еврокомиссия опубликовала проект регламента о регулировании ИИ. Проект устанавливает детальные предложения о регулировании технологий ИИ в Европе.

Проект вызывал очень много дискуссий и обсуждений во всех странах мира, перед которыми стоит вопрос о дальнейшем развитии регулирования этой сфере.

Центр регулирования ИИ подготовил перевод данного проекта на русский язык.

🚗🇩🇪📃 В Бундестаге ФРГ приняли закон, разрешающий использовать беспилотники на дорогах общего пользования для перевозки пассажиров и грузов. Принятие закона в Бундесрате ожидается в ближайшее время. Текст закона доступен здесь.

⚡️🇺🇸📊 Американский исследовательский центр CNA (Center for Naval Analyses), исторически близкий к ВМС США, опубликовал отчёт про развитие искусственного интеллекта в России.

Центр регулирования ИИ подготовил выжимку с основными положениями отчёта на русском языке.

⚡️🚁🇷🇺📃Сегодня Государственная Дума приняла в первом чтении законопроект, призванный отменить обязательное лицензирование:
1️⃣ разработки
2️⃣ производства
3️⃣ испытаний и
4️⃣ ремонта
беспилотных авиационных систем /их элементов, включающих беспилотные воздушные суда (БВС) максимальной взлётной массой до 30 кг.

Напомним, что сейчас любые БВС относятся к категории «авиационная техника» в ФЗ «О лицензировании отдельных видов деятельности». То есть, на создание «лёгких» БВС распространяются такие же требования по получению лицензии, как, например, и на создание полноценного самолёта.

При этом речь идёт не только о собственно производстве воздушного судна, но и о существенном перечне работ и услуг, затрагивающих всю отрасль. Например, необходимо получать лицензию для:
❗️проведения НИОКР (в том числе с применением методов научного и математического моделирования);
❗️разработки технических предложений по созданию БВС;
❗️создании макетного образца БВС и
❗️разработки программно-математического обеспечения для него.

В Законопроекте предлагается сделать важное исключение из этого правила для беспилотников до 30 кг - а это значительная часть рынка. Таким образом, Законопроект стимулирует развитие рынка БВС.

⬆️ Как пояснил для нашего ТГ канала Андрей Грудев (Президент Ассоциации предприятий индустрии беспилотных авиационных систем «АЭРОНЕКСТ», Заместитель директора по стратегическим проектам ГК "Геоскан"):

1️⃣ указанная мера призвана облегчить работу ключевых драйверов индустрии – производителей т.н. «лёгких дронов», взлётная масса которых не превышает 30 кг.; и

2️⃣ в то же время создание «тяжёлых дронов» (с максимальной взлётной массой от 30 кг), по сути приравниваемых к обычным воздушным судам также не требует лицензирования, несмотря на высокие риски, возникающие в связи с их работой, поскольку в Федеральном законе 99-ФЗ сказано: «К лицензируемым видам деятельности относятся виды деятельности, …. регулирование которых не может осуществляться иными методами, кроме как лицензированием».

С учетом того, что есть сертификация авиационной техники (АТ), разработчиков и изготовителей (ст. 8 Воздушного кодекса), то, по мнению Ассоциации, надо вообще убирать избыточное дублирование в виде лицензирования разработчиков и производителей гражданской АТ.

⚡️🇷🇺Сбер готовит первую заявку в Роспатент на продукт, созданный ИИ.

Мы обязательно поделимся с подписчиками деталями эксперимента.

⚡️🇷🇺 На сегодняшнем заседании СБ РФ по вопросам защиты национальных интересов в сфере разработки искусственного интеллекта Зампред Дмитрий Медведев предложил сформировать позицию по чувствительным этическим вопросам применения и внедрения ИИ.

Речь идёт о тех вопросах, которые сейчас обсуждаются на международной арене, например, идеи:
1️⃣ "возможный запрет применения некоторых форм ИИ, если это потребуется";
2️⃣ "ограничение его использования в отдельных сферах" и идеи "введения внешнего контроля за разработками в этой области"; и
3️⃣ "рекомендации по моральной стороне использования технологий искусственного интеллекта".

При этом Д. Медведев обратил особое внимание на ряд обстоятельств:
❗️недопустимо "перегнуть" палку и "запретить то, что в конечном счете станет исключительно важным для человеческого развития"
❗️необходимо коммерциализировать производство отечественных технологий и обеспечить их продвижение на зарубежные рынки;
❗️ "в ряде случаев потребуются законы, которые, к сожалению, пишутся очень медленно, как правило, и подзаконные акты, прежде всего акты правительства";
❗️"этические вопросы пока нигде не решены, они только начинают обсуждаться, а там критических проблем предостаточно".

При это он отметил важность обсуждения этих вопросов на международном уровне и а частности в рамках БРИКС. «А документ на уровне БРИКС мог бы включать в конечном счете выход на модельные законы, которые содержат регулирование актуальных для всех стран проблем. Это вопросы беспилотного транспорта, разработки и внедрения интеллектуальных разработок, искусственного интеллекта в медицине и здравоохранении».

⚡️🇺🇸📃 В США Сенат одобрил законопроект, направленный на стимулирование производства полупроводников в США и развитие искусственного интеллекта.

Законопроект предусматривает целый пакет изменений:
1️⃣ создание нового управления в Национальном научном фонде, которое бы фокусировалось на поддержке исследований и развития ИИ и квантовых технологий, и инвестирование более 80 млрд долларов в создание и будущие программы этого фонда.

При этом разработка технологий ИИ и машинного обучения обозначена в качестве первостепенного по значимости направления технологического развития, на котором должен фокусироваться Национальный научный фонд. Робототехнике в системе приоритетов присвоено 4е место после "полупроводников и современного компьютерного оборудования" (2е место) и квантовых технологий (3е место);

2️⃣ запрет федеральным гос органам приобретать беспилотные авиационные системы, созданные в Китае и/или компаниями, аффилированными с Коммунистической партией Китая; а также

3️⃣ обязанность Административно-бюджетного управления (OMB) опубликовать руководство по использованию ИИ госорганами. Данное руководство включало бы в себя как общие принципы, так и более конкретные политики, которые должны быть учтены государственными органами. При этом глава каждого федерального агентства должен будет разработать и обновлять перечень используемых и планируемых к внедрению систем ИИ.

В общей сложности законопроект подразумевает инвестирование 250 млрд. долларов в течение 5 лет. Законопроект был поддержан как республиканцами, так и демократами, а Президент США Джо Байден выпустил заявление, в котором поздравил Сенат с принятием законопроекта.

⚡️⚡️⚡️Срочно: Минтранспорта опубликовало для обсуждения проект Федерального закона «О высокоавтоматизированных транспортных средствах ‎и о внесении изменений в отдельные законодательные акты ‎Российской Федерации» (№ 02/04/06-21/00116763).

Законопроект призван урегулировать вопросы, возникающие в связи с изготовлением и эксплуатацией высокоавтоматизированных ТС ("ВАТС"). В частности:

1️⃣ устанавливаются общие требования к ВАТС и условия их допуска к участию в дорожном движении;
2️⃣ устанавливаются ключевые обязанности изготовителей, владельцев и операторов ВАТС;
3️⃣ регламентируются ключевые положения об ответственности изготовителя, владельца и оператора ВАТС.

Этот законопроект – третий по счёту среди проектов, посвящённых регулированию ВАТС. Первым был внесенный в Думу проект ФЗ «Об опытной эксплуатации инновационных транспортных средств и внесении изменений в отдельные законодательные акты Российской Федерации» (2019 год). Затем в Думу был внесен законопроект госсовета Татарстана (2020 год). Однако оба законопроекта были отозваны. И вот сейчас третий вариант - один из самых детальных.

Текущий законопроект разработан регулятором при непосредственном участии ключевых игроков этого рынка. И хотя он, конечно, будет дорабатываться, принятие такого закона было бы одним из важнейших событий в развитии индустрии ВАТС в России.

В серии следующих постов мы будем рассказывать о регулировании ВАТС в зарубежных странах, а также прокомментируем основные положения проекта российского закона.

📊🚗🇨🇳 Сегодня мы делимся с вами краткой аналитической справкой о регулировании беспилотных автомобилей в Китае⬇️.

Недавно технический директор китайского технологического гиганта Alibaba Ченг Ли объявил о планах по разработке беспилотных грузовых атомобилей совместно с дочерней логистической компанией Cainiao, что в очередной раз подчеркивает необходимость и важность развития регулирования высокоавтоматизированных транспортных средст. Как обещали, будем постепенно рассказывать про опыт регулирования беспилотныхных транспортных средств в зарубежных странах.

Китай является одним из мировых лидеров по регулированию беспилотных автомобилей, с чем связано их активное внедрение и тестирование на дорогах общего пользования.

Основой китайского регулирования беспилотников являются:
🔘 Закон КНР о безопасности дорожного движения, главным образом регулирующий вопросы дорожного движения в Китае, и
🔘Национальное руководство по дорожным испытаниям, целью которого является введение общенациональной правовой базы для тестирования беспилотных автомобилей на дорогах общего пользования, а также содействие развитию автоматизированной технологии вождения путем проведения испытаний на дорогах общего пользования.

В Национальном руководстве по дорожным испытаниям содержится определение «интеллектуального и подключенного ТС»; разграничение трёх уровней автоматизации; процедуры и требования к испытаниям беспилотников; требования к испытываемому транспортному средству; требования к водителю-испытателю.

Кроме национального законодательства, регулирование беспилотных автомобилей устанавливается и на местном уровне. Так, местные органы власти в сфере транспорта в Пекине, Шанхае, Чунцине, Чанше, Гуандуне, Фучжоу Пинтане, Чанчу, Тяньцзине, Чжэцзяне, Цзинане, Ухане и Цзянсу установили местные правила для дальнейшего регулирования беспилотников в своих регионах. Данные местные правила содержат аналогичные, но более подробные требования в отношении испытуемого транспортного средства и водителя-испытателя, чем предусмотренные Национальным руководством по дорожным испытаниям, с учетом местных особенностей.

Также в Китае существует Стратегия инноваций и развития интеллектуальных транспортных средств, предусматривающая создание к 2025 году комплексной системы, включающей технологические инновации, промышленную экосистему, инфраструктуру, правила и стандарты, регулирование продуктов и кибербезопасность – все это направлено на создание экосистемы для развития интеллектуальных транспортных средств в Китае.

Стоит отметить, что законодательное регулирование в сфере беспилотных автомобилей в Китае стремительно развивается. Так, 24 марта 2021 года Министерство общественной безопасности Китая опубликовало Проект Предлагаемых поправок к Закону о безопасности дорожного движения. Данные поправки предусматривают уточнение требований, связанных с дорожными испытаниями ТС, оснащенных автоматизированными функциями вождения, и доступом к ним, а также регулирование порядка распределения ответственности за нарушения ПДД и ДТП.

В области местного законодательства в настоящее время на рассмотрении находится
Проект Регламента Специальной экономической зоны Шэньчжэнь по администрированию интеллектуальных и подключенных транспортных средств, который закрепляет всю цепочку жизни беспилотных автомобилей: разработку, дорожные испытания, регистрацию доступа, управление, использование, ДТП, обработку аварий и нарушений, решение вопросов юридической ответственности.

⚡️🇷🇺📃 Госдума приняла в 3 чтении законопроект - спутник к закону об ЭПР. По сравнению с первоначальным текстом законопроекта, итоговая версия оказалась изменена. Ниже обзор ключевых изменений:
❗️исключается возможность создания ЭПР, позволяющих заключать договор об оказании услуг связи с помощью биометрических технологий (исключены правки в ст. 44 закона о связи) (в рамках проекта дистанционного заключения договоров об оказании услуг связи с использованием биометрических технологий) ;
❗️исключаются правки в п. 1 ст. 53 Закона о связи, отменяющие в рамках ЭПР режим ограниченного доступа баз данных об абонентах операторов связи (в рамках проекта сервиса для малого и среднего бизнеса по подбору оптимальных сфер и мест деятельности на базе больших данных). Вместо этого предусматривается возможность создания ЭПР, в рамках которого оператор подвижной радиотелефонной связи сможет предоставлять другим участникам ЭПР сведения о количестве абонентов, находящихся в определенный период времени на определенной территории в границах территории действия регуляторной песочницы (в рамках ст. 53.1 закона о связи);
❗️предусмотрены дополнительные правки в ВК РФ (п. 1 ст. 66), позволяющие в рамках ЭПР допускать к полёту воздушные суда, не имеющие государственный и регистрационный или учетный опознавательные знаки, не прошедшее подготовку и не имеющее на борту соответствующую документацию (в рамках проекта сервиса грузовых перевозок с использованием беспилотных авиационных систем). Также в рамках новой версии законопроекта вносятся правки в п. 4 ст. 54 ВК РФ (в дополнение к правкам в ст. 53). Благодаря данным правкам в рамках ЭПР будут упрощены условия допуска лиц к выполнению функций внешнего пилота.

Сегодня на круглом столе "Искусственный интеллект: разумный партнер" XII Международного ИТ-Форума с участием стран БРИКС и ШОС представлен доклад "Этика и цифра: от проблем к решениям", в котором рассмотрено, в том числе и развитие оценки воздействия алгоритмических систем на международном уровне и ее перспективы в России.
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment

🇺🇸 🚗📃 В штате Луизиана подписан закон, устанавливающий минимальные требования к роботам - курьерам. К такому курьеру устанавливаются требования по максимальной скорости (в зависимости от локации - от 19.3 до 32.19 км/час), поведению на дороге (пропускать пешеходов, не создавать пробки), перевозимым грузам (не допускается перевозка грузов, представляющих опасность для жизни и здоровья), наличию осветительных приборов и страхованию (на сумму не менее 100 000 долларов).

🇦🇺📊Делимся докладом Комиссии Австралии по защите прав человека по правовым вопросам, возникающим при внедрении ИИ. Доклад подготовлен для Ген. Атторнея Австралии по итогам трех лет исследований и консультаций.

Доклад состоит из 38 рекомендаций по направлениям:
1️⃣ стратегия внедрения новых технологий;
2️⃣ использование ИИ гос органами и бизнесом;
3️⃣ создание Комиссариата по безопасности ИИ;
4️⃣ рекомендации по обеспечению доступности технологий.

2 часть придерживается традиционного разграничения бизнес/государство. Ключевые положения:
А. Для гос-ва
1) внедрить процедуру оценки влияния систем ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) не можете объяснить, как алгоритм пришёл к решению, влияющего на права гражданина - не используйте систему ИИ.
Б. Для бизнеса
1) рекомендуется оценка влияния ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) презумпция, что компания в ответе за решения ИИ.

Также будут разработаны руководства по предотвращению дискриминации.

🚆🗓 Одна из из самых перспективных сфер внедрения ИИ в России - автономное управление на ж/д транспорте.

Развитие регулирования там идет очень быстро, как и внедрение ИИ в работу. Делимся с подписчиками интересными моментами из выступлений спикеров семинара «Технологии автономного вождения на железнодорожном транспорте - Предвосхищая ожидания», организованного ОАО «РЖД» как председательствующей организацией в Международном совете по железнодорожным исследованиям. В нем приняли участие представители России, Австралии, Китая, Франции, Бельгии и США.

Внедрение технологий автономного управления в этой сфере порождает целый ряд этических и регуляторных вопросов. Позднее мы расскажем поподробнее про эти аспекты.

⚡️🇪🇺Европейский совет по защите данных (EDPB) и Европейский инспектор по защите данных (EDPS) опубликовали совместную позицию в отношении ранее опубликованнного проекта Регламента Еврокомиссии ЕС о регулировании ИИ.

Совместная позиция состоит, в частности, из следующих положений:
1️⃣ Хотя EDPB и EDPS всячески приветствуют инициативы регулирования ИИ на уровне ЕС, они обеспокоены тем, что проект регламента не включает вопросы международного сотрудничества правоохранительных органов по вопросам, связанным с применением ИИ;
2️⃣ По мнению EDPB и EDPS, следует также дополнительно обратить внимание, что любые случаи обработки персональных данных системами ИИ будут регулироваться не только регламентом, но и GDPR. По их мнению, для оценки рисков в рамках предлагаемого Регламентом риск-ориентированного подхода в параметре "риски нарушения основополагающих прав" должны быть учтены требования GDPR. И соответствие европейским нормам в области регулирования и защиты данных должно быть одним из условий, без которого будет невозможен допуск зарубежных технологий и ПО на европейский рынок;
3️⃣ ❗️При этом EDPB и EDPS выступают за запрет использования технологий распознавания лиц, голоса, ДНК, походки и других способов биометрической идентификации при помощи искусственного интеллекта. Также они выступают за максимальное ограничение внедрения технологий распознавания эмоций (за исключением использования таких технологий в медицинских целях), за запрет использования ИИ для социального скоринга или для классификации людей по каким-либо признакам, если это может повлечь дискриминацию.

Перевод проекта Регламента на русский язык смотрите в этом посте.

🌍 Как Вам, вероятно, уже известно, Организация экономического сотрудничества и развития (ОЭСР) проводит публичные консультации по проекту классификации систем ИИ (см. 2пейджер здесь). По итогам ожидается разработать простой и понятный классификатор систем ИИ, основанный на критериях:
1️⃣ контекста (context);
2️⃣ используемых данных (data and input);
3️⃣ моделей ИИ (AI model);
4️⃣ получаемых результатов (task and output).

По замыслу ОЭСР, такой классификатор мог бы стать полезным инструментом, в частности - для регулирования отношений, связанных с ИИ.

У нас есть статус членов сети экспертов, так что если у Вас есть вопросы или пожелания, связанные с проектом классификатора, то мы можем их адресовать в ОЭСР. Для этого Вы можете написать в ЛС администраторам нашего канала.

⚡️⚡️🇪🇺Совет Европейского Союза (Council of the European Union) опубликовал "Выводы об использовании технологий обработки данных для "Лучшего регулирования".

Документ содержит общую позицию Совета ЕС по использованию современных технологий (среди которых Совет ЕС прямо выделяет ИИ) и по совершенствованию нормативного регулирования. В целом, позиция Совета ЕС следующая:
1️⃣ необходимо придерживаться человеко-центрированного подхода и учёта европейских ценностей и основополагающих прав в использовании технологий;
2️⃣ следует уделять особое внимание этическим стандартам использования технологий, а также обеспечивать безопасность и защиту законных интересов граждан;
3️⃣ важно учитывать и прорабатывать риски, связанных с защитой персональных данных, не допускать дискриминацию и унижение человеческого достоинства;
4️⃣ следует придерживаться принципы открытости работы государственного сектора настолько, насколько это возможно;
5️⃣ государствам - членам ЕС, а также Комиссии следует определиться, как можно использовать современные технологии для поддержки и разработки нового, "по умолчанию рассчитанного на цифровую среду" ("digital by default") регулирования.