Forwarded from Комиссия по Регуляторике
Сегодня на круглом столе "Искусственный интеллект: разумный партнер" XII Международного ИТ-Форума с участием стран БРИКС и ШОС представлен доклад "Этика и цифра: от проблем к решениям", в котором рассмотрено, в том числе и развитие оценки воздействия алгоритмических систем на международном уровне и ее перспективы в России.
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment
ethics.cdto.center
Аналитический доклад «Этика и "цифра": от проблем к решениям»
Цифровые технологии становятся основой госуправления, а цифровой формат — форматом по умолчанию. 2020-е годы показывают нам, насколько важно уделять внимание этическим вопросам при внедрении цифровых технологий.
🇺🇸 🚗📃 В штате Луизиана подписан закон, устанавливающий минимальные требования к роботам - курьерам. К такому курьеру устанавливаются требования по максимальной скорости (в зависимости от локации - от 19.3 до 32.19 км/час), поведению на дороге (пропускать пешеходов, не создавать пробки), перевозимым грузам (не допускается перевозка грузов, представляющих опасность для жизни и здоровья), наличию осветительных приборов и страхованию (на сумму не менее 100 000 долларов).
🇦🇺📊Делимся докладом Комиссии Австралии по защите прав человека по правовым вопросам, возникающим при внедрении ИИ. Доклад подготовлен для Ген. Атторнея Австралии по итогам трех лет исследований и консультаций.
Доклад состоит из 38 рекомендаций по направлениям:
1️⃣ стратегия внедрения новых технологий;
2️⃣ использование ИИ гос органами и бизнесом;
3️⃣ создание Комиссариата по безопасности ИИ;
4️⃣ рекомендации по обеспечению доступности технологий.
2 часть придерживается традиционного разграничения бизнес/государство. Ключевые положения:
А. Для гос-ва
1) внедрить процедуру оценки влияния систем ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) не можете объяснить, как алгоритм пришёл к решению, влияющего на права гражданина - не используйте систему ИИ.
Б. Для бизнеса
1) рекомендуется оценка влияния ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) презумпция, что компания в ответе за решения ИИ.
Также будут разработаны руководства по предотвращению дискриминации.
Доклад состоит из 38 рекомендаций по направлениям:
1️⃣ стратегия внедрения новых технологий;
2️⃣ использование ИИ гос органами и бизнесом;
3️⃣ создание Комиссариата по безопасности ИИ;
4️⃣ рекомендации по обеспечению доступности технологий.
2 часть придерживается традиционного разграничения бизнес/государство. Ключевые положения:
А. Для гос-ва
1) внедрить процедуру оценки влияния систем ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) не можете объяснить, как алгоритм пришёл к решению, влияющего на права гражданина - не используйте систему ИИ.
Б. Для бизнеса
1) рекомендуется оценка влияния ИИ на права человека
2) уведомлять пользователя о взаимодействии с ИИ
3) презумпция, что компания в ответе за решения ИИ.
Также будут разработаны руководства по предотвращению дискриминации.
Вебинар (автоматизация ж:д).docx
15 KB
🚆🗓 Одна из из самых перспективных сфер внедрения ИИ в России - автономное управление на ж/д транспорте.
Развитие регулирования там идет очень быстро, как и внедрение ИИ в работу. Делимся с подписчиками интересными моментами из выступлений спикеров семинара «Технологии автономного вождения на железнодорожном транспорте - Предвосхищая ожидания», организованного ОАО «РЖД» как председательствующей организацией в Международном совете по железнодорожным исследованиям. В нем приняли участие представители России, Австралии, Китая, Франции, Бельгии и США.
Внедрение технологий автономного управления в этой сфере порождает целый ряд этических и регуляторных вопросов. Позднее мы расскажем поподробнее про эти аспекты.
Развитие регулирования там идет очень быстро, как и внедрение ИИ в работу. Делимся с подписчиками интересными моментами из выступлений спикеров семинара «Технологии автономного вождения на железнодорожном транспорте - Предвосхищая ожидания», организованного ОАО «РЖД» как председательствующей организацией в Международном совете по железнодорожным исследованиям. В нем приняли участие представители России, Австралии, Китая, Франции, Бельгии и США.
Внедрение технологий автономного управления в этой сфере порождает целый ряд этических и регуляторных вопросов. Позднее мы расскажем поподробнее про эти аспекты.
⚡️🇪🇺Европейский совет по защите данных (EDPB) и Европейский инспектор по защите данных (EDPS) опубликовали совместную позицию в отношении ранее опубликованнного проекта Регламента Еврокомиссии ЕС о регулировании ИИ.
Совместная позиция состоит, в частности, из следующих положений:
1️⃣ Хотя EDPB и EDPS всячески приветствуют инициативы регулирования ИИ на уровне ЕС, они обеспокоены тем, что проект регламента не включает вопросы международного сотрудничества правоохранительных органов по вопросам, связанным с применением ИИ;
2️⃣ По мнению EDPB и EDPS, следует также дополнительно обратить внимание, что любые случаи обработки персональных данных системами ИИ будут регулироваться не только регламентом, но и GDPR. По их мнению, для оценки рисков в рамках предлагаемого Регламентом риск-ориентированного подхода в параметре "риски нарушения основополагающих прав" должны быть учтены требования GDPR. И соответствие европейским нормам в области регулирования и защиты данных должно быть одним из условий, без которого будет невозможен допуск зарубежных технологий и ПО на европейский рынок;
3️⃣ ❗️При этом EDPB и EDPS выступают за запрет использования технологий распознавания лиц, голоса, ДНК, походки и других способов биометрической идентификации при помощи искусственного интеллекта. Также они выступают за максимальное ограничение внедрения технологий распознавания эмоций (за исключением использования таких технологий в медицинских целях), за запрет использования ИИ для социального скоринга или для классификации людей по каким-либо признакам, если это может повлечь дискриминацию.
Перевод проекта Регламента на русский язык смотрите в этом посте.
Совместная позиция состоит, в частности, из следующих положений:
1️⃣ Хотя EDPB и EDPS всячески приветствуют инициативы регулирования ИИ на уровне ЕС, они обеспокоены тем, что проект регламента не включает вопросы международного сотрудничества правоохранительных органов по вопросам, связанным с применением ИИ;
2️⃣ По мнению EDPB и EDPS, следует также дополнительно обратить внимание, что любые случаи обработки персональных данных системами ИИ будут регулироваться не только регламентом, но и GDPR. По их мнению, для оценки рисков в рамках предлагаемого Регламентом риск-ориентированного подхода в параметре "риски нарушения основополагающих прав" должны быть учтены требования GDPR. И соответствие европейским нормам в области регулирования и защиты данных должно быть одним из условий, без которого будет невозможен допуск зарубежных технологий и ПО на европейский рынок;
3️⃣ ❗️При этом EDPB и EDPS выступают за запрет использования технологий распознавания лиц, голоса, ДНК, походки и других способов биометрической идентификации при помощи искусственного интеллекта. Также они выступают за максимальное ограничение внедрения технологий распознавания эмоций (за исключением использования таких технологий в медицинских целях), за запрет использования ИИ для социального скоринга или для классификации людей по каким-либо признакам, если это может повлечь дискриминацию.
Перевод проекта Регламента на русский язык смотрите в этом посте.
Telegram
Центр регулирования ИИ
⚡️🇪🇺📃Проект регламента Еврокомиссии о регулировании ИИ - впервые на русском языке
14 апреля Еврокомиссия опубликовала проект регламента о регулировании ИИ. Проект устанавливает детальные предложения о регулировании технологий ИИ в Европе.
Проект вызывал…
14 апреля Еврокомиссия опубликовала проект регламента о регулировании ИИ. Проект устанавливает детальные предложения о регулировании технологий ИИ в Европе.
Проект вызывал…
🌍 Как Вам, вероятно, уже известно, Организация экономического сотрудничества и развития (ОЭСР) проводит публичные консультации по проекту классификации систем ИИ (см. 2пейджер здесь). По итогам ожидается разработать простой и понятный классификатор систем ИИ, основанный на критериях:
1️⃣ контекста (context);
2️⃣ используемых данных (data and input);
3️⃣ моделей ИИ (AI model);
4️⃣ получаемых результатов (task and output).
По замыслу ОЭСР, такой классификатор мог бы стать полезным инструментом, в частности - для регулирования отношений, связанных с ИИ.
У нас есть статус членов сети экспертов, так что если у Вас есть вопросы или пожелания, связанные с проектом классификатора, то мы можем их адресовать в ОЭСР. Для этого Вы можете написать в ЛС администраторам нашего канала.
1️⃣ контекста (context);
2️⃣ используемых данных (data and input);
3️⃣ моделей ИИ (AI model);
4️⃣ получаемых результатов (task and output).
По замыслу ОЭСР, такой классификатор мог бы стать полезным инструментом, в частности - для регулирования отношений, связанных с ИИ.
У нас есть статус членов сети экспертов, так что если у Вас есть вопросы или пожелания, связанные с проектом классификатора, то мы можем их адресовать в ОЭСР. Для этого Вы можете написать в ЛС администраторам нашего канала.
⚡️⚡️🇪🇺Совет Европейского Союза (Council of the European Union) опубликовал "Выводы об использовании технологий обработки данных для "Лучшего регулирования".
Документ содержит общую позицию Совета ЕС по использованию современных технологий (среди которых Совет ЕС прямо выделяет ИИ) и по совершенствованию нормативного регулирования. В целом, позиция Совета ЕС следующая:
1️⃣ необходимо придерживаться человеко-центрированного подхода и учёта европейских ценностей и основополагающих прав в использовании технологий;
2️⃣ следует уделять особое внимание этическим стандартам использования технологий, а также обеспечивать безопасность и защиту законных интересов граждан;
3️⃣ важно учитывать и прорабатывать риски, связанных с защитой персональных данных, не допускать дискриминацию и унижение человеческого достоинства;
4️⃣ следует придерживаться принципы открытости работы государственного сектора настолько, насколько это возможно;
5️⃣ государствам - членам ЕС, а также Комиссии следует определиться, как можно использовать современные технологии для поддержки и разработки нового, "по умолчанию рассчитанного на цифровую среду" ("digital by default") регулирования.
Документ содержит общую позицию Совета ЕС по использованию современных технологий (среди которых Совет ЕС прямо выделяет ИИ) и по совершенствованию нормативного регулирования. В целом, позиция Совета ЕС следующая:
1️⃣ необходимо придерживаться человеко-центрированного подхода и учёта европейских ценностей и основополагающих прав в использовании технологий;
2️⃣ следует уделять особое внимание этическим стандартам использования технологий, а также обеспечивать безопасность и защиту законных интересов граждан;
3️⃣ важно учитывать и прорабатывать риски, связанных с защитой персональных данных, не допускать дискриминацию и унижение человеческого достоинства;
4️⃣ следует придерживаться принципы открытости работы государственного сектора настолько, насколько это возможно;
5️⃣ государствам - членам ЕС, а также Комиссии следует определиться, как можно использовать современные технологии для поддержки и разработки нового, "по умолчанию рассчитанного на цифровую среду" ("digital by default") регулирования.
Forwarded from Цифровое право
#ИИ
Прозрачность и предсказуемость функционирования ИИ (explainable AI) стали предметом судебных разбирательств в Европе.
Итальянские суды приняли два значимых решения по искусственному интеллекту. В обоих случаях присутствует асимметричность информации между онлайн-платформами и пользователями, которую первые используют в своих интересах.
Дело Deliveroo (онлайн-компания по доставке продуктов питания и еды из ресторанов)
Deliveroo использует алгоритм «Франк» для рейтингования своих курьеров и распределения заказов. Рейтинг зависит от «надежности» курьера и его готовности работать в пиковое время. Рейтинг понижается, например, если курьер не предупреждает о том, что не сможет выйти в свою смену, хотя бы за сутки до ее начала. Чем выше рейтинг, тем больше заказов в удобное время получает курьер.
Суд пришел к выводу, что алгоритм Deliveroo не принимает во внимание причины, по которым курьер не сообщил о том, что не сможет выйти на работу. Таким образом, не делается различий между теми, кто просто прогулял, и теми, у кого были уважительные причины (болезнь, уход за ребенком, забастовка и т.д.). По решению суда Deliveroo должны устранить дискриминацию, которая лежит в основе работы их алгоритма.
Дело Mevaluate (платформа, которая позволяет узнать о репутации человека или компании)
Mevaluate строит свои рейтинги на основе персональных данных. Суд решил, что пользователям платформы ничего не известно о том, как и на основании какой логики работает ее алгоритм, он абсолютно непрозрачен. Пользователям неизвестно, как их персональные данные используются системой.
В связи с этим согласия на обработку персональных данных, которые предоставляют пользователи, даются ими неинформированно и, следовательно, не распространяются на работу алгоритма. Суд поддержал запрет Mevaluate обрабатывать персональные данные через свою платформу.
Прозрачность и предсказуемость функционирования ИИ (explainable AI) стали предметом судебных разбирательств в Европе.
Итальянские суды приняли два значимых решения по искусственному интеллекту. В обоих случаях присутствует асимметричность информации между онлайн-платформами и пользователями, которую первые используют в своих интересах.
Дело Deliveroo (онлайн-компания по доставке продуктов питания и еды из ресторанов)
Deliveroo использует алгоритм «Франк» для рейтингования своих курьеров и распределения заказов. Рейтинг зависит от «надежности» курьера и его готовности работать в пиковое время. Рейтинг понижается, например, если курьер не предупреждает о том, что не сможет выйти в свою смену, хотя бы за сутки до ее начала. Чем выше рейтинг, тем больше заказов в удобное время получает курьер.
Суд пришел к выводу, что алгоритм Deliveroo не принимает во внимание причины, по которым курьер не сообщил о том, что не сможет выйти на работу. Таким образом, не делается различий между теми, кто просто прогулял, и теми, у кого были уважительные причины (болезнь, уход за ребенком, забастовка и т.д.). По решению суда Deliveroo должны устранить дискриминацию, которая лежит в основе работы их алгоритма.
Дело Mevaluate (платформа, которая позволяет узнать о репутации человека или компании)
Mevaluate строит свои рейтинги на основе персональных данных. Суд решил, что пользователям платформы ничего не известно о том, как и на основании какой логики работает ее алгоритм, он абсолютно непрозрачен. Пользователям неизвестно, как их персональные данные используются системой.
В связи с этим согласия на обработку персональных данных, которые предоставляют пользователи, даются ими неинформированно и, следовательно, не распространяются на работу алгоритма. Суд поддержал запрет Mevaluate обрабатывать персональные данные через свою платформу.
🤖🌍 22.06.2021 состоялся совместный вебинар ОЭСР и Европейской комиссии на тему: «Национальный стратегии ИИ в Европе». Организаторами мероприятия выступили Генеральный директорат Европейской комиссии (DG Connect) и команда Обсерватории политики ИИ отдела политики цифровой экономики ОЭСР. В ходе мероприятия:
🔵 представлены доклады AI Watch «Национальные стратегии в области искусственного интеллекта: европейская перспектива» и ОЭСР «Состояние реализации принципов ИИ ОЭСР: выводы из национальных политик в области ИИ»;
🔵 рассмотрен Согласованный план по ИИ в Европе;
🔵 отмечены основные направления и тенденции в национальных стратегиях ИИ стран Европы.
⬇️ Детальная информация представлена в нашем кратком обзоре.
🔵 представлены доклады AI Watch «Национальные стратегии в области искусственного интеллекта: европейская перспектива» и ОЭСР «Состояние реализации принципов ИИ ОЭСР: выводы из национальных политик в области ИИ»;
🔵 рассмотрен Согласованный план по ИИ в Европе;
🔵 отмечены основные направления и тенденции в национальных стратегиях ИИ стран Европы.
⬇️ Детальная информация представлена в нашем кратком обзоре.
🇦🇺Недавно Правительство Австралии опубликовало "План действий Австралии по внедрению искусственного интеллекта" ("Australia's AI action plan").
В Плане обозначены четыре ключевые цели:
1️⃣ Трансформировать австралийский бизнес. Эта цель будет достигаться путём:
💵 финансовой поддержки разработки и внедрения ИИ бизнесом и налоговых послаблений; а также
❗️создания Национального ИИ Центра ("National AI Centre") - центра компетенций, призванного устранять любые правовые проблемы, с которыми сталкивается малый и средний бизнес при разработке, внедрении технологий ИИ;
❗️создания четырёх Центров возможностей в сфере ИИ и цифровой экономики ("AI and Digital Capability Centres") - связующих звеньев между разработчиками и бизнесом. Цель - убедиться, что бизнес, внедряющий ИИ, не будет испытывать недостатка в специалистах и доступных технологиям;
2️⃣ Создавать и привлекать из других стран перспективные кадры. Эта цель будет достигаться за счёт масштабных грантов и создания нового исследовательского центра в Аделайдском университете;
3️⃣ Использовать технологии ИИ для решения текущих национальных проблем. В этой связи отмечены, в частности:
- экологические проблемы (сохранение Большого Барьерного Рифа);
- медицинские проблемы (из них в особенности - повышение качества мед услуг, улучшение методик лечения нервных заболеваний, депрессии);
- совершенствование ВПК;
4️⃣ ❗️Сделать Австралию мировым лидером в части ответственного и инклюзивного ИИ.
В 2019 году Правительство Австралии опубликовало 8 принципов этики ИИ:
- направленность на повышение благополучия людей, общества и сохранение окружающей среды;
- человеко-центричность;
- объективность;
- защита персональных данных;
- надёжность и безопасность;
- прозрачность и объяснимость;
- возможность оспаривания решений, принятых с использованием ИИ;
- ответственность.
Чтобы продвигать эти принципы, в Австралии, в частности:
📃 планируются изменения в ряде НПА в области персональных данных; а
💵❗️ обязательным условием финансовой помощи (см. выше) будет внедрение и соблюдение австралийских принципов этики ИИ ("Grantees are also expected to adopt Australia’s AI Ethics Principles in their solutions").
При этом уточняется, что австралийское правительство будет учитывать выводы, к которым пришла Комиссия Австралии в докладе по защите прав человека по правовым вопросам, возникающим при внедрении ИИ (см. наш обзор доклада здесь).
Мы будем внимательно следить за новостями из Австралии и с радостью поделимся ими с вами!
В Плане обозначены четыре ключевые цели:
1️⃣ Трансформировать австралийский бизнес. Эта цель будет достигаться путём:
💵 финансовой поддержки разработки и внедрения ИИ бизнесом и налоговых послаблений; а также
❗️создания Национального ИИ Центра ("National AI Centre") - центра компетенций, призванного устранять любые правовые проблемы, с которыми сталкивается малый и средний бизнес при разработке, внедрении технологий ИИ;
❗️создания четырёх Центров возможностей в сфере ИИ и цифровой экономики ("AI and Digital Capability Centres") - связующих звеньев между разработчиками и бизнесом. Цель - убедиться, что бизнес, внедряющий ИИ, не будет испытывать недостатка в специалистах и доступных технологиям;
2️⃣ Создавать и привлекать из других стран перспективные кадры. Эта цель будет достигаться за счёт масштабных грантов и создания нового исследовательского центра в Аделайдском университете;
3️⃣ Использовать технологии ИИ для решения текущих национальных проблем. В этой связи отмечены, в частности:
- экологические проблемы (сохранение Большого Барьерного Рифа);
- медицинские проблемы (из них в особенности - повышение качества мед услуг, улучшение методик лечения нервных заболеваний, депрессии);
- совершенствование ВПК;
4️⃣ ❗️Сделать Австралию мировым лидером в части ответственного и инклюзивного ИИ.
В 2019 году Правительство Австралии опубликовало 8 принципов этики ИИ:
- направленность на повышение благополучия людей, общества и сохранение окружающей среды;
- человеко-центричность;
- объективность;
- защита персональных данных;
- надёжность и безопасность;
- прозрачность и объяснимость;
- возможность оспаривания решений, принятых с использованием ИИ;
- ответственность.
Чтобы продвигать эти принципы, в Австралии, в частности:
📃 планируются изменения в ряде НПА в области персональных данных; а
💵❗️ обязательным условием финансовой помощи (см. выше) будет внедрение и соблюдение австралийских принципов этики ИИ ("Grantees are also expected to adopt Australia’s AI Ethics Principles in their solutions").
При этом уточняется, что австралийское правительство будет учитывать выводы, к которым пришла Комиссия Австралии в докладе по защите прав человека по правовым вопросам, возникающим при внедрении ИИ (см. наш обзор доклада здесь).
Мы будем внимательно следить за новостями из Австралии и с радостью поделимся ими с вами!
⚡️🇷🇺📃🚁 В. Путин подписал закон, отменяющий требование лицензирования разработки, производства, испытания и ремонта беспилотных авиационных систем и их элементов, включающих БВС взлётной массой до 30 кг (см. описание закона и его значение здесь и здесь).
publication.pravo.gov.ru
Федеральный закон от 02.07.2021 № 349-ФЗ ∙ Официальное опубликование правовых актов ∙ Официальный интернет-портал правовой информации
Федеральный закон от 02.07.2021 № 349-ФЗ
"О внесении изменения в статью 12 Федерального закона "О лицензировании отдельных видов деятельности"
"О внесении изменения в статью 12 Федерального закона "О лицензировании отдельных видов деятельности"
🇷🇺📃 Подписан и вступил в силу закон - спутник к ФЗ Об экспериментальных правовых режимах.
Закон устанавливает возможность изъятий из общего регулирования в рамках регуляторных песочниц.
Например, в рамках ЭПР могут быть предусмотрены изъятия в том числе из:
🚗 ФЗ "О безопасности дорожного движения", "Об обязательном страховании гражданской ответственности владельцев транспортных средств", "Устав автомобильного транспорта", "О техническом осмотре транспортных средств..." (в рамках проекта коммерческого использования ВАТС);
🚁 Воздушного кодекса (в рамках проекта сервиса грузовых перевозок с использованием БВС);
🏥 ФЗ "Об основах охраны здоровья граждан в Российской Федерации", ФЗ "О персональных данных" (в частности, в рамках проекта оказания медицинской помощи с применением телемедицинских технологий/внедрения систем поддержки принятия врачебных решений, использующих технологии ИИ).
Стоит учитывать, что к 3 чтению в ГД в закон было внесено много изменений (см. к примеру, наш обзор, как изменился закон с момента его направления в ГД, здесь).
Закон устанавливает возможность изъятий из общего регулирования в рамках регуляторных песочниц.
Например, в рамках ЭПР могут быть предусмотрены изъятия в том числе из:
🚗 ФЗ "О безопасности дорожного движения", "Об обязательном страховании гражданской ответственности владельцев транспортных средств", "Устав автомобильного транспорта", "О техническом осмотре транспортных средств..." (в рамках проекта коммерческого использования ВАТС);
🚁 Воздушного кодекса (в рамках проекта сервиса грузовых перевозок с использованием БВС);
🏥 ФЗ "Об основах охраны здоровья граждан в Российской Федерации", ФЗ "О персональных данных" (в частности, в рамках проекта оказания медицинской помощи с применением телемедицинских технологий/внедрения систем поддержки принятия врачебных решений, использующих технологии ИИ).
Стоит учитывать, что к 3 чтению в ГД в закон было внесено много изменений (см. к примеру, наш обзор, как изменился закон с момента его направления в ГД, здесь).
publication.pravo.gov.ru
Федеральный закон от 02.07.2021 № 331-ФЗ ∙ Официальное опубликование правовых актов ∙ Официальный интернет-портал правовой информации
Федеральный закон от 02.07.2021 № 331-ФЗ
"О внесении изменений в отдельные законодательные акты Российской Федерации в связи с принятием Федерального закона "Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации"
"О внесении изменений в отдельные законодательные акты Российской Федерации в связи с принятием Федерального закона "Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации"
🌍 Помимо Закона - спутника и ФЗ, отменяющего требования лицензирования разработки БВС массой до 30 кг, прошлая неделя оказалась необычайно богатой на события.
Например:
🇷🇺📃Подписан закон, наделяющий госкорпорацию развития «ВЭБ.РФ» полномочиями по участию в управлении институтами развития;
🇷🇺📃Президент утвердил новую Стратегию национальной безопасности РФ.
Заслуживают внимания следующие положения Стратегии (части IV "Обеспечение национальной безопасности"):
- пп. 12 п. 57 раздела "Информационная безопасность" - ИИ наряду с квантовыми вычислениями выделен в качестве технологий обеспечения информационной безопасности;
- пп. 6 п. 67 раздела "Экономическая безопасность" - использование технологий ИИ заявлено в качестве способа повышения производительности труда
- пп. 14 п. 76 раздела "Научно-техническое развитие" - ИИ и робототехника выделены в качестве технологий, развитие которых необходимо для для научно-технического развития РФ.
Но это далеко не всё...
Например:
🇷🇺📃Подписан закон, наделяющий госкорпорацию развития «ВЭБ.РФ» полномочиями по участию в управлении институтами развития;
🇷🇺📃Президент утвердил новую Стратегию национальной безопасности РФ.
Заслуживают внимания следующие положения Стратегии (части IV "Обеспечение национальной безопасности"):
- пп. 12 п. 57 раздела "Информационная безопасность" - ИИ наряду с квантовыми вычислениями выделен в качестве технологий обеспечения информационной безопасности;
- пп. 6 п. 67 раздела "Экономическая безопасность" - использование технологий ИИ заявлено в качестве способа повышения производительности труда
- пп. 14 п. 76 раздела "Научно-техническое развитие" - ИИ и робототехника выделены в качестве технологий, развитие которых необходимо для для научно-технического развития РФ.
Но это далеко не всё...
Telegram
Центр регулирования ИИ
🇷🇺📃 Подписан и вступил в силу закон - спутник к ФЗ Об экспериментальных правовых режимах.
Закон устанавливает возможность изъятий из общего регулирования в рамках регуляторных песочниц.
Например, в рамках ЭПР могут быть предусмотрены изъятия в том числе…
Закон устанавливает возможность изъятий из общего регулирования в рамках регуляторных песочниц.
Например, в рамках ЭПР могут быть предусмотрены изъятия в том числе…
⬆️🌍 ...тем временем:
1️⃣🇸🇬🤝🇯🇵Сингапур и Япония подписали Меморандум о сотрудничестве в сфере цифровой экономики, ИИ, кибербезопасности и информационных технологий.
Суть меморандума - обязательства по обмену best practices, регуляторному опыту, развитие совместных инициатив в сфере цифровой торговли и "совместимости регулирования" ("interoperability of frameworks");
2️⃣🚗🇺🇸📃 Национальное управление США о безопасности дорожного движения (NHTSA) опубликовало Общий приказ № 2021-01 "Об информировании о ДТП с участием автоматизированного транспорта...".
Теперь американские компании - производители автомобилей, обеспечивающих 2 и выше уровни автоматизации, обязаны отчитываться Национальному управлению о безопасности дорожного движения о дтп с участием таких автомобилей, если
❗️ системы автоматизации использовались хотя бы за 30 секунд до столкновения и
❗️ столкновение привело к госпитализации хотя бы одного человека, к летальному исходу, необходимости отбуксировать автомобиль, срабатыванию подушки безопасности или причинения травмы пешеходам или велосипедистам.
При этом компании будут обязаны обновлять сведения, получаемые об инциденте, в дополнительных отчётах в NHTSA.
🇨🇦К слову, похожие нормы есть, например, в законах провинции Онтарио, Канада. Там компании обязаны отчитываться о ДТП с участием автомобилей 3 - 5 уровней автоматизации в течение 10 дней с даты ДТП.
3️⃣ 🇰🇿 в Казахстане совместно с ВЭФ открыт "Центр четвёртой промышленной революции"
4️⃣ 🇫🇷🚗📃 Франция делает шаг вперёд в области регулирования беспилотных автомобилей. Новые правки в ПДД и Транспортный кодекс позволят использовать ВАТС (с рядом условий) на французских дорогах с сентября 2022 года.
В частности, изменения предусматривают, что
- процесс управления ТС может быть делегирован ИИ;
- водитель не несёт уголовной ответственности в случае ДТП, если такое ДТП произошло, когда машина работала в автоматическом режиме (при условии надлежащего использования такого ВАТС).
1️⃣🇸🇬🤝🇯🇵Сингапур и Япония подписали Меморандум о сотрудничестве в сфере цифровой экономики, ИИ, кибербезопасности и информационных технологий.
Суть меморандума - обязательства по обмену best practices, регуляторному опыту, развитие совместных инициатив в сфере цифровой торговли и "совместимости регулирования" ("interoperability of frameworks");
2️⃣🚗🇺🇸📃 Национальное управление США о безопасности дорожного движения (NHTSA) опубликовало Общий приказ № 2021-01 "Об информировании о ДТП с участием автоматизированного транспорта...".
Теперь американские компании - производители автомобилей, обеспечивающих 2 и выше уровни автоматизации, обязаны отчитываться Национальному управлению о безопасности дорожного движения о дтп с участием таких автомобилей, если
❗️ системы автоматизации использовались хотя бы за 30 секунд до столкновения и
❗️ столкновение привело к госпитализации хотя бы одного человека, к летальному исходу, необходимости отбуксировать автомобиль, срабатыванию подушки безопасности или причинения травмы пешеходам или велосипедистам.
При этом компании будут обязаны обновлять сведения, получаемые об инциденте, в дополнительных отчётах в NHTSA.
🇨🇦К слову, похожие нормы есть, например, в законах провинции Онтарио, Канада. Там компании обязаны отчитываться о ДТП с участием автомобилей 3 - 5 уровней автоматизации в течение 10 дней с даты ДТП.
3️⃣ 🇰🇿 в Казахстане совместно с ВЭФ открыт "Центр четвёртой промышленной революции"
4️⃣ 🇫🇷🚗📃 Франция делает шаг вперёд в области регулирования беспилотных автомобилей. Новые правки в ПДД и Транспортный кодекс позволят использовать ВАТС (с рядом условий) на французских дорогах с сентября 2022 года.
В частности, изменения предусматривают, что
- процесс управления ТС может быть делегирован ИИ;
- водитель не несёт уголовной ответственности в случае ДТП, если такое ДТП произошло, когда машина работала в автоматическом режиме (при условии надлежащего использования такого ВАТС).
The Business Times
Singapore and Japan sign MOC on digital economy, AI, cybersecurity
SINGAPORE and Japan on Friday signed a Memorandum of Cooperation (MOC) on the digital economy, artificial intelligence (AI), cybersecurity and information and communications technology. Read more at
📊 Делимся текстом руководства по предотвращению дискриминации в работе ИИ. Документ был ранее опубликован BSA (альянс, представляющий интересы ряда крупнейших разработчиков программного обеспечения).
Документ:
1️⃣ рассказывает, какие есть виды дискриминации, которые могут возникнуть, на стадиях проектирования (design), разработки (development) и использования (deployment) ПО;
2️⃣ рекомендует несколько мер предотвращения рисков:
- разработка внутренних правил
- внедрение взаимоконтроля между командами, занимающимися созданием по, комплаенсом, и управлением
- оценкой воздействия по
Особенность документа - достаточно подробно описано, что должно быть сделано на каком этапе.
Документ:
1️⃣ рассказывает, какие есть виды дискриминации, которые могут возникнуть, на стадиях проектирования (design), разработки (development) и использования (deployment) ПО;
2️⃣ рекомендует несколько мер предотвращения рисков:
- разработка внутренних правил
- внедрение взаимоконтроля между командами, занимающимися созданием по, комплаенсом, и управлением
- оценкой воздействия по
Особенность документа - достаточно подробно описано, что должно быть сделано на каком этапе.
⚡️🇷🇺📊👨👩👧👦 ВЦИОМ и АНО "Национальные приоритеты" опубликовали данные опроса россиян об отношении к искусственному интеллекту.
Опрос был проведён в рамках реализации федерального проекта «Искусственный интеллект» нацпроекта «Цифровая экономика».
Из наиболее интересных данных:
1️⃣ "Подавляющее большинство россиян (81%) знакомы с термином «искусственный интеллект», при этом 32% декларируют, что могут объяснить его значение";
2️⃣ "Почти половина россиян (48%) заявили о своем доверии технологиям искусственного интеллекта (69% среди молодых людей 18-24 лет), не доверяют им 42% наших соотечественников, 10% затруднились с ответом";
3️⃣ 64% не боятся замены человека искусственным интеллектом в их профессии/сфере деятельности. Более того, 2/3 россиян воспользовались бы возможностью применять ИИ, чтобы меньше работать при сохранении дохода;
4️⃣ 50% россиян хотели бы получить обучение в сфере ИИ в теч. ближайших нескольких лет;
5️⃣ 79% считают, что государство должно способствовать развитию технологий ИИ;
6️⃣ использование ИИ для принятие решений в государственном/городском управлении приведёт, в частности, к:
- 44% - более справедливым решениям;
- 24% - уменьшению затрат:
- 22% - оптимизации.
Опрос был проведён в рамках реализации федерального проекта «Искусственный интеллект» нацпроекта «Цифровая экономика».
Из наиболее интересных данных:
1️⃣ "Подавляющее большинство россиян (81%) знакомы с термином «искусственный интеллект», при этом 32% декларируют, что могут объяснить его значение";
2️⃣ "Почти половина россиян (48%) заявили о своем доверии технологиям искусственного интеллекта (69% среди молодых людей 18-24 лет), не доверяют им 42% наших соотечественников, 10% затруднились с ответом";
3️⃣ 64% не боятся замены человека искусственным интеллектом в их профессии/сфере деятельности. Более того, 2/3 россиян воспользовались бы возможностью применять ИИ, чтобы меньше работать при сохранении дохода;
4️⃣ 50% россиян хотели бы получить обучение в сфере ИИ в теч. ближайших нескольких лет;
5️⃣ 79% считают, что государство должно способствовать развитию технологий ИИ;
6️⃣ использование ИИ для принятие решений в государственном/городском управлении приведёт, в частности, к:
- 44% - более справедливым решениям;
- 24% - уменьшению затрат:
- 22% - оптимизации.
ВЦИОМ. Новости
Искусственный интеллект: благо или угроза?
Россияне в большинстве своем остаются технооптимистами: приветствуют развитие ИИ и не боятся конкуренции с его стороны их рабочим местам.
🌏За прошлую неделю/начало этой недели произошло много интересных новостей. Например:
🇪🇺 Начала работу Экспертная группа Еврокомиссии по применению ИИ и данных в образовании (Commission expert group on artificial intelligence and data in education and training). Цель экспертной группы - разработать руководства по этике ИИ в образовании на основе Руководства по этике и доверию искусственному интеллекту ("Ethics Guidelines for Trustworthy Artificial Intelligence") 19го года.
🇦🇪 В ОАЭ Национальная Программа ИИ (National Programme for Artificial Intelligence) и Совет по Цифровому Благополучию (Council for Digital Wellbeing) выпустили разъяснения для физ лиц
- что такое дипфейки и чем они вредны
- как распознать дипфейки
и призвали физ лиц уведомлять гос органы, если они сталкиваются с дипфейками.
🇺🇸📊 Бюро США по Патентам и Товарным Знакам (United States Patent and Trademark Office (USPTO) проводит исследование и публичные консультации о том, как действующее требование "наличия оснований для подачи заявки" (patent eligibility) для выдачи патентов влияет на развитие инноваций и инвестиционный климат в области ИИ и квантовых вычислений.
Поскольку исследование проводится по запросу ряда сенаторов от обеих палат, предполагается, что по результатам исследования возможны существенные изменения в законодательстве.
🇪🇺 Начала работу Экспертная группа Еврокомиссии по применению ИИ и данных в образовании (Commission expert group on artificial intelligence and data in education and training). Цель экспертной группы - разработать руководства по этике ИИ в образовании на основе Руководства по этике и доверию искусственному интеллекту ("Ethics Guidelines for Trustworthy Artificial Intelligence") 19го года.
🇦🇪 В ОАЭ Национальная Программа ИИ (National Programme for Artificial Intelligence) и Совет по Цифровому Благополучию (Council for Digital Wellbeing) выпустили разъяснения для физ лиц
- что такое дипфейки и чем они вредны
- как распознать дипфейки
и призвали физ лиц уведомлять гос органы, если они сталкиваются с дипфейками.
🇺🇸📊 Бюро США по Патентам и Товарным Знакам (United States Patent and Trademark Office (USPTO) проводит исследование и публичные консультации о том, как действующее требование "наличия оснований для подачи заявки" (patent eligibility) для выдачи патентов влияет на развитие инноваций и инвестиционный климат в области ИИ и квантовых вычислений.
Поскольку исследование проводится по запросу ряда сенаторов от обеих палат, предполагается, что по результатам исследования возможны существенные изменения в законодательстве.
Federal Register
Patent Eligibility Jurisprudence Study
At the request of Senators Tillis, Hirono, Cotton, and Coons, the United States Patent and Trademark Office (USPTO) is undertaking a study on the current state of patent eligibility jurisprudence in the United States, and how the current jurisprudence has…
🌏📊 Делимся небольшим обзором - предположением, "приживутся" ли положения разрабатываемого в ЕС Регламента по искусственному интеллекту в странах АСЕАН. Автор обзора полагает, что в отличие от GDPR, у данного регламента в ближайшее время не будет т.н. "Брюссельского эффекта" и он не так сильно повлияет на регуляторный климат региона в ближайшем будущем. Причины следующие:
1️⃣ АСЕАН - менее интегрированный и развитый рынок ПО и технологий ИИ. Следовательно, регулирование также крайне неоднородно. Исключение из общей сравнительной малоактивности региона - Сингапур. Данную проблему призван разрешить Стратегический план АСЕАН по цифровому развитию до 2025 года (ASEAN Digital Masterplan 2025), который предусматривает разработку и принятие единой региональной политики и руководств по вопросам государственного управления с использованием ИИ и этике искусственного интеллекта (Regional policy to deliver best practice guidance on AI Governance and Ethics...);
2️⃣ в праве стран АСЕАН до сих пор остаются проблемы в регулировании локализации персональных данных и их трансграничной передачи. Частично ситуацию могут решить модельные договорные условия о трансграничном потоке данных, которые были приняты в АСЕАН в январе этого года;
3️⃣ подписание и ратификация соглашений о свободной торговле (содержащее условия о трансграничном обороте данных) подстегнёт развитие регулирования ИИ в регионе. Но пока что ключевое подобное соглашение в формате АСЕАН - соглашение о региональном и всеобъёмлющем экономическом партнёрстве (Regional Comprehensive Economic Partnership) - позволяет странам ограничивать трансграничный оборот данных, если эти ограничения принимаются как для национальных игроков, так и на "иностранцев". В любом случае, как отмечает автор, отсутствие эффективного способа разрешения споров между государствами позволит странам применять дискриминационные меры в отношении других юрисдикций;
4️⃣ из стран - участниц АСЕАН, подписавших Всеобъемлющее и прогрессивное соглашение о транс-тихоокеанском партнёрстве (Comprehensive and Progressive Agreement for Trans-Pacific Partnership), только две страны (Сингапур и Вьетнам) его ратифицировали и применяют его положения в области трансграничного оборота данных.
Однако автор допускает, то с устранением этих барьеров страны АСЕАН смогут разработать собственное регулирование ИИ, начиная с регулирования в области конкретных областей экономики.
1️⃣ АСЕАН - менее интегрированный и развитый рынок ПО и технологий ИИ. Следовательно, регулирование также крайне неоднородно. Исключение из общей сравнительной малоактивности региона - Сингапур. Данную проблему призван разрешить Стратегический план АСЕАН по цифровому развитию до 2025 года (ASEAN Digital Masterplan 2025), который предусматривает разработку и принятие единой региональной политики и руководств по вопросам государственного управления с использованием ИИ и этике искусственного интеллекта (Regional policy to deliver best practice guidance on AI Governance and Ethics...);
2️⃣ в праве стран АСЕАН до сих пор остаются проблемы в регулировании локализации персональных данных и их трансграничной передачи. Частично ситуацию могут решить модельные договорные условия о трансграничном потоке данных, которые были приняты в АСЕАН в январе этого года;
3️⃣ подписание и ратификация соглашений о свободной торговле (содержащее условия о трансграничном обороте данных) подстегнёт развитие регулирования ИИ в регионе. Но пока что ключевое подобное соглашение в формате АСЕАН - соглашение о региональном и всеобъёмлющем экономическом партнёрстве (Regional Comprehensive Economic Partnership) - позволяет странам ограничивать трансграничный оборот данных, если эти ограничения принимаются как для национальных игроков, так и на "иностранцев". В любом случае, как отмечает автор, отсутствие эффективного способа разрешения споров между государствами позволит странам применять дискриминационные меры в отношении других юрисдикций;
4️⃣ из стран - участниц АСЕАН, подписавших Всеобъемлющее и прогрессивное соглашение о транс-тихоокеанском партнёрстве (Comprehensive and Progressive Agreement for Trans-Pacific Partnership), только две страны (Сингапур и Вьетнам) его ратифицировали и применяют его положения в области трансграничного оборота данных.
Однако автор допускает, то с устранением этих барьеров страны АСЕАН смогут разработать собственное регулирование ИИ, начиная с регулирования в области конкретных областей экономики.
East Asia Forum
Is the EU’s AI legislation a good fit for ASEAN? | East Asia Forum
⚡️🚁🇮🇳📃 Министерство гражданской авиации (Ministry of civil aviation) Индии опубликовало проект Правил использования БВС 2021 года ("The Drone Rules, 2021"). Судя по разъяснениям министерства, Правила основываются на принципах "доверия, самостоятельной сертификации и ненавязчивом мониторинге" ("trust, self-certification and non-intrusive monitoring").
Ниже приведён обзор Правил и ключевых изменений (в нескольких частях).
1/2 Основные положения проекта Правил
1️⃣ Классификация БВС
БВС в Индии разделяются на:
- "нанодроны" ("Nano drones") (максимальная взлётная масса до 250 гр.);
- "микродроны" ("Micro drones") (больше 250 гр., до 2 кг);
- "малые дроны" ("Small drones") (больше 2 кг, до 25 кг);
- "средние дроны" ("Medium drones") (больше 25, до 150 кг);
- "крупные дроны" ("Large drones") (больше 150 кг);
2️⃣ Сертификация
▪️По умолчанию допускаются к эксплуатации только БВС, в отн. которых производитель/импортёр получил сертификат типа (примечание: с учётом дефиниции в п. d ст. 2 Правил). Для сертификации необходимо подать заявку через онлайн платформу DigitalSky;
▪️Требования, предъявляемые при сертификации, могут "продвигать использование разработанных в Индии технологий, конструкций, компонентов и дронов, а также разработанной в Индии региональной системой спутниковой навигации NavIC";
▪️По решению Правительства сертификат типа, выданный в иностранном государстве, может быть самодостаточным основанием для сертификации в Индии ("may certify drones based on approvals granted to that type of drone by other international aviation regulators");
▪️Требования по сертификации не распространяется для создания, импорта и эксплуатации:
- "нанодронов" (максимальная взлётная масса до 250 гр.);
- прототипов, используемых "для исследовательской деятельности и развития" ("for the purpose of research and development");
- прототипов, используемых для сертификации ("prototype drone for obtaining certificate of airworthiness");
Также есть исключения для отдельных категорий лиц (об этом ниже).
3️⃣ Требования по обеспечению безопасности
▪️Закреплено общее правило, что недопустимо использовать БВС так, чтобы безопасность личности или имущества оказалось прямо или косвенно поставлена под угрозу;
▪️Правительство может предусмотреть дополнительные особые требования к обеспечению безопасности и уведомить собственников о необходимости установки дополнительного ПО/оборудования.
В частности, в теч. 6 месяцев со дня уведомления Правительством собственник будет обязан установить, например:
- ПО и оборудование, не позволяющее БВС взлетать, если на полёт не было выдано разрешение ("‘No Permission – No Takeoff’ (NPNT) hardware and firmware");
- маяки, с помощью которых можно проследить местоположение БВС, его высоту, скорость и идентификационный номер;
- ПО для гео-ограждения ("Geo-fencing capability");
4️⃣ Регистрация БВС
▪️БВС должно быть зарегистрировано через онлайн платформу DigitalSky. Смена собственника отражается так же;
▪️генерируемый на DigitalSky идентификационный номер привязывается к уникальному серийному номеру БВС и станции управления. Если меняется станция управления - изменения надо отразить в течение 7 дней (также через онлайн платформу);
▪️в случае потери/уничтожения БВС его нужно снять с регистрации;
5️⃣ Зоны полётов
▪️Небо над Индией разделено на красные, жёлтые и зелёные зоны (в зелёной зоне можно летать без получения разрешения). Карта зон обновляется и должна быть интерактивной и машиночитаемой;
▪️Внешний пилот обязан убедиться в отсутствии запретов/ограничений до вылета;
▪️Для коммерческих грузоперевозок, осуществляемых с помощью БВС, создадут отдельные коридоры;
Ниже приведён обзор Правил и ключевых изменений (в нескольких частях).
1/2 Основные положения проекта Правил
1️⃣ Классификация БВС
БВС в Индии разделяются на:
- "нанодроны" ("Nano drones") (максимальная взлётная масса до 250 гр.);
- "микродроны" ("Micro drones") (больше 250 гр., до 2 кг);
- "малые дроны" ("Small drones") (больше 2 кг, до 25 кг);
- "средние дроны" ("Medium drones") (больше 25, до 150 кг);
- "крупные дроны" ("Large drones") (больше 150 кг);
2️⃣ Сертификация
▪️По умолчанию допускаются к эксплуатации только БВС, в отн. которых производитель/импортёр получил сертификат типа (примечание: с учётом дефиниции в п. d ст. 2 Правил). Для сертификации необходимо подать заявку через онлайн платформу DigitalSky;
▪️Требования, предъявляемые при сертификации, могут "продвигать использование разработанных в Индии технологий, конструкций, компонентов и дронов, а также разработанной в Индии региональной системой спутниковой навигации NavIC";
▪️По решению Правительства сертификат типа, выданный в иностранном государстве, может быть самодостаточным основанием для сертификации в Индии ("may certify drones based on approvals granted to that type of drone by other international aviation regulators");
▪️Требования по сертификации не распространяется для создания, импорта и эксплуатации:
- "нанодронов" (максимальная взлётная масса до 250 гр.);
- прототипов, используемых "для исследовательской деятельности и развития" ("for the purpose of research and development");
- прототипов, используемых для сертификации ("prototype drone for obtaining certificate of airworthiness");
Также есть исключения для отдельных категорий лиц (об этом ниже).
3️⃣ Требования по обеспечению безопасности
▪️Закреплено общее правило, что недопустимо использовать БВС так, чтобы безопасность личности или имущества оказалось прямо или косвенно поставлена под угрозу;
▪️Правительство может предусмотреть дополнительные особые требования к обеспечению безопасности и уведомить собственников о необходимости установки дополнительного ПО/оборудования.
В частности, в теч. 6 месяцев со дня уведомления Правительством собственник будет обязан установить, например:
- ПО и оборудование, не позволяющее БВС взлетать, если на полёт не было выдано разрешение ("‘No Permission – No Takeoff’ (NPNT) hardware and firmware");
- маяки, с помощью которых можно проследить местоположение БВС, его высоту, скорость и идентификационный номер;
- ПО для гео-ограждения ("Geo-fencing capability");
4️⃣ Регистрация БВС
▪️БВС должно быть зарегистрировано через онлайн платформу DigitalSky. Смена собственника отражается так же;
▪️генерируемый на DigitalSky идентификационный номер привязывается к уникальному серийному номеру БВС и станции управления. Если меняется станция управления - изменения надо отразить в течение 7 дней (также через онлайн платформу);
▪️в случае потери/уничтожения БВС его нужно снять с регистрации;
5️⃣ Зоны полётов
▪️Небо над Индией разделено на красные, жёлтые и зелёные зоны (в зелёной зоне можно летать без получения разрешения). Карта зон обновляется и должна быть интерактивной и машиночитаемой;
▪️Внешний пилот обязан убедиться в отсутствии запретов/ограничений до вылета;
▪️Для коммерческих грузоперевозок, осуществляемых с помощью БВС, создадут отдельные коридоры;