Forwarded from Комиссия по Регуляторике
Сегодня на круглом столе "Искусственный интеллект: разумный партнер" XII Международного ИТ-Форума с участием стран БРИКС и ШОС представлен доклад "Этика и цифра: от проблем к решениям", в котором рассмотрено, в том числе и развитие оценки воздействия алгоритмических систем на международном уровне и ее перспективы в России.
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment
ethics.cdto.center
Аналитический доклад «Этика и "цифра": от проблем к решениям»
Цифровые технологии становятся основой госуправления, а цифровой формат — форматом по умолчанию. 2020-е годы показывают нам, насколько важно уделять внимание этическим вопросам при внедрении цифровых технологий.
Forwarded from Цифровое право
#ИИ
Прозрачность и предсказуемость функционирования ИИ (explainable AI) стали предметом судебных разбирательств в Европе.
Итальянские суды приняли два значимых решения по искусственному интеллекту. В обоих случаях присутствует асимметричность информации между онлайн-платформами и пользователями, которую первые используют в своих интересах.
Дело Deliveroo (онлайн-компания по доставке продуктов питания и еды из ресторанов)
Deliveroo использует алгоритм «Франк» для рейтингования своих курьеров и распределения заказов. Рейтинг зависит от «надежности» курьера и его готовности работать в пиковое время. Рейтинг понижается, например, если курьер не предупреждает о том, что не сможет выйти в свою смену, хотя бы за сутки до ее начала. Чем выше рейтинг, тем больше заказов в удобное время получает курьер.
Суд пришел к выводу, что алгоритм Deliveroo не принимает во внимание причины, по которым курьер не сообщил о том, что не сможет выйти на работу. Таким образом, не делается различий между теми, кто просто прогулял, и теми, у кого были уважительные причины (болезнь, уход за ребенком, забастовка и т.д.). По решению суда Deliveroo должны устранить дискриминацию, которая лежит в основе работы их алгоритма.
Дело Mevaluate (платформа, которая позволяет узнать о репутации человека или компании)
Mevaluate строит свои рейтинги на основе персональных данных. Суд решил, что пользователям платформы ничего не известно о том, как и на основании какой логики работает ее алгоритм, он абсолютно непрозрачен. Пользователям неизвестно, как их персональные данные используются системой.
В связи с этим согласия на обработку персональных данных, которые предоставляют пользователи, даются ими неинформированно и, следовательно, не распространяются на работу алгоритма. Суд поддержал запрет Mevaluate обрабатывать персональные данные через свою платформу.
Прозрачность и предсказуемость функционирования ИИ (explainable AI) стали предметом судебных разбирательств в Европе.
Итальянские суды приняли два значимых решения по искусственному интеллекту. В обоих случаях присутствует асимметричность информации между онлайн-платформами и пользователями, которую первые используют в своих интересах.
Дело Deliveroo (онлайн-компания по доставке продуктов питания и еды из ресторанов)
Deliveroo использует алгоритм «Франк» для рейтингования своих курьеров и распределения заказов. Рейтинг зависит от «надежности» курьера и его готовности работать в пиковое время. Рейтинг понижается, например, если курьер не предупреждает о том, что не сможет выйти в свою смену, хотя бы за сутки до ее начала. Чем выше рейтинг, тем больше заказов в удобное время получает курьер.
Суд пришел к выводу, что алгоритм Deliveroo не принимает во внимание причины, по которым курьер не сообщил о том, что не сможет выйти на работу. Таким образом, не делается различий между теми, кто просто прогулял, и теми, у кого были уважительные причины (болезнь, уход за ребенком, забастовка и т.д.). По решению суда Deliveroo должны устранить дискриминацию, которая лежит в основе работы их алгоритма.
Дело Mevaluate (платформа, которая позволяет узнать о репутации человека или компании)
Mevaluate строит свои рейтинги на основе персональных данных. Суд решил, что пользователям платформы ничего не известно о том, как и на основании какой логики работает ее алгоритм, он абсолютно непрозрачен. Пользователям неизвестно, как их персональные данные используются системой.
В связи с этим согласия на обработку персональных данных, которые предоставляют пользователи, даются ими неинформированно и, следовательно, не распространяются на работу алгоритма. Суд поддержал запрет Mevaluate обрабатывать персональные данные через свою платформу.
27 июня председатель Конституционного суда РФ, Валерий Зорькин, выступил на Петербургском международном юридическом форуме с лекцией на тему "Право и вызовы ИИ", в которой подчеркнул, что технологии ИИ уже "на полных парах проникают в сферу юриспруденции".
Так, ИИ сейчас применяется в следующих сферах и задачах:
👨⚖️ При этом 25 мая Совет судей РФ объявил, что в следующем году планируется запуск системы "Правосудие онлайн", в рамках которой будут использоваться технологии ИИ. Основной задачей ИИ станет автоматизированное составление проектов судебных актов на основе анализа материалов судебного дела. Также рассматривается возможность его использования для расшифровки аудиопротоколов и систематизации судебной практики.
Кроме того, Генпрокурор России Игорь Краснов, отвечая на вопросы сенаторов на пленарном заседании Совета Федерации, также рассказал о планах использования ИИ и нейронных сетей для работы прокуроров.
Внедрение ИИ в работу органов власти:
Стоит отметить, что не только Россия стремится к автоматизации правосудия и работы правоохранительных органов.
🇫🇷 Например, Франция нацелена на создание полностью функциональной цифровой службы государственного правосудия. Так, ИИ уже применяется в качестве инструмента поддержки принятия решений, основываясь на базе данных прецедентного права аппелляционных судов по гражданским делам.
🇨🇳Китай запустил систему умных судов, которая умеет самостоятельно принимать решение по делу и составлять процессуальный документ.
#ИИ #Правосудие
Please open Telegram to view this post
VIEW IN TELEGRAM