🔔 Билль о правах в области искусственного интеллекта

Проблема прозрачности алгоритмов, используемых системами на основе ИИ, является ключевой. Общество заинтересовано в обеспечении безопасности конечных пользователей и их защите от дискриминации и злоупотребления персональными данными. И кое-что в этом плане уже удалось сделать.

Так, например, в Китае в 2021 году был принят ряд законов, обязывающих крупных игроков IT-рынка «Поднебесной» раскрывать свои алгоритмы. Многие страны поддержали эту тенденцию, а США в 2022 году пошли еще дальше и разработали «Проект Билля о правах в области ИИ».

Стоит отметить, что в настоящее время в Соединенных штатах область искусственного интеллекта уже в целом регулируется. И достигается это путем сочетания этических принципов, правовых рамок и локальных мер отраслевой «самонастройки».

Предлагаем ознакомиться с нашим полным переводом «Проекта Билля о правах в области ИИ» (США). Полагаем, что документ, призванный послужить ориентиром для американских разработчиков в отношении безопасного внедрения ИИ-технологий и других автоматизированных систем, поможет расширить представление о соответствующем международном опыте и дополнит вашу тематическую библиотеку.

➡️ Дайджест новостей 26-30 июня

Минцифры: около 90% рынка кибербезопасности занимают отечественные вендоры
Замглавы Минцифры РФ Александр Шойтов заявил, что в России существуют аналоги практически всех иностранных решений.

Совет Федерации хочет ускорить принятие закона о «белых» хакерах
Совет Федерации рекомендует Минцифры РФ ускорить работу над законопроектом, который узаконит деятельность по поиску уязвимостей в программном обеспечении.

В России создадут центр обезличивания данных для обучения ИИ
Минцифры планирует создать в 2024 году специальную инфраструктуру внутри своей информационной системы, которая будет обезличивать персональные данные для различных целей.

Евросоюз открыл центры краш-тестов ИИ-систем
Задача центров – предварительно убедиться в том, что инновационные ИИ-технологии не представляют опасность 

VK может получить контракт на развитие мессенджера для чиновников
Минцифры объявило конкурс на масштабирование автоматизированного рабочего места госслужащего (АРМ ГС) в регионах с целью заменить иностранные сервисы и мессенджеры на единое отечественное решение.

Банки начали перенос биометрии клиентов в ЕБС
Клиент имеет право отказаться от переноса данных, в этом случае они будут удалены из системы «Сбера».

Google разрабатывает новую языковую модель
Алгоритм превзойдет по своим возможностям GPT-4.

У разработчиков сталкерского приложения LetMeSpy украли данные пользователей
Хакеры взломали инфраструктуру, после чего опубликовали все конфиденциальные данные.

Red Wolf шпионит за коммерческими организациями
Группировка проникает в инфраструктуру компаний с помощью классических фишинговых рассылок. 

Вооруженные силы Израиля полностью перейдут на генеративный ИИ через нескольких лет
Ожидается, что каждая область военных действий будет основана на генеративной информации ИИ.

➡️ Дайджест новостей 1-2 июля

Российских граждан и госслужащих хотят перевести на разные мобильные ОС
Госслужащих переведут на ОС «Аврора», а обычным гражданам оставят смартфоны на ОС «Роса».

Регионам поручили разработать программы развития беспилотных авиасистем
Разрабатывать программы развития беспилотных авиасистем регионы будут совместно с Минпромторгом.

160 европейских компаний раскритиковали закон ЕС об ИИ
Разрабатываемый в Евросоюзе закон об искусственном интеллекте поставит под угрозу конкурентоспособность и техническую независимость Европы.

MITRE составила список 25 самых опасных проблем в программном обеспечение за последние два года
В список вошли самые разные недостатки, включая уязвимости и ошибки в коде, архитектуре, имплементации и дизайне софта.

Правительственные учреждения США покупают значительные объемы персональных данных граждан на открытом рынке
Рынок потребительских данных напрямую позволяет осуществлять массовую слежку за людьми.

🌐 ChatGPT: «…от чистого истока я начинаю путь…»

Сегодня очевидно, что ChatGPT – пока самое быстрорастущее пользовательское приложение в истории. За первые два месяца после релиза около 100 млн человек стали его активными пользователями. Так, простой для обывателя интерфейс позволил продемонстрировать широкой общественности возможности больших языковых моделей (LLM).

На самом деле, на данный момент в мире существуют и другие, на наш взгляд, не менее удачные, LLM-решения, часть из которых давно уже выложена в открытый доступ. Их изучают, развивают и применяют под свои задачи сотни программистов, а некоторые стартапы уже успели построить на их базе собственные продукты.

Однако, по «законам жанра», с ростом популярности чат-ботов появились и первые случаи утечки персональных данных через них. Первой «забила тревогу» Италия. В марте этого года Итальянское Национальное управление по защите ПД обвинило OpenAI, компанию-разработчика чат-бота ChatGPT, в нарушении безопасности данных пользователей, после того, как произошла их утечка. Приложение было заблокировано до устранения проблем, а итальянские ограничения пробудили интерес к ChatGPT у регуляторов Евросоюза на предмет введения мер контроля.
В частности, Европейское полицейское агентство EUROPOL проработало довольно обширный комплекс методов и практик для использования правоохранительными органам ЕС в качестве превентивных мер защиты.

Делимся зарубежным опытом. Предлагаем Вам ознакомиться с нашим полным переводом документа «ChatGPT. Влияние больших языковых моделей на работу правоохранительных органов».