От фракции «Единой России» принял участие в круглом столе по теме угроз и возможностей, которые дает развитие ИИ в России.

Всем понятно, что ИИ полезен для автоматизации и выполнения рутинных и трудоемких процессов, повышает производительность и точность, скорость и возможности обработки больших объемов данных, систематизации и прогнозирования.

И нейросети сейчас уже не просто одна из передовых технологий, это часть повседневной жизни людей. Школьники и студенты используют их для подготовки домашних заданий и дипломов, ИИ интегрирован в игры. Например, популярный у детей в России и по всему миру Minecraft. Можно долго перечислять системы, которые используют нейросети для решения разных задач — от высокоточных роботизированных для нефтяной промышленности до яндексовской «Алисы».

Но искусственный интеллект также создает риски, оценить и предусмотреть которые еще в полной мере невозможно.

▪️Для бизнеса это по большей части коммерческие и репутационные риски.
▪️Для госсектора это масштабы фундаментальных угроз с учетом имеющихся обязательств и агрегируемой информации.
▪️В информпространстве нейросети способны провоцировать распространение фейков и утечки конфиденциальных сведений.
▪️Мошенники разного рода тоже оценили возможности ИИ. Не стоит забывать, что за каждой разработкой стоит человек.

Как обеспечивается безопасность сейчас?

В 2019 году Указом Президента утверждена Национальная стратегия развития ИИ до 2030 года, которая легла в основу разработки или доработки госпрограмм, регпроектов и других документов, касающихся развития этого направления. В 2021 году в развитие этого указа был разработан и принят Кодекс этики искусственного интеллекта, к которому в последующем присоединились ведущие компании, в том числе Яндекс, Сбер, Сколково, Университет Сириус и другие.

Что делается?

❗️«Единая Россия» работает над законопроектом, который гарантирует гражданам безопасную цифровую среду. Его задача — актуализировать действующие нормы и определить ответственность, исключить случаи, когда продукты на основе ИИ служат мошенникам.

Мы исходим из правила, что ответственность за последствия использования ИИ и решения, принятые с его помощью, несет человек.

Поэтому среди основных задач в обеспечении безопасности при использовании ИИ в госорганах следует выделить, прежде всего, необходимость внедрения системного и комплексного подхода.

Нам необходимо:

🔺жесткое следование и последующее развитие принципов использования ИИ, определенных в указе президента;
🔺четкое определение сфер, способов и границ использования ИИ, установление ограничений и запретов на его применение госслужащими в целях, не утвержденных регулированием;
🔺установление соответствия нейросетей правилам, нормам и требованиям для их безопасного использования.

Я согласен с Геннадием Андреевичем Зюгановым — работы по качественному улучшению всей системы образования накопилось более чем достаточно, и сейчас нужно приложить особые усилия по ее трансформации. Однако, не надо недооценивать современные технологии, необходимо их осмыслить и осознать, что ответственность за использование ИИ несет сам человек, а не бездушная машина. Только в наших руках обеспечить цифровую безопасность и поднять отечественное образование на совершенно иной качественный уровень. Без современных технологий этого достичь попросту не удастся.