Несет ли развитие ИИ угрозу человечеству? Какое влияние продукты ИИ окажут на рынок труда? Как государство будет регулировать искусственный интеллект?

На эти вопросы ответил в интервью для «Мастерской новых медиа». Ниже будет несколько фрагментов нашего разговора.

Сегодня вступает в силу мой закон о рекомендательных сервисах. Напомню, основное его требование – это прозрачность. Владельцы сайтов и приложений, использующих механизм рекомендаций, теперь должны объяснять пользователю, по каким принципам он работает, какие данные собирает, как их обрабатывает. Всё это должно быть отражено в правилах, написанных простым и понятным русским языком (или в виде инфографики, это также допустимо).

Понятно, что эти правила не должны быть спрятаны где-то глубоко в недрах сайта или приложения. Регулятор будет за этим следить, как и за наличием информационного сообщения о применении рекомендательных технологий. Думаю, в большинстве случаев такое сообщение будет оформляться как гиперссылка, ведущая пользователя к правилам.

Хочу обратить внимание, что закон содержит серьезные меры ответственности для тех, кто откажется информировать пользователей о применении рекомендательных технологий или решит использовать их в противоправных целях. В этом случае Роскомнадзор имеет право получить доступ к программно-техническим средствам того или иного ресурса, чтобы провести оценку работы рекомендательного сервиса. Отказ может привести к блокировке.

Конечно, мы будем внимательно наблюдать за правоприменительной практикой. За три года разработки законопроекта мы подробно обсудили с отраслю все нюансы, и я не думаю, что для российских ИТ-компаний обеспечение прозрачности своих рекомендательных механизмов станет проблемой.

Рейтинг депутатов Госдумы по охвату публикаций в русскоязычных Telegram-каналах за сентябрь 2023 года

1. Володин Вячеслав Викторович — 68,2 млн (охват)
2. Картаполов Андрей Валериевич — 65,6 млн
3. Гурулёв Андрей Викторович — 48,5 млн 🔺+1
4. Горелкин Антон Вадимович — 37,9 млн 🔺+22
5. Зюганов Геннадий Андреевич — 34,0 млн 🔺+5
6. Хинштейн Александр Евсеевич — 32,5 млн
7. Слуцкий Леонид Эдуардович — 29,2 млн 🔻-4
8. Соболев Виктор Иванович — 28,8 млн 🔻-1
9. Даванков Владислав Андреевич — 26,0 млн 🔻-4
10. Сокол Сергей Михайлович — 23,0 млн 🔺+4
11. Швыткин Юрий Николаевич — 22,6 млн new!
12. Миронов Сергей Михайлович — 18,4 млн 🔺+1
13. Чернышов Борис Александрович — 15,8 млн 🔻-5
14. Резник Владислав Матусович — 15,8 млн 🔺+3
15. Делимханов Адам Султанович — 15,4 млн 🔺+4
16. Лантратова Яна Валерьевна — 14,0 млн 🔻-4
17. Федоров Евгений Алексеевич — 11,4 млн new!
18. Затулин Константин Федорович — 10,5 млн 🔺+2
19. Хамзаев Бийсултан Султанбиевич — 9,2 млн 🔻-1
20. Луговой Андрей Константинович — 9,1 млн 🔺+1
21. Журавлев Алексей Александрович — 9,1 млн 🔺+1
22. Бабаков Александр Михайлович — 8,3 млн new!
23. Матвеев Михаил Николаевич — 8,0 млн 🔻-8
24. Москвичев Евгений Сергеевич — 7,9 млн new!
25. Останина Нина Александровна — 7,8 млн 🔻-9
26. Аксаков Анатолий Геннадьевич — 7,6 млн 🔻-17
27. Колунов Сергей Владимирович — 7,1 млн new!
28. Милонов Виталий Валентинович — 6,9 млн 🔻-17
29. Воробьев Андрей Викторович — 6,5 млн new!
30. Заварзин Виктор Михайлович — 5,9 млн new!

Рейтинг подготовлен на основе данных TGStat. Августовский рейтинг доступен по ссылке.

Уверен, правоохранительные органы разберутся в истории с размещением провокационных высказываний на сайте «Патриотов России». Если это действительно результат работы хакеров или фишинговой атаки, нужно поднимать вопрос о скорейшем киберусилении всех партий и общественных организаций. Им необходимо принимать дополнительные меры информационной безопасности, чтобы исключить возможность манипулирования общественным мнением.

В любом случае кому-то придется нести ответственность за произошедшее. Нельзя допускать, чтобы она растворялась за универсальной формулировкой «нас взломали».

Одной из первых цифровых платформ, разместивших правила работы своих рекомендательных алгоритмов, стала торговая площадка Wildberries. Ссылка-уведомление о том, что на сайте применяются рекомендательные алгоритмы, присутствует внизу каждой страницы.

Теперь каждый пользователь Wildberries осведомлен, какие платформа собирает о нём данные (и этот список не ограничивается IP-адресом, геопозицией и информацией об устройстве). Кроме того, площадка раскрыла перечень технологий, используемых для анализа этих данных. На мой взгляд, некоторые из них широкой аудитории непонятны и нуждаются в расшифровке.

Рассчитываю, что в ближайшее время и другие ведущие цифровые платформы выполнят новые и очень важные для всех российских пользователей требования законодательства.

Лидеры российской ИТ-отрасли разместили правила работы рекомендательных сервисов. Рассчитываю, что зарубежные цифровые платформы тоже приступят к соблюдению новых требований законодательства.

В общественном дискурсе снова возникла тема социального рейтинга. Прошлый раз страшилку о введении в России такой системы разгоняли во время пандемии, с акцентом на цифровой контроль за деятельностью антиваксеров. Сейчас иноагентские СМИ качают ту же историю с другой стороны, транслируя ложный тезис о начале внедрения у нас «китайской модели рейтингов». Хотя фактически речь идет об ограниченном тестировании социальной платформы, разработанной специализированным вузом.

Я не думаю, что система социального рейтинга (или «скоринга» в другой терминологии) будет вводиться у нас на государственном уровне, как это сделали в Китае десять лет назад. При этом никто не запрещает коммерческим компаниям использовать подобные механики для совершенствования своих продуктов. Например, в одном очень популярном приложении для заказа такси у каждого пользователя есть рейтинг, и если он низкий, то в услугах может быть отказано. Но сделать то же самое для формирования в обществе дисциплины или распределения гражданских прав в России, на мой взгляд, невозможно.

В отличие от азиатских цивилизаций, где кастовость была всегда и сегодня вполне успешно соседствует с демократическими ценностями (поищите, кто такие буракумины, например), современным российским обществом попытка введения социального рейтинга будет отторгаться на органическом уровне. Собственно, именно поэтому и предпринимаются эти попытки представить научный эксперимент как государственную программу легитимизации цифрового неравенства. Но в конце концов, как и три года назад, они останутся белым шумом.

Цифровые платформы начали раскрывать не только механизмы работы своих рекомендаций, но и перечень собираемых о пользователе данных, которые используются для работы рекомендательных алгоритмов. Вот что о вас знают самые популярные российские интернет-сервисы.