Вчерашний день принес две контрастные новости из мира искусственного интеллекта, которые, если смотреть на них вместе, рисуют противоречивую картину цифрового будущего.

🚧Новость первая. Стало известно, что Роскомнадзор планирует создать собственную систему ИИ для контроля интернет-трафика. Бюджет проекта 2,3 млрд рублей, а сроки предельно сжатые. Система должна заработать уже в чуть ли не в этом году.

Новая система будет искать не просто зеркала заблокированных сайтов по техническим параметрам, а анализировать тексты, выискивать ключевые слова, фразы и даже стилистические паттерны. То есть предполагается смысловой анализ вместо IP-адресов.

👾На бумаге это логичный шаг в эпоху цифрового суверенитета и атомаризации интернета, который мы наблюдаем повсеместно почти во всех развитых странах.

В целом я с пониманием отношусь к различному виду блокировок. Кого-то мне жаль, кого-то не очень, а кто-то на 120% это заслужил. Если весь мир строит стены и готовится к осаде, глупо мечтать о розовых фиалках и прекрасных единорожках. И если весь мир говорит об ИИ, почему бы не взять его на вооружение для защиты информационного пространства.

🎲Новость вторая. Параллельно с этим компания Relum обнародовала результаты исследования, которые ставят под сомнение саму способность современных ИИ-моделей достоверно работать с информацией. Вердикт не самый оптимистичный. В среднем 15% ответов популярных чат-ботов содержат ложную информацию. Лидер рынка, ChatGPT, с долей в 81%, ошибается в 35% случаев. Google Gemini показывает еще более высокий процент ложных срабатываний в 38% (есть вопросы к бенчмаркам, но в целом новость не нова, просто галюцинации становятся изощрённей)

🚩Таким образом проблема, не в цели, а в инструменте и его последствиях. Опасность не в том, что что-то будут блокировать. В обычной ситуации, если чат-бот галлюцинирует и выдает неправду, от пользователя требуется критическое мышление, чтобы это проверить. Галлюцинации же государственного ИИ-уровня могут привести к автоматическому, неоспоримому и, что главное, непрозрачному решению, когда ресурс будет автоматически замедлен или недоступен.

Таким образом, мы рискуем получить не точный "скальпель", а новый "топор" с претензией на интеллект, который может нанести серьезный ущерб коммуникации, легальному бизнесу и цифровой экосистеме в целом. Надеюсь товарищи это предусмотрели. В эпоху восходящего ИИ, любой вопрос трансформируется в: "а на насколько точен ваш алгоритм?"

P.S: Если вам этого недостаточно, то вот вам новость номер три. Пентагон на полном серьезе внедряяет ИИ в свои процессы, акцент на ведении боевых действий, разведке и операционной деятельности. И их совершенно не пугает что современный ИИ лишен здравого смысла. Скайнет, перелогинься! 🤖

#skipcoding