Пользовательские соглашения наконец начали читать.

Раньше пользовательские соглашения никто не читал. Это даже посчитано: по опросу Deloitte 2017 года 91% американцев принимают условия, не читая.

Теперь их поручают прочитать искусственному интеллекту 🙂 Вставить текст в чат и спросить модель, что тут не так, — дело минуты.

В итоге вопросов к нам в поддержку по разным пунктам соглашения стало резко больше 🙂 Приходится теперь больше думать, когда его пишешь и публикуешь.

#ИИ #бизнес

На инфографике вы, дорогие коллеги, можете увидеть наше светлое будущее. График составлен (через Off The Charts от The Economist) на базе скандального свежего китайского исследования 27 000 школьников (7-12 класс) — «The Generative AI Learning Penalty: Evidence from Chinese Secondary Education».

Суть исследования: школьники, которые не использовали ИИ, составили контрольную группу, а китайские исследователи наблюдали за результатами тех, кто ИИ начал использовать в процессе обучения. Результат: школьники, которые использовали ИИ, стали выполнять домашние задания заметно быстрее (на 30%) и получать за него гораздо более высокие оценки (на 18%), но их результаты на вступительных экзаменах стали заметно хуже (минус 18-24%). Об этом написали ведущие СМИ планеты. Но вашего покорного слугу в этих результатах заинтересовал не этот (кмк, абсолютно самоочевидный чисто из базовых знаний о человеческой психике и природе) вывод, а заинтересовал противоположный («правый») хвост распределения результатов.

Посмотрите: у «пользователей ИИ» количество тех, кто справился с экзаменами очень-очень сильно лучше среднего, не увеличилось, а если брать только «лучше среднего» (без самых топовых результатов), то уменьшилось. Любимый многими тезис о том, что «дурак с ИИ потупеет, но зато умный поумнеет вообще невероятным образом», оказался экспериментально опровергнут на огромной выборке очень мотивированных (это же Китай!) умников (это же Китай!) с хорошей генетикой (это же Китай!) и с максимальным социокультурным давлением в плане достижения высоких академических результатов.

Получается, что ИИ, помимо массового отупения (т.е. любую работу в будущем будут делать быстрее, но хуже), может дать «самым умным» некоторое количество «объёма» (больше продакшена на единицу времени), но не больше качества — но даже это в самом лучшем и топовом случае. Человечество ближайшего будущего будет намного тупее, а потом (ещё и в силу демографических проблем) — намного малочисленнее. Это плохая новость. Хорошая новость — редко в человеческой истории социальные лифты для умных/волевых работали так хорошо — перед нами вероятный цифровой эквивалент Великой Чумы, только вместо того, чтобы выкосить четверть-треть населения, она сделает им перманентный «штраф к когниции» за привычку к ИИ.

Кстати, абсолютно уверен, что в реальности результаты будут хуже, чем в китайском исследовании: вне КНР культура самопринуждения намного менее развитая, плюс это всё-таки были китайские дети 7-12 класса, а что будет с поколениями, которые с ИИ-шками всё решают ещё до обучения чтению и письму (голосом) — страшно себе представить.

P.S.: Ваш покорный слуга продолжает экспериментировать с «должностными инструкциями» для типовых (которые обычно поручаются интернам) задач, используя self-hosted модели ИИ (сейчас на моём Nvidia Spark работают или турбированный и децензурированный Qwen 3.8, или перепиленная Thomson Reuters версия Qwen 3.6 или Gemma 4), заодно сравнивая результаты (у меня есть базовый «бенчмарк-стек» разных аналитических задач) с перформансом топовых западных моделей. Чем дальше, тем сильнее убеждаюсь в том, что «должностная инструкция» (не промпт, именно инструкция — «как сделать, что учитывать, на что обращать внимание») легко и с большим запасом перекрывает (т.е. не компенсирует, а «догнать и перегнать и обогнать на круг») разницу между китайскими «open weight» и американскими фронтир-моделями (для аналитических задач из реального мира, это не про кодинг). При этом пока их работа не дотягивает даже до уровня умного (пускай умно-ленивого) интерна, т.е. сделано старательно, но тупо. Стохастические попугаи думать не умеют, но их можно использовать (при нужной тренировке) как аналог поисковика.
ИИ — это не «цифровой бог», это аналог станка Гутенберга. На длинной дистанции важна не эффективность ротационной машины, расход чернил или красота офсетной печати, а смысл самого текста. Со смыслом у человечества будут сложности. Как с генерацией, так и с восприятием.