В английском есть такой термин, как perverse incentive — что-то вроде "порочный стимул". Это когда проявляешь инициативу для борьбы со злом, но тем самым ещё больше растишь его.

Вариацией порочного стимула можно назвать афористический закон Гудхарта — "любая наблюдаемая статистическая закономерность испортится, как только вы будете сильно пытаться ей управлять".

Узнала несколько смешных историй про неудачное управление с помощью метрик. Англачане пытались вывести ядовитых кобр в своих индийских колониях — и назначили награду за каждую голову убитой змеи. Вообще звучит логично и как неплохой социально-ориентированный ход 😅 Но довольно быстро индийцы сообразили, что к чему, и стали разводить этих кобр специально: слаженно убивать, сдавать их головы и не париться с поимкой. Когда в Англии сообразили, что происходит, премию, конечно же, отменили. После этого индийцы пожали плечами и выпустили разведённых под забой кобр на волю.

Так что в результате принятых мер количество ядовитых кобр на территории английских колоний стало больше :)

Похожая история была у французов, которые боролись с крысами во Вьетнаме, тогда — территорией Французского Индокитая. Награду выдавали за отрезанный хвост. Вьетнамцы ловили крыс, отрезали им хвост и отпускали, чтобы те размножились дальше и дали шанс отрезать ещё больше хвостов в будущем; так что в итоге принятые меры повлияли только на количество крыс без хвостов 🤷‍♀️

В Штатах таким же образом, в погоне за оптимизацией количества строчек кода количества построенных миль железной дороги вместо прямого маршрута Юнион Пасифик где-то там в слаженном порыве построили какую-то загогулину.

Но есть гораздо более пугающие истории.

Во время войны во Вьетнаме министр обороны США Роберт МакНамара был предан идее использовать математические модели и измеримые метрики для ведения войны. Генерал воздушной обороны Эдвард Лэндсдейл попытался напомнить ему, что тот никак не учитывает в своих моделях чувства самих вьетнамцев. Говорят, что МакНамара сначала записал это карандашом себе в список, а затем стёр и ответил, что не знает, как это померить, а значит, это должно быть неважно.

И такое, немного, казалось бы, сбоку, но на самом деле не совсем.

В верификационизме (вроде бы) есть принцип, в чем-то похожий на бритву Оккама. Он иронично называется «Пылающий лазерный меч Ньютона»: если что-то нельзя проверить с помощью эксперимента, то это не стоит обсуждения в науке.

Но в свете истории МакНамары хочется вольно, но процитировать то, что сказал про него Дэниэл Янкелович:

Когда эти принципы используются буквально, первым шагом будет измерять всё то, что легко измерить. Вторым шагом — не слишком-то брать в расчет то, что измерить легко нельзя, или что измеряется качественно, а не количественно. Третья стадия — это исходить из того, что если что-то измерить нельзя — это не слишком важно. И последний шаг — это думать, что если что-то не поддается понятным нам измерениям, то на самом деле этого не существует.
И это конец.

Отец знакомого работает в Опенаи. Сегодня срочно вызвали на совещание. Вернулся поздно и ничего не объяснил. Сказал лишь собирать вещи и бежать в магазин за продуктами на две недели. Сейчас едем куда-то далеко за город. Не знаю что происходит, но мне кажется началось...