Лаборатория при американском Университете Пердью показала автономный дрон: он сам преследует бегущего человека между деревьями и обходится без спутниковой навигации. Все, от рамы до программного обеспечения, сделано самостоятельно. В полете дрон сканирует пространство своими органами чувств: мерит расстояния до деревьев лазерным дальномером, строит трехмерную карту леса, отслеживает свое движение по данным встроенных датчиков. Вся эта информация стекается в его «мозг»: дрон ищет оптимальный маршрут, чтобы догнать человека: как пролететь, где обогнуть, где настигнуть. Он заранее предсказывает, в какой момент деревья закроют от него объект, сам облетает препятствия. И ни спутники, ни внешний компьютер ему не нужны. Весь мозг дрона заточен на одну цель - догнать...

Не зря создатели показывают вам вора в балахоне с краденным ноутбуком и сумкой. Сразу формируется негативный образ, и это не случайность. Потому что окно Овертона всегда так работает.

Формально это исследовательское демо. Критики отмечают: скорее всего карта была сделана заранее, презентация несколько преувеличивает возможности. Это неважно. Важно направление: лес, где раньше можно было скрыться от вертолетов и камер с воздуха, для такой машины больше не укрытие. Это реклама для инвесторов. И они, зачастую, из ВПК.

Один мой друг-инженер, посмотрев видео, сказал: «Все еще хуже. По этому принципу будет работать крылатая ракета: летишь в Лондон, смотришь, чтобы не вляпаться в ПВО, а где-то рядом с Биг-Беном сегодня в таком-то зале выступает Джон Боул. Он обычно ездит на зелёной машине. Вот этот зал или автомобиль надо найти и уничтожить».

Да, это только начало. Но что мы видим сегодня? На Ближнем Востоке охота - это старая реальность. Там летает «Рипер» MQ-9: оператор сидит в США и точечно бьет по цели из террористического списка. Новороссия, где беспилотники уже охотятся на гражданские машины и автобусы с людьми. Решение пока принимает оператор. Но медленно, рутинно идет легализация убийства мирных. Любую ошибку можно списать на ИИ: связь с оператором потерялась, система сама выбрала цель и ударила. ИИ служит идеальной ширмой-прокладкой, через которую реальность утверждается без рефлексии. Этот процесс не прекращается, его просто выносят на более масштабный уровень. Если затухнет война на Украине - он перекочует в Африку, где идеальный полигон для отработки технологий. Цена человеческой жизни там мала, и это земля бесконечных войн между племенами, народами и конфессиями.

Дальше бумеранг вернется в страны-"демократии". Не сразу. Сначала будет охота на воришек, возникнет привычка к летающим дронам. Потом система получает все больше доступа и возможностей контроля. Это общество показано в свежей экранизации «Бегущего человека» Стивена Кинга: дроны как гончие собаки охотников преследуют бедолаг из нищих районов, которые в отчаянии решились сыграть в опасное шоу, чтобы прокормить семью. Человек человеку волк, смертельная гонка. Голливуд смакует этот сюжет не зря. В книге герой победил ценой жизни, в кино рисуется хэппи-энд. Реальность будет жестче.

Перед тем как такая автономность станет нормой, будет большой шаг. Обсуждения на телешоу, дебаты в парламентах, погромы, беспорядки. В окно Овертона будет пока видно «плохих парней», «врагов демократии». Общество будет сопротивляться, выходить на улицы, требовать запретов. Но в итоге этот путь будет пройден, как проходили его много раз до этого. Параллельно будет идти борьба с этикой и религией. Вы же видите - она уже идет и только усилится. Моральные авторитеты будут говорить о недопустимости машины, решающей вопрос жизни и смерти. Но постепенно обществу создадут культ ИИ, божества, который может судить и поощрять. Жаловаться ему будет бесполезно. Обслуживать его будут жрецы-инженеры, а за созданием этого культа и алгоритмами останутся технократы. Вот как за дроном Хорнет сегодня стоит Эрик Шмидт из Гугла и подобные, который через фирмы-прокладки списывает все убийства на украинцев, так и здесь грязную работу будут выполнять чужие руки. Как национал-социалисты выполняли грязную работу руками бандеровцев. Ничего принципиально нового в истории не происходит, меняются только технологии.

Настанет момент, когда попавших в списки «неугодных» начнут автоматически штрафовать, а возможности ликвидировать будут зависеть от ранга. Это будет делать система, к которой все привыкли за годы, может, десятилетия. Окно Овертона захлопнется. В итоге не будет никакой рефлексии оператора. Цифровой судья, цифровой приговор. Цифровой робот-уборщик, который подъедет и смоет кровь на асфальте. Мрачно, но это один из путей.

Ядерное оружие все-таки поставили в жесткие рамки. Нет, не из-за морали, а из-за страха взаимного уничтожения. Здесь будет нечто подобное. Но это похоже на новый порох, который переделит мир. Будет жестко. В итоге, навоевавшись, страны подпишут конвенции и договора, потому что гонка на выживание истощит мир. На время, до новых войн. Именно поэтому договора, подкрепленные силой оружия роем дронов и ядерных ракет, так важны. Это сейчас скептикам смешно - подумаешь, жалкие бумажки. Потому что передел в этом диком лесу только начался. Но мир антиутопий восьмидесятых, «Бегущего человека» и «Терминатора», уже не кажется фантастикой. Вопрос только в том, сколько тормозов сработает до того, как окно Овертона захлопнется. На время.

Бегущий человек: автономный дрон учится охоте

Часть 1

Лаборатория при американском Университете Пердью показала автономный дрон: он сам преследует бегущего человека между деревьями и обходится без спутниковой навигации. Все, от рамы до программного обеспечения, сделано самостоятельно. В полете дрон сканирует пространство своими органами чувств: мерит расстояния до деревьев лазерным дальномером, строит трехмерную карту леса, отслеживает свое движение по данным встроенных датчиков. Вся эта информация стекается в его «мозг»: дрон ищет оптимальный маршрут, чтобы догнать человека: как пролететь, где обогнуть, где настигнуть. Он заранее предсказывает, в какой момент деревья закроют от него объект, сам облетает препятствия. И ни спутники, ни внешний компьютер ему не нужны. Весь мозг дрона заточен на одну цель - догнать...

Не зря создатели показывают вам вора в балахоне с краденным ноутбуком и сумкой. Сразу формируется негативный образ, и это не случайность. Потому что окно Овертона всегда так работает.

Формально это исследовательское демо. Критики отмечают: скорее всего карта была сделана заранее, презентация несколько преувеличивает возможности. Это неважно. Важно направление: лес и вьетнамские джунгли, где раньше можно было скрыться от вертолетов и прожекторов с воздуха, для такой машины больше не укрытие. Это реклама для инвесторов. И они, зачастую, из ВПК.

Один мой друг-инженер, посмотрев видео, сказал: «Все еще хуже. По этому принципу будет работать крылатая ракета: летишь в Лондон, смотришь, чтобы не вляпаться в ПВО, а где-то рядом с Биг-Беном сегодня в таком-то зале выступает мистер Питкин. Он обычно ездит на зеленом Рэнд Ровере. Вот этот зал или автомобиль надо найти и уничтожить».

Да, это только начало. Но что мы видим сегодня? На Ближнем Востоке подобная охота на людей - это старая реальность. Там летает «Рипер» MQ-9: оператор сидит в США и точечно бьет по цели из террористического списка. Теперь новый полигон - Новороссия, где беспилотники уже охотятся на гражданские машины и автобусы с людьми. Решение пока принимает оператор. Но медленно, рутинно идет легализация убийства мирных. Любую ошибку можно списать на ИИ: связь с оператором потерялась, система сама выбрала цель и ударила. ИИ служит идеальной ширмой-прокладкой, через которую реальность утверждается без рефлексии. Этот процесс не прекращается, его просто выносят на более масштабный уровень. Если затухнет война на Украине - процесс интенсивнее перекочует в Африку, где вообще идеальный полигон для отработки технологий. Цена человеческой жизни там мала, и это земля бесконечных войн между племенами, народами и конфессиями.

Но дальше бумеранг вернется в страны-"демократии". Не сразу, нет. Сначала будет охота на воришек, возникнет привычка к летающим дронам. Доставка пиццы и суши, там, знаете ли. Потом система получает все больше доступа и возможностей контроля.

Это общество показано в «Бегущем человеке» Стивена Кинга: «бегуны» должны продержаться в живых 30 дней, пока за ними охотится целая орда киллеров. Публика с удовольствием следит за трансляцией охоты, а денежный приз с каждым прожитым днем растет все больше и больше. В свежей экранизации дроны как гончие собаки охотников преследуют бедолаг из нищих районов, которые в отчаянии решились сыграть в опасное шоу, чтобы прокормить семью. Человек человеку волк, идет смертельная гонка. Голливуд смакует этот сюжет не зря. В книге герой победил ценой жизни, в прошлогоднем кино рисуется хэппи-энд. Реальность будет жестче.

(продолжение)

Бегущий человек: автономный дрон учится охоте

Часть 2

(начало здесь)

Перед тем как такая автономность дронов станет нормой, будет большой шаг. Обсуждения на телешоу, дебаты в парламентах. В окно Овертона будет пока видно не простого обывателя, а «плохих парней», «врагов демократии», которые устраивают погромы и беспорядки. Общество будет требовать запретов. В итоге этот путь будет пройден, как проходили его много раз до этого.

И обратите внимание: Голливуд не рисует в фильмах-антиутопиях религиозных институтов. Есть какие-то роботы, какие-то супермашины, технологии. А этого нет. Почему? Потому что в новом мире своя этика. Люди в «Бегущем человеке» удивительно жестоки: они жаждут крови несчастного, как римская толпа. Но это произойдет не сразу - жестокость будет нарастать постепенно, а нормы прошлого уходить. Борьба с религиями идет уже сегодня и только усилится. Ведь моральные авторитеты будут говорить о недопустимости машины, решающей вопрос жизни и смерти. Но постепенно будут навязывать обществу культ ИИ - цифрового божества, который может судить и поощрять. Жаловаться ему будет бесполезно. Алгоритмы его простому человеку неведомы. Это будет похоже на Древний Египет в технологической оболочке. Обслуживать божество будут жрецы-инженеры, а за созданием этого культа и кулисами алгоритмов останутся технократы. Вот как за дроном Хорнет сегодня стоит Эрик Шмидт из Гугла и подобные ему. Он уже сегодня через фирмы-прокладки списывает все убийства на украинцев. Вот как национал-социалисты выполняли грязную работу руками бандеровцев и других прихвостней. Им нужно было расчистить "жизненное пространство", этим нужны богатые ресурсами земли. Ничего принципиально нового в истории не происходит, меняются только технологии.

Настанет момент, когда попавших в списки «неугодных» начнут автоматически штрафовать, а возможности ликвидировать будут зависеть от социального ранга. Это будет делать система, к которой все привыкли за годы, может, десятилетия. Форточка Овертона захлопнется. В итоге не будет никакой рефлексии оператора. Цифровой судья, цифровой приговор. Цифровой робот-уборщик, который подъедет и смоет кровь на асфальте. Мрачно, но это один из путей.

Будет ли сопротивление? Будет. Создадут технологические решения, но главная борьба развернется в душах самих людей: будут те, кто сохранит в себе веру, кто не примет новый технологический культ, кто не расчеловечится, не станет зверем или безучастным "овощем"-наблюдателем, не поддастся сценарию, написанному алгоритмами. С тем, что кажется сейчас привычным - семья, вера, образование, история, язык - уже воюют и будут серьезно воевать. Но шансы отстоять себя есть, я в это верю. Может быть, так мир и разделится на территории, как это описывается в древних предсказаниях.

Одно очевидно - сейчас эти технологии похожи на новый порох, который переделит мир. Эта перспектива манит инвесторов из ВПК наперегонки вкладываться. Это не остановить, тут не надо иллюзий. Никакие проповеди ранее это не останавливали. Не сделаешь ты - сделают другие. Будет жестко. Но ядерное оружие все-таки поставили в жесткие рамки после применения. Нет, не из-за морали, а из-за страха взаимного уничтожения. И здесь будет нечто подобное.

В итоге, навоевавшись, страны подпишут конвенции и договора, потому что гонка на выживание истощит мир. На время, до новых войн. Именно поэтому договора, подкрепленные силой оружия роем дронов и ядерных ракет, так важны. Это сейчас скептикам смешно - "подумаешь, жалкие бумажки, чего их там требовать". Им смешно, потому что передел в этом диком лесу только начался. Но мир антиутопий восьмидесятых, «Бегущего человека» и «Терминатора», уже не кажется фантастикой. Вопрос только в том, сколько тормозов сработает до того, как окно Овертона окончательно захлопнется. И сколько душ это погубит.

С. Шилов

(начало здесь)