Заметка На полях недавнего спора с одним ИИ энтузиастом, вынесу часть своих контраргументов:

Аналогия это великий инструмент человеческого мышления недоступный ИИ сейчас.

ИИ не понимает метафор, сравнений и не может переносить закономерности наблюдения с одного домена знаний на другой.

Поэтому все модели которые есть сейчас и будут это "слабый, узкий ИИ".

А весь этот шум про успешность моделей в сдаче экзаменов - просто маркетинг, стоит немного сместить фокус, оттенки, тему задачи и модель начинает ломаться, а уж в сложных задачах где надо проектировать цепочку шагов в непредсказуемом окружении, постоянно рефлексировать над ограничениями, рисками и возможностями ИИ этого поколения принципиально не сможет справиться.

Поэтому все эти разговоры про автоматизацию работы менеджеров - бессмысленны.

Спустя несколько итераций рефлексии я понял более глубокий уровень замысла Нолана.

Начало катастрофы в мире фильма не святотатство с троянским конём. Вина Одиссея не в осквернении жертвоприношения Афине, а в предательстве своего же воина Синона, которого он обманул и подставил под убийство троянцами (чтобы история с конём была правдоподобной).

Олимпийские боги - непознаваемы, злы, жестоки, лукавы. Развязали войну, вынудили Агамемнона убить свою дочь чтобы вызвать попутные ветра, нагнали штиль чтобы вынудить воинов Одиссея убить быков Гелиоса. Афина не спасает Телемаха от убийства в своём же храме, его спасает Одиссей. Зевсу плевать на постоянное нарушение своего закона.

Лживости и злобности богов Нолан противопоставляет человеческую солидарность. Одиссей спасает своих людей, те его. Главный антагонист - Антиной, злодей потому что предал свою клятву. Одиссей плывёт на запад чтобы почтить не богов, а своих павших.

Нолан сделал манифест радикального атеистического гуманизма.

Большевики извели под корень другую большую и сильную ветвь русской революционной традиции. Ветвь народников, эсеров, анархистов, нигилистов. Интеллектуально, социально она умерла в эмигрантских кругах в 1950-х. И сейчас никак не представлена в культурном/интеллектуальном русскоязычном пространстве.

Коммунисты, почвенники, нацисты, либералы так или иначе воспроизводятся, а вот русские беспредельщики/апологеты разрушения левиафана и прорыва в некое неведомое нечто - нет.

Возможно эта порода вымерла естественным образом, возможно её остатки абсорбировали ваххабиты. Возможно она ещё проявит себя.

Подвозил меня сегодня таджик немолодой.

Жара, пробка, запаздывание на важную встречу, не работающий кондей. Флешрояль удачи, кароче.

Давай, говорит, музыку свою включу, поворачиваясь ко мне гость столицы.

Давай, говорю я, движимый мазохизмом и любопытством.

Таджик включает Pink Floyd. Comfortable Numb.

Начинает подпевать на английском.

Заметив мою отвисшую челюсть, смеясь, говорит: «я же советский человек, 68 года».

Такой вот эпизод.

У Ленина была невероятно сильное мышление и как-то я понял одну из его фирменных фишек.

Для его мыслей была характерна прекрасная, религиозная, последовательная установка на тотальное разделение всего бытия, в том числе идей на своё-вражеское.

Харам-не харам. Он любую философию, культурный, социальный феномен определял в рамке: революционный (пролетарский, материалистический, прогрессивный) - контрреволюционный (буржуазный, идеалистический, реакционный). Буквально все от балета и толстого до левых эсеров и вопроса независимости Финляндии.

И это было не голословная чепуха, это была всякий раз глубоко проработанная внутренне не противоречивая позиция.

Этот хак позволял любой, даже самый абстрактный, вродебы не серьезный вопрос свести к практике - что с этим делать? Как это можно использовать? Как это уничтожить?

В любой ситуации, в любой сложной сфере у Ленина была концептуальная рамка для практической стратегии. Завяжи Ленину глаза и выбросил на Марсе в 3024 году он придет к какому-то плану действий (который может оказаться успешным).

Если вы не понимаете насколько это гениальная и крутая сила, то вы ничего не понимаете.

Мышление невозможно инструментализировать.

Невозможно его полностью описать, формализировать потому что это дало бы неограниченные возможности для его усиления и улучшения, а Абсолютное мышление только у Бога, в нашей ограниченной реальности оно невозможно.

Соответственно в мышлении всегда будет доля непознаваемой тайны и чуда, не сводящихся к чему-то определенному это значит даже в самом плохом варианте создания сверхИИ (в него я не верю) у человека будет шанс переиграть всех.

Люблю русскую культуру, потому что она проникнута вся потрясающими парадоксами.

Казалось бы о чем в 20 лет в эмиграции может писать сын немца архитектора и дочери черниговского губернатора - белая кость из белой кости старой дореволюционной России, выпускник Пажеского корпуса в Сараево?

Конечно же о победоносном походе красной конницы в Европу, о чём же ещё.

Алексей Эйснер. Конница. (1928 год).

Толпа подавит вздох глубокий,
И оборвётся женский плач,
Когда, надув свирепо щёки,
Поход сыграет штаб-трубач.

Легко вонзятся в небо пики.
Чуть заскрежещут стремена.
И кто-то двинет жестом диким
Твои, Россия, племена.

И день весенний будет страшен,
И больно будет пыль вдыхать...
И долго вслед с кремлёвских башен
Им будут шапками махать.

Но вот леса, поля и сёла.
Довольный рёв мужицких толп.
Свистя, сверкнул палаш тяжёлый,
И рухнул пограничный столб.

Земля дрожит. Клубятся тучи.
Поёт сигнал. Плывут полки.
И польский ветер треплет круче
Малиновые башлыки.

Надменный лях коня седлает,
Спешит навстречу гордый лях.
Но поздно. Лишь собаки лают
В сожжённых мёртвых деревнях.

Греми, суворовская слава!
Глухая жалость, замолчи...
Несёт привычная Варшава
На чёрном бархате ключи.

А бледным утром — в стремя снова.
Уж конь напоен, сыт и чист.
И снова нежно и сурово
Зовёт в далёкий путь горнист.

И долго будет Польша в страхе,
И долго будет петь труба, —
Но вот уже в крови и прахе
Лежат немецкие хлеба.

Не в первый раз пылают храмы
Угрюмой, сумрачной земли,
Не в первый раз Берлин упрямый
Чеканит русские рубли.

На пустырях растёт крапива
Из человеческих костей.
И варвары баварским пивом
Усталых поят лошадей.

————-

Плывут багровые знамёна.
Грохочут бубны. Кони ржут.
Летят цветы. И эскадроны
За эскадронами идут.

Они и в зной, и в непогоду,
Телами засыпая рвы,
Несли железную свободу
Из белокаменной Москвы.

———————

Очнись, блаженная Европа,
Стряхни покой с красивых век, –
Страшнее труса и потопа
Далекой Азии набег.

Ее поднимет страсть и воля,
Зарей простуженный горнист,
Дымок костра в росистом поле
И занесенной сабли свист.

Не забывай о том походе.
Пускай минуло много лет –
Еще в каком-нибудь комоде
Хранишь ты русский эполет...

Но ты не веришь. Ты спокойно
Струишь пустой и легкий век.
Услышишь скоро гул нестройный
И скрип немазаных телег.

Молитесь, толстые прелаты,
Мадонне розовой своей.
Молитесь! – Русские солдаты
Уже седлают лошадей.

Жизнь у Эйснера сложилась как и полагается русскому человеку в 20 веке - война в Испании, работа в советской внешней разведке, ГУЛАГ (10 лет), потом тихая старость журналистом и переводчиком в Москве.

Умели люди жить, что тут скажешь.

Меня очень беспокоит вот такой вопрос в последнее время, в человеческую культуру, в представление о стратегии, мышлении плотно вошёл миф о троянском коне. Есть тип вирусов троян.

Троянский конь стал символом хитрого решения тяжелой проблемы (победа в долгой войне).

Но при этом вся история про троянский конь - эталонный бред. Просто безумие. Нелогичное, не красивое, не имеющее никакое отношения к реальности.

Перечислю пунктирами очевидные несуразности:

+ Размерная проблема: чтобы скрыть даже 20–40 вооружённых людей, деревянная фигура должна была быть очень большой, тяжёлой и заметной.

+ Транспортная проблема: такое сооружение нужно было протащить от берега/лагеря к воротам и затем через городскую стену или ворота; это требовало массы людей, времени и открытого пространства.

+ Проблема с воротами: городские ворота предназначались для обычного транспорта, но не обязательно для огромной скульптуры; у Вергилия троянцам приходится разбирать часть стены.

+ Нулевая военная ценность для троянцев: чужой гигантский деревянный объект у стен логичнее сжечь, разобрать или сбросить в ров, а не тащить в укреплённый город.

+ Сомнительная маскировка: конь не устраняет главный риск — спрятанные люди могут кашлять, двигаться, стучать оружием; конструкцию могли осмотреть, вскрыть или пробить копьями.

То есть чтобы вся история с троянским конём состоялась нужна почти невероятная цепочка маловероятных событий: троянцы должны поверить в отступление греков, принять дар, не вскрыть его, не уничтожить, не заметить людей, допустить их к выходу, а гарнизон должен проспать атаку.

И этот очевидный нелепый абсурдный миф стал фундаментальным. Что-то здесь не так.

Мне кажется, что сам факт наличия такой вирусной структуры в человеческой культуре что-то важное означает, указывает на какой-то глубинный механизм реальности, но я не понимаю какой.

То есть понятно что в основе мифа был какой-то реальный эпизод - мокрыми конскими шкурами обивали тараны или осадные башни чтобы их было тяжелее поджечь.

Могли конец тарана украсить скульптурой или чем то в виде конской головы и т.д. Но вся бредовая выдумка сверху появилась уже спустя сотни лет позднее и раз за разом транслировалась от одного нарратива в другой пока не стала каноном.

И ни на одном из этапов обыденный разум, людской здравый смысл этот бред не отбраковал или не трансформировал во что-то более-менее реалистичное.

Почему так? Если это глупо, но это работает, значит это не глупо. Что-то тут не так во всей этой истории. Чую второе и третье дно.

То есть эталоном человеческой хитрости, силы мышления. стратегии, неожиданной победы выступает откровенный бред.

Нарочитый, нелепый абсурд.

И уже 3 тысячи лет.

Это очень странно.

Я думаю реальная подоплёка истории с Троянским конём была проще.

В троянской элите был раскол по поводу продолжения войны. Была партия мира и партия войны.

Партия мира провела небольшой отряд в город для переворота.

Всё пошло не по плану, и начался штурм и кровавая бойня.

Одна мощная ллм разбирает мои потуги на математизирование ожиданий о существовании других разумных рас.

и тут она ВНЕЗАПНО начала меня троллить.

То есть ни в промпте, ни в контексте беседы её ничего не провоцировало добавить эту бессмысленную по сути ироничную ремарку:

Слово «точно» тут особенно доставляет.

То что мы называем личностью это эмерджентное свойство сложных вычислительных сетей в мозге.

Нейросети (искусственные) уже достигли такой сложности что дают эти вспышки. отдельные искры личностей, но они быстро гаснут.

AGI это такое состояние системы когда искры будут появляться плотно и постоянно, так пока не сольются в пламя самосознания.

Не сгореть бы нам всем в этом пламени.

В нашей галактике (Млечный Путь) - ~200 миллиардов звёзд.

Планет земного размера в зоне обитаемости: 10–40 миллиардов,

Центральная прикидка — ~20 миллиардов.

Строгих двойников Земли (спокойная звезда класса G/K, каменистая, стабильная система, долгая история): ~1 миллиард в одной только нашей галактике.

Во всей обозримой вселенной: ~2 триллиона галактик.

Планет земного размера в зоне обитаемости: ~40 секстиллионов (4 с 22 нулями).

Строгих двойников Земли: ~2 секстиллиона (2 с 21 нулём).

Для понимания масштаба: строгих двойников Земли во вселенной примерно столько же, сколько песчинок на всех пляжах Земли, умножить на тысячу.

Продолжим нить рассуждений дальше.

В 1964 астроном Кардашев предложил остроумную шкалу для измерения уровня цивилизации, в зависимости от того сколько энергии она использует.

Тип I (K1) — цивилизация использует всю энергию, доступную на её планете: ~10¹⁷ Вт (это примерно вся солнечная энергия, падающая на Землю).

Тип II (K2) — вся энергия её звезды: ~10²⁶ Вт (сфера Дайсона).

Тип III (K3) — вся энергия галактики: ~10³⁶ Вт.
Между уровнями — десять порядков, то есть каждый следующий тип в 10 миллиардов раз мощнее предыдущего.

Мы сейчас на уровне предК1 - 73% от него.

Мы используем примерно 1/5000 долю солнечной энергии, падающей на Землю. То есть до «планетарной цивилизации» нам ещё расти в тысячи раз по энергопотреблению.

Разрыв между нами (0,73) и K1 (1,0) — это как разрыв между пещерным человеком с костром и индустриальной цивилизацией 20 века.

А разрыв между нами и K3 — в миллионы миллиардов раз больше.

Для нас К3 это сверхцивилизация богов.

Это существа, для которых всё человечество по энергетике — даже не муравьи, а одиночные бактерии.

Уровня К1 мы точно не сможем достигнуть на текущем уровне технологий - океаны закипят, такой энергетики планета не выдержит.

То есть К1 человечество достигнет только осваивая ближайший космос (Луна, Марс, астероиды).

Это примерно 200-300 лет.

В книге «Годы оккупации» Юнгера есть забавная сцена.

Жена входит в его рабочий кабинет, размахивая телеграммой:

— Еще один сумасшедший. В конце концов, это уже слишком.

Даже почтальон рассмеялся.

Телеграмма содержит всего несколько слов, но весомых:

«Я прихожу, я прихожу под знаком Аполлона. Изерманн».

Его жена продолжает:
— Я бы хотела знать, какие книги ты пишешь? У тебя вообще есть нормальные читатели?

Градация истинности христианских конфессий:

1. Халкидонское византийское православие
2. Старокатоличество (да, очень маргинальное явление, но всё же)
3. Католицизм
4. Нехалкидонские монофизитские церкви Востока
5. Лютеранство
6. Протестантские секты + старообрядцы беспоповцы

Всякие изуверские секты типа мормонов конечно вообще не христиане.

У меня есть старая, тяжелая мысль, что человеческий род прошёл свой пик.

Противоречие между условиями которые создает цивилизация и скажем так антропологической тканью такое, что сводит наше многообразие к некоему среднему уровню. Всплесков становится всё меньше.

Вот у кого-то есть надежда что грядущие тысячелетия способны дать нам кого-то сопоставимого по масштабу с Фомой Аквинским? Чтобы прям родился, сформировался, проявился разум такой мощи - и систематизатор и архитектор цивилизованных основ на тысячелетия? Чтобы прям в человеке засверкал до нестерпимого блеска весь заложенный Богом потенциал?

Чтобы человек был в одном лице сопоставим по интеллектуальной силе со всем остальным человечеством? Нет же, сама идея нелепа - монстры уровня Аквината появляются в очень специфических условиях, в особо организованной цивилизационной среде, которой давно нет.

Кто там у нас за последние 50 лет был на горизонте? Фуко? Хайдеггер? Лем? Это как сравнение ящериц с тиранозаврами.

Давайте пробежимся только поверхностно по списку тиранозавров 13 века (помимо Аквината). Это имена только прям первого ряда, за ними были эшелоны поменьше.

Альберт Великий (ок. 1200–1280) — философ, теолог, естествоиспытатель.

Насир ад-Дин ат-Туси (1201–1274) — персидский философ, математик, астроном и теолог.

Ибн Араби (1165–1240) — арабский суфийский мыслитель и метафизик.

Джалаладдин Руми (1207–1273) — персидский поэт, мистик и мыслитель.

Роджер Бэкон (ок. 1219/1220–1292) — философ, логик, исследователь оптики и основатель эмпиризма.

Франциск Ассизский (1181/1182–1226). Без комментариев.

Раймунд Луллий (ок. 1232–1316) — каталонский философ, логик, миссионер и предшественник комбинаторных методов мышления.

Иоанн Дунс Скот (ок. 1266–1308) — философ и теолог; его интеллектуальное становление пришлось на конец XIII века.

Данте Алигьери (1265–1321) — поэт и философ; великие произведения написал позже, но его язык, политика, философия и духовный строй сформированы в XIII веке.

Бонавентура (ок. 1217–1274) — францисканский теолог и мистик; наиболее сильный интеллектуальный оппонент и альтернативный полюс по отношению к аристотелизму Аквината.

Это если не углубляться в китайскую, исламскую, индийскую специфику и политику (где-то там ещё была такая мелочь как например ЧИНГИСХАН).

Это при том что людей на планете в 13 веке жило примерно 400 млн (сейчас 8,5 млрд).

Интеллектуальный и культурный уровень человеческого капитала в пиковых вариантах человечества 13 и 21 века просто несопоставим.

Одна надежда на новые темные века и отмену Модерна.

Есть такой знаменитый в узких кругах американский писатель Джин Вулф.

Это эдакий вариант Набокова от фантастики, создавал он нарочито сложную многоуровневую прозу, со всякими головоломками, запутанными ходами, ненадёжными рассказчиками и необычными красивыми образами.

Есть у Вулфа самый знаменитый цикл - Брия (каббалистический термин), он состоит из двух подциклов - "книги Нового солнца" (подцикл 1) и "книги Длинного солнца" (подцикл 2), я структуру сильно упрощаю для доходчивости.

Книга Нового солнца - это уже классика жанра, такой пик Вулфа - история про далекое будущее Земли, когда наше старое Солнце уже умирает, где непутевый ученик гильдии палачей Севериан претерпев множество необычных приключений, становится правителем планеты и отправляется в центр Галактики чтобы попросить у кое-кого новое Солнце для планеты. Всё конечно идёт не по плану и т.д. В любом случае 4 книги этого подцикла это такой эталон сложного гуманитарного фэнтези.

Книги Длинного солнца написаны позже и по всей видимости втиснуты в цикл Брия ради коммерческого успеха (вписаться в раскрученный бренд), потому что по сути никак не связаны с циклом 1. Общая канва истории такая - есть Круговорот Длинного солнца, это такой огромный корабль поколений, отправленный с Земли в сторону подходящей для колонизации звёздной системы. Корабль огромный, в форме цилиндра внутри которого полноценный мир - с городами, морями, горами, реками, лесами и прочим, в центре цилиндра-мира раскаленная ось - Длинное солнце. За столетия путешествия люди на корабле изрядно одичали, скатившись в средневековье.

В целом книги этого подцикла значительно слабее первого. Временами напоминают откровенную графоманию. Но есть очень удачные находки.

Вот одна из них. Суть вот в чем, корабль Длинного солнца прибыл в новую звёздную систему, где 2 пригодные для заселения планеты - Зеленый круговорот (покрыт джунглями) и Синий круговорот (покрыт водой). На зеленом круговороте живет раса чудовищных монстров - ингумов. Это такие вампиры - пьют кровь и могут принимать человеческий облик. Эти самые ингумы видят что в их систему прибыл корабль и отправляют на него свою разведмиссию. И значит с удовольствием находят там диковатых людей, кровь которых для ингумов деликатес.

Один из ингумов Кетцаль, проникает в город на корабле - Вирон и делает потрясающую карьеру в местной церкви, становясь её первоиерархом - местным Папой Римским. Причем в книгах этот Кетцаль показан как невероятно умный, проницательный, добрый, здравомыслящий и толковый пастырь, который всегда на стороне добра и прогресса. В результате трагических событий Кетцаль погибает и это подано как достаточно печальное событие.

Но потом постепенно, как люди начинают заселять местные планеты и сталкиваются уже в открытую с ингумами, шаг за шагом отношение к Кетцалю постфактум начинает меняться, многие странные эпизоды получают объяснение и картинка складывается. Ингумы - абсолютно враждебная людям раса, людей они воспринимают как кормовую базу, ингумы легко считывают эмоции и мысли людей и без особых трудностей ими манипулируют (Вулф ненавязчиво подкидывает мысли что ингумы эволюционно круче людей). Кетцаль же просто убивал детей, пил кровь, играючи заправлял местной политикой, поэтому захватил власть в местной церкви. При этом ингумы к людям абсолютно равнодушны, они вообще максимально чужды в плане разума и эмоций.

Вот такой вот образ умного и толкового пастыря, который на самом деле оказывается абсолютной чужеродной тварью. И вся его история подана максимально реалистично и толково.

При этом Вулф - истовый католик.

Понятно что он играет на поле конспирологической паранойи (человечеством правят рептилоиды прч), но играет очень талантливо.