И в этот момент, по инерции, сработал остаточный рефлекс сознания той, будущей «меня», которая только что совершила инверсивное умирание в эту изначальную Жизнь. Жизнь, которая еще сама об этом не знает! Я «вспомнила» будущее, которого еще не было.

Я увидела бездну времени впереди. Миллиарды лет боли. Быть съеденной, быть раздавленной, замерзать в ледниках, гореть в вулканах, задыхаться, умирать от войн, от чумы, от рака, от тоски. Я увидела чудовищную, невозможную вероятность выживания. Один шанс на бесконечность.

И в этой крошечной, бесцветной капле на секунду вспыхнула Мысль. Самая первая и самая ненужная мысль на Земле - ЗАЧЕМ?

Эта мысль посмотрела на бесконечный океан. И растворилась, оставив только:
«Господи, как же хорошо, что у меня нет сознания. Иначе я бы умерла от ужаса и страха прямо сейчас, и никакой жизни на Земле бы не было!».

Химия победила философию. Клетка дрогнула, и, повинуясь слепому, безжалостному и восхитительному импульсу, начала делиться.

Юлины тексты всегда завораживают ⬆️⬆️⬆️, а ещё больше их у неё в канале.

https://t.me/nobodyknowzzz_deus_ex_machina

Преимущества несовершенства и риски эффективности

Французский междисциплинарный биолог Оливье Аман написал книгу, защищающую эволюционную необходимость отказа от культа эффективности и гипероптимизации.

Основной аргумент отталкивается от того, что постоянная оптимизация возможна только в закрытых системах, все элементы которых прозрачны и контролируемы. Но ни наша планета, ни человеческое общество не являются такими системами - они обладают почти бесконечным числом параметров, изолированное изменение одного из которых оказывает каскадные и часто непредсказуемые эффекты на другие. Чем сильнее система начинает зависеть от идеальных значений конкретных параметров, тем более уязвимой она становится: совершенство - это критическая уязвимость.

Поэтому эволюция стремится к субоптимальности, не идеальному результату, но такому, который обладает надежностью (robustness) и сохраняет пространство возможностей для адаптации. К примеру, наше тело поддерживает температуру ниже 37 градусов, даже если для большинства ферментов в человеческом теле оптимальная температура функционирования ближе к 40 градусам; однако, эта «неэффективность» и даёт организму пространство для реагирования в экстренных ситуациях (инфекция и т.п.).

Несовершенство, случайность, хаотичность - фундаментальные особенности эволюции, позволяющие жизни существовать, несмотря на меняющиеся условия. В конечно счёте, жизнь стремится к избыточности - что выглядит противоположностью эффективности, но именно это сверхизобилие (redundancy) делает её отказоустойчивой и адаптивной, так как её потенциал всегда больше, чем то, что реализовано и задействовано в моменте.

На основе этого понимания, Аман выступает за более деликатный, децентрализованный и разговорный подход к тому, как ведём бизнес, управляем городами и вообще осмысляем себя как цивилизацию: не всё исчислимо, всегда будут неожиданности и лучший способ справляться с кризисами и развиваться - оставлять место для неопределенности, культивируя общество «изобильного взаимодействия», где мы прислушиваемся друг к другу и окружающему миру в духе заботы и доверия.

На мой вкус, Аман всё-таки недооценивает потенциал технологий и нашу способность к моделированию сложных систем, но его взгляд на биологию и эволюцию действительно интересен и имеет большую эвристическую ценность.

* Olivier Hamant. The Benefits of Imperfection: Biology, Society, and Beyond. CRC Press, 2025. = La Troisième Voie du Vivant. Odile Jacob, 2022.

Это, конечно, тема больше для своих, но если это про вас - не забудьте, что уже начал выходить второй сезон Фрирен.

Просмотр первого сезона, а это было два года назад, остаётся для меня одним из самых целительных и эстетически насыщенных опытов последних лет. Абсолютный шедевр, - и второй сезон, похоже, не уступает.

Помните классическую дилемму в освоении дальнего космоса: будущие технологии скорее всего позволят развивать гораздо большие скорости, чем те, что доступны нам сейчас, а это значит, что корабль запущенный к достаточно удалённым объектам через икс лет - и оснащённый соответствующими технологиями - всё равно доберётся до них раньше, чем корабль, запущенный сегодня.

Так вот, очень похоже, что из-за развития искусственного интеллекта такая ситуация сложилась сегодня с большинством интеллектуальных занятий. Скорее всего, - я бы сказал, будет крайне удивительно, если окажется иначе, - что с каждым месяцем мы будем получать всё более сильный интеллект и всё более изощрённые инструменты, и сталкиваться со всё более продвинутыми и расширяющими границы воображения когнитивными агентами. Если это не задачи, связанные собственно с развитием ИИ или вопросами высшего приоритета, то возможно лучше отложить их, так как через несколько месяцев или год их можно будет реализовать быстрее и лучше, или же окажется, что сами эти задачи должны выглядеть и пониматься совсем иначе.

Я пока не до конца уверен в этой эвристике, но она выглядит всё более правдоподобной.

Привет!

Несколько человек спросили меня об интенсиве по Кокорину. Эти вопросы и запросы приводят меня в восторг! Кроме вопросов о датах интенсива, был вопрос об учебнике по технике Кокорина. Тут я готов уже разрыдаться от счастья.

Ну, что ж. Работа над учебником идёт: мы уже редактируем текст. Я об этом расскажу подробно. Нам предстоит ещё проконсультироваться с экспертами и мы готовы. Уф!

А пока анонс:

16-19 февраля, с 11 до 18 интенсив по Кокорину.

@ag_luthien

Магический идеализм и реализм воображения

«Мы полагаем, что именно в своём предельном выражении он [идеализм] раскрывает свою подлинную ценность. Это предельное выражение мы находим в магическом идеализме Новалиса, истоки же этого романтического идеализма надлежит искать в алхимической философии и у некоторых мыслителей Средних веков, таких как Альберт Великий. Подобный идеализм предполагает, если можно так выразиться, порождение идей или величественных образов в сокровенных глубинах воображения - образов, которые впоследствии начинают мыслиться как принадлежащие Богу или Природе. [Уильям] Джеймс и [Анри] Бергсон показали, как доведённый до предела идеализм и столь же предельный реализм могут смыкаться друг с другом».

— Жан Валь (1888-1974), «Опыт и трансценденция, или Онтологическое путешествие». Привожу по Jean Wahl. Transcendence and the Concrete: Selected Writings. Fordham University Press, 2017.

Наконец я снова чувствую, что мой Господь меня любит и оберегает, а значит можно констатировать, что эта ночь души закончилась, - и честно говоря, это произошло во всех смыслах очень вовремя.

Так что в ближайшее время ожидайте много активностей.

Потрясающий кейс: меня тут заинтересовали публикации одной учёной, Марины Кортес (Marina Cortes), и немного узнав про неё ей самой я впечатлился даже больше, чем её исследованиями.

Профессиональная балерина, переключившаяся на астрофизику в 25 лет, впрочем иногда продолжающая заниматься хореографией. В астрофизике стала фокусироваться на самых фундаментальных проблемах космологии, вроде природы времени (эти её работы отмечены Buchalter Cosmology Prize), и за минувшие годы успела поработать в самых знаковых научных центрах мира, включая Беркли и Периметр.

Параллельно она на элитном уровне занимается альпинизмом, испытывая особый интерес к восхождениям на восьмитысячники с минимальным кислородом, а на восхождения попроще берёт мужа и детей. И она всё это отлично совмещает - на Ютубе можно найти видео, где она делает онлайн-презентацию своих новых исследований прямо из базового лагеря Эвереста.

«Различие между scientia (философией как "наукой") и sapientia (мудростью) носит опытный характер. Это различие проживается, чувствуется, претерпевается, ощущается на вкус, однако его невозможно уловить с помощью категорий и методического инструментария современной логики или научного наблюдения. Мудрость нельзя создать или произвести так, как мы создаём определения, аргументы, планы или методы. Страстная приверженность строжайшим формам философской практики может сделать нас мудрее, даже если она еще не вылилась в собственную завершенную теорию. Мудрость не тождественна абсолютной Wissenschaft [системе знания] как целостному продукту, ибо мудрость не изготавливается, а произрастает. Как и любой рост, её присутствие ускользает от нашей воли и наших усилий. Мы можем осознать, что стали мудрее, чем были в начале своего философского пути, но в этом осознании всегда присутствует момент изумления, и трудно объяснить, чему именно мы научились.

Мудрость в философии можно сравнить с мастерством, обретаемым (завоеванным-и-дарованным) великими пианистами, композиторами, художниками, поварами, плотниками, теннисистами, танцорами и так далее. Даже если рецепт величия - это девяносто восемь процентов пота и два процента вдохновения, последние не просто необходимы, но имеют решающее значение... Когда осознание возросшей мудрости застаёт нас врасплох, мы не можем сказать, в какой именно момент мы продвинулись вперёд и какая прибавка к нашему прежнему знанию составила этот прогресс. Теперь мы более искушены в мышлении, чем раньше: мы чувствуем себя увереннее, ибо знаем, как подступиться к проблемам (по крайней мере, к некоторым из них). Мы ощущаем, что задачи нам по плечу, а наши критерии совершенства изменились - они стали не менее строгими, но иными, чем те, что сформулированы в учебниках по логике и методологии. Мы хотим, чтобы философия была интереснее и лучше, чем просто правильной: не только строгой, но и экзистенциально значимой, вдохновляющей, прекрасной, блистательно истинной».

— Adriaan T. Peperzak. Thinking: From Solitude to Dialogue and Contemplation. Fordham University Press, 2006. P. 120-121.

Важное: Карпати о текущем моменте

Он пишет в первую очередь о своёй сфере, но это верно - или очень скоро станет верно - для всех типов когнитивных задач.

«Несколько случайных заметок после того, как я довольно много кодил с Claude в последние недели.

Рабочий вокрфлоу... сейчас я действительно программирую по большей части на английском языке, несколько смущенно объясняя LLM словами, какой код нужно написать. Это немного бьёт по эго, но возможность управлять софтом через масштабные операции с кодом даёт слишком большой суммарный выигрыш в пользе... Это, пожалуй, самое большое изменение в моем базовом рабочем процессе за примерно двадцать лет программирования, и оно произошло всего за пару недель. Я ожидаю, что нечто подобное сейчас происходит у двузначного в процентах количества инженеров, в то время как осознание этого в широких массах, кажется, всё ещё находится на уровне низких однозначных процентов...

Упорство. Очень интересно наблюдать, как агент без устали работает над чем-то. Они никогда не устают, у них не падает моральный дух, они просто продолжают пробовать варианты там, где человек давно бы сдался и отложил до завтра. Это такой момент "ощущения AGI", смотреть, как он долго бьётся над задачей, чтобы выйти победителем тридцать минут спустя. Ты понимаешь, что выносливость - это главное узкое место в работе, и с LLM под рукой она кардинально увеличилась.

Ускорение. Не совсем понятно, как измерить "ускорение" от помощи LLM. Безусловно, я чувствую, что в целом делаю то, что собирался, намного быстрее. Но главный эффект в том, что я делаю гораздо больше, чем собирался, потому что: 1) я могу накодить кучу вещей, на которые раньше просто не стоило бы тратить время, и 2) я могу браться за код, с которым раньше не мог работать из-за нехватки знаний или проблем с навыками. Так что это, безусловно, ускорение, но, возможно, в гораздо большей степени - расширение возможностей.

Рычаг. LLM исключительно хороши в работе в цикле до тех пор, пока не достигнут конкретных целей, и именно здесь кроется большая часть магии "ощущения AGI". Не говорите ему, что делать, дайте ему критерии успеха и смотрите, как он работает. Заставьте его сначала написать тесты, а потом пройти их... Смените подход с императивного на декларативный, чтобы агенты крутились в циклах дольше, и вы получите больше рычагов влияния.

Удовольствие. Я не ожидал, что с агентами программирование станет более увлекательным, потому что уходит много нудной работы по "заполнению пробелов", а остаётся творческая часть. Я также чувствую, что реже застреваю или туплю (что совсем не весело), и ощущаю гораздо больше смелости, потому что почти всегда есть способ работать с моделью рука об руку, чтобы добиться хоть какого-то прогресса. Я встречал и противоположное мнение: кодинг с LLM разделит инженеров на тех, кто в первую очередь любил процесс написания кода, и тех, кто любил создавать продукты.

Вопросы. Несколько вопросов, которые меня занимают:
* Что станет с "10X-инженером" - соотношением продуктивности между средним и топовым специалистом? Вполне возможно, что этот разрыв вырастет очень сильно.
* Вооружившись LLM, начнут ли полиматы (generalists) всё чаще превосходить узких специалистов? LLM намного лучше справляются с заполнением пробелов (микро-уровень), чем с глобальной стратегией (макро-уровень).
* Каково будет кодить с LLM в будущем? Это как играть в StarCraft? В Factorio? Или как играть музыку?
* Насколько сильно наше общество ограничено скоростью цифрового интеллектуального труда?

TLDR. Где мы находимся? Агентские возможности LLM (особенно Claude и Codex) перешагнули некий порог когерентности примерно в декабре 2025-го и вызвали фазовый сдвиг в разработке ПО и смежных областях. Интеллектуальная часть внезапно ощущается значительно опережающей всё остальное - интеграции (инструменты, знания), необходимость в новых организационных процессах, диффузию технологий в целом. 2026-й будет годом высокой энергии, пока индустрия будет переваривать эти новые возможности».

(выдержки из его вчерашнего поста в Твиттере / X)

Если вы изучаете новый язык, можете взять любой текст на этом языке и попросить ИИ переписать его в соответствии с комфортным (точнее соответствующим зоне ближайшего развития) уровнем.

Достаточно ограничиться коротким промтом, в нескольких словах объясняющим вашу цель и уровень, на котором уже готовы читать, но лучше будет подготовить более подробную инструкцию - например, если владение языком неровное (скажем, бизнес-лексика на высоте, а художественный и академический вокабуляр слабее) об этом тоже можно упомянуть, или попросить указывать в скобках транскрипцию сложных слов (что актуально для языков с глубокой орфографией, вроде французского).

Можно пойти ещё более творческим путём и попросить переписать текст (причём это может быть текст любого жанра, от энциклопедической статьи до сайенс-фикшена), делая акцент на лексике из той ниши, которая для вас сейчас приоритетна. Или, если вы ведёте список слов / выражений / правил языка, которые вызывают трудности, прикрепить его и попросить ИИ чаще использовать именно их.

Это же всё можно адаптировать для аудио-версий, благодаря text-to-speech моделям.

Почему Космос - это «царство смыслов»

Очень часто, - в наше время это можно назвать позицией по умолчанию, - мир представляется чем-то вроде пирамиды, где основанием является физический уровень, над которым существует гораздо меньшая надстройка из биосферы, а уровнем выше находится ещё меньшая, почти исчезающе малая надстройка в виде человечества, обладающего сложным сознанием и культурой.

Но это ошибка оптики, возникающая из-за чрезмерной экстраполяции некоторых теоретических моделей ранней современной науки. При более целостном (и целостный здесь означает не «мистический», а просто учитывающий больше нюансов) взгляде ситуация оказывается совершенно иной. Каждый следующий уровень - это новое онтологическое пространство, бесконечно превосходящее по богатству и обширности предыдущее [1].

Например, даже на языке чисто эмпирического моделирования, предел сложности, т.е. количество состояний физической реальности оценивается сегодня в exp(10^124) ≈ 10^10^120, т.е. в десять в степени двадцать четыре в степени десять, тогда как для биосферы оценка предела сложности составляет 10^10^237, иными словами - пространство возможностей биосферы в любом осязаемом смысле бесконечно (в квадриллионы квадриллионов квадриллионов квадриллионов и так много много много много раз) больше, чем пространство возможного в чисто физической Вселенной [2]. Настолько больше, что сравнение даже с использованием астрономических образов (песчинка и Солнце и т.п.) близко не отразит масштаба различий.

Однако, мы можем пойти дальше и утверждать, что «царство смыслов» - пространство сознания, находящее своё воплощение в человеческой культуре [4], столь же, почти бесконечно, обширнее исключительно биологического пространства [5], и имеет, во всяком случае потенциально, неограниченное количество степеней свободы. А это значит, и это не будет преувеличением, что Космос почти целиком состоит из «царства смыслов» - если взять всё «множество возможного», то 99,999...% этого множества будет принадлежать к нему [6]. Поэтому верно, что история одного человека объёмнее, чем история всей Вселенной, и что человек не капля в океане, а океан в капле. Поэтому вопрос о бытии - это вопрос о человеке, поэтому развитие культуры, «заботящейся о душе», культуры чуткости и внимания друг к другу, должно стать императивом, и поэтому же даже самые малые, тривиальные и будто бы случайные из наших мыслей, желаний и отношений имеют колоссальное значение.

Примечания

[1] Я здесь не касаюсь статуса физических наук и того, насколько обосновано допущение, что физические теории сообщают факты о реальности, для классических обсуждений см. Bas C. van Fraassen. The Scientific Image. Oxford University Press, 1980; Nancy Cartwright. How the Laws of Physics Lie. Oxford University Press, 1983.

[2] Marina Cortes, Stuart A. Kauffman, Andrew R. Liddle, Lee Smolin. Biocosmology: Towards The Birth of A New Science. arXiv:2204.09378v3; см. также Stuart A. Kauffman. A World Beyond Physics: The Emergence and Evolution of Life. Oxford University Press, 2019.

[3] Здесь уместно поразмышлять об аргументе размерности (dimensionsargument) Франца фон Кучеры, аналитически демонстрирующем, что множество ментального обязательно больше множества физического, см. Franz von Kutschera. Der weite Horizont der Philosophie. Brill | mentis, 2022. Также в этом контексте интересны аргументы Питера Унгера о множественной реализуемости, см. Peter Unger. All the Power in the World. Oxford University Press, 2006.

[4] Непревзойдённым введением в это пространство остаётся «Философия символических форм» Эрнста Кассирера, а также сочинения Оуэна Барфилда и Жана Гебсера.

[5] Хотя стоит сказать, что биосфера, лишённая сознания, телеономии и смысла - это не более, чем артефакт той же некорректной экстраполяции, что и представление о примате и даже простом существовании чисто физической Вселенной, см. Gregory Rupik. Remapping Biology with Goethe, Schelling, and Herder: Romanticizing Evolution. Routledge, 2024.