Самосовершенствующийся ИИ (почти) здесь

Ребята из Sakana AI, самой кавайной среди ведущих ИИ-лабораторий, вместе с партнёрами разработали новый инструмент, который назвали машина Дарвина-Гёделя (Darwin Gödel Machine). Это работающий пример ИИ, способного к самосовершенствования, хотя пока и ограниченного задачами кодирования. Причём они сделали это очень простым и умным способом.

В классическом подходе к созданию машины Гёделя, предложенным Юргеном Шмидхубером, ИИ должен был математически доказывать пользу каждого вносимого изменения, что пока оказалось нереализуемо на практике. К этому подходу в Sakana добавили эмпирическую ориентацию и эволюционную эвристику, имитирующую развитие эволюционного древа и естественный отбор.

По сути, выглядит так:

* Исходная версия DGM задействует одну из фронтирных моделей для анализа своего кода и разработке предложений по его улучшению.
* На основе этих предложений DGM создаёт своего эволюционного потомка.
* Этот потомок проходит тесты на бенчмарках, т.е. речь идёт об эмпирической, а не математической (как у Шмидхубера) проверке полезности изменений.
* Но, здесь нюанс, все потомки — включая тех, которые не показали себя лучше исходной версии — добавляются в архив, по сути, в разрастающееся эволюционное древо.
* Выбор версии DGM, на основе которой создаётся следующее поколение потомков, происходит по всему эволюционному древу.

Последнее очень важно, поскольку позволяется избегать ловушки локального оптимума, исследовать различные эволюционные пути и открывать неочевидные конвергенции спустя много поколений модели.

В их экспериментах модель таким образом улучшила свои показатели в бенчмарках SWE-bench с 20% до 50% и Polyglot с 14% до 31%, что очень впечатляет. Плюс, такая эволюционная оптимизация оказалась генерализируемой, решения найденные для работы с одним ИИ демонстрируют эффективность и при взаимодействии с другими.

Репорт по ссылке, код на GitHub'е.

Сейчас записал классное видео о религии и науке (уже загружается) и в качестве небольшого отступления отрефлексировал вот какую вещь — разницу в феноменологии между явлениями преимущественно биохимического и тонкоэнергетического контура.

Сегодня я спонтанно оказался в состоянии, напоминающем третью джхану, но в очень выраженном тонкоэнергетическом плане: это был опыт сильно отличающийся и от созерцательных переживаний, и от экстатических и тем более физически индуцированных состояний. Я могу это описать как волну тепла, но обладающую не температурой (но при этом теплом), а мягким энергетическим потенциалом, который возникая в теле растапливает блоки и несёт в себе сильный эмоциональный заряд. Очень светлое и ненасильственное взаимодействие, из которого создается переживание яркого счастья. Замечательное переживание, попробую с ним ещё поработать сегодня.

Религия и науки: исторический обзор

Пятнадцатое видео и некоторые темы, как их выделил ИИ:

1. Понятия «наука» и «религия» не статичны. Их современные значения и сам «конфликт» между ними – результат длительного процесса, оформившегося лишь в XIX веке как часть тогдашних культурных войн.

2. Научное познание мира – относительно молодое явление. Религиозное же осмысление реальности сопровождает человечество, возможно, с момента возникновения самосознания.

3. Гипотеза Питера Харрисона: научная методология, с её акцентом на строгие методы и эксперименты, могла возникнуть как ответ на когнитивные последствия грехопадения, заставившие искать обходные пути для несовершенного познания.

4. Христианское «расколдовывание мира» – гипотеза, объясняющая возникновение науки в Европе. Вера в разумного Творца и интеллигибельность (познаваемость) Его творения человеческим разумом могла стать одной из ключевых предпосылок.

5. Хотя прикладные знания (техне) развивались везде, наука как уникальный способ познания мира зародилась в Западной Европе в раннее Новое время, что не умаляет вклада других культур.

6. «Чёрная легенда» о «тёмных веках» и подавлении науки религией – устаревший и неточный нарратив. Историки видят гораздо более нюансированное взаимодействие с разными формами и исходами.

7. Ренессанс (переоткрытие античности, новые перспективы) и Реформация (плюрализм мнений, личная ответственность в вопросах веры) стали ключевыми интеллектуальными сдвигами, подготовившими почву для научной революции.

8. Реформация, породив множество «истин» и подорвав единый авторитет, непреднамеренно запустила секуляризацию, создав запрос на нейтральное пространство для мирного сосуществования разных мировоззрений.

9. Средневековые университеты, с их автономией, преданностью интеллектуальному поиску и формированием учебных программ, создали необходимый институциональный задел для последующих культурных и научных прорывов.

10. Ранние деятели научной революции были глубоко верующими. Однако их фокус на механизмах мира способствовал распространению деизма – упрощенного представления о Боге как «конструкторе Вселенной».

11. Истинный конфликт возникает не с классическим богословием, где Бог – не причина среди причин, а основание самой возможности причинности, но с некоторыми более поздними моделями, в которых Бог конкурирует с научными объяснениями.

12. Для некоторых религий историко-критический анализ священных текстов и преданий в XIX веке стал более серьезным вызовом, чем открытия естественных наук, поскольку затронул самые основы их исторического самопонимания и достоверности.

https://www.youtube.com/watch?v=1Woez3j7q5k

«Наука сложности, возможно, является первой современной наукой, которая преодолевает дисциплинарные границы. Явления, которые она исследует, а также модели и теории, которые она использует, свободно перемещаются между различными областями знания...

Целостная природа науки сложности соответствует взаимосвязанному характеру современного мира. Наука сложности будет необходима для всех будущих проектов, направленных на то, чтобы избежать окончательного планетарного упадка».

Из «The Complex world: An introduction to the foundations of complexity science» (Santa Fe Institute Press, 2024) Дэвида Кракауэра, президента Института Санта Фе, ведущего мирового центра исследований природы и поведения сложных систем.

Обратите внимание, в конце июня начинается новая лаба от AI Mindset ↑↑↑. Это один из лучших интенсивов для погружения в ИИ, доступных на русском языке.

Сегодня в 20:00 по Москве проведём здесь эфир с моим другом интегральным психологом и lifelong-исследователем духовных традиций Дмитрием Лепешевым (а вот и его канал) о том, что всё связано и том как феномен взаимосвязанности раскрывается в современной науке, философских учениях и различных школах духовного поиска. А главное — обсудим значение всеобщей взаимосвязанности для преодоления кризиса одиночества, объективации и других недугов нашего времени.

Роб Харди о том, почему всем нужны манифесты

1. Истории, которые мы рассказываем о себе, других и мире, становятся самосбывающимися пророчествами.

2. Слишком многие из нас строят жизни, компании, будущее на зыбучих песках историй, которые больше нам не служат.

3. Самый глубокий дар человечества — не сырой интеллект, а наша способность мечтать, говорить и проживать новые истории.

4. Написание манифеста выкорчевывает старые истории и сажает семена новых нарративов, способных вернуть нас к жизни.

5. Выбор жить в новой истории, пусть даже несовершенно, — самое смелое, на что способен человек.

(исходный твит на английском)

Роб Харди — один из лучших специалистов по письменному сторителлингу в tpot, фокусирующий на написании манифестов для экспериментальных социальных и бизнес проектов (сабстак, твиттер).

Проект «Roots of Progress» ищет авторов для серии «Век интеллекта» — цикла статей / постов, посвящённых будущему влиянию ИИ на общество, от науки и образования до дейтинга и производства. Подробности здесь. Объём — 2,5-3 тысячи слов, платят $2 за слово, т.е. 5-6 тысяч долларов за пост / статью. Спонсирует это замечательное начинание OpenAI.

Я рекомендую обратить внимание на «Roots of Progress», это прекрасный пример того, как личный блог по интересам превращается в экспериментальную исследовательскую организацию и влиятельное нишевое медиа с огромным импактом.

«Империя ИИ»

Добрался до книги Карен Хао «Империя ИИ: мечты и кошмары в OpenAI Сэма Альтмана», книга вышла 20 мая и уже стала одной из наиболее обсуждаемых книг об ИИ этого года. Это и не удивительно, учитывая, что Хао совершенно блестящий журналист с беспрецедентным доступом к инсайдерской информации, а книга посвящена самому драматичному моменту в недавней истории ИИ — попытке отстранить Альтмана от руководства OpenAI в ноябре 2023, тому, как до этого дошло, и что означал провал этой попытки для будущего компании и всей индустрии (да и для самого искусственного интеллекта).

Хао очень критична к Альтману и явно сочувствует его оппонентам, как внутри компании, так и во вне. Хао выделяет три изначальных клана-фракции в OpenAI: хардкорные экспериментаторы (лидер — Суцкевер), сторонники безопасности (лидер — Амодей) и стартаперы (лидер — Брокман), и утверждает, что Альтман не просто пытался не всегда удачно балансировать между ними, а активно манипулировал всеми (например, говорил каждой фракции разные вещи), чтобы сконцентрировать максимум власти. История OpenAI, как её рассказывает Хао, это история эволюции в сторону всё большей закрытости, коммерциализации, и личного триумфа одного человека ценой отказа от изначально заявленных ценностей и миссии компании.

Опять же, Хао блестящий журналист и в том, что касается выуживания информации, реконструкции закулисной истории и создания повествования она очень сильна, но выступая в роли (в широком смысле) критического теоретика и морализатора она становится предсказуема и банальна — вещи, которые уже были написаны (в том числе и ей) тысячи раз: экологический след, цифровой колониализм, аутсорсинг маркировки данных низкооплачиваемым работникам в развивающихся странах, алгоритмическая предвзятость — весь набор клише. С учётом этого, закономерно, что и всю программу создания трансформативного искусственного интеллекта она считает лишь уловкой, риторическим приёмом, призванным помочь Альтману и другим ключевым игрокам заполучить больше денег и власти.

Поэтому, впечатление от книги двоякое: значительная её часть — это очень хорошая журналистская работа, действительно полезная для понимания индустрии, текущей расстановки сил и того как ведутся дела, но другая — не очень глубокая и несбалансированная критика, с явным поиском того, к чему ещё можно придраться. Что важнее, Хао будто бы игнорирует вариант, что ИИ может оказаться больше чем ширмой, что Альтман в главном может быть искренен, а дальнейшие достижения OpenAI и других лабораторий окажутся такими, на которые они рассчитывают, — и тогда, если принять такой вариант хотя бы в качестве гипотезы, картина становится совсем иной.

Karen Hao. Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI. Penguin Press, 2025.

Очень устал я от своей нейроразнообразности — в прошлом году казалось, что мне удалось достичь внутреннего элайнмента, о чём я довольно много писал. И это будто бы работало — полтора года без серьёзных сбоев и это даже без фармакологии. Но очевидно я слишком расслабился и не заметил вовремя некоторые нехорошие процессы, усиливающиеся в моей голове в последние месяцы, что в итоге привело к весьма непростым ментальным, парасимпатическим и физическим состояниям в минувшие пять-шесть недель.

Не знаю, стоит ли писать об этом подробнее, но в целом всё это меня сильно расстроило и, выражаясь аккуратно, нарушило много важных и ценных для меня процессов. Так или иначе, будем считать, что отпуск окончен, и время попробовать вернуться к ежедневной трансляции.

Люблю, обнимаю, берегите себя.

Книжные рецензии едва ли не самый любимый мной жанр и вдвойне приятно, когда появляются такие шедевры: пару дней назад в The Atlantic вышло эссе о «Колыбели для кошки» Воннегута, написанное Ноем Хоули (создателем, среди прочего, сериалов «Фарго» и «Легион»). Это что-то близкое к эталону того, каким может быть размышление о книге, через которое раскрывается жизнь автора, глобальная политика и экзистенциальная ситуация человечества. Написанное легко и даже с юмором, но без обесценивающей иронии и о максимально серьёзных вещах.

https://archive.ph/fNfIb

Есть в этом что-то невероятно магическое. Никейское кредо, читаемое на древнеанглийском языке. Тот редкий случай, когда вирусным становится нечто действительно глубокое, подлинное и метанойное.

Кредо читает Alexandra Zhirnova, скоро защищающая докторскую в Кембридже о «косметической теологии», религиозном осмыслении женской визуальной самопрезентации в Средние века.

Видео с официальных каналов Церкви Англии (churchofengland).

Уже несколько лет мне регулярно попадаются отличные публикации двух учёных (по отдельности и в соавторстве) — Яны Нестеровой и Хуберта Бух-Хансена, посвященные деросту и экологической экономике. Особенно мне нравилось то, как они обращаются к критическому реализму Роя Бхаскара и их недавний фокус на дерост-бизнесе, одном из самых сложных для осмысления и тем более воплощения вопросов в degrowth-подходах (т.е. тому, как может выглядеть и функционировать бизнес, приоритезирующий уменьшение, а не увеличение потребления и экологического воздействия).

И хотя я давно следил за работами каждого из них, только на днях узнал, что они пара, не так давно поженились и вскоре ждут ребенка. У них есть невероятно трогательный канал на YouTube о минималистической жизни, плюс они запускают zero-waste магазин в Копенгагене, и всё это помимо их продолжающейся исследовательской деятельности.

Очень люблю такие пары и такие истории. Прям душа за них радуется.

Очень важно не забывать: мир (и то, лишь частично) вырвался из абсолютной дикости совсем недавно — всего несколько поколений назад (середина XIX века) в центре Константинополя-Стамбула, одного из крупнейших городов Европы, существовал официальный рынок рабов, где да, торговали женщинами, детьми и мужчинами из разных стран. В Соединенных Штатах ситуация была не лучше, а в большинстве мест она была намного хуже.

Достижения современности ни в коем случае нельзя считать ни само-собой разумеющимися, ни безоткатными. Их надо бесконечно ценить и беречь как зеницу ока.

«В любой момент вашей жизни на вас обрушивается около четырёх миллионов сигналов. И если ваш [мозг] "рассказчик" достаточно проницателен он отбирает из них около двух тысяч для построения картины происходящего, увязывая их с уже имеющимися у вас знаниями. Таким образом, основная часть энергии вашего мозга уходит не на сбор, а на отсев информации.

Но что, если ваш фильтр немного своенравничает?

Что касается меня, мои проблемы с сенсорным восприятием не так уж и страшны. Я не выношу прикосновений к вате, меловым доскам или мелу и терпеть не могу плохую музыку, а большая её часть плохая. Главная проблема - именно плохая музыка, потому что её крутят во многих магазинах, а я просто не могу её отфильтровать. Я слышу какой-нибудь ужасный кавер на "Imagine" Джона Леннона, который никогда не должен был быть записан - будто вся аппаратура в тот момент должна была выйти из строя - и я мысленно твержу себе снова и снова, "это пройдет, это пройдет". И это никогда не проходит достаточно быстро. Для меня фоновый шум - никогда не просто фон.

Поймите, наш современный мир "настроен" так, чтобы пробиваться через фильтры нейротипичных людей».

Из книги Сола Смита «The Autistic's Guide to Self-Discovery: Flourishing as a Neurodivergent Adult» (New World Library, 2025).

Я как-то пропустил день рождения моего любимого Эдгара Морена, а ему 8 июля исполнилось 104 года. Величайший из живых французских интеллектуалов, с захватывающей судьбой, отмеченной подлинной гениальностью и непоколебимой честностью.

Ещё в совсем юном возрасте он помогал республиканцам в Испании, а во Вторую мировую участвовал во французском Сопротивлении. В двадцать пять, в 1946, опубликовал первую книгу, посвящённую состоянию послевоенной Германии. Вся дальнейшая жизнь Морена выделяется этим сочетанием экстраординарной интеллектуальной работы с культурной и политической деятельностью.

Олицетворением его проекта стала парадигма сложного мышления (pensee complexe), сформулированная им в шеститомнике «Метод» (La Methode), задуманная как ответ на кризис современности - и эпистемологический, и этический. Морен, будучи самоучкой, стал первопроходцем трансдисциплинарности и планетарного сознания, обобщая и размышляя над концепциям и данными из десятков дисциплин, от социологии и культурологии до неклассической физики и биологии.

Интересная и очень французская деталь: со своей текущей (четвёртой) женой, выдающейся учёной Сабах Абуессалам, он познакомился в восемьдесят семь лет, в 2009 году, на музыкальном фестивале, и с тех пор они неразлучны, и даже написали книгу о своём романе.

Сейчас, когда ему заметно за сто, Морен продолжает давать интервью и публиковаться, - только что, этой весной, вышла его очередная книга, «Можно ли извлечь уроки из истории?» (Y a-t-il des leçons de l'histoire?).

Совершенно удивительный человек, я открыл его для себя в 2009 и до сих пор извлекаю всё новые смыслы из его многочисленных работ.

На днях вышла новая версия Kimi, и я очень впечатлён. В бенчмарках она между новым Гроком и Claude Opus, а в тестах на способности к письму, разработанных Лехом Мазуром, сильно обошла всех остальных, — при том, что Kimi пока «не рассуждающая» модель (и как таковая лучшая в своём классе), так что после соответствующей модификации она наверняка станет ещё сильнее. Но что особенно интересно, в ней будто бы есть большая индивидуальность, на уровне вайба и вкуса она сильно отличается от остальных.

Разработана Kimi китайской лабораторией MoonshotAI, которой лишь недавно исполнилось два года. Как и DeepSeek, Kimi - открытая модель, и выложена в двух вариантах: post-trained, предназначенном для использования из коробки, и base, голой форме, позволяющей исследователям настраивать и модифицировать её под свои задачи.

Можно попробовать бесплатно на сайте, скачать на GitHub, API тоже доступен. Рекомендую к использованию.

«Не отдавайте искусственный интеллект на откуп технарям. Зачастую у них получается добиваться от ИИ нужного результата куда хуже, чем у людей с гуманитарным или социально-научным складом ума. Большие языковые модели созданы на основе гигантского корпуса человеческого самовыражения, и знание истории и потаённых уголков мировой культуры позволяет извлечь из ИИ гораздо больше» (Итан Моллик)

Хорошее замечание. Моллик — профессор Уортонской школы бизнеса и самый влиятельный в мире человек в области прикладного ИИ.

Я бы даже сказал, что те, кто глубоко погружён в философию, теологию, герменевтику и работу с сознанием могут получать наибольшую пользу от ИИ с наименьшим количеством побочных эффектов.