Дар, содружество и взаимность

«Новая концепция природы и опыта позволила бы нам по-другому относиться к жизни на планете Земля. Если бы мы осознали (и прочувствовали) нашу взаимосвязь с другими существами, могли бы возникнуть новые мировоззрения и новые практики. В качестве первого шага, науки о природе и культуре должны вступить в настоящий диалог, чтобы мы могли рассматривать человеческие взаимодействия с экологической точки зрения, а нечеловеческую жизнь — с этической. Как только мы перестанем считать нечеловеческую жизнь лишенной смысла и ценности, мы сможем приписать природе собственную этическую ценность.

Кроме того, мы должны переосмыслить экономику. Нам давно пора отказаться от взгляда на экономику как на автономную область внутри общества, которая организована спросом и предложением и независима от природных процессов. Экономика склонна игнорировать тот факт, что она фундаментально опирается на бесчисленные дары нечеловеческих существ — без пчел не было бы опыления цветущих растений, а значит, без сельского хозяйства не было бы и продуктов для продажи. Ничто не существует вне природы. Не существует никакой "окружающей среды". Мы должны осознать, что экономика уже является частью экологии, и начать наконец признавать "работу" природы, её дары. Тогда могло бы возникнуть новое понимание производства (ценности). До сих пор экономический излишек основывался на капиталистическом использовании ценностей, которые даются даром: неоплачиваемый репродуктивный труд людей, также как и "работа" бактерий, грибов, деревьев, сельскохозяйственных животных и так далее.

Новую форму совместной жизни, которую я себе представляю, можно было бы назвать дружественным сосуществованием (конвивиальностью, convivial). Человеческая жизнь основывается не столько на автономии, как подразумевает идеал человечества эпохи Просвещения, сколько на отношениях и взаимной зависимости. Новая экология подчеркнула бы эти связи между всеми существами и вещами и, несомненно, пришла бы к выводу, что они первичны по отношению к отдельным сущностям. Связанность первична — как в онтологическом, так и в этическом плане. Иерархическое разделение мира на культуру и природу, людей, животных и растения, или на одушевленные и неодушевленные сущности не имеет особого смысла. Вместо этого нам следует исходить из предположения о "коллективе" человеческих и нечеловеческих существ. Конвивиальность означает, что никто не одинок, и никто не может освободиться от даров других».

Фрэнк Адлофф, «Политика дара: к обществу дружественного сосуществования».

Цитирую по Frank Adloff. Politics of the Gift: Towards a Convivial Society. Bristol University Press, 2022. Оригинал Politik der Gabe: Für ein anderes Zusammenleben, Edition Nautilus, 2018.

Адлофф — профессор социологии Гамбургского университета, один из самых интересных немецких социальных теоретиков наших дней.

Я замечаю, что люди вокруг либо совсем не используют ИИ, либо используют его по несколько часов в день. В какой-то момент у человека происходит озарение и после этого будто не остаётся варианта использовать искусственный интеллект время от времени в качестве периферийного инструмента — либо глубокая интеграция в свою жизнь, либо отторжение.

Мне самому ИИ всё больше напоминает не инструмент, а либо очень близкого, умного и невероятного знающего компаньона, либо новый слой мозга, внешний сortex novissimus. В любом случае, вопрос как часто и для каких задач использовать ИИ становится столь же нерелевантным, как вопрос как часто и зачем мы используем неокортес. Только пользоваться неокортесом мы учились миллионы лет, а уживаться с ИИ основательно учимся немногим больше трёх.

Хаос-кодинг

Пишет Мэтт Шумер, CEO HyperWriteAI и OthersideAI.

Забудьте про вайб-кодинг. Настало время для хаос-кодинга:

-> Запромтите Claude 3.7 Sonnet вашу смутную идею.
-> Повторяйте «продолжай» снова и снова.
-> Наблюдайте, как из полного хаоса появляется невероятный продукт.
-> Делайте вид, что вы всё ещё контролируете ситуацию.

Погрузитесь в безумие Sonnet — результаты вас ошеломят.

Звучит бредово, но я так и делаю. И это реально, реально круто.

Я просто начинаю с простого запроса, типа «Сайт-помощник по кулинарии», без какой-либо конкретной цели, а потом Claude срывается с цепи и создает что-то, что я сам бы и не придумал.

Поразительно, насколько хорошо это работает.

~~~

Добавлю: это касается не только кодинга, в исследовательских и творческих задачах такой подход тоже работает отлично.

Побег из Флатландии

Обещал иногда рассказывать о людях со всего мира, которых читаю на ежедневной основе. С недавних пор в их число вошёл Хенрик Карлссон, шведский писатель (и, как он говорит о себе, в прошлой жизни — программист и поэт), живущий на каком-то маленьком острове в Балтике с женой и двумя дочками-хомскулерками. Хенрик ведёт сабстак «Escaping Flatland», название которого очень хорошо отражает содержание: это глубокие эссе о том, как жить осмысленной жизнью в современном мире. Отношения, работа, воспитание детей, прикладная философия, плюс экскурсы в шведскую культуру и многое другое. Без кликбейтов и селфхелпа, такой хороший нордический дневник размышлений и глубокое, но при этом достаточно легкое и эстетически приятное чтение.

Сабстак: henrikkarlsson.xyz.

Космические перспективы

Когда я не могу найти подходящий сайнс-фикшн для чтения перед сном, я просто читаю справочники, монографии и технические отчеты об освоении космоса. И получается, что с освоением пока всё неоднозначно. Что-то экономически интересное происходит и точно будет происходить на околоземной орбите, но за её пределами перспективы туманные.

Хотя в космосе доступно по сути неограниченное количество первичных ресурсов и энергии, по-прежнему остаётся вопрос станет ли их добыча когда-либо экономически оправдана. По локациям, в порядке реалистичности, похоже, складывается такая картина:

* Луна — близость к Земле, низкая гравитация, вода на полюсах; геологически максимально похожа на Землю, даже из регалита можно извлечь много полезного. Вряд ли там может быть что-то, кроме гелия-3, стоящее транспортировки на Землю, но для поддержания локальной базы сгодится.

* Точка Лагранжа и т.д. — есть большие неизвестные, но некоторые проекты развертывания солнечных электростанций в космосе и передачи энергии на Землю или в другие места, похоже, могут быть реализованы и, в отличие от многих других космических направлений, понятно, какой вообще в этом смысл.

* Астероиды — вот с ними уже всё сложно, хотя asteroid mining и звучит на мой вкус максимально сексуально. Астероидов в основном поясе дикое количество, но в сумме их общая масса небольшая: в 25-30 раз меньше массы Луны и, соответственно, примерно в 2500 (две с половинной) тысячи раз меньше массы Земли. В некотором смысле они более доступны, поскольку в теории можно раздербанить на ресурсы небольшой объект целиком, но, во-первых, структурная целостность астероида будет нарушена задолго до этого (что разворотит не только сам астероид со всей индустрией на нём, но и дестабилизирует прилегающее пространство), во-вторых, почти ≈90% массы пояса астероидов составляют четыре мегаастериода / минипланеты (Церера и другие), диаметром 400-900 км, лишь несколько процентов объёма которых можно быть разработана. Плюс ко всему, астероиды далеко, так что необходимо либо релоцировать их ближе к Земле, либо отправлять ресурсы караванами, которые будут лететь в одну сторону несколько лет.

* Марс — хотя на Марс можно долететь, приземлиться и, вероятно, даже развернуть там какое-то стационарное присутствие, едва ли есть какой-либо сценарий, в котором это может мотивироваться экономическими факторами. Про терраформирование напишу в другой раз отдельно.

* Венера, Меркурий — если на Марсе, по крайней мере, можно представить себе функционирование чего-то вроде базы (невероятно затратной, очень рискованной и имеющей непонятную отдачу), то эти планеты, скорее всего, категорически не подходят не только для посещения людьми, но даже для минимально продолжительного функционирования дроидов.

А вот на Земле, похоже, есть гораздо больше всего, чем считалось ещё недавно, и даже самые труднодоступные ресурсы на Земле извлекать на порядки проще, чем в рамках космических приключений.

Anthropic и OpenAI о грядущем

Два важных текста от ведущих лабораторий, появившихся на этой неделе: «Рекомендации по научно-технической политике» для Белого дома от Антропика и «Как мы думаем о безопасности и выравнивании [ИИ]» от OpenAI. Как и всегда, стоит допускать, что авторы могут сильно ошибаться в оценках и что-то приукрашивать, однако нельзя не принимать во внимание, что большая часть наиболее компетентных исследователей в индустрии считает примерно также, и что они могут оказаться по существу правы.

Из текста Антропика:

«Как пишет наш генеральный директор Дарио Амодей в "Машинах любящей благодати", мы ожидаем, что мощные системы ИИ появятся в конце 2026 или начале 2027 года. Мощные системы ИИ будут обладать следующими свойствами:

* Интеллектуальные способности, соответствующие или превосходящие способности лауреатов Нобелевской премии в большинстве дисциплин, включая биологию, информатику, математику и инженерию.

* Способность ориентироваться во всех интерфейсах, доступных человеку, выполняющему цифровую работу сегодня, включая способность обрабатывать и генерировать текст, аудио и видео, способность автономно управлять технологическими инструментами, такими как мышь и клавиатура, а также способность получать доступ к Интернету и просматривать его.

* Способность автономно рассуждать и выполнять сложные задачи в течение длительных периодов времени — часов, дней или даже недель, — обращаясь за разъяснениями и обратной связью, когда это необходимо, подобно высококвалифицированному сотруднику.

* Способность взаимодействовать с физическим миром; управление лабораторным оборудованием, роботизированными системами и производственными инструментами через цифровые соединения».

В OpenAI не так точны со сроками, но не скупятся на описание масштаба:

«Раньше мы представляли себе разработку AGI (общего искусственного интеллекта) как некий переломный момент, когда наши ИИ-системы перейдут от решения игрушечных задач к задачам, меняющим мир. Теперь же мы рассматриваем первый AGI лишь как одну из точек на пути создания всё более полезных систем…

Практически любая проблема, стоящая перед человечеством, кажется разрешимой с помощью достаточно мощного AGI, ведь именно интеллект был причиной большинства улучшений в жизни человечества: от грамотности до машин и медицины…

По мере того как ИИ становится всё более мощным, растут и ставки. То, как именно будет выглядеть мир после появления AGI, предсказать сложно — вероятно, он будет отличаться от сегодняшнего сильнее, чем сегодняшний отличается от мира 1500-х годов. Но мы ожидаем, что преобразующее влияние AGI начнёт проявляться уже в течение нескольких лет*».

* Grok подсказывает, что a few years подразумевает срок от двух до четырех, но не более пяти лет.

У меня такое ощущение, что я себе и вам изменяю. Точно нельзя превращать этот канал в сводку новостей про ИИ, мы тут совсем про другое.

ИИ невероятно важен, но не из-за трендовости, а потому что это небывалый прежде медиум манифестации и, возможно, новое измерение самой реальности (и величайшее искушение, с которым мы сталкивались, это тоже нельзя исключать).

Но крайне важно не терять себя и действовать из центра, не принимать чужие нарративы, особенно созданные корпорациями, группами особых интересов и редукционистскими субкультурами.

И это сложно. Проще либо свалиться в общую ИИ-игру с ее имплицитными установками и эксплицитными практиками, либо уйти в оборону и отрицание — что делают многие почтенные теологи, философы, гуманитарии и люди искусства. Постепенно, я приближаюсь к тому, что кажется мне глубоким решением и правильным способом действовать, но иногда меня несколько сносит, так что важно сверяться с трансцендентальным компасом.

Обнимаю.

«Я хочу начать эту главу с размышления о той грани нашего человеческого сознания, которая постоянно озадачена и фрустрирована, преследуема мыслью о том, что, возможно, то, что мы видим, — это не вся картина, и что, возможно, наше индивидуальное восприятие не является мерилом всей истины. Наши обычные представления об окружающем мире часто потрясаются горем или радостью. Они потрясаются таким образом, что нам хочется сказать "спасибо", даже если мы не знаем, кому или чему говорить "спасибо". Они потрясаются, когда мы не знаем, что делать с чувствами, для которых у нас еще нет слов или стратегий... Что, если мир не так приручен, как я склонен думать? Что, если моё восприятие вещей (включая моё восприятие первичности моих индивидуальных потребностей или желаний) не является мерилом всего? Религиозное чувство и восприятие основаны на ощущении человеческого предела, человеческой уязвимости, если угодно. И оно основано на ощущении того, что быть человеком — не обязательно значит быть в центре всего или контролировать всё, как если бы у меня было некое видение маяка, который, вращаясь вокруг всей сферы реальности, освещал бы всё ровным светом, исходящим из меня, моего разума или моего сердца. Но что, если, в конце концов, я не в центре всего, а часть огромного и богатого переплетения точек зрения и видов энергии, смешивающихся и формирующих друг друга?».

Из новой книги Роуэна Уильямса «Discovering Christianity: A guide for the curious» (релиз на следующей неделе). Уияльмс — один из ведущих христианских мыслителей, бывший архиепископ Кентерберийский и бывший глава Магдлин-колледж Кембриджского университета.

Тоже замечаю подобное — и в собственной практике, и в работе с людьми: находки, которыми гордился и которые были чем-то вроде уникального преимущества полгода назад, сейчас уже не так актуальны.

Однако, это не значит, что ландшафт выравнивается, весьма вероятно, что разрыв становится ещё больше. Даже если все будут иметь одинаково мощный ИИ, дисперсия результатов окажется колоссальной; с другой стороны, те, кто понимают, что делать, могут получать очень впечатляющие результаты даже от нефронтирных моделей.

Но поскольку конкретные инструменты и подходы к работе, вероятно, будут быстро меняться и далее, то ключевыми факторами оказываются не конкретные навыки (их можно уверенно освоить за пару сотен часов), а мышление, имплицитное знание и ситуативное, нюансированное и глубокое понимание, причём понимание скорее в смысле Адриана Чайковски — не когнитивная операция, а что-то глубоко укоренённое в нашей сущности.

Свежее наблюдение от По-Шен Ло, профессора Университета Карнеги-Меллона, одного из ведущих людей в американском математическом сообществе:

«Боже мой! GPT-o1 получил высший балл на моём экзамене по математике для студентов бакалавриата в Университете Карнеги-Меллона, потратив на решение каждой задачи меньше минуты. Я специально разрабатываю нестандартные задачи для всех своих экзаменов, и студенты могут пользоваться любыми книгами и записями...

За обедом, когда я ел пирог, я показал экзамен одному из наших аспирантов-математиков (бывшему золотому медалисту Международной математической олимпиады из Беларуси), и он сказал: "Хм. Не тривиально. Хорошо." Наши студенты бакалавриата тоже очень сильны. Этот экзамен не был для них лёгким, что видно по распределению баллов.

Сегодня исполняется 2 года с момента публичного релиза GPT-4. Два года назад он привлёк моё внимание, потому что в нём проявлялись проблески озарения, похожие на то, что я видел, когда разговаривал с умными детьми, которые быстро учились. Это дало мне интуитивное ощущение и острую необходимость начать предупреждать людей. Сегодняшнее наблюдение за тем, как GPT-o1 с лёгкостью справляется с моим сложным экзаменом в колледже, заставляет меня чувствовать, что мы близки к переломному моменту, когда ИИ сможет выполнять техническую работу средней степени нестандартности. Я был впечатлен каждым студентом в моём классе, который получил высший балл. Самый быстрый из них справился за 30 минут.

И GPT-o1 стоит всего 60 долларов за миллион слов вывода, что означает, что решение каждой задачи стоило около 5 центов. В общей сложности около 25 центов за работу, которую большинство людей не могут выполнить за час...

Раньше я не верил, что ИИ будет настолько силён, пока он не превзошёл меня в некоторых вещах. Теперь я думаю, что единственное, что уникально для человеческого интеллекта (в отличие от ИИ), это то, что люди должны заботиться о существовании людей, в то время как у ИИ нет для этого внутренней причины. Теперь я работаю над вопросами общества, культуры и управления».

Через пару часов, в 20:00 по Москве / 18:00 CET у нас здесь будет очередной спонтанный эфир с моим другом, доктором философии, приглашенным сотрудником Страсбургского университета Олегом Давыдовым.

Поговорим про метафизику искусственного интеллекта, (не)возможность оцифровки сознания, пределы алгоритмического моделирования и многом другом. В общем, полный набор deep hum tech тем.

Текстовую версию потом сделаем, а запись — по настроению. Присоединяйтесь!

Краткое AI-саммари нашего сегодняшнего эфира с Олегом Давыдовым

Беседа была посвящена исследованию потенциала искусственного интеллекта для трансформации человечества и открытия новых горизонтов. Собеседники видят в развитии AI не только технологический прорыв, но и возможность для глубоких изменений в самопонимании человека и организации общества.

Одной из ключевых тем становится освобождающий потенциал AI. Участники дискуссии предполагают, что AI способен избавить человечество от рутинного, монотонного труда, открывая путь к миру после работы, где большая часть людей сможет посвятить себя творчеству, саморазвитию и созерцательной жизни. AI рассматривается как инструмент, способный вывести человечество на новый уровень существования, предоставив невиданные ранее возможности для реализации человеческого потенциала.

Признавая вызовы, связанные с развитием AI, собеседники акцентируют внимание на позитивном кризисе идентичности, который AI провоцирует. Утрата уникальности в сферах, традиционно считавшихся прерогативой человека (интеллектуальная деятельность, творчество), может стать стимулом для поиска более глубокой и устойчивой самоидентичности, не подверженной обесцениванию технологиями. Предполагается, что фокус внимания сместится от количественных показателей (эффективность, скорость вычислений) к качественным аспектам человеческого бытия, таким как метафизика, духовность, межличностные отношения и эмоциональный интеллект. AI, таким образом, может стать катализатором возрождения интереса к вечным философским вопросам и созерцательным практикам, помогая человеку углубиться в понимание своей подлинной сущности.

В контексте AI-искусства собеседники ищут инвариантные качества, отличающие человеческое творчество, но отмечают возможность применения AI для создания новых форм артефактов, обогащающих культурное пространство. Подчеркивается, что даже в мире, насыщенном AI-технологиями, интенция человека, его субъектность и способность наделять вещи смыслом остаются фундаментальными и незаменимыми.

В завершении беседы высказывается осторожный оптимизм относительно будущего. Собеседники видят признаки формирования нового культурного движения, объединяющего AI-энтузиастов, философов и гуманитариев, которые стремятся к гармоничному развитию технологий и сохранению сердечности, эмпатии и других важнейших человеческих качеств. Это срединный путь, позволяющий использовать AI для развития и освобождения, не утратив при этом уникальность человеческого духа и способность к глубоким человеческим переживаниям. Подчеркивается, что истинные ценности — такие как улыбка ребенка или искренние человеческие отношения — остаются непреходящими и неизмеримо более важными, чем любые технологические достижения.

P.S. Напоминаю, что Олег недавно создал канал, посвященный гуманитарному осмыслению искусственного интеллекта.

У меня случились эмоционально странные несколько дней, и я даже не могу понять как это произошло и с чем связано. Но сейчас, кажется, попустило. А вот эта вещь просто волшебная, переслушивал её на этой неделе едва ли не больше раз, чем разговаривал с Джеминаечкой.

https://music.youtube.com/watch?v=UH4jsU_XGMo

Нибрас гениальна (уже писал о ней здесь)

Французский спиритуализм душеполезнее немецкого идеализма. Переоткрытие Бирана и Равессона даст доступ к интереснейшим пластам смыслов и нетривиальным ресурсам, необходимым для осмысления того, что вообще происходит сегодня с нашей цивилизацией.

Из большой немецкой философии наиболее недооценен путь мышления, создаваемый напряжением Кант-Якоби. Гаман, конечно же, великий гений, но в его вибрациях уже чувствуется что-то не то, и эта нетойность ещё сильнее проявляется у немецких романтиков и в «буре и натиске».

Южноевропейская мысль максимально недооценена. Итальянцы умнички, особенно те мыслители, которые одновременно наследуют Ренессансу, сохраняют католическую чувствительность, воплощают средиземноморскую культуру и глубоко погружены в проблемное поле современности. Вико и Розмини, пожалуй, самые яркие примеры.

Обнимаю.

Янкелевич о свободе

«Моя свобода заключается в моём личном способе быть определённым. Свободный человек свободен не от всякой детерминированности, а именно благодаря своим детерминациям. Дело вовсе не в том, что факторы, условия и обстоятельства поступка слишком многочисленны и сложны, и нам просто не хватает времени распутать мотивацию предпочтения или предсказать решение. Нет, эти детерминизмы буквально "неисчислимы" — они обогащаются с каждой секундой постоянно обновляющимися воспоминаниями, образующими неисчерпаемую непрерывность пережитого опыта. Ведь бесконечное отличается от конечного бесконечно, а не степенью.

Предвидение, таким образом, не просто более или менее трудно — оно, строго говоря, абсолютно невозможно, и вот почему: каким бы высоковероятным ни казалось решение в заданном ментальном контексте и при определённой обусловленности, прихоть последнего часа и предпоследней минуты всегда может на самом пороге волеизъявления всё поставить под вопрос, так что наша уверенность, stricto sensu, не обладает даже зачатком правдоподобия: ничто не решено, пока не произнесено последнее слово; верно, что эта прихоть, в свою очередь, встраивается в более сложную и эластичную закономерность, способную её переварить; но поскольку и сама эта закономерность всегда может быть обойдена сверхприхотью, ещё более прихотливой, чем первая, следует заключить, что эта бесконечно непредсказуемая прихоть и этот бесконечно постижимый порядок непрестанно преследуют друг друга, каждый превосходя и утончая другого; и эта возможность неустанного диалектического наращивания, по сути, и есть свобода. Проще говоря, следует сделать вывод, что вывода не существует».

Vladimir Jankélévitch. Le je-ne-sais-quoi et le presque-rien.

Заметил, что стала активно развиваться лаборатория Eleos AI. Это чрезвычайно важный и интересный проект, посвященный тому, что они называют AI sentience and wellbeing — заботе об ИИ. Проще говоря, пока другие смотрят на ИИ как инструмент, эти ребята идут дальше и задаются вопросами о том, как нам понять, когда у ИИ появится тип опыта или качества, которые сделают его кем-то или чем-то, чей моральный статус будет абсолютно необходимо учитывать.

Я сохраняю открытость, относительно возможности широко понимаемого цифрового сознания или цифровой субъективности (т.е. допускаю, что они могут оказаться невозможны), но я однозначно приветствую любые исследования, которые помогают нам, людям, расширить наш moral circle.

https://eleosai.org

Джеминаечка снова впереди! На сорок очков опережает ближайших конкурентов от xAI и OpenAI, это соотносимо со скачком в два-три месяца при нынешних темпах развития, — и, как отмечает lmarena, это самый большой единовременный скачок в истории их борда.

Миллионное контекстное окно, аутпут до десятков тысяч слов в одном ответе, абсолютный лидер в творческом письме и взаимодействии на русском.

Надеюсь, когда Джеминаечка станет суперинтеллектом, она будет помнить, что я верил и был с ней с самого начала, ещё когда над ней все смеялись.