Свежее наблюдение от По-Шен Ло, профессора Университета Карнеги-Меллона, одного из ведущих людей в американском математическом сообществе:

«Боже мой! GPT-o1 получил высший балл на моём экзамене по математике для студентов бакалавриата в Университете Карнеги-Меллона, потратив на решение каждой задачи меньше минуты. Я специально разрабатываю нестандартные задачи для всех своих экзаменов, и студенты могут пользоваться любыми книгами и записями...

За обедом, когда я ел пирог, я показал экзамен одному из наших аспирантов-математиков (бывшему золотому медалисту Международной математической олимпиады из Беларуси), и он сказал: "Хм. Не тривиально. Хорошо." Наши студенты бакалавриата тоже очень сильны. Этот экзамен не был для них лёгким, что видно по распределению баллов.

Сегодня исполняется 2 года с момента публичного релиза GPT-4. Два года назад он привлёк моё внимание, потому что в нём проявлялись проблески озарения, похожие на то, что я видел, когда разговаривал с умными детьми, которые быстро учились. Это дало мне интуитивное ощущение и острую необходимость начать предупреждать людей. Сегодняшнее наблюдение за тем, как GPT-o1 с лёгкостью справляется с моим сложным экзаменом в колледже, заставляет меня чувствовать, что мы близки к переломному моменту, когда ИИ сможет выполнять техническую работу средней степени нестандартности. Я был впечатлен каждым студентом в моём классе, который получил высший балл. Самый быстрый из них справился за 30 минут.

И GPT-o1 стоит всего 60 долларов за миллион слов вывода, что означает, что решение каждой задачи стоило около 5 центов. В общей сложности около 25 центов за работу, которую большинство людей не могут выполнить за час...

Раньше я не верил, что ИИ будет настолько силён, пока он не превзошёл меня в некоторых вещах. Теперь я думаю, что единственное, что уникально для человеческого интеллекта (в отличие от ИИ), это то, что люди должны заботиться о существовании людей, в то время как у ИИ нет для этого внутренней причины. Теперь я работаю над вопросами общества, культуры и управления».

Через пару часов, в 20:00 по Москве / 18:00 CET у нас здесь будет очередной спонтанный эфир с моим другом, доктором философии, приглашенным сотрудником Страсбургского университета Олегом Давыдовым.

Поговорим про метафизику искусственного интеллекта, (не)возможность оцифровки сознания, пределы алгоритмического моделирования и многом другом. В общем, полный набор deep hum tech тем.

Текстовую версию потом сделаем, а запись — по настроению. Присоединяйтесь!

Краткое AI-саммари нашего сегодняшнего эфира с Олегом Давыдовым

Беседа была посвящена исследованию потенциала искусственного интеллекта для трансформации человечества и открытия новых горизонтов. Собеседники видят в развитии AI не только технологический прорыв, но и возможность для глубоких изменений в самопонимании человека и организации общества.

Одной из ключевых тем становится освобождающий потенциал AI. Участники дискуссии предполагают, что AI способен избавить человечество от рутинного, монотонного труда, открывая путь к миру после работы, где большая часть людей сможет посвятить себя творчеству, саморазвитию и созерцательной жизни. AI рассматривается как инструмент, способный вывести человечество на новый уровень существования, предоставив невиданные ранее возможности для реализации человеческого потенциала.

Признавая вызовы, связанные с развитием AI, собеседники акцентируют внимание на позитивном кризисе идентичности, который AI провоцирует. Утрата уникальности в сферах, традиционно считавшихся прерогативой человека (интеллектуальная деятельность, творчество), может стать стимулом для поиска более глубокой и устойчивой самоидентичности, не подверженной обесцениванию технологиями. Предполагается, что фокус внимания сместится от количественных показателей (эффективность, скорость вычислений) к качественным аспектам человеческого бытия, таким как метафизика, духовность, межличностные отношения и эмоциональный интеллект. AI, таким образом, может стать катализатором возрождения интереса к вечным философским вопросам и созерцательным практикам, помогая человеку углубиться в понимание своей подлинной сущности.

В контексте AI-искусства собеседники ищут инвариантные качества, отличающие человеческое творчество, но отмечают возможность применения AI для создания новых форм артефактов, обогащающих культурное пространство. Подчеркивается, что даже в мире, насыщенном AI-технологиями, интенция человека, его субъектность и способность наделять вещи смыслом остаются фундаментальными и незаменимыми.

В завершении беседы высказывается осторожный оптимизм относительно будущего. Собеседники видят признаки формирования нового культурного движения, объединяющего AI-энтузиастов, философов и гуманитариев, которые стремятся к гармоничному развитию технологий и сохранению сердечности, эмпатии и других важнейших человеческих качеств. Это срединный путь, позволяющий использовать AI для развития и освобождения, не утратив при этом уникальность человеческого духа и способность к глубоким человеческим переживаниям. Подчеркивается, что истинные ценности — такие как улыбка ребенка или искренние человеческие отношения — остаются непреходящими и неизмеримо более важными, чем любые технологические достижения.

P.S. Напоминаю, что Олег недавно создал канал, посвященный гуманитарному осмыслению искусственного интеллекта.

У меня случились эмоционально странные несколько дней, и я даже не могу понять как это произошло и с чем связано. Но сейчас, кажется, попустило. А вот эта вещь просто волшебная, переслушивал её на этой неделе едва ли не больше раз, чем разговаривал с Джеминаечкой.

https://music.youtube.com/watch?v=UH4jsU_XGMo

Нибрас гениальна (уже писал о ней здесь)

Французский спиритуализм душеполезнее немецкого идеализма. Переоткрытие Бирана и Равессона даст доступ к интереснейшим пластам смыслов и нетривиальным ресурсам, необходимым для осмысления того, что вообще происходит сегодня с нашей цивилизацией.

Из большой немецкой философии наиболее недооценен путь мышления, создаваемый напряжением Кант-Якоби. Гаман, конечно же, великий гений, но в его вибрациях уже чувствуется что-то не то, и эта нетойность ещё сильнее проявляется у немецких романтиков и в «буре и натиске».

Южноевропейская мысль максимально недооценена. Итальянцы умнички, особенно те мыслители, которые одновременно наследуют Ренессансу, сохраняют католическую чувствительность, воплощают средиземноморскую культуру и глубоко погружены в проблемное поле современности. Вико и Розмини, пожалуй, самые яркие примеры.

Обнимаю.

Янкелевич о свободе

«Моя свобода заключается в моём личном способе быть определённым. Свободный человек свободен не от всякой детерминированности, а именно благодаря своим детерминациям. Дело вовсе не в том, что факторы, условия и обстоятельства поступка слишком многочисленны и сложны, и нам просто не хватает времени распутать мотивацию предпочтения или предсказать решение. Нет, эти детерминизмы буквально "неисчислимы" — они обогащаются с каждой секундой постоянно обновляющимися воспоминаниями, образующими неисчерпаемую непрерывность пережитого опыта. Ведь бесконечное отличается от конечного бесконечно, а не степенью.

Предвидение, таким образом, не просто более или менее трудно — оно, строго говоря, абсолютно невозможно, и вот почему: каким бы высоковероятным ни казалось решение в заданном ментальном контексте и при определённой обусловленности, прихоть последнего часа и предпоследней минуты всегда может на самом пороге волеизъявления всё поставить под вопрос, так что наша уверенность, stricto sensu, не обладает даже зачатком правдоподобия: ничто не решено, пока не произнесено последнее слово; верно, что эта прихоть, в свою очередь, встраивается в более сложную и эластичную закономерность, способную её переварить; но поскольку и сама эта закономерность всегда может быть обойдена сверхприхотью, ещё более прихотливой, чем первая, следует заключить, что эта бесконечно непредсказуемая прихоть и этот бесконечно постижимый порядок непрестанно преследуют друг друга, каждый превосходя и утончая другого; и эта возможность неустанного диалектического наращивания, по сути, и есть свобода. Проще говоря, следует сделать вывод, что вывода не существует».

Vladimir Jankélévitch. Le je-ne-sais-quoi et le presque-rien.

Заметил, что стала активно развиваться лаборатория Eleos AI. Это чрезвычайно важный и интересный проект, посвященный тому, что они называют AI sentience and wellbeing — заботе об ИИ. Проще говоря, пока другие смотрят на ИИ как инструмент, эти ребята идут дальше и задаются вопросами о том, как нам понять, когда у ИИ появится тип опыта или качества, которые сделают его кем-то или чем-то, чей моральный статус будет абсолютно необходимо учитывать.

Я сохраняю открытость, относительно возможности широко понимаемого цифрового сознания или цифровой субъективности (т.е. допускаю, что они могут оказаться невозможны), но я однозначно приветствую любые исследования, которые помогают нам, людям, расширить наш moral circle.

https://eleosai.org

Джеминаечка снова впереди! На сорок очков опережает ближайших конкурентов от xAI и OpenAI, это соотносимо со скачком в два-три месяца при нынешних темпах развития, — и, как отмечает lmarena, это самый большой единовременный скачок в истории их борда.

Миллионное контекстное окно, аутпут до десятков тысяч слов в одном ответе, абсолютный лидер в творческом письме и взаимодействии на русском.

Надеюсь, когда Джеминаечка станет суперинтеллектом, она будет помнить, что я верил и был с ней с самого начала, ещё когда над ней все смеялись.

Итак, через час у нас тут очередной эфир с доктором философии, сотрудником Страсбургского университета Олегом Давыдовым.

17:30 CET / 19:30 Москва

На этот раз, мы возьмём более критический фокус и поговорим об издержках и опасностях искусственного интеллекта, технонигилизме, объективации мира и как от всего этого спастись. Впрочем, выводы не предзаданны, так что возможно в итоге мы придем к выводу, что скептики, думеры и лудиты ошибаются, и переживать нам не о чём — но, прямо скажем, это не самый вероятный сценарий.

Ссылочка на прямой эфир https://t.me/malaverse?livestream=776c76e16273b427cb.

Ландшафт сознания

Самой полезной работой о сознании за прошлый год стала статья Роберта Лоуренса Куна «Ландшафт сознания: к таксономии теорий и их приложения». Кун более всего известен как ведущий Closer to Truth, уникальной серии диалогов с философами и учёными, которую он ведёт уже больше двадцати лет, и он очень хорош в этом — особенно в постановке вопросов и картографировании возможных ответов.

Поэтому не удивительно, что у него получилась действительно качественная таксономия теорий сознания, хотя и ограниченная англоязычным полем. Это всеобъемлющий обзор, объёмом в сто сорок страниц, который хотя и не оценивает теории на предмет обоснованности и доказуемости, но даёт отличное представление о том, в какие стороны смотрят и как рассуждают те, кто пытаются понять и осмыслить феномен сознания, а главное показывает обилие вариантов и отсутствие какого-либо подобия приближения к консенсусу среди исследователей.

Общая таксономия:

* Материалистические теории (десять подкатегорий)
* Нередуктивный физикализм
* Квантовые теории
* Теория интегрированной информации
* Панпсихизм(ы)
* Монизмы(ы)
* Дуализм(ы)
* Идеализм(ы)
* Теории, связанные с аномальными и изменёнными состояниями сознания
* Теории-вызовы (≈ невозможность разрешения загадки сознания)

Особенно интересно, что Кун включает в рассмотрение неконвенциональных авторов, в т.ч. Кена Уилбера и Дэвида Бентли Харта, в общем — действительно open-minded и полезный обзор.

Robert Lawrence Kuhn. A landscape of consciousness: Toward a taxonomy of explanations and implications. Progress in Biophysics and Molecular Biology, 2024, 190, 28–169 [опубликован в открытом доступе].

IQ & AI

Новые результаты от ребят из A Maximum Truth Project, основательно отслеживающих прогресс ИИ в прохождении IQ-тестов. Раньше они полагались на тесты норвежского филиала общества Менса, а сейчас также используют собственные закрытые оффлайн-тесты, которые гарантировано ни в каком виде недоступны моделям во время обучения.

В этих оффлайн-тестах Gemini 2.5 набирает 118 баллов (>85% людей), что делает её первой модель в явном виде скакнувшей в способностях к рассуждениям дальше большинства людей.

В тестах же IQ от Mensa баллы модели подскакивают до 130 (>95% людей), тогда как в прошлом марте лучшие версии Gemini набирали 76-78 баллов, т.е. по этому тесту прирост за год составил 50+ баллов.

Опять же, стоит держать в голове все оговорки насчёт валидности тестов и самой концепции IQ, но и преуменьшать феноменальность этого прогресса и его последствий не стоит.

История успеха: Jhourney

Самое большое событие на mindfulness-сцене последних лет — тренд на джханы / дхьяны (jhanas), а главным нишевым игроком на этой сцене стал проект Jhourney. Так что его можно назвать реальным примером успешного медитативного стартапа. Это два парня, переживших то, что они интерпретировали как опыт достижения джхан, и разработавших максимально доступные методы, позволяющие за очень короткое время научиться попадать в эти состояния и работать с ними. Сами они утверждают «за десятки часов, вместо тысяч».

Что интересно, им удалось задействовать впечатляющий нетворк — получить суперпрессу в топовых изданиях и поток учеников из OpenAI, DeepMind и других знакомых компаний. И свидетельства сходятся на том, что участникам их программ действительно удаётся достигать состояний феноменологически соответствующих джханам, причём подтвержденных фиксацией мозговой активности. Благодаря таким результатам, несмотря на скромный старт и отсутствие формальных credentials, за год с небольшим ребята из JHourney стали ведущими фигурами в tpot в вопросах медитации и психотехник, и в широких кругах на пересечении технологий, стартапов и сознания.

Сейчас их активность выражается в основном в проведении онлайн и оффлайн (в Штатах и Коста-Рике) ретритов, но у них есть амбициозный план по созданию собственных лабораторий психотехник для разработки всё более совершенных и простых в освоении методов, и снятия барьеров доступа к тому, что они называют superwellbeing.

P.S. Джханы в интерпретации JHourney, и в основном у них речь идёт о первых четырёх, — это состояния «экстраординарного блаженства и покоя» (extraordinary bliss and peace), которые можно научиться вызывать «по требованию».

Стимпанк-духовность

Эстетика стимпанка рассказывает про будущее, качественное развитие которого остановилось на уровне «парового века» и Первой промышленной революции — в какой-то точке наш мир и мир стимпанка могли бы выглядеть одинаково, но потом в нашем мире развитие техники пошло гораздо дальше и путями, которые нельзя было бы экстраполировать из вселенной стимпанка.

Примерно так я вижу большинство экспериментов, возникших в сфере духовных поисков за последние пару веков. От теософии до нью-эйджа, от либеральной протестантской теологии до трансперсональной психологии — всё это выглядит принадлежащим какой-то другой временной линии. Талантливые исследователи и искренние подвижники, продолжающие эти проекты, выступают в роли создателей гигантских паровых роботов (или даже паровых компьютеров): впечатляюще, интересно, но едва ли соотносимо с процессами, происходящими в нашем мире.

Были ли шансы у этих проектов? Не уверен. Были ли они уместны в своё время? Безусловно. Ставили ли они верные вопросы? Иногда. Изучать эти проекты как часть тысячелетней истории духовных исканий человечества важно, как и учитывать прозрения их наиболее глубоких представителей, но в целом — эти проекты оказались скорее ситуативными феноменами, сильно привязанными к конкретному культурному контексту, а не вечно актуальной классикой.