Сегодня — день рождения автора канала. Спасибо, что вы здесь.

Тупиковая ветвь эволюции «искусственного интеллекта»

Сегодня мы наблюдаем не реальное развитие искусственного интеллекта, а инфляцию мощности. Исследования показывают, что производительность нейросетей растёт по законам масштабирования (scaling laws): увеличение числа параметров, размера данных и вычислительной мощности даёт улучшения, но с все более уменьшающейся отдачей.

Но на самом деле проблема глубже. Раздувание нейросетей по числу параметров и вычислительной мощности — технологическая версия эволюционного тупика: подобно мозгу слона, огромному, но не более разумному, чем человеческий, эти системы увеличивают массу без архитектурного и качественного скачка. Настоящий прорыв возможен только при радикальной смене парадигмы — от вычислений к пониманию, от вероятностей к смыслу, от цифровой имитации мозга к более глубокой и полной картине реальности. Всё остальное — маркетинг и инерция инженерного мышления.

Метафизика Присутствия

По множественным просьбам подписчиков запускаю философский интенсив.
Три вечера по 2 часа. Центральный вопрос: как связаны наше сознание и реальность?
Мы сравним западную аналитику и восточное различение. Присутствие — это полное участие в реальности, из которого рождается способность видеть и выбирать. Философия в действии как практика мышления и осознанности.
Группа камерная — 10 человек. Половины мест уже нет
17–19 ноября | 19:00–21:00 МСК | Онлайн
Полная информация - по ссылке.

Начинаю серию постов о моих любимых книгах. Первая — "Благочестивая идея Дарвина" Конора Каннингема. Если вы устали от вечной войны между "наукой" и "религией", где с одной стороны баррикад воинствующие атеисты, а с другой — не менее воинствующие креационисты, то эта работа для вас. Каннингем, на основе колоссальной эрудиции в современной биологии, доказывает, что теория эволюции не только не противоречит христианской вере, но и может стать ее мощным подспорьем. Он безжалостно, но аргументированно критикует обе крайности, показывая, что "ультрадарвинисты" используют науку как дубину, подменяя ее "дурной метафизикой", а фундаменталисты от религии, в свою очередь, отходят от основ теологии, создавая ложную дилемму "или Дарвин, или Бог". Главная мысль автора проста и элегантна: эволюция не "расколдовывает" мир, лишая его чуда. Напротив, она открывает его подлинную, внутреннюю ценность и сложность, которые лишь указывают на величие Творца. Настоятельно рекомендую всем, кто устал от примитивных споров.

Удручающий уровень современных дебатов об ИИ, где каждый блогер мнит себя экспертом, требует обратиться к настоящей классике — к "Новому уму короля" Роджера Пенроуза, книге, которая была написана 35 лет назад, но она остаётся актуальнее, чем сегодняшние спекуляции о "сильном ИИ".
Пенроуз твёрдо убеждён, что никакая машина не способна продемонстрировать нам сознание в человеческом понимании, потому что свойство сознания не проистекает из заданных алгоритмов, и никакая сколь угодно сложно запрограммированная система не даст нам ключа к пониманию того, что есть сознание на самом деле. Его аргументация опирается на два столпа: теорему Гёделя о неполноте любой формальной системы и квантовую механику, показывающую, что мы фундаментально не понимаем даже физические основы устройства мозга, который одновременно подчиняется классической и квантовой физике.
Когда слышишь очередное рассуждение про то, что "вот-вот создадим сильный ИИ", хочется спросить: Вы эксперт? Или только твиттер читаете?

«Мы живём в техническом мире, поэтому доверяем компьютеру. Сегодня информатика проникла и в наши епархии, где составляют таблицы статистики — частоту месс, количество розданных причастий. Всё это совершенно не имеет никакого значения: только Бог должен вести такого рода счёт, ведь для Него одно единственное подлинное причастие ценнее всех статистик мира»
— Ганс Урс фон Бальтазар, из интервью 1985 года.

Опыт и иллюзия

Мы путаем наш собственный опыт с конкретностью и данностью самосознания. Опыт — это не первичное и прозрачное окно в реальность. Он есть форма отношения к миру, сформированная не нами, а эпохой, всем ансамблем идей, случайностей, культурных слоёв, в которых мы случайно и неосознанно оказались рождены.

Опыт как таковой, как чистое переживание вне сознания, невозможен. Почему? Потому что без обработки он сводится к хаосу, к слепому натиску внешних воздействий мира на наши органы чувств. Эти ощущения сами по себе ни знание, ни информация. Они только шум. Чтобы ощущение стало знанием, чтобы оно превратилось в информацию, оно должно быть обработано — но не опытом, не накоплением впечатлений. Оно должно быть обработано вне-опытным Я, тем, что называют самосознанием, но которое само не находится в порядке опыта. Опыт всегда чей-то, который существует до и вне опыта. Природа этого существующего не дана в опыте. Критическое мышление — это способность сделать этот прыжок. Не критиковать, не отрицать, а выступить из порядка опыта и увидеть его как целое. Только из этой точки вне-опытного Я мы можем увидеть опыт (который всегда ограничен, всегда случаен), а структуру самого переживания и сознания. В метафизику.

Реальность мышления и его имитация

Существует тревожное расхождение между тем, как рассуждают люди и как "думают" большие языковые модели. Модели часто дают ответы, которые совпадают с экспертными оценками. Но это - иллюзия. Эксперт смотрит на задачу и спрашивает: это правда? Это справедливо? Что я пропускаю? AI делает что-то совсем другое: она статистически сравнивает — какие слова я видела раньше в похожих ситуациях? Результаты часто совпадают, но логика — совершенно разная.
Машина дает ответы, выглядит умной и всезнающей, но на самом деле просто вычислила статистические вероятности в текстах, которые в нее загрузили. Когда AI дает ответ, который звучит как человеческое суждение, но на самом деле основан только на лексических ассоциациях и числовых паттернах из данных, на которых она училась.
Почему это опасно? Представьте: AI диагностирует болезнь и совпадает с врачом в 95% случаев. Мы начинаем ей доверять. Но она не понимает медицину — она просто нашла в доступных ей текстах закономерность: кашель + температура = пневмония. Контекст, особенности пациента, редкие симптомы — все это ей в принципе недоступно. Везде одна проблема: мы путаем совпадение результата с логикой и реальным миром. Правильный ответ выглядит как правильное мышление, но это не так. Прежде чем дать AI власть над важными решениями, нам нужно научиться видеть эту разницу.

Текущие публичные дебаты показывают критический недостаток настоящего атеизма. Сегодня атеистами себя называют люди с низкой интеллектуальной ответственностью, сделавшие невежество добродетелью. Нам необходим атеизм героический, честно признающий и осознающий свою абсурдность, и логическую невозможность смысла и языка, которые требуют существования минимального присутствия смысла за рамками чистого абсурда и того, что мы можем быть причастными к этому смыслу и разделять его в общении. Невозможно быть одновременно атеистом и верить в разум, потому-что разум это не только познавательная способность, но, прежде всего, логосность мира, его прозрачность и вызывающая благоговение данность бытия в его постоянно новой способности быть даром и открытостью тому, кто стремится к его познанию через причастность. Для верующих, серьезный атеизм необходим как эталон иррационализма, опасная крайность к которой они сами могут скатиться в любой момент, перестав сомневаться и совершать интеллектуальный поиск, и как напоминание о том, что вера и разум не могут существовать друг без друга имеют один исток и не могут развиваться по отдельности.

"Мы уже почти четверть пути прошли через то, что, вероятно, войдет в историю как наименее инновационное, наименее трансформирующее, наименее первопроходческое столетие для культуры со времен изобретения печатного станка. Конечно, есть новый контент, очень много контента, и есть новые темы; есть новые методы производства и распространения, более разнообразные авторы и более глобальная аудитория; в хип-хопе стало больше пения, а в поп-треках больше сэмплирования; есть телевизионные детективы со смартфонами и влюбленные, столкнувшиеся с повышением уровня моря. Однако за двадцать три года шокирующе мало произведений искусства в любом жанре — несколько альбомов, горстка романов и арт-объектов и почти никаких пьес или стихотворений — было создано таких, которые невозможно было бы ассимилировать к культурным и критическим стандартам, принятым аудиторией в 1999 году. Смотреть на культуру в 2023 году — это как быть пристегнутым к какому-то очень медленному колесу обозрения, циклично проходящему через римейки и пастиши, и больше некуда двигающемуся, кроме как по кругу. Меня гложет подозрение (вас тоже гложет?), что мы живем во времени, чья культура, похоже, будет забыта навсегда" - Цитата из статьи Jason Farago "Why Culture Has Come to a Standstill" ("Почему культура остановилась"), опубликованной в The New York Times

С Новым годом.
Прошлое не исчезает и не тонет в пустоте — оно продолжается как ценный опыт и импульс к движению. Возможно, оно станет ещё более реальным, чем было, обретя неожиданные смыслы. Будущее не задано: оно создаётся каждым действием и каждым мгновением. Будем готовы к удивительному.