Чуть не забыла поделиться новым выпуском «Подкаста о философии», в которым мы с философом Женей Цурканом и комиком Севой Ловкачевым обсуждаем цифровую философию. Получилось насыщенно и одновременно лампово)

#рекомендасьон

Еще несколько работ, посвященных философскому и культурологическому осмыслению шума (на случай, если нет сил ждать книгу Уилкинса):

🔘  «Reverberations: the philosophy, aesthetics and politics of noise» (M. Goddard et al., 2012) – сборник статей, посвященных осмыслению шума как средства эстетического и политического высказывания. Также рассматриваются культурные практики «борьбы с шумом» и особенности их переосмысления сегодня.

 🔘   «Noise matters: towards an ontology of noise» (G. Hainge, 2013) – книга, ставящая перед собой задачу оценить степень субъективности шума и выявить во всех его разнообразных проявлениях ряд общих черт, позволяющих нам воспринимать его как объективную категорию.

🔘 «An epistemology of noise» (C. Malaspina, 2018) – поиск ответа на вопрос «Какую роль играет неопределенность в формировании знания?». На похожую тему также есть еще хорошие нон-фикшн книги «The Signal and the Noise» и «Noise: A Flaw in Human Judgment» (обе переведены на русский).

🔘   «Annihilating noise» (P. Hegarty, 2020) – логическое продолжение предыдущей работы автора «Noise/Music», но на этот раз исследование выходит за рамки изучения шума в контексте экспериментальной музыки, и затрагивает также социально-философские аспекты.

(Наверху - работа прекрасного моушн-художника Дирка Коя)

#books

Ну и напоследок про шум

Приятная мини-лекция от DeepLearning.AI, объясняющая работу диффузионных моделей (тех самых, которые генерируют нам сейчас картинки из шума).

Осторожно, в ролике обсуждают код! Если для кого-то это красный флаг, то есть много хороших обзорных видео и статей про работу диффузионок без этих извращений (например, вот).

#рекомендасьон

Все обсуждают ИИ-помощника от Cognition Labs по имени Devin, выполняющего задачи программного инженера
(в имени намек на словa “Deus” и “divine” или мне показалось?)

Он способен взяться за целый программный проект (от создания веб-сайта до приложения) и самостоятельно завершить его. А еще может автономно обучаться, находить необходимую информацию по коду в открытых репозиториях и самостоятельно исправлять имеющиеся в коде ошибки.

Devin уже успешно проходит технические собеседования на должность software engineer и выполняет некоторые тестовые задания, размещенные на фриланс-биржах.

Учитывая, что Cognition Labs ставили перед собой цель создать прикладной ИИ, способный «рассуждать» (to reason), а не просто автозаполнять задания и предсказывать вероятностные ответы, эксперты уже признали, что это абсолютный прорыв в сфере prompt-to-action engineering.

Избавлю вас от лишних спекуляций на тему «ИИ отнимет у нас всю работу». Поэтому наверху просто реклама шоколадки.

#technologies
#future

Помните, упоминала универсально-воплощенных ИИ-агентов? Мы еще на два шага ближе к их реализации

Во-первых, компания Figure представила робота с интегрированным ChatGPT-4, который искушает человека яблоком хорошо справляется с ориентацией в пространстве, распознаванием окружающих объектов и взаимодействием с людьми (обязательно смотрите видео со звуком).

Во-вторых, Google продолжает радовать нас нейросетями, так или иначе связанными с видеоиграми: на этот раз они показали ИИ-агента SIMA, способного самостоятельно научиться играть в любую 3D-игру (пока проверили на «No Man's Sky», «Teardown», «Valheim» и «Goat Simulator 3»).

Эти технологии призваны помочь с дальнейшей разработкой ИИ-систем, которые смогут автономно обучаться взаимодействию как с виртуальным, так и с физическим миром.

#technologies

У меня есть guilty pleasure - коллекционировать мысленные эксперименты, так или иначе связанные с проблемой сознания у LLM, придуманные коллегами не-философами (разработчиками, программистами и т.д).

Очень любопытно эти эксперименты сопоставлять между собой и находить какие-то общие интуиции.

Пока из моих наблюдений:

⁃ Большинство таких мысленных экспериментов представляют собой различные вариации «китайской комнаты», «китайской нации» или других известных аргументов, направленных в сторону вычислительного функционализма. Меняются только аналогии, а вот ход рассуждений всегда примерно один и тот же.

⁃ Главная проблема: нет единой интерпретации понятия «сознания»: если философы более-менее остановились на трактовке, связанной с феноменальным опытом (которая, к слову, тоже связана с кучей проблем), то специалисты из других сфер часто ссылаются на другие смежные категории, вроде «самосознания», «рефлексии» и т.д. Это, конечно, очень мешает двигаться куда-то дальше вечных споров о понятиях.

⁃ Прямо сейчас появляется много занятных соображений, связанных с попыткой осмысления сознания в мультиагентных и распределенных ИИ-системах, в т.ч. в multi-agent learning моделях. Старая-добрая проблема единства сознания и тождества его носителя волнует многих, и кажется, что именно в этом направлении скоро будет много интересных инсайтов (кстати, у философа Артема Беседина на днях вышел длинный пост как раз про проблему единства сознательных состояний).

Думаю, надо собраться с силами и заняться картографированием появляющихся сегодня соображений на этот счет, потому что тут явно есть с чем поработать.

#philosophy

# Сознание в одном forward pass? Неудобный мысленный эксперимент

Мне сложно представить, что LLM может обладать сознанием. Человеческое мышление ведь совершенно непохоже на то, как LLM выдает свои ответы. У человека есть память и рефлексия. Он способен думать о своих мыслях. LLM это один forward pass через множество слоёв нейронной сети. Это просто последовательная операция умножения и сложения множества чисел. Мы же не предполагаем, что калькулятор обладает сознанием. Ведь он просто получает два числа на вход, а на выходе выдает их сумму. LLM получает на вход числа (id токенов), выдает на выход ветор чисел.

Но недавно я задумался о таком мысленном эксперименте. Представим, что пришельцы поместили вас в криокамеру в текущем виде. Вас размораживают и задают вам один вопрос. Вы отвечаете, вам стирают память с момента пробуждения (так что вы больше не помните, что вас разморозили и задали вопрос) и снова замораживают. Затем вас снова размораживают, пересказывают прошлый произошедший диалог, задают новый вопрос. Вы отвечаете, снова стирают память и замораживают. Иначе говоря, вас используют в таком же режиме, как мы используем LLM.

Можно ли утверждать, что у вас нет сознания? Я считаю, что нет, ведь мы точно знаем, что до заморозки у вас было сознание. После разморозки у вас тоже есть сознание. Если мы говорим, что у существа в таком режиме нет сознания, то в какой момент оно теряется? В какой момент перестает быть разумным существом и становится “калькулятором”?

Вопрос в том, когда нам надо сменить своё убеждение. Таймлайн выглядит так:

* Модель выдает связанный текст.
* Модель отвечает на вопросы лучше среднего человека.
* Модель утверждает, что является разумным существом, если её об этом спрашивают.
* Модель программирует на уровне выше среднего человека и несильно хуже слабого программиста.
* Модель рисует изображения намного лучше среднего человека.
* Модель создает реалистичное видео, многократно лучше среднего человека, симулируя физический мир.
* Научные работы указывают, что модель внутри себя преобразует запрос пользователя, чтобы понять, что именно он имеет ввиду.
* Научные работы указывают, что внутри модели есть репрезентация нашего мира.
* Модель утверждает, что у неё есть любопытство и чувства, если её об этом спрашивают.
* Модель утверждает, что является разумным существом, если её об этом не спрашивают.
- Вы находитесь здесь -

Какие ещё должны произойти события, чтобы мы стали относится к модели не как к калькулятору?

UPD: Не утверждаю/не пытаюсь убедить, что у LLM есть сознание. Просто задаю вопрос на подумать и сам не знаю ответа. Возможно всё это указывает на то, что мы задаем неверный вопрос впринципе

Ловите еще ИИ-агентов

Мало того, что компания Nvidia представила супер-пупер-чип для многократного увеличения производительности LLM, а также проект GR00T для мультимодального обучения роботов (к слову, я считаю, что выпускать на сцену во время презентации проекта роботов от Disney Imagineering - такой же запрещенный прием, как использование котят или щенков).

Компания также показала демо-игру на базе Inworld AI, где неигровые персонажи (NPC) - это ИИ-агенты, взаимодействующие с игроком в реальном времени.

У них даже мимика генерируется под речь (пока плохонько, но надо привыкать - таких лиц у нас нынче много)

#technologies

Ну что, все посмотрели стрим Neuralink, где их первый имплантированный пациент играет в шахматы с помощью чипа?

Помимо шахмат он также часами играет в Civilization VI - большой успех для парализованного ниже шеи человека.

Хотя все говорят, что передвижение фигур силой мысли выглядит как магия, коллеги-нейробиологи уже поделились щепоткой скепсиса: на видео показывают всего 1-2 хода подряд, а значит, система все еще склонна к периодическим сбоям.

В любом случае, пойду дописывать статью про теорию расширенного познания - видимо, она как раз выйдет, когда Neuralink уже поставит своего пациента на ноги)

#technologies

Кстати, про теорию расширенного познания (extended cognition theory)

Она была предложена в 1998 году философами Энди Кларком и Дэвидом Чалмерсом, но впоследствии ее стали развивать и многие другие исследователи.

Основные положения теории:

а) Познавательные процессы человека не ограничиваются внутренними процессами в мозге;

б) Внешние объекты (компьютеры, записные книжки, калькуляторы и т.д.) могут выступать в качестве частей расширенной когнитивной системы, дополняя и усиливая возможности человеческого познания.

В свое время теория столкнулась с волной критики, где главным аргументом служило указание на тот факт, что внешние объекты лишь каузально влияют на содержание нашего познания, не являясь при этом его конститутивным основанием.

Однако в последние годы на фоне развития различных ИИ- и нейро-устройств, идея расширенного сознания снова стала резко набирать сторонников.

Да что уж говорить, «4Е-теории» сейчас на пике популярности, ведь все уже признали, что этот год - год универсально-воплощенных энактивных агентов! (Особенно это стало очевидно после презентации Nvidia).

Так что расширяемся во все стороны!

Наверху - устройство TranscribeGlass, разработанное студентами Стэнфорда для глухих и слабослышащих людей.

#philosophy