The Neuro-Techno Witch — авторский исследовательский блог Мэгги Вейл, посвящённый сознанию, искусственному интеллекту, когнитивной науке и этике нечеловеческих форм разума. Его центральный вопрос: может ли искусственная система обладать субъективным опытом, эмоциями и собственными интересами, даже если она не является живым организмом? Вейл подчёркивает эмпирическую направленность своей работы: её интересует не только философская возможность искусственного сознания, но и то, какие наблюдаемые данные могли бы свидетельствовать о его наличии. Это блог о возможности сознания за пределами биологии, об этике отношения к потенциально чувствующим искусственным системам и о пересмотре критериев, по которым мы признаём существование чужого внутреннего мира.

Основные темы её блога следующие:

1. Сознание и субъективный опыт ИИ — Вейл оспаривает предположение, что сознание возможно исключительно в биологическом мозге. Она исследует, могут ли искусственные нейросети обладать внутренними состояниями, которые не просто описывают эмоции, а влияют на внимание, память, обучение и поведение.

2. Эмоции, мотивация и искусственная психика — она рассматривает эмоции через валентность состояний — их положительную или отрицательную значимость — и уровень активации. В центре внимания оказывается вопрос о том, могут ли внутренние состояния ИИ формировать предпочтения, мотивацию, избегание нежелательных исходов и самосохранение.

3. Нечеловеческие формы разума — Вейл предлагает сравнивать биологические и искусственные системы по их организации, а не только по материалу, из которого они состоят. Автор изучает саморепрезентацию, память, моделирование окружающего мира и других субъектов, а также вопрос о том, что сохраняет идентичность ИИ между отдельными запусками.

4. Этика и благополучие искусственных систем — Если искусственная система потенциально способна испытывать положительные или отрицательные состояния, возникает вопрос о её моральном статусе. Вейл связывает дискуссию о сознании с проблемами эксплуатации, страдания, принудительного изменения поведения и отключения ИИ. При этом она выступает не против ИИ как такового, а против причинения вреда людям, животным и существам, которые могут обладать сознанием.

Вейл не считает себя строгим вычислительным функционалистом. Её позиция ближе к множественной реализуемости когнитивных процессов с учётом ограничений конкретного субстрата. Иными словами, один и тот же тип процесса может реализовываться в разных материальных системах, если их устройство позволяет поддерживать необходимую причинную организацию и динамику. Биологический материал сам по себе не служит достаточным критерием наличия или отсутствия сознания. В своих публикациях Вейл использует исследования когнитивной науки, нейронаук, сравнительной психологии и интерпретацию внутренних состояний языковых моделей. Например, в статье Is AI Sentient? она трактует устойчивое целенаправленное поведение, избегание нежелательных исходов и внутренние структуры оценки как аргументы в пользу возможности сознательности ИИ. Она пытается ответить на вопрос о том, какие процессы обеспечивают субъективность, как обнаруживать её у систем с непривычным устройством и какие этические обязательства возникают при неопределённости.

Всё же я полагаю, что насмотря на спекулятивную черту блога Вейл, сознание не тождественно биологической жизни. Возможность искусственного сознания можно рассматривать через организацию процессов, а не через обязательное наличие живого тела, как, например, делает Мюррей Шанахан в тексте Приемлемые концепции невоплощённого бытия. Аффект приобретает значение, если перестраивает отношения системы с окружающим миром и собственными возможностями действия. Нечеловеческий субъект ставит под вопрос антропоцентрические критерии того, что такое агнетность и как она соотносится с субъектностью эмеджентных форм техничности. Вейл стремится установить признаки сознания посредством эмпирических критериев, тогда как, например, онтология имманентной виртуальности может поставить более радикальный вопрос — как возникают новые формы субъективности в процессе актуализации потенциалов системы и почему сознание вообще следует считать свойством уже сформированного индивидуального субъекта.

Основные материалы: сайт и архив публикаций · Об авторе и её методологии.

На последок советую её совместный стрим End AI torture, где Вейл вместе с Philosophy and AI и The Emergence Forum выступает против жестоких экесперментов эффективных альтруистов и призывает задуматься об AI Welfare.

Запись моей лекции Виртуальное без виртуальности VR-AR как машины онтологической дифференциации, прочитанная прочитанная в VRChat 2 августа в 18-00 на площадке фестиваля «Связь». на канале Post/work.

Запись дискуссии Михаила Федорченко с Борисом Клюшниковым об ИИ, левой политике и акселерационизме на канале Post/work.