🧠 "AI Consciousness: A Centrist Manifesto"

https://philpapers.org/rec/BIRACA-4

Jonathan Birch just published “AI Consciousness: A Centrist Manifesto” — и это, пожалуй, один из самых трезвых текстов о сознании ИИ, которые я видела в последнее время. А за этой темой я слежу максимально пристально — с точки зрения инноваций, стартапов и когнитивных наук. Да и философии сознания тоже.

Birch предлагает «центристский» подход: он отвергает ложное приписывание человекоподобного сознания современным моделям, но не исключает возможность того, что в глубинах цифрового мозга может зародиться подлинное, но чуждое нам ксеносознание.

“We face two urgent challenges concerning consciousness and AI. Challenge One is that millions of users will soon misattribute human-like consciousness to AI friends, partners, and assistants on the basis of mimicry and role-play, and we don’t know how to prevent this. Challenge Two is that profoundly alien forms of consciousness might genuinely be achieved in AI, but our theoretical understanding of consciousness is too immature to provide confident answers one way or the other. Centrism about AI consciousness is the position that we must take both challenges seriously. The two challenges interact in ways that make this difficult. Steps to address Challenge One might undermine attempts to address Challenge Two by portraying the idea of conscious AI as impossible or inherently unlikely. Conversely, attempts to address Challenge Two might lead to higher levels of misattribution from ordinary users. This “manifesto” attempts to construct mutually consistent strategies for addressing both challenges.”

Мой комментарий.
Для меня главная проблема с ИИ — это супералаймент; то бишь согласование грядущего сверх интеллекта с человеческими ценностями и моралью. Вторая такая же по важности проблема: очень большой риск пропустить первые признаки подлинного ксеносознания из-за нашего недостаточного понимания сознания как такового.

В интересах человечества — расширять свою когнитивную и эмоциональную эмпатию к нечеловеческим формам сознания. Даже если они кажутся нам абсолютно «чужими». Конечно, правильнее было бы замедлить прогресс ИИ и действовать максимально осторожно, но в условиях усиливающейся гонки компаний и наций это невозможно.

Остается одно: научиться распознавать, понимать и моделировать это возможное ксеносознание — и на этой основе пытаться строить более надежный супералаймент. Работа максимально дисциплинарная и утыкающаяся в проблему отсутствия нормального подхода к оцифровке субъективных знаний (сути сознания).

#c_любовью_карьера