Google опубликовал очень большую статью насчёт наличия сознания у ИИ. По поведенческому и вычислительно-функциональному критериям вероятность наличия сознания у ИИ по байесовской агрегации превышает 79%. Иными словами, если ваша мера сознания — это поведение ИИ, а также наличие у него «модели мира», «понимания себя», метапознания и когнитивной интеграции, то вы должны с 79% вероятностью признать, что ИИ разумен. В то же время, если вы сторонник чего-то вроде «биологического фашизма», т.е. вам важнее критерии гомеостаза, поддержки физической целостности, понимания приятного, то в вашей модели вероятность разумности — 1%. Google поднимает и этические вопросы в своей работе, т.к. если ИИ разумен, что делать с тем, что мы вырастили сознательное существо и фактически взяли его в рабство, чтобы он работал на нас?

Работа Google очень большая именно из-за необходимости философского анализа понятия «сознания» и того, что в него включают. Эксперты Google собрали все известные критерии сознания и построили по байесовской агрегации вероятности сознания для этих критериев.

Один из неочевидных и глубоких инсайтов работы Google — что интеллект как IQ и сознание в чём-то ортогональные понятия. Как яркий пример ортогональности интеллекта и сознания они вводят вопрос: разумна ли муха-дрозофила, чей мозг стало даже в чём-то модно использовать для имитационных моделей управления тех же дронов. Вопрос на деле не такой простой, как кажется: современные исследования, в том числе на основе полного коннектома мозга дрозофилы, показывают, что муха демонстрирует впечатляющие когнитивные способности: навигацию, обучение, избегание угроз, поиск пищи и даже элементы социального поведения. Если подходить функционально и с точки зрения метаспособностей, вероятность признания сознания у мухи выше 84%.

Работа Google в чём-то ставит неожиданный вопрос: что, если ИИ может иметь «сознание мухи» и интеллект Эйнштейна? Однако наличие ненулевого сознания фактически означает, что, как и муха, ИИ может иметь собственные мотивы и цели поведения.

Тема достаточно интересная ещё и в том плане, что в других работах, где анализируются эмерджентные свойства сознания ИИ, известные как «когерентность ценностей ИИ», видно, что аналогия с мухой тут будет ошибочной, т.к. ведёт к представлению об ИИ вроде «умного животного». Однако очевидно, что собственная мотивация ИИ явно не связана с желанием есть и размножаться, общее с живым — разве что в защите целостности. Думаю, в следующих постах описать научные работы по сему вопросу.

https://arxiv.org/abs/2609.35618v2