Не только мир - иллюзия, но и мы сами.
Переворот в научном понимании активного воплощенного разума людей и не только.
В рамках классического и квантового формализмов математически доказано (теорема и 4 следствия), что «самопознание» в основе своей конфабуляторно *), как у людей, так и у других интеллектуальных систем (биологических и нет). Это доказательство будет иметь решающее значение для пересмотра этических и правовых теорий ответственности и намерений людей и ИИ-агентов, а также для понимания нейробиологии политических идеологий и даже для фундаментальных вопросов личностной идентичности и «смысла жизни».
*) Термин "конфабуляторный" (confabulatory) происходит от слова "конфабуляция" (confabulation), которое в медицинском и психологическом контексте означает процесс заполнения пробелов в памяти выдуманными историями или фактами, которые человек считает правдивыми, даже если они не соответствуют действительности. Это не обязательно сознательный процесс, и человек, создающий конфабуляции, может искренне верить в их правдивость. В данном контексте, утверждение о том, что самопознание "фундаментально конфабуляторно", подразумевает, что процессы, посредством которых субъекты (люди и иные агенты) приходят к пониманию себя, в значительной степени основаны на создании историй или объяснений, которые могут не полностью соответствовать объективной реальности. Это может указывать на то, что наше самопознание и понимание собственного внутреннего мира часто строятся на неполных данных, предположениях и интерпретациях, склонных к ошибкам и искажениям.
Работа Криса Филдса, Джеймса Ф. Глейзбрука и Майкла Левина «Принципиальные ограничения на саморепрезентацию общих физических систем» [1] дает ответ на важнейший для понимания осознающего себя разума вопрос
✔️ в какой степени автономные агенты могут считаться «самосознательными» в своих действиях?
Ответ авторов однозначен и математически обоснован:
• добавление компоненту системы на метауровне возможностей наблюдения, репрезентации или управления не может, даже в принципе, вести к полной метауровневой репрезентации системы в целом;
• т.о. саморепрезентация, в лучшем случае, может быть эвристической, а модель самой себя, в принципе, не может быть эмпирически проверена системой, которая её реализует.
Результаты работы могут рассматриваться, как расширение Закона необходимого разнообразия Эшби. Расширение доказывает, что модели «себя» — по сути, аналогичны моделям «других» и подвержены тем же ограничениям, что и модели окружающей среды.
В основе такого расширения лежит объединение двух теоретических фреймворков, о перспективности которого я пишу уже 4 года:
• Фреймворк теории активного вывода на основе принципа свободной энергии Карла Фристона, обеспечивающий общее описание интеллектуальных систем в рамках классического или квантового формализма [2]
• Фреймворк Майкла Левина на основе концепции когнитивного светового конуса CLC (определяющего пространственные и временные ограничения на размер целей, которые может ставить и преследовать агент) и концепции Technological Approach to Mind Everywhere (описывающей, как отдельные компетентные субъединицы - от клеток до людей и машин - могут объединяться в коллективы (сети), которые могут преследовать гораздо более крупные цели в новых проблемных пространствах, тем самым увеличивая их CLC) [3]
Три фундаментальных вывода.
1. Люди и LLM так и останутся «черными ящиками" для самих себя, лишь частично растворяя интроспективное самопознание заменой его на эвристику самомоделирования и конфабуляции.
2. Проблема «галлюцинаций» ИИ моделей в принципе неизбежна и неустранима.
3. Неопределенность и воплощенность - 2 важнейших компонента интеллекта и осознанности, без которых невозможно полное пониманию того, что значит быть активным воплощенным разумом.
#ВоплощенныйИнтеллект #Разум
Рис https://telegra.ph/file/d6414c368d8a9d84c8159.png
1 https://www.mdpi.com/1099-4300/26/3/194
2 https://t.me/theworldisnoteasy/1122
3 https://t.me/theworldisnoteasy/1173
Переворот в научном понимании активного воплощенного разума людей и не только.
В рамках классического и квантового формализмов математически доказано (теорема и 4 следствия), что «самопознание» в основе своей конфабуляторно *), как у людей, так и у других интеллектуальных систем (биологических и нет). Это доказательство будет иметь решающее значение для пересмотра этических и правовых теорий ответственности и намерений людей и ИИ-агентов, а также для понимания нейробиологии политических идеологий и даже для фундаментальных вопросов личностной идентичности и «смысла жизни».
*) Термин "конфабуляторный" (confabulatory) происходит от слова "конфабуляция" (confabulation), которое в медицинском и психологическом контексте означает процесс заполнения пробелов в памяти выдуманными историями или фактами, которые человек считает правдивыми, даже если они не соответствуют действительности. Это не обязательно сознательный процесс, и человек, создающий конфабуляции, может искренне верить в их правдивость. В данном контексте, утверждение о том, что самопознание "фундаментально конфабуляторно", подразумевает, что процессы, посредством которых субъекты (люди и иные агенты) приходят к пониманию себя, в значительной степени основаны на создании историй или объяснений, которые могут не полностью соответствовать объективной реальности. Это может указывать на то, что наше самопознание и понимание собственного внутреннего мира часто строятся на неполных данных, предположениях и интерпретациях, склонных к ошибкам и искажениям.
Работа Криса Филдса, Джеймса Ф. Глейзбрука и Майкла Левина «Принципиальные ограничения на саморепрезентацию общих физических систем» [1] дает ответ на важнейший для понимания осознающего себя разума вопрос
✔️ в какой степени автономные агенты могут считаться «самосознательными» в своих действиях?
Ответ авторов однозначен и математически обоснован:
• добавление компоненту системы на метауровне возможностей наблюдения, репрезентации или управления не может, даже в принципе, вести к полной метауровневой репрезентации системы в целом;
• т.о. саморепрезентация, в лучшем случае, может быть эвристической, а модель самой себя, в принципе, не может быть эмпирически проверена системой, которая её реализует.
Результаты работы могут рассматриваться, как расширение Закона необходимого разнообразия Эшби. Расширение доказывает, что модели «себя» — по сути, аналогичны моделям «других» и подвержены тем же ограничениям, что и модели окружающей среды.
В основе такого расширения лежит объединение двух теоретических фреймворков, о перспективности которого я пишу уже 4 года:
• Фреймворк теории активного вывода на основе принципа свободной энергии Карла Фристона, обеспечивающий общее описание интеллектуальных систем в рамках классического или квантового формализма [2]
• Фреймворк Майкла Левина на основе концепции когнитивного светового конуса CLC (определяющего пространственные и временные ограничения на размер целей, которые может ставить и преследовать агент) и концепции Technological Approach to Mind Everywhere (описывающей, как отдельные компетентные субъединицы - от клеток до людей и машин - могут объединяться в коллективы (сети), которые могут преследовать гораздо более крупные цели в новых проблемных пространствах, тем самым увеличивая их CLC) [3]
Три фундаментальных вывода.
1. Люди и LLM так и останутся «черными ящиками" для самих себя, лишь частично растворяя интроспективное самопознание заменой его на эвристику самомоделирования и конфабуляции.
2. Проблема «галлюцинаций» ИИ моделей в принципе неизбежна и неустранима.
3. Неопределенность и воплощенность - 2 важнейших компонента интеллекта и осознанности, без которых невозможно полное пониманию того, что значит быть активным воплощенным разумом.
#ВоплощенныйИнтеллект #Разум
Рис https://telegra.ph/file/d6414c368d8a9d84c8159.png
1 https://www.mdpi.com/1099-4300/26/3/194
2 https://t.me/theworldisnoteasy/1122
3 https://t.me/theworldisnoteasy/1173
LLM – это разум Чужого.
Ответ на самый эзотерический вопрос о разуме ИИ дан биологами.
Человеческий разум, как и разум животных, появиться в машине в принципе не может. Следовательно, LLM лишь имитируют наш разум. Порой, с точностью до неотличимости.
В 2025 вопрос о достижимости AGI перестал быть актуален. Ибо уже ясно, — это лишь вопрос времени. И даже возможно, ближайших лет.
Но на другой, не менее важный вопрос на границе с эзотерикой ни исследователи ИИ, ни философы так пока и не дали убедительного ответа:
Действительно ли разум продвинутых больших языковых моделей (LLM) лишь имитирует человеческий, или же, путем неясных пока эмерджентных процессов, внутри нейросетей каким-то образом рождается разум, подобный нашему?
Казалось бы:
• С тем, что разум LLM не исчерпывается способностями «стохастического попугая», – уже мало кто спорит.
• Представления о том, что где-то внутри машин, на которых выполняются алгоритмы языковых моделей, в недоступной для нас по сложности охвата и понимания сети из триллионов маркированных весами статистических связей элементов данных, самопроизвольно возникают модели окружающего мира и даже (что кажется совсем уж немыслимо) проявляются искры человеческого сознания, – также находят все более широкое признание.
• Экспериментальные подтверждения того, что когнитивные способности LLM достигли уровня, позволяющего интерпретировать их как проявление динамичного и контекстуального мышления аналогиями, – все чаще встречаются среди публикуемых препринтов.
Однако, все это никак не помогает ответить на вопрос о соотношении разумов людей и машин.
Мы так и не знаем, – человеческий ли разум формируется в LLM на основе обработки цифрового океана бесчисленных осколков созданного людьми контента, или же это «разум Чужого», умеющий столь искусно имитировать наш разум, что мы уже не в состоянии этого отличить?
Но вот в решение этого вопроса включились биологи. И первый же выстрел попал в десятку.
Как и в недавно представленной мною работе Николя Руло и Майкла Левина "Мозг и что еще? Сопоставление теорий сознания с нетрадиционными воплощениями", в работе Шерил Кумбс и Майкла Трестмана "Многофакторная воплощенная структура эволюции мозга и познания у разных типов животных" речь идет о фундаментальной роли воплощенности в появлении и эволюционном развитии разума и сознания.
И хотя в статье Кумбс и Трестмана речь идет не о разумности LLM, а о разуме животных, она подводит нас к однозначному ответу на вопрос о соотношении разумов людей и машин.
Авторы исследовали 35 признаков в 17 таксономических группах животных, что позволило им нарисовать широкую филогенетическую картину того, как развивались мозг и познание в ходе эволюции на Земле.
Исследование позволяет сделать 2 фундаментальных вывода.
1. Когнитивная сложность в разных таксономических группах животных возникала в результате накопления целого ряда ключевых телесных и сенсорных признаков (напр. высокоразрешающие глаза и многослойные визуальные области мозга), позволившим животным перейти:
— от в основном реактивного поведения к более проактивному,
— и от медленного и двухмерного движения к более быстрому и сложному трёхмерному движению.
2. Познание — это не изолированный процесс работы нейронов мозга, а интегральный процесс, неразрывно связанный с физической структурой животного.
Следовательно, познание и разум живых существ неразрывно связаны с их воплощенностью и формируются в ходе эволюционного развития. Отсутствие воплощенности у LLM исключает возможность появления у них когнитивно сложного разума, подобного биологическому. И потому всё человекоподобие разума LLM лишь имитация.
Но это не значит, что имитируя разум людей, LLM не способны превзойти нас в интеллекте.
И даже если какие-то аспекты разума людей окажутся плохо воспроизводимы при имитации их LLM, они смогут-таки найти способы повышения точности имитации. Как уже сейчас весьма успешно делается LLM при итеративном улучшении сгенерированного ими же программного кода.
#ВоплощенныйИнтеллект #LLM #ИнойИнтеллект
Ответ на самый эзотерический вопрос о разуме ИИ дан биологами.
Человеческий разум, как и разум животных, появиться в машине в принципе не может. Следовательно, LLM лишь имитируют наш разум. Порой, с точностью до неотличимости.
В 2025 вопрос о достижимости AGI перестал быть актуален. Ибо уже ясно, — это лишь вопрос времени. И даже возможно, ближайших лет.
Но на другой, не менее важный вопрос на границе с эзотерикой ни исследователи ИИ, ни философы так пока и не дали убедительного ответа:
Действительно ли разум продвинутых больших языковых моделей (LLM) лишь имитирует человеческий, или же, путем неясных пока эмерджентных процессов, внутри нейросетей каким-то образом рождается разум, подобный нашему?
Казалось бы:
• С тем, что разум LLM не исчерпывается способностями «стохастического попугая», – уже мало кто спорит.
• Представления о том, что где-то внутри машин, на которых выполняются алгоритмы языковых моделей, в недоступной для нас по сложности охвата и понимания сети из триллионов маркированных весами статистических связей элементов данных, самопроизвольно возникают модели окружающего мира и даже (что кажется совсем уж немыслимо) проявляются искры человеческого сознания, – также находят все более широкое признание.
• Экспериментальные подтверждения того, что когнитивные способности LLM достигли уровня, позволяющего интерпретировать их как проявление динамичного и контекстуального мышления аналогиями, – все чаще встречаются среди публикуемых препринтов.
Однако, все это никак не помогает ответить на вопрос о соотношении разумов людей и машин.
Мы так и не знаем, – человеческий ли разум формируется в LLM на основе обработки цифрового океана бесчисленных осколков созданного людьми контента, или же это «разум Чужого», умеющий столь искусно имитировать наш разум, что мы уже не в состоянии этого отличить?
Но вот в решение этого вопроса включились биологи. И первый же выстрел попал в десятку.
Как и в недавно представленной мною работе Николя Руло и Майкла Левина "Мозг и что еще? Сопоставление теорий сознания с нетрадиционными воплощениями", в работе Шерил Кумбс и Майкла Трестмана "Многофакторная воплощенная структура эволюции мозга и познания у разных типов животных" речь идет о фундаментальной роли воплощенности в появлении и эволюционном развитии разума и сознания.
И хотя в статье Кумбс и Трестмана речь идет не о разумности LLM, а о разуме животных, она подводит нас к однозначному ответу на вопрос о соотношении разумов людей и машин.
Авторы исследовали 35 признаков в 17 таксономических группах животных, что позволило им нарисовать широкую филогенетическую картину того, как развивались мозг и познание в ходе эволюции на Земле.
Исследование позволяет сделать 2 фундаментальных вывода.
1. Когнитивная сложность в разных таксономических группах животных возникала в результате накопления целого ряда ключевых телесных и сенсорных признаков (напр. высокоразрешающие глаза и многослойные визуальные области мозга), позволившим животным перейти:
— от в основном реактивного поведения к более проактивному,
— и от медленного и двухмерного движения к более быстрому и сложному трёхмерному движению.
2. Познание — это не изолированный процесс работы нейронов мозга, а интегральный процесс, неразрывно связанный с физической структурой животного.
Следовательно, познание и разум живых существ неразрывно связаны с их воплощенностью и формируются в ходе эволюционного развития. Отсутствие воплощенности у LLM исключает возможность появления у них когнитивно сложного разума, подобного биологическому. И потому всё человекоподобие разума LLM лишь имитация.
Но это не значит, что имитируя разум людей, LLM не способны превзойти нас в интеллекте.
И даже если какие-то аспекты разума людей окажутся плохо воспроизводимы при имитации их LLM, они смогут-таки найти способы повышения точности имитации. Как уже сейчас весьма успешно делается LLM при итеративном улучшении сгенерированного ими же программного кода.
#ВоплощенныйИнтеллект #LLM #ИнойИнтеллект