ИИ уже понимает и осознает.
Ошарашивающие выводы двух новых работ.
Размышляя, смогут ли люди понять разум, радикально отличающийся от нашего, старший исследователь DeepMind проф. Шанахан описал пространство возможных разумов в двух измерениях: способность агентов к сознанию и их сходство с людьми.
• Способность к сознанию агента соответствует богатству опыта, на который он способен. Но т.к. наука пока не умеет измерять этот показатель, Шанахан оценивает его по уровню когнитивных способностей, тесно связанному в земной биологии с сознанием:
если у кирпича 0, а у человека 10, то у пчелы 2, у кота 5, а у осьминога 5,5
• Сходство агента с людьми оценивается по тому, насколько можно описать его поведение, используя язык, применимый для людей, — описывая его потребности и желания, эмоции и убеждения, способности и навыки:
если у кирпича 0, а у человека 10, то у пчелы 3, у осьминога 5, а у кота 7
В таком пространстве возможных разумов:
— кирпич, пчела, осьминог, кот и человек расположатся так
— а кирпич, программа AlphaGo, робот BigDog и умный пылесос Roomba — так
Теоретически возможно создание искусственного разума человеческого типа (AGI).
Возможные варианты AGI по его способности к сознанию могут быть в диапазоне (см. приложенный рисунок):
— от не имеющих сознания Зомби—AGI: типа сверхумного пылесоса Roomba, ставшего способным выполнять функции любой прислуги: домработницы, гувернантки, повара, дворецкого …
— до имеющих сознание на уровне людей или даже на более высоком уровне, которым люди наделяют воображаемые сверхсущности (духов, ангелов, пришельцев …)
Возможные варианты AGI по степени человекоподобия могут быть в диапазоне:
— от экзотических сущностей, не имеющих с людьми ничего общего (типа Океана из «Соляриса»)
— до вполне человекоподобных биороботов (типа красавчика Тома из «Я создан для тебя»).
А еще в таком пространстве разумов возможны сущности с и без сознания, но столь экзотические, что невообразимы даже фантастам.
Теперь о двух новых работах.
1) «Языковые модели (в основном) знают, что они знают» коллектива авторов из компании Anthropic
2) «Дебаты о понимании в больших языковых моделях ИИ» Меланьи Митчел и Дэвида Кракауера
Рассмотрение этих работ с позиций вышеописанного пространства возможных разумов привело меня к двум довольно ошарашивающим выводам.
Вывод 1.
Большие модели хоть и не обладают пока сознанием в человеческом смысле, но и бессознательными они уже не являются.
• Из работы 1) следует, что большие языковые модели могут «заранее предсказывать, смогут ли они правильно ответить на вопрос». И это можно интерпретировать, как наличие самоконтроля.
• Но согласно мэйнстримной теории машинного сознания, самоконтроль вычислений, приводящий к субъективному чувству уверенности или ошибки – это один из двух типов сознательных вычислений мозга.
Вывод 2.
Уже созданы ИИ, обладающие новой формой понимания, которая обеспечивает экстраординарные, сверхчеловеческие способности к прогнозированию
• Из работы 2) следует, что AlphaZero и AlphaFold от DeepMind, продемонстрировавшие на практике чуждую людям форму интуиции в шахматах и предсказании структуры белка, - это, по сути, ИИ с новым способом понимания.
• Этот способ понимания лучше приспособлен к проблемам, требующим больших данных и сверхмощных вычислений (тогда как понимание людей ориентировано на проблемы с малым объемом данных и сильным причинно-следственным механизмом).
• Нужна новая наука об интеллекте с более широкими рамками концепций понимания и сознания, пригодными и для людей, и для машин.
Эти выводы заставляют вспомнить замечание главреда New Scientist о пространстве возможных разумов Шанахана:
«Однажды мы можем обнаружить, что живем бок о бок с инопланетянами и ангелами».
#Разум #Сознание #Понимание
Ошарашивающие выводы двух новых работ.
Размышляя, смогут ли люди понять разум, радикально отличающийся от нашего, старший исследователь DeepMind проф. Шанахан описал пространство возможных разумов в двух измерениях: способность агентов к сознанию и их сходство с людьми.
• Способность к сознанию агента соответствует богатству опыта, на который он способен. Но т.к. наука пока не умеет измерять этот показатель, Шанахан оценивает его по уровню когнитивных способностей, тесно связанному в земной биологии с сознанием:
если у кирпича 0, а у человека 10, то у пчелы 2, у кота 5, а у осьминога 5,5
• Сходство агента с людьми оценивается по тому, насколько можно описать его поведение, используя язык, применимый для людей, — описывая его потребности и желания, эмоции и убеждения, способности и навыки:
если у кирпича 0, а у человека 10, то у пчелы 3, у осьминога 5, а у кота 7
В таком пространстве возможных разумов:
— кирпич, пчела, осьминог, кот и человек расположатся так
— а кирпич, программа AlphaGo, робот BigDog и умный пылесос Roomba — так
Теоретически возможно создание искусственного разума человеческого типа (AGI).
Возможные варианты AGI по его способности к сознанию могут быть в диапазоне (см. приложенный рисунок):
— от не имеющих сознания Зомби—AGI: типа сверхумного пылесоса Roomba, ставшего способным выполнять функции любой прислуги: домработницы, гувернантки, повара, дворецкого …
— до имеющих сознание на уровне людей или даже на более высоком уровне, которым люди наделяют воображаемые сверхсущности (духов, ангелов, пришельцев …)
Возможные варианты AGI по степени человекоподобия могут быть в диапазоне:
— от экзотических сущностей, не имеющих с людьми ничего общего (типа Океана из «Соляриса»)
— до вполне человекоподобных биороботов (типа красавчика Тома из «Я создан для тебя»).
А еще в таком пространстве разумов возможны сущности с и без сознания, но столь экзотические, что невообразимы даже фантастам.
Теперь о двух новых работах.
1) «Языковые модели (в основном) знают, что они знают» коллектива авторов из компании Anthropic
2) «Дебаты о понимании в больших языковых моделях ИИ» Меланьи Митчел и Дэвида Кракауера
Рассмотрение этих работ с позиций вышеописанного пространства возможных разумов привело меня к двум довольно ошарашивающим выводам.
Вывод 1.
Большие модели хоть и не обладают пока сознанием в человеческом смысле, но и бессознательными они уже не являются.
• Из работы 1) следует, что большие языковые модели могут «заранее предсказывать, смогут ли они правильно ответить на вопрос». И это можно интерпретировать, как наличие самоконтроля.
• Но согласно мэйнстримной теории машинного сознания, самоконтроль вычислений, приводящий к субъективному чувству уверенности или ошибки – это один из двух типов сознательных вычислений мозга.
Вывод 2.
Уже созданы ИИ, обладающие новой формой понимания, которая обеспечивает экстраординарные, сверхчеловеческие способности к прогнозированию
• Из работы 2) следует, что AlphaZero и AlphaFold от DeepMind, продемонстрировавшие на практике чуждую людям форму интуиции в шахматах и предсказании структуры белка, - это, по сути, ИИ с новым способом понимания.
• Этот способ понимания лучше приспособлен к проблемам, требующим больших данных и сверхмощных вычислений (тогда как понимание людей ориентировано на проблемы с малым объемом данных и сильным причинно-следственным механизмом).
• Нужна новая наука об интеллекте с более широкими рамками концепций понимания и сознания, пригодными и для людей, и для машин.
Эти выводы заставляют вспомнить замечание главреда New Scientist о пространстве возможных разумов Шанахана:
«Однажды мы можем обнаружить, что живем бок о бок с инопланетянами и ангелами».
#Разум #Сознание #Понимание
Эволюция превратила людей в богов - создателей уникальных реальностей.
Известные тысячи лет назад техники медитации основаны на том, что науке открывается лишь теперь.
Череда открытий последних 15 лет в области исследований мозга, разума и сознания привела к поразительному и даже обидному выводу.
Многое из того, что мы думали, будто знаем о работе нашего разума, мягко говоря, не совсем верно. А по сути – просто ошибочно.
Наш мозг работает совсем не так, как представлялось науке раньше. Нет в нем специализированных областей и слоев «геологических отложений» разных этапов эволюции. Мозг — это обширная непрерывная сеть кластеров и узлов, а не набор частей, работающих изолированно. Все в работе мозга настолько взаимосвязано, что любая наша мысль, действие или эмоция изменяют, пусть даже незначительно, активность 90% нейронов мозга.
Но это еще не самое поразительное. Самыми потрясающими, на мой взгляд, является три такие вывода.
1) Люди – уже почти как боги: самостоятельно изобретают бОльшую часть той эмоциональной и социальной реальности, в которой потом и живут.
• Нет в мозге специфических эволюционно запрограммированных рефлекторных цепей для древних и универсальных базовых эмоции (страха, ярости, счастья, печали и т. д.), возникших в результате эволюционных приспособлений к условиям нашего палеолитического прошлого. Идея о том, что существуют универсальные эмоции, общие для всех людей, в основном является мифом. Многие эмоции, которые мы считали универсальными, оказываются разными в разных культурах.
• То же касается и, казалось бы, универсальных понятий (гнев, отвращение и т.д.) - инструментов, которые наш мозг использует для угадывания значения входящих сенсорных сигналов. Напр. бушмены Кунг не имеют эмоций и понятия страха.
• Для химика реальность — это молекулы, атомы и протоны. Для физика — это кварки или бозоны Хиггса. Предполагается, что они существуют в мире независимо от присутствия людей, то есть считаются независимыми от воспринимающих категорий. Но эволюция дала нашему разуму возможность создавать реальность, отличную от независящих от наблюдателя молекул или атомов. Она позволяет нам создавать реальность, которая полностью зависит от наблюдающих ее людей.
2) Единственно что человеку требуется для создания своей реальности – включиться в социо-когнитивную сеть, подключающую его индивидуальный мозг к коллективному мозгу носителей культуры, создающих и увековечивающих её.
• Мы рождаемся в тремя «когнитивными гаджетами», позволяющими сформировать три универсальных аспекта разума:
— аффективный реализм (свойство испытывать то, во что верим)
— концепции (кусочки «лего мира», в которые мозг превращает все, что видит, слышит, чувствует)
— социальная реальность, увязывающая наш мозг с разумом других, с тем социальным миром, который создали другие.
• Быть человеком требует культурного контекста человеческого общения посредством жестов и языка, которые сохраняются, изменяются и передаются последующими поколениями. Мы становимся культурными гаджетами наших когнитивных гаджетов.
• В результате этого, мы изобретаем нашу собственную социальную реальность или ту, в которой мы хотим жить. И пока достаточное количество людей синхронизируется с нами, чтобы изобрести подобную реальность, у нас все получается. Мы тщательно выбираем, какие иллюзии считать правдой, а какие фальшивкой, какую религию считать истинной, а какую ересью.
— Для тех из нас, кто считает, что выборы 2020 года были украдены, а Трамп — настоящий президент, это так. А для включенных в другую социо-когнитивную сеть реальность противоположна.
3) Но самое, наверное, поразительное – что оба пункта 1 и 2, открытые лишь в последние 15 лет, известны уже тысячи лет в качестве основ 3-х техник медитации.
Подробней читайте лекцию почетного профессора молекулярной биологии и зоологии, директора программы по биологии разума Дерика Боундса.
Лучшая из лекций о разуме за последнюю пару лет.
#Разум #Страх #Эмоции
Известные тысячи лет назад техники медитации основаны на том, что науке открывается лишь теперь.
Череда открытий последних 15 лет в области исследований мозга, разума и сознания привела к поразительному и даже обидному выводу.
Многое из того, что мы думали, будто знаем о работе нашего разума, мягко говоря, не совсем верно. А по сути – просто ошибочно.
Наш мозг работает совсем не так, как представлялось науке раньше. Нет в нем специализированных областей и слоев «геологических отложений» разных этапов эволюции. Мозг — это обширная непрерывная сеть кластеров и узлов, а не набор частей, работающих изолированно. Все в работе мозга настолько взаимосвязано, что любая наша мысль, действие или эмоция изменяют, пусть даже незначительно, активность 90% нейронов мозга.
Но это еще не самое поразительное. Самыми потрясающими, на мой взгляд, является три такие вывода.
1) Люди – уже почти как боги: самостоятельно изобретают бОльшую часть той эмоциональной и социальной реальности, в которой потом и живут.
• Нет в мозге специфических эволюционно запрограммированных рефлекторных цепей для древних и универсальных базовых эмоции (страха, ярости, счастья, печали и т. д.), возникших в результате эволюционных приспособлений к условиям нашего палеолитического прошлого. Идея о том, что существуют универсальные эмоции, общие для всех людей, в основном является мифом. Многие эмоции, которые мы считали универсальными, оказываются разными в разных культурах.
• То же касается и, казалось бы, универсальных понятий (гнев, отвращение и т.д.) - инструментов, которые наш мозг использует для угадывания значения входящих сенсорных сигналов. Напр. бушмены Кунг не имеют эмоций и понятия страха.
• Для химика реальность — это молекулы, атомы и протоны. Для физика — это кварки или бозоны Хиггса. Предполагается, что они существуют в мире независимо от присутствия людей, то есть считаются независимыми от воспринимающих категорий. Но эволюция дала нашему разуму возможность создавать реальность, отличную от независящих от наблюдателя молекул или атомов. Она позволяет нам создавать реальность, которая полностью зависит от наблюдающих ее людей.
2) Единственно что человеку требуется для создания своей реальности – включиться в социо-когнитивную сеть, подключающую его индивидуальный мозг к коллективному мозгу носителей культуры, создающих и увековечивающих её.
• Мы рождаемся в тремя «когнитивными гаджетами», позволяющими сформировать три универсальных аспекта разума:
— аффективный реализм (свойство испытывать то, во что верим)
— концепции (кусочки «лего мира», в которые мозг превращает все, что видит, слышит, чувствует)
— социальная реальность, увязывающая наш мозг с разумом других, с тем социальным миром, который создали другие.
• Быть человеком требует культурного контекста человеческого общения посредством жестов и языка, которые сохраняются, изменяются и передаются последующими поколениями. Мы становимся культурными гаджетами наших когнитивных гаджетов.
• В результате этого, мы изобретаем нашу собственную социальную реальность или ту, в которой мы хотим жить. И пока достаточное количество людей синхронизируется с нами, чтобы изобрести подобную реальность, у нас все получается. Мы тщательно выбираем, какие иллюзии считать правдой, а какие фальшивкой, какую религию считать истинной, а какую ересью.
— Для тех из нас, кто считает, что выборы 2020 года были украдены, а Трамп — настоящий президент, это так. А для включенных в другую социо-когнитивную сеть реальность противоположна.
3) Но самое, наверное, поразительное – что оба пункта 1 и 2, открытые лишь в последние 15 лет, известны уже тысячи лет в качестве основ 3-х техник медитации.
Подробней читайте лекцию почетного профессора молекулярной биологии и зоологии, директора программы по биологии разума Дерика Боундса.
Лучшая из лекций о разуме за последнюю пару лет.
#Разум #Страх #Эмоции
Открыт механизм формирования у людей хардвера для сверхразума.
Загадка творения Homo sapiens в замене всего лишь одной аминокислоты.
Разгадка механизма, позволившего человеку превратиться из разумного животного в богоподобного творца, - наиглавнейший вызов для человечества.
Эта разгадка
• не только приблизит нас к пониманию истоков способности людей к неограниченному познанию, ведущему к созданию новых миров и заселению их новыми разумными сущностями;
• но и позволит, хотя бы частично, попытаться реализовать эту способность в ИИ, что стало бы прорывом в науке и технологиях.
Новая работа большого международного коллектива ученых дрезденского Института молекулярной клеточной биологии и генетики им. Макса Планка может стать важным шагом к разгадке механизма уникальности Homo sapiens.
Причем разгадки просто поразительной. Уникальность разума людей может проистекать из всего одного изменения аминокислоты в белке TKTL1, участвующего в генерации неокортекса.
Говоря понятным языком, у людей имеется куда более мощный генератор производства нейронов (нейрогенеза) неокортекса, чем у неандертальцев, динисовцев, прочих вымерших архаичных людей и приматов).
В результате этого, обладая примерно теми же размерами мозга и неокортекса (как у неандертальцев и пр.), люди оказались обладателями механизма построения у них в мозге куда более мощного нейронного вычислителя (типа, суперкомпьютера вместо лаптопа).
Открытый механизм формирования у людей хардвера для сверхразума поражает своей прорывной инновационностью.
✔️ Этот механизм гениально прост.
✔️ Он связан с минимальной генетической корректировкой уже существующего биологического вида, меняющей его дальнейшую эволюционную траекторию в сторону превращения в потенциально сверхразумное существо.
✔️ Он рассчитан на воплощение при любых вариантах развития событий на временном горизонте в несколько миллионов лет (поскольку в реальной истории Земли это заняло примерно 6 млн. лет).
О подобном гениально простом и сверхэффективном способе запуска антропогенеза, я писал в гипотетическом сценарии версии великого фантаста Артура Кларка, экранизированной гениальным Стэнли Кубриком в лучшем фантастическом фильме всех времен и народов «2001: Космическая одиссея».
Ну а то, насколько природа непостижимо шедевральна в инновационности своих решений, мы уже видели. Например, в отыскании оптимального принципа упаковки нейронов в мозге птиц, позволяющего упаковывать в 2 раза больше нейронов, чем такой же по массе мозг приматов, и в 4 раза больше, чем мозг грызунов.
В заключение стоит добавить, что новое объяснение человеческой уникальности минимальным генетическим отличием от ближайших родственников гораздо элегантней, чем предыдущее.
Напомню: тогда речь шла о двух уникальных мутациях т.н. «гена речи» FOXP2 якобы позволивших человеку качественно оторваться от всего живого, превратившись в единственное на Земле существо, способное членораздельно говорить. Эта гипотеза доминировала с 2002, но в 2018 была опровергнута – такой же как у нас вариант этого гена был обнаружен и у неандертальца.
Теперь же все предельно логично:
потенциальная вычислительная мощность компьютера в мозге Homo sapience оказался куда выше, чем у неандертальцев.
#Интеллект #Разум #Мозг #Эволюция
Загадка творения Homo sapiens в замене всего лишь одной аминокислоты.
Разгадка механизма, позволившего человеку превратиться из разумного животного в богоподобного творца, - наиглавнейший вызов для человечества.
Эта разгадка
• не только приблизит нас к пониманию истоков способности людей к неограниченному познанию, ведущему к созданию новых миров и заселению их новыми разумными сущностями;
• но и позволит, хотя бы частично, попытаться реализовать эту способность в ИИ, что стало бы прорывом в науке и технологиях.
Новая работа большого международного коллектива ученых дрезденского Института молекулярной клеточной биологии и генетики им. Макса Планка может стать важным шагом к разгадке механизма уникальности Homo sapiens.
Причем разгадки просто поразительной. Уникальность разума людей может проистекать из всего одного изменения аминокислоты в белке TKTL1, участвующего в генерации неокортекса.
Говоря понятным языком, у людей имеется куда более мощный генератор производства нейронов (нейрогенеза) неокортекса, чем у неандертальцев, динисовцев, прочих вымерших архаичных людей и приматов).
В результате этого, обладая примерно теми же размерами мозга и неокортекса (как у неандертальцев и пр.), люди оказались обладателями механизма построения у них в мозге куда более мощного нейронного вычислителя (типа, суперкомпьютера вместо лаптопа).
Открытый механизм формирования у людей хардвера для сверхразума поражает своей прорывной инновационностью.
✔️ Этот механизм гениально прост.
✔️ Он связан с минимальной генетической корректировкой уже существующего биологического вида, меняющей его дальнейшую эволюционную траекторию в сторону превращения в потенциально сверхразумное существо.
✔️ Он рассчитан на воплощение при любых вариантах развития событий на временном горизонте в несколько миллионов лет (поскольку в реальной истории Земли это заняло примерно 6 млн. лет).
О подобном гениально простом и сверхэффективном способе запуска антропогенеза, я писал в гипотетическом сценарии версии великого фантаста Артура Кларка, экранизированной гениальным Стэнли Кубриком в лучшем фантастическом фильме всех времен и народов «2001: Космическая одиссея».
Ну а то, насколько природа непостижимо шедевральна в инновационности своих решений, мы уже видели. Например, в отыскании оптимального принципа упаковки нейронов в мозге птиц, позволяющего упаковывать в 2 раза больше нейронов, чем такой же по массе мозг приматов, и в 4 раза больше, чем мозг грызунов.
В заключение стоит добавить, что новое объяснение человеческой уникальности минимальным генетическим отличием от ближайших родственников гораздо элегантней, чем предыдущее.
Напомню: тогда речь шла о двух уникальных мутациях т.н. «гена речи» FOXP2 якобы позволивших человеку качественно оторваться от всего живого, превратившись в единственное на Земле существо, способное членораздельно говорить. Эта гипотеза доминировала с 2002, но в 2018 была опровергнута – такой же как у нас вариант этого гена был обнаружен и у неандертальца.
Теперь же все предельно логично:
потенциальная вычислительная мощность компьютера в мозге Homo sapience оказался куда выше, чем у неандертальцев.
#Интеллект #Разум #Мозг #Эволюция
Самый интригующий прорыв прошедшего года в науке об ИИ лежит вовсе не в области глубокого обучения 2.0 (ИИ-чатботы больших языковых моделей и ИИ-генераторы изображений), а в области инженерного ксеногенезиса – проектирование иного разума путем создания самосознающих себя роботов. Есть веские основания считать, что именно этот путь может привести к созданию сильного ИИ (AGI) – сверхзадаче науки 21-го века.
Прорыв, совершенный в Creative Machines Lab Колумбийского университета, заключается в успешном инженерном переложении с последующим практическим воплощением базовых положений трёх самых передовых современных междисциплинарных теорий: концепции прогнозирующего разума, принципа свободной энергии и концепции сознания как чувства.
О том, что и как было сделано, читайте в маленьком лонгриде всего на 6 мин чтения:
- на Medium http://bit.ly/3XihY2c
- на Дзене https://clck.ru/33HNev
#Сознание #Разум #AGI
Прорыв, совершенный в Creative Machines Lab Колумбийского университета, заключается в успешном инженерном переложении с последующим практическим воплощением базовых положений трёх самых передовых современных междисциплинарных теорий: концепции прогнозирующего разума, принципа свободной энергии и концепции сознания как чувства.
О том, что и как было сделано, читайте в маленьком лонгриде всего на 6 мин чтения:
- на Medium http://bit.ly/3XihY2c
- на Дзене https://clck.ru/33HNev
#Сознание #Разум #AGI
Medium
Интрига года — инженерный ксеногенезис
Приведет ли создание осознающего себя робота к AGI?
Фундаментальное переосмысление того, что такое разум и как работает мозг.
Три кита современной нейронауки противоречат эмпирическим данным и должны быть пересмотрены.
Опубликованный на прошлой неделе «Меморандум Баррет» - это призыв к «мировой революции» в научных представлениях о связи мозга, тела и разума.
Главного закоперщика меморандума, полагаю, представлять не нужно. Лиза Фельдман Барретт – одна из самых известных в мире современных нейроученых и психологов, заслуженный профессор, содиректор Междисциплинарной лаборатории аффективных наук, Основной член Института экспериментального искусственного интеллекта и автор супербестселлеров о мозге и эмоциях.
Кроме нее, меморандум подписали профессора, доценты и доктора наук из 13 университетов и научных центров США.
Авторы меморандума пишут о следующем.
А. Изучение взаимосвязей между мозгом и поведением до сего времени основывалось на трех основополагающих предположениях, которые ставятся под сомнение эмпирическими данными, полученными в результате визуализации человеческого мозга и нейробиологических исследований на животных.
1) Предположение о локализации: считается, что категории психологических событий (например, случаи страха), вызываются одним специальным психологическим процессом, реализованным в специальном нейронном ансамбле
2) Предположение «один к одному»: считается, что выделенный нейронный ансамбль однозначно отображает эту психологическую категорию, так что отображение обобщает контексты, людей, стратегии измерения и планы экспериментов.
3) Предположение о независимости: считается, что выделенный нейронный ансамбль функционирует независимо от контекстуальных факторов (таких как остальная часть мозга, тело и окружающий мир), и поэтому ансамбль можно изучать отдельно, не обращая внимания на эти другие факторы (т.е. контекстные факторы могут сдерживать активность нейронного ансамбля, но не должны коренным образом изменять его сопоставление с экземплярами психологической категории).
Б. Эти три допущения ошибочны, поскольку они коренятся в типологическом взгляде на разум, мозг и поведение, который был смоделирован на основе физики 19-го века и по сей день продолжает определять экспериментальную практику в большинстве исследований мозга и поведения.
В. Предлагаемый авторами альтернативный подход к пониманию взаимосвязи мозга и поведения подтверждается эмпирическими данными и предоставляет новые возможности для открытий.
В основе альтернативного подхода, который авторы назвали гипотеза сложности мозга, предположение, что мозг представляет собой сложную систему, на которую постоянно влияют входные сигналы от тела и мира. И что мозг создает разум посредством своих постоянных взаимодействий со своим телом, своим физическим окружением и с другими «отелесненными мозгами», входящими в его «социальный мир».
Предлагаемый авторами альтернативный подход кардинально отличается от существующего мейнстримного подхода.
• Последний основан на метафоре машины, подразумевающей, что систему можно разбить на независимые, отделимые механизмы, где каждый механизм можно изучать независимо друг от друга.
• Но многие области биологии показали, что биологические системы нельзя изучать как независимые механизмы, потому что функции систем возникают в результате коллективного взаимодействия их частей.
• Поэтому нейробиологи должны рассматривать мозг как сложную систему, функции которой возникают в результате динамических взаимодействий между нейронами, глиальными клетками и другими биологическими элементами.
• Авторы считают, что ментальные события возникают из-за сложного ансамбля сигналов, распределенных по всему мозгу, а также от сенсорных поверхностей тела, которые информируют о состояниях тела и внешнего мира. Как результат этого, конкретная психологическая категория (например, страх), даже в одном и том же контексте, может отображаться более чем одним ансамблем сигналов.
#Мозг #Разум
Три кита современной нейронауки противоречат эмпирическим данным и должны быть пересмотрены.
Опубликованный на прошлой неделе «Меморандум Баррет» - это призыв к «мировой революции» в научных представлениях о связи мозга, тела и разума.
Главного закоперщика меморандума, полагаю, представлять не нужно. Лиза Фельдман Барретт – одна из самых известных в мире современных нейроученых и психологов, заслуженный профессор, содиректор Междисциплинарной лаборатории аффективных наук, Основной член Института экспериментального искусственного интеллекта и автор супербестселлеров о мозге и эмоциях.
Кроме нее, меморандум подписали профессора, доценты и доктора наук из 13 университетов и научных центров США.
Авторы меморандума пишут о следующем.
А. Изучение взаимосвязей между мозгом и поведением до сего времени основывалось на трех основополагающих предположениях, которые ставятся под сомнение эмпирическими данными, полученными в результате визуализации человеческого мозга и нейробиологических исследований на животных.
1) Предположение о локализации: считается, что категории психологических событий (например, случаи страха), вызываются одним специальным психологическим процессом, реализованным в специальном нейронном ансамбле
2) Предположение «один к одному»: считается, что выделенный нейронный ансамбль однозначно отображает эту психологическую категорию, так что отображение обобщает контексты, людей, стратегии измерения и планы экспериментов.
3) Предположение о независимости: считается, что выделенный нейронный ансамбль функционирует независимо от контекстуальных факторов (таких как остальная часть мозга, тело и окружающий мир), и поэтому ансамбль можно изучать отдельно, не обращая внимания на эти другие факторы (т.е. контекстные факторы могут сдерживать активность нейронного ансамбля, но не должны коренным образом изменять его сопоставление с экземплярами психологической категории).
Б. Эти три допущения ошибочны, поскольку они коренятся в типологическом взгляде на разум, мозг и поведение, который был смоделирован на основе физики 19-го века и по сей день продолжает определять экспериментальную практику в большинстве исследований мозга и поведения.
В. Предлагаемый авторами альтернативный подход к пониманию взаимосвязи мозга и поведения подтверждается эмпирическими данными и предоставляет новые возможности для открытий.
В основе альтернативного подхода, который авторы назвали гипотеза сложности мозга, предположение, что мозг представляет собой сложную систему, на которую постоянно влияют входные сигналы от тела и мира. И что мозг создает разум посредством своих постоянных взаимодействий со своим телом, своим физическим окружением и с другими «отелесненными мозгами», входящими в его «социальный мир».
Предлагаемый авторами альтернативный подход кардинально отличается от существующего мейнстримного подхода.
• Последний основан на метафоре машины, подразумевающей, что систему можно разбить на независимые, отделимые механизмы, где каждый механизм можно изучать независимо друг от друга.
• Но многие области биологии показали, что биологические системы нельзя изучать как независимые механизмы, потому что функции систем возникают в результате коллективного взаимодействия их частей.
• Поэтому нейробиологи должны рассматривать мозг как сложную систему, функции которой возникают в результате динамических взаимодействий между нейронами, глиальными клетками и другими биологическими элементами.
• Авторы считают, что ментальные события возникают из-за сложного ансамбля сигналов, распределенных по всему мозгу, а также от сенсорных поверхностей тела, которые информируют о состояниях тела и внешнего мира. Как результат этого, конкретная психологическая категория (например, страх), даже в одном и том же контексте, может отображаться более чем одним ансамблем сигналов.
#Мозг #Разум
Необратимость вместо сингулярности.
Люди безвозвратно меняют способ формирования своего разума.
«Наши бабушки и дедушки делали ужасные вещи. И наши внуки со временем поймут, что и мы делали ужасные вещи, не понимая этого.»
Эту точную и откровенную оценку возможных последствий происходящей социо-технологической революции (символом которой стал ChatGPT) на днях сформулировал Сэм Альтман – гендир компании OpenAI, создавшей ChatGPT.
Дело здесь вот в чем.
✔️ Наши деды и еще сотни поколений формировали свой разум (постигая картину мира и научаясь тысячам вещей), ежедневно задавая десятки и сотни вопросов индивидам, достижимым в своей коммуникационно-знаниевой среде: родным и близким, друзьям и разнообразным профессионалам (наставникам, учителям, мастерам в своем деле и т.д.)
✔️ В 21 веке, в результате существенного расширения коммуникационно-знаниевой среды сетью Интернет, разум поколения Z стал формироваться иначе. Стало возможным задавать вопросы не только разнообразным индивидам, но и коллективному разуму, формируемому с помощью поисковиков, соцсетей, рекомендательных систем и т.д.
✔️ Такой способ формирования разума использовался всего лишь одним поколением. И насколько оно отлично от предыдущих, видно невооруженным глазом. Но с распространением генеративных диалоговых ИИ (ChatGPT и пр.) способ формирования разума вновь начал кардинально меняться. Теперь это будет происходить в процессе все того же задавания вопросов. Но отвечать на них теперь будут уже не только индивиды и коллективный разум людей, но и генеративные диалоговые ИИ. А поскольку последние будут развиваться несравнимо быстрее индивидов и их коллективного разума, то со временем влияние генеративных диалоговых ИИ на формирование разума людей станет доминирующим.
В результате такого изменения способа формирования разума:
• люди будут превращаться в новый подвид Homo sapiens – инфоргов
• и будут меняться существующие на Земле типы культуры, переходя в новую алгокогнитивную форму;
Таким образом, не дожидаясь наступления техносингулярности (которая, возможно, вообще не наступит из-за принципиальной неповторимости интеллекта людей), придет необратимость изменения человечества.
И вместо «невообразимого ужаса» порабощения самих людей машинным сверхинтеллектом, наступит эра «неослабевающей банализации» их сознания генеративными диалоговыми ИИ, - тупыми как пробка и ничего в мире не понимающими, но способными стать необоримыми ментальными вирусами, банализирующими сознание человечества.
Увы, но окончательно это поймут лишь наши внуки. Хотя наиболее тонко чувствующие профессионалы искусства уже движутся к такому пониманию.
#Вызовы21века #РискиИИ #Разум #АлгокогнитивнаяКультура
Люди безвозвратно меняют способ формирования своего разума.
«Наши бабушки и дедушки делали ужасные вещи. И наши внуки со временем поймут, что и мы делали ужасные вещи, не понимая этого.»
Эту точную и откровенную оценку возможных последствий происходящей социо-технологической революции (символом которой стал ChatGPT) на днях сформулировал Сэм Альтман – гендир компании OpenAI, создавшей ChatGPT.
Дело здесь вот в чем.
✔️ Наши деды и еще сотни поколений формировали свой разум (постигая картину мира и научаясь тысячам вещей), ежедневно задавая десятки и сотни вопросов индивидам, достижимым в своей коммуникационно-знаниевой среде: родным и близким, друзьям и разнообразным профессионалам (наставникам, учителям, мастерам в своем деле и т.д.)
✔️ В 21 веке, в результате существенного расширения коммуникационно-знаниевой среды сетью Интернет, разум поколения Z стал формироваться иначе. Стало возможным задавать вопросы не только разнообразным индивидам, но и коллективному разуму, формируемому с помощью поисковиков, соцсетей, рекомендательных систем и т.д.
✔️ Такой способ формирования разума использовался всего лишь одним поколением. И насколько оно отлично от предыдущих, видно невооруженным глазом. Но с распространением генеративных диалоговых ИИ (ChatGPT и пр.) способ формирования разума вновь начал кардинально меняться. Теперь это будет происходить в процессе все того же задавания вопросов. Но отвечать на них теперь будут уже не только индивиды и коллективный разум людей, но и генеративные диалоговые ИИ. А поскольку последние будут развиваться несравнимо быстрее индивидов и их коллективного разума, то со временем влияние генеративных диалоговых ИИ на формирование разума людей станет доминирующим.
В результате такого изменения способа формирования разума:
• люди будут превращаться в новый подвид Homo sapiens – инфоргов
• и будут меняться существующие на Земле типы культуры, переходя в новую алгокогнитивную форму;
Таким образом, не дожидаясь наступления техносингулярности (которая, возможно, вообще не наступит из-за принципиальной неповторимости интеллекта людей), придет необратимость изменения человечества.
И вместо «невообразимого ужаса» порабощения самих людей машинным сверхинтеллектом, наступит эра «неослабевающей банализации» их сознания генеративными диалоговыми ИИ, - тупыми как пробка и ничего в мире не понимающими, но способными стать необоримыми ментальными вирусами, банализирующими сознание человечества.
Увы, но окончательно это поймут лишь наши внуки. Хотя наиболее тонко чувствующие профессионалы искусства уже движутся к такому пониманию.
#Вызовы21века #РискиИИ #Разум #АлгокогнитивнаяКультура
Люди — не машины с развитым ИИ, а нечто куда большее.
Но к сожалению, большинство людей понимает это куда хуже, чем машины с ИИ.
Ночной разговор почетного профессора молекулярной биологии и зоологии, директора программы по биологии разума Дерика Боундса с ChatGPT о том, чем мы отличаемся от машин с ИИ.
Этой ночью одному из самых уважаемых мною интеллектуалов профессору Дерику Боундсу не спалось. И он решил провести интереснейший эксперимент.
Что если попросить ChatGPT путем редактуры улучшить написанный профессором текст о сходстве и различии людей и высокоинтеллектуальных машин, типа самого ChatGPT?
• Целью этого эксперимента было выяснение «интеллектуальных преференций редактора» в этом сложном и важном вопросе.
• Интересно было посмотреть, что в ходе мысли профессора «редактор» посчитает нужным акцентировать, как наиболее важное?
Итог поразителен. О чем Дерик Боундс сразу же написал по утру в своем блоге.
Две ключевые мысли исходного текста профессора были такие.
1) Мысль о значительном подобии интеллекта людей и ChatGPT, работающих на примерно одинаковых «вычислительных движках» машинного обучения.
2) Мысль о роли опыта «проживания» агентом в сложной среде, формируемом под влиянием эволюционирующих генетических программ.
Обе эти мысли полностью сохранились при редактировании ChatGPT.
Но результирующим «сухим остатком» текста стала следующая мысль (именно ее ChatGPT «прочел между строк» в тексте профессора и решил акцентировать).
Люди принципиально отличаются от машин с ИИ.
• Лишь понимая это, люди могут по-настоящему реализовать потенциал ИИ, как инструмента человеческого прогресса.
• Тогда как непонимание уникальных характеристик, делающих людей людьми, чревато разнообразными неприятностями для человечества.
Что ж, ChatGPT показал себя весьма проницательным в ходе этого эксперименте.
И то ли он «от природы» столь умен, то ли это плод феноменальной начитанности.
Хотя вряд ли последнее. Ведь он обучен на содержании сети до осени 2021. И потому не должен знать о лекции на эту тему, прочитанной осенью 2022 профессором Боундсом (имхо, лучшей лекции о разуме за последнюю пару лет, о чем я писал в посте «Эволюция превратила людей в богов - создателей уникальных реальностей»)
#ИИ #LLM #Разум
Но к сожалению, большинство людей понимает это куда хуже, чем машины с ИИ.
Ночной разговор почетного профессора молекулярной биологии и зоологии, директора программы по биологии разума Дерика Боундса с ChatGPT о том, чем мы отличаемся от машин с ИИ.
Этой ночью одному из самых уважаемых мною интеллектуалов профессору Дерику Боундсу не спалось. И он решил провести интереснейший эксперимент.
Что если попросить ChatGPT путем редактуры улучшить написанный профессором текст о сходстве и различии людей и высокоинтеллектуальных машин, типа самого ChatGPT?
• Целью этого эксперимента было выяснение «интеллектуальных преференций редактора» в этом сложном и важном вопросе.
• Интересно было посмотреть, что в ходе мысли профессора «редактор» посчитает нужным акцентировать, как наиболее важное?
Итог поразителен. О чем Дерик Боундс сразу же написал по утру в своем блоге.
Две ключевые мысли исходного текста профессора были такие.
1) Мысль о значительном подобии интеллекта людей и ChatGPT, работающих на примерно одинаковых «вычислительных движках» машинного обучения.
2) Мысль о роли опыта «проживания» агентом в сложной среде, формируемом под влиянием эволюционирующих генетических программ.
Обе эти мысли полностью сохранились при редактировании ChatGPT.
Но результирующим «сухим остатком» текста стала следующая мысль (именно ее ChatGPT «прочел между строк» в тексте профессора и решил акцентировать).
Люди принципиально отличаются от машин с ИИ.
• Лишь понимая это, люди могут по-настоящему реализовать потенциал ИИ, как инструмента человеческого прогресса.
• Тогда как непонимание уникальных характеристик, делающих людей людьми, чревато разнообразными неприятностями для человечества.
Что ж, ChatGPT показал себя весьма проницательным в ходе этого эксперименте.
И то ли он «от природы» столь умен, то ли это плод феноменальной начитанности.
Хотя вряд ли последнее. Ведь он обучен на содержании сети до осени 2021. И потому не должен знать о лекции на эту тему, прочитанной осенью 2022 профессором Боундсом (имхо, лучшей лекции о разуме за последнюю пару лет, о чем я писал в посте «Эволюция превратила людей в богов - создателей уникальных реальностей»)
#ИИ #LLM #Разум
mindblog.dericbownds.net
Humans are more than AI machines - OpenAI's chatGPT edits a MindBlog preliminary draft
I am feeling majorly freaked out now. .. I asked ChatGPT to improve one of the draft paragraphs that I mentioned in this past Tuesday's post...
Гипотеза о сингулярности человеческого мозга может совершить тройной переворот в науке
Эта гипотеза Станисласа Деана (профессора Коллеж де Франс, директора INSERM 562 «Когнитивная нейровизуализация», Президента Национального научного совета по образованию, члена самых престижных академий наук мира и лауреата всевозможных орденов и премий в области мозга и когнитивных наук) способна перевернуть мир трижды.
• 1й переворот связан с объяснением «богоподобности» человека – сингулярности его мозга (абсолютной уникальности, неповторимости, своеобразии, необыкновенности …), качественно отличающей нас и ото всех животных (включая самых умных), и от машинного разума больших языковых моделей, типа ChatGPT.
• 2й переповорот возникает вследствие прорыва в понимании сакраментального вопроса – что из себя представляет «язык мыслей»;
• 3й переворот связан с объяснением природы ограничений машинного разума больших языковых моделей, не позволяющих им при любом масштабировании превратиться в человекоподобный разумом (см. примечание в конце поста).
Суть «Гипотезы о сингулярности человеческого мозга» в следующем.
✔️ Наш мозг - полиглот, использующий не единственный «язык мыслей» (внутренний язык мышления), а множество таких языков, кодирующих и сжимающих инфоструктуры в различных областях (математика, музыка, форма...).
✔️ Человеческое мышление способно порождать новые языки, оперирующие дискретными символическими моделями.
✔️ Люди характеризуются специфической способностью присоединять дискретные символы к ментальным представлениям и объединять эти символы во вложенные рекурсивные структуры, называемые «ментальными программами».
Проф. Деан с коллегами экспериментально подтвердили валидность «Гипотезы о сингулярности человеческого мозга», инструментально демонстрируя наличие чувства геометрической сложности уже у человеческих младенцев, при отсутствии этого чувства у взрослых бабуинов даже после обучения.
Видео лекции проф. Деан, прочитанной им на British Neuroscience Association 2023, только что выложено в сеть.
Краткое изложение «Гипотезы о сингулярности человеческого мозга» опубликовано в Trends in Cognitive Sciences.
Детальное описание см. в диссертации Матиаса Сабле-Мейера (научный руководитель Станислас Деан).
Важное примечание.
Тот факт, что генеративный ИИ больших языковых моделей – это нечеловеческий интеллект, не овладевший (как минимум, пока) всем разнообразием «языков мыслей» людей, вовсе не помешает такому ИИ:
• помнить недоступные для людей объемы информации;
• оперировать информацией с недоступной для людей скоростью;
• учиться с недостижимой для людей эффективностью:
• проявлять нечеловеческие способности, сопоставимые и превосходящие многие из способностей людей.
Так что важно не расслабляться.
Как говорит проф. Деан «Не время быть идиотами, ИИ может победить людей»
#Мозг #Разум
Эта гипотеза Станисласа Деана (профессора Коллеж де Франс, директора INSERM 562 «Когнитивная нейровизуализация», Президента Национального научного совета по образованию, члена самых престижных академий наук мира и лауреата всевозможных орденов и премий в области мозга и когнитивных наук) способна перевернуть мир трижды.
• 1й переворот связан с объяснением «богоподобности» человека – сингулярности его мозга (абсолютной уникальности, неповторимости, своеобразии, необыкновенности …), качественно отличающей нас и ото всех животных (включая самых умных), и от машинного разума больших языковых моделей, типа ChatGPT.
• 2й переповорот возникает вследствие прорыва в понимании сакраментального вопроса – что из себя представляет «язык мыслей»;
• 3й переворот связан с объяснением природы ограничений машинного разума больших языковых моделей, не позволяющих им при любом масштабировании превратиться в человекоподобный разумом (см. примечание в конце поста).
Суть «Гипотезы о сингулярности человеческого мозга» в следующем.
✔️ Наш мозг - полиглот, использующий не единственный «язык мыслей» (внутренний язык мышления), а множество таких языков, кодирующих и сжимающих инфоструктуры в различных областях (математика, музыка, форма...).
✔️ Человеческое мышление способно порождать новые языки, оперирующие дискретными символическими моделями.
✔️ Люди характеризуются специфической способностью присоединять дискретные символы к ментальным представлениям и объединять эти символы во вложенные рекурсивные структуры, называемые «ментальными программами».
Проф. Деан с коллегами экспериментально подтвердили валидность «Гипотезы о сингулярности человеческого мозга», инструментально демонстрируя наличие чувства геометрической сложности уже у человеческих младенцев, при отсутствии этого чувства у взрослых бабуинов даже после обучения.
Видео лекции проф. Деан, прочитанной им на British Neuroscience Association 2023, только что выложено в сеть.
Краткое изложение «Гипотезы о сингулярности человеческого мозга» опубликовано в Trends in Cognitive Sciences.
Детальное описание см. в диссертации Матиаса Сабле-Мейера (научный руководитель Станислас Деан).
Важное примечание.
Тот факт, что генеративный ИИ больших языковых моделей – это нечеловеческий интеллект, не овладевший (как минимум, пока) всем разнообразием «языков мыслей» людей, вовсе не помешает такому ИИ:
• помнить недоступные для людей объемы информации;
• оперировать информацией с недоступной для людей скоростью;
• учиться с недостижимой для людей эффективностью:
• проявлять нечеловеческие способности, сопоставимые и превосходящие многие из способностей людей.
Так что важно не расслабляться.
Как говорит проф. Деан «Не время быть идиотами, ИИ может победить людей»
#Мозг #Разум
YouTube
Stanislas Dehaene - Symbols and languages: A hypothesis about human singularity
Symbols and languages: A hypothesis about human singularity
Speaker: Stanislas Dehaene, NeuroSpin, France
Anatomy and function of the prefrontal cortex across species
14-16 March 2023
Paris, France
Follow us:
Facebook: @hbpeducation
Twitter: @HBP_Education…
Speaker: Stanislas Dehaene, NeuroSpin, France
Anatomy and function of the prefrontal cortex across species
14-16 March 2023
Paris, France
Follow us:
Facebook: @hbpeducation
Twitter: @HBP_Education…
ИИ за 5 минут решил задачу, на которую у эволюции ушло 50 млн лет.
Эксперимент по сравнению трёх типов разума: ИИ, муравьев и людей.
Результат эксперимента поражает и заставляет задуматься.
При решении задачи принятия решений в условиях неопределенности:
1. ИИ уступил интеллекту людей и роевому интеллекту муравьев.
2. Но ИИ решил задачу в 5 триллионов раз быстрее эволюции.
3. Однако, ИИ смог решить задачу лишь под руководством человека из-за двух крайне слабых компетенций в основе понимания, характерных для больших языковых моделей (LLM):
- вывод и конструирование моделей целеполагания биологических существ;
- вывод и конструирование моделей причинно-следственных связей в мире из собственного опыта воплощенного существования.
По сути, ИИ решил задачу, используя лишь «компетентность без понимания» - т.е. две имеющиеся у него чрезвычайно развитые компетенции: лингвистическую и вычислительную.
Но если у LLM появятся две вышеназванные компетенции в основе понимания, LLM качественно превзойдут любой биологический интеллект.
Эксперимент заключался в решении задачи принятия решений в условиях неопределенности из класса задач «бюджетирования»: ограничения ресурсов (времени), которые агент готов потратить на поиск лучшего варианта, прежде чем согласиться на худший.
Например.
• Вы въехали в плохо освещенную длинную стоянку автомобилей, выход из которой на противоположном от входа конце.
• Можно занять первое увиденное свободное место прямо у въезда на стоянку. Но тогда придется идти пешком через всю стоянку к выходу.
• Можно пытаться найти место как можно ближе к выходу. Но движение назад на стоянке запрещено. И если вы проехали последнее ближайшее к выходу свободное место, вы останетесь ни с чем – придется покинуть стоянку.
• Вам нужен алгоритм «бюджетирования».
С решением подобной задачи люди справляются уже много тысячелетий, а муравьи – миллионы лет.
В недавней работе был исследован алгоритм, используемый муравьями-ткачами для решения задачи этого класса. Он – результат, как минимум, 50 млн лет эволюции этого рода муравьев.
Я решил проверить, найдет ли LLM этот алгоритм? А может предложит другой?
Результат эксперимента вкратце описан в начале этого поста.
Подробности и тексты моего общения с иным разумом LLM, позволяющие увидеть:
✔️ интеллектуальный блеск и колоссальную мощь этого разума,
✔️ наряду с его интеллектуальной нищетой (в сравнении с биологическим разумом)
Продолжить чтение (еще 13 мин, если читать диалог с ИИ, в противном случае - лишь 2 мин):
• на Medium https://bit.ly/3NYbfH8
• на Дзене https://clck.ru/352V6X
#ИнойИнтеллект #Разум #Интеллект #Эволюция
Эксперимент по сравнению трёх типов разума: ИИ, муравьев и людей.
Результат эксперимента поражает и заставляет задуматься.
При решении задачи принятия решений в условиях неопределенности:
1. ИИ уступил интеллекту людей и роевому интеллекту муравьев.
2. Но ИИ решил задачу в 5 триллионов раз быстрее эволюции.
3. Однако, ИИ смог решить задачу лишь под руководством человека из-за двух крайне слабых компетенций в основе понимания, характерных для больших языковых моделей (LLM):
- вывод и конструирование моделей целеполагания биологических существ;
- вывод и конструирование моделей причинно-следственных связей в мире из собственного опыта воплощенного существования.
По сути, ИИ решил задачу, используя лишь «компетентность без понимания» - т.е. две имеющиеся у него чрезвычайно развитые компетенции: лингвистическую и вычислительную.
Но если у LLM появятся две вышеназванные компетенции в основе понимания, LLM качественно превзойдут любой биологический интеллект.
Эксперимент заключался в решении задачи принятия решений в условиях неопределенности из класса задач «бюджетирования»: ограничения ресурсов (времени), которые агент готов потратить на поиск лучшего варианта, прежде чем согласиться на худший.
Например.
• Вы въехали в плохо освещенную длинную стоянку автомобилей, выход из которой на противоположном от входа конце.
• Можно занять первое увиденное свободное место прямо у въезда на стоянку. Но тогда придется идти пешком через всю стоянку к выходу.
• Можно пытаться найти место как можно ближе к выходу. Но движение назад на стоянке запрещено. И если вы проехали последнее ближайшее к выходу свободное место, вы останетесь ни с чем – придется покинуть стоянку.
• Вам нужен алгоритм «бюджетирования».
С решением подобной задачи люди справляются уже много тысячелетий, а муравьи – миллионы лет.
В недавней работе был исследован алгоритм, используемый муравьями-ткачами для решения задачи этого класса. Он – результат, как минимум, 50 млн лет эволюции этого рода муравьев.
Я решил проверить, найдет ли LLM этот алгоритм? А может предложит другой?
Результат эксперимента вкратце описан в начале этого поста.
Подробности и тексты моего общения с иным разумом LLM, позволяющие увидеть:
✔️ интеллектуальный блеск и колоссальную мощь этого разума,
✔️ наряду с его интеллектуальной нищетой (в сравнении с биологическим разумом)
Продолжить чтение (еще 13 мин, если читать диалог с ИИ, в противном случае - лишь 2 мин):
• на Medium https://bit.ly/3NYbfH8
• на Дзене https://clck.ru/352V6X
#ИнойИнтеллект #Разум #Интеллект #Эволюция
Medium
ИИ за 5 минут решил задачу, на которую у эволюции ушло 50 млн лет
Эксперимент по сравнению трёх типов разума: ИИ, муравьев и людей
GPT или кот – кто умнее?
Мы снова наступаем на грабли спесишизма.
Почти за год до появления на свет ChatGPT, я поставил вопрос – как людям преодолеть свой спесишизм (моральный антропоцентризм по отношению к нелюдям)? А спустя менее года мы уже оказались в мире, где, помимо людей, существует пара десятков высокоинтеллектуальных сущностей. И они – не люди, а большие языковые модели (LLM).
Спесишизм, дискриминирующий представителей других видов на основании, якобы, человеческого превосходства в разуме, сознании, познании и т.д. — фундаментальное свойство людей. Это не просто вшитый в сознание «софтвер», а часть нашего неизменимого «хардвера», который не перепрограммировать и не перепрошить.
Многие десятилетия даже в научном мейнстриме царило представление, что человек – венец творения, несопоставимый по своему разуму и наличию сознания ни с одним другим видом. Лишь относительно недавно среди исследователей стала громче звучать противоположная точка зрения.
• Что люди – вовсе не венец творения.
• Что разум видов, эволюционировавших в разной среде обитания (на земле, в воде и в воздухе) устроен сильно по-разному.
• И что сравнение с позиций антропоморфизма различных типов разума даже у видов, обитающих в одной среде (например, людей и котов), весьма условно и малопродуктивно. Ибо с точки зрения эволюционного превосходства, шансы котов выжить на необитаемом острове явно предпочтительней, чем у Робинзона Крузо.
И вот опять, с появлением иного типа разума, обитающего в цифровой среде, люди вновь наступают на грабли спесишизма.
Ведь отличие этого типа разума (а также наличие у него сознания в человеческом понимании), в силу его нематериальности (невоплощенности) и непонятного для нас способа формирования модели окружающего мира (при отсутствии какого-либо собственного чувственного опыта) должно быть куда больше, чем у людей и любых видов животных (обитающих в материальной, а не в цифрой среде).
Идеальным примером очередного наступания на грабли спесишизма стала опубликованная вчера Романом Ямпольским визуализация логики расхождений во мнениях среди ИИ-специалистов по вопросам экзистенциальных рисков ИИ для человечества.
• Первый же вопрос определяет развилку в оценках, станет ли ИИ “smarter” (разумней, умнее, интеллектуальней…) людей.
• И дальше в том же духе – попытки универсальной человеческой линейкой измерить вероятность «попыток ИИ превзойти людей» и «успешность таких попыток».
Постановка подобных вопросов ведет в никуда.
Мы не умнее LLM. И они, даже при достижении ими сверхчеловеческого уровня каких-либо умений, не будут умнее нас. Разум LLM совсем-совсем иной.
А еще точнее, - вообще не использовать по отношению к ним человекоориентированные понятия, типа разума и сознания.
А также стоит не забывать и о наших «меньших и больших братьях». Ибо и они – коты и дельфины, слоны и вороны …, - тоже ни в чем нам не уступают с эволюционной точки зрения. А во многом и превосходят.
#LLM #Интеллект #Разум #Сознание #Эволюция
Мы снова наступаем на грабли спесишизма.
Почти за год до появления на свет ChatGPT, я поставил вопрос – как людям преодолеть свой спесишизм (моральный антропоцентризм по отношению к нелюдям)? А спустя менее года мы уже оказались в мире, где, помимо людей, существует пара десятков высокоинтеллектуальных сущностей. И они – не люди, а большие языковые модели (LLM).
Спесишизм, дискриминирующий представителей других видов на основании, якобы, человеческого превосходства в разуме, сознании, познании и т.д. — фундаментальное свойство людей. Это не просто вшитый в сознание «софтвер», а часть нашего неизменимого «хардвера», который не перепрограммировать и не перепрошить.
Многие десятилетия даже в научном мейнстриме царило представление, что человек – венец творения, несопоставимый по своему разуму и наличию сознания ни с одним другим видом. Лишь относительно недавно среди исследователей стала громче звучать противоположная точка зрения.
• Что люди – вовсе не венец творения.
• Что разум видов, эволюционировавших в разной среде обитания (на земле, в воде и в воздухе) устроен сильно по-разному.
• И что сравнение с позиций антропоморфизма различных типов разума даже у видов, обитающих в одной среде (например, людей и котов), весьма условно и малопродуктивно. Ибо с точки зрения эволюционного превосходства, шансы котов выжить на необитаемом острове явно предпочтительней, чем у Робинзона Крузо.
И вот опять, с появлением иного типа разума, обитающего в цифровой среде, люди вновь наступают на грабли спесишизма.
Ведь отличие этого типа разума (а также наличие у него сознания в человеческом понимании), в силу его нематериальности (невоплощенности) и непонятного для нас способа формирования модели окружающего мира (при отсутствии какого-либо собственного чувственного опыта) должно быть куда больше, чем у людей и любых видов животных (обитающих в материальной, а не в цифрой среде).
Идеальным примером очередного наступания на грабли спесишизма стала опубликованная вчера Романом Ямпольским визуализация логики расхождений во мнениях среди ИИ-специалистов по вопросам экзистенциальных рисков ИИ для человечества.
• Первый же вопрос определяет развилку в оценках, станет ли ИИ “smarter” (разумней, умнее, интеллектуальней…) людей.
• И дальше в том же духе – попытки универсальной человеческой линейкой измерить вероятность «попыток ИИ превзойти людей» и «успешность таких попыток».
Постановка подобных вопросов ведет в никуда.
Мы не умнее LLM. И они, даже при достижении ими сверхчеловеческого уровня каких-либо умений, не будут умнее нас. Разум LLM совсем-совсем иной.
А еще точнее, - вообще не использовать по отношению к ним человекоориентированные понятия, типа разума и сознания.
А также стоит не забывать и о наших «меньших и больших братьях». Ибо и они – коты и дельфины, слоны и вороны …, - тоже ни в чем нам не уступают с эволюционной точки зрения. А во многом и превосходят.
#LLM #Интеллект #Разум #Сознание #Эволюция
Сверхважный прорыв к «Единой теории всего».
«Конституция биоматематики» прошла экспериментальную проверку in vitro.
Полтора года назад я рассказывал об открытии, сделанном в японском Центре исследований мозга RIKEN. Это открытие, образно говоря, вписало новую статью в «конституцию биоматематики» - Принцип свободной энергии Карла Фристона. Суть открытия заключалась в имитации механизма самоорганизованного обучения нейронов в сети мозга при поступлении нового сенсорного ввода путем минимизации свободной энергии нейронов - т.е. минимизируя сюрпризы в предсказаниях своей модели.
Информация к размышлению.
• Согласно современным научным представлениям, биологический мозг людей и животных постоянно самооптимизируется (самоорганизованно обучается), перестраивая структуру и силу нейронных связей для адаптации к меняющимся условиям в целях сохранения гомеостаза организма.
• В результате этой постоянной самооптимизации мозга появляются и развиваются разум и сознание живого существа. Весь его жизненный опыт (в виде сенсорных внешних и внутренних ощущений) перерабатывается в самооптимизирующуюся «перепрошивку» нейронных сетей.
• Но что за базовый механизм лежит в основе самооптимизирующейся «перепрошивки» нейронных сетей мозга – великая тайна для человечества. Раскрыв ее, можно будет понять общее устройство и принципы функционирования сознания биологических существ.
• Широко распространенным мнением в околонаучных кругах (в научных, об этом говорят лишь шепотом) является предположение, что принцип, лежащий в основе жизни и разума, станет краеугольным камнем «Единой теории всего»
Спустя полтора года после успешной имитации механизма самоорганизованного обучения нейронов в соответствии с принципом свободной энергии, та же группа исследователей Центра исследований мозга RIKEN (ведущий автор Такуя Исомура) сообщила о следующем этапе экспериментальной проверки – теперь уже не на модели, а на реальных нейронах (In vitro).
Используя новую технику обратной инженерии, авторы исследования смогли подтвердить количественные прогнозы принципа свободной энергии, используя in vitro сети нейронов коры головного мозга крыс, которые выполняли причинно-следственный вывод.
Исследователи организовали этот процесс, используя сетку электродов под нейронной сетью, чтобы стимулировать нейроны крыс по определенной схеме, которая смешивала два отдельных скрытых источника. И после всего 100 тренировок нейроны автоматически стали избирательными: некоторые стали очень сильно реагировать на источник №1 и очень слабо — на источник №2, а другие наоборот.
Прорывным результатом этого исследования стало доказательство in vitro, что принцип свободной энергии является принципом самоорганизации биологических нейронных сетей. И это может означать, что принцип свободной энергии – это и есть фундамент «Единой теории всего»
В подтверждение этого, голосование "Who wins at the end of the universe?", проведенное в X Йоша Бахом сразу после выхода исследования, показало обновленные шансы четырех главных претендентов на звание «Единой теории всего»
• Принцип свободной энергии Карла Фристона - 44%
• Концепция рулиады Стивена Вольфрама - 31%
• «Точка Омега» Фрэнка Типлера - 16%
• Микротрубочки Пенроуза-Хамероффа - 9%
#Мозг #Разум #ЕдинаяТеорияВсего
«Конституция биоматематики» прошла экспериментальную проверку in vitro.
Полтора года назад я рассказывал об открытии, сделанном в японском Центре исследований мозга RIKEN. Это открытие, образно говоря, вписало новую статью в «конституцию биоматематики» - Принцип свободной энергии Карла Фристона. Суть открытия заключалась в имитации механизма самоорганизованного обучения нейронов в сети мозга при поступлении нового сенсорного ввода путем минимизации свободной энергии нейронов - т.е. минимизируя сюрпризы в предсказаниях своей модели.
Информация к размышлению.
• Согласно современным научным представлениям, биологический мозг людей и животных постоянно самооптимизируется (самоорганизованно обучается), перестраивая структуру и силу нейронных связей для адаптации к меняющимся условиям в целях сохранения гомеостаза организма.
• В результате этой постоянной самооптимизации мозга появляются и развиваются разум и сознание живого существа. Весь его жизненный опыт (в виде сенсорных внешних и внутренних ощущений) перерабатывается в самооптимизирующуюся «перепрошивку» нейронных сетей.
• Но что за базовый механизм лежит в основе самооптимизирующейся «перепрошивки» нейронных сетей мозга – великая тайна для человечества. Раскрыв ее, можно будет понять общее устройство и принципы функционирования сознания биологических существ.
• Широко распространенным мнением в околонаучных кругах (в научных, об этом говорят лишь шепотом) является предположение, что принцип, лежащий в основе жизни и разума, станет краеугольным камнем «Единой теории всего»
Спустя полтора года после успешной имитации механизма самоорганизованного обучения нейронов в соответствии с принципом свободной энергии, та же группа исследователей Центра исследований мозга RIKEN (ведущий автор Такуя Исомура) сообщила о следующем этапе экспериментальной проверки – теперь уже не на модели, а на реальных нейронах (In vitro).
Используя новую технику обратной инженерии, авторы исследования смогли подтвердить количественные прогнозы принципа свободной энергии, используя in vitro сети нейронов коры головного мозга крыс, которые выполняли причинно-следственный вывод.
Исследователи организовали этот процесс, используя сетку электродов под нейронной сетью, чтобы стимулировать нейроны крыс по определенной схеме, которая смешивала два отдельных скрытых источника. И после всего 100 тренировок нейроны автоматически стали избирательными: некоторые стали очень сильно реагировать на источник №1 и очень слабо — на источник №2, а другие наоборот.
Прорывным результатом этого исследования стало доказательство in vitro, что принцип свободной энергии является принципом самоорганизации биологических нейронных сетей. И это может означать, что принцип свободной энергии – это и есть фундамент «Единой теории всего»
В подтверждение этого, голосование "Who wins at the end of the universe?", проведенное в X Йоша Бахом сразу после выхода исследования, показало обновленные шансы четырех главных претендентов на звание «Единой теории всего»
• Принцип свободной энергии Карла Фристона - 44%
• Концепция рулиады Стивена Вольфрама - 31%
• «Точка Омега» Фрэнка Типлера - 16%
• Микротрубочки Пенроуза-Хамероффа - 9%
#Мозг #Разум #ЕдинаяТеорияВсего
Как выглядит божественная гениальность.
Фантастический поворот в раскрытии сокровенной тайны эволюции - исключительности разума людей.
Божественную гениальность отличает предельная по простоте и элегантности универсальность решения, - как, например, в «золотом сечении» и формуле Эйнштейна.
Новым примером этого может стать открытие способа триггерного усовершенствования разума наших далеких предков, позволившего им преодолеть пропасть, отделяющую разум животных от разума существ – носителей высшего интеллекта на Земле. Звучать это открытие может, например, так – «не труд превратил обезьяну в человека, а способность отличать AB от AA, BB и BA».
Гипотеза о том, что наделяя людей качественно иным разумом, чем у животных, Творец (природа, эволюция, инопланетяне … - кому что нравится) использовал чрезвычайно простой, но немыслимо эффективный способ, за десятки лет исследований обросла разными версиями. Многие из них, так или иначе, предполагают, что для того, чтобы стать людьми, обезьянам не хватает рабочей памяти. Но структурные отличия мозга людей и высших обезьян невелики и относятся, в основном, к отделам, связанным с решением социальных задач. Это позволяет предположить, что различия между интеллектом человека и высших обезьян не столько качественные, сколько количественные: обезьяны обладают теми же умственными способностями, что и люди, но не в той же мере развитыми.
Если же все же искать качественное отличие, то есть, например, интересная гипотеза Дуайта Рида, что ключевое значение имеет объем кратковременной памяти, измеряемый количеством идей или концепций, с которыми «исполнительный компонент» рабочей памяти может работать одновременно. Малый объем кратковременной памяти не позволяет обезьянам мыслить рекурсивно, и в этом состоит важнейшее качественное отличие обезьяньего интеллекта от человеческого (примеры, как это работает см. в статье Александра Маркова).
Гипотезу Рида, как и другие похожие гипотезы, не просто доказать. Ведь и среди людей немало тех, кто подобно животным, не могут обдумывать комплексно, как часть единой логической операции, более одной, максимум двух идей. К тому же связь между величиной short-term working memory capacity и способностью к рекурсивному мышлению, поди экспериментально докажи.
Вот почему столь ценна новая гипотеза, экспериментально проверенная на животных и людях в исследовании Йохана Линда и коллег «Тест памяти на последовательности стимулов у человекообразных обезьян».
Воистину божественная гениальность предельно простого и элегантного решения в том, чтоб сформировать у животного способность различать последовательность стимулов, отличая, например, последовательность AB от AA, BB и BA.
Авторы показали, что шимпанзе бонобо не могут запомнить порядок двух стимулов даже после 2000 попыток. Тогда как 7-летний ребенок размер кратковременной памяти у которого примерно совпадает с шимпанзе, делает это с первых попыток.
Теперь, если эта гипотеза будет подтверждена в экспериментах с другими членами «великолепной четверки» высших земных разумов (врановыми, китообразными и осьминогами), механизм исключительности разума людей может перестать быть сокровенной тайной эволюции.
#Интеллект #Разум #Мозг #Эволюция
Фантастический поворот в раскрытии сокровенной тайны эволюции - исключительности разума людей.
Божественную гениальность отличает предельная по простоте и элегантности универсальность решения, - как, например, в «золотом сечении» и формуле Эйнштейна.
Новым примером этого может стать открытие способа триггерного усовершенствования разума наших далеких предков, позволившего им преодолеть пропасть, отделяющую разум животных от разума существ – носителей высшего интеллекта на Земле. Звучать это открытие может, например, так – «не труд превратил обезьяну в человека, а способность отличать AB от AA, BB и BA».
Гипотеза о том, что наделяя людей качественно иным разумом, чем у животных, Творец (природа, эволюция, инопланетяне … - кому что нравится) использовал чрезвычайно простой, но немыслимо эффективный способ, за десятки лет исследований обросла разными версиями. Многие из них, так или иначе, предполагают, что для того, чтобы стать людьми, обезьянам не хватает рабочей памяти. Но структурные отличия мозга людей и высших обезьян невелики и относятся, в основном, к отделам, связанным с решением социальных задач. Это позволяет предположить, что различия между интеллектом человека и высших обезьян не столько качественные, сколько количественные: обезьяны обладают теми же умственными способностями, что и люди, но не в той же мере развитыми.
Если же все же искать качественное отличие, то есть, например, интересная гипотеза Дуайта Рида, что ключевое значение имеет объем кратковременной памяти, измеряемый количеством идей или концепций, с которыми «исполнительный компонент» рабочей памяти может работать одновременно. Малый объем кратковременной памяти не позволяет обезьянам мыслить рекурсивно, и в этом состоит важнейшее качественное отличие обезьяньего интеллекта от человеческого (примеры, как это работает см. в статье Александра Маркова).
Гипотезу Рида, как и другие похожие гипотезы, не просто доказать. Ведь и среди людей немало тех, кто подобно животным, не могут обдумывать комплексно, как часть единой логической операции, более одной, максимум двух идей. К тому же связь между величиной short-term working memory capacity и способностью к рекурсивному мышлению, поди экспериментально докажи.
Вот почему столь ценна новая гипотеза, экспериментально проверенная на животных и людях в исследовании Йохана Линда и коллег «Тест памяти на последовательности стимулов у человекообразных обезьян».
Воистину божественная гениальность предельно простого и элегантного решения в том, чтоб сформировать у животного способность различать последовательность стимулов, отличая, например, последовательность AB от AA, BB и BA.
Авторы показали, что шимпанзе бонобо не могут запомнить порядок двух стимулов даже после 2000 попыток. Тогда как 7-летний ребенок размер кратковременной памяти у которого примерно совпадает с шимпанзе, делает это с первых попыток.
Теперь, если эта гипотеза будет подтверждена в экспериментах с другими членами «великолепной четверки» высших земных разумов (врановыми, китообразными и осьминогами), механизм исключительности разума людей может перестать быть сокровенной тайной эволюции.
#Интеллект #Разум #Мозг #Эволюция
