Прорыв в ИИ может произойти уже до конца этого года.
Начинается всемирный поиск новых ИИ-моделей, в котором вы можете участвовать.
Речь идет об объявленном AIcrowd Facebook AI крауд-конкурсе проектирования и обучения альтернативных ИИ-агентов, работающих иначе, чем современный мейнстрим машинного обучения с подкреплением.
Недавно DeepMind объявил, что обучение с подкреплением — метод, когда ИИ-агент ничего не знает об окружающей среде, но может самообучаться, взаимодействуя с ней, - может позволить прорыв к ИИ человеческого уровня (AGI). Этот метод, действительно, весьма перспективен. Но он требует значительного объема вычислений и мощного компьютерного оборудования. А это, к сожалению, не очень подходит за пределами демонстрационных игр, когда цель – не удивить общественность, а решение практических задач в реальном мире.
Facebook решил попробовать обойти эту проблему, организовав всемирный поиск новых ИИ-моделей, позволяющих ИИ-агентам ориентироваться в сложных средах при низких вычислительных затратах.
В качестве супер-теста была выбрана NetHack — старая, но до сих пор одна из самых сложных игр. В ней игроки должны спуститься на 50+ уровней подземелья, чтобы найти магический амулет. Шансов выиграть в эту игру мало даже у ИИ-агентов, разгромивших людей в StarCraft II, Dota 2 и Minecraft. Ведь в этой игре игроки просто мрут, как мухи. А после каждой смерти подземелье полностью перестраивается, тем самым сводя почти что к нулю набранный опыт.
Единственный способ выиграть в таких адских условиях — каким-то образом суметь совместить нестандартное мышление, исследовательские навыки и удачу. Такой ИИ-агент должен уметь совмещать оптимальное применение уже имеющихся знаний со способностью исследовать совершенно неизученные области (т.е. сочетать exploitation & exploration).
Идея исследователей из Facebook проста. Авторитеты машинного обучения так пока и не преуспели в создании ИИ-агентов, способных учиться с малыми вычислительными затратами. Поэтому вместо того, чтобы самим пытаться поймать «золотую рыбку» прорывной ИИ-модели, Facebook решил провести открытый конкурс, пригласив участвовать всех желающих и предоставив каждому участнику высокотехнологическую «удочку». Ею будет специально разработанная учебная среда с открытым кодом - NetHack Learning Environment (NLE). Это масштабируемая, процедурно генерируемая, стохастическая, весьма сложная среда для исследования обучения с подкреплением в ходе игры ИИ-агента в NetHack.
Работая в среде NLE, участники смогут тратить больше времени на тестирование новых перспективных идей, а не на ожидание результатов длительных вычислений. Перед ними поставлена задача спроектировать и обучить своего агента каким угодно существующим или изобретенным способом - с машинным обучением или без него, с использованием любой внешней информации, любого метода обучения с любым вычислительным бюджетом.
Единственное требование – создать ИИ-агента, который может быть оценен жюри конкурса. О его результатах будут судить по тому, как часто этот агент выживает и поднимается из подземелья с Амулетом.
Среди альтернативных концепций создания моделей ИИ-агентов – имхо, самой перспективной является модель процесса активного вывода (active inference). Суть такого процесса в:
• статистической генерации предсказаний (бессознательных выводов об окружающем мире и самом себе на основе внутренней модели);
• проверке этих выводов на основе сенсорных данных;
• и постоянной минимизации ошибок предсказания.
Активный вывод и прогностическое кодирование, объединенные фундаментальным принципом свободной энергии Карла Фристона я называю «конституция биоматематики». Это, по сути, - высший закон, определяющий основной принцип жизни и разума (подробней см. мой пост).
А теперь о самом важном и интересном.
Дочитать (еще всего на 1 мин):
- на Medium https://bit.ly/3j9Qaf8
- на ЯДзен https://clck.ru/VgSju
#ИИ #МашинноеОбучение #ПринципСвободнойЭнергии #Фристон #АктивныйВывод
Начинается всемирный поиск новых ИИ-моделей, в котором вы можете участвовать.
Речь идет об объявленном AIcrowd Facebook AI крауд-конкурсе проектирования и обучения альтернативных ИИ-агентов, работающих иначе, чем современный мейнстрим машинного обучения с подкреплением.
Недавно DeepMind объявил, что обучение с подкреплением — метод, когда ИИ-агент ничего не знает об окружающей среде, но может самообучаться, взаимодействуя с ней, - может позволить прорыв к ИИ человеческого уровня (AGI). Этот метод, действительно, весьма перспективен. Но он требует значительного объема вычислений и мощного компьютерного оборудования. А это, к сожалению, не очень подходит за пределами демонстрационных игр, когда цель – не удивить общественность, а решение практических задач в реальном мире.
Facebook решил попробовать обойти эту проблему, организовав всемирный поиск новых ИИ-моделей, позволяющих ИИ-агентам ориентироваться в сложных средах при низких вычислительных затратах.
В качестве супер-теста была выбрана NetHack — старая, но до сих пор одна из самых сложных игр. В ней игроки должны спуститься на 50+ уровней подземелья, чтобы найти магический амулет. Шансов выиграть в эту игру мало даже у ИИ-агентов, разгромивших людей в StarCraft II, Dota 2 и Minecraft. Ведь в этой игре игроки просто мрут, как мухи. А после каждой смерти подземелье полностью перестраивается, тем самым сводя почти что к нулю набранный опыт.
Единственный способ выиграть в таких адских условиях — каким-то образом суметь совместить нестандартное мышление, исследовательские навыки и удачу. Такой ИИ-агент должен уметь совмещать оптимальное применение уже имеющихся знаний со способностью исследовать совершенно неизученные области (т.е. сочетать exploitation & exploration).
Идея исследователей из Facebook проста. Авторитеты машинного обучения так пока и не преуспели в создании ИИ-агентов, способных учиться с малыми вычислительными затратами. Поэтому вместо того, чтобы самим пытаться поймать «золотую рыбку» прорывной ИИ-модели, Facebook решил провести открытый конкурс, пригласив участвовать всех желающих и предоставив каждому участнику высокотехнологическую «удочку». Ею будет специально разработанная учебная среда с открытым кодом - NetHack Learning Environment (NLE). Это масштабируемая, процедурно генерируемая, стохастическая, весьма сложная среда для исследования обучения с подкреплением в ходе игры ИИ-агента в NetHack.
Работая в среде NLE, участники смогут тратить больше времени на тестирование новых перспективных идей, а не на ожидание результатов длительных вычислений. Перед ними поставлена задача спроектировать и обучить своего агента каким угодно существующим или изобретенным способом - с машинным обучением или без него, с использованием любой внешней информации, любого метода обучения с любым вычислительным бюджетом.
Единственное требование – создать ИИ-агента, который может быть оценен жюри конкурса. О его результатах будут судить по тому, как часто этот агент выживает и поднимается из подземелья с Амулетом.
Среди альтернативных концепций создания моделей ИИ-агентов – имхо, самой перспективной является модель процесса активного вывода (active inference). Суть такого процесса в:
• статистической генерации предсказаний (бессознательных выводов об окружающем мире и самом себе на основе внутренней модели);
• проверке этих выводов на основе сенсорных данных;
• и постоянной минимизации ошибок предсказания.
Активный вывод и прогностическое кодирование, объединенные фундаментальным принципом свободной энергии Карла Фристона я называю «конституция биоматематики». Это, по сути, - высший закон, определяющий основной принцип жизни и разума (подробней см. мой пост).
А теперь о самом важном и интересном.
Дочитать (еще всего на 1 мин):
- на Medium https://bit.ly/3j9Qaf8
- на ЯДзен https://clck.ru/VgSju
#ИИ #МашинноеОбучение #ПринципСвободнойЭнергии #Фристон #АктивныйВывод
Интеллектуальная слепота лечится.
Бассейн аттракторов заблуждений можно осушить.
Если человечеству суждено погибнуть, то причиной тому будет не вирус, война или изменение климата. Все это – лишь следствия главной причины самых страшных человеческих бед (как прошлых, так и будущих). Эта причина - упёртость людей в их заблуждениях. Именно она, а не сверхжестокость Homo, лежит в основе расколов и войн, притеснений и резни, ненависти и социальных, религиозных и прочих конфликтов.
Упёртость заблуждений - эдакая железобетонная твердость ошибочных суждений и представлений, - не позволяет нам изменять их, не смотря на любые рациональные аргументы и факты реальности. В результате человек как бы интеллектуально слепнет, о чем я подробно писал в лонгриде «Интеллектуальная слепота»).
Со времен Цицерона люди различают обычные и упертые заблуждения. Считается, что «каждый человек может заблуждаться, но упорствовать в заблуждении может лишь глупец». Увы, но и это тоже заблуждение. Ибо, как писал И. Кант – «Заблуждение - незаметное влияние чувственности на рассудок». А поскольку чувственность свойственна всем, её влияние на рассудок неизбежно для каждого.
Но даже если такое влияние неизбежно, уменьшить упёртость заблуждений возможно. Т.е. интеллектуальная слепота лечится. Таков прорывной вывод нового исследования по вычислительной психиатрии. Среди авторов Карл Фристон, и неудивительно, что исследование основано на активном выводе - той же теоретической базе, что и исследование о влиянии психоделиков, о котором я недавно писал.
Целью новой работы было решение принципиальной загадки.
Если мозг аппроксимирует байесовский вывод, подбирая оптимальные веса для предыдущих ожиданий (априоров) и новых сенсорных данных, как тогда он может кардинально ошибаться, да еще и упорствовать в предсказаниях?
Иными словами.
Если мозг - «оптимальная машина предсказаний», что в ней ломается, когда эта «машина» генерирует ошибочные убеждения и держится потом за них наперекор любым свидетельствам противного?
Новое исследование отвечает на этот вопрос.
1) У мозга не одна, а две модели: для мира (что «снаружи») и для себя (что мы чувствуем и делаем). Наши действия включают: движения (меняющее наше окружение) и ментальные / скрытые действия (например, переключение внимания или выбор одной гипотезы из альтернатив).
2) При таких двух моделях у агентов появляются аттракторы состояний, формирующих умственные привычки (тенденции повторять действия, которые были выбраны ранее).
3) Заблуждения - это результат умственных привычек. Т.к. выводы о мире могут быть обусловлены (т. е. зависеть от выбранных агентом действий), привычки приводят к уверенным выводам, нечувствительным к сенсорным данным (подобно тому, как формируются сами привычки).
4) Механизм описанного явления проявляется в том, что даже умеренные изменения некоторых параметров внутренней генеративной модели – снижение уверенности в сенсорном вводе и повышение уверенности в состояниях, подразумеваемых ее собственными (особенно привычными) действиями, – могут приводить к заблуждениям. А включение в модель аффектов (помните цитату Канта выше?) значительно усиливает заблуждения, особенно в социальной сфере.
5) Ключевые выводы работы такие:
a. никакое изменение одного параметра модели не является необходимым и достаточным для образования заблуждений;
b. заблуждения возникают из-за условных зависимостей, которые создают "бассейны аттракторов", как бы запирающих байесовские убеждения в ловушку (энергетическую яму);
c. как показало моделирование, уменьшить глубину «бассейна аттракторов» (и даже его «осушить») можно фармакологическим путем – с помощью нейролептиков – за счет снижения уверенности модели в своих действиях.
Т.е. заблуждения, в принципе, можно лечить так же, как бред и галлюцинации – с помощью нейролептиков.
Что из этого следует и в чем проблема, - в окончании этого поста:
- на Medium https://bit.ly/3zjKyEr
- на Яндекс Дзен https://clck.ru/X5ZvC
#Заблуждения #АктивныйВывод #ВычислительнаяПсихиатрия
Бассейн аттракторов заблуждений можно осушить.
Если человечеству суждено погибнуть, то причиной тому будет не вирус, война или изменение климата. Все это – лишь следствия главной причины самых страшных человеческих бед (как прошлых, так и будущих). Эта причина - упёртость людей в их заблуждениях. Именно она, а не сверхжестокость Homo, лежит в основе расколов и войн, притеснений и резни, ненависти и социальных, религиозных и прочих конфликтов.
Упёртость заблуждений - эдакая железобетонная твердость ошибочных суждений и представлений, - не позволяет нам изменять их, не смотря на любые рациональные аргументы и факты реальности. В результате человек как бы интеллектуально слепнет, о чем я подробно писал в лонгриде «Интеллектуальная слепота»).
Со времен Цицерона люди различают обычные и упертые заблуждения. Считается, что «каждый человек может заблуждаться, но упорствовать в заблуждении может лишь глупец». Увы, но и это тоже заблуждение. Ибо, как писал И. Кант – «Заблуждение - незаметное влияние чувственности на рассудок». А поскольку чувственность свойственна всем, её влияние на рассудок неизбежно для каждого.
Но даже если такое влияние неизбежно, уменьшить упёртость заблуждений возможно. Т.е. интеллектуальная слепота лечится. Таков прорывной вывод нового исследования по вычислительной психиатрии. Среди авторов Карл Фристон, и неудивительно, что исследование основано на активном выводе - той же теоретической базе, что и исследование о влиянии психоделиков, о котором я недавно писал.
Целью новой работы было решение принципиальной загадки.
Если мозг аппроксимирует байесовский вывод, подбирая оптимальные веса для предыдущих ожиданий (априоров) и новых сенсорных данных, как тогда он может кардинально ошибаться, да еще и упорствовать в предсказаниях?
Иными словами.
Если мозг - «оптимальная машина предсказаний», что в ней ломается, когда эта «машина» генерирует ошибочные убеждения и держится потом за них наперекор любым свидетельствам противного?
Новое исследование отвечает на этот вопрос.
1) У мозга не одна, а две модели: для мира (что «снаружи») и для себя (что мы чувствуем и делаем). Наши действия включают: движения (меняющее наше окружение) и ментальные / скрытые действия (например, переключение внимания или выбор одной гипотезы из альтернатив).
2) При таких двух моделях у агентов появляются аттракторы состояний, формирующих умственные привычки (тенденции повторять действия, которые были выбраны ранее).
3) Заблуждения - это результат умственных привычек. Т.к. выводы о мире могут быть обусловлены (т. е. зависеть от выбранных агентом действий), привычки приводят к уверенным выводам, нечувствительным к сенсорным данным (подобно тому, как формируются сами привычки).
4) Механизм описанного явления проявляется в том, что даже умеренные изменения некоторых параметров внутренней генеративной модели – снижение уверенности в сенсорном вводе и повышение уверенности в состояниях, подразумеваемых ее собственными (особенно привычными) действиями, – могут приводить к заблуждениям. А включение в модель аффектов (помните цитату Канта выше?) значительно усиливает заблуждения, особенно в социальной сфере.
5) Ключевые выводы работы такие:
a. никакое изменение одного параметра модели не является необходимым и достаточным для образования заблуждений;
b. заблуждения возникают из-за условных зависимостей, которые создают "бассейны аттракторов", как бы запирающих байесовские убеждения в ловушку (энергетическую яму);
c. как показало моделирование, уменьшить глубину «бассейна аттракторов» (и даже его «осушить») можно фармакологическим путем – с помощью нейролептиков – за счет снижения уверенности модели в своих действиях.
Т.е. заблуждения, в принципе, можно лечить так же, как бред и галлюцинации – с помощью нейролептиков.
Что из этого следует и в чем проблема, - в окончании этого поста:
- на Medium https://bit.ly/3zjKyEr
- на Яндекс Дзен https://clck.ru/X5ZvC
#Заблуждения #АктивныйВывод #ВычислительнаяПсихиатрия
Medium
Интеллектуальная слепота лечится
Бассейн аттракторов заблуждений можно осушить