Новая парадигма ИИ требует революции в понимании памяти.
Иначе выход из тупика в области ИИ невозможен.
«Память о прошлом создана не для того, чтобы помнить прошлое, она создана для предотвращения будущего. Память - это инструмент предсказаний"
Alain Berthoz (французский нейробиолог)
Понятно, что для этой темы нужен лонг-лонгрид. Но это пока еще не он, а его тизер.
1) В чем, собственно, тупик?
Если коротко, то вот в чем.
а) Осознан потолок возможностей машинного обучения, - автоматизация интеллектуальной рутины.
б) Крепчает понимание того, что для выхода на качественно иной уровень интеллектуальности машин (не важно, как его называть - общий ИИ и т.п.) нужны не просто иные технологические подходы (кои и так меняются каждое десятилетие вот уже полвека), а смена парадигмы.
в) Эта смена парадигмы сдерживается вовсе не отсутствием перспективных альтернатив существующей парадигме, а необходимостью отбить десятки миллиардов уже сделанных инвестиций и прагматичным нежеланием менять даже не синицу, а несущую золотые яйца курицу на гипотетического журавля без гарантий коммерческой состоятельности его заоблачных полетов.
2) Альтернативная парадигма уже существует?
Да существует. Это смена представлений о цели и функциональной организации разума (избегаю здесь термина интеллект во избежание вечной путаницы).
В когнитивной науке вместо старой парадигмы мозга уже довольно прочно обосновалась новая.
Согласно старой парадигме, разум работает подобно традиционному компьютеру - мозг пассивно ждет «входной информации» для «обработки символических представлений» и создания «выходных управляющих сигналов»).
В новой парадигме, разум – это машина постоянных предсказаний. Мозг постоянно пытается делать выводы из несоответствий между сконструированными им моделями реальности и самого разумного агента и его чувствами, пытаясь выяснить причины этих несоответствий и минимизировать их путем корректировки моделей и/или практических действий в физической реальности.
3) В новой парадигме цель и механизм работы памяти принципиально иные, чем в старой.
- Цель памяти - не передавать информацию с высокой точностью во времени, а направлять разумное принятие мозгом правильных решений.
- При такой цели, ключевой функцией памяти становится вовсе не точность и длительность сохранения воспоминаний, а преднамеренное забвение - забывание информации, необходимое для ее генерализации.
- Главная проблема здесь в том, что чрезмерно точная память мешает использовать воспоминания для обобщения их в новых ситуациях. Если воспоминания слишком точны и перегружены, их трудно использовать, чтобы делать прогнозы на будущие ситуации.
Например, если в вашей памяти хранятся мельчайшие подробности того, как вас укусила собака в парке (характеристики собаки – её размер, цвет, длина шерсти, лапы, уши и т. д., и характеристики ситуации - на дорожке, возле скамейки, под большим деревом, у фонаря и т. д.), вполне возможно, что вы не будете распространять на других собак и другие места осторожный страх, который может позволить вам избежать нового покусания. А это избегание и есть ваша истинная цель для оптимальной адаптации!
Значит нужно все детали забыть, оставив и генерализовав лишь главное.
- Кроме того, среда постоянно меняется, и нужно уметь адаптировать воспоминания к этим изменениям. Воспоминания, которые слишком точно воспроизводят прошлое, могут ослабить способность представлять различные варианты будущего, делая поведение слишком негибким, чтобы справляться с изменяющимися условиями.
Посему:
1) Нужен механизм активного забывания, работающего на главную стратегию мозга – управление информацией через забывание.
2) Нужны разнообразные механизмы, позволяющие А) генерализовать воспоминания, Б) реструктурировать их, но при этом В) не затруднять доступ к ним.
#Память #СменаПарадигмыИИ
Иначе выход из тупика в области ИИ невозможен.
«Память о прошлом создана не для того, чтобы помнить прошлое, она создана для предотвращения будущего. Память - это инструмент предсказаний"
Alain Berthoz (французский нейробиолог)
Понятно, что для этой темы нужен лонг-лонгрид. Но это пока еще не он, а его тизер.
1) В чем, собственно, тупик?
Если коротко, то вот в чем.
а) Осознан потолок возможностей машинного обучения, - автоматизация интеллектуальной рутины.
б) Крепчает понимание того, что для выхода на качественно иной уровень интеллектуальности машин (не важно, как его называть - общий ИИ и т.п.) нужны не просто иные технологические подходы (кои и так меняются каждое десятилетие вот уже полвека), а смена парадигмы.
в) Эта смена парадигмы сдерживается вовсе не отсутствием перспективных альтернатив существующей парадигме, а необходимостью отбить десятки миллиардов уже сделанных инвестиций и прагматичным нежеланием менять даже не синицу, а несущую золотые яйца курицу на гипотетического журавля без гарантий коммерческой состоятельности его заоблачных полетов.
2) Альтернативная парадигма уже существует?
Да существует. Это смена представлений о цели и функциональной организации разума (избегаю здесь термина интеллект во избежание вечной путаницы).
В когнитивной науке вместо старой парадигмы мозга уже довольно прочно обосновалась новая.
Согласно старой парадигме, разум работает подобно традиционному компьютеру - мозг пассивно ждет «входной информации» для «обработки символических представлений» и создания «выходных управляющих сигналов»).
В новой парадигме, разум – это машина постоянных предсказаний. Мозг постоянно пытается делать выводы из несоответствий между сконструированными им моделями реальности и самого разумного агента и его чувствами, пытаясь выяснить причины этих несоответствий и минимизировать их путем корректировки моделей и/или практических действий в физической реальности.
3) В новой парадигме цель и механизм работы памяти принципиально иные, чем в старой.
- Цель памяти - не передавать информацию с высокой точностью во времени, а направлять разумное принятие мозгом правильных решений.
- При такой цели, ключевой функцией памяти становится вовсе не точность и длительность сохранения воспоминаний, а преднамеренное забвение - забывание информации, необходимое для ее генерализации.
- Главная проблема здесь в том, что чрезмерно точная память мешает использовать воспоминания для обобщения их в новых ситуациях. Если воспоминания слишком точны и перегружены, их трудно использовать, чтобы делать прогнозы на будущие ситуации.
Например, если в вашей памяти хранятся мельчайшие подробности того, как вас укусила собака в парке (характеристики собаки – её размер, цвет, длина шерсти, лапы, уши и т. д., и характеристики ситуации - на дорожке, возле скамейки, под большим деревом, у фонаря и т. д.), вполне возможно, что вы не будете распространять на других собак и другие места осторожный страх, который может позволить вам избежать нового покусания. А это избегание и есть ваша истинная цель для оптимальной адаптации!
Значит нужно все детали забыть, оставив и генерализовав лишь главное.
- Кроме того, среда постоянно меняется, и нужно уметь адаптировать воспоминания к этим изменениям. Воспоминания, которые слишком точно воспроизводят прошлое, могут ослабить способность представлять различные варианты будущего, делая поведение слишком негибким, чтобы справляться с изменяющимися условиями.
Посему:
1) Нужен механизм активного забывания, работающего на главную стратегию мозга – управление информацией через забывание.
2) Нужны разнообразные механизмы, позволяющие А) генерализовать воспоминания, Б) реструктурировать их, но при этом В) не затруднять доступ к ним.
#Память #СменаПарадигмыИИ