ИИ – это не только мозг, но и тело
Игрушка-пружина Слинки никак не может считаться разумным существом, но её умение спускаться с лестницы – просто чудо механики.
Человек при спуске по лестнице, решает те же задачи управления механикой движения согласно геометрии ступеней, своим размерам и весу.
Что же управляет данным процессом - когнитивная обработка в мозге?
А как же это делает Слинки, у которой нет мозгов, а есть только «тело»?
Эти вопросы открывает перед нами фантастически интересную область «воплощенных агентов» (embodied agent) и «морфологических вычислений» (morphological computation), про которые в Рунете почти ничего.
А ведь эта область - штука сильнее, чем «Фауст» Гете 😊
Если совсем коротко - «воплощенный агент», это агент, обладающий «воплощенным интеллектом», т.е. интеллектом, возникающим при взаимодействии мозга, тела и окружающей среды, причем широкий ряд вычислений выполняется телом.
Биология дает множество примеров.
Возьмите проблему осторожного захвата тонкого, хрупкого предмета - такого, как высушенный цветок. Для робота это наисложнейшая по вычислениям задача. Процессоры должны точно вычислить местоположения захватов и силу их сжатия: слишком мало силы - и цветок ускользает; слишком много - и он превращается в пыль.
С человеческой рукой мозг не должен заморачиваться сложнейшим вычислительным процессом. Мягкая ткань в кончиках пальцев, обратная связь в суставах пальцев и трение сухожилий помогают мозгу решить проблему.
И главное – человек может это делать сходу - без какой-либо тренировки. Тогда как роботам, например, музыкантам), необходима длительная предварительная настройка и тренировка.
Другой пример - морфология глаза насекомого, способствующая обнаружению движения. У мозга просто не хватает быстродействия для супербыстрой реакции на движение в окружающем мире. И к вычислениям подключается тело. Для этого меняется строение глаз. Т.н. фасеточный глаз способен быстро обнаруживать движение, поскольку его временная инерционность в 15 раз меньше, чем у глаза человека.
Оба примера иллюстрируют, как вычисления, которые должен выполнять мозг, передаются на аутсорсинг телу. Этот аутсорсинг и привел к появлению в 2006 г. понятия «Морфологических вычислений», которое теперь является центральным понятием в области т.н. «воплощенного искусственного интеллекта».
Но есть проблема - не все физические процессы в теле можно рассматривать как вычисление в классическом смысле.
До сих пор считалось, чтоб решить этот вопрос можно, разбив морфологические процессы на: морфологическое вычисление, морфологический контроль, физические процессы поведения, и прочие физические процессы.
Однако, похоже, что это тупиковый подход. Нужна единая концепция «воплощенного искусственного интеллекта». Обычный «ИИ без тела» здесь не рулит.
Об этом только что говорили на совместном воркшопе Математического института Макса Планка и Института междисциплинарных исследований Санта-Фе.
Если тема вам интересна и стоит про это еще писать (или наоборот) – дайте знать.
#МорфологическиеВычисления #ВоплощенныйИнтеллект
Игрушка-пружина Слинки никак не может считаться разумным существом, но её умение спускаться с лестницы – просто чудо механики.
Человек при спуске по лестнице, решает те же задачи управления механикой движения согласно геометрии ступеней, своим размерам и весу.
Что же управляет данным процессом - когнитивная обработка в мозге?
А как же это делает Слинки, у которой нет мозгов, а есть только «тело»?
Эти вопросы открывает перед нами фантастически интересную область «воплощенных агентов» (embodied agent) и «морфологических вычислений» (morphological computation), про которые в Рунете почти ничего.
А ведь эта область - штука сильнее, чем «Фауст» Гете 😊
Если совсем коротко - «воплощенный агент», это агент, обладающий «воплощенным интеллектом», т.е. интеллектом, возникающим при взаимодействии мозга, тела и окружающей среды, причем широкий ряд вычислений выполняется телом.
Биология дает множество примеров.
Возьмите проблему осторожного захвата тонкого, хрупкого предмета - такого, как высушенный цветок. Для робота это наисложнейшая по вычислениям задача. Процессоры должны точно вычислить местоположения захватов и силу их сжатия: слишком мало силы - и цветок ускользает; слишком много - и он превращается в пыль.
С человеческой рукой мозг не должен заморачиваться сложнейшим вычислительным процессом. Мягкая ткань в кончиках пальцев, обратная связь в суставах пальцев и трение сухожилий помогают мозгу решить проблему.
И главное – человек может это делать сходу - без какой-либо тренировки. Тогда как роботам, например, музыкантам), необходима длительная предварительная настройка и тренировка.
Другой пример - морфология глаза насекомого, способствующая обнаружению движения. У мозга просто не хватает быстродействия для супербыстрой реакции на движение в окружающем мире. И к вычислениям подключается тело. Для этого меняется строение глаз. Т.н. фасеточный глаз способен быстро обнаруживать движение, поскольку его временная инерционность в 15 раз меньше, чем у глаза человека.
Оба примера иллюстрируют, как вычисления, которые должен выполнять мозг, передаются на аутсорсинг телу. Этот аутсорсинг и привел к появлению в 2006 г. понятия «Морфологических вычислений», которое теперь является центральным понятием в области т.н. «воплощенного искусственного интеллекта».
Но есть проблема - не все физические процессы в теле можно рассматривать как вычисление в классическом смысле.
До сих пор считалось, чтоб решить этот вопрос можно, разбив морфологические процессы на: морфологическое вычисление, морфологический контроль, физические процессы поведения, и прочие физические процессы.
Однако, похоже, что это тупиковый подход. Нужна единая концепция «воплощенного искусственного интеллекта». Обычный «ИИ без тела» здесь не рулит.
Об этом только что говорили на совместном воркшопе Математического института Макса Планка и Института междисциплинарных исследований Санта-Фе.
Если тема вам интересна и стоит про это еще писать (или наоборот) – дайте знать.
#МорфологическиеВычисления #ВоплощенныйИнтеллект
Бунт машин может случиться раньше, чем предполагалось
Недавнее интервью руководителя разработок ИИ Facebook Яна ЛеКуна подтвердило, что мы еще очень далеки от создания т.н. общего ИИ, стоящего на одном уровне с человеческим.
Однако из этого Ян ЛеКун делает, возможно, ошибочный вывод, что нет опасности бунта машин в ближайшем или даже среднесрочном плане.
Ошибка может заключаться в увязке возможности бунта машин с наличием у них общего ИИ.
Это следует из новой работы Кейта Фарнсфорта «Может ли робот обладать свободой воли?» http://www.mdpi.com/1099-4300/19/5/237 , поскольку единственное, чем должна обладать машина для выхода из под контроля человека, - это свобода воли.
До сих пор дебаты Сингуляборцев и AIтеистов https://goo.gl/3CTV82 о потенциальной возможности бунта машин велись исключительно на философском уровне. Оно и понятно: аргументация сторон исключительно качественная, а логика у каждой стороны своя – субъективная и неформальная.
На таком фоне работа Кейта Фарнсфорта смотрится шедевром математической строгости и доказательности.
Автор не только впервые предложил точное, научно обоснованное определение свободы воли, но и сформулировал набор необходимых и достаточных условий наличия свободы воли у любых интеллектуальных агентов (как живых, так и искусственных - роботов).
Поэтому к выводам Фарнсфорта стоит отнестись весьма внимательно. А главный вывод прямо-таки сенсационен.
✔️ Робот способен проявлять свободу воли, даже не обладая сознанием.
До сих пор, при всем разнообразии мнений алармистов и реалистов ИИ, они сходилось в одном – современная наука пока не понимает, что из себя представляет сознание, и потому создание роботов, обладающих сознанием, пока невозможно.
Дальше же начинались спекуляции о том, как скоро это может произойти: через 10 лет, 20, 50 …100+
Вывод Фарнсфорта делает вопрос о наличии сознания, как условия для проявления роботом свободы воли, несущественным.
И как следствие, разговоры о рисках ИИ-апокалипсиса сразу становятся не гипотетическими.
Но тут (на счастье человечества) ограничителем выступает 2й вывод работы Фарнсфорта.
✔️ Обязательным условием наличия у робота свободы воли является то, что его самоопределение должно быть организационно закрытым, - т.е. иметь такую окружающую робота границу, что все его элементы, находящиеся внутри границы, обладали бы свойством организационной независимости от всего того, что лежит вне этой границы.
Интуитивно понятным и не исчерпывающим это замысловатое условие примером организационной закрытости агентов является их воплощенность – наличие тела. А как следствие, - наличие воплощенного интеллекта.
Разобраться с последним я уже обещал читателям канала (см. #ВоплощенныйИнтеллект). Но теперь, после работы Фарнсфорта, откладывать это в долгий ящик становится уже нельзя.
Резюмирую работу Фарнсфорта в контексте заявленной темы.
➡️ Бунт машин возможен задолго до обретения ими интеллекта, соизмеримого с человеческим, и это может быть связано с появлением у них тел, обеспечивающих организационную закрытость.
Как это может происходить на практике, прекрасно описано в одной из лучших вещей Станислава Лема «Маска» https://goo.gl/19ytS8
- - - - -
Удивительно! Казалось бы, чисто философское понятие свободы воли переводит дискуссию о возможностях ИИ-апокалипсиса из чисто философской плоскости в практическую.
Не зря философии принадлежит звание царицы всех наук – самой главной, но и самой сложной из них. Постичь мысли Декарта, Канта, Сартра, Мамардашвили и многих других выдающихся философских умов не просто.
Помочь может чтение специализированного канала @EduPhilosophy , где о важнейших и сложнейших философских понятиях говорится телеграмно-коротко и, по возможности, просто. Рекомендую.
#СвободаВоли #ВоплощенныйИнтеллект
Недавнее интервью руководителя разработок ИИ Facebook Яна ЛеКуна подтвердило, что мы еще очень далеки от создания т.н. общего ИИ, стоящего на одном уровне с человеческим.
Однако из этого Ян ЛеКун делает, возможно, ошибочный вывод, что нет опасности бунта машин в ближайшем или даже среднесрочном плане.
Ошибка может заключаться в увязке возможности бунта машин с наличием у них общего ИИ.
Это следует из новой работы Кейта Фарнсфорта «Может ли робот обладать свободой воли?» http://www.mdpi.com/1099-4300/19/5/237 , поскольку единственное, чем должна обладать машина для выхода из под контроля человека, - это свобода воли.
До сих пор дебаты Сингуляборцев и AIтеистов https://goo.gl/3CTV82 о потенциальной возможности бунта машин велись исключительно на философском уровне. Оно и понятно: аргументация сторон исключительно качественная, а логика у каждой стороны своя – субъективная и неформальная.
На таком фоне работа Кейта Фарнсфорта смотрится шедевром математической строгости и доказательности.
Автор не только впервые предложил точное, научно обоснованное определение свободы воли, но и сформулировал набор необходимых и достаточных условий наличия свободы воли у любых интеллектуальных агентов (как живых, так и искусственных - роботов).
Поэтому к выводам Фарнсфорта стоит отнестись весьма внимательно. А главный вывод прямо-таки сенсационен.
✔️ Робот способен проявлять свободу воли, даже не обладая сознанием.
До сих пор, при всем разнообразии мнений алармистов и реалистов ИИ, они сходилось в одном – современная наука пока не понимает, что из себя представляет сознание, и потому создание роботов, обладающих сознанием, пока невозможно.
Дальше же начинались спекуляции о том, как скоро это может произойти: через 10 лет, 20, 50 …100+
Вывод Фарнсфорта делает вопрос о наличии сознания, как условия для проявления роботом свободы воли, несущественным.
И как следствие, разговоры о рисках ИИ-апокалипсиса сразу становятся не гипотетическими.
Но тут (на счастье человечества) ограничителем выступает 2й вывод работы Фарнсфорта.
✔️ Обязательным условием наличия у робота свободы воли является то, что его самоопределение должно быть организационно закрытым, - т.е. иметь такую окружающую робота границу, что все его элементы, находящиеся внутри границы, обладали бы свойством организационной независимости от всего того, что лежит вне этой границы.
Интуитивно понятным и не исчерпывающим это замысловатое условие примером организационной закрытости агентов является их воплощенность – наличие тела. А как следствие, - наличие воплощенного интеллекта.
Разобраться с последним я уже обещал читателям канала (см. #ВоплощенныйИнтеллект). Но теперь, после работы Фарнсфорта, откладывать это в долгий ящик становится уже нельзя.
Резюмирую работу Фарнсфорта в контексте заявленной темы.
➡️ Бунт машин возможен задолго до обретения ими интеллекта, соизмеримого с человеческим, и это может быть связано с появлением у них тел, обеспечивающих организационную закрытость.
Как это может происходить на практике, прекрасно описано в одной из лучших вещей Станислава Лема «Маска» https://goo.gl/19ytS8
- - - - -
Удивительно! Казалось бы, чисто философское понятие свободы воли переводит дискуссию о возможностях ИИ-апокалипсиса из чисто философской плоскости в практическую.
Не зря философии принадлежит звание царицы всех наук – самой главной, но и самой сложной из них. Постичь мысли Декарта, Канта, Сартра, Мамардашвили и многих других выдающихся философских умов не просто.
Помочь может чтение специализированного канала @EduPhilosophy , где о важнейших и сложнейших философских понятиях говорится телеграмно-коротко и, по возможности, просто. Рекомендую.
#СвободаВоли #ВоплощенныйИнтеллект
MDPI
Can a Robot Have Free Will?
Using insights from cybernetics and an information-based understanding of biological systems, a precise, scientifically inspired, definition of free-will is offered and the essential requirements for an agent to possess it in principle are set out. These…
Embodied Intelligence, как штурм Зимнего, когда-нибудь назовут революцией.
На сей раз, – революцией в ИИ.
О запуске 7 ноября 2017 стартапа Embodied Intelligence уже написали многие топовые ресурсы, а в течение этой недели напишут и остальные.
Но вот что поразительно, - все публикации отмечают лишь лежащие на поверхности детали:
— небольшая группа учёных покинула некоммерческую организацию Илона Маска OpenAI, занимающуюся вопросами ИИ, чтобы сформировать стартап Embodied Intelligence;
— этот стартап, за счет объединения технологий машинного обучения и виртуальной реальности (VR), обещает создать промышленную технологию самообучения роботов, расширяющую применение искусственного интеллекта в задачах робототехники.
При этом вообще никто не отметил главного – это смена парадигмы ИИ.
✔️ Новый стартап открывает новую эпоху робототехники, используя вместо традиционного «вычислительного подхода» (познание возникает в результате манипуляции символами в ходе работы некой программы) революционный «подход овеществления» – Embodiment (познание возникает в результате динамического взаимодействия мозга с телом, в ходе которого мозг управляет действиями тела, контролируя свое восприятие тела и окружающей среды в целях максимального приспособления к последней).
Т.е. при этом новом подходе:
1) вместо программирования роботов (оптимально запрограммировать робота вообще невозможно) их нужно научить учиться на собственных ошибках, как это делают биологические системы (от насекомых до людей);
2) такое обучение возможно лишь в ходе целенаправленных действий тела (тысяч и тысяч попыток, ошибок, неудач и постепенного самообучения робота оптимизировать свои действия);
3) успех этого обучения напрямую зависит от: (А) морфологии тела (как оно устроено) и (Б) эволюции робота (изменение его «мозга» в ходе миллионов действий с целью приспособиться к изменениям окружающей среды).
Результаты нового подхода обещают быть не менее впечатляющими для овеществленных интеллектуальных агентов (роботов), чем переход от программирования к самообучению для неовеществленных (например – программ, играющих в Го, которые тут же самообучились играть на недостижимом для человека уровне).
Воочию увидеть преимущества такого обучения можно здесь https://www.youtube.com/watch?v=xe-z4i3l-iQ начиная с 30й мин. (выступление главного идеолога Embodied Intelligence проф. Питера Аббеля)
В этом видео с 33:10 - :40 показаны неудачи передвижения роботов, запрограммированных традиционным подходом.
А с 34:30 показано, как за 2 тыс. попыток моделируемый робот учится бегать, не хуже спринтера-человека. А с 35:10 показано, что стоит поменять тело робота с человекоподобного на паука, как он учится вдвое быстрее и бегает вчетверо шустрее.
Также интересно с 35:50, как быстро робот сам учится вставать, имея цель - поднять голову как можно выше от земли.
Теперь Embodied Intelligence делает следующий шаг – помогает роботам быстрее учиться, копируя движения человека, делающего что-то в виртуальной реальности. Последняя нужна в качестве общей операционной среди человека и робота.
Как это делается подробно показано на этом видео https://www.youtube.com/watch?v=rEQ8CGLV0o0 и описано в сопровождающей статье https://arxiv.org/pdf/1710.04615.pdf
Подробное описание нового революционного подхода Embodiment (с источниками и обучающими материалами) я скоро подготовлю для интересующихся.
А в завершение лишь приведу метафору Лучано Флориди для непреодолимого ограничения традиционного – вычислительного ИИ подхода:
«Восхождение на вершину дерева - это не маленький шаг к Луне; это конец путешествия».
Революционный новый Embodiment подход – это смена стратегии: вместо влезания на дерево все выше и выше - попытка построить ракету.
#ВоплощенныйИнтеллект
На сей раз, – революцией в ИИ.
О запуске 7 ноября 2017 стартапа Embodied Intelligence уже написали многие топовые ресурсы, а в течение этой недели напишут и остальные.
Но вот что поразительно, - все публикации отмечают лишь лежащие на поверхности детали:
— небольшая группа учёных покинула некоммерческую организацию Илона Маска OpenAI, занимающуюся вопросами ИИ, чтобы сформировать стартап Embodied Intelligence;
— этот стартап, за счет объединения технологий машинного обучения и виртуальной реальности (VR), обещает создать промышленную технологию самообучения роботов, расширяющую применение искусственного интеллекта в задачах робототехники.
При этом вообще никто не отметил главного – это смена парадигмы ИИ.
✔️ Новый стартап открывает новую эпоху робототехники, используя вместо традиционного «вычислительного подхода» (познание возникает в результате манипуляции символами в ходе работы некой программы) революционный «подход овеществления» – Embodiment (познание возникает в результате динамического взаимодействия мозга с телом, в ходе которого мозг управляет действиями тела, контролируя свое восприятие тела и окружающей среды в целях максимального приспособления к последней).
Т.е. при этом новом подходе:
1) вместо программирования роботов (оптимально запрограммировать робота вообще невозможно) их нужно научить учиться на собственных ошибках, как это делают биологические системы (от насекомых до людей);
2) такое обучение возможно лишь в ходе целенаправленных действий тела (тысяч и тысяч попыток, ошибок, неудач и постепенного самообучения робота оптимизировать свои действия);
3) успех этого обучения напрямую зависит от: (А) морфологии тела (как оно устроено) и (Б) эволюции робота (изменение его «мозга» в ходе миллионов действий с целью приспособиться к изменениям окружающей среды).
Результаты нового подхода обещают быть не менее впечатляющими для овеществленных интеллектуальных агентов (роботов), чем переход от программирования к самообучению для неовеществленных (например – программ, играющих в Го, которые тут же самообучились играть на недостижимом для человека уровне).
Воочию увидеть преимущества такого обучения можно здесь https://www.youtube.com/watch?v=xe-z4i3l-iQ начиная с 30й мин. (выступление главного идеолога Embodied Intelligence проф. Питера Аббеля)
В этом видео с 33:10 - :40 показаны неудачи передвижения роботов, запрограммированных традиционным подходом.
А с 34:30 показано, как за 2 тыс. попыток моделируемый робот учится бегать, не хуже спринтера-человека. А с 35:10 показано, что стоит поменять тело робота с человекоподобного на паука, как он учится вдвое быстрее и бегает вчетверо шустрее.
Также интересно с 35:50, как быстро робот сам учится вставать, имея цель - поднять голову как можно выше от земли.
Теперь Embodied Intelligence делает следующий шаг – помогает роботам быстрее учиться, копируя движения человека, делающего что-то в виртуальной реальности. Последняя нужна в качестве общей операционной среди человека и робота.
Как это делается подробно показано на этом видео https://www.youtube.com/watch?v=rEQ8CGLV0o0 и описано в сопровождающей статье https://arxiv.org/pdf/1710.04615.pdf
Подробное описание нового революционного подхода Embodiment (с источниками и обучающими материалами) я скоро подготовлю для интересующихся.
А в завершение лишь приведу метафору Лучано Флориди для непреодолимого ограничения традиционного – вычислительного ИИ подхода:
«Восхождение на вершину дерева - это не маленький шаг к Луне; это конец путешествия».
Революционный новый Embodiment подход – это смена стратегии: вместо влезания на дерево все выше и выше - попытка построить ракету.
#ВоплощенныйИнтеллект