Бунт машин может случиться раньше, чем предполагалось
Недавнее интервью руководителя разработок ИИ Facebook Яна ЛеКуна подтвердило, что мы еще очень далеки от создания т.н. общего ИИ, стоящего на одном уровне с человеческим.
Однако из этого Ян ЛеКун делает, возможно, ошибочный вывод, что нет опасности бунта машин в ближайшем или даже среднесрочном плане.
Ошибка может заключаться в увязке возможности бунта машин с наличием у них общего ИИ.
Это следует из новой работы Кейта Фарнсфорта «Может ли робот обладать свободой воли?» http://www.mdpi.com/1099-4300/19/5/237 , поскольку единственное, чем должна обладать машина для выхода из под контроля человека, - это свобода воли.
До сих пор дебаты Сингуляборцев и AIтеистов https://goo.gl/3CTV82 о потенциальной возможности бунта машин велись исключительно на философском уровне. Оно и понятно: аргументация сторон исключительно качественная, а логика у каждой стороны своя – субъективная и неформальная.
На таком фоне работа Кейта Фарнсфорта смотрится шедевром математической строгости и доказательности.
Автор не только впервые предложил точное, научно обоснованное определение свободы воли, но и сформулировал набор необходимых и достаточных условий наличия свободы воли у любых интеллектуальных агентов (как живых, так и искусственных - роботов).
Поэтому к выводам Фарнсфорта стоит отнестись весьма внимательно. А главный вывод прямо-таки сенсационен.
✔️ Робот способен проявлять свободу воли, даже не обладая сознанием.
До сих пор, при всем разнообразии мнений алармистов и реалистов ИИ, они сходилось в одном – современная наука пока не понимает, что из себя представляет сознание, и потому создание роботов, обладающих сознанием, пока невозможно.
Дальше же начинались спекуляции о том, как скоро это может произойти: через 10 лет, 20, 50 …100+
Вывод Фарнсфорта делает вопрос о наличии сознания, как условия для проявления роботом свободы воли, несущественным.
И как следствие, разговоры о рисках ИИ-апокалипсиса сразу становятся не гипотетическими.
Но тут (на счастье человечества) ограничителем выступает 2й вывод работы Фарнсфорта.
✔️ Обязательным условием наличия у робота свободы воли является то, что его самоопределение должно быть организационно закрытым, - т.е. иметь такую окружающую робота границу, что все его элементы, находящиеся внутри границы, обладали бы свойством организационной независимости от всего того, что лежит вне этой границы.
Интуитивно понятным и не исчерпывающим это замысловатое условие примером организационной закрытости агентов является их воплощенность – наличие тела. А как следствие, - наличие воплощенного интеллекта.
Разобраться с последним я уже обещал читателям канала (см. #ВоплощенныйИнтеллект). Но теперь, после работы Фарнсфорта, откладывать это в долгий ящик становится уже нельзя.
Резюмирую работу Фарнсфорта в контексте заявленной темы.
➡️ Бунт машин возможен задолго до обретения ими интеллекта, соизмеримого с человеческим, и это может быть связано с появлением у них тел, обеспечивающих организационную закрытость.
Как это может происходить на практике, прекрасно описано в одной из лучших вещей Станислава Лема «Маска» https://goo.gl/19ytS8
- - - - -
Удивительно! Казалось бы, чисто философское понятие свободы воли переводит дискуссию о возможностях ИИ-апокалипсиса из чисто философской плоскости в практическую.
Не зря философии принадлежит звание царицы всех наук – самой главной, но и самой сложной из них. Постичь мысли Декарта, Канта, Сартра, Мамардашвили и многих других выдающихся философских умов не просто.
Помочь может чтение специализированного канала @EduPhilosophy , где о важнейших и сложнейших философских понятиях говорится телеграмно-коротко и, по возможности, просто. Рекомендую.
#СвободаВоли #ВоплощенныйИнтеллект
Недавнее интервью руководителя разработок ИИ Facebook Яна ЛеКуна подтвердило, что мы еще очень далеки от создания т.н. общего ИИ, стоящего на одном уровне с человеческим.
Однако из этого Ян ЛеКун делает, возможно, ошибочный вывод, что нет опасности бунта машин в ближайшем или даже среднесрочном плане.
Ошибка может заключаться в увязке возможности бунта машин с наличием у них общего ИИ.
Это следует из новой работы Кейта Фарнсфорта «Может ли робот обладать свободой воли?» http://www.mdpi.com/1099-4300/19/5/237 , поскольку единственное, чем должна обладать машина для выхода из под контроля человека, - это свобода воли.
До сих пор дебаты Сингуляборцев и AIтеистов https://goo.gl/3CTV82 о потенциальной возможности бунта машин велись исключительно на философском уровне. Оно и понятно: аргументация сторон исключительно качественная, а логика у каждой стороны своя – субъективная и неформальная.
На таком фоне работа Кейта Фарнсфорта смотрится шедевром математической строгости и доказательности.
Автор не только впервые предложил точное, научно обоснованное определение свободы воли, но и сформулировал набор необходимых и достаточных условий наличия свободы воли у любых интеллектуальных агентов (как живых, так и искусственных - роботов).
Поэтому к выводам Фарнсфорта стоит отнестись весьма внимательно. А главный вывод прямо-таки сенсационен.
✔️ Робот способен проявлять свободу воли, даже не обладая сознанием.
До сих пор, при всем разнообразии мнений алармистов и реалистов ИИ, они сходилось в одном – современная наука пока не понимает, что из себя представляет сознание, и потому создание роботов, обладающих сознанием, пока невозможно.
Дальше же начинались спекуляции о том, как скоро это может произойти: через 10 лет, 20, 50 …100+
Вывод Фарнсфорта делает вопрос о наличии сознания, как условия для проявления роботом свободы воли, несущественным.
И как следствие, разговоры о рисках ИИ-апокалипсиса сразу становятся не гипотетическими.
Но тут (на счастье человечества) ограничителем выступает 2й вывод работы Фарнсфорта.
✔️ Обязательным условием наличия у робота свободы воли является то, что его самоопределение должно быть организационно закрытым, - т.е. иметь такую окружающую робота границу, что все его элементы, находящиеся внутри границы, обладали бы свойством организационной независимости от всего того, что лежит вне этой границы.
Интуитивно понятным и не исчерпывающим это замысловатое условие примером организационной закрытости агентов является их воплощенность – наличие тела. А как следствие, - наличие воплощенного интеллекта.
Разобраться с последним я уже обещал читателям канала (см. #ВоплощенныйИнтеллект). Но теперь, после работы Фарнсфорта, откладывать это в долгий ящик становится уже нельзя.
Резюмирую работу Фарнсфорта в контексте заявленной темы.
➡️ Бунт машин возможен задолго до обретения ими интеллекта, соизмеримого с человеческим, и это может быть связано с появлением у них тел, обеспечивающих организационную закрытость.
Как это может происходить на практике, прекрасно описано в одной из лучших вещей Станислава Лема «Маска» https://goo.gl/19ytS8
- - - - -
Удивительно! Казалось бы, чисто философское понятие свободы воли переводит дискуссию о возможностях ИИ-апокалипсиса из чисто философской плоскости в практическую.
Не зря философии принадлежит звание царицы всех наук – самой главной, но и самой сложной из них. Постичь мысли Декарта, Канта, Сартра, Мамардашвили и многих других выдающихся философских умов не просто.
Помочь может чтение специализированного канала @EduPhilosophy , где о важнейших и сложнейших философских понятиях говорится телеграмно-коротко и, по возможности, просто. Рекомендую.
#СвободаВоли #ВоплощенныйИнтеллект
MDPI
Can a Robot Have Free Will?
Using insights from cybernetics and an information-based understanding of biological systems, a precise, scientifically inspired, definition of free-will is offered and the essential requirements for an agent to possess it in principle are set out. These…
Лучше ли вам живется, имея свободу выбора? Как сделать, чтоб было лучше?
Это не теория, а самая что ни на есть жизненная практика.
Есть три великие жизненные проблемы свободы воли (выбора), с которыми мы сталкиваемся постоянно в вопросах здоровья, образования, работы … или благополучия в целом.
1) Самая частая из них - проблема “жизненной навигации".
Мы знаем пункт назначения, куда хотим попасть (т.е. знаем, чего хотим добиться), но не знаем маршрута, КАК туда попасть (т.е. не понимаем, что конкретно нужно делать в условиях нашей реальности, чтобы добиться желаемого).
«Кто направо пойдёт —ничего не найдёт, а кто прямо пойдёт — никуда не придёт, кто налево пойдёт — ничего не поймёт и ни за грош пропадёт»
2) Другая гигантская проблема – соизмерение тактических и стратегических целей.
Например, то чего мы хотели бы добиться в этом году, может оказаться для нас опасным или вредным потом – в будущем. И как с этим быть?
«Три жены, красота, что не говори. Но с другой стороны, тёщи, тоже три»
3) Третья большая проблема – выбор в ситуации, когда есть 2 примерно одинаковых «маршрута». Проблема в том, что в жизни не бывает 2х абсолютных идентичных «маршрутов». Кажущиеся на вид одинаковыми по критерию А, они могут быть сильно разными по критерию Б. Но вы о критерии Б даже не задумывались, - вот в чем проблема.
«Жена не уйдет к другому, если у вас нет жены»
Названные 3 проблемы особенно остры, когда касаются вопросов выбора, завязанного на наши ценности, идентичность (личностные вопросы), характер (вопросы персональной психологии).
А ведь за тысячелетия человечество сумело-таки найти кое-какие толковые подходы к решению трех великих жизненных проблем.
Но кто из нас, если честно, в курсе – как к ним правильно подступиться?
Об этом в эссе «Свобода» (19 стр) https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3217325 – представляющем собой текст «Лекции Года 2018», прочитанной лауреатом Премии Хольдберга профессором Кассом Санштейном.
Видео лекции 1:14:14 здесь https://www.holbergprisen.no/en/holbergforelesningen-2018-freedom
Кто не в курсе, Премия Хольдберга https://www.holbergprisen.no/en/holberg-prize – это «Нобелевка» в области гуманитарных и социальных наук, искусств, права и теологии. Это сильно круто, жутко интересно и, к сожалению, совсем малоизвестно.
В этой лекции вы не найдете прямолинейных и однозначных советов и рекомендаций. Однако, если вы хотя бы задумаетесь о 3х великих проблемах, вы станете на шаг ближе к истинной мудрости, стОящей Премии Хольдберга за 2018 год.
«Думайте сами, решайте сами, иметь или не иметь»
#СвободаВоли
Это не теория, а самая что ни на есть жизненная практика.
Есть три великие жизненные проблемы свободы воли (выбора), с которыми мы сталкиваемся постоянно в вопросах здоровья, образования, работы … или благополучия в целом.
1) Самая частая из них - проблема “жизненной навигации".
Мы знаем пункт назначения, куда хотим попасть (т.е. знаем, чего хотим добиться), но не знаем маршрута, КАК туда попасть (т.е. не понимаем, что конкретно нужно делать в условиях нашей реальности, чтобы добиться желаемого).
«Кто направо пойдёт —ничего не найдёт, а кто прямо пойдёт — никуда не придёт, кто налево пойдёт — ничего не поймёт и ни за грош пропадёт»
2) Другая гигантская проблема – соизмерение тактических и стратегических целей.
Например, то чего мы хотели бы добиться в этом году, может оказаться для нас опасным или вредным потом – в будущем. И как с этим быть?
«Три жены, красота, что не говори. Но с другой стороны, тёщи, тоже три»
3) Третья большая проблема – выбор в ситуации, когда есть 2 примерно одинаковых «маршрута». Проблема в том, что в жизни не бывает 2х абсолютных идентичных «маршрутов». Кажущиеся на вид одинаковыми по критерию А, они могут быть сильно разными по критерию Б. Но вы о критерии Б даже не задумывались, - вот в чем проблема.
«Жена не уйдет к другому, если у вас нет жены»
Названные 3 проблемы особенно остры, когда касаются вопросов выбора, завязанного на наши ценности, идентичность (личностные вопросы), характер (вопросы персональной психологии).
А ведь за тысячелетия человечество сумело-таки найти кое-какие толковые подходы к решению трех великих жизненных проблем.
Но кто из нас, если честно, в курсе – как к ним правильно подступиться?
Об этом в эссе «Свобода» (19 стр) https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3217325 – представляющем собой текст «Лекции Года 2018», прочитанной лауреатом Премии Хольдберга профессором Кассом Санштейном.
Видео лекции 1:14:14 здесь https://www.holbergprisen.no/en/holbergforelesningen-2018-freedom
Кто не в курсе, Премия Хольдберга https://www.holbergprisen.no/en/holberg-prize – это «Нобелевка» в области гуманитарных и социальных наук, искусств, права и теологии. Это сильно круто, жутко интересно и, к сожалению, совсем малоизвестно.
В этой лекции вы не найдете прямолинейных и однозначных советов и рекомендаций. Однако, если вы хотя бы задумаетесь о 3х великих проблемах, вы станете на шаг ближе к истинной мудрости, стОящей Премии Хольдберга за 2018 год.
«Думайте сами, решайте сами, иметь или не иметь»
#СвободаВоли
Holbergprisen
The Holberg Lecture 2018: Freedom
If people have freedom of choice, do their lives go better? Under what conditions? By what criteria?