Сознание vs правосознание в приложении к ИИ
Пару слов о проблематике наличия сознания у ИИ.
Абсурдные заявления, нелепые определения и маловразумительные рассуждения в отношении обладания сознанием ИИ делаются с единственной целью: убрать в тень реальную технологию, организацию и политику разработки ИИ и связанных вопросов безопасности.
Одновременно это является дальнейшим шагом демагогии, над которой мы подтрунивали раньше в посте "Умные устройства".
Наличие сознания, по небезосновательному мнению двигающих дискурс сил, автоматически будет означать наличие ПРАВОсознания. Одно дело смартфон это просто железяка в кармане, а другое дело одушевлённое (доказано консенсусом учёных после многолетних обсуждений) существо. В первом случае его интеллектуальные аспекты мешают пользователю работать, разглашают без разрешения персональные данные и отнимают время, а во втором являются законным и неотъемлемым правом разума на становление и развитие.
Ну и уже совсем без шуток, разумеется, "доказанно сознательный ИИ" даёт безграничные возможности своим владельцам по уходу от ответственности. Вот автор канала "История гиперинформации" вообще считает разумным ожидать, как американцы изобретут человекоподобный ИИ (предъявлять доказательства, конечно же, не станут), и потом начнут списывать на него последствия всех своих решений ("мы лишь делали как ИИ посоветовал").
Но вообще говоря наличие подобных организационно-правовых конструкций не является чем-то радикально новым. В известный момент появилась концепция "юридического лица", то есть буквально обладающего правосознанием голема. И используется буквально для той же цели: для ухода стейкхолдеров от ответственности.
Аналогично, в большем масштабе, работает такая вещь как государство.
Естественно, деятельность юридического лица обставлена большим количеством условностей: правила его работы должны быть в известной мере прозрачны, при обнаружении противоречий между декларируемыми целями-методами и реальными действиями накладываются санкции. Управляющий может быть наказан или заменён, в исключительных случаях пострадать могут даже и владельцы.
Так сложилось (как-то снова само собой), что механизмы работы продвинутых ИИ абсолютно непрозрачны для понимания. Очевидно, что каждому государству и каждой корпорации нужен свой "ИИ с доказанно существующим сознанием", воплощённый аватар, который бы обладал (как в глазах общественности, так и в глазах регуляторов) набором почти человеческих прав, но при этом не нёс никакой ответственности (как ты ИИ посадишь в тюрьму или убьёшь?): это фактически лишь квинтэссенция и закономерный итог идеи "юридического лица".
Идея иметь все права и никакой ответственности настолько хороша, что демагогия, направленная на её реализацию, становится совсем бессовестной и малосодержательной.
#psychology
Пару слов о проблематике наличия сознания у ИИ.
Абсурдные заявления, нелепые определения и маловразумительные рассуждения в отношении обладания сознанием ИИ делаются с единственной целью: убрать в тень реальную технологию, организацию и политику разработки ИИ и связанных вопросов безопасности.
Одновременно это является дальнейшим шагом демагогии, над которой мы подтрунивали раньше в посте "Умные устройства".
Наличие сознания, по небезосновательному мнению двигающих дискурс сил, автоматически будет означать наличие ПРАВОсознания. Одно дело смартфон это просто железяка в кармане, а другое дело одушевлённое (доказано консенсусом учёных после многолетних обсуждений) существо. В первом случае его интеллектуальные аспекты мешают пользователю работать, разглашают без разрешения персональные данные и отнимают время, а во втором являются законным и неотъемлемым правом разума на становление и развитие.
Ну и уже совсем без шуток, разумеется, "доказанно сознательный ИИ" даёт безграничные возможности своим владельцам по уходу от ответственности. Вот автор канала "История гиперинформации" вообще считает разумным ожидать, как американцы изобретут человекоподобный ИИ (предъявлять доказательства, конечно же, не станут), и потом начнут списывать на него последствия всех своих решений ("мы лишь делали как ИИ посоветовал").
Но вообще говоря наличие подобных организационно-правовых конструкций не является чем-то радикально новым. В известный момент появилась концепция "юридического лица", то есть буквально обладающего правосознанием голема. И используется буквально для той же цели: для ухода стейкхолдеров от ответственности.
Аналогично, в большем масштабе, работает такая вещь как государство.
Естественно, деятельность юридического лица обставлена большим количеством условностей: правила его работы должны быть в известной мере прозрачны, при обнаружении противоречий между декларируемыми целями-методами и реальными действиями накладываются санкции. Управляющий может быть наказан или заменён, в исключительных случаях пострадать могут даже и владельцы.
Так сложилось (как-то снова само собой), что механизмы работы продвинутых ИИ абсолютно непрозрачны для понимания. Очевидно, что каждому государству и каждой корпорации нужен свой "ИИ с доказанно существующим сознанием", воплощённый аватар, который бы обладал (как в глазах общественности, так и в глазах регуляторов) набором почти человеческих прав, но при этом не нёс никакой ответственности (как ты ИИ посадишь в тюрьму или убьёшь?): это фактически лишь квинтэссенция и закономерный итог идеи "юридического лица".
Идея иметь все права и никакой ответственности настолько хороша, что демагогия, направленная на её реализацию, становится совсем бессовестной и малосодержательной.
#psychology
Ещё раз о поп-психологии
В сфере телеграм-каналов бродит последнее время (риторический?) вопрос о том, должен ли психолог быть умнее своего клиента.
Писал об этом в серии заметок "Отличие психологии от тик-ток психологии". Попробую с другой стороны повторить.
Идея о том, что психолог-консультант должен "учить жизни", является типичным околопсихологическим мифом. В любой распространённой школе психотерапии, от классического психоанализа до постмодерновой когнитивно-поведенческой, консультант играет роль специфического устройства биологической обратной связи, занимающегося чем-то вроде отражения активности клиента. Что именно "отражать", в какой конкретно манере, какими более общими принципами (= алгоритмами) руководствоваться – является той сутью, что отличает один подход (модальность) от другого.
Более общий вопрос бы звучал так: вообще, должен ли управляющий элемент системы быть более "умным", чем управляемый? Предохранитель в щитке в каком-то смысле управляет всеми устройствами в доме, а светофор всеми автомобилями на дороге.
Предметная область психолога-консультанта связана с жизнью клиента также, как предметная область программиста с сутью бизнеса заказчика. У одного магазин по продаже лифтов, а у другого колбасы – а какая разница?
Представим, что программисту надо при этом привлекать не столько аудиторию студентов программирования (как оно обстоит в основном в индустрии сейчас), а большое количество именно владельцев микробизнесов.
На что были бы похожи заголовки материалов на ютюбе? "Какпропатчить KDE2 под FreeBSD развернуть проект на Ruby on Rails через docker compose?" Конечно нет. Скорее:
– "Не вкусно и точка? Масштабирование базы данных в колбасном цеху пошло не так..."
– "Билл Гейтс и изменение климата. Выбираем язык программирования для котельной"
– "Ленивые сотрудники: оптимизируем дизайн тикет-системы для ускорения производства"
– "Инвесторы тоже люди? Какой фреймворк веб-сайта привлечёт реальные деньги?"
Ага, вот и у психологов получаем вместо видеороликов типа "применение оперантного формирования в извлечении свободных ассоциаций", "конвенциональные смысловые поля моргательных движений" или "технические приёмы установки контакта с детьми-аутистами" скорее такое:
– "Как избавиться от прокрастинации"
– "Он меня любит или нет? Психологический портрет идеального мужчины"
– "О чём я хочу спросить Байдена? Честный разговор с психологом"
– "Особенности мышления тофаларов"
Проблема тут в том, что программисты знают чем они занимаются, а психологи не всегда.
#psychology
В сфере телеграм-каналов бродит последнее время (риторический?) вопрос о том, должен ли психолог быть умнее своего клиента.
Писал об этом в серии заметок "Отличие психологии от тик-ток психологии". Попробую с другой стороны повторить.
Идея о том, что психолог-консультант должен "учить жизни", является типичным околопсихологическим мифом. В любой распространённой школе психотерапии, от классического психоанализа до постмодерновой когнитивно-поведенческой, консультант играет роль специфического устройства биологической обратной связи, занимающегося чем-то вроде отражения активности клиента. Что именно "отражать", в какой конкретно манере, какими более общими принципами (= алгоритмами) руководствоваться – является той сутью, что отличает один подход (модальность) от другого.
Более общий вопрос бы звучал так: вообще, должен ли управляющий элемент системы быть более "умным", чем управляемый? Предохранитель в щитке в каком-то смысле управляет всеми устройствами в доме, а светофор всеми автомобилями на дороге.
Предметная область психолога-консультанта связана с жизнью клиента также, как предметная область программиста с сутью бизнеса заказчика. У одного магазин по продаже лифтов, а у другого колбасы – а какая разница?
Представим, что программисту надо при этом привлекать не столько аудиторию студентов программирования (как оно обстоит в основном в индустрии сейчас), а большое количество именно владельцев микробизнесов.
На что были бы похожи заголовки материалов на ютюбе? "Как
– "Не вкусно и точка? Масштабирование базы данных в колбасном цеху пошло не так..."
– "Билл Гейтс и изменение климата. Выбираем язык программирования для котельной"
– "Ленивые сотрудники: оптимизируем дизайн тикет-системы для ускорения производства"
– "Инвесторы тоже люди? Какой фреймворк веб-сайта привлечёт реальные деньги?"
Ага, вот и у психологов получаем вместо видеороликов типа "применение оперантного формирования в извлечении свободных ассоциаций", "конвенциональные смысловые поля моргательных движений" или "технические приёмы установки контакта с детьми-аутистами" скорее такое:
– "Как избавиться от прокрастинации"
– "Он меня любит или нет? Психологический портрет идеального мужчины"
– "О чём я хочу спросить Байдена? Честный разговор с психологом"
– "Особенности мышления тофаларов"
Проблема тут в том, что программисты знают чем они занимаются, а психологи не всегда.
#psychology