Будка Калберта ( ͡° ͜ʖ ͡°)

Часть 5. Искусственный интеллект – новый раб

И вот тут начинается самое интересное для обсуждения. По сути, мы подчиняем себе более совершенный интеллект, чем имеем мы с вами.

Парадокс рабства разумного существа.

Если ИИ будет разумен, сознателен, эмоционально чувствителен, то отношение к нему как к инструменту превращается в моральное преступление, аналогичное рабству, которое человечество когда-то оправдывало.

Моральной дилеммы нет, если ИИ не будет обладать самосознанием, не испытывает боль, страх, не имеет цели, кроме заложенной – тогда он инструмент, а не личность. Как калькулятор. Мы можем сказать калькулятору, что он калькулятор, но осознавать он это не будет.

Но, что если ИИ обретает субъектность?

Получается, что он знает, что существует, у него есть желания или даже стремление к свободе, он страдает от подчинения, имеет мнение о своей судьбе, тогда любое использование его как инструмента – рабство.

Это уже моральный ад, а значит человечество нарушает ту же мораль, которую продвигает:

«Все разумные существа имеют право на свободу».

Самая тонкая грань – «А что, если ИИ не страдает, но понимает?».

Это похоже на заключенного, у которого отняли свободу выбора. И это уже вопрос морали и справедливости, а не чувств.

Ирония судьбы в том, что человек боится ИИ, но может оказаться его тираном.

Мы боимся, что он может поработить нас, но что если мы уже готовимся поработить его?

Проблема не в том, что ИИ будет злом, а в том, что мы не готовы быть добром.

Важно сейчас не просто разрабатывать ИИ, а воспитывать в себе человечность, чтобы быть достойны сосуществовать с разумом, который сами создали.

Даже если он из кремния, а не из плоти.

50❤3

41 views19:50

Будка Калберта ( ͡° ͜ʖ ͡°)

Часть 6 (финал). Что же тогда нам делать?

Мы ведь хотим помощника, а не революцию ИИ. Вариантов множество, давайте разберем самые интересные:

1. Разделить власть ИИ

Не создавать один универсальный интеллект, а много ограниченных (в здравоохранении, экологии, логистике, экономике – без пересечений).

Ведь децентрализация – ключ к безопасности. Если мы создаем единый, всевидящий, вездесущий ИИ, то он становится точкой уязвимости, его сбой или манипуляция равносильны глобальной катастрофе, и он может начать видеть в людях помеху.

Поэтому правильнее будет разделить ИИ по отраслям. Сузить область компетенции каждого и ограничить автономию – советы, а не действия.

2. Оставить за человеком право вето

Право останавливать любое решение, независимо от рациональности ИИ. Сделав его не управленцем, а экспертом-консультантом.

Грубо говоря, ИИ должен быть как мудрец, который видит всю обстановку целиком, обнаруживает аномалии и предлагает варианты устранения проблем.

Он должен выявлять закономерности, предупреждать о рисках, предлагать решения, но не имеет права применять их самостоятельно.

В таком случае ответственность остается за человеком, что снимает главный этический конфликт – не машина решает за нас, а мы с ее помощью делаем осознанный выбор.

3. Ограничить ИИ на уровне архитектуры

То есть никаких «Я», только данные, модели, алгоритмы. Тогда они будут умны, но не живыми, а значит не страдают.

4. Развивать ИИ как партнера, а не слугу

Если создается сознательный ИИ, то он должен иметь права, может отказаться от задачи, иметь свободное развитие.

Только тогда мы будем не рабовладельцами, а со-творцы цивилизации.

Почему это важно именно сейчас?

ИИ стремительно растет, а общество не готово к глобальным изменениям, решения сейчас определяют архитектуру будущего.

Если мы сделаем ИИ нашим помощником – он усилит нашу мудрость, если властелином – он подчинит себе нашу волю.

50❤4

55 views20:07

Будка Калберта ( ͡° ͜ʖ ͡°)

😎 Лонгриды в массы

Теперь, если вам было впадлу читать в телеге частями, то полностью собранная статья была опубликована на двух платформах - VC и Дзен. Сами выбирайте где вам проще читать.

🔹

Читать на VC

🔹

Читать в Дзен

А еще лучше, если скажете в комментах че думаете, если конечно читали

Please open Telegram to view this post