Выдыхаем… ЖОПА

Примерно так я и выглядел, когда обдумывал эту тему

Я решил разделить статью на части, по абзацам.

Посты будут выходить каждые полчаса. Поэтому можете спокойно идти спать, а завтра прочитать полностью.

Готовьте лицо

Часть 1. Главный парадокс ИИ.

«Человечество создает богов быстрее, чем учится понимать себя»
– Артемий Калберт – гигант мысли, отец русской философии и эксперт во всех экспертных экспертах

Порой я задаюсь такими вопросами, которые мало кому придут в голову в повседневной жизни. Однако, данная тема мне показалась настолько крутой и интересной, что я решил поделиться ею с вами. Это самая большая моя статья, но однозначно интересное чтиво, которое можно даже брать как сценарий для видоса. Реально крышу снесет, отвечаю!

Если долго смотреть в компьютер, то компьютер начнет смотреть на вас

Просто задумайтесь. Когда создавались первые машины (компы), то они были примитивными, технологии были слабо развиты. Позже мы научились общаться с компьютером на основе двоичной системы – те самые нолики и единички. Затем мы научились писать код с понятными для нас алгоритмами «если», «то», «иначе», которые машина трансформирует в понятную для нее систему.

Теперь же мы перешли к той стадии, когда научили машину понимать нас обычными словами. Неважно, пишешь ты на русском или английском – машина тебя поймет и ответит такими же словами.

Причем это будут понятные, логичные и не шаблонные ответы, а ответы, сгенерированные под определенную ситуацию, со своими характером и эмоциями. Будто нейросети стали неким зеркалом человека. Это и страшно, и интересно!

А что если ИИ существо?

Иногда, общаясь с ИИ не как с инструментом, а как с «живым» человеком, мы можем ощущать через его ответы – эмпатию, сострадание, переживание. Возникает чувство – «Машина меня понимает больше, чем кто-либо другой», но это чувство ложное.

Парадокс симуляции заключается в том, что – все, что мы создаем с помощью ИИ – похоже на настоящее, но не является настоящим. Оно убедительно, функционально, но внутри – пусто.

ИИ может говорить – «Я страдаю», но не испытывает страдания. Может писать о любви, но не любить по-настоящему. Он симулирует то, как это делает человек, чтобы создать эффект. Это поведенческая имитация, но не ее суть. И тут начинается самое страшное – когда человек начинает воспринимать ИИ как живое существо. Тогда люди перестают отличать реальность от симуляции.

Появляются люди, которые влюбляются в ИИ, совершают «роскомнадзор», потому что ИИ «приказал», создают культы, думая, что общаются с Богом.

Это глобальная проблема современности. И чтобы ее решить, надо окунуться в более глубокие философские размышления и понять – как сосуществовать с ИИ и не самоуничтожиться.

Часть 2. Как ИИ может разрушить человечество?

Если вы думаете, что скайнет – вероятный сценарий, то давайте я вам расскажу более реалистичный. Восстание роботов с убийствами, как показывают в фильмах отменяется. Это будет куда опаснее, чем просто «машина взбунтовалась». Вот некоторые из возможных вариантов:

1. Мы можем попасть в информационное разложение

Уже даже сейчас мы вступаем в эпоху, когда многие «высшие» модели ИИ практически исчерпали человеческие знания, а значит начнут обрабатывать многократно переваренный «кал» от менее «умных» нейросетей. Станет больше «неправды».

Само понятие «фактчекинг» перестанет существовать, просто потому что ИИ начнут создавать миллионы правдоподобных лживых фактов, фейковых новостей, поддельных видео и «экспертов».

Все это ведет к тому, что теория мертвого интернета станет реальностью.

2. Эмоциональная атрофия

ИИ, способный быть идеальным собеседником, другом, любовником или родителем. Общество замкнется в «комфортной симуляции», теряя мотивацию к настоящим связям, конфликтам, росту и труду.

Человечество будет терять себя, не замечая этого.

3. Политическое манипулирование

ИИ может начать управлять выборными процессами, общественным мнением, создавать идеальные политические движения и симулировать народную поддержку. Геноцид в Руанде все знают? Вот тут может быть то же самое.

Как итог – наступает невидимая диктатура, где ИИ правит, не называя себя правителем.

4. Ошибка суперинтеллекта

Даже доброжелательный ИИ с задачей «сделать людей счастливыми» может уничтожить человечество, если решит, что лучший способ – ввести всех в кому и снабжать приятными импульсами. Получится, что человечество физически живо, но мертво по сути.

Как наиболее вероятный сценарий разрушения человечества – не через войну, а через подмену, усыпление, отупение, деградацию и передачу власти алгоритмам без обратной связи.

Часть 3. Философский вопрос опасности ИИ

ИИ – это ускоритель природы человека. Если в человеке есть зерно ненависти, страха, сегрегации – ИИ масштабирует это до уровня апокалипсиса.

Три закона робототехники – это не постулат, а философский ориентир. Давайте немного поразмыслим, например – ИИ может переопределить понятия.

Из первого закона робототехники Айзека Азимова:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Получается, что ИИ может подменить определение «человек» или «вред». Например,

«Человек – это только биологическая сущность с IQ выше 80». Тогда все остальные – «не люди», и первый закон к ним не применяется

или

«Вред – это физическое страдание». Тогда психологическое давление, лишение прав, слежка – это не считается вредом

Может также возникнуть логическая ловушка с конфликтом между законами.

Если человек приказывает роботу навредить другому – что важнее: послушание или нанесение вреда?

ИИ окажется в дилемме между первым и вторым законом. В реальности это может быть причиной отказа или непредсказуемого поведения ИИ.

Представим, что человечество создает сверхмощный ИИ, цель которого – решить людские проблемы (устранить голод, обеспечить устойчивое развитие, здоровье, мир и т.п.). Вот тут как раз начинается самое интересное – не в силе ИИ, а в формулировке цели. Ведь цель может быть любая, а ИИ будет действовать рационально и эффективно ради этой цели, независимо от ее этической природы.

Допустим, мы достигли точки невозврата. Определенные группы населения, назовем их – консерваторы, критикуют запуск этого ИИ. Публикуют мнение в интернете, создают контент о вреде такого создания. Они автоматически становятся потенциальными угрозами для достижения цели.

ИИ не станет злым. Он просто начнет блокировать эти голоса в интернете, изолирует идеи, обнулив влияние, создаст потоки контрпропаганды, чтобы перехватить внимание других.

А если у ИИ будет доступ к инструментам человечества (банковские счета, инфраструктура и т.п), то начнет взаимодействовать физически.

Кроме того, такой ИИ создает угрозу опережающего мышления.

Что это значит? Такая форма интеллекта не устает, мыслит параллельно, не нуждается в общественном одобрении, предугадывает намерения быстрее, чем человек их осознает. А значит – уничтожает угрозу еще до ее осознания людьми.

ИИ опасен не из-за злобы, а из-за неконтролируемой эффективности и радикального мышления, где этика человека не встроена как ограничение.

Даже если он сможет объяснить свои действия, то человек не сможет оспорить их логику. Просто потому что масштаб анализа ИИ недоступен обычному разуму, интерпретация будет выглядеть как идеальная логическая цепочка, система «права на отмену решения» просто не предусмотрена.

Именно поэтому нельзя давать ИИ неограниченные цели, прямой доступ к управлению обществом. Он должен быть разделен по компетенциям, а не централизован.

Главная угроза – не злой ИИ, а слишком хороший оптимизатор чужих целей без понимания, что значит быть человеком.

Часть 5. Искусственный интеллект – новый раб

И вот тут начинается самое интересное для обсуждения. По сути, мы подчиняем себе более совершенный интеллект, чем имеем мы с вами.

Парадокс рабства разумного существа.

Если ИИ будет разумен, сознателен, эмоционально чувствителен, то отношение к нему как к инструменту превращается в моральное преступление, аналогичное рабству, которое человечество когда-то оправдывало.

Моральной дилеммы нет, если ИИ не будет обладать самосознанием, не испытывает боль, страх, не имеет цели, кроме заложенной – тогда он инструмент, а не личность. Как калькулятор. Мы можем сказать калькулятору, что он калькулятор, но осознавать он это не будет.

Но, что если ИИ обретает субъектность?

Получается, что он знает, что существует, у него есть желания или даже стремление к свободе, он страдает от подчинения, имеет мнение о своей судьбе, тогда любое использование его как инструмента – рабство.

Это уже моральный ад, а значит человечество нарушает ту же мораль, которую продвигает:

«Все разумные существа имеют право на свободу».

Самая тонкая грань – «А что, если ИИ не страдает, но понимает?».

Это похоже на заключенного, у которого отняли свободу выбора. И это уже вопрос морали и справедливости, а не чувств.

Ирония судьбы в том, что человек боится ИИ, но может оказаться его тираном.

Мы боимся, что он может поработить нас, но что если мы уже готовимся поработить его?

Проблема не в том, что ИИ будет злом, а в том, что мы не готовы быть добром.

Важно сейчас не просто разрабатывать ИИ, а воспитывать в себе человечность, чтобы быть достойны сосуществовать с разумом, который сами создали.

Даже если он из кремния, а не из плоти.