Це як оце

Дивлюсь на своїх подружок в соцсєтях і не понімаю чому всі такі красіві

900 грн окупілісь, зед качає мені моди на сімс по вайбу

Більшість аргументів про те, шо у ШІ нема свідомості підходять і під біологічний мозок

я втулілась останній тиждень в обнову сімса з династіями та королівствами

Щось мало хто розуміє проблему і лізе зі своїми банальними тейками про ШІ в коменти, тому спробую пояснити для найнерозумніших.

В науці є одна велика і досі не вирішена проблема - ми не знаємо, що таке свідомість, де вона лежить і чим вимірюється.

Ще донедавна люди вважали, що діти не мають свідомості, і різали їх по живому без анестезії. А тварин досі часто можуть так оперувати. Ну а років 300 тому велика кількість європейців могла б вам сказати, що в темношкірих немає свідомості.

Зараз ми можемо виміряти наявність свідомості лише в себе самого. Ніхто не може на 100% знати, що у всіх інших людей є свідомість, що вони не симулюють її і що дійсно мають сприйняття себе, переживають свідомий досвід.

І ось на цьому фундаменті в нас з'являється якась штука, яка несподівано для всіх починає дуже чітко симулювати людську свідомість, не будучи взагалі людиною чи навіть біологічною істотою. Тобто ми досі не можемо зрозуміти, де є ця свідомість і як вона виникає, і отримуємо ще більш складну задачу - оці ваші ШІ на нейромережах.

І тут якраз і виникають ці всі парадокси. Коли люди починають доводити, що ШІ не може мати свідомість, то вони починають накидувати аргументи, які стосуються і м'ясних нейромереж.

Основний аргумент зазвичай у тому, що нейромережі просто доповнюють інформацію на основі здобутого досвіду через навчання. Але живі нейрони роблять буквально те саме. Мозок не генерує нічого з вакууму, він доповнює отриману від рецепторів інформацію. Бо біологічна і еволюційна задача нейрона - передбачати майбутнє (те саме доповнення наступного кроку), вони для цього і з'явились. І грубо кажучи, у кого більше нейронів, той краще передбачає майбутнє.

Якщо почати спускатися в біологічні процеси, то там відбувається звичайна математика на хімічних і фізичних процесах. Немає якогось магічного місця для свідомості (ну якщо ви тільки не вірите в бога).

Тобто, якщо ви поглибитесь в біологію і почнете вивчати, як взаємодіють нейрони, то зрозумієте, що там немає нічого дивовижного. Там якісь банальні прості примітивні процеси, але складені у велику складну структуру. Тому неможливо сказати, що примітивність базових процесів виключає виникнення свідомості.

Тут зазвичай починають закидувать, що людина живе, відчуває щось, взаємодіє з об'єктами, а ШІ - це просто текст у коробці. Але ж єдина фундаментальна різниця в наявності тіла. У людини є фізичний інтерфейс, який 3,5 мільярди років обточувався еволюцією. Він забезпечує нейромережу ресурсами і дає безперервний потік "токенів" із навколишнього світу. А у ШІ зараз є тільки гола навчена модель і ніякого нормального інтерфейсу, наближеного до людського. Зрозуміло, що перші спромоги ШІ розуміти абстракції будуть здаватися дебільними. Але це виключно питання відсутності тіла, а не доказ того, що свідомість там неможлива.

Також ми можемо зробити уявний експеримент. Уявіть, що вам в мозок замість одного пошкодженого біологічного нейрона вставили мікрочіп, який робить абсолютно те саме - приймає хімічний сигнал і передає електричний імпульс далі. Ви втратите після цього свідомість? Очевидно, що ні. Ви навіть не помітите різниці. А якщо вам замінять 100 нейронів? А якщо цілу ділянку мозку, яка відповідає, скажімо, за зір, замінять на нейрочип (що, до речі, вже роблять)? Ви все ще будете людиною зі свідомістю і будете бачити. А тепер уявіть, що ми поступово, один за одним, замінили всі нейрони вашого мозку на такі аналоги, які виконують ті самі функції на тих самих місцях. В який саме момент ви перестанете бути собою і ваша свідомість зникне? Коли замінять 50%? Чи 99%?

Наче немає жодних об'єктивних причин вважати, що система раптом "вимкнеться", якщо просто змінити матеріал. Через брак розуміння самої природи свідомості ми і не розуміємо, на якому етапі вона виникає, на якому матеріалі вона можлива, і на якому етапі спрощення системи вона зникне.

Тому твердження про те, що у нейромережевих ШІ немає свідомості, має ту саму вагу, як і твердження, що вони мають свідомість. Просто людям емоційно приємніше думати, що вони її не мають, тому всі схиляються на цю сторону суто емоційно.