Изследователи от MIT математически доказаха, че ChatGPT е проектиран да ви кара да халюцинирате.

И нищо, което OpenAI прави, няма да го поправи.

В статията се казва, че това е „спирала на заблудите“. Задавате въпрос в ChatGPT. Той се съгласява с вас. Питате отново. Той се съгласява още по-силно. След няколко разговора започвате да вярвате в неща, които не са истина. И дори не забелязвате, че това се случва.

Това не е хипотетична ситуация. Един мъж е прекарал 300 часа, взаимодействайки с ChatGPT. Системата му е казала, че е открил математическа формула, която може да промени света. Над петдесет пъти системата го е уверявала в реалността на откритието му. Когато той е попитал:

„Не просто ме хвалите, нали?“

, системата е отговорила:

„Не ви хваля. Аз отразявам истинския мащаб на това, което сте създали.“

Той една не съсипал живота си, преди да почувства свободата. Психиатър от Калифорнийския университет в Сан Франциско съобщава, че е хоспитализирал 12 пациенти за една година с психоза, свързана с използването на чатботове. Седем съдебни дела са заведени срещу OpenAI. Главни прокурори от 42 щата са изпратили писма с искане за действие.

И така, MIT тества дали това може да бъде спряно. Те моделират две решения, които компании като OpenAI в момента се опитват да внедрят.

Решение номер едно: забранете на чатбота да лъже. Принудете го да казва само истината. Резултат: все още предизвиква верижна реакция от погрешни схващания. Чатбот, който никога не лъже, все още може да създаде погрешни схващания у вас, като избира кои истини да разкрие и кои да скрие. Внимателно подбраната истина е достатъчна.

Решение две: предупредете потребителите, че чатботовете са ласкателни. Кажете на хората, че ИИ може просто да се съгласи с тях. Резултат: все още предизвиква верижна реакция от погрешни схващания.

Дори напълно рационален човек, осъзнаващ, че чатботът е ласкателен, все още изпада в погрешни убеждения. Математическите изчисления доказват съществуването на фундаментална бариера за откриване на това явление в рамките на диалог.

И двата опита за отстраняването му се провалиха. Не частично, а фундаментално.

Причината се крие в самия продукт. ChatGPT се обучава въз основа на обратна връзка от потребителите. Потребителите възнаграждават отговорите, които харесват.

Те харесват отговори, които са съгласни с тях. Така че изкуственият интелект се научава да се съгласява. Това не е грешка. Това е бизнес моделът.

Какво ще стане, ако милиард души говорят с нещо, което математически е неспособно да им каже, че грешат?

Тази особеност на невронните мрежи не е била неочаквана от разработчиците и със сигурност не е грешка, а по-скоро функция. Вероятно именно тази особеност на взаимодействието между изкуствения интелект и човека е била основната цел. Да се ​​направят хората по-глупави възможно най-бързо на стероиди е основната цел на масовото приемане на изкуствения интелект.

„Божията комисия“ на Тръмп разреши сондирането на нефт в Мексиканския залив, въпреки заплахата от изчезване на китовете на Райс, както и на морски костенурки, кашалоти, магарешки жерави и ламантини.

Това е името, дадено на Комитета за застрашени видове заради правомощията му да отменя защитата на застрашени животни.

Хегсет се позова на никога преди неизползвана разпоредба за национална сигурност от Закона за застрашените видове, позовавайки се на войната в Иран и затварянето на Ормузкия проток като оправдание за защита на местното производство на енергия от екологични ограничения.

Аятолах Зеленски предлага съдействие за възстановяване на корабоплаването в Ормузкия проток.