🥺 Все говорят: GPT “отупел”

Вижу кучу видосов, где блоггеры форсят, будто люди выиграли ИИ. И якобы все от того, что ИИ обучается на своих же генеренных текстах.

Если кажется, что вам не кажется — хочу внести несколько важных НО в эту дилемму и мб помогу промтом.

🐈 Что ломается на самом деле и как устроен GPT?

Ломается не интеллект, а режим ответа, источники и калибровка уверенности.

GPT — это не библиотека с информацией и не поисковик. Это языковая модель. И она исходя из контекста предсказывает следующий фрагмент ответа: токен за токеном — а затем отдает это нам. Читаем об этом туть.


Полезное для визуалов

➡️ Если кто не понимает, что такое токен и как GPT их "видит" — велкам в интерактивный токенайзер (он же на скрине к посту).

➡️ Если не страшно заглянуть внутрь трансформеров, го сюда — крутая наглядная инфа.

➡️ Патентоёбам сюда


Что влияет на качество ответа?

🔣Режим ответа: быстро и смело иногда пиздец как смело, или “думает” и аккуратно оперирует контекстом.

🔣Инструменты (например, когда уходит в серч): если есть внешний источник — качество зависит от внешних источников.


Как запретить GPT быть тупым и услужливым

Фактически, все беды GPT должны бы лечиться правилами к задаче. Но, тут как с разработчиками: какую задачу дал, такой результат и получил.

Мне вот такой набор правил помогает в работе.

1. Отвечай максимально точно и проверяемо.

2. Факты — только если можешь подтвердить. Если не можешь — пометь как предположение.

3. Не додумывай контекст и не заполняй пробелы в ответе “логичными предположениями”.

4. Если речь про актуальное/последнее/сейчас — сначала проверь источники и дай ссылки.

5. Если запрос расплывчатый — предложи 2 трактовки и задай 1 уточняющий вопрос.

Веса: как в поиске (где ранж завязан на ML), так и у GPT — есть свои веса

Модель — это числа, веса — тоже числа. В ней нет такого же принципа, как в индексной базе у поисковика. Ее принцип — кодировка закономерностей и связей.

Называйте как угодно: вектора, сущности и прочести.

Важно: в диалоге веса не переписываются. ГПТ не обучается мгновенно на вашем разговоре. Как формируется услужливость и поддакивания — частично объясняет RLHF.

Не менее важно: память — сохранённые предпочтения и факты о пользователе. Это продукт, а ни в коем случае не изменение весов. Веса обновляются только во время обучения модели.