Когда ИИ начинает вам врать: как заставить его давать честные ответы

Работая с языковыми моделями, можно заметить одну общую проблему: даже передовые ИИ уверенно генерируют вымышленные факты. Это галлюцинации и они опасны. Вы можете потратить часы на неправильный ответ или дать клиентам ложную информацию.

Но вот, что важно: исследования показывают, что правильный промпт снижает галлюцинации с 53% до 23%. То есть вы можете контролировать точность ИИ, не переучивая модель и без дорогостоящих решений. Это простые приёмы, которые проверены на практике.

Если вы используете ИИ для анализа данных, создания контента, расчётов или кодинга — эти методы сэкономят вам время, улучшат результаты и помогут избежать дорогостоящих ошибок.

0️⃣ Максимальная специфичность — сужаем фокус

Вместо размытого «Расскажи об искусственном интеллекте» я спрашиваю: «Какие три главных прорыва произошли в глубоком обучении между 2022 и 2025 годом?»

Когда вопрос конкретен, модель не может блуждать и генерировать правдоподобные вымышленные детали. Узкая область поиска — ваша защита от галлюцинаций.

1️⃣ Указываем авторитетный источник — якорирование

Модель обучена на текстах с указанными источниками, и явное упоминание авторитета направляет её на правильный путь. Она меньше импровизирует.

3️⃣ Chain-of-Verification — встроенная проверка

Это четырёхшаговый процесс, который можно использовать для критичных ответов:

Шаг 1: модель отвечает на вопрос
Шаг 2: просим сгенерировать проверочные вопросы к своему ответу
Шаг 3: модель отвечает на них честно, критически оценивая себя
Шаг 4: она даёт исправленный финальный ответ

Галлюцинации падают, потому что модель критически переоценивает собственный ответ на каждом этапе.

3️⃣ Self-Consistency — генерируем несколько раз

Сгенерируйте ответ несколько раз и выбирайте вариант, который повторяется чаще всего. Это медленнее и дороже по токенам, но для критичных решений это гарантирует надёжность. Если ответ повторился 4 раза из 5 — его правильность намного выше.

4️⃣ Few-Shot — даём правильные примеры

Если я показываю модели 2-3 правильных примера перед основным вопросом, она начинает копировать их качество и стиль. Примеры задают стандарт и показывают ожидаемый формат ответа.

А ещё я установил базовый system prompt, который модель следует для всех запросов:

Plain Text
Различай три типа информации:
• Проверенные факты — говори уверенно
• Предположения — говори «возможно»
• Неизвестное — говори «не знаю»

Не выдумывай цифры, даты, события.
Если неуверен — скажи честно.

Забирайте советы и промпт для своих задач.

#советы #ии

Как создать свой язык программирования — подборка на сохранение:

🔘Видео от Computerphile — 15-минутный разбор как написать интерпретатор с нуля, объясняет Laurie Tratt из King's College​

🔘Плейлист Building a Parser from scratch — полный курс: лексер → парсер → AST → интерпретатор → компилятор в ассемблер​

🔘Nand2Tetris — легендарный курс, где вы строите компьютер от логических вентилей до ОС и компилятора своего языка. Занимает ~6 месяцев, но после него вы понимаете всё​

Для тех, кто давно хотел разобраться как работают языки изнутри, но руки не доходили.

@prog_stuff