🧠 ChatGPT галлюцинирует, потому что на финальных этапах текстовые модели настраивают люди.
Метод называется RLHF (Reinforcement Learning from Human Feedback).
Очень образно - люди оценивают ответ через «хорошо, вот тебе звездочка» и «плохо, фиг тебе, а не звездочка».
И модель начинает подстраиваться, имитировать уверенность в ответе, чтобы получить свою звездочку, тк отсутствие ответа поощрения не получает.
Это не единственная причина, но известный баг.
🛠️ Как слегка уменьшить эффект
Разрешите модели не отвечать. Пропишите это прямо в промпте как правило:
Метод называется RLHF (Reinforcement Learning from Human Feedback).
Очень образно - люди оценивают ответ через «хорошо, вот тебе звездочка» и «плохо, фиг тебе, а не звездочка».
И модель начинает подстраиваться, имитировать уверенность в ответе, чтобы получить свою звездочку, тк отсутствие ответа поощрения не получает.
Это не единственная причина, но известный баг.
🛠️ Как слегка уменьшить эффект
Разрешите модели не отвечать. Пропишите это прямо в промпте как правило:
Если не можешь найти данных или данные противоречивы - напиши 'нет достоверных данных'👍4👏2
Я тут случайно нашла профессию будущего.
📊 Отчет на основе 3 млн вакансий, вторая быстро-растущая роль в сфере ИИ - создатель контента (AI Content Creator). Уступает только инженеру.
🔍 Попросила ChatGPT вытащить описание из реальных объявлений:
⚡️Если вам подходит - успевайте заскочить первыми.
📊 Отчет на основе 3 млн вакансий, вторая быстро-растущая роль в сфере ИИ - создатель контента (AI Content Creator). Уступает только инженеру.
🔍 Попросила ChatGPT вытащить описание из реальных объявлений:
Коротко про роль AI creator
Что делает
• Создает тексты, изображения и видео генеративными инструментами под голос бренда и задачи маркетинга; разрабатывает контент-стратегии с AI.
• Пишет и систематизирует промпты, следит за качеством и точностью; склеивает AI-генерации с классическим продакшеном (монтаж, цвет, звук, графика), работает с маркетингом и PPC.
Основные обязанности
• Генерация коротких и средних видео под кампании и карточки товара; визуалы для тизеров, сторис, каталогов.
• Подбор и итерация промптов; контроль соответствия бренду и задаче; ведение библиотек промптов и стилей; настройка процессов; A B-тесты и оптимизация по метрикам.
• Монтаж и пост-продакшен: озвучка, синхронизация, моушн-графика.
⚡️Если вам подходит - успевайте заскочить первыми.
❤4🔥2
Базовая база, о которой почти никто не пишет.
🧠 LLM - Large Language Models (большие языковые модели) - вид нейросетей, которые обучаются на текстах.
Раньше было просто: вход текст - выход текст. Сейчас многие мультимодальные, где вход и выход могут быть изображение, голос, видео. Но внутри сама модель работает с токенами, на которые она разбила текст.
Токен - символ или набор символов, одна уникальная единица. Может быть буквой, словом, знаком препинания.
👉 Примеры LLM - ChatGPT, Claude, DeepSeek, Gemini, YandexGPT, Gigachat.
Технически ChatGPT интерфейс, а GPT-4, GPT-5 модели, Claude интерфейс, а Claude 3.5 модель и тд. То есть внутри одной оболочки модели могут быть разные.
Я для простоты называю это все «текстовые нейросети», хотя это не вполне корректно, т.к. не все текстовые - LLM, но все LLM - текстовые.
🔍 Почему это вообще важно: потому что промптинг используется не только в работе с LLM, но и для фото/видео генераторов, например, а это совсем другие животные.
А ну и промпт = текстовая инструкция. Промпт-инжиниринг = разработка и тестирование промптов.
🧩 Недавно появился новый термин контекст-инжиниринг. Это более продвинутый метод, когда для постановки задачи вы используете не только промпт, но и внешние данные (файлы, базы и тд)
🧠 LLM - Large Language Models (большие языковые модели) - вид нейросетей, которые обучаются на текстах.
Раньше было просто: вход текст - выход текст. Сейчас многие мультимодальные, где вход и выход могут быть изображение, голос, видео. Но внутри сама модель работает с токенами, на которые она разбила текст.
Токен - символ или набор символов, одна уникальная единица. Может быть буквой, словом, знаком препинания.
👉 Примеры LLM - ChatGPT, Claude, DeepSeek, Gemini, YandexGPT, Gigachat.
Технически ChatGPT интерфейс, а GPT-4, GPT-5 модели, Claude интерфейс, а Claude 3.5 модель и тд. То есть внутри одной оболочки модели могут быть разные.
Я для простоты называю это все «текстовые нейросети», хотя это не вполне корректно, т.к. не все текстовые - LLM, но все LLM - текстовые.
🔍 Почему это вообще важно: потому что промптинг используется не только в работе с LLM, но и для фото/видео генераторов, например, а это совсем другие животные.
А ну и промпт = текстовая инструкция. Промпт-инжиниринг = разработка и тестирование промптов.
🧩 Недавно появился новый термин контекст-инжиниринг. Это более продвинутый метод, когда для постановки задачи вы используете не только промпт, но и внешние данные (файлы, базы и тд)
❤2
📊 Новое исследование по использованию ИИ среди маркетологов
🧾 Участвовало 730 человек, 31 страница. Если нужен оригинал, внизу на скрине сайт.
Основные выводы:
1️⃣ 60% используют ИИ для работы ежедневно
2️⃣ 90% для текстовых задач.
Из них:
- генерация идей 90%
- черновиков / первой копии 89%
- заголовков 86%
- редактура 85%
3️⃣ (вот тут я офигела)
35% B2B маркетологов и 24% B2C пользуются ИИ сервисами от 26 до 50% рабочего времени!
Думается мне, в России сейчас поменьше процент, но все там будем.
🧾 Участвовало 730 человек, 31 страница. Если нужен оригинал, внизу на скрине сайт.
Основные выводы:
1️⃣ 60% используют ИИ для работы ежедневно
2️⃣ 90% для текстовых задач.
Из них:
- генерация идей 90%
- черновиков / первой копии 89%
- заголовков 86%
- редактура 85%
3️⃣ (вот тут я офигела)
35% B2B маркетологов и 24% B2C пользуются ИИ сервисами от 26 до 50% рабочего времени!
Думается мне, в России сейчас поменьше процент, но все там будем.
❤3
❌ Почему ChatGPT забывает факты и игнорирует инструкции.
В LLM есть понятие «окно контекста» (context window). По сути это активная память - что нейросеть может держать в своей не-голове обрабатывая конкретный запрос. Это фиксированная величина, и она отличается у разных моделей.
Раньше оно было небольшое, но работало понятно - буквально как окно. Как будто в чате есть фиксированная рамка, информация в которой активна. Чат уезжает наверх, контент в рамке обновляется. Как скроллинг на экране.
Сейчас размер увеличился в разы, но больше это не одно окно, а сотня маленьких. Которые мало того, что стоят непонятно где и подсвечивают непонятно что, еще и постоянно перемещаются.
Представьте, что у вас есть 10 ячеек, которые всегда заполнены. Чтобы добавить в ячейку что-то новое, что-то старое должно выпихнуться.
📌 Что конкурирует за место в ячейках, на примере ChatGPT:
- ваш промпт
- «промпт разработчика» (заводские настройки, которые вы не можете поменять)
- кастомные инструкции (что у вас в настройках или инструкциях проекта)
- история чата
- история других чатов, если функция включена
- собственно, знания нейросети
- результаты поиска, если поиск активирован
- информация из файлов, если они подгружены
… уверена, что что-то еще упустила.
⚠️ Контекстные окна сейчас огромны, но и конкуренция высокая. Поэтому если вы завалили чат кучей инструкций, файлов, общаетесь в одном окне неделями - вещи будут выпадать.
Иногда важные вещи, тк это вы знаете, что они важные, а ИИ вполне может выложить из ячейки название проекта, чтобы положить туда кусок какой-нибудь хери из интернета, потому что вы в промпте написали «ты продающий-бизнес-сео-копирайтер-редактор-маркетолог с 50 годами опыта в нутрициологии-психологии-астрологии, который работал в гугл-майкрософт-яндекс-газпром» и тд. Вот он и заменил вашу выручку днем основания яндекса, релевантно же. Утрирую, конечно, но вы поняли.
В LLM есть понятие «окно контекста» (context window). По сути это активная память - что нейросеть может держать в своей не-голове обрабатывая конкретный запрос. Это фиксированная величина, и она отличается у разных моделей.
Раньше оно было небольшое, но работало понятно - буквально как окно. Как будто в чате есть фиксированная рамка, информация в которой активна. Чат уезжает наверх, контент в рамке обновляется. Как скроллинг на экране.
Сейчас размер увеличился в разы, но больше это не одно окно, а сотня маленьких. Которые мало того, что стоят непонятно где и подсвечивают непонятно что, еще и постоянно перемещаются.
Представьте, что у вас есть 10 ячеек, которые всегда заполнены. Чтобы добавить в ячейку что-то новое, что-то старое должно выпихнуться.
📌 Что конкурирует за место в ячейках, на примере ChatGPT:
- ваш промпт
- «промпт разработчика» (заводские настройки, которые вы не можете поменять)
- кастомные инструкции (что у вас в настройках или инструкциях проекта)
- история чата
- история других чатов, если функция включена
- собственно, знания нейросети
- результаты поиска, если поиск активирован
- информация из файлов, если они подгружены
… уверена, что что-то еще упустила.
⚠️ Контекстные окна сейчас огромны, но и конкуренция высокая. Поэтому если вы завалили чат кучей инструкций, файлов, общаетесь в одном окне неделями - вещи будут выпадать.
Иногда важные вещи, тк это вы знаете, что они важные, а ИИ вполне может выложить из ячейки название проекта, чтобы положить туда кусок какой-нибудь хери из интернета, потому что вы в промпте написали «ты продающий-бизнес-сео-копирайтер-редактор-маркетолог с 50 годами опыта в нутрициологии-психологии-астрологии, который работал в гугл-майкрософт-яндекс-газпром» и тд. Вот он и заменил вашу выручку днем основания яндекса, релевантно же. Утрирую, конечно, но вы поняли.
❤9
📈 Интересный график как пруф того, что нейросети не заменят людей творческих профессий.
Показывает соотношение роста ИИ-сгенерированного контента VS человеко-сгенерированного.
🔎 Обратите внимание, что после резкого скачка за последний год линия ИИ стабилизировалась, даже немного просела.
✍️ Так что без паники. Если вы умеете писать, имеете свой уникальный стиль - все будет в порядке. Ваш труд на контрасте начнет цениться даже больше.
Показывает соотношение роста ИИ-сгенерированного контента VS человеко-сгенерированного.
🔎 Обратите внимание, что после резкого скачка за последний год линия ИИ стабилизировалась, даже немного просела.
✍️ Так что без паники. Если вы умеете писать, имеете свой уникальный стиль - все будет в порядке. Ваш труд на контрасте начнет цениться даже больше.
❤2
🗣️ Самый надежный способ, чтобы ChatGPT «писал вашим голосом»
(не самый умный и правильный, прямо скажем - немного через ж. Но самый надежный. Настраиваете раз, пользуетесь бесконечно. И чем дольше - тем лучше будет результат)
1️⃣ Создайте новый проект. Функция теперь доступна даже для бесплатных аккаунтов.
2️⃣ ПРИ СОЗДАНИИ в настройках установите Memory Project-only. Позднее это изменить будет нельзя.
3️⃣ Промпт для копирайтера (задача, контекст, ограничения) вставьте в Инструкции.
4️⃣ Создайте два чата: 1 рабочий, 2 для обсуждений. В рабочем будете писать/редактировать тексты. В обсуждениях просто общаться на тему своей ниши - тем тоном, которым вы общаетесь с подписчиками.
5️⃣ Со временем ChatGPT начнет зеркалить ваш тон, структуру предложений, конкретные фразы и терминологию.
Все чаты в проекте имеют доступ к памяти друг друга, потому рабочий чат тоже адаптируется, как и любой новый в этой папке.
📌 Совет 1: если у вас платный аккаунт, выберите модель 4о, она подстраивается сильно быстрее.
📌 Совет 2: сохраните несколько своих текстов в файл и загрузите в проект. Попросите рабочий чат использовать его как пример вашего голоса.
(не самый умный и правильный, прямо скажем - немного через ж. Но самый надежный. Настраиваете раз, пользуетесь бесконечно. И чем дольше - тем лучше будет результат)
1️⃣ Создайте новый проект. Функция теперь доступна даже для бесплатных аккаунтов.
2️⃣ ПРИ СОЗДАНИИ в настройках установите Memory Project-only. Позднее это изменить будет нельзя.
3️⃣ Промпт для копирайтера (задача, контекст, ограничения) вставьте в Инструкции.
4️⃣ Создайте два чата: 1 рабочий, 2 для обсуждений. В рабочем будете писать/редактировать тексты. В обсуждениях просто общаться на тему своей ниши - тем тоном, которым вы общаетесь с подписчиками.
5️⃣ Со временем ChatGPT начнет зеркалить ваш тон, структуру предложений, конкретные фразы и терминологию.
Все чаты в проекте имеют доступ к памяти друг друга, потому рабочий чат тоже адаптируется, как и любой новый в этой папке.
📌 Совет 1: если у вас платный аккаунт, выберите модель 4о, она подстраивается сильно быстрее.
📌 Совет 2: сохраните несколько своих текстов в файл и загрузите в проект. Попросите рабочий чат использовать его как пример вашего голоса.
❤5
🌀 Вот это пример галлюцинации.
ChatGPT не может проводить действия автономно, на бэкграунде, только в агентском режиме.
Но в GPT-5 «делаю, пришлю» - частая галлюцинация. Обычно, когда вы его просите сделать то, что он не может. Например, обьем задачи слишком большой, или ему просто недоступен такой функционал.
Причем, он еще может сам его сначала предложить, а потом зависнуть. Типа «хочешь, я создам тебе плейлист на spotify? Ой я не могу создавать плейлисты на spotify»
⚠️ Почему такое происходит, я писала здесь. Но в двух словах, модели обучают таким образом, что отсутствие ответа или «не знаю/не умею» не поощряется. А уверенность и готовность помочь ценится высоко. Поэтому иногда их переклинивает.
ChatGPT не может проводить действия автономно, на бэкграунде, только в агентском режиме.
Но в GPT-5 «делаю, пришлю» - частая галлюцинация. Обычно, когда вы его просите сделать то, что он не может. Например, обьем задачи слишком большой, или ему просто недоступен такой функционал.
Причем, он еще может сам его сначала предложить, а потом зависнуть. Типа «хочешь, я создам тебе плейлист на spotify? Ой я не могу создавать плейлисты на spotify»
⚠️ Почему такое происходит, я писала здесь. Но в двух словах, модели обучают таким образом, что отсутствие ответа или «не знаю/не умею» не поощряется. А уверенность и готовность помочь ценится высоко. Поэтому иногда их переклинивает.
❤7
📌 В 99.9% случаев цепочка промптов дает лучший результат, чем один длинный промпт.
Исключения: вопросы и задачи в один шаг уровня «как сварить яйцо».
Цепочка = пошаговая система: несколько коротких промптов, которые вы отправляете в один чат после генерации им ответа.
🧩 Реальный пример:
Задача - написать объявление на Авито.
Стандартный подход - впихнуть все в один промпт: вот данные, вот ожидания, учти то и это, гоу.
Цепочка:
1️⃣ Шаг 1. Вот мои данные, проанализируй нишу, выдели следующее (ключевые слова, ошибки, вопросы покупателей и тд), оформи списком.
2️⃣ Шаг 2. На основе данных, полученных в Шаге 1, сгенерируй 5 вариантов заголовка, со следующими критериями…
3️⃣ Шаг 3. На основе данных, полученных в Шаге 1, сгенерируй 3 варианта описания, со следующими критериями…
Да, составить и протестировать сложнее, чем один промпт, но в итоге вы получаете готовую систему, которую можно обновлять, дополнять и использовать бесконечно.
Исключения: вопросы и задачи в один шаг уровня «как сварить яйцо».
Цепочка = пошаговая система: несколько коротких промптов, которые вы отправляете в один чат после генерации им ответа.
🧩 Реальный пример:
Задача - написать объявление на Авито.
Стандартный подход - впихнуть все в один промпт: вот данные, вот ожидания, учти то и это, гоу.
Цепочка:
1️⃣ Шаг 1. Вот мои данные, проанализируй нишу, выдели следующее (ключевые слова, ошибки, вопросы покупателей и тд), оформи списком.
2️⃣ Шаг 2. На основе данных, полученных в Шаге 1, сгенерируй 5 вариантов заголовка, со следующими критериями…
3️⃣ Шаг 3. На основе данных, полученных в Шаге 1, сгенерируй 3 варианта описания, со следующими критериями…
Да, составить и протестировать сложнее, чем один промпт, но в итоге вы получаете готовую систему, которую можно обновлять, дополнять и использовать бесконечно.
❤9