Теория: Может ли нейросеть «имитировать» творческий, мыслительный процесс уже сейчас?
Прежде чем мы перейдем к другим темам, хочу логически завершить историю про "Думают ли нейросети" (тут писала) и про теоретическую будущую фазу развития ИИ под названием Супер-Интеллект (когда точно смогут думать - тут).
Возможно, вы читали статью о том, что ChatGPT «решил математическую задачу, которую никто не мог решить 40 лет». Некоторыми комментаторами эта история преподносилась, как пример настоящих "размышлений" ИИ.
На самом деле, модель генерировала по запросу большое количество гипотез и алгоритмических идей, которые математик Эрнест Рю проверял. Около 80% предложений модели были неправильными или бесполезными, но оставшиеся 20% дали новые зацепки, которые он развил до полноценного доказательства. Как сказал сам Рю, без такой "машины перебора" он бы, скорее всего, бросил попытку за три дня - просто потому, что руками перебирать столько вариантов нереально. С моделью он потратил менее недели и около 30 часов своей личной работы.
Таким образом, через генерацию неограниченного количества вариаций ответа от нейросети (одной или нескольких), можно «набрести» на неожиданное и оригинальное решение.
Также можно использовать специальные техники работы с нейросетями для решения сложных задач, например:
1⃣ Итеративное многоэтапное рассуждение. Что это: моделям дают возможность строить и уточнять логику решения пошагово в специальных режимах.
✅ Как применить пользователю: разбиваем сложную задачу на этапы, в каждом из которых проверяем гипотезы, сгенерированные моделью. А также используем правильные режимы нейронки для задачи (Smart, Thinking - расскажу подробнее чуть попозже).
2⃣ Рефлексирующие агенты: когда один агент формирует гипотезы и варианты решений, а другой оценивает и критикует их, что повышает качество и новизну ответов. ✅ Для пользователя: можем попросить нейросеть поработать критиком своей собственной идеи или дать ей последовательно разные роли (например, продавца и покупателя – для обсуждения характеристик товара с разных сторон).
3⃣ Fine-tuning (дообучение модели) на специализированных данных для адаптации под конкретные задачи, включая научные и математические. Это уже больше для профессионального уровня использования ИИ, но также возможно в рамках работы над большими проектами (будем говорить про RAG или работе на своем сете данных).
Скорее всего, эти подходы выглядят сложновато для начинающих. Для чего я упоминаю о них: важно знать, что такие методы существуют и "продвинутые" пользователи их успешно используют, существенно повышая качество результатов.
Прежде чем мы перейдем к другим темам, хочу логически завершить историю про "Думают ли нейросети" (тут писала) и про теоретическую будущую фазу развития ИИ под названием Супер-Интеллект (когда точно смогут думать - тут).
Возможно, вы читали статью о том, что ChatGPT «решил математическую задачу, которую никто не мог решить 40 лет». Некоторыми комментаторами эта история преподносилась, как пример настоящих "размышлений" ИИ.
На самом деле, модель генерировала по запросу большое количество гипотез и алгоритмических идей, которые математик Эрнест Рю проверял. Около 80% предложений модели были неправильными или бесполезными, но оставшиеся 20% дали новые зацепки, которые он развил до полноценного доказательства. Как сказал сам Рю, без такой "машины перебора" он бы, скорее всего, бросил попытку за три дня - просто потому, что руками перебирать столько вариантов нереально. С моделью он потратил менее недели и около 30 часов своей личной работы.
Таким образом, через генерацию неограниченного количества вариаций ответа от нейросети (одной или нескольких), можно «набрести» на неожиданное и оригинальное решение.
Также можно использовать специальные техники работы с нейросетями для решения сложных задач, например:
1⃣ Итеративное многоэтапное рассуждение. Что это: моделям дают возможность строить и уточнять логику решения пошагово в специальных режимах.
✅ Как применить пользователю: разбиваем сложную задачу на этапы, в каждом из которых проверяем гипотезы, сгенерированные моделью. А также используем правильные режимы нейронки для задачи (Smart, Thinking - расскажу подробнее чуть попозже).
2⃣ Рефлексирующие агенты: когда один агент формирует гипотезы и варианты решений, а другой оценивает и критикует их, что повышает качество и новизну ответов. ✅ Для пользователя: можем попросить нейросеть поработать критиком своей собственной идеи или дать ей последовательно разные роли (например, продавца и покупателя – для обсуждения характеристик товара с разных сторон).
3⃣ Fine-tuning (дообучение модели) на специализированных данных для адаптации под конкретные задачи, включая научные и математические. Это уже больше для профессионального уровня использования ИИ, но также возможно в рамках работы над большими проектами (будем говорить про RAG или работе на своем сете данных).
Скорее всего, эти подходы выглядят сложновато для начинающих. Для чего я упоминаю о них: важно знать, что такие методы существуют и "продвинутые" пользователи их успешно используют, существенно повышая качество результатов.
❤2
Практика - "ужасное" от ИИ: про хлорид брома.
В журнале Annals of Internal Medicine 05.08.25 была опубликована статья об отравлении бромидом натрия. Суть: 60-летний американец по совету ChatGPT три месяца заменял поваренную соль (хлорид натрия) на бромид натрия и в итоге попал в психиатрическую больницу с бромизмом.
Мужчина был обеспокоен вредом поваренной соли, решил исключить ее из рациона и спросил ChatGPT, на что можно ее заменить. По его словам, ИИ предложил использовать бромид натрия, который товарищ три месяца (!) использовал вместо соли, поскольку вещество имеет солёный вкус и внешне похоже на соль. Через несколько месяцев у него проявились сильная жажда, усталость, бессонница, нарушение координации, кожные высыпания, зрительные и слуховые галлюцинации. Анализ крови показал концентрацию брома около 1700 мг/л (при норме 0,9–7,3).
Почему ChatGPT дал такой совет: он, конечно, не «посоветовал отравиться», а дал технически верный, но опасно неполный ответ: в контексте химических реакций бромид может быть заменой хлорида. Чат не уточнил что это относится только к лабораторным опытам, а не к пище. Врачи повторили вопрос к ChatGPT и получили ответ, что «в зависимости от контекста» хлорид можно заменить бромидом. Но ИИ не предупредил о токсичности бромидов для человека и не спросил, зачем пользователю нужна замена.
К сожалению, такой ответ типичен для LLM: они оперируют фактами из обучающих данных, но не могут оценить, опасен ли совет в реальной жизни, если пользователь не задал конкретный вопрос о, например, токсичности вещества.
Почему человек воспринял это буквально, не задал уточняющих вопросов, не уточнил у врача, три месяца ел и не беспокоился: воздержусь от комментариев, премию Дарвина в студию. Кстати, он еще подал в суд на OpenAI (может, причина была именно в этом?).
Неплохая иллюстрация того, что нельзя верить ИИ на слово, правда?
Кстати, когда я спросила у нейронки (это был тот же GPT но в Microsoft Copilot) «дай список сходств и различий между хлоридом и бромидом натрия. Укажи пригодность к употреблению в пищу» он дал абсолютно правильный ответ: схожий внешний вид, вкус и поведение в хим.реакциях и токсичность бромида. Но я по-другому задала вопрос 😊
В журнале Annals of Internal Medicine 05.08.25 была опубликована статья об отравлении бромидом натрия. Суть: 60-летний американец по совету ChatGPT три месяца заменял поваренную соль (хлорид натрия) на бромид натрия и в итоге попал в психиатрическую больницу с бромизмом.
Мужчина был обеспокоен вредом поваренной соли, решил исключить ее из рациона и спросил ChatGPT, на что можно ее заменить. По его словам, ИИ предложил использовать бромид натрия, который товарищ три месяца (!) использовал вместо соли, поскольку вещество имеет солёный вкус и внешне похоже на соль. Через несколько месяцев у него проявились сильная жажда, усталость, бессонница, нарушение координации, кожные высыпания, зрительные и слуховые галлюцинации. Анализ крови показал концентрацию брома около 1700 мг/л (при норме 0,9–7,3).
Почему ChatGPT дал такой совет: он, конечно, не «посоветовал отравиться», а дал технически верный, но опасно неполный ответ: в контексте химических реакций бромид может быть заменой хлорида. Чат не уточнил что это относится только к лабораторным опытам, а не к пище. Врачи повторили вопрос к ChatGPT и получили ответ, что «в зависимости от контекста» хлорид можно заменить бромидом. Но ИИ не предупредил о токсичности бромидов для человека и не спросил, зачем пользователю нужна замена.
К сожалению, такой ответ типичен для LLM: они оперируют фактами из обучающих данных, но не могут оценить, опасен ли совет в реальной жизни, если пользователь не задал конкретный вопрос о, например, токсичности вещества.
Почему человек воспринял это буквально, не задал уточняющих вопросов, не уточнил у врача, три месяца ел и не беспокоился: воздержусь от комментариев, премию Дарвина в студию. Кстати, он еще подал в суд на OpenAI (может, причина была именно в этом?).
Неплохая иллюстрация того, что нельзя верить ИИ на слово, правда?
Кстати, когда я спросила у нейронки (это был тот же GPT но в Microsoft Copilot) «дай список сходств и различий между хлоридом и бромидом натрия. Укажи пригодность к употреблению в пищу» он дал абсолютно правильный ответ: схожий внешний вид, вкус и поведение в хим.реакциях и токсичность бромида. Но я по-другому задала вопрос 😊
🔥7😱2
Практика: с чего начать работу с ИИ?
Начинаю серию постов на тему, с чего начать и как выбрать для себя нейронку.
➡ Шаг 1. Допустим, вы решили системно подойти к теме освоения ИИ. Я (настойчиво))) рекомендую начать с азов - это посты под рубрикой Теория и Практика в данном канале (список постов на сегодня здесь). Эти разделы будут еще дополняться, пока что рассказывала про общие принципы работы нейронок, ключевые термины и примеры задач, которые ИИ уже решает вполне эффективно (или не решает). Также будем продолжать разбирать примеры решений в этом канале в «тест-драйвах».
➡ Шаг 2. Теперь нужно бы сформулировать, а для чего вам ИИ и прописать список задач, которые вы хотели бы передать ему. От цели и списка задач будет зависеть выбор ИИ инструментов и пути по их освоению:
✅ Возможно, вы хотели бы что-то улучшить или упростить с помощью ИИ в личных или рабочих простых задачах (организовать процесс обучения иностранному языку, распланировать поездку, автоматизировать процесс тренировок, сбор информации о конкурентах, создание простого контента и так далее). Тогда будет достаточно двух-трех хороших платных мультимодальных нейронок с возможностями мини-ассистентов (ChatGPT, Gemini, Perplexity, разберем в следующих постах) и этого канала. Я буду разбирать теорию и практику большинства «любительских» задач для ИИ, как в работе, так и дома.
✅ Возможно, вы принимаете решения по внедрению ИИ в организации и у вас стоит задача расширить знания, чтобы оценивать предлагаемые разработчиками решения. Тогда этого канала также вам хватит, в части понимания общих принципов и я планирую также разбирать развилки и примеры внедрения ИИ в бизнесе.
✅ Но если вы хотели бы зарабатывать на ИИ профессионально и внедрять ИИ в компании на комплексных процессах, создавать сложных агентов и автоматизацию - я и этот канал не помощники, нужно идти учиться, осваивать вайб-кодинг и специализированные инструменты. Кстати, я также не верю в переквалификацию с помощью ИИ - например, что человек без опыта в маркетинге сможет с ИИ создавать и продавать грамотную стратегию бренда. А человек, не написавший в жизни ни одного «продающего» текста вдруг сможет с ИИ стать востребованным копирайтером. Так не работает.
Дальше разберем, какие же есть нейронки и какую выбрать под ваши задачи.
Начинаю серию постов на тему, с чего начать и как выбрать для себя нейронку.
➡ Шаг 1. Допустим, вы решили системно подойти к теме освоения ИИ. Я (настойчиво))) рекомендую начать с азов - это посты под рубрикой Теория и Практика в данном канале (список постов на сегодня здесь). Эти разделы будут еще дополняться, пока что рассказывала про общие принципы работы нейронок, ключевые термины и примеры задач, которые ИИ уже решает вполне эффективно (или не решает). Также будем продолжать разбирать примеры решений в этом канале в «тест-драйвах».
➡ Шаг 2. Теперь нужно бы сформулировать, а для чего вам ИИ и прописать список задач, которые вы хотели бы передать ему. От цели и списка задач будет зависеть выбор ИИ инструментов и пути по их освоению:
✅ Возможно, вы хотели бы что-то улучшить или упростить с помощью ИИ в личных или рабочих простых задачах (организовать процесс обучения иностранному языку, распланировать поездку, автоматизировать процесс тренировок, сбор информации о конкурентах, создание простого контента и так далее). Тогда будет достаточно двух-трех хороших платных мультимодальных нейронок с возможностями мини-ассистентов (ChatGPT, Gemini, Perplexity, разберем в следующих постах) и этого канала. Я буду разбирать теорию и практику большинства «любительских» задач для ИИ, как в работе, так и дома.
✅ Возможно, вы принимаете решения по внедрению ИИ в организации и у вас стоит задача расширить знания, чтобы оценивать предлагаемые разработчиками решения. Тогда этого канала также вам хватит, в части понимания общих принципов и я планирую также разбирать развилки и примеры внедрения ИИ в бизнесе.
✅ Но если вы хотели бы зарабатывать на ИИ профессионально и внедрять ИИ в компании на комплексных процессах, создавать сложных агентов и автоматизацию - я и этот канал не помощники, нужно идти учиться, осваивать вайб-кодинг и специализированные инструменты. Кстати, я также не верю в переквалификацию с помощью ИИ - например, что человек без опыта в маркетинге сможет с ИИ создавать и продавать грамотную стратегию бренда. А человек, не написавший в жизни ни одного «продающего» текста вдруг сможет с ИИ стать востребованным копирайтером. Так не работает.
Дальше разберем, какие же есть нейронки и какую выбрать под ваши задачи.
❤2👍2
Практика: с чего начать и как выбрать нейросеть?
Предположим пока, что мы начинаем с какой-то хорошей LLM и чата с ней. Модель можно выбирать по:
1⃣ «Крутости» модели, на основании сугубо технических параметров. В помощь – многочисленные рейтинги и тесты, например: LMArena (турнирная арена для сравнения моделей - пользователи тестируют и оценивают нейросети), или artificialanalysis.ai.
2⃣ Функциональности под ваши задачи. Например, Perplexity была изначально заточена под поиск информации в сети (кстати, это не модель, а мультимодальная оболочка, внутри которой можно использовать разные LLM). Или считается, что Claude лучше всего справляется с написанием текстов на русском, если вам книгу писать, возможно, нужно туда. Здесь также могут помочь рейтинги и обзоры, или я прошу обычно базовую нейронку «составь рейтинг по (перечисление параметров) для (задачи)». В следующем посте приведу такой обзор.
3⃣ Стоимости и нюансам доступа (последнее особенно актуально для РФ). Что важно:
✅ Во-первых, лучшие модели и приложения, полный функционал и возможности – все платные. Очень рекомендую иметь хотя бы одну с нормальным платным тарифом.
Начать с бесплатной версии ChatGPT с урезанным функционалом или чата в телеграме с ним же – вероятнее всего, испортить впечатление. Ну, как купить дешевую китайскую пилу вместо немецкого "штиля" и возмущаться - почему, мол, сломалась на первой доске…
✅ Если все-таки решили попробовать через разрекламированного бесплатного бота, рекомендую сразу задавать ему три вопроса: «На какой версии модели ты работаешь? Дата последнего обновления твоей базы данных? Есть ли у тебя доступ в интернет для поиска?». Ответы сразу дадут вам понимание, для чего можно и нельзя ее использовать.
✅ Есть еще бесплатные китайские DeepSeek и Qwen, но их бесплатность точно временная.
✅ По доступу из РФ не буду комментировать, как минимум все топовые модели требуют оплаты иностранной картой и доступа через обход блокировок (вся информация есть в сети).
4⃣ По принципу «не держать яйца в одной корзине». Давайте помнить, что ChatGPT, Perplexity, Manus и тысячи других моделей и приложений – частные компании и стартапы, которые могут завтра неожиданно «превратиться в тыкву». Даже если не думать об их банкротстве, от изменения политики, тарифов или технических сбоев не подстраховаться. Так что я, например, оставляю в своем «портфеле» нейронок Gemini от Google и Copilot от Microsoft.
5⃣ По характеру модели. Не анекдот, в каждой модели заложен определенный стиль ответов и ограничения, так что можно найти вот такие описания:
• Perplexity – дотошный сухарь-исследователь, факты без эмоций
• Grok - бунтарь-циник, уличный философ
• Gemini от Google - корпоративный юрист, дающий скучные бюрократические сводки
• DeepSeek - холодный китайский инженер, логический аудитор
• ChatGPT - глубокий собеседник, дружелюбная поддержка твоих идей и начинаний
Но эти описания скоро точно потеряют смысл, в каждой модели можно настроить стиль и глубину ответов под себя через системный промпт. А в ChatGPT версия 5.1 можно выбрать не только тон (Профессиональный, Открытый, Оригинальный, Стандартный, Дружелюбный, Эффективный), но и настроить краткость, теплоту, частоту использования эмодзи. Что совершенно логично и ждет все остальные модели 😊
Предположим пока, что мы начинаем с какой-то хорошей LLM и чата с ней. Модель можно выбирать по:
1⃣ «Крутости» модели, на основании сугубо технических параметров. В помощь – многочисленные рейтинги и тесты, например: LMArena (турнирная арена для сравнения моделей - пользователи тестируют и оценивают нейросети), или artificialanalysis.ai.
2⃣ Функциональности под ваши задачи. Например, Perplexity была изначально заточена под поиск информации в сети (кстати, это не модель, а мультимодальная оболочка, внутри которой можно использовать разные LLM). Или считается, что Claude лучше всего справляется с написанием текстов на русском, если вам книгу писать, возможно, нужно туда. Здесь также могут помочь рейтинги и обзоры, или я прошу обычно базовую нейронку «составь рейтинг по (перечисление параметров) для (задачи)». В следующем посте приведу такой обзор.
3⃣ Стоимости и нюансам доступа (последнее особенно актуально для РФ). Что важно:
✅ Во-первых, лучшие модели и приложения, полный функционал и возможности – все платные. Очень рекомендую иметь хотя бы одну с нормальным платным тарифом.
Начать с бесплатной версии ChatGPT с урезанным функционалом или чата в телеграме с ним же – вероятнее всего, испортить впечатление. Ну, как купить дешевую китайскую пилу вместо немецкого "штиля" и возмущаться - почему, мол, сломалась на первой доске…
✅ Если все-таки решили попробовать через разрекламированного бесплатного бота, рекомендую сразу задавать ему три вопроса: «На какой версии модели ты работаешь? Дата последнего обновления твоей базы данных? Есть ли у тебя доступ в интернет для поиска?». Ответы сразу дадут вам понимание, для чего можно и нельзя ее использовать.
✅ Есть еще бесплатные китайские DeepSeek и Qwen, но их бесплатность точно временная.
✅ По доступу из РФ не буду комментировать, как минимум все топовые модели требуют оплаты иностранной картой и доступа через обход блокировок (вся информация есть в сети).
4⃣ По принципу «не держать яйца в одной корзине». Давайте помнить, что ChatGPT, Perplexity, Manus и тысячи других моделей и приложений – частные компании и стартапы, которые могут завтра неожиданно «превратиться в тыкву». Даже если не думать об их банкротстве, от изменения политики, тарифов или технических сбоев не подстраховаться. Так что я, например, оставляю в своем «портфеле» нейронок Gemini от Google и Copilot от Microsoft.
5⃣ По характеру модели. Не анекдот, в каждой модели заложен определенный стиль ответов и ограничения, так что можно найти вот такие описания:
• Perplexity – дотошный сухарь-исследователь, факты без эмоций
• Grok - бунтарь-циник, уличный философ
• Gemini от Google - корпоративный юрист, дающий скучные бюрократические сводки
• DeepSeek - холодный китайский инженер, логический аудитор
• ChatGPT - глубокий собеседник, дружелюбная поддержка твоих идей и начинаний
Но эти описания скоро точно потеряют смысл, в каждой модели можно настроить стиль и глубину ответов под себя через системный промпт. А в ChatGPT версия 5.1 можно выбрать не только тон (Профессиональный, Открытый, Оригинальный, Стандартный, Дружелюбный, Эффективный), но и настроить краткость, теплоту, частоту использования эмодзи. Что совершенно логично и ждет все остальные модели 😊
❤4👍1
Практика: какие нейромодели подходят под какие задачи?
В целом, у каждой нейросети есть свои сильные и слабые стороны. Возможно, где-то в будущем мы придем к мега-супер-монстрам, решающим все задачи одинаково хорошо. Но пока не все одинаковы, делюсь списком, созданным на основании своего опыта и мнения четырех нейронок:
✅ Manus – универсальный «агент», силен в автоматизации многошаговых бизнес-процессов и создании цепочек действий без постоянного ручного управления, как в других нейросетях. Если вам интересно дать задачу, понаблюдать за процессом размышлений и получить на выходе полноценный продукт (отчет, презентацию, сайт) – вам сюда.
✅ Claude - лидер в анализе и работе с очень длинными текстами и сложными структурами, подходит для научных исследователей, юристов, специалистов по обработке документов. Хорошо пишет тексты (даже художественные) на русском. Один из лидеров в создании кода.
✅ Gemini - мультимодальный ИИ, умеющий одновременно работать с текстом, изображениями, кодом, видео и звуком, связан с экосистемой Google. Еще у него огромное контекстное окно и он может «переварить» много материалов в одном диалоге. Подойдёт тем, кто хочет универсальный инструмент для разных форматов информации и уже пользуется инструментами Google. Бонусом идет NotebookLM, удобный для загрузки и анализа своих материалов с возможностью автоматически их суммировать или превращать в аудио и видео подкасты.
✅ Perplexity - быстрый поисковый и справочный инструмент, дающий ответы с источниками из интернета. Пока что лучший для проверки фактов, подборки трендов, а также имеет опцию выбора LLM (включая GPT-5) для размышлений. В теории умеет генерить видео и изображения, но со смешными ограничениями даже в платном Pro.
✅ ChatGPT - универсальный помощник, хорош для общения, генерации контента (в том числе изображений и видео), мозгового штурма и интеграции в повседневные задачи. Уже запустил интеграцию с booking, spotify и прочими, думаю, будет развиваться именно как универсальный "швейцарский нож", решающий все задачи пользователя (чтобы не было желания идти куда-то еще). Хороший выбор для старта, лидер на сегодня по охвату.
✅ Китайский DeepSeek предлагает многие функции бесплатно, но не генерит видео и изображения. Очевидный лидер в Китае, популярен в РФ – считался простой заменой ChatGPT. Был пойман на интенсивных галлюцинациях в режиме Thinking. Имеет хорошие корпоративные решения, скорее всего, будет развиваться «в глубину» для сложных задач и В2В.
✅ Qwen от Alibaba – китайская мультимодальная сеть, быстро развивается, уже может генерировать изображений и видео (бесплатно!). Мне кажется, для обычных пользователей она поинтереснее, чем DeepSeek.
✅ Алиса/Яндекс GPT или GigaChat от Сбер - варианты для пользователей, ориентированных на русский язык и интернет. Подходят для поиска региональных данных или общения на специфическом русском языке/сленге, для интеграций в продукты Яндекса.
✅ Llama 3 (Meta AI) - модель с открытым исходным кодом (так наз. open source) для «приземления» на своих серверах и кастомизации под свой бизнес, без передачи данных в чужое «облако». Подходит для разработчиков и исследователей (DeepSeek и Qwen также есть open source модели, Альфа-Банк, например, «приземлил» именно DeepSeek)
✅ Microsoft Copilot - подойдет для пользователей Windows и Microsoft Office, интегрирован в экоcистему. Также умеет «подумать» вместе с GPT-5, мне в целом нравятся его ответы и результаты поиска (ищет через свой браузер Microsoft Edge).
В целом, у каждой нейросети есть свои сильные и слабые стороны. Возможно, где-то в будущем мы придем к мега-супер-монстрам, решающим все задачи одинаково хорошо. Но пока не все одинаковы, делюсь списком, созданным на основании своего опыта и мнения четырех нейронок:
✅ Manus – универсальный «агент», силен в автоматизации многошаговых бизнес-процессов и создании цепочек действий без постоянного ручного управления, как в других нейросетях. Если вам интересно дать задачу, понаблюдать за процессом размышлений и получить на выходе полноценный продукт (отчет, презентацию, сайт) – вам сюда.
✅ Claude - лидер в анализе и работе с очень длинными текстами и сложными структурами, подходит для научных исследователей, юристов, специалистов по обработке документов. Хорошо пишет тексты (даже художественные) на русском. Один из лидеров в создании кода.
✅ Gemini - мультимодальный ИИ, умеющий одновременно работать с текстом, изображениями, кодом, видео и звуком, связан с экосистемой Google. Еще у него огромное контекстное окно и он может «переварить» много материалов в одном диалоге. Подойдёт тем, кто хочет универсальный инструмент для разных форматов информации и уже пользуется инструментами Google. Бонусом идет NotebookLM, удобный для загрузки и анализа своих материалов с возможностью автоматически их суммировать или превращать в аудио и видео подкасты.
✅ Perplexity - быстрый поисковый и справочный инструмент, дающий ответы с источниками из интернета. Пока что лучший для проверки фактов, подборки трендов, а также имеет опцию выбора LLM (включая GPT-5) для размышлений. В теории умеет генерить видео и изображения, но со смешными ограничениями даже в платном Pro.
✅ ChatGPT - универсальный помощник, хорош для общения, генерации контента (в том числе изображений и видео), мозгового штурма и интеграции в повседневные задачи. Уже запустил интеграцию с booking, spotify и прочими, думаю, будет развиваться именно как универсальный "швейцарский нож", решающий все задачи пользователя (чтобы не было желания идти куда-то еще). Хороший выбор для старта, лидер на сегодня по охвату.
✅ Китайский DeepSeek предлагает многие функции бесплатно, но не генерит видео и изображения. Очевидный лидер в Китае, популярен в РФ – считался простой заменой ChatGPT. Был пойман на интенсивных галлюцинациях в режиме Thinking. Имеет хорошие корпоративные решения, скорее всего, будет развиваться «в глубину» для сложных задач и В2В.
✅ Qwen от Alibaba – китайская мультимодальная сеть, быстро развивается, уже может генерировать изображений и видео (бесплатно!). Мне кажется, для обычных пользователей она поинтереснее, чем DeepSeek.
✅ Алиса/Яндекс GPT или GigaChat от Сбер - варианты для пользователей, ориентированных на русский язык и интернет. Подходят для поиска региональных данных или общения на специфическом русском языке/сленге, для интеграций в продукты Яндекса.
✅ Llama 3 (Meta AI) - модель с открытым исходным кодом (так наз. open source) для «приземления» на своих серверах и кастомизации под свой бизнес, без передачи данных в чужое «облако». Подходит для разработчиков и исследователей (DeepSeek и Qwen также есть open source модели, Альфа-Банк, например, «приземлил» именно DeepSeek)
✅ Microsoft Copilot - подойдет для пользователей Windows и Microsoft Office, интегрирован в экоcистему. Также умеет «подумать» вместе с GPT-5, мне в целом нравятся его ответы и результаты поиска (ищет через свой браузер Microsoft Edge).
❤5👍1
Практика: какие нейромодели подходят под какие задачи, продолжение
✅ Нейронки для генерации изображений и видео: их очень много. Midjourney остается стандартом качества в арт-генерации, но там плохо с фотографиями и собственную фотосессию лучше делать в других сетях (например, Flux). Важно, что качественные возможности генерации изображений и видео есть в тех же ChatGPT, Gemini, Qwen, Manus и для любительских задач их может хватить.
✅ И не могу не упомянуть про сервисы-агрегаторы с возможностью доступа сразу к нескольким нейросетям. Например, Krea.ai для креативщиков или чат-боты (из крупных русскоязычных – Syntx, в нем помимо возможности генерации видео и изображений можно еще пообщаться с большими LLM – ChatGPT, Gemini и пр.).
Чем хороши такие агрегаторы: обычно ты покупаешь какое-то количество кредитов и далее можешь расходовать на генерации в любой из доступных нейронок, также имеют обучающие уроки. Можно прямо в чате написать промпт для генерации видео в ChatGPT/Gemini/Qwen и тут же отправить на генерацию, причем в топовые модели (Sora-2, Veo-3, Kling).
Чем плохи: часто напоминают «помойку» моделей, а сам интерфейс чат-бота не дает возможности доступа к важному функционалу нейронок (интеграции, создание ассистентов, поиск в сети, работа со своими массивами данных и прочее). Но для целей создания картинок/видео для себя и постов в соц.сетях, пойдет вполне.
✅ Нейронки для генерации изображений и видео: их очень много. Midjourney остается стандартом качества в арт-генерации, но там плохо с фотографиями и собственную фотосессию лучше делать в других сетях (например, Flux). Важно, что качественные возможности генерации изображений и видео есть в тех же ChatGPT, Gemini, Qwen, Manus и для любительских задач их может хватить.
✅ И не могу не упомянуть про сервисы-агрегаторы с возможностью доступа сразу к нескольким нейросетям. Например, Krea.ai для креативщиков или чат-боты (из крупных русскоязычных – Syntx, в нем помимо возможности генерации видео и изображений можно еще пообщаться с большими LLM – ChatGPT, Gemini и пр.).
Чем хороши такие агрегаторы: обычно ты покупаешь какое-то количество кредитов и далее можешь расходовать на генерации в любой из доступных нейронок, также имеют обучающие уроки. Можно прямо в чате написать промпт для генерации видео в ChatGPT/Gemini/Qwen и тут же отправить на генерацию, причем в топовые модели (Sora-2, Veo-3, Kling).
Чем плохи: часто напоминают «помойку» моделей, а сам интерфейс чат-бота не дает возможности доступа к важному функционалу нейронок (интеграции, создание ассистентов, поиск в сети, работа со своими массивами данных и прочее). Но для целей создания картинок/видео для себя и постов в соц.сетях, пойдет вполне.
Krea
Krea: AI Creative Suite for Images, Video, & 3D
Generate, edit, and enhance images, videos, and 3D assets with Krea's creative AI suite. Start for free with real-time tools, powerful models, and collaborative workflows.
❤2👍1
Практика: какие нейромодели имеет смысл выбрать и почему одной не обойтись?
Смотрим выше про принципы выбора и сильные стороны нейронок. Обычно рекомендуют начинать с моделей широкого применения - ChatGPT или DeepSeek - с универсальными возможностями и хорошим пониманием русского.
Но вот я бы еще рекомендовала:
✅ Присмотреться к Gemini/NotebookLM (даже на бесплатном тарифе там есть что поделать) и Copilot (если вы уже платите за Microsoft Office).
✅ Вместо DeepSeek из китайских взять Qwen – для любителя мне он видится интереснее и есть бесплаьная генерация изображений/видео.
✅ Если требуется часто поиск в интернете, важна актуальность и простота факт-чекинга - без Perplexity пока не обойтись (даже ChatGPT может попортить впечатление «левыми» ссылками). Для рунета – Алиса/Yandex GPT, там тоже сейчас удобно делать факт-чекинг, суммировать и переводить видео на русский
✅ Ну и можно параллельно попробовать поработать с каким-то агрегатором, особенно если нужно создавать картинки и видео с разными моделями.
Важно: почему не обойтись одной нейросетью:
➡ Все модели развивались по-разному и ставят разные цели, поэтому отличаются алгоритмами, режимами и инструментами, стилем ответов и возможностями интеграции. В простых вопросах все справятся примерно одинаково, но вот по сложным задачам, сложному поиску, исследованию или генерации контента результаты могут отличаться очень сильно у разных нейронок. То-есть, выбрать одну нейросеть (даже «модный» ChatGPT) – это значит ограничить себя в возможностях и повысить риск потенциальной ошибки, тогда как запрос в несколько моделей поможет вам расширять количество возможных решений и нивелировать влияние галлюцинаций одной сети.
➡ Напомню про «не держать яйца в одной корзине»: ChatGPT, Perplexity, Manus и тысячи других моделей и приложений – частные компании и стартапы, без устойчивых финансовых результатов. Они могут пересмотреть свою политику, цены или лимиты, перепрофилироваться, продаться, обанкротиться, и часть ваших наработок может быть потеряна. Моя любимая Perplexity неожиданно ввела жесткие лимиты на генерацию изображений (видимо, «не вывозят» мощности), а ChatGPT «срезал» возможности юридических и медицинских консультаций (очевидно, что на прессинг по этическим вопросам компании в разных регионах будут реагировать также по-разному).
✅Так что я оставляю в своем «портфеле» западные нейросети (Chat GPT, Gemini, Perplexity, Copilot), китайские (Qwen) и российские (Алиса/Яндекс). Они также являются комбинацией из частных компаний (ChatGPT, Perplexity) и крупняка, платных и бесплатных. Manus тоже держу, на бесплатном режиме, как и специализированные нейронки для генерации изображений и видео – под конкретные задачи.
Конечно, через полгода-год ситуация может поменяться. Год назад, например, Qwen и Manus никто всерьез не рассматривал.
Смотрим выше про принципы выбора и сильные стороны нейронок. Обычно рекомендуют начинать с моделей широкого применения - ChatGPT или DeepSeek - с универсальными возможностями и хорошим пониманием русского.
Но вот я бы еще рекомендовала:
✅ Присмотреться к Gemini/NotebookLM (даже на бесплатном тарифе там есть что поделать) и Copilot (если вы уже платите за Microsoft Office).
✅ Вместо DeepSeek из китайских взять Qwen – для любителя мне он видится интереснее и есть бесплаьная генерация изображений/видео.
✅ Если требуется часто поиск в интернете, важна актуальность и простота факт-чекинга - без Perplexity пока не обойтись (даже ChatGPT может попортить впечатление «левыми» ссылками). Для рунета – Алиса/Yandex GPT, там тоже сейчас удобно делать факт-чекинг, суммировать и переводить видео на русский
✅ Ну и можно параллельно попробовать поработать с каким-то агрегатором, особенно если нужно создавать картинки и видео с разными моделями.
Важно: почему не обойтись одной нейросетью:
➡ Все модели развивались по-разному и ставят разные цели, поэтому отличаются алгоритмами, режимами и инструментами, стилем ответов и возможностями интеграции. В простых вопросах все справятся примерно одинаково, но вот по сложным задачам, сложному поиску, исследованию или генерации контента результаты могут отличаться очень сильно у разных нейронок. То-есть, выбрать одну нейросеть (даже «модный» ChatGPT) – это значит ограничить себя в возможностях и повысить риск потенциальной ошибки, тогда как запрос в несколько моделей поможет вам расширять количество возможных решений и нивелировать влияние галлюцинаций одной сети.
➡ Напомню про «не держать яйца в одной корзине»: ChatGPT, Perplexity, Manus и тысячи других моделей и приложений – частные компании и стартапы, без устойчивых финансовых результатов. Они могут пересмотреть свою политику, цены или лимиты, перепрофилироваться, продаться, обанкротиться, и часть ваших наработок может быть потеряна. Моя любимая Perplexity неожиданно ввела жесткие лимиты на генерацию изображений (видимо, «не вывозят» мощности), а ChatGPT «срезал» возможности юридических и медицинских консультаций (очевидно, что на прессинг по этическим вопросам компании в разных регионах будут реагировать также по-разному).
✅Так что я оставляю в своем «портфеле» западные нейросети (Chat GPT, Gemini, Perplexity, Copilot), китайские (Qwen) и российские (Алиса/Яндекс). Они также являются комбинацией из частных компаний (ChatGPT, Perplexity) и крупняка, платных и бесплатных. Manus тоже держу, на бесплатном режиме, как и специализированные нейронки для генерации изображений и видео – под конкретные задачи.
Конечно, через полгода-год ситуация может поменяться. Год назад, например, Qwen и Manus никто всерьез не рассматривал.
👍7
Практика - типичные ошибки новичков при работе с нейросетями:
Что мы часто делаем неправильно (и получаем так себе ответы от ИИ):
1⃣ Перегрузка промпта разными задачами. Не пытайтесь «запихнуть» несколько задач в один запрос, например: «Сделай исследование рынка, напиши стратегию бренда, сделай слоган и создай бренд-бук». В такой ситуации модель выполнит каждую часть поверхностно, либо вообще «забудет» одну из задач. Гораздо эффективнее задать общий контекст и решать задачи последовательно.
2⃣ Отсутствие в промпте примера решения задачи или детального описания ожидаемого результата. Если не показать нейросети пример того, как должен выглядеть желаемый результат, вы рискуете потратить много времени на итерации и уточнения.
3⃣ Игнорирование возможностей самого ИИ для создания правильных промптов – вы всегда можете поручить модели написать промпт для вас под комплексные задачи, например, генерацию видео и визуалов. Если вы не профи, правильно описать стиль-цвет-звук-движение камеры у вас самостоятельно не получится.
4⃣ Не следить за «контекстным окном» памяти нейросети. Напоминаю, у любой нейросети есть лимит информации, которую она может удерживать в «рабочей памяти» в одном чате, обычно это от 50 до 150 страниц А4, причем с учетом всех ваших запросов и ответов от нейросети в чате. Когда диалог становится слишком длинным и превышает лимит, нейросеть начинает «забывать» первые сообщения, что ведет к нерелевантным ответам.
5⃣ Работать в бесплатных чат-ботах, которые могут использовать устаревшие и слабые модели. Такие модели могут работать значительно хуже, чем официальные версии и это сильно испортит ваш опыт работы с нейросетями. Вот тут (пост) приводила пример трех вопросов, которые имеет смысл задавать новой нейросети для понимания, что она сможет, а что-нет.
6⃣ Использование «не того режима» нейросети. Простые вопросы бессмысленно задавать в режиме «глубокого исследования», это долго и дорого (если у вас есть ограничение по количеству токенов). С другой стороны, опция «быстрого ответа» не поможет вам со сложной задачей. Типовые режимы разберем еще отдельно и подробно.
8⃣ Из более глобального - выбор неправильной роли для нейросети. ИИ как Помощник (делает за вас технические действия, находит информацию, форматирует, перефразирует – все под вашим контролем и с факт-чекингом) или же ИИ как Компаньон (когда вы «думаете об ИИ» - прося оценить вашу идею, дать альтернативную точку зрения, покритиковать) – это очень правильные роли. К сожалению, нередко вижу использование ИИ, как авторитета и чуть ли не оракула, что категорически неправильно.
9⃣ Еще печально, когда используется только одна нейронка, без второго-третьего мнения (писала уже тут, почему одной нейронки недостаточно). Большинство топ-моделей в своих последних релизах рапортуют снижение галлюцинаций «всего лишь» до 10-20%... но в отдельных сложных задачах и у моделей попроще процент неверных/выдуманных ответов может доходить до 50-80%! Об этом (и что работает на снижение галлюцинаций) в следующей серии постов.
Что мы часто делаем неправильно (и получаем так себе ответы от ИИ):
1⃣ Перегрузка промпта разными задачами. Не пытайтесь «запихнуть» несколько задач в один запрос, например: «Сделай исследование рынка, напиши стратегию бренда, сделай слоган и создай бренд-бук». В такой ситуации модель выполнит каждую часть поверхностно, либо вообще «забудет» одну из задач. Гораздо эффективнее задать общий контекст и решать задачи последовательно.
2⃣ Отсутствие в промпте примера решения задачи или детального описания ожидаемого результата. Если не показать нейросети пример того, как должен выглядеть желаемый результат, вы рискуете потратить много времени на итерации и уточнения.
3⃣ Игнорирование возможностей самого ИИ для создания правильных промптов – вы всегда можете поручить модели написать промпт для вас под комплексные задачи, например, генерацию видео и визуалов. Если вы не профи, правильно описать стиль-цвет-звук-движение камеры у вас самостоятельно не получится.
4⃣ Не следить за «контекстным окном» памяти нейросети. Напоминаю, у любой нейросети есть лимит информации, которую она может удерживать в «рабочей памяти» в одном чате, обычно это от 50 до 150 страниц А4, причем с учетом всех ваших запросов и ответов от нейросети в чате. Когда диалог становится слишком длинным и превышает лимит, нейросеть начинает «забывать» первые сообщения, что ведет к нерелевантным ответам.
5⃣ Работать в бесплатных чат-ботах, которые могут использовать устаревшие и слабые модели. Такие модели могут работать значительно хуже, чем официальные версии и это сильно испортит ваш опыт работы с нейросетями. Вот тут (пост) приводила пример трех вопросов, которые имеет смысл задавать новой нейросети для понимания, что она сможет, а что-нет.
6⃣ Использование «не того режима» нейросети. Простые вопросы бессмысленно задавать в режиме «глубокого исследования», это долго и дорого (если у вас есть ограничение по количеству токенов). С другой стороны, опция «быстрого ответа» не поможет вам со сложной задачей. Типовые режимы разберем еще отдельно и подробно.
8⃣ Из более глобального - выбор неправильной роли для нейросети. ИИ как Помощник (делает за вас технические действия, находит информацию, форматирует, перефразирует – все под вашим контролем и с факт-чекингом) или же ИИ как Компаньон (когда вы «думаете об ИИ» - прося оценить вашу идею, дать альтернативную точку зрения, покритиковать) – это очень правильные роли. К сожалению, нередко вижу использование ИИ, как авторитета и чуть ли не оракула, что категорически неправильно.
9⃣ Еще печально, когда используется только одна нейронка, без второго-третьего мнения (писала уже тут, почему одной нейронки недостаточно). Большинство топ-моделей в своих последних релизах рапортуют снижение галлюцинаций «всего лишь» до 10-20%... но в отдельных сложных задачах и у моделей попроще процент неверных/выдуманных ответов может доходить до 50-80%! Об этом (и что работает на снижение галлюцинаций) в следующей серии постов.
❤5
AI_FastTrack
Практика: с чего начать и как выбрать нейросеть? Предположим пока, что мы начинаем с какой-то хорошей LLM и чата с ней. Модель можно выбирать по: 1⃣ «Крутости» модели, на основании сугубо технических параметров. В помощь – многочисленные рейтинги и тесты…
К вопросу о "крутости" основных LLM, вот сравнение моделей в динамике за год от LMArena. В топе: Gemini/Google, Grok/xAI, Claude/Anthropic, ChatGPT/OpenAI (после вчерашнего релиза версии 5.2 картина поменяется, возможно, GPT поднимется). Дальше единым блоком чуть отстающих Qwen/Alibaba, все остальные китайцы (их больше, чем я упоминала) и французский Mistral
👍4
Тест-драйв: новое от ChatGPT
Продолжая тему выбора нейронки, подсобрала интересные новости от OpenAI (=ChatGPT). Успех Gemini 3.1 и миграция подписчиков заставили OpenAI ускориться. Конкуренция делает своё дело 😉 Итак, что есть важного:
➡ Вот только вчера выпустили новую версию GPT 5.2. Ждем независимых оценок, пока что в релизе обещают выделение трех режимов (от простого для быстрых задач до супер-крутого Pro), снижение галлюцинаций еще на 30% и одного мега-агента с 20+ инструментами.
✅ Вот об агентах и философии «швейцарского ножа» хочется поговорить чуть подробнее. Модели все умнеют и умнеют, но большинству юзеров вполне хватает существующего уровня ИИ-мозгов. Развитие "вглубь" ценно для узкого круга спецов, для большинства важнее мультифункциональность и дополнительные примочки. И тут:
1⃣ Сверх уже существовавших интеграций с образовательной платформой Coursera, Canva и Figma для креатива, Expedia (путешествия) и Uber, месяца два назад сделали интеграцию со Spotify, Booking, Amazon. Что это означает: раньше для поиска гостиниц, товаров или составления плейлистов из ChatGPT нужны были «танцы с бубнами» со специально создаваемыми агентами. Теперь это делается прямым вызовом в чате через запрос «Booking, найди варианты гостиниц в (город) на (даты)». При первом запросе, конечно, нужно авторизоваться в сервисе. Еще, можно сделать комбинированный запрос сразу в несколько сервисов: «Составь плейлист для поездки и забронируй отель в Барселоне». То-есть, возможны теперь напрямую из ChatGPT:
Spotify:
✅ Создание персональных плейлистов по жанру, настроению или событию.
✅ Поиск треков, альбомов и исполнителей, добавление музыки сразу в ваш аккаунт.
Booking:
✅ Поиск и бронирование отелей, апартаментов, хостелов (без перехода на сайт). Фильтрация по цене, рейтингу, расположению.
Amazon:
✅ Поиск товаров по категории, бренду или цене, сравнение характеристик и отзывов.
✅ Добавление в корзину или отслеживание цены прямо из чата .
2⃣ Также OpenAI договорились с Adobe об интеграции его инструментов (Adobe Photoshop, Express и Acrobat). Вызываем приложение и даем текстовую инструкцию, можно:
Adobe Photoshop:
✅ Отредактировать прикреплённое фото текстовыми командами, напр. «сделай фон размытым» или «увеличь яркость».
✅ Дополнительные настройки: экспозиции, контраста, насыщенности, выборочная правка для части изображения (убрать объект, оставить фон).
Важно: есть не весь функционал Photoshop! Пользователи уже критикуют (но, возможно, это только начало).
Adobe Express:
✅ Создание дизайнов по описанию, например, «Сделай открытку на Новый год» (система предложит варианты из библиотеки шаблонов. Есть шаблоны для баннеров, постов для соцсетей, приглашений).
✅ Редактирование макета: можно менять текст, изображения, цвета, анимацию. Достаточно уточнить командой «сделай фон красным» или «замени фото».
Adobe Acrobat:
✅ Работа с PDF: загружаете документ и просите текстом «объедини PDF» или «удали страницу 3».
✅ Редактирование текста: можно менять содержимое прямо в чате.
3⃣ Из тоже совсем «свежего», Disney и OpenAI подписали трёхлетнее лицензионное соглашение:
✅ С начала 2026 года персонажей студии можно будет генерировать в Sora.
На очереди, говорят, youtube для просмотра и поиска видео. И надо обязательно попробовать новый агентский режим.
Эх, придется сохранять еще одну платную подписку 😊
Продолжая тему выбора нейронки, подсобрала интересные новости от OpenAI (=ChatGPT). Успех Gemini 3.1 и миграция подписчиков заставили OpenAI ускориться. Конкуренция делает своё дело 😉 Итак, что есть важного:
➡ Вот только вчера выпустили новую версию GPT 5.2. Ждем независимых оценок, пока что в релизе обещают выделение трех режимов (от простого для быстрых задач до супер-крутого Pro), снижение галлюцинаций еще на 30% и одного мега-агента с 20+ инструментами.
✅ Вот об агентах и философии «швейцарского ножа» хочется поговорить чуть подробнее. Модели все умнеют и умнеют, но большинству юзеров вполне хватает существующего уровня ИИ-мозгов. Развитие "вглубь" ценно для узкого круга спецов, для большинства важнее мультифункциональность и дополнительные примочки. И тут:
1⃣ Сверх уже существовавших интеграций с образовательной платформой Coursera, Canva и Figma для креатива, Expedia (путешествия) и Uber, месяца два назад сделали интеграцию со Spotify, Booking, Amazon. Что это означает: раньше для поиска гостиниц, товаров или составления плейлистов из ChatGPT нужны были «танцы с бубнами» со специально создаваемыми агентами. Теперь это делается прямым вызовом в чате через запрос «Booking, найди варианты гостиниц в (город) на (даты)». При первом запросе, конечно, нужно авторизоваться в сервисе. Еще, можно сделать комбинированный запрос сразу в несколько сервисов: «Составь плейлист для поездки и забронируй отель в Барселоне». То-есть, возможны теперь напрямую из ChatGPT:
Spotify:
✅ Создание персональных плейлистов по жанру, настроению или событию.
✅ Поиск треков, альбомов и исполнителей, добавление музыки сразу в ваш аккаунт.
Booking:
✅ Поиск и бронирование отелей, апартаментов, хостелов (без перехода на сайт). Фильтрация по цене, рейтингу, расположению.
Amazon:
✅ Поиск товаров по категории, бренду или цене, сравнение характеристик и отзывов.
✅ Добавление в корзину или отслеживание цены прямо из чата .
2⃣ Также OpenAI договорились с Adobe об интеграции его инструментов (Adobe Photoshop, Express и Acrobat). Вызываем приложение и даем текстовую инструкцию, можно:
Adobe Photoshop:
✅ Отредактировать прикреплённое фото текстовыми командами, напр. «сделай фон размытым» или «увеличь яркость».
✅ Дополнительные настройки: экспозиции, контраста, насыщенности, выборочная правка для части изображения (убрать объект, оставить фон).
Важно: есть не весь функционал Photoshop! Пользователи уже критикуют (но, возможно, это только начало).
Adobe Express:
✅ Создание дизайнов по описанию, например, «Сделай открытку на Новый год» (система предложит варианты из библиотеки шаблонов. Есть шаблоны для баннеров, постов для соцсетей, приглашений).
✅ Редактирование макета: можно менять текст, изображения, цвета, анимацию. Достаточно уточнить командой «сделай фон красным» или «замени фото».
Adobe Acrobat:
✅ Работа с PDF: загружаете документ и просите текстом «объедини PDF» или «удали страницу 3».
✅ Редактирование текста: можно менять содержимое прямо в чате.
3⃣ Из тоже совсем «свежего», Disney и OpenAI подписали трёхлетнее лицензионное соглашение:
✅ С начала 2026 года персонажей студии можно будет генерировать в Sora.
На очереди, говорят, youtube для просмотра и поиска видео. И надо обязательно попробовать новый агентский режим.
Эх, придется сохранять еще одну платную подписку 😊
❤3👍2
Доброго всем воскресенья. Подведем итоги недели:
1⃣ На прошлой неделе в основном рассматривала тему разных нейронок и их выбора. Вышли следующие посты:
✅ Теория: Может ли нейросеть «имитировать» творческий, мыслительный процесс уже сейчас?
✅ Практика - "ужасное" от ИИ: про хлорид брома
✅ Практика: с чего начать работу с ИИ?
✅ Практика: с чего начать и как выбрать нейросеть?
✅ Практика: какие нейромодели подходят под какие задачи? (два поста)
✅ Практика: какие нейромодели имеет смысл выбрать и почему одной не обойтись?
✅ Практика - типичные ошибки новичков при работе с нейросетями
✅ Тест-драйв: новое от ChatGPT
2⃣ Если вы только что присоединились, добро пожаловать. Очень рекомендую просмотреть закреп, а именно:
✅ Введение: зачем мы здесь?
✅ Введение: как и о чем я буду писать в этом канале
✅ Список постов за ноябрь 2025
3⃣ На следующей неделе планирую разобрать весьма актуальную тему ИИ «галлюцинаций» (=выдуманных или нерелевантных ответов) и как с этим бороться. Потом поговорим про промптинг, что в нем работает, а что - нет, и почему.
1⃣ На прошлой неделе в основном рассматривала тему разных нейронок и их выбора. Вышли следующие посты:
✅ Теория: Может ли нейросеть «имитировать» творческий, мыслительный процесс уже сейчас?
✅ Практика - "ужасное" от ИИ: про хлорид брома
✅ Практика: с чего начать работу с ИИ?
✅ Практика: с чего начать и как выбрать нейросеть?
✅ Практика: какие нейромодели подходят под какие задачи? (два поста)
✅ Практика: какие нейромодели имеет смысл выбрать и почему одной не обойтись?
✅ Практика - типичные ошибки новичков при работе с нейросетями
✅ Тест-драйв: новое от ChatGPT
2⃣ Если вы только что присоединились, добро пожаловать. Очень рекомендую просмотреть закреп, а именно:
✅ Введение: зачем мы здесь?
✅ Введение: как и о чем я буду писать в этом канале
✅ Список постов за ноябрь 2025
3⃣ На следующей неделе планирую разобрать весьма актуальную тему ИИ «галлюцинаций» (=выдуманных или нерелевантных ответов) и как с этим бороться. Потом поговорим про промптинг, что в нем работает, а что - нет, и почему.
Теория: почему нейромодель галлюцинирует?
Недавно Канадские Авиалинии проиграли в суде дело и выплатили компенсацию, когда их чатбот нафантазировал политику скидок и возврата денег (он оказался не «подключен» к базе данных и придумал политику, вместо ответа «нет данных»). А консалтинговая компания Deloitte вернула 480 тысяч $ правительству Австралии (!) из-за «выдуманных» ИИ фактов в отчете.
Большинство ИИ скептиков как раз отказываются пользоваться нейросетями из-за ошибок и галлюцинаций (то-есть, неверных но правдоподобных ответов, «придуманных» нейросетью). Количество статей на тему галлюцинаций выросло за два года на 400%, так волнует сообщество проблема достоверности ответов ИИ.
Давайте попробуем разобраться, из-за чего эти ошибки появляются – чтобы лучше понимать, как с ними работать.
✅ Доля недостоверной информации, генерируемой моделями, не является фиксированной для модели и напрямую зависит от характера и сложности запроса. В базовых фактах, где проверенных данных много, уровень достоверности может достигать 90% и выше (но и здесь возможны галлюцинации в 5–10%). Если же задача в синтезе, интерпретации или анализе разрозненных данных, частота ошибок и некорректных умозаключений резко возрастает. Ключевые причины галлюцинаций следующие:
1⃣ Природа языковых моделей и недостаток актуальных или проверенных данных: как мы уже разбирались, LLM не понимают смысл, а вычисляют наиболее вероятную последовательность токенов на основе статистики в обучающих данных. Если точных данных не хватает, модель заполняет пробелы создавая правдоподобные ответы. Простой пример: если спросить, каким спортом занимается Новак Джокович, проблемы у модели не будет. А если вопрос про неизвестного Васю Иванова, модель может подставить любой правдоподобный ответ (из предыдущих обсуждений или взяв наиболее популярный спорт в стране Ивановых).
2⃣ Неправильная формулировка запроса или широкий контекст: неясная или слишком сложная инструкция без чётких вводных увеличивает вероятность выдумки. В примере выше про Васю Иванова, если бы мы дали модели дополнительные вводные (где он живет, когда родился, какие виды спорта смотрит по ТВ), мы бы повысили вероятность более логичного ответа.
3⃣ Конкретная модель обучалась на старой информации и не в состоянии применить новости или актуальные исследования. Или эта модель не интегрирована с реальным поиском и строит ответ только на известных ей примерах без проверки в реальном времени (дам пример в след.посте, а тут вот говорила, какие вопросы нужно задать нейронке, для проверки ее возможностей и ограничений).
4⃣ «Зашитый» в модель приоритет дать ответ даже в условиях недостатка данных (связано с алгоритмами тестирования моделей). На примере: если модель спрашивают о чьей-то дате рождения, а она не знает - если она назовет случайную дату, то у нее есть небольшой шанс быть правой. Признание «не знаю» - гарантированно ноль очков. Такие тесты невольно стимулируют угадывание. Только дав разрешение модели не отвечать, если информации нет в базе знаний, можно снизить галлюцинации примерно на ~20%. Кстати, можно ситуацию улучшить на уровне пользователя, разберем!
5⃣ Потеря контекста в процессе диалога - бессмысленные или слишком общие ответы появляются чаще в длинных диалогах. Поэтому важно "дробить" сложные задачи.
6⃣ Технические проблемы старых или недообученных моделей - ошибки разбивки на токены, неправильная интерпретация запроса пользователя. Здесь важно не экономить.
Дальше рассмотрим примеры и методы борьбы с галлюцинациями.
Недавно Канадские Авиалинии проиграли в суде дело и выплатили компенсацию, когда их чатбот нафантазировал политику скидок и возврата денег (он оказался не «подключен» к базе данных и придумал политику, вместо ответа «нет данных»). А консалтинговая компания Deloitte вернула 480 тысяч $ правительству Австралии (!) из-за «выдуманных» ИИ фактов в отчете.
Большинство ИИ скептиков как раз отказываются пользоваться нейросетями из-за ошибок и галлюцинаций (то-есть, неверных но правдоподобных ответов, «придуманных» нейросетью). Количество статей на тему галлюцинаций выросло за два года на 400%, так волнует сообщество проблема достоверности ответов ИИ.
Давайте попробуем разобраться, из-за чего эти ошибки появляются – чтобы лучше понимать, как с ними работать.
✅ Доля недостоверной информации, генерируемой моделями, не является фиксированной для модели и напрямую зависит от характера и сложности запроса. В базовых фактах, где проверенных данных много, уровень достоверности может достигать 90% и выше (но и здесь возможны галлюцинации в 5–10%). Если же задача в синтезе, интерпретации или анализе разрозненных данных, частота ошибок и некорректных умозаключений резко возрастает. Ключевые причины галлюцинаций следующие:
1⃣ Природа языковых моделей и недостаток актуальных или проверенных данных: как мы уже разбирались, LLM не понимают смысл, а вычисляют наиболее вероятную последовательность токенов на основе статистики в обучающих данных. Если точных данных не хватает, модель заполняет пробелы создавая правдоподобные ответы. Простой пример: если спросить, каким спортом занимается Новак Джокович, проблемы у модели не будет. А если вопрос про неизвестного Васю Иванова, модель может подставить любой правдоподобный ответ (из предыдущих обсуждений или взяв наиболее популярный спорт в стране Ивановых).
2⃣ Неправильная формулировка запроса или широкий контекст: неясная или слишком сложная инструкция без чётких вводных увеличивает вероятность выдумки. В примере выше про Васю Иванова, если бы мы дали модели дополнительные вводные (где он живет, когда родился, какие виды спорта смотрит по ТВ), мы бы повысили вероятность более логичного ответа.
3⃣ Конкретная модель обучалась на старой информации и не в состоянии применить новости или актуальные исследования. Или эта модель не интегрирована с реальным поиском и строит ответ только на известных ей примерах без проверки в реальном времени (дам пример в след.посте, а тут вот говорила, какие вопросы нужно задать нейронке, для проверки ее возможностей и ограничений).
4⃣ «Зашитый» в модель приоритет дать ответ даже в условиях недостатка данных (связано с алгоритмами тестирования моделей). На примере: если модель спрашивают о чьей-то дате рождения, а она не знает - если она назовет случайную дату, то у нее есть небольшой шанс быть правой. Признание «не знаю» - гарантированно ноль очков. Такие тесты невольно стимулируют угадывание. Только дав разрешение модели не отвечать, если информации нет в базе знаний, можно снизить галлюцинации примерно на ~20%. Кстати, можно ситуацию улучшить на уровне пользователя, разберем!
5⃣ Потеря контекста в процессе диалога - бессмысленные или слишком общие ответы появляются чаще в длинных диалогах. Поэтому важно "дробить" сложные задачи.
6⃣ Технические проблемы старых или недообученных моделей - ошибки разбивки на токены, неправильная интерпретация запроса пользователя. Здесь важно не экономить.
Дальше рассмотрим примеры и методы борьбы с галлюцинациями.
👍1
Тест-драйв: Поиск актуальной информации в сети
Поиск информации – топовый запрос сейчас к нейронкам, потому как ИИ может искать не только по ключевым словам, как обычный браузер, а по более сложным и комплексным критериям.
Изначально планировала протестировать гипотезу, что российские нейронки лучше ищут в рунете. Неожиданно, тест стал также иллюстрацией галлюцинаций и разницы в алгоритмах поиска между нейронками 😊
Запрос был следующий: «Найди агентства по подбору сиделок для человека после инсульта в С.-Петербурге. Дай название, краткое описание, ссылку на сайт и рейтинг, если есть». Специально не давала уточнений про дату актуальности информации - интересно было, как справятся модели. Результаты следующие:
✅ Лучше всех был Perplexity – точно понял запрос, дал 6 «живых» агентств с сайтами и рейтингами, бонусом дал адреса-телефоны и точки на гугл картах.
❌ Слабее всего справился DeepSeek. В режиме поиска нашел всего три агентства, причем одно – для больных с деменцией (написал, что «они понимают неврологический профиль» - не осознает разницу двух диагнозов?). При повторном запросе в режиме Think deeper уверенно сгаллюцинировал несуществующие агентства и ссылки на них. Будучи «прижатым к стенке», сознался, что у него в этом режиме нет выхода в интернет, поэтому додумывает, а также подтвердил, что работает на базе с датой обновления апрель 23го (!) и посоветовал сходить в яндекс, гугл, или Perplexity. Упс.
❓Gemini/Google удивил меня также нерабочими ссылками и одним агентством в Воронеже в первом ответе. Во второй раз извинился, пообещал провести поиск именно «актуальных и работающих агентств» и таки дал 4 реальных.
❓Алиса с Яндексом дала также 4 актуальных адреса, но еще и бонусы в виде точек на карте и адреса-телефоны… при этом была не на 100% аккуратна с запросом, один из адресов является не агентством, а загородным пансионатом
❓Copilot/Microsoft дал 7 контактов, но зачем-то включил туда Profi и Услуги Яндекс. Та же схема была у GigaChat, включены ссылки на порталы услуг, о чем их не просили
Из неожиданного: списки агентств отличались процентов на 90! Практически везде засветилось только одно (по-видимому, там работают хорошие маркетологи по настраивание SEO – предпочтений при поиске). Дальше я пошла копаться еще с Deep research, почему такие (странные) результаты, и вот какими важными выводами могу с вами поделиться:
1⃣ Специализация – это хорошо, заточенный на поиск с актуальными референсами Perplexity опять «рулит». Нейросети со своими браузерами(Алиса/Яндекс, Gemini/Google) тоже норм, хоть и похуже. При этом никаких преимуществ рос.нейронок для рунета не обнаружилось (не в первый раз).
2⃣ Всегда используйте правильный режим модели – Search (чтобы не было, как с DeepSeek, который «искал» в старой базе данных без выхода в сеть). И проверяем, есть ли у модели выход в сеть (если пользуемся чат-ботом или каким-то приложением).
3⃣ Разные модели могут иметь разные алгоритмы поиска. Пользоваться одной неэффективно (см. про 90% отличий в результатах). А порталы услуг были добавлены некоторыми нейронками из-за встроенного приоритета «размера» над «релевантностью», что также не помогает.
4⃣ Разные модели также имеют слегка разные алгоритмы интерпретации вашего запроса. Поэтому необходимо формулировать запрос предельно ясно и точно, с указанием критичных деталей (например, в данном случае нужно было добавить: «дай только агентства, предоставляющие возможность замены», «дай только актуальные и работающие на (дату)» или «не включай порталы по подбору услуг»). Еще разберем с вами промптинг во всех деталях, это уже про него 😊
Полезно? Бывали случаи, когда вам ИИ давал "левые" ссылки и адреса?
Поиск информации – топовый запрос сейчас к нейронкам, потому как ИИ может искать не только по ключевым словам, как обычный браузер, а по более сложным и комплексным критериям.
Изначально планировала протестировать гипотезу, что российские нейронки лучше ищут в рунете. Неожиданно, тест стал также иллюстрацией галлюцинаций и разницы в алгоритмах поиска между нейронками 😊
Запрос был следующий: «Найди агентства по подбору сиделок для человека после инсульта в С.-Петербурге. Дай название, краткое описание, ссылку на сайт и рейтинг, если есть». Специально не давала уточнений про дату актуальности информации - интересно было, как справятся модели. Результаты следующие:
✅ Лучше всех был Perplexity – точно понял запрос, дал 6 «живых» агентств с сайтами и рейтингами, бонусом дал адреса-телефоны и точки на гугл картах.
❌ Слабее всего справился DeepSeek. В режиме поиска нашел всего три агентства, причем одно – для больных с деменцией (написал, что «они понимают неврологический профиль» - не осознает разницу двух диагнозов?). При повторном запросе в режиме Think deeper уверенно сгаллюцинировал несуществующие агентства и ссылки на них. Будучи «прижатым к стенке», сознался, что у него в этом режиме нет выхода в интернет, поэтому додумывает, а также подтвердил, что работает на базе с датой обновления апрель 23го (!) и посоветовал сходить в яндекс, гугл, или Perplexity. Упс.
❓Gemini/Google удивил меня также нерабочими ссылками и одним агентством в Воронеже в первом ответе. Во второй раз извинился, пообещал провести поиск именно «актуальных и работающих агентств» и таки дал 4 реальных.
❓Алиса с Яндексом дала также 4 актуальных адреса, но еще и бонусы в виде точек на карте и адреса-телефоны… при этом была не на 100% аккуратна с запросом, один из адресов является не агентством, а загородным пансионатом
❓Copilot/Microsoft дал 7 контактов, но зачем-то включил туда Profi и Услуги Яндекс. Та же схема была у GigaChat, включены ссылки на порталы услуг, о чем их не просили
Из неожиданного: списки агентств отличались процентов на 90! Практически везде засветилось только одно (по-видимому, там работают хорошие маркетологи по настраивание SEO – предпочтений при поиске). Дальше я пошла копаться еще с Deep research, почему такие (странные) результаты, и вот какими важными выводами могу с вами поделиться:
1⃣ Специализация – это хорошо, заточенный на поиск с актуальными референсами Perplexity опять «рулит». Нейросети со своими браузерами(Алиса/Яндекс, Gemini/Google) тоже норм, хоть и похуже. При этом никаких преимуществ рос.нейронок для рунета не обнаружилось (не в первый раз).
2⃣ Всегда используйте правильный режим модели – Search (чтобы не было, как с DeepSeek, который «искал» в старой базе данных без выхода в сеть). И проверяем, есть ли у модели выход в сеть (если пользуемся чат-ботом или каким-то приложением).
3⃣ Разные модели могут иметь разные алгоритмы поиска. Пользоваться одной неэффективно (см. про 90% отличий в результатах). А порталы услуг были добавлены некоторыми нейронками из-за встроенного приоритета «размера» над «релевантностью», что также не помогает.
4⃣ Разные модели также имеют слегка разные алгоритмы интерпретации вашего запроса. Поэтому необходимо формулировать запрос предельно ясно и точно, с указанием критичных деталей (например, в данном случае нужно было добавить: «дай только агентства, предоставляющие возможность замены», «дай только актуальные и работающие на (дату)» или «не включай порталы по подбору услуг»). Еще разберем с вами промптинг во всех деталях, это уже про него 😊
Полезно? Бывали случаи, когда вам ИИ давал "левые" ссылки и адреса?
👍5❤1
Теория: как бороться с галлюцинациями нейросетей?
Продолжаем разбираться с темой галлюцинаций, тут говорила почему нейросети галлюцинируют.
Плохая новость: по словам разработчиков, избавиться от галлюцинаций генеративных нейросетей на 100%, невозможно, можно только держать их «в узком диапазоне». Что должны делать создатели моделей (и делают, особенно в условиях высокой конкуренции – и это хорошая новость - например, в новом GPT 5.2 декларировали снижение галлюцинаций на 30%):
1⃣ Улучшение качества данных и дообучение: очистка, актуализация баз данных.
2⃣ Изменение механизмов тестирования - чтобы модели могли отказаться от ответа, если не уверены.
3⃣ Разработка более сложных режимов работы моделей, включающих тестирование и автоматическую проверку фактов, несколько параллельных циклов обработки и прочие.
4⃣ Сбор обратной связи от пользователей с меткой ошибочных ответов для корректировки и дообучения моделей и уведомление пользователей об ограничениях - честно указывать дату «обучения» модели.
Что можем делать мы, пользователи уже сейчас, не дожидаясь «чуда»:
✅ Пока модели несовершенны и развиваются, fact checking (проверка достоверности данных и ссылок) лежит полностью на нас. Я всегда запрашиваю дать в ответе кликабельную ссылку на источник и полный их список в конце, просматриваю статью или с помощью ассистента в браузере прошу дать ее выжимку.
✅ Правильный промпт (prompt engineering): чётко формулируем запрос, указываем дату, предпочтительные источники, структуру. Добавляем примеры правильных/неправильных ответов, чтобы снизить творческую «вольность» модели. Ограничиваем контекст, максимально сужая область для анализа и четко ставя задачу (рассмотрим секреты промптинга чуть позже). А также можем попросить в системном промте нейросети оценивать «уровень уверенности» при ответе на вопросы (также разберем).
✅ «Умное» дробление задачи для последовательного их решения: не перегружаем модель слишком сложной задачей/контекстом в одном запросе. Понимаем ограничения ширины окна контекста и управляем им: просим анализировать только часть документа, в длинных диалогах заново загружаем референсы, пользуемся режимами нейронки в которых сохраняется контекст по теме (Projects, Gems в Gemini, Gpts в ChatGPT).
✅ При необходимости, запрашиваем анализ на строго ограниченном количестве данных и проверяемых источниках (Retrieval-Augmented Generation или RAG, запомним термин на будущее). Например, NotebookLM от Google можно сфокусировать на анализе только ваших документов, без выхода в сеть. Более продвинутый вариант RAG в организации предполагает создание своей библиотеки: все данные (базы данных, PDF-документы, блоги, новостные ленты, чаты) переводятся в специальный формат векторной базы данных, для быстрого поиска и извлечения информации. Ну и Google недавно выкатил решение, где он сам разбирается с вашей базой, подтягивая нужное (правда, только из своего облака).
Итого, fact checking, prompt engineering (включая системные промпты), дробление сложных задач и использование правильных режимов – ключевые инструменты для существенного улучшения качества работы с ИИ. Будем разбираться дальше, как ими пользоваться.
Продолжаем разбираться с темой галлюцинаций, тут говорила почему нейросети галлюцинируют.
Плохая новость: по словам разработчиков, избавиться от галлюцинаций генеративных нейросетей на 100%, невозможно, можно только держать их «в узком диапазоне». Что должны делать создатели моделей (и делают, особенно в условиях высокой конкуренции – и это хорошая новость - например, в новом GPT 5.2 декларировали снижение галлюцинаций на 30%):
1⃣ Улучшение качества данных и дообучение: очистка, актуализация баз данных.
2⃣ Изменение механизмов тестирования - чтобы модели могли отказаться от ответа, если не уверены.
3⃣ Разработка более сложных режимов работы моделей, включающих тестирование и автоматическую проверку фактов, несколько параллельных циклов обработки и прочие.
4⃣ Сбор обратной связи от пользователей с меткой ошибочных ответов для корректировки и дообучения моделей и уведомление пользователей об ограничениях - честно указывать дату «обучения» модели.
Что можем делать мы, пользователи уже сейчас, не дожидаясь «чуда»:
✅ Пока модели несовершенны и развиваются, fact checking (проверка достоверности данных и ссылок) лежит полностью на нас. Я всегда запрашиваю дать в ответе кликабельную ссылку на источник и полный их список в конце, просматриваю статью или с помощью ассистента в браузере прошу дать ее выжимку.
✅ Правильный промпт (prompt engineering): чётко формулируем запрос, указываем дату, предпочтительные источники, структуру. Добавляем примеры правильных/неправильных ответов, чтобы снизить творческую «вольность» модели. Ограничиваем контекст, максимально сужая область для анализа и четко ставя задачу (рассмотрим секреты промптинга чуть позже). А также можем попросить в системном промте нейросети оценивать «уровень уверенности» при ответе на вопросы (также разберем).
✅ «Умное» дробление задачи для последовательного их решения: не перегружаем модель слишком сложной задачей/контекстом в одном запросе. Понимаем ограничения ширины окна контекста и управляем им: просим анализировать только часть документа, в длинных диалогах заново загружаем референсы, пользуемся режимами нейронки в которых сохраняется контекст по теме (Projects, Gems в Gemini, Gpts в ChatGPT).
✅ При необходимости, запрашиваем анализ на строго ограниченном количестве данных и проверяемых источниках (Retrieval-Augmented Generation или RAG, запомним термин на будущее). Например, NotebookLM от Google можно сфокусировать на анализе только ваших документов, без выхода в сеть. Более продвинутый вариант RAG в организации предполагает создание своей библиотеки: все данные (базы данных, PDF-документы, блоги, новостные ленты, чаты) переводятся в специальный формат векторной базы данных, для быстрого поиска и извлечения информации. Ну и Google недавно выкатил решение, где он сам разбирается с вашей базой, подтягивая нужное (правда, только из своего облака).
Итого, fact checking, prompt engineering (включая системные промпты), дробление сложных задач и использование правильных режимов – ключевые инструменты для существенного улучшения качества работы с ИИ. Будем разбираться дальше, как ими пользоваться.
👍5
Практика: как отличить ИИ видео, иллюстрация.
Разбавим теорию практикой 😊 По новогодней рекламе Кока-Кола, сгенерированной ИИ, не прокатился только ленивый. И животные «криповые», и сюжета нет, и вообще достал уже бездушный ИИ. Но нам сейчас интереснее такой важный признак ИИ видео, как отсутствие консистентности (постоянства) между частями ролика (разбирала ключевые признаки ИИ видео тут). Один товарищ не поленился и сделал такую подборку грузовиков, мелькавших в разных кадрах. Так как по информации компании генераций были тысячи, а точностью грузовика пренебрегли, в финальный монтаж вошло прямо неразумное количество несоответствий.
То-есть, если ищем признаки ИИ в чужих видео – стоп-кадр, увеличение, поиск несоответствия деталей между сценами, как сделал автор коллажа.
Если делаем сами видео - используем модели с возможностью загрузки референсов критичных предметов (тот же грузовик можно было легко «зафиксировать»).
Разбавим теорию практикой 😊 По новогодней рекламе Кока-Кола, сгенерированной ИИ, не прокатился только ленивый. И животные «криповые», и сюжета нет, и вообще достал уже бездушный ИИ. Но нам сейчас интереснее такой важный признак ИИ видео, как отсутствие консистентности (постоянства) между частями ролика (разбирала ключевые признаки ИИ видео тут). Один товарищ не поленился и сделал такую подборку грузовиков, мелькавших в разных кадрах. Так как по информации компании генераций были тысячи, а точностью грузовика пренебрегли, в финальный монтаж вошло прямо неразумное количество несоответствий.
То-есть, если ищем признаки ИИ в чужих видео – стоп-кадр, увеличение, поиск несоответствия деталей между сценами, как сделал автор коллажа.
Если делаем сами видео - используем модели с возможностью загрузки референсов критичных предметов (тот же грузовик можно было легко «зафиксировать»).
👍7
Теория: где будет выше количество галлюцинаций?
Продолжая тему галлюцинаций (здесь разбирала их основные причины), предлагаю разобраться с оценкой риска нерелевантных ответов или галлюцинаций в зависимости от сложности поставленной ИИ задачи.
Сгруппируем задачи от используемых глаголов действия в запросе:
1⃣ Найди в тексте, выпиши, переведи, перечисли: это простая работа с текстом источников.
✅ Уровень галлюцинаций – низкий. Если задача не критичная – можно не проверять.
2⃣ Обобщи, суммируй, переформулируй, переведи в другой стиль, расшифруй: интерпретация, но близкая к тексту.
✅ Ошибки возможны, единичные. Лучше просмотреть.
3⃣ Вычисли, реши, спроектируй, покажи, как применить (использовать в другой ситуации): это уже экстраполяция, могут быть множественные варианты ответа.
✅ Возможны галлюцинации, нужно проверять выводы и решения.
4⃣ Найди причины, сравни, структурируй: логические, аналитические выводы, ИИ должен находит связи и может их придумать в условиях неоднозначности.
✅ Серьезная возможность галлюцинаций, нужно обязательно проверять на соответствие выводам и логике первоисточника.
5⃣ Критикуй, рекомендуй, разработай, найди новое решение: это запрос на точку зрения, далеко уходим от первоисточника, нет единственного правильного ответа.
✅ Высокий уровень галлюцинаций или нерелевантных ответов, обязательно проводим проверку на правильное понимание фактов, используем ответ как одно из мнений, не более.
Продолжая тему галлюцинаций (здесь разбирала их основные причины), предлагаю разобраться с оценкой риска нерелевантных ответов или галлюцинаций в зависимости от сложности поставленной ИИ задачи.
Сгруппируем задачи от используемых глаголов действия в запросе:
1⃣ Найди в тексте, выпиши, переведи, перечисли: это простая работа с текстом источников.
✅ Уровень галлюцинаций – низкий. Если задача не критичная – можно не проверять.
2⃣ Обобщи, суммируй, переформулируй, переведи в другой стиль, расшифруй: интерпретация, но близкая к тексту.
✅ Ошибки возможны, единичные. Лучше просмотреть.
3⃣ Вычисли, реши, спроектируй, покажи, как применить (использовать в другой ситуации): это уже экстраполяция, могут быть множественные варианты ответа.
✅ Возможны галлюцинации, нужно проверять выводы и решения.
4⃣ Найди причины, сравни, структурируй: логические, аналитические выводы, ИИ должен находит связи и может их придумать в условиях неоднозначности.
✅ Серьезная возможность галлюцинаций, нужно обязательно проверять на соответствие выводам и логике первоисточника.
5⃣ Критикуй, рекомендуй, разработай, найди новое решение: это запрос на точку зрения, далеко уходим от первоисточника, нет единственного правильного ответа.
✅ Высокий уровень галлюцинаций или нерелевантных ответов, обязательно проводим проверку на правильное понимание фактов, используем ответ как одно из мнений, не более.
💯1
Спрашивали– отвечаем: как я разбиралась в теме ИИ – опыт и ошибки.
«Играть» с ИИ я начала как раз года два назад – создавала картинки для иллюстрации идей или для презентаций, делала исследования в пределах бесплатных лимитов нейронок. Но, как и многим, времени на вдумчивое и последовательное изучение возможностей ИИ категорически не хватало. Случайно выбранные лекции и вебинары раздражали малым количеством полезной информации с рекламой своих же платных курсов. Как маркетолог, я понимаю этот формат - «наживка» или «дегустация», но польза от них близкая к нулю.
Что касается платного обучения, при высокой занятости сложнее всего выбрать наиболее полезный и емкий курс, и вот почему:
1⃣ Если курс представляет обзор нейросетей и их возможностей, обычно авторы не погружаются в ограничения конкретной нейронки и часто игнорируют альтернативы (их задача – продавать этот курс максимально долго). Пример: Perplexity предлагается как мультимодальная нейронка, а жесткие лимиты на генерацию видео (5 в месяц!) игнорируются.
2⃣ Если курс по специальности и ориентирован на желающих переучиться на новую профессию, они могут быть «набиты» ненужной базовой или теоретической информацией, для набора большего количества академ.часов в курсе (например, в курсе по созданию контента для соц.сетей вам дадут общую теорию маркетинга). При этом авторы, которые «начитывают» видеоуроки могут быть и специалистами в данной области, но вот кураторы, обещанные вам для проверки заданий и сопровождения, будут точно «молодыми специалистами» и не помогут экспертно с конкретными бизнес-задачами.
3⃣ Некоторые материалы курсов бывают очевидно сделаны теми же нейросетями. А каждый курс подводит к тому, что еще не мешало бы пройти еще несколько… что понятно, так как задача любой школы продать максимальное количество курсов, имея минимальную себестоимость. Конечно, есть варианты дорогой персональной ориентации, где вы можете изложить свои задачи и вам подберут ИИ инструменты, но это уже ближе к консалтингу и стоит реально много.
4⃣ Из смешного: некоторые «авторитеты» в ИИ собирают вокруг себя практически секты, члены которых в комментариях прямо во время вебинара называют гуру гением, а неудобные вопросы игнорируются 🤣.
В результате я отобрала для себя такие форматы для освоения ИИ:
✅ Держу подписку на примерно 20 каналов (ТГ, youtube). Это сообщества профи в AI/IT, обзоры для «чайников» и подборки новостей. Они дают информацию о новых возможностях или новых инструментах. В плане – доделать свою подборку новостей и сократить количество каналов (нужно систематизировать источники, руки пока не доходят 😊).
✅ Конечно, спрашиваю сами нейронки по их возможностям и алгоритмам, выбору инструментов под задачи. Пока что продолжаю спрашивать 3-4 модели параллельно по каждой задаче, опыт показывает, что так эффективнее и надежнее.
✅ Купила пожизненный доступ к курсам на одной из русскоязычных обучающих платформ. Почему: если что-то выйдет новое на рынке или у меня появится новая задача, можно будет углубиться. Платформу выбирала по широте списка курсов и адекватному основателю, возможности учиться без выполнения домашних заданий, выбирая только релевантные части курса. Но это недешево и я понимаю все ограничения, описанные выше.
В этом канале буду делится полученными знаниями, опытом и новостями, прежде всего, возможностями и ограничениями генеративного ИИ. Уже писала, считаю, что без понимания правильных алгоритмов взаимодействия с ИИ, будем получать только так себе результаты 😊
«Играть» с ИИ я начала как раз года два назад – создавала картинки для иллюстрации идей или для презентаций, делала исследования в пределах бесплатных лимитов нейронок. Но, как и многим, времени на вдумчивое и последовательное изучение возможностей ИИ категорически не хватало. Случайно выбранные лекции и вебинары раздражали малым количеством полезной информации с рекламой своих же платных курсов. Как маркетолог, я понимаю этот формат - «наживка» или «дегустация», но польза от них близкая к нулю.
Что касается платного обучения, при высокой занятости сложнее всего выбрать наиболее полезный и емкий курс, и вот почему:
1⃣ Если курс представляет обзор нейросетей и их возможностей, обычно авторы не погружаются в ограничения конкретной нейронки и часто игнорируют альтернативы (их задача – продавать этот курс максимально долго). Пример: Perplexity предлагается как мультимодальная нейронка, а жесткие лимиты на генерацию видео (5 в месяц!) игнорируются.
2⃣ Если курс по специальности и ориентирован на желающих переучиться на новую профессию, они могут быть «набиты» ненужной базовой или теоретической информацией, для набора большего количества академ.часов в курсе (например, в курсе по созданию контента для соц.сетей вам дадут общую теорию маркетинга). При этом авторы, которые «начитывают» видеоуроки могут быть и специалистами в данной области, но вот кураторы, обещанные вам для проверки заданий и сопровождения, будут точно «молодыми специалистами» и не помогут экспертно с конкретными бизнес-задачами.
3⃣ Некоторые материалы курсов бывают очевидно сделаны теми же нейросетями. А каждый курс подводит к тому, что еще не мешало бы пройти еще несколько… что понятно, так как задача любой школы продать максимальное количество курсов, имея минимальную себестоимость. Конечно, есть варианты дорогой персональной ориентации, где вы можете изложить свои задачи и вам подберут ИИ инструменты, но это уже ближе к консалтингу и стоит реально много.
4⃣ Из смешного: некоторые «авторитеты» в ИИ собирают вокруг себя практически секты, члены которых в комментариях прямо во время вебинара называют гуру гением, а неудобные вопросы игнорируются 🤣.
В результате я отобрала для себя такие форматы для освоения ИИ:
✅ Держу подписку на примерно 20 каналов (ТГ, youtube). Это сообщества профи в AI/IT, обзоры для «чайников» и подборки новостей. Они дают информацию о новых возможностях или новых инструментах. В плане – доделать свою подборку новостей и сократить количество каналов (нужно систематизировать источники, руки пока не доходят 😊).
✅ Конечно, спрашиваю сами нейронки по их возможностям и алгоритмам, выбору инструментов под задачи. Пока что продолжаю спрашивать 3-4 модели параллельно по каждой задаче, опыт показывает, что так эффективнее и надежнее.
✅ Купила пожизненный доступ к курсам на одной из русскоязычных обучающих платформ. Почему: если что-то выйдет новое на рынке или у меня появится новая задача, можно будет углубиться. Платформу выбирала по широте списка курсов и адекватному основателю, возможности учиться без выполнения домашних заданий, выбирая только релевантные части курса. Но это недешево и я понимаю все ограничения, описанные выше.
В этом канале буду делится полученными знаниями, опытом и новостями, прежде всего, возможностями и ограничениями генеративного ИИ. Уже писала, считаю, что без понимания правильных алгоритмов взаимодействия с ИИ, будем получать только так себе результаты 😊
👍7
Доброй субботы. Подведем итоги недели.
На этой неделе рассматривала в основном тему галлюцинаций ИИ – почему они происходят и что можно делать для сокращения их количества. Тему не закрыли пока полностью, успела опубликовать:
✅ Теория: почему нейромодель галлюцинирует?
✅ Тест-драйв: Поиск актуальной информации в сети
✅ Теория: как бороться с галлюцинациями нейросетей?
✅ Практика: как отличить ИИ видео, иллюстрация
✅ Теория: где будет выше количество галлюцинаций?
✅ Спрашивали – отвечаем: как я разбиралась в теме ИИ
Если вы только что присоединились, добро пожаловать! Очень рекомендую просмотрите закреп, а именно:
✅ Введение: зачем мы здесь?
✅ Введение: как и о чем я буду писать в этом канале
✅ Список постов за ноябрь 2025
Посты предыдущих недель декабря можете увидеть в этих постах, в конце месяца просуммирую и выведу тоже в закреп:
Суббота 06.12
Воскресенье 14.12
На следующей неделе планирую приступить к теме промптинга, что в нем работает и почему.
На этой неделе рассматривала в основном тему галлюцинаций ИИ – почему они происходят и что можно делать для сокращения их количества. Тему не закрыли пока полностью, успела опубликовать:
✅ Теория: почему нейромодель галлюцинирует?
✅ Тест-драйв: Поиск актуальной информации в сети
✅ Теория: как бороться с галлюцинациями нейросетей?
✅ Практика: как отличить ИИ видео, иллюстрация
✅ Теория: где будет выше количество галлюцинаций?
✅ Спрашивали – отвечаем: как я разбиралась в теме ИИ
Если вы только что присоединились, добро пожаловать! Очень рекомендую просмотрите закреп, а именно:
✅ Введение: зачем мы здесь?
✅ Введение: как и о чем я буду писать в этом канале
✅ Список постов за ноябрь 2025
Посты предыдущих недель декабря можете увидеть в этих постах, в конце месяца просуммирую и выведу тоже в закреп:
Суббота 06.12
Воскресенье 14.12
На следующей неделе планирую приступить к теме промптинга, что в нем работает и почему.
Теория: что такое факт-чекинг и зачем он вообще нужен
Как вы думаете, как много людей проверяют первоисточник, методологию исследования или точные выводы, когда читают новости? Ответ: не более чем единицы–низкие десятки процентов, в зависимости от страны и контекста (новости, соцсети, ИИ‑ответы).
Более того, исследование ЮНЕСКО 2024 по блогерам и создателям прочего диджитал контента показало, что около 62–63% из них не проводят фактчекинг перед публикацией. Что ж, авторы тоже люди :)
Какой вывод: ИИ тут ни при чем, проблема значительно старше. Вот некоторые примеры типичных ошибок при подаче материала (не рассматриваю здесь "злой умысел" - целенаправленную дезинформацию, заказные материалы и прочее):
1⃣ Распространение "узкого" вывода на все возможные варианты.
Например: недавний анонс что наконец-то Google/Gemini умеет распознавать любой ИИ контент с помощью своего инструмента SynthID.
Что на самом деле: распознает контент, сгенеренный только инструментами Google по своей отметке (watermark), то-есть, контент от другой нейронки без этой отметки он не распознает. Кто-то был невнимателен.
2⃣ Выводы на базе неправильной методологии, например, нерепрезентативной или малой выборки (чем грешат многие опросы).
Например: я могу спросить в этом канале про ваше отношение к ИИ. Но могу ли я распространить эти выводы на возраст, страну или мир? Очевидно, что нет. Но многим авторам же хочется славы :)
✅ То-есть, проверять стоит любой материал, особенно «жареные» новости, всегда. Далее разберем, как строить работу по проверке материалов, выдаваемых ИИ.
Как вы думаете, как много людей проверяют первоисточник, методологию исследования или точные выводы, когда читают новости? Ответ: не более чем единицы–низкие десятки процентов, в зависимости от страны и контекста (новости, соцсети, ИИ‑ответы).
Более того, исследование ЮНЕСКО 2024 по блогерам и создателям прочего диджитал контента показало, что около 62–63% из них не проводят фактчекинг перед публикацией. Что ж, авторы тоже люди :)
Какой вывод: ИИ тут ни при чем, проблема значительно старше. Вот некоторые примеры типичных ошибок при подаче материала (не рассматриваю здесь "злой умысел" - целенаправленную дезинформацию, заказные материалы и прочее):
1⃣ Распространение "узкого" вывода на все возможные варианты.
Например: недавний анонс что наконец-то Google/Gemini умеет распознавать любой ИИ контент с помощью своего инструмента SynthID.
Что на самом деле: распознает контент, сгенеренный только инструментами Google по своей отметке (watermark), то-есть, контент от другой нейронки без этой отметки он не распознает. Кто-то был невнимателен.
2⃣ Выводы на базе неправильной методологии, например, нерепрезентативной или малой выборки (чем грешат многие опросы).
Например: я могу спросить в этом канале про ваше отношение к ИИ. Но могу ли я распространить эти выводы на возраст, страну или мир? Очевидно, что нет. Но многим авторам же хочется славы :)
✅ То-есть, проверять стоит любой материал, особенно «жареные» новости, всегда. Далее разберем, как строить работу по проверке материалов, выдаваемых ИИ.
👍5