ИИ обманывает не из-за ошибки, просто, он так устроен. Что делать бизнесу?
Нашёл хорошую статью про то, как бороться с галлюцинациями ИИ. Ниже очень краткий пересказ - для общего представления, чтобы вы могли показать своим специалистам, которые настраивают вам ИИ-сервисы, а для более глубокого изучения рекомендую прочесть статью. Она написана очень легким языком и даёт понятные советы.
Новое исследование OpenAI показало: когда ИИ «галлюцинирует» (уверенно говорит неправду) — это не баг, а неизбежная часть его работы. Проблема в самой системе обучения.
Это важно для бизнеса
Ложь ИИ стоит денег, потерянных клиентов и тормоз во внедрении ИИ.
Главная причина: ИИ наказывают за честность.
Учёные покопались и решили, что проблема в том, что ИИ наказывают за ответ, «не знаю», уравнивая его с неверным ответом. Все рейтинги и тесты ставят «ноль» за ответ «не знаю» и за неправильный ответ. Поэтому ИИ "выгоднее" придумать красивый ответ, чем признаться в незнании.
Что делать на практике:
Вывод: Надежный ИИ — не тот, который все знает, а тот, который знает, чего он не знает, поэтому тренируйте правильно и задавайте верные запросы и жизнь наладится.
Подробнее на Habr.com
Нашёл хорошую статью про то, как бороться с галлюцинациями ИИ. Ниже очень краткий пересказ - для общего представления, чтобы вы могли показать своим специалистам, которые настраивают вам ИИ-сервисы, а для более глубокого изучения рекомендую прочесть статью. Она написана очень легким языком и даёт понятные советы.
Новое исследование OpenAI показало: когда ИИ «галлюцинирует» (уверенно говорит неправду) — это не баг, а неизбежная часть его работы. Проблема в самой системе обучения.
Это важно для бизнеса
Ложь ИИ стоит денег, потерянных клиентов и тормоз во внедрении ИИ.
Главная причина: ИИ наказывают за честность.
Учёные покопались и решили, что проблема в том, что ИИ наказывают за ответ, «не знаю», уравнивая его с неверным ответом. Все рейтинги и тесты ставят «ноль» за ответ «не знаю» и за неправильный ответ. Поэтому ИИ "выгоднее" придумать красивый ответ, чем признаться в незнании.
Что делать на практике:
1. Настройте «порог уверенности». Требуйте от ИИ отвечать только, если он уверен (например, на 80%). Иначе — пусть говорит «не знаю». В статье про это подробно написано.
2. Цените честность. Поощряйте ИИ, когда он признает свои ограничения в знании.
3. Проверяйте важные данные. Не полагайтесь слепо на один ответ ИИ. Используйте перекрестные проверки. RAG агенты одно из таких средств.
4. Ещё один не совсем очевидный вывод из статьи. Информации о вашей услуге и товаре должно быть у ИИ много, чтобы он не врал и не придумывал. Этот факт ещё годится и для продвижения внутри ИИ, но это немного другая тема.
Вывод: Надежный ИИ — не тот, который все знает, а тот, который знает, чего он не знает, поэтому тренируйте правильно и задавайте верные запросы и жизнь наладится.
Подробнее на Habr.com
👍6🤔1
Эксперты продолжат разговор про использование ИИ в обслуживании клиентов, но сосредоточатся на том, как правильно подключать чат-ботов к обработке стандартных запросов.
Около 90% всех клиентских обращений содержат стандартные, типовые вопросы, ответом на которые могут быть ссылки, инструкции или готовые алгоритмы.
Затрачивая время на их обработку, специалисты КС теряют возможность заниматься важными случаями, упуская возможность получить ценные инсайты и важную обратную связь.
Просто перенаправлять клиентов в раздел FAQ? Не клиентоориентированно. Чат-боты человечно, с эмпатией и искренним пониманием в каждом клиенту обработают такие вопросы.
Регистрация бесплатная.
Реклама OOO «Нью Ритейл Медиа» ИНН 7719473721
erid 2SDnjdyJSpw
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2👍1
Грёзы, грёзы - светлые мечты – никаких начальников, никаких согласований, все друг другу братья ….
Реальный, огромный бизнес включился в построение образа светлого будущего, где ИИ играет ведущую роль, но боюсь, что не суждено этому сбыться.
Владелец DNS Дмитрий Алексеев в своём посте нарисовал такую картину (к слову, на фотографии сам Дмитриев).
One-room команда, т.е. очень маленький коллектив людей, которые прокачаны ИИ на максималках. И вот, она мечта любого бизнеса – минимум людей, от которых одни издержки, а остаётся лишь когорта преданных и умных, которые мощно двигают бизнес вперёд.
Цитата:
Ниже полный пост
Реальный, огромный бизнес включился в построение образа светлого будущего, где ИИ играет ведущую роль, но боюсь, что не суждено этому сбыться.
Владелец DNS Дмитрий Алексеев в своём посте нарисовал такую картину (к слову, на фотографии сам Дмитриев).
One-room команда, т.е. очень маленький коллектив людей, которые прокачаны ИИ на максималках. И вот, она мечта любого бизнеса – минимум людей, от которых одни издержки, а остаётся лишь когорта преданных и умных, которые мощно двигают бизнес вперёд.
Цитата:
ИИ может позволить «прокачать» малую команду. Представьте себе компанию, в которой 15 человек и нет никакой иерархии: просто несколько специалистов в своих отраслях, а в поддержку каждому - куча ИИ-агентов.
И никакого менеджмента, никаких начальников, никаких согласований. Просто команда очень производительных людей, которые работают как единое целое.
Ниже полный пост
То, что так называемый ИИ - уже знаковое событие в жизни человечества, - несомненно. Вопрос только в том, как это повлияет на экономику, или, иными словами, как с его помощью кратно увеличить создание ценности?
Вообще-то мы можем изменить своё представление о ценности…Но я не буду заходить так далеко, а скажу про менеджмент.
Мне видится, что революция может произойти в том, что появится новый класс компаний. Я бы назвал их «one-room company» - компании, где весь персонал может сидеть в одной комнате.
Дело в том, что сейчас есть парадокс. В современном мире инновации можно создавать только большим человеческим ресурсом. Иными словами, для этого нужно много народу. Но при этом по-настоящему инновационными могут быть только малые команды.
Такие команды могут генерировать единое информационное поле, в котором и рождаются инновации. В такой команде не нужен менеджмент: там все и так понимают друг друга с полуслова. А вот как только людей в компании становится много (условно больше 20), появляется менеджмент и присущие ему издержки. И чем больше людей, тем больше издержки на менеджмент. Вплоть до того, что добавление следующего сотрудника не приводит к увеличению производительности организации в целом, а производительность может и падать. Конечно, существует много способов противостоять этим издержкам, но в любом случае это не отменяет самих издержек. Полезность от каждого следующего сотрудника всё равно убывает.
Так вот: ИИ может позволить «прокачать» малую команду. Представьте себе компанию, в которой 15 человек и нет никакой иерархии: просто несколько специалистов в своих отраслях, а в поддержку каждому - куча ИИ-агентов. И никакого менеджмента, никаких начальников, никаких согласований. Просто команда очень производительных людей, которые работают как единое целое.
Кажется, таким компаниям будут по плечу удивительные инновации…
👏2😁1
Потерял клиентов и разрушил репутацию и всё из-за ИИ.
❓Если вы решили заменить саппорт на ИИ и что вам стоит сделать иначе, чтобы не потерпеть фиаско?
Откровенная статья об ошибках по внедрению ИИ. Ссылка на полную статью в конце.
Поставили ChatGPT вместо первой линии поддержки. Через неделю продажи с этого канала упали с 20% до 3% и посыпались сотни жалоб.
Вот четыре конкретных действия, которые нужно сделать, чтобы не повторить ошибок:
Я бы от себя добавил, что работа с ИИ требует терпения и множества экспериментов, я не хотел бы, чтобы вы относились к выводам этой статьи, как вылитым из железобетона. Технология быстро меняется, ищутся пути решения проблем и в том числе тех, которые описал автор. Иными словами, я не во всём согласен с автором.
Саму статью прислал Олег Баландин и за это ему огромная благодарность.
Подробнее на Habr.com
❓Если вы решили заменить саппорт на ИИ и что вам стоит сделать иначе, чтобы не потерпеть фиаско?
Откровенная статья об ошибках по внедрению ИИ. Ссылка на полную статью в конце.
Поставили ChatGPT вместо первой линии поддержки. Через неделю продажи с этого канала упали с 20% до 3% и посыпались сотни жалоб.
Вот четыре конкретных действия, которые нужно сделать, чтобы не повторить ошибок:
ЖЕСТКО РАЗДЕЛЯЙТЕ ЗОНЫ ОТВЕТСТВЕННОСТИ
Не заставляйте ИИ продавать или работать с возражениями. Он не умеет убеждать, считает автор.
Что делать: Настройте четкие правила. ИИ отвечает только на простые шаблонные вопросы (статус заказа, условия доставки). Все, что сложнее — мгновенно передается живому оператору.
ЗАПРЕТИТЕ ИИ ФАНТАЗИРОВАТЬ
ИИ будет уверенно врать, лишь бы не сказать «не знаю». Это его главная опасность.
Что делать: Пропишите в промпте строгий приказ: «Если точного ответа нет в предоставленной базе знаний, отвечай строго по шаблону: „Я не могу дать точный ответ и уже передал ваш вопрос специалисту“».
НЕ ДОВЕРЯЙТЕ ЕМУ БОЛЬШОЙ КОНТЕКСТ
ИИ плохо помнит длинные диалоги и путается. Клиент будет злиться.
Что делать: Используйте ИИ не для ведения всего диалога, а для быстрой классификации запроса и подсказки оператору. Пусть ИИ помогает человеку, а не заменяет его.
КОНТРОЛИРУЙТЕ ТОН ОБЩЕНИЯ
❗️Избыточная вежливость ИИ (постоянные извинения) может быть воспринята как официальное признание вины компании и привести к требованиям компенсации.
Что делать: Настройте нейтральный, доброжелательный, но не заискивающий тон. Избегайте слов «извините» там, где нет реальной вины компании.
🤓Главный вывод:
ИИ — это не сотрудник, а инструмент. Его роль — не заменить людей, а усилить их. Используйте его для автоматизации рутины, но все сложные и эмоциональные задачи оставляйте команде.
Я бы от себя добавил, что работа с ИИ требует терпения и множества экспериментов, я не хотел бы, чтобы вы относились к выводам этой статьи, как вылитым из железобетона. Технология быстро меняется, ищутся пути решения проблем и в том числе тех, которые описал автор. Иными словами, я не во всём согласен с автором.
Саму статью прислал Олег Баландин и за это ему огромная благодарность.
Подробнее на Habr.com
👍4❤1🔥1😁1
Дикоросы форум-выставка для бизнеса в индустрии гостеприимства и туризма, пройдет с 19 по 21 ноября в Новосибирском Экспоцентре.
⚡️Деловая программа выставки – это бизнес инструмент, на котором топовые эксперты отрасли делятся опытом, рассказывают о трендах и о том, как развивать свой бизнес эффективно и разумеется там огненные спаикеры!
В качестве спикеров:
Игорь Бухаров,
Борис Агатов,
Николай Ильин,
Екатерина Шаповалова,
Владимир Бурковский,
Екатерина Проценко,
Татьяна Кибирёва и многие другие.
⚡️Выставка новинок – передовые решения для отелей, ресторанов, турбаз и кейтеринга.
⚡️Гастрономическая площадка «Русский завтрак» под руководством Екатерины Шаповаловой – знакомство с русской и сибирской кухней.
⚡️Отборочный этап Национальной премии «Бариста года 25/26» – зрелищные соревнования среди лучших кофейных мастеров.
⚡️Премия «Сибирское гостеприимство» – награждение лидеров туриндустрии, создающих уникальные проекты в сфере сервиса и туризма.
⚡️Открытый чемпионат Сибири по кулинарии.
Приходите, чтобы узнать как развивать бренд, строить туристическое меню, привлекать гостей и улучшать сервис.
Буду рад увидеться на Дикоросах! Выступаю 19-го ноября в двух сессиях, поговорим про ИИ в бизнесе
Получить билет
Новости в Telegram
⚡️Деловая программа выставки – это бизнес инструмент, на котором топовые эксперты отрасли делятся опытом, рассказывают о трендах и о том, как развивать свой бизнес эффективно и разумеется там огненные спаикеры!
В качестве спикеров:
Игорь Бухаров,
Борис Агатов,
Николай Ильин,
Екатерина Шаповалова,
Владимир Бурковский,
Екатерина Проценко,
Татьяна Кибирёва и многие другие.
⚡️Выставка новинок – передовые решения для отелей, ресторанов, турбаз и кейтеринга.
⚡️Гастрономическая площадка «Русский завтрак» под руководством Екатерины Шаповаловой – знакомство с русской и сибирской кухней.
⚡️Отборочный этап Национальной премии «Бариста года 25/26» – зрелищные соревнования среди лучших кофейных мастеров.
⚡️Премия «Сибирское гостеприимство» – награждение лидеров туриндустрии, создающих уникальные проекты в сфере сервиса и туризма.
⚡️Открытый чемпионат Сибири по кулинарии.
Приходите, чтобы узнать как развивать бренд, строить туристическое меню, привлекать гостей и улучшать сервис.
Буду рад увидеться на Дикоросах! Выступаю 19-го ноября в двух сессиях, поговорим про ИИ в бизнесе
Получить билет
Новости в Telegram
❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Русским человекоподобным роботам не наливать! Перегаром несёт.
Во время демонстрации робот предательски, как перебравший алкаш, шмякнулся на пол со всего своего роста. Да и выходил он уже явно не нормальной кондиции.
Может пока рано снижать себестоимость?
Во время демонстрации робот предательски, как перебравший алкаш, шмякнулся на пол со всего своего роста. Да и выходил он уже явно не нормальной кондиции.
«В представленном экземпляре 77% российских компонентов, и у нас есть понимание того, как при выходе на серийное производство полностью отладить процесс, снизить себестоимость и довести процент локализации до 93%», – заявил разработчик.
Может пока рано снижать себестоимость?
😁5
This media is not supported in your browser
VIEW IN TELEGRAM
Буквально вчера у меня состоялся разговор с одним околомузыкальным человеком об ИИ-музыке.
Он сказал, что "ИИ никогда не превзойдёт человека в музыке: нет той глубины, чувств и слишком уж всё вылизано."
И сегодня вижу новость:
Какой вывод?
1. Средний, массовый уровень музыки ИИ уже достиг. Может когда-то и до гениев музыки дотянется, но для бизнеса это уже не так важно.
2. Бизнес уже может работать с ИИ для создания музыкальных треков для своих продуктов, брендов, маркетинговых акций и т.п., т.к. доступный уровень ИИ-музыки вполне может устроить любой бизнес.
3. Уровень эмоционального воздействия, который ранее был в общении с потребителем, в скором времени перестанет устраивать клиента/покупателя, т.к. не за горами, когда ИИ будет настолько тонко подстраиваться под каждого потребителя, что если мы не овладеем этим в буквальном смысле искусством, то мы просто не сможем ничего продать покупателя.
А как пелось в уже старинной песне, написанной человеком «музыка нас связала….»
Он сказал, что "ИИ никогда не превзойдёт человека в музыке: нет той глубины, чувств и слишком уж всё вылизано."
И сегодня вижу новость:
Созданная ИИ песня впервые в истории музыкальной индустрии стала хитом №1 чарта Billboard в США, пишет Newsweek.
Рейтинг кантри-композиций чарта возглавила Walk My Walk исполнителя Breaking Rust.
Какой вывод?
1. Средний, массовый уровень музыки ИИ уже достиг. Может когда-то и до гениев музыки дотянется, но для бизнеса это уже не так важно.
2. Бизнес уже может работать с ИИ для создания музыкальных треков для своих продуктов, брендов, маркетинговых акций и т.п., т.к. доступный уровень ИИ-музыки вполне может устроить любой бизнес.
3. Уровень эмоционального воздействия, который ранее был в общении с потребителем, в скором времени перестанет устраивать клиента/покупателя, т.к. не за горами, когда ИИ будет настолько тонко подстраиваться под каждого потребителя, что если мы не овладеем этим в буквальном смысле искусством, то мы просто не сможем ничего продать покупателя.
А как пелось в уже старинной песне, написанной человеком «музыка нас связала….»
🔥3❤1👏1
Звездные войны в магазине, вернее войны ИИ-агентов, то была сказка, а тут реальное бизнес-мочилово.
Amazon подал в суд на Perplexity обвинив его в том, что его ИИ-агент, который зашит в новый браузер Comet, имитируя действия человека осуществляет покупки, вдобавок они заявили, что Perplexity проник в аккаунты пользователей.
Какие выводы можно сделать из этой на первый взгляд банальной грызни техногигантов, хотя Perplexity лишь отчасти можно отнести к гигантам, только за их потенциал разве что.
1. ИИ-агенты – это уже фактор, который нельзя игнорировать в покупательском поведении иначе чего из-за него в суд идти.
2. Amazon трезво оценивает, что ИИ-агенты рано или поздно могут поломать его бизнес, если не ставить палки в колёса.
3. Рисуется новый масштабный передел, который сравни появлению маркетплейсов и инвестиции в этот канал могут быть весьма оправданными.
4. Пока грызутся «большие», компаниями по проще надо думать, как подготовить информацию о товаре, чтобы она попадала боту.
5. Сейчас надо выбрать стратегию либо стратегию запрета работы ИИ-ботов на вашем сайте, либо открыть всю информацию, чтобы ИИ-бот мог её увидеть и сделать покупку в пользу своего хозяина.
Подробнее на Reuters
Amazon подал в суд на Perplexity обвинив его в том, что его ИИ-агент, который зашит в новый браузер Comet, имитируя действия человека осуществляет покупки, вдобавок они заявили, что Perplexity проник в аккаунты пользователей.
Какие выводы можно сделать из этой на первый взгляд банальной грызни техногигантов, хотя Perplexity лишь отчасти можно отнести к гигантам, только за их потенциал разве что.
1. ИИ-агенты – это уже фактор, который нельзя игнорировать в покупательском поведении иначе чего из-за него в суд идти.
2. Amazon трезво оценивает, что ИИ-агенты рано или поздно могут поломать его бизнес, если не ставить палки в колёса.
3. Рисуется новый масштабный передел, который сравни появлению маркетплейсов и инвестиции в этот канал могут быть весьма оправданными.
4. Пока грызутся «большие», компаниями по проще надо думать, как подготовить информацию о товаре, чтобы она попадала боту.
5. Сейчас надо выбрать стратегию либо стратегию запрета работы ИИ-ботов на вашем сайте, либо открыть всю информацию, чтобы ИИ-бот мог её увидеть и сделать покупку в пользу своего хозяина.
Подробнее на Reuters
❤1🔥1
Forwarded from 🔥Форум сибирского гостеприимства «Дикоросы»
Гостеприимство нового поколения: от вызовов — к стратегии роста🚀
Современный рынок ставит перед нами сложные вопросы. Но в каждом вызове — семя будущего успеха.
Мы приглашаем вас на стратегическую сессию, где мы найдем на них ответы вместе:
«Современные тренды в гостеприимстве. Качество сервиса и персонал как часть стратегии развития отеля»
Спикеры:
🎤Екатерина Проценко, Член жюри премии «WORLD CRYSTAL AWARDS» Член экспертного совета конкурса «Отели России», почетный член жюри проекта «Гостеприимная Россия»
🎤Эдуард Прохоров, Генеральный управляющий Grand Autograph Hotel Новосибирск
🎤Марина Лесникова, Генеральный директор Отель «HISTORY»
🎤Ольга Бутова, Генеральный менеджер отеля «50|60»
🎤Эрика Макарук, Генеральный менеджер апарт-отеля Ramada
🎤Николай Пана, Операционный директор гостиничного оператора 25/7»
🎤Борис Агатов, Спикер и модератор конференций: СКОЛКОВО, ФРИИ, BBCG, UPGRADE, FASHION TECH DAY, МИНПРОМТОРГ
🎤Алиса Прилепо, Директор службы персонала и обучения, Метрополь
Присоединяйтесь к диалогу, который определит будущее индустрии гостеприимства.
Получить билет на мероприятие
Современный рынок ставит перед нами сложные вопросы. Но в каждом вызове — семя будущего успеха.
Мы приглашаем вас на стратегическую сессию, где мы найдем на них ответы вместе:
«Современные тренды в гостеприимстве. Качество сервиса и персонал как часть стратегии развития отеля»
Спикеры:
🎤Екатерина Проценко, Член жюри премии «WORLD CRYSTAL AWARDS» Член экспертного совета конкурса «Отели России», почетный член жюри проекта «Гостеприимная Россия»
🎤Эдуард Прохоров, Генеральный управляющий Grand Autograph Hotel Новосибирск
🎤Марина Лесникова, Генеральный директор Отель «HISTORY»
🎤Ольга Бутова, Генеральный менеджер отеля «50|60»
🎤Эрика Макарук, Генеральный менеджер апарт-отеля Ramada
🎤Николай Пана, Операционный директор гостиничного оператора 25/7»
🎤Борис Агатов, Спикер и модератор конференций: СКОЛКОВО, ФРИИ, BBCG, UPGRADE, FASHION TECH DAY, МИНПРОМТОРГ
🎤Алиса Прилепо, Директор службы персонала и обучения, Метрополь
Присоединяйтесь к диалогу, который определит будущее индустрии гостеприимства.
Получить билет на мероприятие