🐞︙7 типов галлюцинаций AI, которые по-разному бьют по доверию Когда в клиентском сервисе говорят, что бот «просто ошибся», это звучит почти безобидно. Как будто речь идёт об одной и той же проблеме, которая иногда случается. Но в реальности ошибки AI в поддержке бывают разными. И опасны они тоже по-разному. Одно дело, когда бот отвечает неполно и тебе приходится уточнять вопрос. И совсем другое — когда он уверенно сообщает ложную информацию, а ты принимаешь решение на неверной основе. Формально и там и там ошибка. Но для клиента и для бренда это уже два разных уровня ущерба. Полезнее смотреть на такие сбои не как на одну общую «галлюцинацию», а как на несколько разных рисков. Первый риск — бот сообщает ложный факт как правду. Например, говорит, что возврат возможен в течение 30 дней, хотя по правилам магазина только в течение 14. Это самый опасный тип сбоя, потому что он создаёт у клиента ложную картину реальности. Второй риск — бот даёт неправильную инструкцию. Не просто путает факт, а направляет к неверному действию. Например, советует оформить заявку через раздел, который вообще не подходит для этой ситуации. Третий риск — бот игнорирует контекст самого клиента. Не учитывает, что у тебя уже есть активный заказ, прошлое обращение, особый тариф или предыдущий этап диалога. В итоге ответ может быть формально нормальным, но не для твоей ситуации. Четвёртый риск — бот противоречит сам себе. В одном сообщении говорит одно, в другом — другое. Для клиента это выглядит не как «особенность модели», а как потеря опоры: непонятно, какому ответу вообще верить. Пятый и шестой риски связаны с расхождением между ответом бота и реальной базой знаний компании. Проще говоря, бот может говорить не то, что реально закреплено в правилах, процессах или справке сервиса. Для клиента это особенно неприятно, потому что внешне ответ выглядит официальным. Седьмой риск — бот просто недоговаривает важную часть ответа. Это не ложь в прямом смысле, а пропуск. Например, он объясняет, как отменить услугу, но не говорит, что за это действие может списаться комиссия. Такие ошибки обычно воспринимаются мягче, но тоже создают проблемы. Важно. Для клиента критично не то, насколько «умной» выглядит модель. Критично то, вводит ли она в заблуждение и меняет ли поведение. Ошибка, после которой ты просто задашь уточняющий вопрос, — это один риск. Ошибка, после которой ты потеряешь деньги, время или доверие к сервису, — совсем другой. Поэтому в поддержке важно считать не только количество ошибок, но и их тип. Один и тот же процент сбоев может означать совершенно разный уровень опасности в зависимости от того, к чему именно приводит ответ бота. 💬︙Какие ошибки твоего AI-сервиса меняют поведение клиента и его отношение к бренду? ✈️ ProTelegram | Просто о сложном 🤝 Нетворкинг и взаимопомощь 🏷 Мои услуги | Отзывы #маркетинг #клиентскийсервис #галлюцинации #саппорт #чатботы #ProTelegram #Воронеж #AIвМаркетинге 🗣Аудиоверсия поста ⤵️