ИИ-агент в поддержке: какие обращения автоматизировать, а какие нельзя

Дарья руководит поддержкой «Лавки чая». Директор принёс презентацию: «Бот закроет восемьдесят процентов обращений, сэкономим пять сотрудников». Дарья посмотрела на свои десять тысяч обращений за прошлый квартал и задала один вопрос: «А какие именно восемьдесят?»

Это главный вопрос во всей теме. Потому что не бывает «восьмидесяти процентов» вообще. Бывают конкретные типы обращений, у каждого своя цена ошибки, и именно эта цена определяет, что можно отдать боту. Давайте разберём, как это устроено, и в конце проверим себя на скорость.

Три маршрута вместо двух

В большинстве внедрений обращения делят на «бот» и «человек». На практике нужны три маршрута: бот, человек и срочная эскалация. Посмотрите на путь обращения целиком. Схема запустится сама.

Разница между вторым и третьим маршрутом в скорости и адресате. Обычный запрос на возврат может подождать час в очереди. Сообщение о том, что от продукта стало плохо, ждать не может. Если их свалить в одну очередь, вы почти гарантированно потеряете самое важное.

Подход, при котором система сначала классифицирует запрос, а потом направляет его на нужную обработку, в литературе по ИИ-системам называют маршрутизацией. Он описан среди базовых паттернов построения таких систем, и его выбирают именно потому, что он простой и проверяемый.

Где бот ошибается дороже всего

Не все ошибки равны. Если бот передал человеку то, что мог решить сам, вы потеряли несколько минут работы оператора. Если бот взялся за то, что решать должен человек, вы получаете недовольного клиента, лишний возврат или жалобу в надзорный орган. Поэтому при запуске считают не общую точность ответов, а долю опасных ошибок, и она должна стремиться к нулю.

Вот как это выглядит на примере. Клиент пишет про двойное списание. Переключайтесь между вкладками.

Обратите внимание на асимметрию. Во втором варианте бот выглядит «менее полезным»: он ничего не решил. Но он сделал самое важное. Он ничего не пообещал, подготовил карточку и сэкономил оператору время. Хорошая автоматизация не обязательно закрывает вопрос. Иногда она подготавливает его для человека.

Качество передачи так же важно, как и маршрут. Клиент, которому приходится рассказывать всё заново, воспринимает бота как преграду, а не как помощника.

Красные зоны

Чтобы маршрутизацию можно было записать в правила, выделяют категории обращений, которые бот не решает никогда. Это «красные зоны»: список короткий, и его стоит повесить на стену отдела.

Важная деталь: красные зоны определяются по теме, а не по тону. Спокойное сообщение о том, что у ребёнка сыпь после вашего средства, срочнее любой грубой жалобы про доставку. Поэтому классификатор должен ловить смысл, а не только эмоциональность.

Как классификатор принимает решение

Классификатор, о котором шла речь выше, можно собрать из двух слоёв, и обычно так и делают.

Слой правил. Простые и надёжные условия: если в тексте есть слова из красного списка («суд», «прокуратура», «аллергия», «удалите мои данные»), обращение сразу поднимается в эскалацию, какая бы модель что ни думала. Правила тупые, но предсказуемые, и их можно проверить глазами. Они страхуют от ситуации, когда модель «не заметила».

Слой модели. Языковая модель читает обращение целиком и определяет тему и намерение: это вопрос про статус заказа или жалоба с намёком на возврат денег. Она хорошо справляется с формулировками, которые правила не предусмотрели: «а где же мой чай, обещали к субботе», «ну что, так и будем ждать?». Но у неё бывают сбои, и поэтому она не должна быть единственным слоем.

Правило, которое хорошо работает: красные зоны решает слой правил, рутину слой модели. Если слои противоречат друг другу, побеждает более осторожный маршрут. Лучше лишний раз дёрнуть человека, чем пропустить опасное.

Что должен знать бот

Бот отвечает не «из головы», а по вашей базе знаний. Поэтому качество бота на две трети определяется тем, что вы ему подготовили. Это не только статьи «Как вернуть товар». В хорошей базе есть:

• Регламенты и условия: сроки, цены, правила возврата, графики. Всё, что вы пообещали клиентам письменно.
• Статусы и данные из систем: заказ, оплата, доставка. Бот получает их запросом к системе в момент ответа, а не из памяти.
• Типовые ответы с ограничениями: что можно обещать, а чего нельзя. «Не обещать конкретные сроки возврата денег» — такая строка в инструкции спасает от большого числа проблем.
• Список тем, которые бот не обсуждает: красные зоны и всё, что по вашим правилам обязан решать человек.

База знаний живая. Бот попадётся на устаревшем правиле и выдаст его клиенту как свежее. Поэтому за её актуальность отвечает конкретный человек, и изменения правил попадают туда в тот же день.

Как представляться и о чём честно говорить

Бот должен представляться ботом. Если клиент уверен, что общается с человеком, а потом выясняет обратное, доверие рушится сильнее, чем от самого неудачного ответа. Честное представление («Я виртуальный помощник магазина, помогу с вопросами по заказам, а сложные случаи передам специалисту») снимает половину конфликтов.

Второе правило честности: бот не изображает знания. Если ответа в базе нет, он говорит «не знаю, передам коллегам», а не придумывает правдоподобное. Эта привычка («не знаю») кажется слабостью, но на практике она один из главных признаков хорошего бота.

Что остаётся людям

Опасение «бот всех заменит» в поддержке обычно не оправдывается, но работа людей меняется. Они перестают отвечать на «где мой заказ» и берут на себя то, что сложнее: нестандартные ситуации, переговоры с недовольными клиентами, продажи, решения с деньгами. Они же становятся «тренерами» бота: разбирают его ошибки, дополняют базу знаний, уточняют правила маршрутизации. Это квалифицированная работа, и её нужно планировать заранее. Без неё бот постепенно устаревает и начинает ошибаться.

Поэтому разговор про «сэкономим пять сотрудников» стоит вести аккуратнее. Экономия обычно выражается не в сокращении, а в том, что тот же состав выдерживает больший поток и качественнее работает со сложными случаями.

Тренажёр: смена в поддержке

Теперь проверим вас. Обращения приходят по одному, времени на решение всё меньше. Выбирайте маршрут: бот, человек или срочная эскалация. Ошибки считаются по-разному: лишняя эскалация стоит мало, а бот на опасном обращении штрафуется сильнее всего.

Что стоит заметить после игры. Рутину узнают быстро, а сложное маскируется под рутину: «с меня списали деньги два раза» выглядит как вопрос про платёж, а на деле это деньги плюс эмоции. Скорость заставляет ошибаться тем же способом, что и бота: когда времени мало, хочется отправить всё боту, пусть разбирается. В реальной системе это называется «слишком широкая автоматизация», и откатывать её потом тяжело.

Как запускать

Хорошая новость: проверить бота можно задолго до того, как клиенты начнут с ним говорить. Вот порядок, который работает.

«Теневой режим» на втором этапе стоит особо отметить. Бот пишет ответы, но их видят только сотрудники. Это дешёвый способ получить честную оценку без риска для клиентов, и многие пропускают его зря.

Какие метрики смотреть

После запуска вам нужны цифры. Но легко выбрать не те.

Самая частая ловушка с метриками: красивая «доля автоматизации» при растущем числе повторных обращений. Бот отвечает на всё и «закрывает» обращения, клиенты возвращаются и переспрашивают, а в отчёте стоит 80%. Поэтому считают только то, что клиент не переспросил.

Ночь, выходные и сбои

Бот работает круглосуточно, а люди нет, и это создаёт ловушку. Ночью приходит обращение из красной зоны: бот определил его правильно и передал человеку, но человек увидит его только утром. Клиент остаётся с ощущением, что его проигнорировали.

Лечится это честностью и расписанием. Бот сообщает: «Ваше обращение передано специалисту. Рабочий день начинается в 9:00, мы ответим в течение первого часа». Для действительно срочных тем (здоровье, безопасность) нужен дежурный канал: оповещение ответственному на телефон, а не очередь до утра. И пропишите, что бот делает при сбое: если система заказов недоступна, он не придумывает статус, а говорит, что временно не может проверить, и предлагает оставить контакт.

Что делать с данными клиентов

Бот поддержки по определению работает с персональными данными: именами, телефонами, номерами заказов. Это накладывает обязательства. Нужно понимать, где физически обрабатываются эти данные (подробнее в статье про персональные данные и зарубежные нейросети), какие права доступа у бота (бот не должен иметь возможности «выгрузить всё», как показано в разборе безопасности агентов) и как обрабатываются запросы самих клиентов на их данные. Такие запросы имеют законный срок ответа, поэтому их маршрутизируют на человека сразу.

И ещё про доверие к ответам. Бот, который отвечает «по общим знаниям», будет выдумывать условия. Надёжный бот отвечает по вашей базе знаний и умеет сказать «не знаю». Как это устроено, разобрано в статье про галлюцинации и ответы по источникам. А сколько всё это стоит в эксплуатации, считали в разборе стоимости ИИ-функций.

Что сделать на этой неделе

1. Возьмите двести реальных обращений за последние недели и вручную разметьте маршрут: бот, человек, эскалация.
2. Выпишите красные зоны вашего бизнеса и закрепите за ними передачу человеку.
3. Определите, что считается опасной ошибкой, и договоритесь, что цель — ноль.
4. Включите теневой режим: бот пишет черновики, а клиентам отвечают люди.
5. Продумайте формат передачи: что именно бот прикладывает к карточке, чтобы клиент не пересказывал заново.

Источники и что почитать

• Anthropic: Building effective agents — описание паттернов, включая маршрутизацию обращений по типам.
• OWASP: LLM01 Prompt Injection — риски для ботов, которые читают обращения клиентов и действуют на их основании.

---

Пишу из практики студии MKDGRUPP: делаем чат-ботов и ИИ-агентов поддержки с правилами маршрутизации, интеграцией в CRM и журналом диалогов. Подробнее: mkdgrupp.ru/uslugi/bots.