Доля автоматизации, средняя стоимость диалога, распределение тегов и причины завершения звонка. Какие отчёты выгружаются в Excel и что в них смотреть в первую очередь.
Работу агента оценивают по четырём вещам: доля сообщений, обработанных без человека, средняя стоимость диалога, распределение тегов по темам и — для голосовых — причины завершения звонка. Статистика собирается в разделе «Аналитика» тремя вкладками, а детали выгружаются отчётами в Excel: строка на диалог или строка на реплику с вызовами функций и ошибками.
Вопрос «а он вообще работает» задают через месяц после запуска, и отвечают на него обычно ощущениями: вроде стало полегче. Ощущения ненадёжны — в первый месяц половина команды на всякий случай проверяет за агентом каждый диалог и тем самым портит себе же картину.
Цифр, по которым видно правду, немного, и они лежат в одном разделе.
| Показатель | Где смотреть | О чём говорит |
|---|---|---|
| Доля автоматизации | круговая диаграмма «Эффективность Савви» | сколько сообщений закрыто без человека |
| Средняя стоимость диалога | отдельная диаграмма во вкладке «Общее» | не растёт ли расход токенов после правок |
| Распределение тегов | статистика тегов | о чём вообще пишут клиенты |
| Причины завершения звонка | вкладка «Звонки» | где ломается голосовой сценарий |
Остальное — производные. Объём сообщений говорит о нагрузке, но не о качестве; число диалогов растёт вместе с рекламой и ничего не сообщает об агенте.
Проверьте на своих диалогах.Регистрация без карты, 500 ₽ на тест по промокоду BLOG500
Собрать агентаДиаграмма показывает соотношение сообщений, обработанных агентом и обработанных вручную.
Низкая доля в первый месяц обычно означает не провал агента, а привычку сотрудников вмешиваться. Человек видит новый диалог, на всякий случай отвечает сам — и сообщение уходит в ручную половину. Поэтому смотреть на этот показатель имеет смысл в динамике по неделям, а не в абсолютном значении на старте.
Обратная ситуация тоже бывает: доля высокая, потому что агенту никто не передаёт сложное. Проверяется тегами — если в диалогах нет ни одной пометки про эскалацию, значит, её просто не настроили.
Отдельная диаграмма во вкладке «Общее», с детализацией по дням при наведении.
Это единственный способ увидеть последствия правок. Добавили описание услуг в список, включили передачу истории за месяц, сменили модель — всё это отражается здесь через день-два. Рабочая привычка: формировать статистику раз в неделю и смотреть на график после каждого крупного изменения инструкции. Стоимость диалога на платформе составляет около 15 ₽, и заметное отклонение вверх почти всегда объясняется одной конкретной правкой.
Три вещи по убыванию: неограниченная история диалога у постоянных клиентов, описания товаров или услуг, попадающие в контекст целиком, и факты, вписанные прямо в инструкцию вместо базы знаний. Все три видно на графике как ступеньку, а не плавный рост.
Диаграмма распределения тегов показывает темы диалогов, и отдельным цветом — диалоги без тегов.
Большой синий сектор «без тегов» на старте — норма, но именно он и есть главная задача первого месяца: пока теги не расставлены, аналитика отвечает только на вопрос «сколько», не отвечая на «о чём». Как ставятся теги и по каким условиям, описано в материале о квалификации лидов.
Пользы от этой диаграммы обычно больше, чем от всех остальных: она показывает не работу агента, а спрос. Если четверть обращений за месяц — про доставку в конкретный регион, это ответ сразу на два вопроса: что дописать в базу знаний и что поправить на сайте.
Для голосовых агентов есть отдельная вкладка с фиксированным периодом — последние 30 дней, не включая сегодня. Формировать ничего не нужно, данные показываются сразу.
Самый полезный блок — доли причин завершения звонка.
Одна поправка к арифметике: «Всего звонков» включает тестовые. При обкатке голосового агента они заметно искажают картину, поэтому реальную нагрузку считают за их вычетом.
Отчёты создаются в разделе «История», на вкладке «Отчёты», и приходят файлом xlsx в бот оповещений. Типов два.
dialogues — строка на диалог: дата, агент, число сообщений клиента, агента и менеджера, количество вызовов функций, стоимость, теги. Это материал для общей картины: например, чтобы увидеть, что диалоги с вызовом функций стоят вдвое дороже остальных.
dialogue_logs — детализация по репликам: запрос клиента, ответ агента, вызванные функции, использованные теги, подробности ошибок. Сюда идут, когда нужно понять конкретный сбой, а не тенденцию.
Сформируйте статистику за прошлый месяц и посмотрите на сектор «Диалоги без тегов».
Если он занимает больше половины, начинать надо не с метрик, а с разметки: три-четыре тега по причинам обращения, расставленные условиями. Через месяц эта же диаграмма покажет вам структуру спроса, и разговор об эффективности агента станет предметным — с ответом на вопрос, какие именно темы он закрывает, а какие по-прежнему уходят человеку. Что делать с этими диалогами дальше, объясняет обучение ИИ-агента.
Из трёх вкладок. «Общее» — статистика по перепискам: объём сообщений, стоимость, доля автоматизации, теги. «Звонки» — статистика голосовых агентов. «Оценки» — оценки, которые клиенты поставили диалогам.
Соотношение сообщений, обработанных агентом, и сообщений, обработанных вручную. Круговая диаграмма «Эффективность Савви» показывает обе доли и позволяет быстро оценить нагрузку на операторов.
За последние 30 дней, не включая сегодня. Период задан жёстко и не меняется, конкретный диапазон выводится над блоками. В отличие от вкладки «Общее», формировать ничего не нужно — данные показываются сразу.
Обычно то, что настройки распознавания речи слишком строгие. Рост доли «Лимит длительности» означает другое: агент не доводит разговор до цели и упирается в максимальную длительность звонка из настроек.
Два типа, оба в xlsx и оба приходят в бот оповещений. Тип dialogues даёт строку на диалог: число сообщений клиента, агента и менеджера, количество вызовов функций, стоимость, теги. Тип dialogue_logs — детализацию по репликам с запросом, ответом, вызовами функций и подробностями ошибок.
Оценки появляются только у агентов, где настроено действие запроса оценки диалога: агент присылает клиенту ссылку, клиент переходит и ставит оценку. Пока никто не перешёл по ссылке, таблица пустая.
Хотите сразу к продукту: Разработка чат-ботов для бизнеса