Лимиты и контроль расходов ИИ-агента: защита бюджета

Один диалог способен незаметно съесть дневной бюджет: клиент раз за разом переспрашивает одно и то же, агент послушно дёргает одну и ту же функцию в ответ, и к обеду баланс уже в минусе. У платформы для этого случая есть предохранители. Вопрос практический — где их поставить, чтобы диалог останавливался вовремя и не обрывал живой разговор на середине фразы.

Что мешает диалогу разогнаться до бесконечности

За это отвечают две настройки из блока «Защита от спама» в дополнительных настройках агента: «Максимальное количество сообщений в диалоге» и «Максимальная стоимость диалога». При достижении заданного значения агент перестаёт отвечать пользователю: оба ограничения работают как жёсткий стоп-кран без промежуточного предупреждения.

Разница между ними в единице измерения, и от неё зависит, какую задачу решает настройка.

Обе настройки существуют именно на случай, когда клиент пишет непреднамеренно много или кто-то целенаправленно засыпает агента сообщениями: без потолка переписка тянет токены и деньги без остановки. Про то, из чего складывается сама стоимость реплики и как её снизить на здоровых диалогах, подробно написано в статье «Сколько стоит чат-бот с ИИ». Здесь же — только про аварийный тормоз на случай сбоя.

Где ещё сидит потолок: вызовы одной функции

Платформа ограничивает количество обращений к одной функции внутри диалога десятью попытками, и лимит общий для любой интеграции: таблицы, CRM, базы знаний. При превышении диалог останавливается с ошибкой «Достиг максимального количества вызовов функций на диалог».

Чаще всего в лимит упирается один и тот же тип сценария: клиент по кругу меняет параметры запроса, а агент послушно ищет заново — уточнил дату, потом город, потом бюджет, и каждое уточнение это новый вызов той же функции с новыми аргументами. Каждая из десяти попыток уже оплачена к моменту остановки. Ошибка здесь работает как сигнал: где-то в диалоге функция вызывается заметно чаще, чем нужно для ответа.

Часть таких вызовов вообще не обязана идти через модель. Проверки вроде «сообщение содержит нужное слово» или «сработал определённый файл базы знаний» можно вынести в вызов действия по триггеру: условие проверяется без обращения к LLM, и токены на эту проверку не списываются вовсе. Лимит в десять вызовов при этом продолжает действовать, но расходуется он только на то, что действительно требует решения модели.

Чем опасен слишком туго закрученный лимит

Первая реакция после дорогого диалога обычно одна: поставить лимиты пожёстче и забыть о проблеме. Здесь легко перегнуть: жёсткий потолок сообщений одинаково обрывает и зациклившегося бота, и живого клиента, который просто задал шестое уточнение по сложному заказу.

Практический ориентир: сначала посмотреть на реальную длину типичного диалога в своей нише, и только потом отступать от неё в большую сторону с запасом. Похожая ловушка разбирается в статье про настройку ИИ-агента: там же собраны другие места, где агент незаметно становится дороже ожидаемого из-за истории вызовов функций и объёма контекста.

Как узнать о проблеме раньше клиента

Лимиты останавливают уже случившийся перерасход, но узнать о риске стоит раньше. Оповещения от Савви в Telegram и MAX присылают сообщение среди прочего о том, что баланс скоро закончится или уже закончился. Подробно о том, какие ещё события попадают в эти уведомления и как их подключить, написано в статье «Оповещения от агента».

Если оповещение пропущено и баланс всё же ушёл в минус, для персонального канала API это выглядит как код ответа 402 с пометкой user_balance_below_zero — сообщение клиенту не уйдёт, пока счёт не пополнят. По остальным каналам логика та же: обслуживание приостанавливается до пополнения счёта.

Есть и способ увидеть цену диалога заранее, до подключения канала: флаг «Отображать стоимость диалога в тестовом чате» на вкладке «Служебное» показывает счётчик прямо во время тестирования агента. Вкладка доступна на тарифе Интегратор (ПРО с участием в партнёрской программе), поэтому на других тарифах цену диалога стоит смотреть по факту, в истории обращений.

Дорогой диалог или сломанный — как отличить

У дорогого диалога и у сломанного диалога общий симптом: высокий счёт. Различает их только то, куда именно ушли токены.

Дорогой, но исправный диалог обычно длинный по содержанию: клиент перечисляет условия заказа, агент несколько раз обращается к разным функциям по делу, история переписки нужна для контекста. Сломанный диалог выглядит иначе — одна и та же функция вызывается подряд с похожими аргументами, а ответ клиенту не двигается вперёд. Именно второй случай и упирается в лимит вызовов раньше, чем в лимит стоимости.

Отдельная ловушка — демо-ссылка на агента. Переписка в демо-чате и разговор по демо-звонку списываются с того же баланса, что и обращения настоящих клиентов, только с ограничением по длительности звонка. Если тестовый доступ разослали десятку коллег для проверки, счёт за это придёт с того же счётчика, что и за реальную работу агента.

Сохраните привычку смотреть на лимиты раз в неделю

Начните с осторожных значений: лимит сообщений — с запасом от длины типичного диалога в вашей нише, максимальная стоимость — в несколько раз выше средних 15 ₽ за обычную переписку, лимит вызовов функций трогать не нужно вовсе, он общий для платформы.

Проверяйте раз в неделю историю остановленных диалогов: если лимит вызовов срабатывает регулярно на одном и том же сценарии, причина обычно в логике действия, и её стоит переработать, пока она не привела туда же снова. Подробный список моделей и их относительная стоимость — в руководстве платформы, а условия подписок и тарифов — на главной странице Савви.

Частые вопросы