Насколько ИИ-агент автономен и где его граница
Где агент решает сам, а где включаются лимиты, барьеры и передача диалога человеку: разбор границ автономности по настройкам платформы Савви.
Автономия агента складывается из настроек, которые решают, что он делает сам, а когда останавливается и зовёт человека. Внутри диалога действует жёсткий предел — десять вызовов одной функции, файл базы знаний умеет принудительно прервать ответы, а три механизма контроля поведения проверяют уже готовый ответ после того, как агент его сформировал. Уровень автономности выбирается отдельно под каждую задачу.
Владелец уезжает в отпуск на две недели и последним перед вылетом открывает настройки агента: что тот способен сделать один, пока телефон лежит в номере отеля с приглушённым звуком. Ответ складывается из нескольких независимых слоёв настроек, а не из одной галочки «доверять».
Автономность ИИ-агента — это доля решений в диалоге, которые он принимает без обращения к человеку, при этом оставаясь в рамках, заданных инструкцией и настройками контроля поведения.
Что решает агент внутри диалога без вашего участия
Пока ни один предохранитель не сработал, агент решает почти всё сам: как сформулировать ответ, когда обратиться к базе знаний, какую функцию вызвать и стоит ли напомнить клиенту о себе, если тот замолчал. Это рабочий режим по умолчанию — платформа не спрашивает разрешения на каждый шаг внутри диалога.
Из чего собрана эта конструкция — инструкция, база знаний, набор функций — показано в статье что такое ИИ-агент. Здесь важно только то, что она работает автономно, пока не упрётся в одну из границ ниже.
Проверьте на своих диалогах.Регистрация без карты, 500 ₽ на тест по промокоду BLOG500
Собрать агентаГде заканчивается разговор: лимит на один диалог
Первая граница не зависит от темы диалога и от того, что написано в инструкции. В Савви установлен лимит на вызов каждой функции внутри одного диалога, он един для любой функции и равен десяти. Клиент по кругу уточняет параметры заказа, агент послушно ищет заново — и на десятой попытке платформа сама останавливает диалог с ошибкой «Достиг максимального количества вызовов функций на диалог».
Такая остановка попадает в фильтр «Ошибка» в разделе чатов, и её стоит отличать от обычной дорогой переписки: там счёт растёт за счёт длины разговора, здесь — за счёт зацикленного вызова одной и той же функции. Более полный разбор денежных и количественных пределов диалога — в статье про лимиты и контроль расходов.
Как база знаний сама передаёт диалог человеку
Вторая граница привязана к конкретному файлу базы знаний. У каждого файла есть параметр «Прерывать диалог»: при срабатывании этого файла Савви прекращает отвечать на любые дальнейшие вопросы клиента. Настройка нужна ровно для одной ситуации — где решение принимает живой сотрудник, а автоматический ответ в этом месте разговора будет хуже молчания.
После такого срабатывания чат попадает в фильтр «Диалог прерван» — это отдельный статус, который стоит отличать от статуса «Оператор», где диалог остановил своим сообщением сам сотрудник. Фразы, которыми сотрудник вручную забирает и возвращает диалог, и таймеры возврата управления собраны в статье про прерывание диалога и возврат агента.
Три проверки, которые видят готовый ответ, а не намерение
Третья граница работает иначе первых двух: она перепроверяет уже сформированный ответ агента перед отправкой, независимо от числа вызовов или конкретного файла базы знаний. В инструкции этот раздел называется «Контроль поведения» и включает три независимых механизма: LLM-барьеры проверяют ответ по заданному условию, контроль фактов требует опоры на базу знаний, контроль действий не даёт подтвердить то, чего агент не выполнял на самом деле. При срабатывании любого из них платформа либо перегенерирует ответ, либо подставляет фиксированную фразу, либо останавливает диалог и зовёт менеджера.
Откуда берутся выдумки, которые ловит контроль фактов, и как настроить оба готовых барьера — «Числа только из источников» и «Контроль скидки» — подробно расписано в статье почему ИИ-агент выдумывает. Здесь важнее другое: все три механизма смотрят на результат, а не заглядывают агенту в голову заранее.
В платформе легко предположить кнопку вида «спросить разрешение перед записью клиента», но её не существует. Контроль действий проверяет ответ постфактум: он не даёт агенту сообщить о выполненном шаге, если соответствующая функция не была вызвана, но не запрашивает согласие человека до того, как агент вообще начал действовать. Разница на практике простая: агент не спрашивает «можно записать?», он либо реально записывает и подтверждает это, либо не подтверждает вовсе.
Как выбрать уровень автономности под задачу
Одна и та же степень свободы не подходит всем задачам агента сразу: цена ошибки в записи на услугу и в ответе про сроки доставки разная, поэтому рамки стоит подбирать под конкретную задачу.
| Задача | Что агент решает сам | Какая рамка нужна |
|---|---|---|
| Запись на услугу | выбирает время, формулирует подтверждение клиенту | контроль действий: подтверждение не пройдёт без реального вызова функции записи |
| Консультация по цене | собирает ответ из базы знаний | барьер «Числа только из источников» плюс контроль фактов |
| Ответ про сроки | компонует фразу из данных заказа | контроль фактов в обычном режиме, чтобы дата не достраивалась по догадке |
Первая колонка почти всегда остаётся неизменной — агент продолжает формулировать ответ сам. Меняется вторая: чем дороже последствия неточного ответа, тем больше механизмов контроля стоит включить рядом с этой конкретной задачей, а не для агента целиком.
Что проверить, прежде чем выключить телефон в отпуске
Посмотрите на три пункта: включён ли лимит вызовов функций (он общий и трогать его не нужно), стоит ли параметр «Прерывать диалог» на файлах, где решение обязан принимать человек, и активированы ли барьеры на диалогах с деньгами и записью. Каждый из трёх пунктов настраивается один раз и дальше работает без участия владельца.
После этого разговор о доверии агенту превращается в разговор о конкретных настройках: на каких диалогах сейчас стоит проверка, а на каких её пока нет. Полный список параметров контроля поведения и дополнительных настроек — в руководстве платформы Савви.
Частые вопросы
Что агент делает полностью сам, без вмешательства человека
Внутри рамок инструкции агент сам выбирает формулировку ответа, решает, когда обратиться к базе знаний, какую функцию вызвать и нужно ли отправить клиенту повторное сообщение. Решение остаётся за ним до тех пор, пока не сработает одна из настроек контроля.
Что произойдёт, если агент попробует вызвать одну функцию больше десяти раз
Платформа остановит диалог с ошибкой «Достиг максимального количества вызовов функций на диалог». Лимит общий для любой функции и не настраивается в меньшую или большую сторону: это жёсткий предел на уровне платформы.
Как файл базы знаний может сам остановить агента
У каждого файла есть параметр «Прерывать диалог»: при срабатывании этого файла агент замолкает по любым дальнейшим вопросам клиента. Настройка нужна там, где ответ должен дать именно человек, а не модель.
Правда ли, что агент может запросить подтверждение действия заранее, до его выполнения
Такой настройки в платформе нет. Контроль действий проверяет уже готовый ответ агента и не даёт ему сообщить клиенту о выполненном шаге, если соответствующая функция не была вызвана, — это проверка постфактум, а не запрос разрешения вперёд.
Чем статус чата «Диалог прерван» отличается от статуса «Оператор»
«Диалог прерван» относится к чатам, где сработал файл базы знаний. «Оператор» — к чатам, где диалог остановил живой сотрудник своим сообщением. Оба статуса видны в фильтрах раздела «Чаты», но причина остановки в каждом случае своя.
Как понять, какой уровень автономности нужен именно моей задаче
Смотреть на цену ошибки. Там, где неверный ответ стоит дорого (запись на услугу, деньги, персональные данные), включаются контроль действий и барьеры. Там, где ошибка легко поправима словом, агенту можно оставить больше свободы.
Читайте дальше
Все статьи темы →
Почему ИИ-агент выдумывает и как это прекратить
Откуда берутся выдуманные цены, сроки и подтверждения записи, и три механизма контроля поведения: LLM-барьеры, контроль фактов и контроль действий. Что включать в первую очередь.
Прерывание диалога и возврат агента
Что происходит с ИИ-агентом при вмешательстве сотрудника: флаг прерывания, дословные фразы, возврат управления по времени и таймер очереди в Битрикс24.
Лимиты и контроль расходов ИИ-агента: защита бюджета
Какие настройки останавливают диалог, если он стал слишком длинным или дорогим: лимит сообщений, максимальная стоимость и оповещения о балансе.
