ИИ в чат-ботах банков и финансовых сервисов

Клиент пишет в чат банка: «Какой у меня остаток по счёту?» В ответ агент присылает короткое объяснение и ссылку на мобильное приложение, где остаток виден сразу после входа. Это заранее прописано в инструкции: часть вопросов агент закрывает сам, часть честно передаёт туда, где есть подтверждение личности.

Где заканчивается вопрос и начинается операция со счётом

Банковский разговор устроен из двух непохожих частей, и агент относится к ним по-разному. Первая часть, вопросы про продукт и правила: тарифы, условия открытия счёта, список документов, сроки рассмотрения заявки. Вторая часть, операции с личным счётом: остаток, история переводов, блокировка карты, смена лимита. Первая закрывается агентом на базе знаний прямо в переписке. Вторая требует входа в приложение, потому что мессенджер сам по себе не подтверждает, что пишет владелец счёта, а не кто-то с его телефона.

Эта граница не привязана к теме разговора, она привязана к тому, нужна ли авторизация конкретного человека. Вопрос про тариф ипотеки одинаковый для всех клиентов, и агент отвечает на него текстом из документов. Вопрос про остаток относится к одному конкретному счёту, и ответ на него без проверки личности превращается в утечку. Разметка этой границы держится на инструкции агента: и у юридической компании, и у банка, и у страховой разница именно в том, где проведена граница между «объяснить» и «выполнить».

Как барьер и инструкция проводят эту границу на практике

Границу держат два механизма контроля поведения: инструкции и LLM-барьеры. Инструкция задаёт правило заранее, например: «на вопросы про остаток, историю операций и блокировку карты отвечай только ссылкой на приложение, цифры не называй». Барьер проверяет уже готовый ответ перед отправкой и решает, нарушено правило или нет.

LLM-барьер — это проверка ответа агента перед клиентом по условию на псевдокоде: условие возвращает true или false, и при срабатывании барьер меняет исход. Настройка барьера собирается из четырёх частей.

В руководстве платформы уже есть готовый барьер под эту задачу — «Числа только из источников»: он отсекает ответы с ценами, номерами и реквизитами, если их не подтверждает база знаний. Для банковского агента это ровно тот случай, когда не нужно придумывать условие с нуля.

Почему в финансовом чат-боте нельзя обещать цифру от себя

Модель по своей природе достраивает текст правдоподобным продолжением, а не сверяется с фактами — в бытовом чат-боте это неудобство, в финансовом сервисе это цена ошибки в деньгах клиента. Поэтому банковский агент нуждается в контроле фактов отдельно от обычной инструкции.

Контроль фактов — отдельная настройка с флагом «Отвечать на вопросы только по базе знаний» и двумя режимами. Обычный режим проверяет ключевые факты: цифры, условия, сроки. Строгий срабатывает на любое утверждение, под которым не было обращения к базе знаний, и годится там, где даже мелкая неточность формулировки создаёт проблему для клиента, например в описании условий рефинансирования. Для обоих режимов задаётся фраза на случай, если ответа в базе знаний нет: агент присылает её вместо того, чтобы досочинить правдоподобную цифру, и по той же настройке можно поставить остановку диалога или вызов менеджера.

Третий механизм контроля поведения, контроль действий, ловит момент, когда агент подтверждает выполнение операции без вызова нужной функции, например сообщает клиенту, что заявка отправлена, хотя интеграция с системой банка её не приняла. У агента, работающего с финансовыми услугами, правило простое: не подтверждать то, что фактически не произошло, будь то цифра или выполненная операция.

Что происходит с персональными данными клиента в переписке

Клиент в переписке с банком называет то, что напрямую относится к персональным данным: телефон, паспортные данные, дату рождения. Эти значения агент получает как текст, а обрабатывает переписку облачная языковая модель, и здесь работает маскирование.

Маскирование заменяет телефон, паспортные данные и дату рождения на обезличенные значения перед тем, как текст уйдёт в модель. Модель формирует ответ по тексту без этих данных, а расшифровка обратно в настоящие значения происходит уже на стороне России, прежде чем ответ дойдёт до клиента. Персональные данные физически не покидают страну ни на одном шаге. Флаг называется «Маскировать персональные данные» и находится во вкладке «Безопасность» дополнительных настроек, одинаковый для банковского сценария и для любой другой отрасли. Как проверить работу маскирования по паре реальных диалогов, показано в статье «ИИ-агент и персональные данные».

Переписка при этом хранится ограниченный срок: по умолчанию 45 дней, дальше сообщения и неактивные диалоги удаляются со всех серверов. Отдельная настройка «Передавать медиа в LLM» позволяет вообще исключить фото и сканы документов из обработки моделью, что пригодится там, где клиент присылает снимок паспорта в подтверждение личности.

Сколько стоит такой агент в потоке обращений

Диалог с агентом стоит около 15 ₽ вне зависимости от того, спрашивает клиент про список документов на вклад или про порядок закрытия счёта: цена складывается из числа реплик и токенов, а не из сложности темы. Для сравнения: менеджер обходится компании примерно в 40 000 ₽ в месяц и закрывает около 450 обращений, то есть порядка 89 ₽ за обращение — это оценка по средним ставкам, не привязанная к цифрам конкретного банка.

При потоке из тысяч однотипных вопросов про тарифы и сроки в месяц разница между двумя цифрами превращается в часы специалистов, которые освобождаются под звонки, где нужно принять решение по конкретному клиенту.

Поделите сценарии агента на «объяснить» и «подтвердить личность»

Поделите список типичных обращений в ваш чат-бот на два столбца: то, что можно ответить любому человеку без проверки, кто он, и то, что касается конкретного счёта или операции. Первый столбец — материал для базы знаний и обычной инструкции. Второй столбец — список того, куда агент должен вести клиента: приложение, личный кабинет или вызов менеджера, без попытки ответить самому.

Дальше на первый столбец ставится контроль фактов, чтобы агент не досочинял цифры там, где документа нет, а на рискованные формулировки из второго столбца — точечный LLM-барьер по образцу «Числа только из источников». Обе настройки собираются в разделе «Контроль поведения» в инструкции агента, и на банковский сценарий уходит один заход в настройки, а не отдельная разработка. Полный список барьеров, режимов контроля фактов и настроек безопасности собран в руководстве платформы, а тарифы с доступом к этим настройкам показаны на главной странице Савви.

Частые вопросы