Системный промпт: что это и как он устроен

Два клиента почти одновременно написали одну и ту же фразу: «а если заказ на послезавтра успеете?». Один получил короткое «да, успеем, подтвердите адрес». Второй получил развёрнутый ответ: агент объяснил, почему сроки обычно короче суток, и спросил про удобное время доставки. Инструкция агента у обоих клиентов была одна и та же строка в строку, а разница получилась в том, насколько буквально модель её исполнила.

Что такое системный промпт

Системный промпт — это текст, который задаёт поведение ИИ-агента на весь диалог: роль, цель разговора и то, как агент отвечает.

От сообщения, которое пишет клиент в чат, системный промпт отличается по роли, а не по формату. Сообщение клиента — разовая реплика внутри разговора, агент читает её один раз и отвечает. Инструкция — фоновый текст, который модель держит перед собой при каждом ответе на протяжении всего диалога, сколько бы сообщений в нём ни было. Инструкции клиент не видит вовсе: она работает на стороне агента, до того как ответ придёт в переписку.

Где живёт инструкция и из каких разделов она собрана

Инструкция хранится в настройках агента, в разделе основных настроек с отдельной вкладкой под системный промпт. Базовая версия появляется сама в момент создания агента, дальше её правят обычным текстом.

Рекомендуемая структура делит инструкцию заголовками со знаком #, и это не оформление для красоты: по такому разделению модель точно понимает, где кончается один смысловой блок и начинается следующий. В руководстве Савви названы разделы #ОБЩИЕ СВЕДЕНИЯ, #ЦЕЛИ И ЗАДАЧИ, #ПРИВЕТСТВИЕ, #ЯЗЫК ОТВЕТОВ и #СТИЛЬ ОТВЕТА — каждый под свой кусок поведения, а под конкретные сценарии добавляются такие же разделы со своими заголовками. Как писать содержимое каждого блока и по каким семи правилам инструкция остаётся рабочей, показывает статья «Инструкция для ИИ-агента».

Настройка «Случайность» и лимит токенов в ответе

Два ползунка в дополнительных настройках отвечают за то, насколько точно модель исполняет инструкцию и сколько текста может вернуть за один ответ.

«Случайность» — это аналог температуры модели: чем выше значение, тем свободнее и разнообразнее формулировки, чем ниже — тем точнее ответ повторяет заготовленный текст. У настройки три готовых режима.

Тот случай с двумя клиентами и разными ответами на одну фразу объясняется именно этим ползунком: чем он выше, тем больше свободы у модели в выборе слов при формально одной и той же инструкции.

Рядом стоит «Максимальное количество токенов в ответе агента» — лимит на длину одного ответа модели. При превышении лимита в диалоге появляется ошибка. Большинству агентов трогать значение не нужно, но у моделей с режимом размышлений расход токенов на сам ответ выше, и значение иногда приходится увеличивать. Итоговую цифру подбирают опытным путём на тестовых диалогах.

Liquid внутри инструкции: один текст на разные сценарии

Инструкция в Савви — не просто статичный текст, в него можно вставлять условия и переменные на языке шаблонов Liquid.

Переменные из диалога подставляются фигурными скобками: {customer_phone} вставит телефон клиента прямо в инструкцию, если канал его передал, и агенту не придётся спрашивать то, что уже известно. Отдельно работают теги Liquid для условий и присвоений: {% assign %} сохраняет значение один раз, а {% case %} с блоками {% when %} выбирает нужный кусок текста в зависимости от канала или другого условия диалога. Например, один и тот же промпт может подставлять разные артикулы товара для Wildberries, Ozon и Яндекс.Маркета — вместо трёх копий инструкции под три площадки остаётся один текст с веткой выбора внутри. Полный список встроенных переменных и синтаксис шаблонов — в руководстве Савви.

Пропишите свою инструкцию по этим блокам

Пропишите пять разделов из второго блока этой статьи для своего агента, даже если сейчас у вас один сплошной абзац без заголовков: #ОБЩИЕ СВЕДЕНИЯ, #ЦЕЛИ И ЗАДАЧИ, #ПРИВЕТСТВИЕ, #ЯЗЫК ОТВЕТОВ, #СТИЛЬ ОТВЕТА.

Дальше откройте дополнительные настройки и проверьте значение «Случайности» — если агент ведёт запись или называет цены, а не просто поддерживает разговор, значение ближе к нулю обычно надёжнее того, что стоит по умолчанию. Проверить эффект можно сразу в тестовом чате: задайте один и тот же вопрос два-три раза подряд и посмотрите, насколько сильно расходятся формулировки. Разница на глазах понятнее любого описания того, что делает этот ползунок. Как проверить инструкцию целиком до того, как её увидят клиенты, показывает статья «Какую модель выбрать для ИИ-агента»: разные модели читают один и тот же промпт по-разному, и «Случайность» стоит проверять заново при каждой смене модели.

Частые вопросы