Порог поиска по базе знаний и размер чанка
Почему агент отвечает мимо загруженного документа: как устроена разбивка на чанки, что меняют пороги 0.7/0.5/0.3 и чем грозит отключение возврата чанков.
Агент промахивается мимо загруженного документа из-за разбивки на чанки или порога поиска, а не из-за незнания. Чанк — кусок текста не длиннее 2048 символов, разбивка идёт по параграфам через пустую строку. Порог 0.7 ищет строго, 0.5 стоит по умолчанию, 0.3 гибче. Выключенный возврат чанков отправляет в модель весь документ и резко поднимает расход токенов.
Документ загружен, в нём есть точный ответ на вопрос клиента, а агент вместо него присылает что-то общее или вовсе теряется. Спросите у себя первым делом не «что не так с моделью», а «как документ разбился на куски»: в девяти случаях из десяти причина именно там.
Почему агент отвечает мимо, хотя документ на месте
Агент не читает документ целиком при каждом вопросе. Он ищет чанки, то есть уже нарезанные куски текста, которые ближе всего по смыслу к формулировке клиента, и строит ответ на их основе. Если нужный факт застрял в чанке, который система не выбрала, ответа не будет, даже если он написан в документе прямым текстом на соседней странице.
Промах случается по двум разным причинам, и лечатся они по-разному. Первая — сама нарезка: абзацы документа склеены без разделения, и смысловой кусок вышел либо слишком длинным и размытым, либо оборвался на середине мысли. Вторая — порог поиска: чанк с ответом существует и разбит верно, но система сочла его недостаточно похожим на вопрос клиента и не подтянула. Разбирать нужно по порядку: сначала документ, потом порог, а не наоборот.
Проверьте на своих диалогах.Регистрация без карты, 500 ₽ на тест по промокоду BLOG500
Собрать агентаЧто такое чанк и как его готовить
Чанк — минимальный смысловой кусок текста, который агент подбирает под запрос клиента для формирования ответа. Важна золотая середина: слишком крупный чанк тащит за собой лишнее и размывает суть, слишком мелкий теряет контекст и обрывает мысль на полуслове.
Оптимальной считается разбивка по параграфам, а разделителем система принимает два переноса строки подряд, то есть пустую строку между абзацами. Документ, где абзацы идут сплошным текстом без такого разрыва, система разобьёт хуже, чем документ, подготовленный заранее. Отдельное жёсткое ограничение: размер одного чанка не может превышать 2048 символов, более длинный кусок система сама разрежет ещё раз, уже не всегда по смысловой границе.
После загрузки документ разбивается на чанки автоматически, но это промежуточный шаг: разбивку стоит проверить кнопкой «Сформировать/Показать чанки» и посмотреть на неё глазами, а системе на слово не верить. Если два разных вопроса клиента упираются в один и тот же раздутый чанк, документ стоит переразбить на более короткие абзацы и загрузить заново. Про устройство базы знаний целиком, где документы — только один из разделов рядом с быстрыми ответами, написано в статье «База знаний для ИИ-агента».
Что регулирует порог срабатывания поиска
Порог срабатывания — это степень схожести вопроса клиента с содержимым чанка, при которой система решает, что кусок подходит для ответа. Значение задаётся от 0 до 1, где 1 — строгое дословное соответствие.
| Порог | Как называется | Что происходит с ответами |
|---|---|---|
| 0.7 | строгий подбор | агент берёт чанк только при почти точном совпадении смысла, лишнее подтягивает редко, но и на нечёткий вопрос может не найти ничего |
| 0.5 | средний, по умолчанию | разумный баланс между точностью и охватом формулировок клиента |
| 0.3 | гибкий подбор | агент находит подходящий текст даже при неточной или обрывочной формулировке вопроса, но риск получить кусок не совсем по теме выше |
Порог 0.5 стоит по умолчанию и подходит большинству агентов без ручной настройки. К 0.7 стоит подниматься, если агент начал путать похожие, но разные позиции из документа, например две модели одного товара с близким описанием. К 0.3 спускаются, когда клиенты формулируют вопрос совсем не теми словами, что в документе, и точный поиск систематически возвращает пусто там, где ответ на самом деле есть.
Порог срабатывания, количество возвращаемых чанков и флаг «Возвращать чанки» живут во вкладке «Служебное» в настройках агента. Вкладка открыта на тарифе Интегратор, это ПРО с участием в партнёрской программе. На остальных тарифах поиск по базе знаний работает со значениями по умолчанию, и первым делом стоит чинить саму разбивку документа: она доступна независимо от тарифа.
Что бывает, если выключить возврат чанков
Флаг «Возвращать чанки» включён по умолчанию, и именно он не даёт агенту читать документ целиком на каждый вопрос: вместо этого в модель уходят только те несколько чанков, что прошли отбор по порогу.
Выключение флага меняет схему целиком: агент перестаёт получать отобранные куски и вместо них получает документ полностью, а если в базе знаний загружено несколько объёмных файлов, то полностью каждый из них. Расход токенов на такой ответ растёт резко и не пропорционально длине вопроса клиента: короткое «сколько стоит доставка» тянет за собой весь прайс-лист целиком, а не одну нужную строку из него. О том, как токены превращаются в стоимость диалога и какие ещё настройки защищают бюджет от неожиданного роста, написано в статье «Лимиты и контроль расходов ИИ-агента».
Как отличить сломанную разбивку от неверного порога
Симптом у обеих причин один и тот же — агент отвечает мимо или вообще не находит ответ. Различает их простая проверка.
Если после этой проверки чанк на месте, разбит верно, а агент всё равно достаёт из базы знаний что-то постороннее, причина обычно уже в самой инструкции, в том, как агент трактует найденный текст. Об этом написано в статье «Почему ИИ-агент выдумывает». Смежный случай: вопрос упирается в таблицу или файл другого формата, а не в текстовый документ, и там работает то же правило про размер и порог поиска, только фактура берётся из статьи «ИИ-агент и документы».
С чего начинать разбор конкретного промаха
Спросите себя не «почему модель не знает», а «что именно система нашла по этому вопросу», и посмотрите на реальный список чанков, а не на предположение о нём. Порог и количество чанков крутятся быстро, за одну минуту в настройках, а вот кривая разбивка документа так и останется кривой, сколько порог ни меняй.
Порядок такой: сначала документ и его абзацы, затем порог срабатывания, и только после этого — количество возвращаемых чанков, если ответы стали точными, но им не хватает деталей. Полный список тонких настроек RAG и других параметров агента — в руководстве платформы, а условия тарифа с доступом к вкладке «Служебное» смотрите на главной странице Савви.
Частые вопросы
Что такое чанк в базе знаний Савви
Чанк — это минимальный смысловой кусок текста, который агент подбирает под вопрос клиента и на основании которого формирует ответ. Оптимальной считается разбивка по параграфам, а разделителем служат два переноса строки подряд. Максимальный размер одного чанка не превышает 2048 символов.
Почему агент не находит ответ, хотя документ точно загружен
Чаще всего дело не в модели, а в самой разбивке: абзацы документа склеены без пустой строки между ними, и система не может провести границу между смысловыми кусками. Второй частый случай: порог поиска выставлен слишком строго для формулировки клиента, и подходящий чанк просто не проходит отбор.
Чем порог 0.7 отличается от порога 0.5 и 0.3
Порог 0.7 задаёт строгий подбор: агент берёт чанк, только если его смысл почти дословно совпадает с вопросом, зато реже подтягивает лишнее. Порог 0.5 — значение по умолчанию, разумный баланс между точностью и полнотой. Порог 0.3 включает гибкий подбор: агент охотнее находит подходящий текст при неточных формулировках клиента, но выше риск получить кусок не совсем по теме.
Как проверить, что документ правильно разбился на чанки
После загрузки документа в разделе базы знаний есть кнопка «Сформировать/Показать чанки»: по ней видно готовую разбивку целиком. Разбивку стоит проверить глазами: если два разных вопроса клиента упёрлись в один и тот же слишком длинный кусок текста, документ стоит переразбить на более короткие абзацы.
Что будет, если выключить флаг «Возвращать чанки»
Агент перестанет получать отобранные куски документа и вместо них получит документ целиком: при объёмных файлах это резко увеличивает расход токенов на каждый ответ. Флаг включён по умолчанию именно для того, чтобы в модель уходила только релевантная часть документа.
Где находятся настройки порога и количества чанков
Тонкие настройки RAG, порог срабатывания, количество возвращаемых чанков и сам флаг «Возвращать чанки», собраны во вкладке «Служебное» в настройках агента. Вкладка доступна на тарифе Интегратор (ПРО с участием в партнёрской программе), на остальных тарифах документ разбивается и ищется с настройками по умолчанию.
Читайте дальше
Все статьи темы →
База знаний для ИИ-агента: как её собрать
Из чего состоит база знаний ИИ-агента: быстрые ответы, документы и таблицы. Что куда класть, лимиты файлов, настройки поиска и частые ошибки.
Почему ИИ-агент выдумывает и как это прекратить
Откуда берутся выдуманные цены, сроки и подтверждения записи, и три механизма контроля поведения: LLM-барьеры, контроль фактов и контроль действий. Что включать в первую очередь.
Лимиты и контроль расходов ИИ-агента: защита бюджета
Какие настройки останавливают диалог, если он стал слишком длинным или дорогим: лимит сообщений, максимальная стоимость и оповещения о балансе.
