Ассистент с генерацией, дополненной поиском, объединяет модель с документами или бизнес-записями, выбранными для вопроса пользователя. Эта статья представляет собой эталонную архитектуру для планирования охвата, а не утверждение о том, что одна архитектура отвечает требованиям каждого проекта к точности, задержке или конфиденциальности.
Начните с доступа и владельца источника
Определите владельца источника, процесс обновления, разрешённых пользователей и документы, которые можно передавать модели. Фиксируйте идентификаторы источников и версии, чтобы возвращаемый ответ мог содержать ссылку на подтверждающие его данные. Применяйте проверку разрешений до поиска и повторно перед возвратом записей или выполнением действия.
Варианты поиска для оценки
| Потребность | Возможный подход | Метод оценки |
|---|---|---|
| Точные номера деталей или названия политик | Поиск по ключевым словам или структурированный поиск | Проверьте варианты написания и отсутствующие идентификаторы |
| Вопросы, сформулированные разными словами | Семантический поиск | Проверьте релевантные фрагменты на реальных вопросах |
| Несколько правдоподобных фрагментов | Переранжирование кандидатов | Измерьте подтверждённость ответа и дополнительную задержку |
Количество фрагментов, лимит кандидатов и порог ранжирования должны определяться результатами оценки. Векторная база данных или переранжировщик сами по себе не доказывают правильность ответа.
Разделяйте ответы и действия
Извлечённые документы и сообщения пользователей могут содержать инструкции, противоречащие приложению. Считайте их ненадёжными данными. Разрешайте только именованные инструменты, проверяйте аргументы на стороне бэкенда, обеспечивайте доступ к записям и требуйте подтверждения человека для значимых изменений. Регистрируйте результаты, не сохраняя избыточные персональные данные.
Выбирайте модели на общем наборе тестов
Сравнивайте модели-кандидаты по подтверждённым ответам, поведению при отсутствии доказательств, корректности работы с инструментами, времени отклика и стоимости выполнения задачи. Резервная модель должна сохранять те же требования к доступу и доказательствам. Проверяйте резервную модель отдельно: смена поставщика не доказывает эквивалентное качество или аналогичный уровень обработки данных.
Определите подтверждающие материалы для запуска
Запросите проверенный набор вопросов, тесты разрешений, ссылки на источники, обработку устаревших источников, маршрутизацию сбоев и наблюдения о текущих эксплуатационных расходах. Ознакомьтесь с интеграцией AI API и отправьте обезличенное описание базы знаний и рабочих процессов до согласования архитектуры.