Un assistant augmenté par la recherche combine un modèle avec des documents ou des enregistrements métier sélectionnés pour répondre à la question de l’utilisateur. Cet article constitue une conception de référence pour planifier le périmètre, et non l’affirmation qu’une architecture répond aux exigences d’exactitude, de latence ou de confidentialité de chaque projet.
Commencer par l’accès et la responsabilité des sources
Identifiez le responsable de la source, le processus de mise à jour, les utilisateurs autorisés et les documents pouvant être transmis au modèle. Enregistrez les identifiants et les révisions des sources afin qu’une réponse fournie puisse renvoyer vers ses éléments probants. Appliquez les autorisations avant la recherche, puis de nouveau avant de renvoyer des enregistrements ou d’exécuter une action.
Évaluer les options de recherche
| Besoin | Approche candidate | Comment évaluer |
|---|---|---|
| Numéros de pièces ou noms de politiques exacts | Recherche par mots-clés ou structurée | Tester les variantes orthographiques et les identifiants absents |
| Questions formulées avec des mots différents | Recherche sémantique | Examiner les passages pertinents sur des questions réelles |
| Plusieurs passages plausibles | Réordonnancement des candidats | Mesurer l’étayage de la réponse et la latence supplémentaire |
Le nombre de segments, la limite de candidats et le seuil de classement doivent être définis à partir de l’évaluation. Une base de données vectorielle ou un réordonnanceur ne suffit pas, à lui seul, à établir qu’une réponse est correcte.
Séparer les réponses des actions
Les documents récupérés et les messages des utilisateurs peuvent contenir des instructions en conflit avec l’application. Traitez-les comme des données non fiables. N’autorisez que les outils nommés, validez les arguments dans le backend, appliquez le contrôle d’accès aux enregistrements et exigez une confirmation humaine pour les modifications aux conséquences importantes. Consignez les résultats sans conserver de données personnelles inutiles.
Choisir les modèles à partir d’un jeu de tests commun
Comparez les modèles candidats au moyen de réponses étayées, du comportement en l’absence d’éléments probants, de l’exactitude des outils, du temps de réponse et du coût par tâche terminée. Un mécanisme de secours doit conserver les mêmes exigences d’accès et de preuve. Validez séparément le mécanisme de secours ; changer de fournisseur ne prouve ni une qualité équivalente ni un traitement équivalent des données.
Définir les éléments probants de la livraison
Demandez un ensemble de questions révisé, des tests d’autorisation, des citations des sources, la gestion des sources obsolètes, le routage des échecs et des observations sur les coûts d’exploitation. Consultez l’intégration d’API d’IA et envoyez un brief caviardé sur les connaissances et les flux de travail avant de convenir de l’architecture.