Définition
Une base de connaissances est une collection de documents, comme des FAQ, des politiques et des pages produit, qu'un agent vocal peut consulter en répondant à un appelant. Elle donne au LLM des faits sur lesquels s'appuyer qui ne figuraient ni dans son entraînement ni dans ses instructions.
Comment fonctionne une base de connaissances
Un LLM ne connaît que ce sur quoi il a été entraîné, plus ce que contiennent ses instructions. Votre politique de retour, les prix de ce mois et les étapes pour réinitialiser un routeur ne figurent dans aucun des deux. Une base de connaissances conserve ce contenu pour que l’agent puisse le consulter.
Le circuit habituel comporte deux parties.
- Préparation. Les documents sont découpés en passages, et chaque passage est indexé pour pouvoir être retrouvé. Beaucoup de systèmes indexent par le sens, à l’aide de plongements numériques, ce qui permet à une question de correspondre à un passage qui emploie d’autres mots.
- Au moment de répondre. La question de l’appelant, ou une version reformulée, sert à interroger l’index. Les passages les plus proches sont ajoutés à l’entrée du LLM, qui répond à partir d’eux. Ce schéma est décrit sous génération augmentée par récupération.
Dans les Managed Agents de Cartesia, le contenu de la base de connaissances est organisé en dossiers, et les dossiers sont rattachés à un agent.
Une base de connaissances sert aux faits qui changent ou qui sont trop longs pour figurer dans les instructions. Les règles courtes qui valent pour tous les appels vont dans le prompt système. Les données en direct d’un client, comme l’état d’une commande, se récupèrent mieux avec un outil depuis le système de référence, car un entrepôt de documents n’est à jour que jusqu’à sa dernière mise à jour.
Pourquoi c’est important pour les agents vocaux
Une base de connaissances réduit les réponses inventées, mais seulement quand elle fonctionne. Trois problèmes surgissent dans les appels et se voient rarement à l’écrit.
D’abord, la recherche s’exécute pendant que l’appelant attend, elle s’ajoute donc à la latence vocale. Ensuite, la question arrive sous forme de transcription, et un mot mal entendu peut faire passer la recherche à côté du bon passage. Enfin, les passages écrits pour la lecture sont longs et, lus à voix haute, n’en finissent pas. Réécrivez la source en réponses courtes et prononçables, ou dites au modèle de résumer en une ou deux phrases.
La qualité du contenu décide du résultat. Des documents anciens, contradictoires ou en double produisent des réponses fausses prononcées avec assurance. Désignez un responsable, datez les pages et supprimez ce qui est périmé. Décidez ce que l’agent dit quand rien de pertinent n’est trouvé : « Je n’ai pas cette information, je peux vous transférer » vaut mieux qu’une supposition. Voir hallucination.
Exemple
Un échange illustratif :
- Appelant : « Puis-je retourner un article après trente jours ? »
- La recherche de l’agent trouve la page des retours : « Les retours sont acceptés sous 45 jours avec un reçu. »
- Agent : « Oui. Nous acceptons les retours sous 45 jours si vous avez le reçu. »