Definición
Una base de conocimiento es una colección de documentos, como preguntas frecuentes, políticas y páginas de producto, en la que un agente de voz puede buscar mientras atiende a quien llama. Da al LLM datos de los que echar mano que no estaban en su entrenamiento ni en sus instrucciones.
Cómo funciona una base de conocimiento
Un LLM solo sabe aquello con lo que se entrenó más lo que hay en sus instrucciones. Su política de devoluciones, los precios de este mes y los pasos para reiniciar un router no están en ninguno de los dos. Una base de conocimiento guarda ese material para que el agente pueda consultarlo.
El flujo habitual tiene dos partes.
- Preparación. Los documentos se dividen en pasajes y cada pasaje se indexa para poder encontrarlo después. Muchos sistemas indexan por significado, mediante incrustaciones numéricas, lo que permite que una pregunta coincida con un pasaje que usa otras palabras.
- Al responder. La pregunta de quien llama, o una versión reescrita de ella, se usa para buscar en el índice. Los pasajes que mejor coinciden se añaden a la entrada del LLM, y este responde a partir de ellos. Este patrón se describe en generación aumentada por recuperación.
En los Managed Agents de Cartesia, el contenido de la base de conocimiento se organiza en carpetas, y las carpetas se asocian a un agente.
Una base de conocimiento es para datos que cambian o que son demasiado largos para ponerlos en las instrucciones. Las reglas breves que valen para todas las llamadas van en el prompt del sistema. Los datos en vivo de un cliente, como el estado de un pedido, se obtienen mejor con una herramienta desde el sistema de registro, porque un almacén de documentos solo está tan actualizado como su última modificación.
Por qué importa para los agentes de voz
Una base de conocimiento reduce las respuestas inventadas, pero solo cuando funciona. En las llamadas aparecen tres problemas que rara vez aparecen en texto.
Primero, la búsqueda se ejecuta mientras quien llama espera, así que suma a la latencia de voz. Segundo, la pregunta llega como transcripción, y una palabra mal oída puede hacer que la búsqueda no encuentre el pasaje correcto. Tercero, los pasajes escritos para leerse son largos y, leídos en voz alta, se hacen eternos. Reescriba la fuente en respuestas breves y pronunciables, o indique al modelo que resuma en una o dos frases.
La calidad del contenido decide el resultado. Documentos antiguos, contradictorios o duplicados producen respuestas erróneas dichas con aplomo. Asigne un responsable, ponga fecha a las páginas y elimine lo obsoleto. Decida qué dice el agente cuando no se encuentra nada relevante: «No tengo ese dato, puedo transferirle» es mejor que adivinar. Véase alucinación.
Ejemplo
Un intercambio ilustrativo:
- Quien llama: «¿Puedo devolver algo pasados treinta días?»
- La búsqueda del agente encuentra la página de devoluciones: «Se aceptan devoluciones en un plazo de 45 días con el recibo».
- Agente: «Sí. Aceptamos devoluciones en un plazo de 45 días si tiene el recibo».