Definição
Uma base de conhecimento é uma coleção de documentos, como FAQs, políticas e páginas de produto, em que um agente de voz pode buscar enquanto atende quem liga. Dá ao LLM fatos para usar que não estavam no seu treinamento nem nas suas instruções.
Como uma base de conhecimento funciona
Um LLM só sabe aquilo com que foi treinado mais o que está nas suas instruções. Sua política de devoluções, os preços deste mês e os passos para reiniciar um roteador não estão em nenhum dos dois. Uma base de conhecimento guarda esse material para que o agente possa consultá-lo.
O fluxo habitual tem duas partes.
- Preparação. Os documentos são divididos em trechos e cada trecho é indexado para poder ser encontrado depois. Muitos sistemas indexam por significado, usando embeddings numéricos, o que permite que uma pergunta corresponda a um trecho que usa palavras diferentes.
- Na hora de responder. A pergunta de quem liga, ou uma versão reescrita dela, é usada para buscar no índice. Os trechos que melhor correspondem são acrescentados à entrada do LLM, que responde a partir deles. Esse padrão é descrito em geração aumentada por recuperação.
Nos Managed Agents da Cartesia, o conteúdo da base de conhecimento é organizado em pastas, e as pastas são anexadas a um agente.
Uma base de conhecimento serve para fatos que mudam ou que são longos demais para pôr nas instruções. Regras curtas que valem para toda chamada pertencem ao prompt de sistema. Dados em tempo real de um cliente, como o status de um pedido, são mais bem buscados com uma ferramenta no sistema de registro, já que um repositório de documentos é tão atual quanto sua última atualização.
Por que importa para agentes de voz
Uma base de conhecimento reduz respostas inventadas, mas só quando funciona. Três problemas aparecem nas chamadas e raramente aparecem em texto.
Primeiro, a busca roda enquanto quem liga espera, então soma à latência de voz. Segundo, a pergunta chega como transcrição, e uma palavra ouvida errado pode fazer a busca perder o trecho certo. Terceiro, trechos escritos para leitura são longos e, lidos em voz alta, não acabam. Reescreva a fonte em respostas curtas e pronunciáveis, ou diga ao modelo para resumir em uma ou duas frases.
A qualidade do conteúdo decide o resultado. Documentos antigos, contraditórios ou duplicados produzem respostas erradas ditas com confiança. Atribua um responsável, date as páginas e remova o que está desatualizado. Decida o que o agente diz quando nada relevante é encontrado: “Não tenho essa informação, posso transferir você” é melhor do que um palpite. Veja alucinação.
Exemplo
Uma troca ilustrativa:
- Quem liga: “Posso devolver algo depois de trinta dias?”
- A busca do agente encontra a página de devoluções: “Devoluções são aceitas em até 45 dias com o recibo.”
- Agente: “Sim. Aceitamos devoluções em até 45 dias se você tiver o recibo.”