Definición
La generación aumentada por recuperación (RAG) es un método en el que un sistema primero recupera pasajes relevantes de una colección de documentos y luego los entrega a un LLM junto con la pregunta, para que la respuesta se base en ese texto.
Cómo funciona la generación aumentada por recuperación
El término procede de un artículo de 2020 de Lewis y colegas. Combinaba un modelo secuencia a secuencia preentrenado con un índice consultable de pasajes de Wikipedia. Un recuperador neuronal buscaba pasajes relevantes para la entrada, y el generador los usaba para producir su salida. La idea es más antigua y más amplia que ese diseño concreto, y el nombre abarca hoy muchos sistemas.
Una versión típica tiene cuatro pasos.
- Indexar. Los documentos se dividen en pasajes y se guardan en un índice consultable, a menudo como incrustaciones numéricas para que la búsqueda funcione por significado además de por palabras.
- Recuperar. La pregunta del usuario se convierte en una consulta y se devuelven los pasajes más cercanos.
- Aumentar. Esos pasajes se colocan en la entrada del LLM junto a la pregunta y las instrucciones.
- Generar. El modelo escribe una respuesta, idealmente usando solo lo que dicen los pasajes.
La ventaja es que se puede cambiar lo que sabe el sistema cambiando los documentos, sin reentrenar un modelo. Una base de conocimiento es la colección de documentos en la que busca un sistema así.
La recuperación no garantiza una respuesta correcta. La búsqueda puede devolver el pasaje equivocado o ninguno, los pasajes pueden contradecirse y el modelo puede seguir añadiendo cosas que no están en ellos. La recuperación reduce la alucinación y no la elimina.
Por qué importa para los agentes de voz
En una llamada, la recuperación ocurre mientras quien llama espera. La búsqueda y la entrada más larga suman a la latencia de voz, así que los equipos mantienen los pasajes cortos, limitan cuántos recuperan y a veces buscan solo cuando la pregunta lo necesita.
La consulta además parte de una transcripción de voz. Un nombre de producto mal oído o una frase a medias pueden enviar la búsqueda al lugar equivocado. Reescribir la pregunta antes de buscar y dar al reconocedor una lista de términos esperados ayudan las dos cosas.
La salida se oye y no se lee. Quien llama no puede ver una lista de fuentes ni un extracto largo, así que el agente tiene que convertir el texto recuperado en una o dos frases habladas y decir claramente cuándo no se encontró nada relevante.
Ejemplo
Una recuperación ilustrativa para la línea de una clínica:
- Quien llama: «¿Atendéis sin cita los sábados?»
- Pasaje recuperado: «El horario de los sábados es de 9 a 13, solo con cita».
- Agente: «Los sábados solo atendemos con cita, de 9 a 13. ¿Quieres reservar una?»