Definición
La llamada a herramientas es cuando un LLM, en lugar de responder con palabras, devuelve una petición estructurada para ejecutar una función con nombre, como consultar un pedido. La aplicación la ejecuta y devuelve el resultado para que el modelo pueda continuar su respuesta.
Cómo funciona la llamada a herramientas
El LLM nunca ejecuta nada por sí mismo. El desarrollador describe cada herramienta al modelo con un nombre, una descripción en lenguaje llano y un esquema de sus parámetros. Durante la conversación, el modelo puede responder con una petición de herramienta que nombra una herramienta y rellena los parámetros, por ejemplo get_order_status con un número de pedido. La aplicación comprueba la petición, ejecuta la función y devuelve el resultado como un mensaje nuevo. El modelo lee entonces ese resultado y escribe la respuesta hablada.
En la documentación de Cartesia, la descripción de cada herramienta es lo que guía al modelo sobre cuándo usarla. Los valores de los parámetros pueden venir de tres sitios: del propio modelo, de una constante fija o de una variable dinámica, como el número de teléfono de quien llama. Managed Agents tiene herramientas de sistema integradas como end_call, send_dtmf, transfer_to_number y voicemail_detection, y herramientas personalizadas que llaman a tu propio endpoint de webhook.
Este diseño tiene tres consecuencias. El modelo elige las herramientas a partir de las descripciones, así que las descripciones vagas causan llamadas erróneas u omitidas. El modelo aporta los parámetros, así que el código receptor debe validar los valores que invente. Y la llamada es un viaje de ida y vuelta, así que la respuesta del modelo queda en pausa hasta que vuelve el resultado.
Por qué importa para los agentes de voz
Las llamadas a herramientas son lo que permite a un agente hacer trabajo, como reservar una cita o transferir una llamada, en lugar de solo hablar. También es donde se alarga la espera. El tiempo de respuesta de la herramienta cae dentro de la latencia de voz, y una consulta de tres segundos son tres segundos de silencio en una línea telefónica.
Por eso los agentes de voz tratan las llamadas a herramientas de forma distinta que un chat. Hablan antes del trabajo lento, con una frase breve como «Voy a comprobarlo». Las herramientas de sistema de Cartesia tienen un ajuste pre_tool_speech para esto, con los valores auto, force y off. También necesitan un plan para el fallo. Si una herramienta agota el tiempo de espera o devuelve un error, el agente debe decirlo y ofrecer un siguiente paso, y nunca inventar la respuesta. Consulta alucinación.
Las herramientas también entrañan riesgo. Una herramienta que cancela una reserva o mueve dinero debe estar detrás de controles que no dependan del criterio del modelo, como una lectura de confirmación y el visto bueno de quien llama, y permisos en el sistema receptor. Las palabras de quien llama pueden influir en qué herramienta llama el modelo, así que la herramienta, y no el prompt, debe imponer lo que está permitido.
Ejemplo
Una llamada ilustrativa:
- Quien llama: «¿Dónde está mi pedido? Es el 5521».
- Agente: «Voy a buscarlo». (el modelo solicita
get_order_statuscon el número de pedido 5521) - Resultado de la herramienta: enviado el martes, llega el viernes
- Agente: «Salió el martes y debería llegar el viernes».