Definizione
Un prompt di sistema è il testo permanente che un LLM riceve prima che inizi la conversazione e che ne fissa ruolo, tono, obiettivi e limiti. In un agente vocale è il modo principale per controllare cosa dice l'agente e quando.
Come funziona un prompt di sistema
A un LLM l’input viene dato come una sequenza di messaggi. Il prompt di sistema è il primo, scritto dallo sviluppatore e non da chi chiama. Il modello lo rilegge a ogni turno, prima della conversazione fin lì e prima delle ultime parole di chi chiama. Poiché viene inviato ogni volta, conta nella finestra di contesto del modello e si somma all’elaborazione svolta prima di ogni risposta.
Fornitori e piattaforme usano nomi diversi. I Managed Agents di Cartesia chiamano il campo instructions, e la loro documentazione lo descrive come la definizione di ruolo, stile di eloquio, obiettivi e limiti dell’agente. Suggerisce di organizzare il testo sotto titoli come identità, regole di eloquio, obiettivi e guardrail.
Un prompt di sistema per un agente vocale di solito risponde a queste domande:
- Chi è l’agente e per chi parla?
- Come deve suonare: lunghezza delle frasi, formalità, come leggere i numeri?
- Qual è ogni compito, e quando è finito?
- Quali strumenti può usare, e quando?
- Cosa non deve mai fare, e cosa fa al suo posto?
- Quando passa la chiamata a una persona?
Il testo può includere segnaposto che vengono riempiti all’inizio della chiamata, come il nome del cliente. Si vedano le variabili dinamiche. In Managed Agents, le istruzioni recepiscono gli ultimi valori delle variabili a ogni risposta del modello.
Perché conta per gli agenti vocali
Il prompt di sistema è dove si decide in gran parte l’esperienza di chi chiama. Stabilisce quanto dura ogni turno, se l’agente fa una domanda o tre, e se legge un codice ad alta voce cifra per cifra. Un prompt scritto per una finestra di chat produce elenchi e lunghi paragrafi che suonano male quando vengono detti. La scrittura per il parlato è trattata in prompt engineering per la voce.
Non è però un confine di sicurezza. Un prompt di sistema chiede al modello di comportarsi in un certo modo. Non impone quel comportamento, e chi chiama può provare a distogliere l’agente dalle sue istruzioni. Le regole che devono reggere, come quali conti l’agente può leggere, appartengono agli strumenti e ai sistemi che stanno dietro, con dei guardrail attorno al modello. Si tratti tutto ciò che c’è nel prompt come visibile a un chiamante determinato, e non vi si mettano segreti.
Un prompt lungo costa tempo. Più testo da elaborare significa una prima parola più lenta a ogni turno, quindi si taglino le regole che non cambiano il comportamento.
Esempio
Un inizio illustrativo di prompt di sistema per la linea di una clinica:
«Sei l’assistente per gli appuntamenti della clinica Riverside. Parla con frasi brevi. Fai una domanda alla volta. Leggi le date come “giovedì 8 ottobre”. Puoi prenotare, spostare e annullare appuntamenti. Per le domande di fatturazione, offri di trasferire la chiamata.»