정의
시스템 프롬프트는 대화가 시작되기 전에 LLM이 받는 상시 텍스트로, 역할, 어조, 목표, 한계를 정합니다. 음성 에이전트에서는 에이전트가 무엇을 언제 말하는지 통제하는 주된 수단입니다.
시스템 프롬프트의 작동 방식
LLM은 입력을 메시지의 연속으로 받습니다. 시스템 프롬프트는 그중 첫 번째이며 발신자가 아니라 개발자가 씁니다. 모델은 지금까지의 대화와 발신자의 마지막 말보다 앞서 매 턴마다 이를 다시 읽습니다. 매번 전송되므로 모델의 컨텍스트 윈도우를 차지하고 각 답변 전에 이루어지는 처리에 더해집니다.
제공업체와 플랫폼마다 부르는 이름이 다릅니다. Cartesia의 Managed Agents는 이 필드를 instructions라고 부르며, 문서는 이것이 에이전트의 역할, 말투, 목표, 한계를 정의한다고 설명합니다. 텍스트를 정체성, 말하기 규칙, 목표, 가드레일 같은 제목 아래 정리하라고 권합니다.
음성 에이전트의 시스템 프롬프트는 보통 다음 질문에 답합니다.
- 에이전트는 누구이며 누구를 대신해 말하는가?
- 어떻게 들려야 하는가? 문장 길이, 격식, 숫자 읽는 법은?
- 각 작업은 무엇이며 언제 끝나는가?
- 어떤 도구를 언제 쓸 수 있는가?
- 절대 해서는 안 되는 일은 무엇이며 대신 무엇을 하는가?
- 언제 통화를 사람에게 넘기는가?
텍스트에는 고객의 이름처럼 통화가 시작될 때 채워지는 자리 표시자를 넣을 수 있습니다. 동적 변수를 참고하세요. Managed Agents에서 지시문은 모델이 응답할 때마다 최신 변수 값을 가져옵니다.
음성 에이전트에게 중요한 이유
발신자의 경험은 대부분 시스템 프롬프트에서 결정됩니다. 각 턴의 길이, 에이전트가 질문을 하나 하는지 셋 하는지, 코드를 소리 내어 한 자리씩 읽는지를 정합니다. 채팅 창을 위해 쓴 프롬프트는 말로 하면 어색하게 들리는 목록과 긴 문단을 만듭니다. 음성을 위한 글쓰기는 음성용 프롬프트 엔지니어링에서 다룹니다.
그러나 보안 경계는 아닙니다. 시스템 프롬프트는 모델에게 특정 방식으로 행동해 달라고 요청할 뿐입니다. 그 행동을 강제하지는 못하며, 발신자는 말로 에이전트를 지시에서 벗어나게 하려 할 수 있습니다. 에이전트가 열람할 수 있는 계정처럼 반드시 지켜져야 하는 규칙은 도구와 그 뒤의 시스템에 두고, 모델 주변에 가드레일을 둡니다. 프롬프트에 있는 모든 것은 집요한 발신자에게 보일 수 있다고 보고, 비밀은 넣지 마세요.
긴 프롬프트는 시간이 듭니다. 처리할 텍스트가 많으면 매 턴 첫마디가 느려지므로 행동을 바꾸지 않는 규칙은 빼세요.
예시
클리닉 전화 회선용 시스템 프롬프트의 설명용 도입부입니다.
“당신은 리버사이드 클리닉의 예약 도우미입니다. 짧은 문장으로 말하세요. 질문은 한 번에 하나만 하세요. 날짜는 ‘10월 8일 목요일’처럼 읽으세요. 예약을 잡고, 옮기고, 취소할 수 있습니다. 청구 관련 질문에는 통화 전환을 제안하세요.”