定義
ナレッジベースとは、FAQ、ポリシー、商品ページなどの文書の集まりで、音声エージェントが発信者に応答する間に検索できます。学習データにも指示にもなかった事実を、LLMに提供します。
ナレッジベースの仕組み
LLMが知っているのは、学習した内容と、指示に含まれる内容だけです。返品ポリシー、今月の価格、ルーターを再起動する手順は、そのどちらにもありません。ナレッジベースがその資料を保持し、エージェントが調べられるようにします。
一般的な流れは2つの部分からなります。
- 準備。 文書を文章の断片に分割し、あとで見つけられるよう各断片に索引を付けます。多くのシステムは、数値の埋め込みを使って意味で索引化するため、質問が異なる言葉を使った断片にも一致できます。
- 回答時。 発信者の質問、またはそれを書き換えた形を使って、索引を検索します。最も一致した断片がLLMの入力に追加され、モデルはそれらをもとに答えます。このパターンは検索拡張生成で説明しています。
CartesiaのManaged Agentsでは、ナレッジベースの内容はフォルダーに整理され、フォルダーがエージェントに紐づけられます。
ナレッジベースは、変わりやすい事実や、指示に入れるには長すぎる事実のためのものです。すべての通話に当てはまる短い規則は、システムプロンプトに置きます。注文状況のような特定の顧客に関する最新のデータは、文書ストアが最後の更新時点までしか最新でないため、正本のシステムからツールで取得するほうが適切です。
音声エージェントにとって重要な理由
ナレッジベースは、でっち上げの回答を減らしますが、それはうまく機能している場合に限ります。通話では、テキストではまれにしか現れない3つの問題が生じます。
1つ目に、検索は発信者が待つ間に実行されるため、音声の遅延に加算されます。2つ目に、質問は文字起こしとして届くため、聞き間違えた単語のせいで、検索が正しい断片を外すことがあります。3つ目に、読むために書かれた断片は長く、読み上げると延々と続きます。元の資料を、短くて話しやすい回答に書き換えるか、1文か2文で要約するようモデルに指示してください。
内容の質が結果を決めます。古い文書、矛盾する文書、重複した文書は、自信を持って述べられた誤答を生みます。担当者を決め、ページに日付を付け、古くなったものを削除してください。関連するものが見つからないときにエージェントが何と言うかも決めておきます。「その情報はありません、おつなぎします」のほうが、当て推量よりよいでしょう。ハルシネーションを参照してください。
例
説明用のやり取りです。
- 発信者:「30日を過ぎても返品できますか。」
- エージェントの検索が返品のページを見つける:「返品は、レシートがあれば45日以内に受け付けます。」
- エージェント:「はい。レシートをお持ちなら、45日以内の返品を承ります。」