会話メモリ
会話メモリとは、チャットボットや仮想アシスタントなどの人工知能システムが、単一の継続的な会話内での以前のやり取りから情報を保持し、思い出す能力を指します。これにより、AIは文脈を維持でき、後続の応答が以前に議論された内容に関連付けられ、各ユーザー入力を全く新しいクエリとして扱うことがなくなります。
メモリがない場合、AIとのやり取りはステートレスで不満を招きます。ユーザーは、新しいメッセージごとに情報(例:アカウント番号、好み、以前のリクエスト)を繰り返さなければなりません。会話メモリは、トランザクション的なやり取りを真の、一貫性のある対話へと変え、ユーザー満足度と運用効率を大幅に向上させます。
技術的には、会話メモリは「コンテキストウィンドウ」または「セッション履歴」を管理することによって実装されることがよくあります。システムは、対話の関連するスニペット(ユーザー入力と AI の応答)を保存し、新しいプロンプトごとにこの履歴を大規模言語モデル(LLM)にフィードバックします。高度な実装では、ベクトルデータベースを使用して過去のやり取りのセマンティックな要約を保存し、正確なフレーズが直近のチャットログに存在しなくても、AIが関連する記憶を検索できるようにします。
関連する概念には、ダイアログステートトラッキング(DST)、セッション管理、コンテキストウィンドウ管理があります。DST は会話の「状態」を特定し更新することに特化しており、コンテキストウィンドウ管理は履歴をモデルにフィードバックする技術的な制約に対処します。