定義

検索拡張型チャット（RAG）は、外部の権威ある知識ベースを統合することで、大規模言語モデル（LLM）の機能を強化する高度なAIアーキテクチャです。RAGシステムは、訓練された膨大で静的なデータのみに頼るのではなく、応答を生成する前に関連性のある最新または独自のドキュメントを検索します。

なぜ重要なのか

従来のLLMは「ハルシネーション」（事実と異なるが自信満々に述べられた情報）を起こしやすいという問題があります。RAGは、モデルに検証可能な検索されたコンテキストに基づいて回答することを強制することにより、この重大な問題を解決します。企業にとって、これはAIの出力が信頼でき、会社のポリシーに特化しており、最新の運用データと同期していることを意味します。

仕組み

RAGプロセスには、いくつかの重要なステップが含まれます。

1. インデックス作成（Indexing）： 独自のドキュメント（PDF、データベース、社内Wiki）は、より小さなチャンクに分割され、埋め込みモデルを使用して「埋め込み（embeddings）」と呼ばれる数値表現に変換されます。これらの埋め込みは、専用のベクトルデータベースに保存されます。
2. 検索（Retrieval）： ユーザーが質問をすると、そのクエリも埋め込みに変換されます。このクエリ埋め込みを使用してベクトルデータベースを検索し、クエリと意味的に最も近い（最も関連性の高い）チャンクを見つけます。
3. 拡張と生成（Augmentation & Generation）： その後、検索された関連テキストチャンクが、元のユーザーの質問と並んでLLMに送信されるプロンプトに直接注入されます。LLMは、提供されたコンテキストのみに基づいて回答するように指示されます。

一般的なユースケース

RAGは多くのエンタープライズ機能で変革をもたらします。

• 社内ナレッジベース： 従業員が自然言語で複雑な社内文書（人事ポリシー、エンジニアリング仕様）を照会できるようにします。
• カスタマーサポートボット： 一般的なトレーニングデータではなく、製品マニュアルやサポートチケットに基づいて正確で最新の回答を提供します。
• 法務およびコンプライアンス： 膨大な法務文書リポジトリから特定の条項や判例を要約します。
• 財務分析： 最新の四半期報告書や市場データフィードに基づいて質問に回答します。

主な利点

• ハルシネーションの低減： 回答はソースドキュメントに直接追跡できるため、事実の正確性が大幅に向上します。
• 適時性： システムは、LLMの元のトレーニングセットには含まれていなかったリアルタイムまたは非常に最近のデータを組み込むことができます。
• ドメイン特化性： 一般的なLLMを、非常にニッチでプライベートなビジネスドメインの専門家に変えることができます。
• 監査可能性： ソースドキュメントが検索されるため、システムは情報源を引用でき、容易な検証が可能になります。

課題

• チャンキング戦略： ソースドキュメントの分割が不適切だと、無関係なコンテキストが検索されたり、重要な情報がチャンク間で分割されたりする可能性があります。
• ベクトルデータベースの管理： ベクトルインデックスの維持、更新、最適化には、専用のインフラストラクチャと専門知識が必要です。
• レイテンシ： 検索ステップは追加の計算レイヤーを追加するため、純粋な事前学習済みLLMの呼び出しと比較して応答時間がわずかに増加する可能性があります。

関連概念

• ベクトルデータベース： 高次元のベクトル埋め込みの保存と検索に最適化された専用データベースです。
• 埋め込み（Embeddings）： 意味的な意味を捉えるテキストの数値表現であり、類似性検索を可能にします。
• ファインチューニング： 関連していますが、ファインチューニングはLLMの重みを変更します。RAGはLLMへの入力コンテキストを変更します。