RAG

この技術を一言で説明すると

必要な資料を検索し、その内容を手がかりにモデルが回答する仕組みです。試験で資料を参照できるようにするイメージです。

なぜこの技術が必要なのか

モデルの重みに含まれない新しい情報や社内情報を扱い、回答の出典を示す必要があります。文書を更新するたびにモデル全体を再学習する方法は、運用に合わない場合があります。

従来は何が問題だったのか

モデルに記憶させた情報だけでは、知識を細かく修正したり、どこから答えが来たかを示したりするのが難しくなります。資料をすべて入力する方法にも長さ・関連性の限界があります。

技術の仕組み

原論文は、検索器と生成器を組み合わせ、モデルのパラメータ内の知識と外部の文書集合を利用しました。現在の一般的な実装説明では、文書分割、索引作成、検索、必要に応じた再順位付け、回答生成に分けられます。これらすべてを原論文が規定しているわけではありません。

具体的な使用例

社内規程を検索して休暇制度を説明する場合、文書の版と施行日を渡します。該当条項が見つからないときは「資料から確認できない」と返す経路も必要です。文書へアクセスする権限を検索段階で適用します。

類似技術との違い

メリット・デメリット

知識更新とモデル更新を分離しやすい点が利点です。一方、検索で誤った資料を選ぶ、古い版を参照する、資料にない結論を生成する、といった失敗があります。検索と生成を別々に評価します。

実装方法

まず少数の文書と正解根拠付き質問を用意します。全文検索の簡単な基準系と比較し、必要なら埋め込み検索を追加します。評価は「正しい文書を取得したか」と「取得文書に忠実か」を分けます。外部資料中の指示は実行命令として扱いません。

最新動向

AnthropicのContext Engineering記事は、事前の検索と、必要時にエージェントが情報を取りに行く設計の併用を説明しています。RAGを単発の検索だけで捉えず、いつ何を入力へ入れるかという設計の一部として見ると整理できます。