社内文書を読むAIに質問して、的外れな答えが返ってきたことはないだろうか。原因の多くはAIの頭の悪さではなく、「1回検索して、出てきたものをそのまま使う」という仕組みの単純さにある。人間なら検索結果がイマイチだったら言葉を変えてもう一度引く——その当たり前を、AIにもやらせようというのが「エージェンティックRAG(Agentic RAG)」だ。
2025年1月のサーベイ論文で体系化されて以来、この設計は急速に標準になりつつある。LangGraphやLlamaIndexの公式チュートリアルはこの形を推奨し、OpenAIとAnthropicはマネージド機能として提供を始めた。この記事では仕組み、実測の効果、そして「やりすぎ」への公式な警告までを整理する。
従来のRAGは「1回きりの検索」だった
前提を30秒で。RAGは、AIが答える前に関連文書を検索して「カンニングペーパー」として渡す仕組みだ(基礎はRAGとはで解説している)。ただし従来型には構造的な弱点がある。検索は最初に1回だけ。検索結果が的外れでも、AIはそれを材料に答えるしかない。
エージェンティックRAGは、この検索の部分をAIが自分で操作する「道具」に変える。検索するかどうか、どんな言葉で検索するか、結果は使い物になるか、足りなければ何を追加で引くか——判断のループをAIに渡す。
AIが判断 → 検索して結果を
自分で採点 → 不合格なら言い換えて
再検索(ループ) → 合格の材料だけで
回答を生成
図: エージェンティックRAGの基本ループ(LangGraph公式チュートリアルの推奨構成をもとに筆者作成)
「自分の検索を疑う」だけで、小型モデルがChatGPTを超えた
この設計の価値は、研究の実測ではっきり示されている。代表格が自己修正型のSelf-RAG(2023年)だ。検索の要否や取得文書の関連性をAI自身が特殊トークンで自己評価しながら生成する。結果、わずか7Bパラメータのモデルが、質問応答ベンチマークで検索機能付きのChatGPTを上回った。
| 手法 | 実測された効果 |
|---|---|
| Self-RAG(自己評価付き生成) | PopQA 54.9(検索付きChatGPT 29.3、7Bモデルでの数値) |
| CRAG(検索品質の採点+Web検索フォールバック) | 標準RAG比 PopQA +4.4pt、PubHealth +10.6pt |
| Anthropic Tool Search(実行時にツールを検索) | ツール定義のトークンを85%以上削減 |
CRAG(2024年)はさらに割り切った設計で、検索結果を軽量の採点器で評価し、低品質ならWeb検索に切り替える。「手元の資料がダメなら外に出る」という、人間の調べものと同じ動きだ。既存のRAGに後付けできるのも実務向きで、複合的な質問を分解するクエリ分解、質問の種類ごとに検索先を変えるルーティングと合わせて、エージェンティックRAGの中核パターンを構成する。
arxiv.org Agentic Retrieval-Augmented Generation: A Survey この分野の見取り図となったサーベイ論文。単一/複数エージェント・制御構造による分類体系と未解決課題まで整理されている。2026年、実装は「自作」から「マネージド」へ
作り方も様変わりした。フレームワークではLangGraphが「検索ツール化→文書の合否判定→不合格ならクエリ書き換えて再検索」のループを公式チュートリアルの標準形にし、LlamaIndexはエージェント間で仕事を引き継ぐAgentWorkflowを推奨している。
さらに大手は「組み込み済み」の形で出してきた。OpenAIのfile_searchは、ベクトルストアをホストしモデルが必要と判断したときだけ自動で検索を呼ぶ。Anthropicは発想を一歩進め、文書を事前にベクトル化して抱え込むのではなく、ファイルパスなどの軽い手がかりだけ持たせて、必要な瞬間にツールで読みに行く「ジャストインタイム検索」を提唱している——Claude Codeがgrepでコードベースを探し回るあの動きが、まさにこの思想だ。
逆風も公式から: 「小さい用途なら普通のRAGでいい」
ここまで読むと万能に見えるが、代償ははっきりしている。ループのたびにLLMの呼び出しが増えるので、レイテンシとコストは掛け算で膨らむ。Anthropic自身が「実行時の探索は事前検索より遅い」と明言し、頻出情報は事前に読み込み、残りを実行時探索にするハイブリッドを推奨している。同社のツール検索のドキュメントには「ツールが10個未満なら標準の方式のほうが良い」という一文まである。ベンダー自身による過剰設計への警告だ。
サーベイ論文も、評価手法・エージェント間の協調・メモリ管理を未解決課題として挙げる。筆者の見立てでは、この技術の本命は「何でもエージェンティック化」ではなく、失敗コストが高い検索(社内規程・医療・法務)への選択的な投入にある。1回の検索ミスが高くつく場所ほど、検索をやり直せる価値は大きい。
「賢い検索」は、結局人間の調べものに似てくる
振り返ると面白いのは、進化の方向だ。1回検索(従来RAG)→関係の地図を持つ(GraphRAG)→検索そのものを判断しながら繰り返す(エージェンティックRAG)。どんどん「人間の上手な調べもの」に近づいている。次に社内AIの回答がズレたとき、「このAI、検索をやり直せる設計か?」と問うてみてほしい。答えがノーなら、改善の余地はまだ大きい。
出典: Singh et al.「Agentic RAG: A Survey」 / Self-RAG(Asai et al.) / CRAG(Yan et al.) / LangGraph公式チュートリアル / Anthropic「Effective context engineering」
