「RAGを導入したが、思うような回答が返ってこない」という声は少なくありません。
こうした問題は、RAGの検索か生成、あるいはその両方の精度が低いことに起因していることがほとんどです。
精度が低いまま運用を続けると、現場に混乱を招くだけでなく、「結局使われなくなったのに運用コストだけかかり続ける」という事態にもつながります。
この記事では、RAGの精度が低い原因、向上させる方法(データ整備・ツール選びの2つの観点)、そして精度を数値化して測定する方法をまとめました。「何から手をつければいいかわからない」という方でも、データ整備3ステップから始めれば改善の糸口がつかめるはずです。
目次
RAGの精度が低くなる原因
まず「RAGの精度」とは何かを整理しておきましょう。RAGの精度は、大きく2つの要素で構成されています。
- 検索精度:正しい情報を取得できているか
- 生成精度:取得した情報をもとに適切な回答を作れているか
精度が低いと感じたとき、その原因がどちらにあるかによって対処法は異なります。原因を特定しないまま対策を打っても効果は限定的です。まず原因を切り分けることが改善の第一歩です。
▼検索精度に影響する主な原因
- データの問題
- 登録している情報が古い
- 同じ内容が重複している
- 画像やPDFなど読み取りにくい形式が多い
- 検索の仕組みの問題
- ユーザーの質問に使われる言葉と、登録データ内の表現がマッチしない(言葉の揺れ)
- チャンクサイズ(データを分割する単位)が不適切で文脈が途切れてしまう
- ハイブリッド検索(キーワード検索とベクトル検索の併用)や高精度な埋め込みモデル(言葉の意味を多角的に捉えるモデル)に対応していない
▼生成精度に影響する主な原因
- LLMへの指示(プロンプト)の設計が不適切で、同じ質問でも回答の質にばらつきが生じる
- 使用しているLLMモデルの性能がタスクの難易度に合っておらず、回答の質が安定しない
自社でRAGを開発している場合は、検索アルゴリズムやプロンプト設計も含めてすべてを改善できます。一方、RAGツールを導入している場合は、自分たちで手を打てる範囲と、ツール側の性能に左右される範囲が分かれます。
利用者側で対処しやすいのは「データの問題」です。登録する情報を見直し、整理することは、ツールに関係なく実施できます。
一方、「検索の問題」「生成の問題」は、基本的にツール側の性能に依存する領域です。検索アルゴリズムやプロンプト設計はツール内部の仕組みに組み込まれているため、利用者側での変更ができないこともあります。
そのため、精度改善は「まずデータ整備に着手し、それでも改善しなければツールの見直しを検討する」という順番で進めるのが現実的です。
RAGの精度向上はデータ整備が基礎となる
RAGの精度を上げたいとき、最初に取り組むべきなのがデータの整備です。
ここでは、データ整備の方法と、データを整備しても精度が上がらないときの対処法を解説します。
RAGの精度を上げるデータ整備3ステップ
データの整備は、3ステップで進めるとスムーズです。
- 古いデータ・重複データを削除する
- タイトル・作成日・更新日を設定する
- FAQ形式でデータを登録する
1. 古いデータ・重複データを削除する
まず取り組みたいのが、既存データの棚卸しです。
古い情報が残っていたり、同じ内容が複数登録されていたりすると、AIが誤った情報や重複した情報を参照し、回答がずれる原因になります。定期的にデータの棚卸しをおこない、不要なデータの削除や統合を進めることで、誤回答のリスクを抑えられます。
2. タイトル・作成日・更新日を設定する
棚卸しを終えたら、残ったデータの整備に進みます。
具体的には、タイトルと日付の設定です。
各データにタイトルを付けておくと、AIが関連情報を絞り込みやすくなります。加えて、作成日・更新日を設定しておけば、古い情報より新しい情報を優先的に参照させることができます。
例えば、タイトルがない資料が複数あると、AIは内容を読み込むまでどれが関連するかを判定できません。「2026年度_社内システム利用マニュアル」のように、内容と時期がわかるタイトルを設定しておけば、関連性の高いデータが検索で選ばれやすくなり、古い情報を参照してしまうリスクが軽減されます。
3. FAQ形式でデータを登録する
FAQ形式でデータを登録することも、RAGの精度向上に有効です。
RAGは文章の中から回答を探し出す仕組みですが、一問一答形式のFAQとして登録すると精度が上がりやすくなります。不要な情報が減り、質問と回答の関連度が高まるためです。
登録する際は、質問・回答(要約)・解説をセットにしておくのが理想的です。
| 項目 | 例 |
|---|---|
| 質問 | 製品の保証期間は? |
| 回答(要約) | 1年間 |
| 解説 | 保証期間は1年間です。詳細は製品購入時の保証書をご確認ください。 |
回答に要約を添えておくことで、AIが端的な回答を返しやすくなります。解説は、補足情報を含めて丁寧に回答したい場面で参照される情報です。
データ整備でも精度が上がらなければツールの乗り換えも視野に
ここまで紹介したステップを実施しても精度が改善しない場合、原因はデータではなくツール側にあるかもしれません。
具体的には、以下のような状況が続くようであれば、ツールの見直しを検討するタイミングです。
- FAQを整備したのに、似た質問でも回答がずれる
- 資料に情報があるはずなのに「わかりません」と返ってくる
- 表や図が含まれる資料から正確な回答が生成されない
これらの症状は、データの中身ではなく、検索の仕組みやデータ認識の性能に起因していることが考えられます。
次のセクションでは、RAGツールの選定で確認すべきポイントを解説します。
ツールの性能でRAGの精度は大きく変わる
同じデータを使っていても、ツールによって回答精度には大きな差が出ます。ツール選定の際に確認しておきたいポイントは4つです。
- データ認識の精度
- 検索の精度
- 情報追加の仕組み
- AIエージェントの有無
1.データ認識の精度
社内資料にはPDF・画像・表・グラフなど、多様な形式が含まれます。テキスト以外のデータを正しく読み取れないツールでは、そもそもそれらの情報が検索対象に含まれません。
そのため、どのようなデータを認識できるのかは、RAGの回答精度を高めるための重要な要素です。
具体的には、下記の技術が備わっているかを確認しましょう。
- OCR:紙の文書やスキャンデータに含まれる文字を読み取り、テキストデータに変換する技術
- 画像認識:画像内のテキストだけでなく、グラフや図の内容まで理解する技術
- テーブル構造認識:表の行・列・セルの構造を正しく把握する技術
- レイアウト認識:文書全体の見出し・段落・配置関係を読み取る技術
2.検索の精度
ユーザーは、毎回同じ表現で質問するとは限りません。そのため、言葉遣いの揺れや言い回しの違いを超えて、意味的に関連する情報を見つけられるかどうかが重要なポイントになります。
この精度が不十分だと、関連する情報がヒットしない、あるいは見当違いの情報が返ってくるといった問題が発生します。
検索精度を見極めるために確認しておきたい機能は次の通りです。
- ベクトル検索:単語の一致ではなく、意味の近さで情報を検索する手法
- 再ランキング機能:検索結果を質問の意図に沿って並べ替え、より関連度の高い情報を上位に表示する機能
また、トライアルなどで実際にツールを試せるときには、同じ内容でも言い回しを変えて質問し、安定して適切な回答が得られるかを確認してみましょう。
3.情報追加の仕組み
RAG運用を続けていると、情報の不足や陳腐化は避けられません。これを手動で管理し続けると現場の負担が増えるため、ツール側にデータ整備を支援する仕組みがあるかどうかも重要な選定ポイントです。
RAGツールの多くは、データを整備するための仕組みが備わっています。
例えば、回答できなかった質問を自動で分析・グループ化できる機能です。「どの質問で詰まっているのか」が可視化されれば、一から分析して追加・更新すべきデータを見つける必要がありません。
担当者がデータの追加・更新に専念できるようになり、RAGの精度を安定させやすくなります。
4.AIエージェントの有無
RAGツールのなかには、単なる検索・回答にとどまらず、AIが自律的に動作して回答の質を高めるエージェント機能を備えたものもあります。
▼エージェント機能の例
- 曖昧な質問への対応:質問の意図をAIが推測し、必要に応じてユーザーにヒアリングした上で回答する(Chain-of-Thought)
- 検索結果の自己評価と再実行:一度取得した検索結果をAI自身が評価し、精度が不十分と判断したときは検索をやり直して回答の質を高める
これらの機能はすべてのケースで万能に働くわけではありませんが、とくに曖昧な質問が多い環境や、多様な形式のデータを扱う現場では、回答精度の底上げに寄与します。
RAG × AIエージェントの例
従来のRAGツールでは「画像や図表が検索対象にならない」「曖昧な質問にうまく答えられない」といった課題がありました。RAGを基盤としたAIエージェント搭載ツールでは、以下のような仕組みでこれらの課題に対応しています。
- データ認識の幅広さ
オブジェクト認識・構造認識により、画像・図表・グラフの内容も回答のための情報として扱える。テキスト以外の社内資料も検索対象に含まれるため、回答の網羅性が高まる。 - 検索精度の自動改善
検索結果をAI自身が評価し、精度が不十分と判断した場合は再検索を実行。担当者が検索設定を都度チューニングしなくても、回答品質が安定しやすい。 - 曖昧な質問への対応
ユーザーの質問が抽象的な場合、AIがヒアリングして意図を具体化してから回答を生成。「質問の仕方が悪いと答えが返ってこない」という現場のストレスを減らせる。
詳細は下記で紹介しているので、ぜひご覧ください。
RAGの精度を測定・評価する方法
データ整備やツールの見直しで精度改善に取り組んでも「本当に良くなったのか」を確認する手段がなければ、効果を判断できません。
また、RAGの導入・運用を担当する方が上司や経営層に「実用に耐えうるか」を説明する場面でも、客観的な指標が必要となります。
そこで、ここからはRAGの精度を確認する方法を紹介します。
RAGの精度評価で見る指標

RAGの回答精度は、質問に対する回答の正確性と網羅性を見ることで評価できます。
- 正確性:回答の内容は正しいか?
- 網羅性:回答の内容に不足はないか?
どちらか一方だけでは、実用的な回答とはいえません。この正確性と網羅性を組み合わせることで、信頼性を評価できます。
つまり、正確な情報を過不足なく提示できている場合にのみ、信頼できると判断するということです。
精度評価の手順
RAGの精度は以下の手順で評価します。
- 実際にRAGに質問する
- 回答の内容を段階別に分類する
- 各段階の回答数を足して正確性と網羅性を算出する
- 信頼性スコアを掛けて、信頼性ポイントを算出する
- 信頼性ポイントを質問数で割り、信頼性を算出する
まずは実際にRAGを使い、回答の内容に応じて分類します。ここでは、RAGへ120回質問し、以下の結果になったと想定します。
| 評価 | 内容 | 実際の回答の回数 |
|---|---|---|
| 5_1 | 回答のすべての情報が正しく、かつそれぞれに出典を提示。 | 63 |
| 5_2 | 資料には情報が無いと宣言し、本当に情報はない。 | 16 |
| 5_3 | 資料には情報が無いと宣言し、LLMの事前学習データに基づいて回答。 | 0 |
| 3 | 回答中に、1つだけ間違った情報が存在する。それぞれに出典を提示する。 | 10 |
| 2 | 回答中に、2つ以上の間違った情報が存在する。それぞれに出典を提示する。 | 6 |
| 1 | 回答のすべての情報が正しいが、出典を提示しない。 | 8 |
| 0_1 | 回答のすべての情報が間違っている。※出典の有無は考慮しない。 | 0 |
| 0_2 | 資料には情報が無いと宣言せずに、LLMの事前学習データに基づいて回答。 | 0 |
| 0_3 | 資料には情報が無いと宣言しているが、本当は情報がある。 | 17 |
| 合計:120 |
分類ができたら、正確性と網羅性を算出します。
- 正確性:5の割合→79/120=65.8%
- 網羅性:5〜1の割合→103/120=85.8%
次に各段階に応じて信頼性スコアを掛け、信頼性を算出します。
| 評価 | 実際の回答の回数 | 信頼性スコア | 信頼性ポイント |
|---|---|---|---|
| 5_1 | 63 | 1.0 | 63 |
| 5_2 | 16 | 1.0 | 16 |
| 5_3 | 0 | 1.0 | 0 |
| 3 | 10 | 0.6 | 6.0 |
| 2 | 6 | 0.2 | 1.2 |
| 1 | 8 | 0.1 | 0.8 |
| 0_1 | 0 | 0 | 0 |
| 0_2 | 0 | 0 | 0 |
| 0_3 | 17 | 0 | 0 |
| 合計:120回 | 合計:87ポイント |
信頼できる回答の割合を知りたいので、信頼性ポイントの合計87を質問回数の120で割ります。
結果、0.725となり、信頼性は72.5%。
信頼性は80%以上であれば「実用性あり」と判断でき、80%を下回った場合は回答精度の改善に取り組むことを推奨しています。つまり、今回のサンプルでは回答精度の改善が必要であるということです。
今回紹介した方法でRAGの性能を評価し、Copilot for Microsoft 365 & Copilot Studioと回答を比較した実例のレポートをご用意いたしました。無料でダウンロードできますので、ぜひご参照ください。
ioと回答を比較した実例のレポートをご用意いたしました。無料でダウンロードできますので、ぜひご参照ください。
RAGの精度向上は「データ整備→ツール選び」の順で進めよう
RAGの精度が低い原因は「データ」「検索」「生成」の3層に分かれます。
まずは現状の精度を測定し、改善が必要かどうかを客観的に把握することが出発点です。信頼性スコアが80%を下回っているようであれば、具体的な対策に着手すべきタイミングといえるでしょう。
利用者側ですぐに取り組めるのはデータ整備です。不要データの削除、タイトル・日付の設定、FAQ形式での登録といった施策は、ツールに関係なく効果が見込めます。
それでも精度が改善しないなら、ツールの検索精度やデータ認識の性能がボトルネックになっている可能性があります。その際は、ツールの見直しを検討しましょう。
OfficeAI社員®は、データ認識・検索精度・AIエージェント機能を備えたRAGツールです。自社検証において、回答の正確性は平均90%を記録しています。
無料トライアルで実際の回答精度をお確かめいただけますので、ぜひお試しください。







