RAGとは？社内資料を探して答えるAIの仕組みと導入の注意【2026年10月】

「社内の資料をAIに読ませて、質問に答えてほしい」。その仕組みがRAG（ラグ、検索拡張生成）です。RAGとは、質問に関係する資料を探し、その内容をもとにAIが回答する仕組みです。答える前に必要なページを渡します。

古い規程を参照したり、閲覧権限のない情報を回答に含めたりしないよう、検索範囲と運用も決める必要があります。

仕組みと作り方、AIの追加学習であるファインチューニングとの違いを整理し、権限・更新・出典・送信先の確認方法を説明します。

RAGとは？資料を調べてから答える仕組み

英語の「Retrieval-Augmented Generation」の略です。検索と文章を作るAIを組み合わせる方法で、人が規程集を開いてから問い合わせに答える流れに似ています。

たとえば会社固有の出張申請先は、一般的な知識だけでは確認できません。RAGでは、社内の規程や手引きの記載を使って答えます。

「外部の情報」とは、AIがもともと学習した知識の外にある情報という意味です。社内資料も含み、インターネット検索に限りません。

AI本体を再学習させずに社内の知識を利用できる点も特徴です。出典：AWS：RAGとは（2026年10月14日確認）。

RAGの仕組みは「探す・渡す・答える」

裏側では、資料の準備と検索が動いています。出張規程への質問を例に、基本の流れを見てみましょう。

資料は、意味がつながるまとまりで扱う

長い文書は、必要な部分を探しやすいように分けて扱う方法があります。ただし、「交通費は精算できる」という部分と、「対象外になる条件」が離れてしまうと、条件を落とした回答につながります。見出し、本文、表の注記が一緒に読めるかを確認します。

出典：AWS：資料を分けて検索する仕組み（2026年10月14日確認）。導入時には、紙を読み取ったPDFの文字や表が正しく取り出せているかも点検します。

RAGとファインチューニングの違い

違いは、回答時に資料を渡すか、AI本体を追加学習で調整するかです。RAGは調べる資料の用意、ファインチューニングは仕事の練習に例えられます。

基本の違いは、IBMの比較解説とAWSの比較資料を参照しています（いずれも2026年10月14日確認）。目的別の使い分けは、業務向けの整理です。

変わる社内規程の参照ならRAG、問い合わせを独自の区分で分類するなど、仕事のやり方の調整なら追加学習が候補です。

両方の併用もできます。ただし、文体や回答の並び方は指示と見本で対応できるかを先に試します。「会社専用のAIがほしい」という理由だけで、追加学習が必要とは限りません。

出典：AWS：AIの調整方法の選び方（2026年10月14日確認）。

社内データをAIで活用しやすい仕事

RAGを検討しやすいのは、答えの根拠が資料にあり、探す手間がかかる仕事です。以下は実績ではなく、用途の例です。

資料を探す入口や回答の下書きとして使い、契約の可否や例外の承認は人が判断する、と任せる範囲を決めます。

集計や手続きの実行には、別の仕組みも必要

「先月の全件の売上を合計して」という質問には、全件を対象に計算する仕組みとの連携が必要です。検索した一部の資料だけを使って、全体の集計として答えさせないようにします。

申請方法の説明と、申請の提出も別です。提出まで任せるなら、操作範囲と承認手順を設計します。最初は「調べて答える」範囲に絞ると、試験する内容が明確になります。

RAGの作り方は、運用できる範囲から選ぶ

作り方は、設定・開発・保守をどこまで担えるかで選びます。資料の更新や権限変更を続けられるかも判断の軸です。

作成ツールのDifyには、資料を検索する部品と、結果をAIへ渡して回答する流れがあります。出典：Dify：Knowledge Retrieval（2026年10月14日確認）。権限管理は別に確認します。

開発用サービスのAmazon Bedrock Knowledge Basesには、資料を検索し、その結果を使って回答し、出典を付ける機能があります。出典：AWS：Amazon Bedrock Knowledge Bases（2026年10月14日確認）。

どこで動かすかも選びます。クラウド（提供元の設備を通信で利用する形）と社内設備では、管理する機器や送信範囲が変わります。次の注意点と合わせて検討してください。

導入の注意は、権限・古い資料・出典の表示

資料を登録する前に、誰が何を見られるかと、情報の管理方法を決めます。

閲覧権限は、AIに資料を渡す前に確かめる

人事評価や個別の契約書など、閲覧者を限る資料があります。管理者が全資料を登録し、全社員が同じ範囲を検索できる状態にすると、回答を通じて情報が漏れるおそれがあります。

利用者が読めない資料は、回答を作るAIへ渡す候補から外します。「機密は答えないで」と指示するだけで済ませず、ログインした人の権限に応じて検索結果を絞ります。出典：Microsoft：文書単位のアクセス制御（2026年10月14日確認）。

導入時には、部署の異なる利用者で同じ質問を試します。本文だけでなく、資料名、引用文、リンク先にも権限のない情報が出ないかを見ます。異動や退職で権限が変わったときの反映方法も決めます。会話履歴や、以前の回答を再利用する機能があるなら、そこから情報が見え続けないかも確認します。

古い資料は、更新日だけで判断しない

正式版、旧版、検討案が混ざると、参照先が曖昧になります。保存日時だけで選ぶと、正式版より新しい検討案を拾う可能性もあります。

正式版か、適用日はいつか、管理者は誰かを決めます。現在の規程なら有効な版、過去の扱いなら当時の版を参照するよう、質問の時点も区別します。

元ファイルを直しても、検索用のコピーに反映する処理が別なら、回答は古いままです。AWSも、追加・変更・削除を検索側へ反映するよう説明しています。出典：AWS：資料の同期（2026年10月14日確認）。

出典は、回答のどの部分を支えるかまで示す

出典は資料名に加え、ページや見出しなど該当箇所へ戻れる形にします。複数の資料を使う場合は、回答のどの部分を支えるかも示します。

資料の中の文章を、AIへの命令にしない

資料の文章がAIを意図しない動作へ誘導することがあります。プロンプトインジェクション（読み込む文章などを通じてAIの指示を乗っ取ろうとする攻撃）と呼ばれる問題です。

社内に保存した資料でも、取り込んだメールや外部文書を無条件に信頼しないことが大切です。参照できる場所を限定し、資料中の指示に従わせない対策を施します。回答用の仕組みに不要な送信・削除などの操作権限を持たせず、誘導する文章を含めた試験も行います。出典：Microsoft：文章を通じたAIへの攻撃と対策（2026年10月14日確認）。

データを外に出さない構成は、処理する場所まで確かめる

「RAGなら社内データは外に出ない」とは限りません。資料の保管先が社内でも、検索で取り出した文章を外部のAIへ渡せば、その部分は送信されます。最初に、会社が認める「外」の範囲を言葉にしましょう。

これらは別々の条件です。「学習に使わない」という説明だけで、送信も保存もされないと判断しないでください。

たとえばAWS PrivateLinkには、公開インターネットを経由せずにAmazon Bedrockへ接続する構成があります。ただし、利用先はAWSのサービスです。社内の機器だけで回答を作る構成とは区別します。出典：AWS：Amazon Bedrockへの非公開接続（2026年10月14日確認）。

社内設備の外へ資料を送れない場合は、検索と回答するAIを含めて社内で動かす構成を検討します。これはオンプレミス（自社で管理する設備にシステムを置く形）と呼ばれます。NVIDIAも、社内設備で動くAIを使うRAGの構築手順を公開しています。出典：NVIDIA：社内設備で動かすRAGの構成例（2026年10月14日確認）。

機器の保守、ソフトウェアの更新、障害への対応を担う人は必要です。使う部品に外部サービスへの接続が残っていないかも確認します。

クラウドでも利用者側の設定と管理が必要です。出典：AWS：データ保護と利用者側の責任（2026年10月14日確認）。送信範囲と保存条件は、この一覧に沿って構成ごとに照合します。

小さく試して、答えないほうがよい質問も確認する

正解しやすい質問だけを集めない

以下は試験の例です。合格の目安は、業務と社内ルールに合わせて決めます。

答えが違う場合は、資料を取り違えたのか、正しい資料の条件を読み落としたのかを分けます。AWSも検索と回答を分けて評価します。出典：AWS：RAGの評価（2026年10月14日確認）。

待ち時間と人の確認の手間も点検します。資料やAIの変更後に同じ試験を繰り返せるよう、質問を残しておきます。

費用は、回答を作るAIの利用料だけではない

費用は、資料の整理・読み取り、保管、AI利用、開発、権限設定、運用保守を分けます。更新処理や人の点検作業、社内設備の調達・維持も含めます。

見積もりには資料の種類と量、更新頻度、利用者と同時利用の状況、持ち出し条件を伝えます。試作で処理量と運用の手間を確かめると比較しやすくなります。

まとめ

ACGWORLDSのAI受託開発では、「根拠が見えるAI回答」と「社内データを安全に活用できるAI」を案内しています。資料・ページ・該当箇所の表示に加え、権限管理や社内設備で動かす構成にも対応しています（2026年10月14日確認）。