QT-GenAI ブログ

生成AIをビジネスで活用する企業が増える一方で、「社内固有の情報に対応した回答ができない」「事実と異なる回答が生成される」といった課題に直面するケースも多いのではないでしょうか。こうした課題を解決する手法として、近年注目されているのが生成AIの「RAG（Retrieval-Augmented Generation：検索拡張生成）」という技術です。

この記事では、RAGの仕組みや必要性、注意点のほか、社内での活用シーン例などを解説します。

<監修者の紹介>

株式会社QTnet AI事業部 AIスペシャリスト、一般社団法人生成AI活用普及協会（GUGA）協議員、ふくおか電子自治体共同運営協議会 DXプロデューサー（生成AI）

佐伯 和広

ビジネスの課題を生成AIで解決！

QT-GenAI導入ガイド

資料ダウンロードお問合せ

RAGとは、外部データベースと連携してLLMの回答精度を高める技術のこと

RAGとは、ChatGPTやGeminiなどのLLM（Large Language Model：大規模言語モデル）をベースにしたアプリケーションに外部データの検索機能を組み合わせ、最新情報・社内情報にもとづいた正確な回答を生成できるようにする技術のことです。

ユーザーの質問に応じて「社内規程」や「過去ナレッジ」などの独自データを参照し、その内容をもとに回答を生成できるため、近年では、企業や自治体での活用も進んでいます。

生成AIについては、下記の記事を参考にしてください。

• 生成AIとは？できることや注意点、ビジネスでの活用法を紹介

自治体の生成AI活用については、下記の記事を参考にしてください。

• 自治体の生成AI活用の実態は？活用例や導入事例、課題を解説

LLMの課題とRAGの必要性

LLMは文章の生成や要約、翻訳など幅広い作業に対応できますが、下記のような課題もあります。

＜LLMの課題＞

• 情報の鮮度：学習時点のデータに依存するため、法改正や製品情報、また公開されていない社内情報の更新など最新情報に対応できない
• ハルシネーション：事実と異なる情報を、あたかも正確であるように生成してしまうことがある

RAGは上記のような課題を解決する手法であり、LLM単体では難しい最新の法令や社内情報など外部データにもとづいた信頼性の高い回答が可能です。

九電グループ「QTnet」が提供する「QT-GenAI」なら、RAGも標準装備されており、組織に合わせたガバナンス設定や、独自データにもとづく回答精度の向上など、自社だけでは難しい高度な活用推進を支援します。

ビジネスの課題を生成AIで解決！

QT-GenAI導入ガイド

資料ダウンロードお問合せ

RAGとファインチューニングとの違い

RAGは「外部データを参照して回答する仕組み」であるのに対し、ファインチューニングは「学習済みのAIモデルを再学習する技術」という違いがあります。

ファインチューニングは学習済みのLLM自体に最新情報や社内データなどを追加学習させることで、高い精度の回答を生成できます。ただし、学習データの準備や実行に時間・コスト・専門知識が必要です。

一方、RAGはLLM自体を変更するのではなく、外部データベースを参照して回答を生成します。データを更新するだけで最新情報に対応できるため、低コスト・短期間で導入でき、更新頻度の高い社内規定や根拠を明示する必要がある場合にも適しています。

RAGの仕組み

RAGはユーザーの質問を受け取ってから回答を返すまでに「検索」「拡張」「生成」という3つのフェーズを経て処理を行います。各フェーズで何が行われているかを見ていきましょう。

■一般的なRAGの仕組み

検索フェーズの動作

RAGの検索フェーズでは、ユーザーが入力した質問や指示（プロンプト）をもとに、あらかじめ準備された社内文書やFAQ、ファイルサーバー、クラウド、画像などを検索し、関連度の高い情報を取得します。

キーワードの一致だけでなく、文章内容の近さも考慮して情報を探すため、言い回しが異なる表現でも適切な情報を見つけることが可能です。例えば「有給の申請方法を教えて」という質問に対しては、「年次有給休暇取得の手続き」と表記されたマニュアルも検索対象になります。

生成AIのプロンプトについては、下記の記事を参考にしてください。

• 生成AIのプロンプトとは？ChatGPT、GeminiなどAIモデル毎の例文や活用例を紹介

拡張フェーズの動作

RAGの拡張フェーズでは、「検索フェーズで取得した関連情報」と「ユーザーの質問や指示」を組み合わせて、LLMへの入力内容を構成します。この2つがセットになることで、LLMは一般的な知識だけでなく、最新情報や独自ルールを踏まえた回答ができるようになります。

生成フェーズの動作

RAGの生成フェーズでは、拡張フェーズで取得した情報をもとに、LLMが最終的な回答を生成します。事前学習済みの知識と取得した情報を組み合わせて、より精度の高い回答が可能になります。

また、RAGを使った回答は参照した情報源（ドキュメント名・ページ番号など）を提示できる場合が多く、ハルシネーションの検証や出典の確認がしやすいのも特長です。

特に、規程への準拠が求められる業務や、正確性が重要な問合せ対応などのシーンで役立ちます。

ビジネスの課題を生成AIで解決！

QT-GenAI導入ガイド

資料ダウンロードお問合せ

RAGの社内活用シーン例

RAGは企業規模や業種を問わず、社内情報にもとづいた質問応答が求められるシーンで活用されています。ここからは、RAGの社内活用のシーン例をご紹介します。

＜RAGの社内活用シーン例＞

• 労務関係の問合せ対応
• 社内ITシステムのヘルプデスク
• プロジェクトのナレッジ・ノウハウ管理
• カスタマーサポートの自動対応

労務関係の問合せ対応

就業規則や経費精算ルール、権限規程など、従業員が日常的に参照する社内規程をRAGのデータソースとして登録すれば、社内問合せにAIが自動応答するチャットボットシステムなどを構築できます。

例えば、新入社員や中途社員の「社内の有給休暇のルールが分からない」という定型的な問合せの回答をチャットボットに任せれば、総務や人事部門の業務負荷の軽減に繋がります。

社内ITシステムのヘルプデスク

社内機器の操作マニュアルをRAGに読み込ませれば、社内システムに関する問合せ対応をAIに任せることができます。「ソフトウェアのインストール方法が分からない」「パスワードをリセットしたい」といった定型的な問合せへの対応を自動化できるため、IT担当者の負担軽減に繋がります。

また、対応もスピーディーになり、回答待ちで社員の業務が止まるケースも防げるのもメリットです。夜間や休日などIT担当者が不在の時間帯にも自動対応できる点は、特に利便性が高いでしょう。

プロジェクトのナレッジ・ノウハウ管理

ベテラン社員のノウハウや過去のプロジェクト資料をRAGのデータベースに集約すれば、退職や異動によるナレッジ損失を防ぎ、組織全体の情報活用を促進できます。

「あの案件はどのように対応したのか」「過去の類似トラブルへの解決策はあるか」といった問いに対して、知見を素早く参照できるため、トラブルの防止や新人の即戦力化にも有効です。

カスタマーサポートの自動対応

製品マニュアルやFAQ、過去の問合せ履歴をRAGに取り込めば、自社製品に特化したチャットボットの構築が可能になります。

コールセンターに問合せがあった場合、定型的な問合せはチャットボットが自動応答し、複雑な対応やトラブル対応のみをオペレーターが担当すれば、業務の効率化ができます。

また、「応答品質の均質化」や「24時間365日の対応」ができるほか、「繁忙期の問合せ急増」にも対応しやすくなる点も大きなメリットです。

RAGを導入する際の注意点

RAGはセキュリティやデータ品質など、事前に十分な対策が必要です。ここからはRAGを導入する際の注意点を解説します。

セキュリティを確保する

RAGのデータソースとなる社内情報には機密性の高いものが多く含まれます。そのため、利用する生成AIサービスが、入力データを学習に利用するかは事前に確認する必要があります。

企業ごとに独立したセキュリティ環境でできるサービスや、入力データを学習に利用しないサービスを選択すれば、情報漏洩リスクを低減できます。

■企業ごとに独立したセキュリティ環境のイメージ

また、部署ごとに参照可能なデータを制限するアクセス権限の設計も重要です。適切な権限管理を行わない場合、他部署の機密情報が意図せず生成AIの回答に含まれるリスクがあります。

誰がどのデータにアクセスできるかを明確に定め、適切な権限管理を行う体制を整えましょう。

九電グループ「QTnet」が提供する「QT-GenAI」なら、高度なフィルタリングと機密データの安全活用で企業ごとのRAG機能を活用できます。また、部署ごとの閲覧制限や利用権限を設計し、セキュアで統制の取れた運用体制の構築を支援します。

■QT-GenAIのRAG機能のユーザー管理の例

ビジネスの課題を生成AIで解決！

QT-GenAI導入ガイド

資料ダウンロードお問合せ

検索精度を担保する

RAGの回答品質は、質問や指示に対して適切な情報をどれだけ正確に取得できるかに大きく左右されます。そのため、データソースの整理や構造化を行い、検索しやすい状態にすることが重要です。

また、古い情報や誤った内容が混在すると回答の精度が低下するため、データの定期的な見直しも欠かせません。運用開始後も継続的にデータを更新・管理すれば、常に正確な情報をもとにした回答ができます。

QTnetが提供する生成AIプラットフォーム「QT-GenAI」の導入事例【株式会社大分銀行さま】

大分県の第一地方銀行である株式会社大分銀行さまでは、セキュリティ、管理機能、伴走支援体制を評価され2023年に九電グループ「QTnet」が提供する「QT-GenAI」を導入しました。

「QT-GenAI」の活用は、文書作成や議事録作成といった基本的な効率化から始まり、現在では契約締結時のリーガルチェック・融資稟議書の自動作成など高度な用途にも活用が広がっています。

また、毎回テーマを絞って解決策や展開可能性を深掘りする定期ミーティングも実施しており、RAGの活用策やコンテキストエンジニアリングの観点から、新たな対応策の試行が進行中です。

導入から2年で「QT-GenAI」のユーザー数は600名に拡大し、全部門への普及を実現されています。

■「QT-GenAI」の特長

株式会社大分銀行さまの事例については、下記の記事を参考にしてください。

• 銀行の”人と仕事”をよりイノベーティブに。『QT-GenAI』で生成AIの新たな価値の創出へ。

九州の法人向け生成AIプラットフォームサービスなら「QT-GenAI」

RAGを活用するには、セキュリティ対策や検索精度の設計が重要です。そのため、安心して運用できる環境が整ったプラットフォームの選定が求められます。

「QT-GenAI」は法人向けに設計されたマルチ生成AIプラットフォームで、社内データと連携できるRAG機能を標準で備えています。

■機能一覧

QT-GenAIのRAG機能

「QT-GenAI」は企業独自の規程や業務マニュアル、FAQなどを取り込むことで、社内情報にもとづいた回答を生成できるRAG環境を構築できます。

また、Gemini、GPT、Claudeなど複数のLLMを用途に応じて使い分けられるため、業務に適した形で高精度な回答が可能です。40種類以上のモード（プロンプトテンプレート）も用意されており、専門知識がなくても即座に的確な回答を引き出せます。

■QT-GenAIで使えるLLM

安心のセキュリティ環境

「QT-GenAI」は企業ごとに独立した環境で提供され、入力データが生成AIの学習に利用されない安心のセキュリティ設計です。

また、行政専用ネットワーク「LGWAN」や、QTnetの閉域回線「QT PRO クラウドダイレクトタイプ E」にも対応しているため、生成AI導入に慎重な企業でも導入しやすい環境が整っています。

■QT-GenAIの企業ごとのセキュリティ設計イメージ

まずは下記からの資料ダウンロード、または「お問合せ」から、QT-GenAIの詳細をご確認ください。

ビジネスの課題を生成AIで解決！

QT-GenAI導入ガイド

資料ダウンロードお問合せ

監修者の紹介

株式会社QTnet AI事業部 AIスペシャリスト、一般社団法人生成AI活用普及協会（GUGA）協議員、ふくおか電子自治体共同運営協議会 DXプロデューサー（生成AI）

佐伯 和広

2007年QTnet入社。技術部門を経て、20年から新規事業部⾨に所属し、無人店舗の実証やeスポーツ施設の新設などのプロジェクトを担当。23年からAI事業のリーダーとして法人向けマルチ生成AIプラットフォーム「QT-GenAI」のリリースなどAIを活用した新規事業の創出に従事。社外でもAI人材の育成に積極的に取り組むほか、Google主催のイベント登壇や商工会議所でのセミナー講師など生成AIの普及・教育に注力している。

よくある質問