RAG構築の始め方｜Difyのナレッジとチャンク設定で社内チャットボットを作る

RAGとは何か？

RAGは次の順で動きます。

1. 質問：利用者が自然な日本語で問いを投げる
2. 検索：知識ベースから関連する文書の断片（チャンク）を探す
3. 生成：見つかった文を根拠にモデルが回答する

モデルの学習データにない社内ルールや最新の手順書でも、ナレッジとして入れておけば参照できます。逆に、ナレッジにないことは答えられない（または幻覚しやすい）ため、「何を入れるか」が品質そのものです。

講座のゴールは？

• RAGの言葉の意味と、チャットボットでの役割を理解する
• Difyなどのツールでナレッジを登録する
• 簡単なRAGチャットボットを、手を動かしながら動かす

資料はZoomのチャット経由で共有され、リアルタイム作業とアーカイブでの復習が前提とされました。

どんな場面で役に立つ？

向く例

• 社内マニュアル、FAQ、規程、商品仕様
• 過去の対応ログの要約や、手順の案内

向かない例

• リアルタイムの在庫・残高
• 厳密な計算そのもの
• 最新ニュースだけを追う質問（別途Web検索などが必要）

出典のない断定や個人情報の混入は、ナレッジの中身とプロンプトの両方で防ぐ必要があります。

タップで拡大

Difyでは何をする？

講座ではDifyを使い、文書をナレッジに登録してチャットアプリから参照する流れが中心でした。UI上でアプリとナレッジを結び、プロンプトで「資料に基づいて答える」旨を明示します。

DriveやドキュメントのURLが画面に出る場合があるため、共有範囲と公開設定には注意が必要です。

チャンクやTop Kはどう調整する？

タップで拡大

同じ資料でも次の設定で答えの質が変わります。

• チャンクサイズ：1かたまりの長さ。長すぎるとノイズ、短すぎると文脈が欠ける
• オーバーラップ：隣り合う断片の重なり。切れ目で意味が飛ばないようにする
• Top K：モデルに渡す断片の件数。多すぎると焦点がぼやける

まず標準値で試し、ずれたらチャンクとTop Kから触る、という進め方が紹介されました。

チャットボット完成後の確認は？

• ナレッジにある事実を聞いたとき、根拠つきで返るか
• ナレッジにないことを聞いたとき、無理に断定しないか
• 似た質問で、毎回大きくぶれないか

うまくいかないときは、プロンプトをいじる前に「入れた文書の質」と「チャンク設定」を疑うのが講座の推奨でした。

タップで拡大

検索が外れたら、まず何を確かめる？

検索と生成は別物です。検索が外れた断片ばかりだと、どれだけプロンプトを磨いても答えは直りません。まずは関連文書が拾えているかを確認し、そのうえで回答スタイルを整えます。

Difyでチャットフローを組む基本はDifyの使い方入門｜チャットフローでSNS投稿文を一括作成するAIアプリの作り方、資料をAIに読ませて文章を作る別の方法はChatGPTプロジェクトの使い方｜AIっぽくない自分らしい文章を作る指示の書き方で扱っています。

まとめ

RAGは「検索してから答える」仕組みで、社内知識をチャットボットに載せるときの前提です。講座ではDifyでナレッジを登録し、チャンクやTop Kを調整しながら動かす体験が中心でした。精度はプロンプトだけでなく、入れる資料と分割設定で決まる、というのが要点です。