AI
RAG
Retrieval-Augmented Generation（検索拡張生成）
社内文書を検索して、その結果を根拠に AI へ答えさせる仕組み。
質問を受けたらまず社内文書を検索し、見つかった文章を一緒に渡して答えさせる。モデル自体を作り変えないので、文書を差し替えれば答えも変わる。
社内知識を扱う用途では、ファインチューニングよりまず RAG を検討する。安く、更新が速く、根拠を示せる。
よくある誤解
「RAG にすれば嘘をつかない」と理解されがちだが、そうではない。検索がずれれば、ずれた文書を根拠にもっともらしい嘘を言う。精度を決めているのは生成ではなく検索の側で、実際の改善作業のほとんどは文書の整理と分割の調整に費やされる。散らかった共有フォルダをそのまま繋いでも、期待した精度は出ない。
関連する用語
ハルシネーション
AI が事実でないことを、事実であるかのように出力する現象。
ファインチューニング
既存モデルに追加で学習させ、応答の型や口調を寄せる手法。知識の追加には向かない。
トークン
AI が文章を扱うときの単位。料金も制限もこの単位で決まる。