こんにちは、エンジニアの仁木です。
最近はAIの業務活用も一般的になってきており、業務でもChatGPTなどの生成AIを使い始めた人が多いと思います。
しかし、就業規則や社内ルールなど、会社固有の情報を調べたいときに生成AIでは期待する情報を得られないケースが多いと思います。
今回は、社内ナレッジをAIが検索できるようにして、AIを「自社の専門家」に変えられるRAG(ラグ)という技術について紹介します。

「就業規則について聞いたら、存在しない手当の説明をされた」
「去年のプロジェクトの進捗を聞いたのに、全く的外れな回答が返ってきた」
このように、AIがもっともらしく嘘をつく現象を「ハルシネーション(幻覚)」と呼びます。
なぜAIは嘘をつくのでしょう?
それは、AIが「会社の最新情報や、社内限定のルールを知らないから」です。
ChatGPTなどのAIはインターネット上の膨大な情報を学習していますが、個人のパソコンの中にあるExcelや、社内サーバーのPDFの情報は一切わかりません。
この「物知りだけど自社のことは知らないAI」を、「自社の専門家」に変える技術。それが今注目されているRAG(ラグ)です。
「RAG(検索拡張生成)」という言葉は難しそうですが、仕組みはシンプルです。
AIの動かし方をテストに例えてみましょう。

これまでのAI活用は、いわば「教科書を丸暗記してテストに挑む」ようなものでした。
新しい情報(昨日のニュースや社内ルール)は覚えていない。
記憶が混ざってしまい、間違った答えを自信満々に言ってしまう。
覚え直させる(再学習)には、膨大な時間とお金がかかる。
一方、RAGは「手元に社内マニュアルを置いた状態で、それを見ながら答える」という仕組みです。
AIは社内マニュアルの内容自体を学習しません。
質問されたら、まず社内マニュアルから「関連するページ」をサッと探します。
そのページを読み上げながら回答を作るので、嘘をつきにくくなります。
この「AIに参照させて回答させる」解決方法が、社内業務などの利用での信頼性を劇的に高めることが可能になります。
なぜ、多くの企業がRAGを導入し始めているのでしょうか。主なメリットは3つあります。
「どこに書いてあるか」根拠がわかる
RAGは回答と一緒に参照元の根拠となる資料を表示できます。
参照がわかることにより、人間が後から正確性を確認するのも簡単です。
今日作った資料にも、明日から対応できる
AIに学習し直させる必要がないため、新しいPDFを専用の「検索用フォルダ」に入れるだけで、AIは新しい情報を踏まえて回答できるようになります。

AIとRAGが連携する時、裏側で何をしているのか、その流れを追いかけてみましょう。
ステップ1:ユーザーが質問する
(例:「今年の夏季休暇の申請はいつまで?」)
ステップ2:AIが資料を探す
社内のデータが詰まった「専用の知識庫」から、関連しそうな文章を検索します。
ステップ3:資料を読んで理解する
見つかった文章(例:社内掲示板の書き込み)をAIが読み、内容を整理します。
ステップ4:回答を作成する
「掲示板によると、8月20日までです」と、正確な回答を提示します。
注意点として、RAGを導入すれば何でも解決というわけではありません。
AIを賢く働かせるためには、人間側でも「ちょっとした準備」が重要になります。
不要な情報や誤った情報などの「ゴミのデータ」を入れない
古いマニュアルと新しいマニュアルが混ざっていると、AIもどちらが正しいか迷ってしまいます。
不要なデータは整理しておくことで、より精度の高い回答をAIが返すことができます。
「見せてもいい人」を管理する
例えば、「役員報酬」の資料を、新入社員がAIに聞いて表示されては困るため、誰がどの資料にアクセスしていいかという権限の設定も、RAG導入時の大切なポイントです。
RAGは、AIに「会社の知識」を教えるための賢い方法の1つです。
これまで「AIは嘘をつくから仕事には使えない」と諦めていた方も、RAGを使えば、AIを「24時間365日、社内のあらゆる資料を即座に探し出してくれる優秀なパートナー」に変えることができます。
アウラではAIを活用したWebサービスの企画提案や改善提案を行っております。
Webサイトの活用方法にお悩みの方はぜひお気軽にお問い合わせください。