GenAI

AIで自社のナレッジを検索する:CopilotやGemini、Gleanのような検索製品、または自社構築

社内の文書、Wiki、チケット、チャットを対象にしたAI検索の入門ガイドです。通常の検索で足りるのはどんなときか、検索によってどのように出典つきの回答が作られるかを説明します。そのうえで、Microsoft 365 Copilot、Gemini Enterprise、Atlassian Rovoがカバーする範囲と、GleanやElasticのような検索製品が加えるものを整理します。アクセス権とオーバーシェアリング、古い文書、テスト、ログ、GDPR、料金モデル、ロックイン、確認すべき質問も取り上げます。

執筆:amBrain読了10分

この記事の内容

社内の誰かが、最新の返金ポリシーはどこにあるかと尋ねます。答えは3か所に分かれています。Wikiのページ、チケットのやり取り、昨年の春のチャットのメッセージです。AIによるナレッジ検索は、これらのソースをすべて読み、1つの答えと、その出どころへのリンクで返します。道は3つあります。オフィススイートのアシスタントを使う(別途ライセンスが必要な場合があります)、エンタープライズ検索製品を購入する、自社のデータの上にシステムを構築する、です。どれが適切かは、主に、ナレッジを持つツールがいくつあるか、そしてアクセス権がどれだけ整理されているかによって決まります。

結論を先に述べます。文書の多くがMicrosoft 365またはGoogle Workspaceにあるなら、そのスイートのアシスタントを1つのチームで有効にするか、ライセンスを取得して試してください。ナレッジが多数のツールに散らばり、スイートが届かないなら、検索製品を2つに絞り、両方に同じテストを実施してください。自社で作るのは、検索が販売するものの一部である場合、またはデータ規則によってどの製品も使えない場合に限ります。どの道を選ぶ場合も、導入前に、誰がどのファイルを見られるかを決めてください。

通常の検索で足りるのはどんなときで、足りないのはどんなときか。

人々がどのツールを開けばよいか知っていて、ページのタイトルがはっきりしているなら、通常の検索で十分です。Wikiの検索ボックスや共有ドライブの検索はその役割をよく果たし、追加の費用もかかりません。

通常の検索では足りなくなるのは、次の3つの場合です。答えが複数のツールにまたがっている。質問に、どの文書にもない言葉が使われている。または、利用者が短い答え1つを求めている。何かを購入する前に、同僚10人に、最近答えるのに10分以上かかった質問を尋ねてください。多くが1つのツールを指すなら、まずそのツールの検索を直してください。

検索拡張はどう動き、回答はどのように出典を得るのか。

検索(リトリーバル)とは、回答を書く前に、答えを含んでいそうな箇所を見つけ出すことです。ソフトウェアが御社の文書を読み、いくつかの箇所に分割します。それらを、インデックス、つまり、検索のたびにすべてのファイルを読まずに済むよう、あらかじめ作っておく検索用の構造に保存します。誰かが質問すると、システムは最も合致する箇所を取り出します。そのうえで、ChatGPTの基盤にあたる種類のプログラムである大規模言語モデルが、それらをもとに返答を書きます。

RAGは、retrieval-augmented generation(検索拡張生成)の略で、これらの手順をまとめた呼び名です。AWSは説明の冒頭で「検索拡張生成(RAG)とは、大規模言語モデルの出力を最適化するプロセスです」と述べ、「出力には、出典への引用や参照を含めることができます」と続けています。

文字どおりの語だけでなく意味でも照合できるよう、多くのシステムは各箇所を埋め込み(エンベディング)に変換します。埋め込みとは、テキストの意味を表す数値の並びで、似た内容の箇所が近くに位置するようにしたものです。OpenAIは、埋め込みを「テキスト文字列の関連性を測る」手段と説明しています。

回答の横に表示される出典は、通常、モデルに渡された箇所から来ています。リンクは、システムがそのテキストの出どころだと示している場所を表します。モデルがそれを正しく読んだことの証明にはならないため、回答の一部を抜き出して、リンクを開いて確認してください。

当社のオフィススイートのアシスタントは、どこまでカバーし、どこで限界になるか。

コネクタとは、ConfluenceやCRMなど社外のツールを1つ読み取り、その内容を検索システムに渡すソフトウェアです。Microsoftは「人気サービス向けの100以上の構築済みコネクタ」を提供していると述べています。Google側では、Workspaceアプリ内のGeminiアシスタントとは別の製品がこの役割を担います。Googleは「Gemini Enterpriseは、イントラネット検索、AIアシスタント、エージェント型プラットフォームです」と述べ、「Confluence、Jira、Microsoft SharePoint、ServiceNowなど、よく使われるサードパーティ製アプリケーション向けの構築済みコネクタ」があるとしています。

限界は実務的なものです。スイートのアシスタントは、すでにそのスイート内にあるものを最もよく読み取ります。構築済みコネクタのないツールには、独自のコネクタが必要です。Microsoftのページには「カスタムコネクタは柔軟性を提供しますが、保守が必要です」とあります。ランキング、回答のスタイル、使えるモデルの範囲はベンダーの判断で決まるため、自社で構築するシステムに比べて、調整できる余地は小さくなります。

専用の検索製品は何を加え、何を手放すことになるか。

Glean、Elastic、Coveo、Guru、Atlassian Rovoは、多数のツールを横断して検索するために使われる製品の例です。Atlassianは「Rovo Searchを使えば、コンテキストを切り替えることなく、複数のツールを一度に検索できます」と述べています。得られるものは製品によって異なるため、3点を確認してください。御社のツールのうち、ベンダーが保守する構築済みコネクタがあるものはいくつか。結果はどのように順位づけされ、ページの作成者など、誰が何に携わっているかを手がかりとして使っているか。なぜその結果が1位になったのかを確認できるか。

手放すことになるのは、手軽さです。検索製品は、たいてい契約がもう1つ、管理コンソールがもう1つ増えることを意味します。ベンダーがホスティングして御社のコンテンツをインデックスする場合、そのベンダーは検索可能なコピーも持つことになります。そのコピーについては、リージョン、保持期間、ベンダーのアクセスを別途見直す必要があります。

自社構築とは何から成り、その後は誰が運用するか。

部品は5つあります。コネクタが、権限データとともに各ソースを読み取ります。取り込みジョブが、文書を箇所に分割し、更新します。インデックスが、キーワード検索と埋め込み検索に対応します。回答のステップが、最も合致する箇所をモデルに渡し、引用するよう指示します。チャット画面またはアドインに、ログと管理画面が加わって一式になります。Elasticのドキュメントには「ドキュメントレベルセキュリティは、ユーザーが読み取りアクセス権を持つドキュメントを制限します」とあります。一部のサブスクリプションレベルでは、Elastic独自のコネクタが、ConfluenceやSharePoint Onlineなどのソースについて、これらの権限を同期します。それ以外のソースについては、マッピングを自分で書くことになります。

導入後の作業のほうが大きな部分を占めます。ソースが変わったときにコネクタを直し、取り込みをやり直し、モデルの請求額を監視し、テスト質問を最新に保ち、アシスタントがなぜそう答えたのかを説明する人が必要です。始める前に、その担当者を決めておいてください。

アクセス権はどう引き継がれるのか。オーバーシェアリングとは何か。

多くのソースは、各項目を誰が開けるかの記録を保持しており、これはアクセス制御リスト(ACL)と呼ばれます。内容をインデックスにコピーするコネクタは、この記録もコピーするべきです。このようなコネクタについて、Microsoftは「各項目には、コンテンツ、メタデータ(タイトルやURLなど)、権限を強制するアクセス制御リスト(ACL)が含まれます」と述べています。Gleanは「ユーザーが元のシステムで文書を開けない場合、その文書はコンテキストとして使われず、検索結果として返されず、引用としても表示されません」と述べています。

コピーの質は、各コネクタの出来に左右されます。SharePointとGoogle Driveにはフォルダ、グループ、共有リンクがあります。Confluenceにはスペースとページの制限があります。Slackにはプライベートチャンネルとダイレクトメッセージがあります。CRMにはロールとレコードの所有者がいます。ソースごとに、ベンダーがこれらのルールをどう読み取るか、変更がどのくらいで反映されるか、ルールを読み取れないときはどうなるかを尋ねてください。最後の問いへの安全な答えは、その項目を隠すことです。

オーバーシェアリングとは、アシスタントによって表に出てくる、以前からの問題です。たとえば、給与のフォルダが何年も前に全社に共有されていたとします。誰も探さなかったため検索には出てきませんでしたが、アシスタントなら出せてしまいます。Microsoftは「過剰に共有された、または管理が不十分なコンテンツは、Copilotの結果に影響し、リスクを高める可能性があります」と述べています。SharePoint Advanced Managementの一部であるSharePointサイトのアクセス許可レポートでは、「外部ユーザー以外のすべてのユーザー」にアクセスを許可しているサイトがわかります。これは「すべての内部ユーザーを自動的に含み、外部のゲストは除く」グループです。導入前に、最もアクセス範囲が広いサイトを所有者と一緒に見直し、パイロットは限られたソースから始めてください。

古い文書、重複する文書、内容が食い違う文書は、どうなるか。

アシスタントは、2つのポリシーのうちどちらが最新かを判断できないことがあります。両方を引用したり、古いほうを自信たっぷりに引用したりするかもしれません。ソースごとに担当者を決め、古くなったものは廃止し、テーマごとに信頼できる情報源を1つにしてください。アシスタントには、各ソースの日付と作成者を示し、ソース同士が食い違うときはその旨を伝えるよう指示してください。

鮮度にはもう1つの側面があります。変更がインデックスに反映されるまでの速さです。Microsoftは「サイト継承により2人以上のユーザーがアクセスできるSharePoint Onlineサイトに追加された新しい文書は、毎日インデックスされます」と述べています。すでにインデックス済みの文書については、「変更は即座にインデックスされます」としています。どちらの遅延も、すべてのベンダーに書面で確認してください。

導入前に、自社の質問で回答の品質をどう検証するか。

社員から実際の質問を集め、それぞれに正しい答えと、その根拠となるべき文書を添えてください。同じセットをすべての候補で実行します。採点する観点は4つです。出典に正しい文書が含まれているか、答えが正しいか、役立つ文書がないときにその旨を正直に認めるか、アクセス権を守っているかです。

アクセスのテストには、ログインが2つ必要です。1人しか開けないフォルダに答えがある質問をします。もう1人には、出典のタイトルも含め、何の痕跡も返ってはいけません。変更のたびにこのセットを繰り返してください。合格ラインの考え方は、上にリンクした合格基準の記事で扱っています。

AIアシスタントは何を記録し、人々が何を尋ねたかは誰が見られるか。

質問が機微なものになることがあります。たとえば、同僚の懲戒手続きに関する質問です。Microsoftは、監査記録には「どのユーザーがCopilotとやり取りしたか、いつ行われたか、どこで行われたかの詳細が含まれます」と述べています。これとは別に、保存されるデータには「ユーザーのプロンプトとCopilotの応答が含まれます」とし、「この保存データを表示・管理するには、管理者はコンテンツ検索またはMicrosoft Purviewを使用できます」と付け加えています。どの経路についても、質問の文面を誰が、どのような理由で、どのくらいの期間読めるのかを確認してください。

GDPR上の役割、リージョン、保持期間、消去は、インデックスにとって何を意味するか。

GDPRはEUのデータ保護法です。ベンダーが御社のために個人データを扱う場合、御社は通常、データの利用目的と方法を決めるコントローラーにあたります。ベンダーは、御社に代わって処理を行うプロセッサーです。欧州データ保護会議(EDPB)のガイドラインは「プロセッサーは、コントローラーが指示した範囲を超えてはならない」としています。さらに「コントローラーが出す指示は、文書化されていなければならない」とも述べています。プロセッサーは、「コントローラーの事前の個別または一般的な書面による承認」なしに、別のプロセッサーを起用してはなりません。各契約は、御社の顧問弁護士に読んでもらってください。

リージョンについては、ベンダーごとに直接確認してください。Microsoftは「EUのトラフィックはEUデータ境界内にとどまりますが、全世界のトラフィックは、LLM処理のためにEUやその他の国・地域に送られることがあります」と述べています。同じページの注記には「サブプロセッサーとしてAnthropicが提供するモデルは、現在EUデータ境界の対象外です」とあります。Microsoftによると、これらのモデルは、その境界内の顧客に対して既定で無効になっているため、管理設定を確認してください。インデックスについては「EUデータ境界(EUDB)内の顧客の場合、インデックスはEU/EFTA域内のデータセンターに保存されます」と述べています。Microsoftはさらに「プロンプト、応答、およびMicrosoft Graph経由でアクセスされるデータは、基盤LLMの学習には使用されません」とも述べています。

インデックスは御社の文書のコピーであるため、文書内の個人データはインデックスにもあり、多くの場合ログにもあります。EDPBの中小企業向けガイドは「データ主体からの請求には、必ず1か月以内に回答すること」としています。複雑な請求の場合は、最初の1か月以内に本人に通知すれば、「さらに2か月」の延長が認められます。削除した文書がインデックスから消えるまでにどのくらいかかるか、バックアップやログにその本文が残るか、1人分の質問をどう削除できるかを確認してください。

席単位の課金と従量課金は、どう違うのか。

席単位の課金は、その人が検索するかどうかにかかわらず、記名ユーザー1人ごとに定額を請求します。従量課金は、処理したテキストの量など、システムが行った作業に対して請求します。ベンダーは、どちらか一方、または両方を組み合わせます。現在の料金を書面で確認し、最低席数、追加オプション、コネクタ料金も合わせて尋ねてください。また、誰にライセンスが必要かも確認してください。

従量課金の一例として、OpenAIの料金ページでは、text-embedding-3-smallモデルが100万トークンあたり0.02ドル、text-embedding-3-largeが0.13ドルと掲載されています。トークンとは、プロバイダーが数えて課金する、テキストの小さな単位です。これに加えて、インデックスの保管費用、モデルの実行費用、担当者の人件費がかかります。仮に、1文書あたり約2,000トークンの文書が5万件あるアーカイブを考えます。合計は1億トークンです。これを1回だけ埋め込み(エンベディング)に変換すると、smallモデルで2ドル、largeモデルで13ドルかかります。アーカイブの規模は仮定であり、定価は変わることがあります。

ロックインとは具体的にどんなもので、離れられるように何を手元に残すべきですか?

ロックインは、御社が手間をかけた場所にあります。1つのベンダーの管理コンソールで設定したコネクタ、そのベンダー独自形式のランキングルール、そのベンダーしか持たない権限のマッピングです。インデックスは御社のソースから再構築できるため、影響は最も小さくなります。期待する回答つきのテスト質問、権限の読み取り方を書いた対応表、モデルに与えた指示、独自のコネクタコードは手元に保管してください。ログのエクスポートも依頼してください。エクスポートと削除の条件は、契約で取り決めてください。

自社でナレッジ検索を構築するのが妥当なのは、どんなときか。

自社で作ることが妥当なのは、検索が販売する製品の一部である場合です。その場合は顧客自身が利用者となり、社員向けのライセンスでは対象になりません。また、自社クラウドで動かす製品も含め、どの製品もデータ規則に合わない場合も妥当です。社内検索だけのために作るのは正当化しづらく、コネクタ、アクセス制御、ログ、オンコール対応を自社で抱えることになります。

ベンダーや、構築を請け負う会社に、何を尋ねるべきか。

ベンダーまたはスイートの提供会社に対して:

  • 当社のソースのうち、構築済みコネクタがあるものはどれで、誰が保守しますか。
  • 各ソースから権限をどのように読み取りますか。ルールを読み取れない場合は、どうなりますか。
  • 変更や削除がインデックスに反映されるまで、どのくらいかかりますか。
  • インデックス、質問、ログはどこで処理され、質問は誰が読めますか。
  • 当社の実際の利用状況で1か月分の費用はいくらですか。また、解約する場合、何をエクスポートできますか。

自社で作る場合:

  • どの部分を自社で書き、どの部分を既存の製品から取り入れますか。
  • 当社のクラウドアカウントで動かせますか。また、キーは誰が持ちますか?
  • 回答とアクセス権をどのようにテストしますか。また、当社側では誰が承認しますか。
  • 公開後は誰が運用し、毎月いくらかかりますか?

amBrain はどこに位置づけられるか

このブログを発行しているのは amBrain である。自社のプロダクトについて、amBrain はこう述べている:「自社プロダクトのaigoは、会社の事実を集めた一つの共有メモリをもとに、調査、執筆、確認、計測を行うAIエージェントで動きます。配信されるものはすべて担当者が承認します。」

この記事は事例紹介ではなく、顧客向けの案件には触れていません。amBrainがいずれかの顧客のためにナレッジ検索システムを構築したとは述べていません。上の1行はamBrain自身の製品についてのもので、挙げた例は一般的なものです。

ここに挙げた企業、製品、公的機関は、2026年11月11日に確認した各社の公開ページから引用しています。この記事は、amBrainとそれらのいずれとの関係も主張せず、amBrainの料金や所要期間も示していません。

amBrain は2019年からソフトウェアを作っている。顧客との仕事の進め方については、こう述べている:「三つの形態:フルデリバリー、専任チーム、あるいはあなたのチームに入るエンジニア。」所有権についての一文はこうだ:「顧客は、プロダクトとコードの完全な所有権を保持する。ただし、私たちの再利用可能なコンポーネントは除く。」署名の前に、そのコンポーネントを名前で列挙した一覧を求めること。

amBrainが候補に入っているなら、他社と同じ質問をしてください。

トピック

  • ナレッジ検索
  • エンタープライズサーチ
  • RAG
  • 自作か購入か

言語モデルを本番稼働させますか?

設計案、または解決しようとしている問題と、すでにお持ちの数字をお送りください。

プロジェクトについてお聞かせください

24時間以内に、明確な進行計画をお返しします。

手元に似た設計はありますか?

24時間以内に、明確な進行計画をお返しします。

無料のプロジェクト初回相談 · 30分