GenAI

用 AI 搜索公司知识:用 Copilot 或 Gemini、用 Glean 这类搜索产品,还是自建

一份通俗指南,讲的是对公司自有文档、维基、工单和聊天记录做 AI 搜索。内容包括:普通搜索什么时候够用,检索如何生成带来源的回答;Microsoft 365 Copilot、Gemini Enterprise 和 Atlassian Rovo 各自覆盖什么,Glean 或 Elastic 这类搜索产品又多出什么;还讲到访问权限与过度共享、过期文档、测试、日志、GDPR、定价模式、锁定风险,以及该问供应商的问题。

作者:amBrain阅读需 10 分钟

本文内容

公司里有人问最新的退款政策在哪里。答案分散在三个地方:一个维基页面、一个工单讨论串,以及去年春天的一条聊天消息。带 AI 的知识搜索会读完所有这些来源,给出一个回答,并附上出处链接。你有三条路。可以用办公套件里的助手,它可能需要单独的许可证;可以购买企业搜索产品;也可以在自己的数据上搭一套系统。选哪条路,主要看有多少个工具存放着你的知识,以及你的访问权限整理得有多干净。

简短回答:如果你的大部分文档在 Microsoft 365 或 Google Workspace 里,就为一个团队开通或购买该套件的助手并测试。如果知识分散在套件够不到的许多工具里,就挑两款搜索产品入围,对两者做同样的测试。只有当搜索本身是你所售产品的一部分,或某项数据规则把所有产品都排除在外时,才自建。无论走哪条路,都要在上线前定好谁能看到哪些文件。

什么时候普通搜索就够用,什么时候不够?

当人们知道该打开哪个工具、页面标题也清楚时,普通搜索就够了。维基的搜索框或共享盘的搜索能把这件事做好,也不用额外花钱。

在三种情况下,它就不够用了。答案分散在多个工具里。提问用的词没有任何文档用过。或者提问的人想要一个简短的单一答案。在买任何东西之前,先请十位同事各说出他们最近一个花了十分钟以上才找到答案的问题。如果大多数都指向同一个工具,就先把那个工具的搜索修好。

检索是如何工作的,回答的来源从何而来?

检索是指在写出任何回答之前,先找出最可能包含答案的段落。软件读取你的文档并切成段落,存入索引,索引是预先建好的查找结构,这样每次搜索就不必读遍所有文件。有人提问时,系统取出匹配度最高的段落,再由大语言模型(就是 ChatGPT 背后那类程序)根据这些段落写出回复。

RAG 是检索增强生成(retrieval-augmented generation)的简称,指这些步骤合在一起的整体。AWS 在解释时开篇就说“检索增强生成(RAG)是优化大语言模型输出的过程”,并补充道“输出可以包含引用或对来源的参考。”

要同时匹配含义和确切用词,许多系统会把每个段落转成向量。向量是一串数字,代表文本的含义,使谈论相近内容的段落彼此靠得很近。OpenAI 把向量描述为一种“衡量文本字符串相关程度”的方法。

回答旁边的来源,通常来自交给模型的那些段落。链接显示的是系统所说的文本出处,并不能证明模型读得正确,所以请抽样打开一部分回答的链接。

我们办公套件里的助手覆盖什么,局限在哪里?

连接器是一种软件,负责读取 Confluence 或 CRM 这类外部工具,并把内容交给搜索系统。微软称其提供“100 多个面向常用服务的预置连接器”。在谷歌一侧,承担这项工作的是另一款产品,不同于 Workspace 应用里的 Gemini 助手。谷歌称“Gemini Enterprise 是一个内部网搜索、AI 助手和智能体平台”,带有“面向 Confluence、Jira、Microsoft SharePoint 和 ServiceNow 等常用第三方应用的预置连接器”。

局限是很实际的。套件里的助手最擅长读取已经在套件里的内容。没有现成连接器的工具,需要定制一个。微软的页面称“定制连接器很灵活,但需要维护。”排序方式、回答风格和可用模型范围都由供应商决定,所以你能调整的空间比自建系统要小。

专门的搜索产品多提供了什么,我们又要放弃什么?

Glean、Elastic、Coveo、Guru 和 Atlassian Rovo 是用于跨多个工具搜索的产品示例。Atlassian 称“Rovo Search 让你同时搜索多个工具,而无需来回切换上下文。”各家带来的价值不同,所以要核对三件事。你的工具里有多少个有供应商维护的现成连接器?结果如何排序,产品会不会把谁在做什么(例如页面作者)当作信号?你能看到某个结果为何排第一吗?

你放弃的是简单。搜索产品通常意味着又一份合同、又一个管理控制台。如果由供应商托管并为你的内容建索引,该供应商也持有一份可搜索的副本。这份副本需要单独审查区域、保留期限和供应商的访问权限。

自建包括哪些内容,上线之后由谁来运维?

共有五个部分。连接器读取每个来源及其权限数据。导入任务把文档切成段落并定期刷新。索引支持关键词搜索和向量搜索。回答环节把最佳段落交给模型,并要求它注明出处。一个聊天界面或插件,加上日志和管理视图,构成完整的一套。Elastic 的文档称“文档级安全性限制用户拥有读取权限的文档”。在部分订阅级别上,Elastic 自带的连接器会为 Confluence 和 SharePoint Online 等来源同步这些权限。其他来源则要你自己写映射。

上线之后的工作才是大头。有人要在来源变化时修复连接器、重跑数据导入、盯着模型账单、让测试问题保持最新,并解释助手为什么那样回答。开始之前就要确定这些人选。

访问权限如何沿用,过度共享问题是什么?

大多数来源都会记录谁可以打开每个条目,这份记录常被称为访问控制列表,即 ACL。把内容复制到索引的连接器,也应当复制这份记录。对于这类连接器,微软称“每个条目都包含内容、元数据(如标题和 URL)以及用于执行权限的访问控制列表(ACL)。”Glean 称“如果用户在源系统中打不开某份文档,该文档就不能被用作上下文、不会作为搜索结果返回,也不会作为引用出现。”

这份副本的质量取决于每个连接器。SharePoint 和 Google Drive 有文件夹、群组和共享链接。Confluence 有空间和页面限制。Slack 有私有频道和私信。CRM 有角色和记录所有者。对每个来源,都要问供应商如何读取这些规则,变更多快能同步过来,以及规则读不出来时会怎样。对最后一个问题,稳妥的答案是隐藏该条目。

过度共享是助手暴露出来的老问题。假设一个薪资文件夹多年前被共享给了全公司。搜索从没把它找出来,因为没人去找,而助手可以。微软称:“过度共享或治理不善的内容可能影响 Copilot 的结果并增加风险。”它的 SharePoint 站点权限报告(属于 SharePoint Advanced Management)会显示哪些站点向“除外部用户之外的所有人”授予访问权限,这个群组“自动包含所有内部用户,但不包含任何外部访客”。上线前,请与站点所有者一起检查访问范围最宽的站点,并且试点只从一小部分来源开始。

过期、重复和相互矛盾的文档会怎样?

助手可能分不清两份政策哪份是现行的。它可能两份都引用,也可能自信地引用旧的那份。请为每个来源指定负责人,淘汰过时内容,并让每个主题只保留一个权威来源。请让助手显示每个来源的日期和作者,并在来源互相矛盾时说明。

新鲜度还有另一面:变更多快能进入索引。微软称“添加到 SharePoint Online 站点的新文档,只要通过站点继承可被两位或更多用户访问,就会每天编入索引。”对于已经编入索引的文档,它称“变更会立即编入索引。”请让每家供应商书面说明这两个延迟。

上线前,我们如何用自己的问题测试回答质量?

收集员工的真实问题,每个都附上正确答案和答案应当出自的文档。对每个候选产品运行同一套问题。从四个方面打分:来源中是否有正确的文档,回答是否正确,在没有文档能回答时是否坦率承认,以及是否遵守访问权限。

访问测试需要两个登录账号。提一个问题,答案在只有一个人能打开的文件夹里。另一个人必须看不到任何痕迹,连来源标题也不行。每次变更之后都要重跑这一套。上文链接的那篇讲及格线的文章,谈到了阈值。

AI 助手会记录什么,谁能看到大家问了什么?

有些问题可能很敏感,比如关于某位同事纪律处分的问题。微软称其审计记录“包含哪位用户与 Copilot 交互、交互发生的时间以及发生的位置等详细信息”。另外,它称存储的数据“包括用户的提示和 Copilot 的回复”,并补充道:“管理员可以使用内容搜索或 Microsoft Purview 查看和管理这些存储的数据。”对每一条途径,都要问清谁可以读到问题原文、出于什么理由、能保留多久。

GDPR 的角色、区域、保留期限和删除,对索引意味着什么?

GDPR 是欧盟的数据保护法。当供应商替你处理个人数据时,你通常是控制者,决定数据为何以及如何使用。供应商是处理者,代你行事。欧洲数据保护委员会的指南称:“处理者不得超出控制者的指示行事。”指南还称:“控制者发出的指示必须有书面记录。”处理者不得聘用另一处理者,除非“事先获得控制者的具体或一般书面授权”。请让你自己的律师阅读每一份合同。

请直接向每家供应商询问数据所在区域。微软称“欧盟流量保留在欧盟数据边界内,而全球流量可能被发送到欧盟及其他国家或地区进行 LLM 处理。”同一页面的一条说明补充道:“由 Anthropic 作为子处理方提供的模型,目前不在欧盟数据边界之内。”微软称,对该边界内的客户,这些模型默认是关闭的,所以请检查管理员设置。关于索引,它称“对于欧盟数据边界(EUDB)内的客户,索引存储在位于欧盟/欧洲自由贸易联盟的数据中心。”微软还称“提示、回复以及通过 Microsoft Graph 访问的数据不会用于训练基础 LLM”。

索引是你文档的副本,所以文档里的个人数据也在索引里,往往还在日志里。委员会的小企业指南称“始终在一个月内回应数据主体请求。”对于复杂的请求,在第一个月内告知当事人的前提下,它允许“再延长两个月”。请问:被删除的文档要多久才会从索引中清除,备份和日志是否还保留其文本,以及如何移除某个人的提问记录。

按席位定价与按用量定价有什么区别?

按席位定价,是对每位具名用户收取固定金额,不论此人是否使用搜索。按用量定价,则按系统的工作量收费,例如处理的文本量。供应商会采用其中一种,或两者混合。请索取当前价格的书面报价,包括最低席位数、附加功能和连接器费用,并问清谁需要许可证。

作为按用量计费的一个例子,OpenAI 的定价页面列出 text-embedding-3-small 模型每百万 token 0.02 美元,text-embedding-3-large 为 0.13 美元。token 是供应商用来计数和计费的一小段文本。存储索引、运行模型和支付人力的成本另算。假设有一个虚构的档案库,共 50,000 份文档,每份约 2,000 个 token,合计 1 亿个 token。把它一次性转成向量,用 small 模型花 2 美元,用 large 模型花 13 美元。档案库规模只是假设,标价也可能变动。

锁定风险是什么样子?我们该保留什么,才能随时离开?

锁定风险出现在你投入精力的地方:在某家供应商控制台里配置的连接器、用其格式写成的排序规则,以及只有它掌握的权限映射。索引可以从你的来源重建,所以影响最小。请保留带预期答案的测试问题、一份说明权限如何读取的书面材料、给模型的指令,以及任何自定义连接器代码。请求导出日志。在合同里约定导出和删除条款。

什么时候自建知识搜索才有理由?

当搜索本身就是你所售产品的一部分时,自建才有理由,因为这时用户是你的客户,没有任何员工许可证能覆盖他们。当某项数据规则把所有产品都排除在外,包括能在你自己的云上运行的产品,自建也有理由。仅为员工搜索而自建就很难说得通,因为你要承担连接器、访问控制、日志和值班责任。

我们该向供应商,或打算承接自建的公司问什么?

对于供应商或套件提供商:

  • 我们的哪些来源有现成连接器,由谁维护?
  • 你们如何读取每个来源的权限,规则读不出来时会怎样?
  • 变更或删除多久能反映到索引中?
  • 索引、问题和日志在哪里处理,谁能读到这些问题?
  • 按我们的实际使用量,一个月要花多少钱?如果离开,我们能导出什么?

对于打算自建的公司:

  • 哪些部分由你们编写,哪些取自现有产品?
  • 它会运行在我们的云账号里吗?密钥由谁掌握?
  • 你们将如何测试回答和访问权限,我们这边由谁签字确认?
  • 上线之后谁来运行?每月要花多少钱?

amBrain 在其中处于什么位置?

本博客由 amBrain 发布。关于自己的产品,它是这样说的:“我们自己的产品 aigo 由研究、撰写、检查和衡量的 AI 智能体运行,依托同一份公司事实的共享记忆。所有发出的内容都由人批准。”

本文不是案例研究,也不描述任何客户工作。文中没有任何内容表明 amBrain 为任何客户建造过知识搜索系统。上面那一行说的是 amBrain 自己的产品,文中的例子都是泛泛而谈。

这里提到的公司、产品和公共机构,均引自其已发布的页面,阅读日期为 2026年11月11日。文章不声称 amBrain 与其中任何一家有关系,也不给出 amBrain 的价格或时间表。

amBrain 自 2019 年起开发软件。关于与客户的合作方式,它说:“三种合作方式:整体交付、专属团队,或工程师嵌入你的团队。”它关于所有权的说法是:“客户拥有产品与代码的全部所有权,我们的可复用组件除外。”签约之前,请要求它逐项列出这些组件的名称。

如果 amBrain 在你的候选名单上,请像对其他任何公司一样,向它提出同样的问题。

主题

  • 知识搜索
  • 企业搜索
  • RAG
  • 自建还是购买

要把语言模型投入生产?

发来你的设计或你要解决的问题,以及你已有的数字。

介绍一下你的项目

我们会在24小时内给出明确的行动计划。

手头有类似的设计?

我们会在24小时内给出明确的行动计划。

免费项目介绍通话 · 30 分钟