全公司统一 AI 平台：单一供应商、多模型工作区、网关、云端目录还是自建

许多公司都会走到同一步。员工已经在用 ChatGPT 或 Microsoft Copilot，现在有人想要另一个模型、一个供某个团队共用的助手，或是一份谁问了什么的记录。模型是写出回答的训练好的程序，大语言模型（LLM）是处理文本的模型。你可以继续用某一家供应商的产品，可以买一个带多个模型的工作区，也可以在多家提供方前面放一个网关。网关是位于你的软件与模型之间的控制点。你也可以从云端目录租用模型，或者自建。多数中型公司应当从员工已在使用的产品起步，只在出现明确需求时再添加组件。

公司为什么会想要不止一个 AI 模型？什么时候一个就够了？

不同模型擅长的事和成本各不相同，供应商也经常调整产品阵容。即便是单一产品，也会混用多个模型。Microsoft 关于 Copilot 的页面说：“默认情况下，Copilot 使用实时路由器，根据你的提示词调整所用的底层模型。”

有三个理由，值得你自己选模型。某个团队可能需要你的产品里没有的模型。某项常规任务可能更适合一个更小、更便宜的模型。或者你想备好第二家提供方，以防宕机。如果员工用 AI 来起草和搜索，没有人把 AI 做进你的软件，而且管理控制符合你的规定，那么一家供应商就够了。

ChatGPT Enterprise 和 Microsoft 365 Copilot 能给我们什么？它们的局限在哪里？

对于 ChatGPT Enterprise 工作区，请以书面形式向 OpenAI 询问当前的管理控制、数据条款和模型清单。OpenAI 的 API 文档说“发送到 OpenAI API 的数据不会用于训练或改进 OpenAI 模型（除非你明确选择与我们共享数据）”，但该页面讲的是 API，而不是 ChatGPT 应用。

自定义 GPT 是员工在 ChatGPT 里用书面指令和附加文档搭建的助手。OpenAI 把它描述为一种定制 ChatGPT 的方式，即“提供指令、附加文档作为知识”。

Microsoft 说：“Microsoft 在 Microsoft Copilot 中提供第三方 AI 模型，例如 Anthropic 和 OpenAI 的模型。”它还补充说：“作为管理员，你可以决定是否使用这些模型来支持你的体验，并且可能适用额外条款。”

局限在你构建助手时显现出来。Microsoft 说，声明式智能体“使用 Copilot 的 AI 基础设施、模型和编排器”，所以你能设置指令、知识和操作，但模型仍由 Microsoft 来选。自定义引擎智能体，即“自带编排器和模型”，可能“需要在 Microsoft 365 之外另行托管”。Microsoft 说，搭建方式“既有 Copilot Studio 中的简单配置，也有高级的全代码实现”，而这条路径上的全代码一端，本身就是自建。

什么是多模型工作区？我们要放弃什么？

多模型工作区是面向员工的聊天应用，在同一个登录入口下提供多家提供方的模型。有两个可以部署在你自己服务器上的例子：Open WebUI 的文档提到“支持 Ollama 和兼容 OpenAI 的 API”，LibreChat 则称自己是“自托管的网页应用”。这类产品也有托管版。

你要放弃的是深度。Microsoft 说，Copilot“只会呈现个人用户至少拥有查看权限的组织数据”，因为它直接读取你的 Microsoft 365 权限。一个独立的工作区需要自行接入你的文件和系统，你还得梳理清楚谁能看到哪些文件。自托管需要有人来运行，托管产品则多出一家处理你提示词的公司。

LLM 网关做什么？谁需要它？

网关是位于你的软件与模型提供方之间的一项服务。你的软件把每个请求都发往同一个地址，再由网关转发给选定的模型。token 是模型读取和写出的文本小单位，也是提供方计数和计费的单位。Anthropic 的术语表说，token“可以对应单词、子词、字符，甚至字节”。

开源的 LiteLLM 项目把它的网关描述为“自托管服务器”，提供“一个兼容 OpenAI 的端点，对接 100 多家 LLM 提供方、MCP 工具和 A2A 智能体”。它说要“为每个用户、团队和项目发放一个虚拟密钥”，每个密钥都带有“模型、预算和速率限制”。这样，真正的提供方密钥就只保存在一个地方。

其他产品也有类似功能。Portkey 说它已将自己的网关“开源”。托管服务 Cloudflare AI Gateway 说，你可以“查看请求数、token 数以及运行应用所需费用等指标”。Kong 说它的 AI Gateway 可以“在某个提供方或模型变慢或不可用时，自动故障切换到另一个提供方或模型”。

当多个团队或产品通过代码调用模型，而你希望在一个地方管理密钥、预算、路由和日志时，你需要网关。只使用聊天应用的员工不需要。网关不会给他们提供聊天窗口，而且根据设置，它的日志里可能含有提示词（员工输入的文字），所以要加以保护。

云服务商的模型目录能增加什么？

三个例子是 Microsoft Foundry（原 Azure AI Foundry）、Amazon Bedrock 和 Google 的 Gemini Enterprise Agent Platform（原 Vertex AI）。它们让你的工程师通过你已有的云账号，调用许多提供方的模型。Microsoft 说 Foundry 目录“包含超过 10,000 个模型”，AWS 说 Bedrock 支持“100 多个基础模型”。Google 说 Model Garden 收录了“来自 Google 和 Google 合作伙伴”的模型。

好处是沿用你现有的安全配置、一张发票，以及可选的处理位置。Microsoft 说：“你可以根据合规要求，选择全球、数据区域或区域处理。”这适用于无服务器部署。对于托管在 Anthropic 自己基础设施上的 Claude 模型，Microsoft 说数据“可能在 Azure 之外处理，包括在你所选的 Azure 地理区域之外”。代价是它是给构建者用的工具箱。其控制台里的任何聊天界面都是供构建者测试用的，所以员工拿不到现成的聊天产品，测试和模型选择仍由你负责。Microsoft 还说，较旧的模型“可能会从 Foundry 模型目录中停用”。

我们如何迁移自定义 GPT、提示词和知识文件？哪些东西会留在原处？

先查看 OpenAI 的时间表。2026 年秋季的媒体报道称，OpenAI 计划在 2026 年 12 月停用自定义 GPT，并迁移到插件，部分企业版工作区的日期会更晚。请以你自己工作区收到的通知为准。列出每个助手及其负责人和用途。先重建使用最多的，并用同一组问题测试每个副本。有三样东西可以顺利迁移：指令文本、你手上还有原件的源文档，以及你的测试问题。有四样东西会留在原处。对话历史留在旧平台，能导出多少取决于它的管理工具。共享设置必须重新设置。操作，即助手对你其他系统的调用，必须在每个平台上重新设置；如果平台接受 API 的 OpenAPI 描述，这份描述可以复用。回答也会变，因为每个平台切分和检索文件的方式各不相同，底层的模型也不一样。

谁可以看到什么？每条路线如何处理我们的数据？

请向每种路线问清楚：你的数据是否会用来训练提供方的模型，以及在哪里处理。各供应商的说法如下：

• OpenAI API：“发送到 OpenAI API 的数据不会用于训练或改进 OpenAI 模型（除非你明确选择与我们共享数据）”。
• Microsoft 365 Copilot：提示词、回复，以及通过 Microsoft Graph（Microsoft 365 的数据服务）读取的数据，都不会用于训练它的基础模型。“欧盟流量保留在欧盟数据边界内，而全球流量可能被发送到欧盟及其他国家或地区进行 LLM 处理”，并且“由 Anthropic 作为子处理者提供的模型，目前不在欧盟数据边界范围内。”
• Amazon Bedrock：“AWS 和第三方模型提供方不会使用 Amazon Bedrock 的任何输入或输出来训练 Amazon Nova、Amazon Titan 或任何第三方模型。”AWS 的通用隐私常见问题补充说：“你选择存储内容所在的 AWS 区域。”如果使用全球跨区域推理配置文件，Bedrock 可以在“全球任何受支持的 AWS 商业区域”处理请求。
• Gemini Enterprise Agent Platform（原 Vertex AI）：Google 表示，未经你事先许可或指示，不会用你的数据训练模型。它说静态数据保留在你选定的位置，但发往全球端点的请求“可能在全球任何 Google Cloud 位置处理”。
• 你自己托管的工作区或网关：数据在转发出去之前一直留在你的环境里，转发之后适用模型提供方的条款。托管的网关则多出一家公司。

对于个人数据，GDPR 把代你处理数据的公司称为处理者。通俗地说，第 28 条要求签订书面合同，并且只能按你的书面指示行事，法律另有要求的除外。只有事先获得你的书面授权，才能加入另一个处理者。这种授权可以是概括性的，此时处理者必须把变更通知你，让你有机会提出异议。Microsoft 的 Foundry 页面说，Azure Machine Learning 服务“对于无服务器部署中提交的提示词和输出的内容，担任数据处理者”。对于 Foundry 中的 Claude 模型，Microsoft 说 Anthropic“是独立的数据处理者”，所以要逐个模型查清处理者是谁。请让你自己的法律顾问审阅每一份合同。

在公司内部，助手只应向一个人展示他本来就能打开的内容。无论走哪条路线，包括 Copilot，都要用一个登录账号，在这个人不该看到的文件夹上测试这一点。

治理在实践中需要什么？

首先是角色：谁负责每个助手，谁批准新助手，谁可以切换模型。NIST 的 AI 风险管理框架说：“与映射、衡量和管理 AI 风险相关的角色、职责和沟通渠道均有文件记录，并且在整个组织的个人和团队中都清晰明确。”

审批排第二。发送邮件、修改记录或支付发票，都应等人确认，正如上文链接的那篇关于人工审批的文章所说明的。日志排第三：谁提的问、哪个模型作答、运行的是助手的哪个版本，以及花了多少钱。只要你的软件在每个请求里带上人员和助手版本，网关就能为你调用的每个模型写出其中大部分记录。

第四项是用例登记表。NIST 的操作手册说：“已建立机制来盘点 AI 系统，并按组织风险优先级配置资源。”刚开始，一份共享的电子表格就够了。每一行写上用例、负责人、所用模型、涉及的数据和复审日期。

按席位计费与按 token 计费有什么不同？

按席位计费，是为每个具名用户收取固定金额。按 token 计费，是为你的软件发送和接收的文本收费。请让每家供应商以书面形式给出当前的席位价格，并列明所有最低消费和附加项。

关于 token，Anthropic 公布了以美元计价的价目表。其中 Claude Sonnet 5.5 为每百万输入 token 2 美元、每百万输出 token 10 美元。Claude Haiku 5.5 在提示词不超过 10 万 token 时，为 0.10 美元和 0.50 美元。

设想一个虚构的工作负载：每天 1000 个请求，每个发送 3000 个 token、接收 500 个，合计 300 万输入 token 和 50 万输出 token。用 Sonnet 5.5，输入 6 美元加输出 5 美元，每天 11 美元。用 Haiku 5.5，则是 0.30 加 0.25，每天 55 美分。这个工作负载只是假设，云端转售商的收费也可能不同。

输出 token 比输入 token 贵，模型选择会让账单相差很多倍，附带的长文档还会抬高输入一侧的费用。从第一天起就要给网关设预算。

锁定风险是什么样子？我们该保留什么，才能随时离开？

锁定风险存在于投入精力的地方：在某家供应商的编辑器里搭建的助手、存放并预处理于其系统中以便检索的文件、用其格式编写的操作，以及只有它掌握的历史记录。如果你的路由规则所用的格式只有网关自己能读，网关也可能成为锁定。

把每个助手的指令文本，连同源文档、你的测试问题和日志导出，一起放进代码仓库。通过兼容 OpenAI 的端点（许多工具都照搬的一种请求格式）调用模型，并基于开放格式构建操作，比如 OpenAPI 描述（对 API 的标准描述），或者 Model Context Protocol，它自称是“用于把 AI 应用连接到外部系统的开源标准”。在合同里约定导出、删除和模型停用通知的条款。

什么时候自建平台才说得通？

当 AI 本身就是你所售产品的一部分时，自建才说得通，因为这时用户是你的客户，员工许可证并不覆盖他们。当某个流程需要没有任何产品能提供的逻辑，比如按客户合同路由，自建也说得通。关于数据可在哪里处理的规定，也可能把所有托管方案都排除在外。

仅为员工聊天就自建，很难说得通。上面这些产品已经做到了，而你却要承担更新、访问控制、日志和值班。

我们该问供应商什么？

• 我们可以选择哪些模型？某个模型被替换或停用时，由谁决定？
• 在任何套餐下，我们的数据是否会用于训练？合同里哪里这样写？
• 数据在哪个区域处理？会因我们选的模型而改变吗？
• 供应商是不是我们的 GDPR 处理者？它使用哪些子处理者？
• 管理员能否查看并导出提示词和回答的日志？
• 按我们的真实用量，一个月要花多少钱？请计入所有最低消费和附加项。
• 如果我们离开，可以带走什么？用什么格式？

我们应该向负责开发的公司问些什么？

• 哪些部分由你们开发，哪些部分用现有产品配置？
• 它会运行在我们的云账号里吗？密钥由谁掌握？
• 上线前你们会如何测试每个助手？我们这边由谁签字确认？
• 最后我们会拿到什么：代码、配置、测试集、日志、运维指南？
• 上线之后谁来运行？每月要花多少钱？

amBrain 在其中处于什么位置？

本博客由 amBrain 发布。关于自己的产品，它是这样说的：“我们自己的产品 shyash.ai 由研究、撰写、检查和衡量的 AI 智能体运行，依托同一份公司事实的共享记忆。所有发出的内容都由人批准。”

本文不是案例研究，也没有描述任何客户工作。文中没有任何内容表明 amBrain 为任何客户构建过多模型平台或网关。上面那句话说的是 amBrain 自己的产品，文中的例子都是通用的。

本文提到的公司和项目，均引自它们已发布的页面，查阅日期为 2026 年 11 月 10 日。本文不声称 amBrain 与其中任何一家有关系，也不给出 amBrain 的价格或时间表。

amBrain 自 2019 年起开发软件。关于与客户的合作方式，它说：“三种合作方式：整体交付、专属团队，或工程师嵌入你的团队。”它关于所有权的说法是：“客户拥有产品与代码的全部所有权，我们的可复用组件除外。”签约之前，请要求它逐项列出这些组件的名称。

如果 amBrain 在你的候选名单上，请像对其他任何公司一样，向它提出同样的问题。