购买文档 AI 软件还是定制开发 LLM 管道：受监管公司如何决策，又如何对两者进行测试

如果你的文档不能离开你的边界（即你公司掌控的服务器、网络和云账户），你可以购买能安装在边界之内的文档 AI 软件，可以请一家工程公司在边界之内围绕语言模型定制开发一条管道，也可以把两者结合起来。做决定的办法，是在边界之内用验收集给每个候选方案打分，无论它是买来的还是自建的。验收集就是你的真实文档，每个字段的正确值都由你自己的员工写下。走自建路线的话，候选名单上的工程公司应当能拿出一套它们在客户边界之内投入生产的系统。每家公司还应当同意在你签约之前，先用你的文档接受打分。

我们是在哪些方案之间做选择？

文档 AI 软件是一种授权使用的产品，供应商称之为智能文档处理（intelligent document processing，简称 IDP）。它按类型分拣收到的文档，抽取日期、金额等字段，并把拿不准的文档交给人处理。有些文档 AI 软件可以安装在你的边界之内，但代码仍归供应商所有。

定制管道是工程公司针对你的文档类型和规则编写的代码。其中一个步骤是大语言模型（LLM），也就是用海量文本训练出来的模型。它读取每份文档，为你要求的每个字段返回一个值。其他步骤依据你的规则检查这些值，把有疑问的交给你的员工，其余的传给你的系统。

哪些文档 AI 软件能在我们的边界之内运行？

这一点要最先核实，因为有些文档 AI 软件是作为供应商云端的服务出售的，你发给它的每一页都会离开你的边界。Amazon Textract 的常见问题解答（2026 年 10 月 15 日查阅）列出了提供 Textract 的各个 AWS 区域，没有介绍任何可以自行安装的版本。

同一份常见问题解答说，Textract 接受从你自己的 AWS 网络经私有连接（AWS PrivateLink）发来的调用，因此这些调用“避免使用公共互联网”，但处理这些页面的仍然是 Amazon 的服务。它还说，除非你选择退出，否则“Amazon Textract 处理的部分内容可能会存储在另一个 AWS 区域”，用于改进 Amazon 的机器学习服务。

另一些供应商在自己的页面上（同一天查阅）表示，它们的软件可以在你的边界之内运行。在这里点名它们并不代表推荐，这份名单也不完整。

Microsoft 把 Azure Document Intelligence 作为云服务出售，其中部分模型也以容器形式出售，容器就是在你自己的机器上运行的打包软件。它关于离线容器（disconnected containers）的页面说，这类容器“适用于容器运行时无需与云端建立任何连接的场景”。要使用离线容器，你“必须先填写并提交申请表，并购买承诺计划”。

ABBYY 的 Vantage 平台页面说“Vantage 被设计为云优先的平台”，接着又补充：“作为另一种选择，也提供灵活的部署方式，可在本地或你在 Microsoft Azure 上的私有云实例中运行 Vantage。”Hyperscience 的 Hypercell 平台页面在部署选项中列出了本地部署（在你自己的服务器上）和“客户私有租户（AWS、Google、Microsoft Azure）”，与之并列的还有 Hyperscience SaaS，即由该公司托管在 AWS 或 Google Cloud 上的版本。

能在你的边界之内运行的功能清单，要拿到书面版本，因为同一家供应商自己的页面之间也可能说法不一。Microsoft 的常见问题解答说“离线容器可用于 Document Intelligence 的自定义模型和发票模型”，而它的离线容器页面列出的是 Read、Layout、身份证件、收据等容器。

我们的哪些文档适合用买来的软件，哪些需要定制管道？

如果你的大部分业务量都是软件已经能读取的文档类型，比如发票或身份证件，就适合购买。同时，你针对这些类型的规则也要和其他公司的规则相近。这样，你就可以在为任何开发付费之前，先用你的文档测试软件现成的模型。

定制管道适合你公司特有的文档类型，比如内部表单、交易对手的来函或自由文本形式的客服工单。如果处理结果必须遵循只有你公司才有的规则，或者要送进一个没有任何供应商能对接的系统，定制管道也更合适。管道把这些规则写成代码，而买来的软件只能在供应商工具允许的范围内配置这些规则。

组合方案按文档类型分工：软件读取它认识的标准表单，定制管道处理你自己的文档类型、你的规则，以及向你的系统的交接。哪种类型交给哪一边，由测试结果决定。连接两套系统的那些部分，需要在合同中写明负责人。其中包括为每份文档分配去向的路由步骤、复核队列（等待人工处理的文档清单），以及审计记录，也就是记载每份文档经历了什么的日志。

签约之前，怎样用我们自己的文档测试这两种方案？

在与供应商见面之前，先建好验收集。按你实际收到的各类文档的比例，取一批近期的文档，扫描件和手机照片也包括在内，由你自己的员工写下每个字段的正确值。既要包括你预计交给软件读取的类型，也要包括你预计交给定制管道处理的类型，这样一套验收集就能给每条路线打分。

每一项测试都在边界之内进行：软件用你将要授权的那个版本来试用，工程公司的原型则在你掌控的账户下运行。

试用版本仍可能连接到供应商。Microsoft 的离线容器需要先获批申请并购买承诺计划，所以在你购买承诺计划之前做的测试，可能要以联网容器的形式运行。它的常见问题解答说，联网容器“不会把客户数据（例如正在分析的图像或文本）发送给 Microsoft”，并且“需要互联网连接，以便向 Azure 发送计费信息。”是否允许这条连接，由你的安全团队决定。

在任何人看到验收集之前，先把它一分为二。供应商和工程公司可以用第一部分来配置各自的系统，第二部分留在你手里。最终分数只来自这第二部分，按四项指标计算：

• 每种文档类型中每个字段的准确率，例如合同上的日期或发票上的金额
• 在同一条合格线（对无人核对的字段，你能接受的最低准确率）下，每个候选方案交给人工处理的文档比例
• 复核时间：让你自己的员工在每个候选方案的复核界面上检查一批样本，用计时器实测
• 候选方案读不了的文档会怎样，例如斜着拍的照片或不熟悉的文档类型：每一份是否都交到了人手里，以及有多少错误的值在没有任何警告的情况下被放行

合格线必须在测试开始之前商定，因为候选方案可以靠把更多文档交给人工处理，让自己显得更准确。上面链接的那篇讲首席运营官应该问什么的文章，介绍了如何给复核人员计时，以及如何设定合格线。

每条路线上，我们要为哪些东西付费？

走购买路线，你为授权付费。Microsoft 按年度承诺层级出售离线容器，用它的离线容器页面的话说，是“按固定费用”收费。预构建（即现成的）模型、自定义抽取，以及它的文字识别模型 Read，各有单独的层级。

Microsoft 的价格页面（2026 年 10 月 15 日查阅）列出了一个预构建层级，每年最多 120 万页，即预计每月 10 万页。它的公开价目表显示，这个层级（“Commitment Tier Pre-Built Disconnected 100K”）在 Central US 区域的价格是每年 8,640 美元。

ABBYY 的通用订阅条款（最近一次更新于 2026 年 1 月 2 日，2026 年 10 月 15 日查阅）规定，订阅期“应自动续订，续订期每期十二（12）个月，续订次数不限”。除非你的报价单另有约定，或者任何一方在当期届满前至少 45 天发出书面通知，否则就会这样续订下去。对于超出所购数量的用量，条款规定，除非你的报价单另有约定，ABBYY“将在订阅期结束时，就超出所购用量单位的部分，向被许可方收取随之产生的应付款项”。

买来的软件仍然要接入文档进来的地方，也要接入你自己的系统。它还需要监控、处理复核队列的人员，以及你这边的一位负责人，所以签约之前，要先让对方给这部分工作报价。

如果由工程公司开发管道，这些工作应当写进它的合同。你要为开发付费，之后还要为服务器和可能用到的 GPU（运行模型的处理器）、为监控系统的人员、为文档或模型变化时的更新付费。买来的软件同样运行在你的服务器上：Microsoft 的离线容器页面建议，为它列出的每个容器配备 8 个处理器核心和 24 GB 内存。

要比较这几条路线，就把同一份书面业务量（每月文档数、每份文档页数、各类型的构成）交给每一家供应商和工程公司，请每一家给出三年的成本。这个成本应当包括你的服务器和你的员工花在复核上的时间。

每条路线走到最后，我们拥有什么？

购买时，你拥有的是在授权期内使用软件的权利。你的配置，例如文档类型、字段和训练好的模型，都保存为供应商的格式，所以要问清楚能否导出。

授权本身就可能让软件停止工作，即使它运行在你的边界之内。Microsoft 的离线容器需要一个许可证文件，Microsoft 说，这个文件“还包含一个到期日期，过了这个日期，许可证文件就不能再用于运行容器。”ABBYY 的条款规定，如果你不为超出所购用量单位的使用付费，“被许可方将无法使用 ABBYY 软件的功能。”

定制管道的代码，只有在合同把它转让给你时才归你公司所有，所以要看清合同排除了哪些东西，例如工程公司的可复用组件（它在多个项目之间复用的代码）。要以书面形式写明：无论走哪条路线，你的验收集和每一项测试结果都归你公司所有。日后有了任何替代方案，你都能用同样的文档给它打分。

我们应该向软件供应商和工程公司问些什么？

问软件供应商：

• 我们授权使用的是哪个版本？你们能否以书面形式列出它的哪些功能在我们的边界之内运行？
• 软件是否有任何部分会从我们的边界之内连接到你们，用于授权、更新、用量报告或技术支持？
• 试用能否以我们将要授权的版本在我们的边界之内运行，并用我们的验收集打分？
• 如果我们不续约，哪些东西会停止工作？我们的配置和训练好的模型能以什么格式导出？

问工程公司：

• 你们是否在客户的边界之内把一套系统投入过生产？关于它，你们能给我们看些什么？
• 你们会不会在我们的边界之内、在我们掌控的账户下开发原型，并接受用你们没见过的那部分验收集打分？
• 对于我们的哪些文档类型，你们会建议购买软件？为什么？
• 上线之后由谁运行系统？合同把哪些东西转让给我们？又点名排除了哪些可复用组件？

amBrain 在其中处于什么位置？

amBrain 公开描述的唯一一个语言模型项目是：“我们已在一家客户的金融科技边界之内，将一项 LLM 集成投入生产：把非结构化的经纪商与交易场所通知——公司行动、金融工具与保证金变更——抽取并规范化为交易系统所消费的结构化记录。”

本文不是案例研究，客户也不具名。上面引用的这句话没有说明该项目是否使用了买来的文档 AI 软件、模型在哪里运行，以及采用了上文哪些做法。本文没有任何内容表明 amBrain 在该项目或其他任何项目中比较过文档 AI 软件和定制管道，也没有表明它搭建过处理发票、身份证件或客服工单的系统。本文也不给出 amBrain 关于原型或签约前测试的任何价格、工期或条件。

amBrain 自 2019 年起开发软件。它用一句话描述自己与客户的合作方式：“三种合作方式：整体交付、专属团队，或工程师嵌入你的团队。”关于所有权，它的说法是：“客户拥有产品与代码的全部所有权，我们的可复用组件除外。”如果 amBrain 在你的候选名单上，就给它和其他任何公司同样的验收集和问题，并要求它逐项列出这些组件的名称。