GenAI

用于客户通话的 AI 电话智能体:在联络中心平台上添加、使用语音 AI 平台,还是自建

如果你的电话已经通过联络中心平台处理,就先测试它的 AI 智能体。如果这个智能体没通过你的测试,就适合用专门的语音 AI 平台。如果你需要自己挑选每个组件,或者音频必须留在你掌控的服务器上,就适合自建管道。本文还讲到录音和电话号码由谁掌握、美国和欧盟关于 AI 语音的规则,以及上线前要测试什么。

作者:amBrain阅读时长12分钟

本文内容

AI 电话智能体代表你的公司接听或拨打电话,用计算机生成的语音与客户交谈。它可以回答常见问题或受理预约,帮不上忙时就把电话转给人工。Amazon Connect、Genesys Cloud 和 Twilio 等联络中心平台和电话通信平台,如今都提供自己的 AI 智能体功能。专门的语音 AI 平台可以接入你现有的号码和系统,也可以请一家公司用各个独立组件为你搭建一套处理管道。怎么选,主要取决于智能体必须在你的系统里做什么,以及你的通话录音可以存放在哪里。

简短的答案是:如果你的电话已经通过联络中心平台处理,就先测试它的 AI 智能体,因为你的呼叫队列和录音都在那里。如果测试不过关,就改用专门的语音 AI 平台,号码仍留在你现在的运营商那里。如果你需要自己挑选和替换每个组件,或者音频必须留在你掌控的服务器上,就自建管道。无论走哪条路线,都要把录音和智能体的指令存放在你掌控的存储上,并与你的律师核实关于同意和 AI 身份告知的规则。

AI 电话智能体是如何工作的?

来电者每说一次话,电话智能体都要做四项工作。电话通信(telephony),也就是把通话接到你电话号码上的服务,负责把来电者的声音传进来。语音转文字模型把声音转换成文字。语言模型(也就是 ChatGPT 背后的那类 AI)决定说什么,或者请求你的系统执行哪项操作。文字转语音模型把回答说出来。

OpenAI 关于语音智能体的指南把这种做法称为链式管道(chained pipeline),适合你想要“检查或转换中间文本,并独立替换每个组件”的情况。另一种设计只用一个语音到语音模型。同一份指南介绍说,OpenAI 的 Realtime API 使用“一个模型来理解音频、决定做什么,并以语音作答。”如果用这类模型,要问清楚你如何拿到需要保存的转写文本。本文所有来源均于 2026 年 11 月 6 日查阅。

为什么延迟和打断在电话中很重要?

来电者看不到电话那头发生了什么,所以长时间的停顿听起来就像电话断了。来电者停止说话后,智能体首先要判断对方是否已经说完。接下来,四项工作各自都要花一些时间,回复才会开始。判断得太早也有代价:来电者停顿一下、准备报出账号时,智能体却插了话。

OpenAI 的 Realtime API 文档给出了两种判断方式。一种是等待一段设定的“Duration of silence (in milliseconds) to detect speech stop.”(判定语音结束所需的静音时长,以毫秒计)。另一种“使用语义分类器,根据用户说出的词语来检测用户何时说完。”

来电者还会在智能体说话时插话,这叫作 barge-in(插话打断)。智能体必须停下来,并记住来电者听到了自己回答的哪一部分。Twilio 的 ConversationRelay 用于把 Twilio 通话连接到你自己的 AI 应用,它会告知该应用“来电者何时通过说话打断了 TTS 播放”,TTS 即文字转语音。背景噪音或一声简短的“嗯嗯”不应让智能体停下来。用于构建语音智能体的开源软件 LiveKit 介绍了一种打断处理功能,它“能够区分真正的打断和对话中的附和”,也就是那些表示认同的简短声音。LiveKit 的文档说,其背后的模型运行在它的托管服务 LiveKit Cloud 上。

智能体如何把电话转给人工?

在 Amazon Connect 中,AI 智能体有一个名为 Escalate 的默认工具,用于“转接给人工客服”。销售 Amazon Connect 的 AWS 给出过一个示例,用一个自定义的 Escalate 工具取而代之,这个工具会把转接原因和一份摘要一并传过去。语音 AI 智能体平台 Vapi 提供多种盲转接和热转接模式。盲转接“直接接通来电者,不先与转接目标通话”。热转接“在接通之前,先向转接目标播报一份自动生成的对话摘要。”Vapi 列出的这种摘要转接仅适用于 Twilio。

把哪些情况一律转人工写下来,比如投诉。然后测试这类电话打进来时你的团队会看到什么,包括在工作时间之外。

联络中心平台自带的 AI 智能体能给我们带来什么?

走这条路线,AI 智能体就在已经存放你的呼叫队列和录音的系统内部工作。AWS 表示,Amazon Connect 中被它称为智能体式自助服务(agentic self-service)的功能“让 AI 智能体能够跨语音和聊天渠道自主解决客户问题。”智能体通过 MCP 工具访问你的其他系统,执行“例如查询订单状态、处理退款和更新记录”等操作。MCP 是 Model Context Protocol(模型上下文协议)的缩写,是把 AI 连接到软件的一种标准方式。Genesys 表示,它的 Virtual Agent 可以“在新的和现有的语音及数字机器人流程中”工作,也就是它的自动化通话流程和聊天流程。

Twilio 的 ConversationRelay 把更多工作留给你。它“把语音转换成文字并发送给你的应用”,而由你或某家公司开发的应用来决定如何回复。对 Twilio 用户来说,这条路线已经接近自建。

代价是你要接受平台对模型和语音的选择。在语音转文字方面,Twilio 提供 Google 和 Deepgram 可选。AWS 介绍语音到语音模型 Amazon Nova Sonic 的页面列出了首发的四种语音,三种为英语,一种为美国西班牙语。如果你的大部分电话都经过该平台,而且它支持你的来电者所用的语言,这条路线就合适。

什么时候适合用专门的语音 AI 平台?

语音 AI 智能体平台卖的就是电话智能体本身。你编写它的指令、选择模型,平台则把它接入你的号码和系统。Vapi 的价格页面把语音转文字、语言模型和语音列为来自不同提供商的单独项目。另一家同类平台 Retell 表示,它的指南“介绍了如何将 Retell 智能体与你的电话服务商集成,并使用你自己的号码”,方式是 SIP 中继。SIP 中继是一种通过互联网在你的电话服务商与另一个系统之间传送通话的连接。

如果你的联络中心自带的 AI 没通过你的测试,或者你想用一个智能体覆盖多套电话系统,平台就合适。代价是又多了一家供应商按自己的条款处理来电者的音频,转接给你团队的过程也要跨越两个系统。Vapi 表示,“默认情况下,Vapi 会将各类产物安全地存储在云端”,这里的产物指录音、转写文本和日志。你也可以改为把它们存到你自己的存储上。

什么时候值得自建电话智能体?

自建管道把各个独立组件连在一起:来自电信运营商或 Twilio 等平台的电话通信服务,加上语音转文字、语言模型和文字转语音。为你编写的代码决定谁在什么时候说话、处理打断、调用你的系统并保存日志。LiveKit 等开源软件可以承担其中一部分工作。每个组件都可以租用,也可以在你自己的服务器上运行。符合以下至少一种情况时,就值得自建:

  • 音频、转写文本或模型必须留在你掌控的服务器上
  • 智能体必须在没有任何供应商能对接的系统中执行操作
  • 你需要自己挑选和替换每个组件,比如换一个能更好地处理你的来电者所用语言的语音模型
  • 按你的通话量,按分钟计的费用已经超过运行自有系统的成本

自建需要更长时间,而且上线之后得有人运行这套系统。下面的文章讲到,没有机器学习团队时谁能承担这项工作,以及语音转文字在真实通话中有多准确。

录音和转写文本存放在哪里?我们能导出吗?

录音和转写文本是日后最难迁移的部分,所以要在上线之前决定把它们存放在哪里:

  • Amazon Connect:由你“指定用于语音对话录音的存储桶和 KMS 密钥”。也就是 Amazon 的云存储 Amazon S3 中的一个存储位置,以及一把由你选定的加密密钥
  • Twilio:录音默认保存在 Twilio 的“加密云存储”中。开启外部存储后,“Twilio 会把新的语音录音上传到你拥有的 AWS S3 存储桶,而不是存储在 Twilio 的云中。”
  • Vapi:默认存放在 Vapi 的云中,也可以存放在你自己的 Amazon S3 或 Google Cloud Storage 中
  • 自建管道:你把它们放在哪里,它们就在哪里

无论走哪条路线,都要定期把录音、转写文本和日志导出到你公司掌控的存储上。转写文本的访问权限和保存期限要与录音相同。

智能体可以在我们的系统里做什么,由谁来控制?

智能体的指令(也就是提示词)通常存放在供应商的工具里,所以要保留一份可以带走的副本。操作比回答需要更严格的规则,因为退款或修改账户会改变你的记录。Amazon Connect 表示:“AI 智能体使用与人工客服相同的安全配置文件框架,以此控制 AI 智能体可以访问哪些工具。”只给智能体其清单上那些操作的权限,不多给任何权限,并决定它如何核实来电者的身份。

应当批准高风险操作的人,很少正好在通话中。智能体可以先受理请求,告诉来电者大概什么时候会得到答复,再由你的团队核查之后完成操作。上面链接的那篇关于 AI 智能体与人工批准的文章,解释了哪些操作需要人来批准。

如果来电者用银行卡付款,要问清楚如何确保卡号不进入模型和录音。对于在 AI 会话结束后回传通话数据的那个字段,Twilio 警告说:“不要在此字段中包含 PCI 数据”。PCI 数据是指受支付卡行业安全标准保护的银行卡信息。

电话号码归谁所有?更换服务商有多难?

你的客户认得你的号码,所以要把号码的控制权握在自己手里。从平台购买的号码,在你离开时必须做号码迁移(porting),也就是转到另一家服务商。例如,Twilio 表示,把号码迁移到它那里“需要 5-15 天,但如果被你当前的服务商拒绝,可能需要长达 4 周。”如果把号码留在你自己选择的运营商那里,再把 AI 接到这些号码上,就能避开大部分麻烦。Retell 通过 SIP 中继做到这一点,Vapi 则可以导入“新的或现有的 Twilio 号码”。这样,日后更换时只需改变通话的路由去向。

AI 在电话中与人交谈时,适用哪些规则?

在美国,Telephone Consumer Protection Act(《电话消费者保护法》,TCPA)限制使用人工语音或预录语音拨打的电话。美国联邦通信委员会(FCC)于 2024 年 2 月 2 日通过了一项宣告性裁决(FCC 24-17)。FCC 在裁决中写道:“我们确认,TCPA 对使用‘人工或预录语音’的限制,涵盖当前生成人类声音的 AI 技术。”因此,这类电话“在没有紧急目的或豁免的情况下,需要事先获得被叫方的明确同意才能拨打。”如果这类电话介绍广告或包含电话营销内容,也就是鼓励购买或租用商品或服务,或者鼓励对其进行投资,FCC 的规则要求取得“事先的明确书面同意”。

裁决指出,TCPA 不允许“为声称能提供相当于真人客服的技术开辟例外”。像人一样说话的 AI 智能体也不能例外。裁决援引的规则要求电话在开头“清楚说明企业的身份”,电话营销类电话还必须提供退订方式。这些要求适用于“任何使用人工语音或预录语音向消费者发起外呼电话的 AI 技术”。至于客户打给你的电话适用哪些规则,要问你的律师。

在欧盟,AI Act(欧盟的人工智能法律)第 50(1) 条适用于直接与人互动的 AI 系统。这类系统的设计必须确保人们“被告知他们正在与 AI 系统互动”,除非在具体情境中,这一点对一个合理知情的人来说显而易见。第 50(5) 条规定,这一告知最迟必须“在首次互动或接触时”作出,放到电话上,就意味着要在问候语中告知。这项义务由 AI 系统的提供者承担。提供者是你还是供应商,要由你的律师来判断。

AI Act 第 113 条把 2026 年 8 月 2 日定为该法的一般适用日期。Digital Omnibus on AI(关于 AI 的数字综合法案)是一项以 OJ L 2026/1744 公布的修订条例,它改动了其他几个日期。2026 年 11 月 6 日,欧盟委员会的 AI Act Service Desk(AI 法案服务台)在第 50 条中只把第 7 款标为已修订。它的时间表显示,2026 年 8 月 2 日“透明度规则(第 50 条)开始适用”。

通话录音的规则因国家而异,在美国还因州而异。美国联邦法律允许在“通信的一方已事先同意”时录音(18 U.S.C. § 2511(2)(d))。州法律可能要求更多。华盛顿州要求取得“通信所有参与者的同意”。如果宣布通话“即将被录音”的提示本身也被录了下来,该州就将这一提示视为同意。

根据欧盟的数据保护法 GDPR,个人数据是指与“已识别或可识别的自然人”相关的信息。欧洲数据保护委员会(European Data Protection Board)是由欧盟各国数据保护机构组成的欧盟机构,它在 2021 年关于虚拟语音助手的指南中,把语音录音算作这类数据。指南还说,“语音数据本质上就是生物识别个人数据”。指南指出,如果用语音来识别来电者,这种处理需要具备 GDPR 第 6 条规定的法律依据,并符合第 9 条规定的某项例外。这份指南针对的是智能音箱等设备上的语音助手,所以要问你的数据保护官,它如何适用于电话。

在智能体接听真实电话之前,我们应该测试什么?

按照那篇关于测试 AI 助手的文章所述,用你自己的通话建立测试集,并事先商定合格线。然后加上只有电话智能体才会遇到的情况:

  • 真实来电者的口音和语言,在你的政策允许的情况下取自过去的录音
  • 在嘈杂环境中用手机通话或开免提
  • 打断智能体或者话说到一半自我纠正的来电者
  • 来电者找文件时的长时间沉默
  • 复述账号和金额,请来电者确认
  • 你的团队忙线或下班时的转接
  • 每通电话开头的 AI 身份告知和录音提示

在你最繁忙的时段,用真实的电话线路测量从来电者说完到智能体说出第一个字之间的延迟。每当供应商更换模型或语音时,都要重新运行测试。

供应商如何对电话智能体收费?

成本由五部分组成,每条路线的组合各不相同。以下价格以美元计,取自 2026 年 11 月 6 日公开的价格页面:

  • 按分钟计的平台费用:Amazon Connect 列出的价格是“$0.038 per voice min (standard telephony rates apply)”(语音每分钟 0.038 美元,另按标准电话费率收费)。Twilio 列出的 Conversation Relay 价格为每分钟 0.07 美元。Vapi 在其预付费套餐上收取“$0.05/min Vapi hosting”(Vapi 托管费每分钟 0.05 美元),Retell 列出的 AI 语音智能体价格为每分钟 0.07 至 0.31 美元
  • 模型和语音费用:在 Vapi 上,“Models pass-through at cost”(模型按成本价转嫁),另行计费。Genesys Cloud 用自己的 token 为 AI 用量计费,它的计费说明文章写道:“voice bots convert at 17 minutes = 1 token”(语音机器人按 17 分钟折合 1 个 token 计)
  • 电话通信:Twilio 在美国本地号码上接听来电的费用为每分钟 0.0085 美元,另加每个号码每月 1.15 美元
  • 录音和存储:Twilio 的通话录音费为每分钟 0.0025 美元,存储费为每分钟每月 0.0005 美元
  • 工程师和日常维护:开发、对接你的系统,以及在模型变更时重跑测试。你自己开发的部分越多,这部分成本就越高

上面这些按分钟计的价格涵盖的部分并不相同。请每家供应商按你一个月的真实通话量报价,并把电话通信、模型、录音和最低消费都计算在内。

我们应该向负责开发或集成的公司问些什么?

  • 哪些组件在哪里运行?哪些公司会处理我们来电者的音频?
  • 你们将如何在我们的电话线路上测量智能体作答之前的延迟?
  • 智能体如何处理打断和长时间的沉默?转接是怎样进行的?
  • 智能体可以独自执行哪些操作?哪些要等人批准?
  • 录音、转写文本和日志存放在哪里?我们如何导出?
  • 我们的电话号码掌握在谁手里?迁移它们需要做些什么?
  • 针对我们拨打电话的每个国家,AI 身份告知和录音提示由谁来编写和测试?
  • 最后,代码、提示词、测试通话和日志会归我们所有吗?

amBrain 在其中处于什么位置?

本博客由 amBrain 发布。关于自己的产品,它是这样说的:“我们自己的产品 shyash.ai 由研究、撰写、检查和衡量的 AI 智能体运行,依托同一份公司事实的共享记忆。所有发出的内容都由人批准。”

本文不是案例研究,也不描述任何客户项目。本文并不声称 amBrain 开发过电话智能体或联络中心产品,上面那句话也没有提到任何与电话有关的内容。本文提到的公司和公共机构均引自它们公开发布的页面。本文并不声称 amBrain 与它们中的任何一方有任何关系,不推荐它们的任何产品,也不给出 amBrain 的任何价格或工期。

amBrain 自 2019 年起开发软件。关于与客户的合作方式,它说:“三种合作方式:整体交付、专属团队,或工程师嵌入你的团队。”它关于所有权的说法是:“客户拥有产品与代码的全部所有权,我们的可复用组件除外。”签约之前,请要求它逐项列出这些组件的名称。

本文同样不构成法律意见。本文只涉及上文提到的美国和欧盟规则。在你接听或拨打电话的每个地方,关于录音同意和 AI 身份告知的哪些规则适用,请与你的律师确认。如果 amBrain 在你的候选名单上,就向它提出与其他任何公司同样的问题。

主题

  • 语音 AI
  • 联络中心
  • 自建还是购买
  • 合规

要把语言模型投入生产?

发来你的设计或你要解决的问题,以及你已有的数字。

介绍一下你的项目

我们会在24小时内给出明确的行动计划。

手头有类似的设计?

我们会在24小时内给出明确的行动计划。

免费项目介绍通话 · 30 分钟