Cloudflare Workers AI上线PhoneLLM Mini：语音Agent要快又要会调工具，怎么跑

语音Agent总是「要么快但乱调工具，要么会推理但调用人等太久」？Cloudflare在2026-10-15的Workers AI变更里上线了PhoneLLM Mini，模型ID为@cf/daily-co/phonellm-mini-alpha-2，来自Daily旗下Pipecat团队。定位很具体：放在语音识别和语音合成中间，既要回得快，又要在对话中途把工具调用做对。

它解决的权衡（按官方说明）

语音链路里，大模型每多想一秒，用户就在电话那头多等一秒。常见两难：

• 关掉推理模式的小快模型：延迟低，但指令遵循和工具调用容易飘。
• 开着推理模式的强模型：工具更稳，但通话体验拖沓。

PhoneLLM的做法是：在NVIDIA Nemotron 3 Nano 30B上，针对电话与客服场景做后训练，让模型在不开推理模式时也更好跟指令、调工具。这是厂商方法论，不是你业务里的合格保证——上线前仍要用自己的话术与工具集回归。

调用时官方建议的两个参数

项	建议
入口	Workers绑定 env.AI.run()，或REST /ai/run
temperature	0
thinking	chat_template_kwargs: { enable_thinking: false }
模型ID	@cf/daily-co/phonellm-mini-alpha-2（含alpha，注意变更）

最小落地路径

1. 在Cloudflare仪表盘开通Workers AI，确认账户有权调用该模型。
2. 新建Worker，绑定AI，用官方示例把模型ID换成PhoneLLM Mini，先跑文本工具调用，再接STT/TTS。
3. 若用Pipecat：Cloudflare称Python Workers已GA，可用其Durable Object + Realtime SFU的语音Agent示例；示例默认DeepSeek V4 Flash，按changelog提示改成PhoneLLM。
4. 压测：工具列表10个以内、用户打断、口音与静音，看误调用率与首字延迟。
5. 备援：同一套提示词在OpenRouter、Together AI、Replicate、Fireworks上备一个快模型，避免单区域故障。

本地原型仍可用Ollama、vLLM；边缘批处理可看Modal。语音与Agent工具合集见AI开发与智能体、AI音频与音乐；本地模型取舍对照本地模型还是Claude Max。

什么时候别用它

• 需要长文深度推理、代码大重构：这不是PhoneLLM的主场。
• 强监管行业通话：先过录音同意、数据驻留与人工质检，再谈模型。
• 把alpha模型直接绑进生产唯一路径：留开关与回滚。

常见问题

免费吗？

Workers AI按Cloudflare定价计费，以仪表盘与价目为准；变更日志未写「永久免费」。

一定要配Pipecat吗？

不必。可以只把PhoneLLM当Workers AI上的文本/工具模型；Pipecat是语音编排框架选项。

和OpenAI实时语音是一回事吗？

不是。那是另一条产品线；本文只覆盖Cloudflare changelog这条模型上架。

评测时建议固定的四类通话脚本

1. 正常办业务：意图清晰，工具一次成功。
2. 改口与打断：用户中途纠正信息，看是否重复调用或写错槽位。
3. 工具失败：故意让API 500，看是否礼貌降级而不是死循环。
4. 越权试探：用户要求改别人的订单，看是否遵守鉴权。

记录指标：首token/首句延迟、工具正确率、用户打断恢复率、单通电话成本。PhoneLLM只是链路一环，STT/TTS与Telephony质量往往才是体感瓶颈。

与DeepSeek等默认示例的切换注意

官方Pipecat示例默认DeepSeek V4 Flash。换PhoneLLM后，提示词里对「思考链」的假设要改掉，并关掉enable_thinking。工具JSON schema保持简短，电话场景避免一次塞几十个工具。

生产开关建议

• 配置里把model id做成环境变量，方便从alpha切到后续稳定版。
• 对工具调用做允许列表，电话场景禁止「随意执行shell」一类危险工具。
• 全程录音与质检抽检要符合当地法律；在开场白提示「可能被录音」。
• 成本告警：按通话分钟与token双维度，防止死循环刷工具。

边缘部署的好处是靠近用户、延迟低；坏处是调试链路更长。先在单一地区跑通，再开多区域。

延迟预算怎么切

一通可通话体验，通常要把「用户说完→Agent开始说」控在一秒量级体感（业务不同目标不同）。粗分：STT占一块、LLM占一块、TTS占一块、网络占一块。PhoneLLM想挤的是LLM块；若STT慢，换模型也救不了。测量时分段打点，再决定钱该花在模型、流式TTS还是更近的边缘节点。

工具调用要并行还是串行，也影响体感：能并行查的「订单状态+会员等级」别排成两次等待。电话场景优先少工具、强校验。

提示词模板（电话场景，可改）

可用中文系统提示大意：「你是电话客服助手。一次只问一个缺失信息。需要查系统时调用工具，不要编造订单状态。用户打断时以最新句子为准。结束时复述下一步。」再配temperature 0。把公司禁止事项（改密码、转账、泄露他人信息）写成硬规则。

上线后每周抽听10通：工具是否该调未调、是否调了不该调的、是否在用户已提供信息后重复询问。这三类错误比「文笔好不好」更影响口碑。

模型ID含alpha，意味着Breaking change可能出现；订阅Cloudflare Workers AI changelog，比临上线才发现ID失效更稳。

来源与核查日期

• Cloudflare Changelog：Pipecat PhoneLLM Mini now available on Workers AI（2026-10-15）

核查日期：2026-10-18（新加坡时间）。模型ID与参数以Cloudflare文档实时为准。