一句话结论
Cloudflare 基准测试证实，若忽略人工修复成本，自动路由使用便宜模型会导致总开销上升。
关键要点
- 路由策略基于 14 类任务及 4 维度评分，效用公式为“预期质量 - 自适应成本惩罚”。
- 测试显示可靠性提升约 10 个百分点，单位任务成本降至基线的三分之一。
- 分类器仅分析最近几轮上下文，存在低估长对话中高风险操作的风险。
- 默认模型池包含 Claude Opus 5 及 GPT-5.6 系列，基线模型需通过请求头启用。
- 公测期间免费且不支持 WebSocket，仅支持 Chat Completions 和 Responses API。
背景与事实
Cloudflare 近期通过 AI Gateway 推出 Auto Router 公测版，用户将模型设置为 `cloudflare/auto` 即可启用。该系统执行两阶段路由：第一阶段构建候选模型池，过滤无法处理当前请求格式的模型，并应用凭证、计费配置、访问控制和支出限制；第二阶段由运行在边缘 GPU 上的多头分类模型介入，该模型通过 Workers AI 运行，为 14 类任务分配概率，并从复杂性、歧义性、风险程度以及对先前上下文的依赖程度四个维度对请求进行 1 到 5 级评分。最终，评分矩阵将结果与基准测试数据结合，根据“效用 = 预期质量 - 自适应成本惩罚”的公开公式决定模型选择。
Auto Router 仅根据最近几轮对话对每个请求进行分类，文本上限为 8KiB。它根据候选模型在不同任务上的能力以及处理较难任务时的预期收益进行评分，任务难度越高，价格在权重中占比越低。Cloudflare 公布的基准测试包含 97 个任务，每个模型采样三次，并进行 1 万次 Bootstrap 重采样。测试结果显示，相较于基线，Auto Router 的可靠性提高约 10 个百分点，成本约为原来的三分之一。该测试中作为基线的 Opus 5.5 和 GPT-6 Sol 位于可选模型列表，需通过 `cf-aig-allowed-models` 和 `cf-aig-allowed-providers` 请求头才能使用，而默认模型池则列出了 Claude Opus 5、Sonnet 5、Fable 5，以及 GPT-5.6 Luna、Sol、Terra 和 Grok 4.5。
在技术实现细节上，响应会携带 `cf-aig-routed-model` 和 `cf-aig-routing-reason` 头部，后者可能返回 `cost_optimal_within_pool` 或 `pinned_by_turn` 等值，支持事后审计。若请求没有会话 ID，同一对话中的请求可能被分配给不同模型，导致无法复用提示词缓存。为此，Cloudflare 施加了一项随上下文长度增长的模型切换惩罚，因为新模型可能需要重新生成推理 Token 并按输出价格计费。Auto Router 目前处于公测阶段，使用免费，但不支持 WebSocket。路线图中还规划了 `cloudflare/auto-best`，该模式使用相同的分类器和模型池，但忽略成本取舍，直接选择预期质量最高的模型。
影响分析
对于中文开发者与从业者而言，这一测试结果揭示了“按请求计费”向“按任务计费”转变的必要性。从事智能体工程的 CTO Jacques B 指出，如果更便宜的模型导致结果错误，需要人类额外花一个小时修正，那么节省的模型调用成本远小于人工成本。这意味着在构建智能体工作流时，团队必须将人工干预成本纳入路由决策的考量。此外，技术负责人 Igor Pyrin 提出的风险评分局限性提醒开发者：Auto Router 仅依据最近几轮精简上下文判断风险，这在长对话中可能导致高风险操作被误判为低成本请求。因此，在涉及银行、医疗等高风险场景的应用开发中，不能单纯依赖自动路由器的默认行为，而应在应用层维护跨轮次的风险标签。对于成本敏感型团队，需权衡可靠性提升 10 个百分点与成本降低至三分之一的平衡，并明确接受可能的模型切换惩罚。
适用边界
上述结论在模型池保持稳定且任务难度可被准确分类的条件下成立。由于 Cloudflare 表示模型池“可能会随时间变化”，且路由权重基于基准测试结果，当新模型发布时，评分矩阵需手动更新，否则可能导致权重过时。此外，该功能目前仅支持 Chat Completions 和 Responses API，不支持 WebSocket，因此涉及实时流式传输或 WebSocket 通信的场景不适用此路由方案。若用户需要固定的基线模型进行对比测试，必须通过请求头显式指定，默认配置下无法直接访问基线模型。
孤本观察
Auto Router 将路由决策透明化并引入人工修复成本的隐性变量，其核心价值在于通过“效用”公式强制开发者思考质量与成本的动态平衡。然而，依赖基准测试静态权重的架构在模型快速迭代的当下，可能面临“新模型未及时入池”导致的性能断层风险。
常见问题
启用 Cloudflare Auto Router 需要设置什么模型名称？
用户需将模型设置为 `cloudflare/auto` 即可启用。
Auto Router 默认模型池包含哪些具体模型？
默认模型池包含 Claude Opus 5、Sonnet 5、Fable 5，以及 GPT-5.6 Luna、Sol、Terra 和 Grok 4.5。
Auto Router 目前的 API 支持和限制有哪些？
目前仅支持 Chat Completions 和 Responses API，不支持 WebSocket，且公测期间免费。
Auto Router 在基准测试中的可靠性与成本表现如何？
相较于基线，可靠性提高约 10 个百分点，单位任务成本降至原来的三分之一。
若需使用 Opus 5.5 等基线模型进行对比，应如何配置？
需通过 `cf-aig-allowed-models` 和 `cf-aig-allowed-providers` 请求头显式指定，默认配置下无法直接访问。
来源：InfoQ 中文 AI