智能路由

把 model 设为 auto,让网关替你选模型。基于权威评测的质量带路由 —— 只在带内比价,绝不单纯图便宜。

它是什么

智能路由已上线生产。不再写死模型 ID,而是把请求发到路由端点并带上 "model": "auto"。网关会识别任务类型,结合当前评测分与上游实时健康状态,把请求派给最符合你偏好的模型。候选池覆盖全部五家供应商 —— 包括 Moonshot Kimi 家族 —— 当 Kimi 领跑质量带时,auto 会自动选用 Kimi 模型(例如编程任务上的 kimi-k2.7-code)。标准端点 /v1/chat/completions 上的显式模型 ID 用法完全不变 —— 路由是 opt-in 的,两种写法可以在同一个应用里混用。

路由端点

POST https://api.houjiayan.com/v1/auto/chat/completions

快速上手

一条 curl 就够了。下面的请求使用 quality 路由(默认值),并带上 code 任务提示:

curl https://api.houjiayan.com/v1/auto/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "preference": "quality",
    "task_hint": "code",
    "messages": [
      {"role": "user", "content": "写一个验证邮箱地址的 Python 函数。"}
    ]
  }'

两个可选字段可以引导路由:preference(quality / balanced / cost,默认 quality)和 task_hint(取值见下方任务类型表)。两个都不传时,网关会从你的 prompt 自动识别任务类型,并按 quality 路由。

三档偏好

质量带是先画好的,对三档偏好完全相同。不同的是路由器在带内怎么挑:

偏好	行为	适用场景
`quality(默认)`	在带内选当前任务评分最高的模型,不考虑价格。	默认推荐,追求最好结果 —— 复杂推理、生产级代码,任何「答错的代价比 token 贵」的场景。
`balanced`	在带内选性价比最优 —— 接近最高质量,价格处于带内低位。	想在质量与成本之间取平衡的工作负载。
`cost`	选仍然落在质量带内的最便宜模型。	高并发、对延迟不敏感、带内质量已足够的工作负载。

注意 cost 不等于「全场最便宜」。质量带由质量决定、固定不变 —— 即使 preference 为 cost,也只是在带内比价,绝不跌破质量带。

质量带规则,说人话

我们按权威公开评测分给候选模型排序,主要来自 Artificial Analysis。对每类任务画一条质量带:与该项最高分差距在 0.05 以内的模型,都被视为「足以给出正确答案」。价格只在带内比较。无论你的偏好是什么,路由器都不会把请求发给评分跌破质量带的便宜模型 —— 先定质量,再谈成本。

支持的任务类型

路由器会从 prompt 自动识别任务类型,你也可以用 task_hint 显式指定:

task_hint	任务类型	路由方式
`code`	代码	生成、补全、调试。路由到带内最强的代码模型。
`chat`	对话	通用对话与问答。路由到带内快速、低成本的模型。
`summary`	摘要	文本压缩与提炼。路由到带内压缩保真度强的模型。
`long-doc`	长文档	大输入、代码库、RAG。路由到带内上下文窗口最大的模型。
`translate`	翻译	跨语言任务。路由到带内多语种评分最强的模型。
`writing`	写作	散文、营销、编辑类内容。路由到带内长文输出流畅度调优的模型。
`vision`	视觉	图像输入、OCR、多模态。只路由到带内多模态模型。

读懂路由决策

非流式响应中包含 routing_decision 字段;流式响应则把同样的数据放在 X-Routing-Decision 响应头里。无论哪种方式,每一次路由调用都可以审计:

字段	含义
`selected`	实际处理本次请求的模型。
`candidates`	本次请求纳入考虑的带内候选模型列表。
`reason`	人可读的决策说明:识别出的任务类型、你的偏好,以及胜出者为什么赢。
`来源标注`	质量评分背后的评测来源(以 Artificial Analysis 为主),你可以独立核验排名。

{
  "routing_decision": {
    "selected": "kimi-k2.7-code",
    "candidates": ["deepseek-v4-pro", "qwen3.7-max"],
    "reason": "code 任务, preference=quality, 带内代码评分最高",
    "source": "Artificial Analysis"
  }
}

兜底行为

如果路由模块本身不可用,路由请求不会失败。网关会降级到标准的多上游选择逻辑 —— 由健康的上游提供一个默认通用模型 —— 并在 routing_decision(或 X-Routing-Decision 头)中把决策来源标注为 fallback。你仍然能拿到响应,失去的只是任务感知优化,而不是可用性。标准端点上的显式模型 ID 调用完全不受路由模块状态影响。

你仍然可以自己锁定模型:在标准端点使用 "model": "deepseek-v4-pro"(或任意已列出的模型 ID)会完全绕过路由。可以自由混用 —— 关键端点显式锁定,长尾请求交给 auto。

有疑问?

发送邮件至 support@houjiayan.com,工作时间 24 小时内回复。