CDAPI DOCS

SMART ROUTING

在正确的模型边界内自动选低价可用线路

智能分组不是一个新的上游模型。它根据模型能力、用户可用分组和实际倍率选择令牌分组,并在可重试故障发生时切换线路。

智能路由怎么工作

直接答案

创建 Key 时选择智能分组。每次请求仍填写真实模型 ID;系统先筛出支持该模型且当前用户可用的令牌分组,再按实际倍率从低到高尝试。

  1. 校验模型是否属于该智能分组的能力范围。
  2. 读取模型当前启用渠道与用户可用令牌分组。
  3. 排除无效倍率、自动命名空间和不匹配的作图分组。
  4. 按用户实际倍率排序并选择线路。

四个智能分组

Token 分组允许的模型明确排除
smart:gptGPT、Codex、Cursor 与 OpenAI 推理文本模型图片、视频、Claude;GPT作图和 AzGPT作图
smart:claudeClaude 文本模型图片和视频模型
smart:gpt-image图片生成模型非作图分组;只在 GPT作图与 AzGPT作图之间选择
smart:seedance-videoSeedance 视频模型非 Seedance 与非视频模型

选路依据是用户实际可用倍率

同一模型可能在多个令牌分组中可用。系统使用当前用户分组到目标令牌分组的实际倍率排序,而不是只读取一个全局展示值。

模型先于价格

价格更低但不支持该模型的分组不会进入候选。模型广场同样只为真实支持的模型/分组组合生成报价。

哪些错误会触发故障切换

限流、上游瞬时错误、服务过载、部分 5xx 和被上游以 HTTP 200 包装的瞬时错误可以进入下一候选线路。参数错误、内容策略拒绝、上下文超长等确定性错误不会盲目重试。

故障切换有上限,避免一次请求无限循环。客户端断开也不会被当作上游故障重复发送。

如何确认智能路由是否成功

  1. 使用日志的分组保持为用户选择的智能分组,例如 smart:gpt
  2. 请求详情中的 selected_group 表示最终实际令牌分组。
  3. 已经自动恢复的中间失败不会在默认日志列表制造重复红色错误。
  4. 管理员按 Request ID 精确查询时仍可查看完整尝试链。

调用前检查

实时目录确认模型当前存在可用分组;创建 Key 时选择与模型能力匹配的智能分组。出现“无可用渠道”时,先核对模型 ID、智能分组边界和当前用户可用分组。