SMART ROUTING
在正确的模型边界内自动选低价可用线路
智能分组不是一个新的上游模型。它根据模型能力、用户可用分组和实际倍率选择令牌分组,并在可重试故障发生时切换线路。
智能路由怎么工作
直接答案
创建 Key 时选择智能分组。每次请求仍填写真实模型 ID;系统先筛出支持该模型且当前用户可用的令牌分组,再按实际倍率从低到高尝试。
- 校验模型是否属于该智能分组的能力范围。
- 读取模型当前启用渠道与用户可用令牌分组。
- 排除无效倍率、自动命名空间和不匹配的作图分组。
- 按用户实际倍率排序并选择线路。
四个智能分组
| Token 分组 | 允许的模型 | 明确排除 |
|---|---|---|
smart:gpt | GPT、Codex、Cursor 与 OpenAI 推理文本模型 | 图片、视频、Claude;GPT作图和 AzGPT作图 |
smart:claude | Claude 文本模型 | 图片和视频模型 |
smart:gpt-image | 图片生成模型 | 非作图分组;只在 GPT作图与 AzGPT作图之间选择 |
smart:seedance-video | Seedance 视频模型 | 非 Seedance 与非视频模型 |
选路依据是用户实际可用倍率
同一模型可能在多个令牌分组中可用。系统使用当前用户分组到目标令牌分组的实际倍率排序,而不是只读取一个全局展示值。
模型先于价格
价格更低但不支持该模型的分组不会进入候选。模型广场同样只为真实支持的模型/分组组合生成报价。
哪些错误会触发故障切换
限流、上游瞬时错误、服务过载、部分 5xx 和被上游以 HTTP 200 包装的瞬时错误可以进入下一候选线路。参数错误、内容策略拒绝、上下文超长等确定性错误不会盲目重试。
故障切换有上限,避免一次请求无限循环。客户端断开也不会被当作上游故障重复发送。
如何确认智能路由是否成功
- 使用日志的分组保持为用户选择的智能分组,例如
smart:gpt。 - 请求详情中的
selected_group表示最终实际令牌分组。 - 已经自动恢复的中间失败不会在默认日志列表制造重复红色错误。
- 管理员按 Request ID 精确查询时仍可查看完整尝试链。
调用前检查
从实时目录确认模型当前存在可用分组;创建 Key 时选择与模型能力匹配的智能分组。出现“无可用渠道”时,先核对模型 ID、智能分组边界和当前用户可用分组。
