本页目录
默认策略
收到请求后,网关先取出该模型的全部候选渠道,再按下面的顺序过滤与排序:
- 可用性过滤:跳过正在冷却、已满载或近期连续失败的渠道。
- 能力过滤:跳过不支持本次请求所需能力的渠道(例如请求带图片,但该渠道只支持文本)。
- 排序:按平台为该模型配置的渠道优先级排序,再参考近期表现微调——表现变差的渠道会被往后排。
- 取第一名发起调用,失败则按故障转移规则继续。
多轮对话保持同一渠道
部分模型会让同一段对话在一段时间内尽量留在同一个渠道上,减少来回切换;绑定的渠道一旦变差,网关会立即换走,不会为了保持一致而牺牲可用性。
你需要做什么
什么都不用做。渠道选择、排序与切换都由平台统一维护,请求里不需要、也无法指定渠道;你只需要选模型。
提示
如果某个模型对你来说持续偏慢或不稳定,带上几次调用的请求 ID(响应头 X-Maxx-Request-ID)联系我们,我们会据此调整这个模型的渠道配置。
联系我们
文档没写清楚,或者需要人工协助?按问题类型选一个渠道即可。