文档/模型与路由

智能路由

了解网关如何为每次请求挑选并排序渠道。

本页目录

默认策略

收到请求后,网关先取出该模型的全部候选渠道,再按下面的顺序过滤与排序:

  1. 可用性过滤:跳过正在冷却、已满载或近期连续失败的渠道。
  2. 能力过滤:跳过不支持本次请求所需能力的渠道(例如请求带图片,但该渠道只支持文本)。
  3. 排序:按平台为该模型配置的渠道优先级排序,再参考近期表现微调——表现变差的渠道会被往后排。
  4. 取第一名发起调用,失败则按故障转移规则继续。

多轮对话保持同一渠道

部分模型会让同一段对话在一段时间内尽量留在同一个渠道上,减少来回切换;绑定的渠道一旦变差,网关会立即换走,不会为了保持一致而牺牲可用性。

你需要做什么

什么都不用做。渠道选择、排序与切换都由平台统一维护,请求里不需要、也无法指定渠道;你只需要选模型。

提示

如果某个模型对你来说持续偏慢或不稳定,带上几次调用的请求 ID(响应头 X-Maxx-Request-ID)联系我们,我们会据此调整这个模型的渠道配置。

联系我们

文档没写清楚,或者需要人工协助?按问题类型选一个渠道即可。

邮箱

技术支持support@apione.ai

WhatsApp

Telegram

工单

计费与账户控制台 › 反馈