本页目录
渠道级转移(默认开启)
当首选渠道返回可重试的错误时,网关会在同一次请求内换到下一个候选渠道,你的客户端只看到一次成功响应。触发转移的情况包括:
- 连接超时、TLS 握手失败、连接被重置。
- 上游返回
429(该渠道被限流)。 - 上游返回
5xx。 - 流式响应在开始前中断。
以下情况不会转移,因为换个渠道结果一样:请求体不合法(400)、内容策略拦截(403)、上下文超限(413)。
重要
流式响应一旦开始下发内容就不再转移——已经推给用户的文本无法撤回。此时错误会以错误分片的形式出现,见流式输出。
计费与重试
- 转移过程中失败的尝试不计费,只对最终成功返回的那一次计费。
- 转移在网关内部完成,对你来说只算一次请求,也只占一个并发名额。
- 转移会增加总延迟。对延迟特别敏感的场景,可以在客户端设置更短的超时并自行重试。
怎么观察
每次响应都带 X-Maxx-Request-ID 响应头。在控制台 › 用量 › 请求明细里按它检索,可以看到这次调用的状态、耗时与首字延迟。排查「偶发变慢」时先看这里。
联系我们
文档没写清楚,或者需要人工协助?按问题类型选一个渠道即可。