RelayRouter 出现 429 限流报错怎么办：重试和退避策略

RelayRouter 返回 429 时，表示当前请求频率超过了允许范围。处理方法如下：暂停发送，按指数退避加随机抖动重试，并限制重试次数和并发数。如果响应带有 Retry-After 头，优先按该值等待。持续出现 429 时，可以把部分流量分流到其他模型分组。失败或报错的请求通常不计费，所以合理重试不会带来明显的额外成本。

429 报错代表什么

429 是 HTTP 标准状态码 Too Many Requests，意思是某个时间窗口内发出的请求过多，不代表 API key 或请求格式有误。RelayRouter 支持多种接入方式，据 relayrouter.io 官方文档，它「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」，对应的接口分别是 /v1/chat/completions、/v1/messages 和 /v1beta/models/{model}:generateContent。不论走哪种协议，处理 429 的思路都一样：不要立刻原样重发，先降低速率再重试。具体限额以 relayrouter.io/docs 为准，本文不对限额数值做推测。

推荐的重试与退避步骤

推荐做法是指数退避加随机抖动，同时设置重试上限。可按以下步骤实现：

1. 捕获 429 状态码（OpenAI SDK 中对应 openai.RateLimitError）。
2. 如果响应头里有 Retry-After，按该值等待。
3. 没有该头时，等待时间按 基础间隔 × 2 的重试次数次方 计算，再加上随机抖动，避免多个客户端同时重试。
4. 设置重试次数上限和单次等待上限，超过后把错误抛给上层处理。
5. 在客户端控制并发数，从源头减少 429。

以下示例中的间隔和次数为示例值，请根据实际业务调整：

import random, time, openai
client = openai.OpenAI(base_url="https://relayrouter.io/v1", api_key="YOUR_API_KEY")
def chat(messages, retries=5, base=1.0, cap=30.0):
  for i in range(retries):
    try:
      return client.chat.completions.create(model="gpt-5.6-sol", messages=messages)
    except openai.RateLimitError:
      time.sleep(min(cap, base * 2 ** i) + random.uniform(0, 1))
  raise RuntimeError("rate limited")

重试会不会产生额外费用

一般不会，因为失败或报错的请求通常不计费。据 relayrouter.io 官方说明，平台收取 0 平台费，没有最低消费，也不需要订阅。实际计费只针对成功完成的用量。参考 relayrouter.io/models 公布的结算价：

需要注意，deepseek-v4-flash 在工作日高峰时段（北京时间 9:00 至 12:00、14:00 至 18:00）价格翻倍。批量重试任务可以安排在闲时执行。

持续 429 时如何分流到其他模型

如果退避后仍频繁出现 429，可以把部分请求路由到其他模型或分组。RelayRouter 公开目录约有 108 个模型，分为 19 个公开分组，覆盖 Claude 系（如 claude-opus-5-5、claude-fable-5-1）、GPT-6 与 GPT-5.6（如 gpt-6-astra、gpt-5.6-sol）、Gemini 3.8 Flash（gemini-3.8-flash），以及 DeepSeek、GLM、MiniMax、Moonshot。切换成本较低，据 relayrouter.io/docs 官方文档，接入时只需「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」。实践中可以在重试逻辑里配置一个备用 model id，主模型达到重试上限后改用备用模型。

常见问题

问：遇到 429 应该立即重试吗？
答：不建议立即重试。应先等待，有 Retry-After 头时按其值等待，否则按指数退避加随机抖动处理。

问：被 429 拒绝的请求会扣费吗？
答：失败或报错的请求通常不计费，平台也不收取平台费。

问：使用 Anthropic 或 Gemini SDK 时处理方式一样吗？
答：思路一样。三种协议的接口都可以采用相同的退避策略，只需在对应 SDK 中捕获 429 错误。详见 relayrouter.io/docs。