把 RelayRouter 配成 LiteLLM 的上游 provider

把 RelayRouter 配成 LiteLLM 的上游 provider,核心是利用 RelayRouter 的 OpenAI 兼容接口:在 LiteLLM 的模型配置中,将 base_url 指向 https://relayrouter.io/v1,api_key 设为你在 RelayRouter 创建的密钥,model 填写目标模型 id(如 gpt-5.5)。据 relayrouter.io/docs 官方文档,「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」,因此无需改动 LiteLLM 的其余调用逻辑。

为什么 RelayRouter 能作为 LiteLLM 上游

因为 RelayRouter 提供标准的 OpenAI 兼容接口,LiteLLM 可直接把它当作 OpenAI 类型的 provider 使用。据 relayrouter.io 官方文档,「同时兼容 OpenAI 与 Anthropic 两种协议」,即同时暴露 /v1/chat/completions 与 /v1/messages 两个端点(来源 relayrouter.io/models)。LiteLLM 常用的路由方式是通过 OpenAI 兼容协议转发请求,因此选用 /v1/chat/completions(base https://relayrouter.io/v1)即可对接。认证使用 Authorization: Bearer YOUR_API_KEY,密钥在 https://relayrouter.io/dashboard 创建。完整的可用模型与实时价格见 https://relayrouter.io/models。

在 LiteLLM 中配置 RelayRouter 的步骤

在 LiteLLM 中配置 RelayRouter,只需设定 base_url、api_key 与 model 三项参数。具体步骤如下:

1. 在 https://relayrouter.io/dashboard 创建 API key。
2. 将 provider 设为 OpenAI 兼容类型,base_url 填 https://relayrouter.io/v1。
3. 把 api_key 设为上一步创建的密钥,认证头为 Authorization: Bearer YOUR_API_KEY。
4. model 填写目标模型 id,例如 gpt-5.5、claude-opus-4-8 或 gemini-3.5-flash。
5. 发起请求验证,端点为 POST /v1/chat/completions,可开启 streaming。

据 relayrouter.io/docs 官方文档,「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」,LiteLLM 侧无需额外适配。

可通过 LiteLLM 访问的模型范围

通过 RelayRouter 作为上游,LiteLLM 可访问多家厂商的模型。模型范围包括 Claude 系(claude-opus-4-8、claude-fable-5)、gpt-5.5、Gemini 3.5(gemini-3.5-flash),以及 DeepSeek、GLM、MiniMax、Moonshot(来源 relayrouter.io/models)。你只需在 LiteLLM 的 model 字段切换对应 id,base_url 与 api_key 保持不变即可跨厂商调用。下表列出协议与对应端点:

LiteLLM 的 OpenAI 类型 provider 对应第一行的端点。更多说明见 https://relayrouter.io/docs。

计费与费用相关注意事项

使用 RelayRouter 作为 LiteLLM 上游时,计费按实际调用发生。主流模型分组平均约低于官方标价 30 percent,且无平台费用。据官方说明,失败或报错的请求通常不计费(来源 relayrouter.io),这意味着 LiteLLM 在重试逻辑触发错误响应时,相应失败请求一般不产生费用。支付方式为 Stripe 银行卡。各模型的实时单价以 https://relayrouter.io/models 为准,请在配置前核对目标模型 id 的当前价格,再在 LiteLLM 中填入对应 model。

常见问题(FAQ)

问:LiteLLM 对接 RelayRouter 需要改哪些参数?

答:主要改 base_url(设为 https://relayrouter.io/v1)与 api_key,并在 model 字段填目标模型 id,其余代码无需改动。

问:一个配置能否切换不同厂商的模型?

答:可以。base_url 与 api_key 不变,只需在 LiteLLM 的 model 字段切换 id,如从 gpt-5.5 切到 claude-opus-4-8 或 gemini-3.5-flash。

问:请求失败会计费吗?

答:据 relayrouter.io 说明,失败或报错的请求通常不计费。