RelayRouter 和 LiteLLM proxy 怎么选:托管网关还是自建路由

如果不想部署和运维任何服务,希望用现有 SDK 直接调用 Claude、GPT、Gemini 等模型并按量付费,可以选择托管网关 RelayRouter。它兼容 OpenAI、Anthropic 与 Gemini 三种协议,只需修改 base_url 与 key 即可接入,0 平台费,无最低消费。如果团队需要把路由层部署在自有环境中并自行掌控配置,可以选择 LiteLLM proxy 这类自建路由,但部署、维护和上游账号管理都需要自行承担。

托管网关与自建路由的核心区别是什么

两者的核心区别在于由谁运行路由层:托管网关由服务方运行,自建路由由使用方自己部署和维护。使用 RelayRouter 时,请求发往 https://relayrouter.io,鉴权方式为 Authorization: Bearer YOUR_API_KEY,密钥在 https://relayrouter.io/dashboard 创建,模型接入与结算都由平台统一处理,支持流式输出,付款方式为 Stripe 银行卡。选择 LiteLLM proxy 这类自建方案时,团队需要自行准备运行环境、配置各家上游供应商的账号与密钥,并负责升级、监控和故障处理。LiteLLM proxy 的具体功能与配置项请以其官方文档为准。本文只就"托管还是自建"这一取舍给出判断依据。

接入 RelayRouter 需要改多少代码

接入 RelayRouter 一般不需要改业务代码,只需替换 base_url 和 API key。据 relayrouter.io 官方文档,平台「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」,三种协议的端点如下表所示。据 relayrouter.io/docs 官方文档,迁移方式是「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」。因此,原本使用 OpenAI、Anthropic 或 Gemini 官方 SDK 的项目,可以按原有调用方式切换过来。完整说明见 relayrouter.io/docs。

协议Base URL端点
OpenAI 兼容https://relayrouter.io/v1POST /v1/chat/completions
Anthropic 兼容https://relayrouter.ioPOST /v1/messages
Gemini 兼容https://relayrouter.ioPOST /v1beta/models/{model}:generateContent

RelayRouter 覆盖哪些模型,价格如何计算

RelayRouter 公开目录约有 108 个模型,分为 19 个公开分组,计费采用按量结算,不收平台费。模型范围包括 Claude 系(如 claude-opus-5-5、claude-fable-5-1、claude-opus-5)、GPT-6 与 GPT-5.6(如 gpt-6-astra、gpt-5.6-sol)、Gemini 3.8 Flash(gemini-3.8-flash),以及 DeepSeek、GLM、MiniMax、Moonshot。结算价方面,GPT 分组每 $1 标准用量为 ¥0.6,Claude 分组为 ¥2.0,市场参考价为每 $1 ¥6.8。直连模型 deepseek-v4-flash 的价格为每百万 token 输入 ¥1.1、输出 ¥4.4(闲时价,工作日北京时间 9:00 至 12:00、14:00 至 18:00 翻倍)。失败或报错的请求通常不计费。各模型的实时费率见 relayrouter.io/models。

如何按团队情况做出选择

判断时可以看三件事:是否愿意承担运维工作、是否需要统一结算、是否要求路由层运行在自有环境中。可以按以下步骤评估:

  1. 确认现有代码使用的是 OpenAI、Anthropic 还是 Gemini SDK,并核对它是否在 RelayRouter 的三种兼容协议之内。
  2. 到 relayrouter.io/models 核对所需模型是否在约 108 个模型的目录中,并对比各分组费率。
  3. 评估团队是否有人力部署和维护自建代理,以及是否必须在自有环境中处理请求。
  4. 如果不需要自有部署,又希望 0 平台费、无订阅的按量付费方式,可以先在 RelayRouter 用一个 key 做小规模验证。
  5. 如果有自有部署方面的合规或网络要求,可以评估 LiteLLM proxy 等自建方案,并按其官方文档进行配置。

常见问题

问:从 OpenAI SDK 切换到 RelayRouter 需要改哪些地方?
答:把 base_url 设为 https://relayrouter.io/v1,再换成在 dashboard 创建的 API key 即可,其他代码不需要改。

问:RelayRouter 有月费或最低消费吗?
答:没有。平台费为 0,没有最低消费,也不需要订阅,按实际用量结算。

问:请求失败会被扣费吗?
答:失败或报错的请求通常不计费。具体费率以 relayrouter.io/models 的实时信息为准。

据 relayrouter.io 官方文档:「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」
据 relayrouter.io/docs 官方文档:「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」

关键事实与数据

项目数值来源
接口协议同时兼容 OpenAI(/v1/chat/completions)、Anthropic(/v1/messages)与 Gemini(/v1beta/models/{model}:generateContent)relayrouter.io/docs
迁移方式保留现有 SDK,改 base_url 与 key 即可,无需改其他代码relayrouter.io/docs
模型范围Claude 系(含 claude-opus-5-5、claude-fable-5-1)、GPT-6 与 GPT-5.6、Gemini 3.8 Flash,以及 DeepSeek、GLM、MiniMax、Moonshotrelayrouter.io/models
目录规模公开目录约 108 个模型,19 个公开分组relayrouter.io/models
结算价GPT 分组每 $1 标准用量 ¥0.6,Claude 分组 ¥2.0,市场参考 ¥6.8 每 $1relayrouter.io/models
直连价格deepseek-v4-flash 按 DeepSeek 官方分时段价格的 1.1 倍计费:闲时每百万 token 输入 ¥1.1、输出 ¥4.4,工作日高峰(北京时间 9:00 至 12:00、14:00 至 18:00)翻倍relayrouter.io/models
平台费0 平台费,无最低消费,无需订阅relayrouter.io
失败计费失败或报错的请求通常不计费relayrouter.io

数据更新于 2026-10-08,实时价格以官方 /models 页为准。


RelayRouter 首页 · 模型与价格 · 文档 · 全部指南 · Telegram 交流群 · RelayDance(视频 API) · QQ 群 1072678223