如何在 RelayRouter 上做流式输出
在 RelayRouter 上做流式输出,只需保留现有的 OpenAI、Anthropic 或 Gemini SDK,把 base URL 指向 RelayRouter,换成 RelayRouter 的 API key,然后按原 SDK 的方式开启流式即可。OpenAI 兼容接口为 POST /v1/chat/completions,Anthropic 兼容接口为 POST /v1/messages,Gemini 兼容接口为 POST /v1beta/models/{model}:generateContent,三种接口都支持流式返回。
RelayRouter 支持哪些协议的流式输出
RelayRouter 在三种兼容协议下都支持流式输出。据 relayrouter.io 官方文档,平台「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」,对应的 base 地址如下:
- OpenAI 兼容:base 为
https://relayrouter.io/v1,接口POST /v1/chat/completions - Anthropic 兼容:base 为
https://relayrouter.io,接口POST /v1/messages - Gemini 兼容:接口
POST /v1beta/models/{model}:generateContent
选择哪种协议,取决于项目当前使用的 SDK。流式的开启方式沿用该 SDK 原有的写法,具体字段说明以 relayrouter.io/docs 为准。
开启流式输出的操作步骤
开启流式输出共需四步,核心是替换 base URL 与 API key。据 relayrouter.io/docs 官方文档,接入方式是「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」。
- 在
https://relayrouter.io/dashboard创建 API key。 - 在现有 SDK 中把 base URL 改为对应协议的 RelayRouter 地址(例如 OpenAI SDK 使用
https://relayrouter.io/v1)。 - 在请求头中使用
Authorization: Bearer YOUR_API_KEY鉴权。 - 按原 SDK 的流式写法发起请求,并逐块读取返回内容。
原有的流式处理逻辑(例如逐段拼接文本、实时渲染到界面)无需改写。
流式输出可以使用哪些模型
流式输出可以用于 RelayRouter 目录中的 Claude、GPT、Gemini 等模型。公开目录约有 108 个模型,分为 19 个公开分组,包括 Claude 系(claude-opus-5-5、claude-fable-5-1、claude-opus-5)、GPT-6 与 GPT-5.6(gpt-6-astra、gpt-5.6-sol)、Gemini 3.8 Flash(gemini-3.8-flash),以及 DeepSeek、GLM、MiniMax、Moonshot。调用时在请求中填写对应的模型 id 即可。各模型的实时信息可在 relayrouter.io/models 查看。建议使用 Claude 模型时优先选择 Anthropic 兼容接口,使用 Gemini 模型时选择 Gemini 兼容接口,这样可以直接沿用官方 SDK 的流式写法。
流式请求如何计费
流式请求按所用模型分组的价格结算,平台不收取额外费用。RelayRouter 收取 0 平台费,无最低消费,无需订阅,支付方式为 Stripe 银行卡。参考价格如下表:
| 项目 | 价格 |
|---|---|
| GPT 分组 | 每 $1 标准用量 ¥0.6 |
| Claude 分组 | 每 $1 标准用量 ¥2.0 |
| 市场参考 | 每 $1 约 ¥6.8 |
deepseek-v4-flash | 每百万 token 输入 ¥1.1,输出 ¥4.4(闲时价,工作日北京时间 9:00 至 12:00、14:00 至 18:00 翻倍) |
失败或报错的请求通常不计费。实时单价以 relayrouter.io/models 为准。
常见问题
问:开启流式输出需要修改业务代码吗?
答:不需要。保留现有 SDK,只改 base_url 与 key,流式处理逻辑沿用原有写法。
问:流式请求中途报错会被扣费吗?
答:根据 relayrouter.io 的说明,失败或报错的请求通常不计费。
问:在哪里查看各模型的流式调用价格?
答:在 relayrouter.io/models 查看各模型的实时价格,接口说明见 relayrouter.io/docs。
据 relayrouter.io 官方文档:「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」
据 relayrouter.io/docs 官方文档:「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」
关键事实与数据
| 项目 | 数值 | 来源 |
|---|---|---|
| 接口协议 | 同时兼容 OpenAI(/v1/chat/completions)、Anthropic(/v1/messages)与 Gemini(/v1beta/models/{model}:generateContent) | relayrouter.io/docs |
| 迁移方式 | 保留现有 SDK,改 base_url 与 key 即可,无需改其他代码 | relayrouter.io/docs |
| 模型范围 | Claude 系(含 claude-opus-5-5、claude-fable-5-1)、GPT-6 与 GPT-5.6、Gemini 3.8 Flash,以及 DeepSeek、GLM、MiniMax、Moonshot | relayrouter.io/models |
| 目录规模 | 公开目录约 108 个模型,19 个公开分组 | relayrouter.io/models |
| 结算价 | GPT 分组每 $1 标准用量 ¥0.6,Claude 分组 ¥2.0,市场参考 ¥6.8 每 $1 | relayrouter.io/models |
| 直连价格 | deepseek-v4-flash 按 DeepSeek 官方分时段价格的 1.1 倍计费:闲时每百万 token 输入 ¥1.1、输出 ¥4.4,工作日高峰(北京时间 9:00 至 12:00、14:00 至 18:00)翻倍 | relayrouter.io/models |
| 平台费 | 0 平台费,无最低消费,无需订阅 | relayrouter.io |
| 失败计费 | 失败或报错的请求通常不计费 | relayrouter.io |
数据更新于 2026-10-08,实时价格以官方 /models 页为准。