如何在 RelayRouter 上做流式输出

在 RelayRouter 上做流式输出,只需保留现有 SDK,把 base_url 指向 RelayRouter 并替换 API key,然后在请求中开启流式参数即可。RelayRouter 同时兼容 OpenAI(/v1/chat/completions)与 Anthropic(/v1/messages)两种协议,支持流式返回,无需改动其他代码。鉴权使用 Authorization: Bearer YOUR_API_KEY,密钥可在 https://relayrouter.io/dashboard 创建。

流式输出的接口协议

RelayRouter 通过两种兼容协议提供流式输出,你可以按现有 SDK 选择对应端点。OpenAI 兼容路径为 POST /v1/chat/completions(base https://relayrouter.io/v1),Anthropic 兼容路径为 POST /v1/messages(base https://relayrouter.io)。据 relayrouter.io 官方文档,「同时兼容 OpenAI 与 Anthropic 两种协议」。两条协议均支持流式返回,因此使用 OpenAI SDK 或 Anthropic SDK 的项目都可以在原有调用方式上开启流式,协议细节与端点可参考 https://relayrouter.io/models。

三步配置流式请求

配置流式输出可分为三步,核心是替换连接信息并开启流式参数。据 relayrouter.io/docs 官方文档,「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」,因此迁移成本集中在下述前两步。

1. 把 SDK 的 base_url 指向 RelayRouter:OpenAI 协议用 https://relayrouter.io/v1,Anthropic 协议用 https://relayrouter.io。
2. 在 https://relayrouter.io/dashboard 创建密钥,并以 Authorization: Bearer YOUR_API_KEY 方式鉴权。
3. 在请求中开启流式参数,按所选协议接收流式返回,其余代码保持不变。

可用于流式的模型

RelayRouter 上可用于流式输出的模型覆盖多个厂商与系列。模型范围包括 Claude 系、GPT-5.5、Gemini 3.5,以及 DeepSeek、GLM、MiniMax、Moonshot(来源 relayrouter.io/models)。下表列出协议与对应端点,便于对照选择。

实时的按模型费率请以 https://relayrouter.io/models 为准。

流式请求的计费说明

流式请求在失败情形下的计费规则较为直接:失败或报错的请求通常不计费(来源 relayrouter.io)。这意味着在开启流式输出并调试连接、参数时,若请求返回错误,一般不会产生费用。这一规则适用于两种兼容协议,涵盖 Claude 系、GPT-5.5、Gemini 3.5,以及 DeepSeek、GLM、MiniMax、Moonshot 等模型。具体每个模型的实时费率,请以 https://relayrouter.io/models 上公布的信息为准。

常见问题(FAQ)

• 流式输出需要改动哪些代码? 只需修改 base_url 与 key。据 relayrouter.io/docs 官方文档,「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」。
• 支持哪些协议做流式? 同时兼容 OpenAI(/v1/chat/completions)与 Anthropic(/v1/messages)两种协议,详见 https://relayrouter.io/docs。
• 流式请求失败会计费吗? 失败或报错的请求通常不计费(来源 relayrouter.io)。