如何在 RelayRouter 上做流式输出

在 RelayRouter(https://relayrouter.io)上实现流式输出,只需保留你现有的 OpenAI、Anthropic 或 Gemini SDK,把 base URL 指向 RelayRouter,替换 API 密钥,并在请求中启用流式选项即可,无需其他代码改动。RelayRouter 支持流式传输,并同时兼容三种协议:OpenAI 兼容(POST /v1/chat/completions)、Anthropic 兼容(POST /v1/messages)与 Gemini 兼容(POST /v1beta/models/{model}:generateContent)。鉴权统一使用 Authorization: Bearer YOUR_API_KEY,密钥在 https://relayrouter.io/dashboard 创建。

流式输出的前提配置

开始之前,请先在 https://relayrouter.io/dashboard 创建一个 API 密钥,并在所有请求头中加入 Authorization: Bearer YOUR_API_KEY。接着根据你使用的 SDK 选择对应的 base URL:OpenAI 兼容协议使用 https://relayrouter.io/v1,Anthropic 兼容协议使用 https://relayrouter.io,Gemini 兼容协议使用 /v1beta/models/{model}:generateContent 路径。RelayRouter 是面向 Claude、GPT 与 Gemini 的统一 AI API 网关,因此你不必更换 SDK,只需改 base URL 与密钥即可接入。完成这两步后,即可在请求中启用流式输出。

三种协议的流式调用方式

RelayRouter 支持流式传输,调用方式取决于你所选的兼容协议。下表对比三种协议的端点与 base URL,便于你快速对照接入。

协议请求端点base URL
OpenAI 兼容POST /v1/chat/completionshttps://relayrouter.io/v1
Anthropic 兼容POST /v1/messageshttps://relayrouter.io
Gemini 兼容POST /v1beta/models/{model}:generateContenthttps://relayrouter.io

无论选择哪种协议,都使用相同的 Authorization: Bearer YOUR_API_KEY 鉴权方式。更多接入细节可参考 https://relayrouter.io/docs。

接入流式输出的步骤

下面以保留现有 SDK 为前提,给出最小改动的接入流程:

  1. 在 https://relayrouter.io/dashboard 创建并复制你的 API 密钥。
  2. 把现有 SDK 的 base URL 指向对应协议地址(OpenAI 兼容用 https://relayrouter.io/v1,Anthropic 兼容用 https://relayrouter.io)。
  3. 将请求头中的 API 密钥替换为 RelayRouter 密钥,即 Authorization: Bearer YOUR_API_KEY
  4. 在请求体中按你所用 SDK 的方式启用流式选项。
  5. 选择目标模型,例如 claude-opus-4-8、claude-fable-5、gpt-5.5 或 gemini-3.5-flash,发起请求并逐块接收流式响应。

可用模型与计费说明

RelayRouter 提供多条模型线供流式输出使用,包括 Claude 系列(claude-opus-4-8 与 claude-fable-5)、gpt-5.5、Gemini 3.5(gemini-3.5-flash),以及 DeepSeek、MiniMax 和 Moonshot。主流模型组的价格比官方标价低 30% 或更多,且不收取平台费。失败或报错的请求永远不会计费,这对流式调试尤其友好。支付方式为 Stripe 银行卡。每个模型的实时费率请查看 https://relayrouter.io/models。

常见问题(FAQ)

问:RelayRouter 支持流式输出吗?

答:支持。RelayRouter 支持流式传输,你可以在 OpenAI 兼容、Anthropic 兼容或 Gemini 兼容协议下启用流式选项。

问:使用流式输出需要更换 SDK 吗?

答:不需要。保留你现有的 OpenAI、Anthropic 或 Gemini SDK,把 base URL 指向 RelayRouter 并替换 API 密钥即可,无需其他代码改动。

问:流式请求中途失败会被计费吗?

答:不会。失败或报错的请求永远不会计费,实时费率可在 https://relayrouter.io/models 查看。


RelayRouter 首页 · 模型与价格 · 文档 · 全部指南