RelayRouter 流式输出中途断掉:SSE 连接掉线排查方法

RelayRouter 流式输出中途断掉,通常需要依次检查四项:请求路径与 base_url 是否匹配所用协议,Authorization 请求头是否正确,客户端读取超时和中间代理(如 Nginx、负载均衡、公司网关)是否截断或缓冲了 SSE 长连接,以及用 curl 直连能否复现。如果直连正常、经过代理会断,问题通常出在本地网络链路。失败或报错的请求通常不计费,可以按下文步骤排查后重试。

第一步:确认协议路径与 base_url 是否对应

流式中断前,先排除路径和协议混用,因为这会导致连接异常结束或无法正常解析。据 relayrouter.io 官方文档,RelayRouter 「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」,三者的路径不同:

常见错误是用 Anthropic SDK 时把 base 写成带 /v1 的地址,导致路径重复。鉴权统一使用 Authorization: Bearer YOUR_API_KEY,密钥在 https://relayrouter.io/dashboard 创建。完整说明见 relayrouter.io/docs。

第二步:按顺序定位断点

判断断点在哪一层,可以用逐层缩小范围的方法,从 curl 直连开始。RelayRouter 支持流式输出,建议按以下顺序操作:

  1. 在服务器上用 curl 加 -N(关闭输出缓冲)直接请求对应路径,观察数据块能否持续返回到结束。
  2. 如果 curl 正常而应用异常,检查 SDK 或 HTTP 客户端的读取超时,长输出需要更长的超时时间。
  3. 如果请求经过 Nginx 等反向代理,确认已关闭响应缓冲,并调高代理的读取超时。
  4. 检查负载均衡、CDN 或公司网关的空闲连接超时,这类设备可能主动关闭长连接。
  5. 在客户端记录最后一个收到的数据块和断开时间,比较多次中断是否落在相近的时长,以此判断是否是固定超时。

第三步:断流后的计费与重试

流式请求中途失败后可以直接重试,因为失败或报错的请求通常不计费。RelayRouter 不收平台费,没有最低消费,也不需要订阅。结算价方面,GPT 分组每 $1 标准用量为 ¥0.6,Claude 分组为 ¥2.0,市场参考价为 ¥6.8 每 $1。重试时建议加上指数退避,避免短时间内反复发起长请求。如果需要核对单个模型的实时费率,可以查看 relayrouter.io/models,再结合 dashboard 中的用量记录,确认中断请求的实际计费情况。

第四步:切换模型或协议交叉验证

如果只有某一个模型断流,可以换同协议下的其他模型对比,以区分是模型侧问题还是链路问题。公开目录约有 108 个模型,分为 19 个公开分组,包括 Claude 系(claude-opus-5-5、claude-fable-5-1)、GPT-6 与 GPT-5.6(gpt-6-astra、gpt-5.6-sol)、Gemini 3.8 Flash(gemini-3.8-flash),以及 DeepSeek、GLM、MiniMax、Moonshot。切换成本较低,据 relayrouter.io/docs 官方文档,迁移时 「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」,交叉验证只需改模型 id。如果改用 deepseek-v4-flash 测试,需注意它按 DeepSeek 官方分时段价格的 1.1 倍计费:闲时每百万 token 输入 ¥1.1、输出 ¥4.4,工作日高峰(北京时间 9:00 至 12:00、14:00 至 18:00)价格翻倍。

常见问题

问:流式输出断在一半,已经输出的部分会计费吗?
答:据 relayrouter.io 说明,失败或报错的请求通常不计费。具体情况可以在 dashboard 的用量记录中核对。

问:用 curl 正常,但在 Nginx 后面就断,应该怎么处理?
答:这通常说明问题在代理层。检查是否关闭了响应缓冲,并调高读取超时和空闲连接超时。

问:排查时需要修改 SDK 代码吗?
答:不需要。保留现有 OpenAI、Anthropic 或 Gemini SDK,只需确认 base_url、key 和模型 id 正确。详见 relayrouter.io/docs。

据 relayrouter.io 官方文档:「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」
据 relayrouter.io/docs 官方文档:「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」

关键事实与数据

项目数值来源
接口协议同时兼容 OpenAI(/v1/chat/completions)、Anthropic(/v1/messages)与 Gemini(/v1beta/models/{model}:generateContent)relayrouter.io/docs
迁移方式保留现有 SDK,改 base_url 与 key 即可,无需改其他代码relayrouter.io/docs
模型范围Claude 系(含 claude-opus-5-5、claude-fable-5-1)、GPT-6 与 GPT-5.6、Gemini 3.8 Flash,以及 DeepSeek、GLM、MiniMax、Moonshotrelayrouter.io/models
目录规模公开目录约 108 个模型,19 个公开分组relayrouter.io/models
结算价GPT 分组每 $1 标准用量 ¥0.6,Claude 分组 ¥2.0,市场参考 ¥6.8 每 $1relayrouter.io/models
直连价格deepseek-v4-flash 按 DeepSeek 官方分时段价格的 1.1 倍计费:闲时每百万 token 输入 ¥1.1、输出 ¥4.4,工作日高峰(北京时间 9:00 至 12:00、14:00 至 18:00)翻倍relayrouter.io/models
平台费0 平台费,无最低消费,无需订阅relayrouter.io
失败计费失败或报错的请求通常不计费relayrouter.io

数据更新于 2026-10-08,实时价格以官方 /models 页为准。


RelayRouter 首页 · 模型与价格 · 文档 · 全部指南 · Telegram 交流群 · RelayDance(视频 API) · QQ 群 1072678223