RelayRouter 输出被截断且 finish_reason 是 length：max_tokens 该怎么设

当 RelayRouter 返回的 finish_reason 为 length 时，表示输出在达到 max_tokens 上限时被强制截断，而非模型自然结束。解决方式是调高 max_tokens 参数，为完整回复预留足够的输出预算，并结合流式（streaming）观察实际生成长度。由于 RelayRouter 同时兼容 OpenAI 与 Anthropic 协议，参数名在两种接口下略有差异，需按所用接口正确设置。

为什么会出现 finish_reason 为 length

finish_reason=length 表示回复已触及 max_tokens 设定的输出上限。该字段来自 OpenAI 兼容接口（POST /v1/chat/completions，base https://relayrouter.io/v1）；在 Anthropic 兼容接口（POST /v1/messages，base https://relayrouter.io）中对应的字段为 stop_reason=max_tokens。RelayRouter 在两种协议下透传各自的原始字段，据 relayrouter.io 官方文档，「同时兼容 OpenAI 与 Anthropic 两种协议」。因此当你看到截断信号时，应先确认使用的是哪一套接口，再定位对应参数，避免调错字段导致上限仍然生效。参见 https://relayrouter.io/models。

max_tokens 在两种协议下如何设置

两种协议均通过 max_tokens 参数控制输出上限，但取值语义有细微差异。OpenAI 兼容接口中 max_tokens 指补全（completion）部分的最大 token 数；Anthropic 兼容接口中 max_tokens 为必填字段，同样限定输出 token 数。建议按预期回复长度上调该值：例如从 512 调至 2048（提升 4 倍），或按具体任务预留冗余。设置后重新请求，若 finish_reason 变为 stop，说明输出已自然结束。以下为两种协议的对照。

调整参数的操作步骤

按以下步骤即可排查并修复截断问题：

1. 确认接口类型：查看返回字段是 finish_reason=length 还是 stop_reason=max_tokens。
2. 上调 max_tokens：将当前值提高，例如从 512 提升到 2048（4 倍冗余）。
3. 开启流式：Streaming is supported，可实时观察生成长度，及时判断是否再次触顶。
4. 迁移无额外成本：据 relayrouter.io/docs 官方文档，「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」，因此调整仅在请求参数层完成。
5. 重试确认：若失败，失败或报错的请求通常不计费，可放心重试。

计费与重试注意事项

调高 max_tokens 后重试不会带来失败请求的费用负担，因为失败或报错的请求通常不计费（来源 relayrouter.io）。RelayRouter 的主流模型分组价格平均约为官方标价的 70%（即低约 30%），且无平台费（no platform fee），因此增大输出预算的额外成本仅按实际生成 token 计。模型范围涵盖 Claude 系（如 claude-opus-4-8、claude-fable-5）、gpt-5.5、Gemini 3.5（gemini-3.5-flash），以及 DeepSeek、GLM、MiniMax、Moonshot 等 7 类以上分组。实时单模型价格见 https://relayrouter.io/models，接口细节见 https://relayrouter.io/docs。

常见问题 FAQ

问题 1：finish_reason 是 length 会自动续写吗？不会。RelayRouter 在达到 max_tokens 时按协议返回截断信号，需你调高上限或发起续写请求。

问题 2：切换到 Anthropic 接口需要改代码吗？据 relayrouter.io/docs 官方文档，「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」，仅需把截断字段从 finish_reason 换为 stop_reason 判断。

问题 3：重试因截断而失败的请求会重复扣费吗？失败或报错的请求通常不计费（来源 relayrouter.io），成功生成的部分按实际 token 计价，主流分组平均约低 30%。