通过 RelayRouter 调模型输出重复打转：需要检查哪些采样参数

输出重复打转时，应优先检查请求中的采样与长度参数：temperature、top_p（Anthropic 与 Gemini 协议还有 top_k/topK）、OpenAI 协议的 frequency_penalty 与 presence_penalty，以及 max_tokens 和停止序列。RelayRouter 兼容三种协议，参数写法沿用所用协议的原生字段。建议同时确认请求实际发往哪个端点，并换用其他模型对比结果。

重复输出通常与哪些参数有关

重复输出通常与随机性参数、重复惩罚参数和长度控制参数有关。随机性参数包括 temperature、top_p 和 top_k。取值过低时，模型更倾向于选择同一组高概率词，可能陷入循环。重复惩罚参数为 OpenAI 协议中的 frequency_penalty 与 presence_penalty，用于降低已出现内容再次出现的倾向。长度控制参数为 max_tokens（Gemini 中为 maxOutputTokens）和停止序列。上限设置过大且没有停止条件时，模型陷入循环后会持续输出，直到达到上限。排查时建议一次只调整一个参数，记录每次请求的完整参数，便于定位问题来源。

三种协议下的参数如何对应

参数名称由调用时使用的协议决定，RelayRouter 不要求统一改写。据 relayrouter.io 官方文档，平台「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」，分别对应 /v1/chat/completions、/v1/messages 与 /v1beta/models/{model}:generateContent。下表列出排查时需要核对的常用字段：

如果把一种协议的字段写进另一种协议的请求，例如在 /v1/messages 请求中使用 frequency_penalty，该参数可能不会按预期生效。各端点细节见 relayrouter.io/docs。

按什么步骤排查

建议按“端点、参数、模型”的顺序排查，每一步只改变一个变量。据 relayrouter.io/docs 官方文档，接入方式是「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」，因此原有的采样参数会随请求一并发送，需要逐项核对：

1. 确认 base URL 与 SDK 匹配：OpenAI SDK 使用 https://relayrouter.io/v1，Anthropic SDK 使用 https://relayrouter.io，请求头为 Authorization: Bearer YOUR_API_KEY。
2. 打印实际发出的请求体，检查是否有 SDK 或业务代码中遗留的低 temperature 或其他异常取值。
3. 逐项调整 temperature、top_p（或 top_k），在 OpenAI 协议下再尝试调整 frequency_penalty 与 presence_penalty。
4. 为 max_tokens 设置合理上限，并加入停止序列。
5. 保持参数不变，换用其他模型对比。公开目录约有 108 个模型，分为 19 个公开分组，可在 relayrouter.io/models 查看。

排查期间的费用如何计算

排查请求按所选模型分组的结算价计费，平台不收取额外费用。据 relayrouter.io/models，GPT 分组每 $1 标准用量结算价为 ¥0.6，Claude 分组为 ¥2.0，市场参考价为每 $1 ¥6.8。如果需要低成本地反复测试参数，可以参考直连价格：deepseek-v4-flash 每百万 token 输入 ¥1.1、输出 ¥4.4（闲时价，工作日北京时间 9:00 至 12:00、14:00 至 18:00 翻倍）。平台为 0 平台费，无最低消费，也无需订阅。失败或报错的请求通常不计费；而重复输出的请求通常属于正常返回，实际费用以账单为准。因此建议在排查时设置 max_tokens 上限，避免循环输出消耗过多 token。实时费率见 relayrouter.io/models。

常见问题

以下问题涵盖排查重复输出时的常见疑问。

问：通过 RelayRouter 调用时，需要修改采样参数的写法吗？

答：不需要。参数沿用所用协议的原生字段，接入时只需修改 base_url 与 key。

问：Anthropic 协议没有 frequency_penalty，还能如何减少重复？

答：可以调整 temperature、top_p、top_k，并配合 max_tokens 与 stop_sequences 限制循环输出的长度。

问：换模型对比时，可以选择哪些模型？

答：可选 Claude 系（含 claude-opus-5-5、claude-fable-5-1）、GPT-6 与 GPT-5.6、Gemini 3.8 Flash，以及 DeepSeek、GLM、MiniMax、Moonshot。完整列表见 relayrouter.io/models。