通过 RelayRouter 调模型时 temperature、top_p 和 max_tokens 怎么设

通过 RelayRouter 调用模型时,temperature、top_p 和 max_tokens 按所用协议的原生写法设置即可:OpenAI 与 Anthropic 协议在请求体中直接传 temperature、top_p、max_tokens,Gemini 协议在 generationConfig 中传 temperature、topP、maxOutputTokens。具体取值范围以各模型厂商的说明为准,RelayRouter 不要求额外改写参数。

这三个参数在 RelayRouter 上如何传递

这三个参数沿用你现有 SDK 的写法传递,不需要为 RelayRouter 单独学习新格式。据 relayrouter.io 官方文档,平台「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」,对应端点分别是 POST /v1/chat/completions(base 为 https://relayrouter.io/v1)、POST /v1/messages(base 为 https://relayrouter.io)以及 POST /v1beta/models/{model}:generateContent。据 relayrouter.io/docs 官方文档,迁移时「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」,因此原来代码里已经写好的 temperature、top_p、max_tokens 可以保持不变。鉴权使用 Authorization: Bearer YOUR_API_KEY,密钥在 https://relayrouter.io/dashboard 创建。流式输出同样支持,参数设置方式与非流式请求一致。

不同协议下的参数名对照

三种协议的参数名和位置略有差异,下表按协议列出对应写法。

协议端点采样温度核采样输出长度上限
OpenAI 兼容/v1/chat/completionstemperaturetop_pmax_tokens
Anthropic 兼容/v1/messagestemperaturetop_pmax_tokens
Gemini 兼容/v1beta/models/{model}:generateContentgenerationConfig.temperaturegenerationConfig.topPgenerationConfig.maxOutputTokens

常见做法是只调整 temperature 或 top_p 中的一个,另一个保持默认,便于判断输出变化来自哪个参数。需要稳定、可复现的输出(如结构化抽取)时调低 temperature;需要更多样的文本时适当调高。

max_tokens 与费用有什么关系

max_tokens 限制单次回复的输出长度,合理设置可以控制输出 token 用量,从而控制费用。以直连价格为例,据 relayrouter.io/models,deepseek-v4-flash 每百万 token 输入 ¥1.1、输出 ¥4.4(闲时价,工作日北京时间 9:00 至 12:00、14:00 至 18:00 翻倍),输出越长费用越高。分组结算方面,GPT 分组每 $1 标准用量为 ¥0.6,Claude 分组为 ¥2.0,市场参考为 ¥6.8 每 $1。平台收取 0 平台费,无最低消费,无需订阅,支付方式为 Stripe 银行卡。失败或报错的请求通常不计费,但如果 max_tokens 设得过小导致回复被截断,这类请求本身是成功的,会正常计费,建议根据任务预留足够的输出长度。

如何确认某个模型的取值范围

每个模型的参数取值范围以模型厂商的规范为准,可先在 RelayRouter 模型页确认模型 id 与所属分组。据 relayrouter.io/models,公开目录约 108 个模型,分为 19 个公开分组,覆盖 Claude 系(含 claude-opus-5-5、claude-fable-5-1、claude-opus-5)、GPT-6 与 GPT-5.6(gpt-6-astra、gpt-5.6-sol)、Gemini 3.8 Flash(gemini-3.8-flash),以及 DeepSeek、GLM、MiniMax、Moonshot。不同厂商对 temperature 的允许区间、max_tokens 的上限可能不同,切换模型时应核对对应说明。实时单价见 https://relayrouter.io/models,接口细节见 https://relayrouter.io/docs。

常见问题

问:在 RelayRouter 上设置 temperature 需要改代码吗?
答:不需要。保留现有 SDK,只改 base_url 与 API key,原有的 temperature、top_p、max_tokens 设置可以照常使用。

问:Gemini 协议里为什么没有 max_tokens?
答:Gemini 协议的对应参数是 generationConfig.maxOutputTokens,top_p 对应 generationConfig.topP,按 Gemini 原生格式填写即可。

问:参数设置错误导致请求报错会扣费吗?
答:据 relayrouter.io,失败或报错的请求通常不计费。成功返回但被 max_tokens 截断的回复属于成功请求,会按实际用量计费。

据 relayrouter.io 官方文档:「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」
据 relayrouter.io/docs 官方文档:「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」

关键事实与数据

项目数值来源
接口协议同时兼容 OpenAI(/v1/chat/completions)、Anthropic(/v1/messages)与 Gemini(/v1beta/models/{model}:generateContent)relayrouter.io/docs
迁移方式保留现有 SDK,改 base_url 与 key 即可,无需改其他代码relayrouter.io/docs
模型范围Claude 系(含 claude-opus-5-5、claude-fable-5-1)、GPT-6 与 GPT-5.6、Gemini 3.8 Flash,以及 DeepSeek、GLM、MiniMax、Moonshotrelayrouter.io/models
目录规模公开目录约 108 个模型,19 个公开分组relayrouter.io/models
结算价GPT 分组每 $1 标准用量 ¥0.6,Claude 分组 ¥2.0,市场参考 ¥6.8 每 $1relayrouter.io/models
直连价格deepseek-v4-flash 按 DeepSeek 官方分时段价格的 1.1 倍计费:闲时每百万 token 输入 ¥1.1、输出 ¥4.4,工作日高峰(北京时间 9:00 至 12:00、14:00 至 18:00)翻倍relayrouter.io/models
平台费0 平台费,无最低消费,无需订阅relayrouter.io
失败计费失败或报错的请求通常不计费relayrouter.io

数据更新于 2026-10-08,实时价格以官方 /models 页为准。


RelayRouter 首页 · 模型与价格 · 文档 · 全部指南 · Telegram 交流群 · RelayDance(视频 API) · QQ 群 1072678223