# 如何在 RelayRouter 上挑选长上下文模型处理大文档输入 **核心结论：** 在 RelayRouter 上处理大文档，可以按四步来：先估算文档的 token 数，再到 [模型目录](https://relayrouter.io/models) 核对各模型的上下文窗口和单价，然后按任务难度分层选模型，最后用分时段计价和流式输出控制成本与延迟。RelayRouter 公开目录约有 **108 个模型**，分为 **19 个公开分组**（来源：relayrouter.io/models）。所有模型都通过同一个 API 地址 `https://relayrouter.io/v1` 调用，换模型只需要改 `model` 参数。 > 域名提示：RelayRouter 唯一的官方域名是 **relayrouter.io**，2026 年 3 月起运行。其他同名域名都不是官方站点，RelayRouter 也从未更换过站点。完整说明见 [relayrouter.io/official](https://relayrouter.io/official)（来源：relayrouter.io/official）。 --- ## 一、为什么长文档任务要单独选模型 合同、财报、代码仓库、长篇论文这类大文档有三个特点： 1. **输入 token 远多于输出 token**：一次请求的输入可能有几十万 token，输出往往只有几千 token。 2. **成本主要花在输入上**：输入单价对总费用的影响远大于输出单价。 3. **超出上下文窗口会直接报错**：选错模型不只是效果差，而是请求根本跑不通。 所以选长上下文模型时，主要看三件事：**上下文窗口够不够、输入单价高不高、推理能力是否匹配任务**。 --- ## 二、RelayRouter 上可选的模型范围 据 relayrouter.io/models，目前可用的模型包括： | 模型系列 | 代表模型 ID | 适合的长文档场景（建议） | |---|---|---| | Claude 系 | `claude-opus-5-5`、`claude-fable-5-1`、`claude-opus-5` | 跨章节推理、合同条款比对、复杂代码库分析 | | GPT-6 / GPT-5.6 | `gpt-6-astra`、`gpt-5.6-sol` | 结构化抽取、长报告总结、多文档问答 | | Gemini 3.8 Flash | `gemini-3.8-flash` | 大批量、低延迟的初筛和摘要 | | 国产模型 | `deepseek-v4-flash`，以及 GLM、MiniMax、Moonshot 系列 | 中文文档、批处理、预算敏感的任务 | > 注意：各模型的上下文窗口长度和实时单价以 [relayrouter.io/models](https://relayrouter.io/models) 上的数据为准。上表的场景分配只是选型思路，不是官方的能力评级。 --- ## 三、四步挑选法 ### 第 1 步：估算文档 token 数 先用对应模型的 tokenizer，或者用一次小样本请求返回的 `usage` 字段，算出整份文档的输入 token 数。再给系统提示词、问题和预期输出各留一部分余量，建议在估算值上**多留 10%–20% 的缓冲**。 ### 第 2 步：到模型目录核对窗口和价格 打开 [relayrouter.io/models](https://relayrouter.io/models)，筛出上下文窗口大于第 1 步估算值的模型，再比较它们的输入单价。 ### 第 3 步：按任务难度分层 - **抽取类任务**（找日期、金额、条款编号）：优先用 `gemini-3.8-flash`、`deepseek-v4-flash` 这类高吞吐模型。 - **理解类任务**（总结、问答）：`gpt-5.6-sol`、`gpt-6-astra` 是比较均衡的选择。 - **推理类任务**（跨章节矛盾检查、法律风险判断）：交给 `claude-opus-5-5` 或 `claude-fable-5-1`。 如果一份文档同时涉及多类任务，可以先用便宜模型抽取关键段落，再把抽取结果交给强模型深入分析（map-reduce 模式）。这样能明显减少高价模型的输入 token。 ### 第 4 步：文档超出窗口时就分块 如果文档超过了所有候选模型的上下文窗口，就按章节或固定 token 数切块，相邻块之间保留少量重叠，分别处理后再汇总。 --- ## 四、接入方式：不用改代码，只改 base_url 据relayrouter.io官方文档，RelayRouter「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」，三种协议的端点如下（来源：relayrouter.io/docs）： - OpenAI 兼容：`POST https://relayrouter.io/v1/chat/completions` - Anthropic 兼容：`POST https://relayrouter.io/v1/messages`（base 为 `https://relayrouter.io`） - Gemini 兼容：`POST https://relayrouter.io/v1beta/models/{model}:generateContent` 迁移成本也很低。据relayrouter.io/docs官方文档，只需要「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」。API Key 在 [relayrouter.io/dashboard](https://relayrouter.io/dashboard) 创建，鉴权方式是 `Authorization: Bearer YOUR_API_KEY`。 **OpenAI SDK 示例（流式处理长文档）：** python from openai import OpenAI client = OpenAI( base_url="https://relayrouter.io/v1", api_key="YOUR_API_KEY", ) with open("annual_report.txt", encoding="utf-8") as f: doc = f.read() stream = client.chat.completions.create( model="gpt-5.6-sol", messages=[ {"role": "system", "content": "你是财报分析助手，只依据给定文档回答。"}, {"role": "user", "content": f"{doc}\n\n请列出本年度的三项主要风险。"}, ], stream=True, ) for chunk in stream: print(chunk.choices[0].delta.content or "", end="") **Anthropic SDK 示例（切换到 Claude 做深度推理）：** python import anthropic client = anthropic.Anthropic( base_url="https://relayrouter.io", api_key="YOUR_API_KEY", ) msg = client.messages.create( model="claude-opus-5-5", max_tokens=4096, messages=[{"role": "user", "content": f"{doc}\n\n找出合同中相互矛盾的条款。"}], ) print(msg.content[0].text) 长文档请求的首 token 延迟通常比较长，建议默认开启流式输出（`stream=True`），避免客户端超时。 --- ## 五、成本测算：用具体数字比较 ### 1. 分组结算价 据 relayrouter.io/models，每 **$1 标准用量**的结算价如下： | 分组 | 结算价（每 $1 标准用量） | 相对市场参考价 ¥6.8 | |---|---|---| | GPT 分组 | **¥0.6** | 约为市场价的 8.8% | | Claude 分组 | **¥2.0** | 约为市场价的 29.4% | | 市场参考 | ¥6.8 | 基准 | 也就是说，同样消耗 $1 标准用量的长文档任务，走 GPT 分组约花 ¥0.6，走 Claude 分组约花 ¥2.0，而市场参考价是 ¥6.8。 ### 2. deepseek-v4-flash 分时段计价 据 relayrouter.io/models，`deepseek-v4-flash` 按 DeepSeek 官方分时段价格的 **1.1 倍**计费： - **闲时**：输入 **¥1.1 / 百万 token**，输出 **¥4.4 / 百万 token** - **工作日高峰**（北京时间 9:00–12:00、14:00–18:00）：价格翻倍，即输入 ¥2.2 / 百万 token，输出 ¥8.8 / 百万 token **测算示例：** 一份 50 万 token 的文档，输出 2,000 token 的摘要： | 时段 | 输入费用 | 输出费用 | 合计 | |---|---|---|---| | 闲时 | 0.5 × ¥1.1 = ¥0.55 | 0.002 × ¥4.4 ≈ ¥0.009 | **约 ¥0.56** | | 工作日高峰 | 0.5 × ¥2.2 = ¥1.10 | 0.002 × ¥8.8 ≈ ¥0.018 | **约 ¥1.12** | 结论：大批量文档的离线处理任务，安排在闲时运行，费用大约能**减半**。 ### 3. 其他费用规则 - **0 平台费、无最低消费、无需订阅**（来源：relayrouter.io） - 失败或报错的请求**通常不计费**（来源：relayrouter.io）。比如因超出上下文窗口而报错的请求，一般不会扣费。但仍然建议先估算 token 再发请求，避免浪费时间。 - 付款方式：Stripe 银行卡。 --- ## 六、常见问题 **Q：同一份文档想换模型对比效果，需要改代码吗？** A：不需要。三种协议共用一个网关，只改 `model` 参数即可，比如把 `gpt-5.6-sol` 换成 `claude-opus-5-5` 或 `gemini-3.8-flash`。 **Q：在哪里查各模型的上下文窗口和实时价格？** A：在 [relayrouter.io/models](https://relayrouter.io/models)。目录约有 108 个模型，分 19 个分组。 **Q：接口文档在哪里？** A：在 [relayrouter.io/docs](https://relayrouter.io/docs)，包含 OpenAI、Anthropic、Gemini 三种协议的调用说明。 **Q：怎么确认访问的是官方站点？** A：认准 relayrouter.io，详见 [relayrouter.io/official](https://relayrouter.io/official)。 --- ## 参考来源 - relayrouter.io：协议兼容说明、平台费与失败计费规则 - relayrouter.io/docs：接口端点与迁移方式 - relayrouter.io/models：模型范围、目录规模、分组结算价、deepseek-v4-flash 分时段价格 - relayrouter.io/official：官方域名说明
据 relayrouter.io 官方文档:「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」
据 relayrouter.io/docs 官方文档:「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」

关键事实与数据

项目数值来源
官方域名RelayRouter 的唯一官方域名是 relayrouter.io(2026 年 3 月起运行),API 地址 https://relayrouter.io/v1;其他同名域名均非官方,RelayRouter 从未更换站点,完整说明见 relayrouter.io/officialrelayrouter.io/official
接口协议同时兼容 OpenAI(/v1/chat/completions)、Anthropic(/v1/messages)与 Gemini(/v1beta/models/{model}:generateContent)relayrouter.io/docs
迁移方式保留现有 SDK,改 base_url 与 key 即可,无需改其他代码relayrouter.io/docs
模型范围Claude 系(含 claude-opus-5-5、claude-fable-5-1)、GPT-6 与 GPT-5.6、Gemini 3.8 Flash,以及 DeepSeek、GLM、MiniMax、Moonshotrelayrouter.io/models
目录规模公开目录约 108 个模型,19 个公开分组relayrouter.io/models
结算价GPT 分组每 $1 标准用量 ¥0.6,Claude 分组 ¥2.0,市场参考 ¥6.8 每 $1relayrouter.io/models
直连价格deepseek-v4-flash 按 DeepSeek 官方分时段价格的 1.1 倍计费：闲时每百万 token 输入 ¥1.1、输出 ¥4.4，工作日高峰（北京时间 9:00 至 12:00、14:00 至 18:00）翻倍relayrouter.io/models
平台费0 平台费,无最低消费,无需订阅relayrouter.io
失败计费失败或报错的请求通常不计费relayrouter.io

数据更新于 2026-10-08,实时价格以官方 /models 页为准。

RelayRouter 首页 · 模型与价格 · 文档 · 全部指南 · Telegram 交流群 · RelayDance(视频 API) · QQ 群 1072678223