用 RelayRouter 批量摘要几千份文档：并发与成本规划

用 RelayRouter 批量摘要几千份文档，可以保留现有 SDK，把 base_url 指向 https://relayrouter.io/v1，再用客户端信号量控制并发、失败重试和断点续跑。成本方面，摘要主体可放在闲时（每百万 token 输入 ¥1.1、输出 ¥4.4）运行 deepseek-v4-flash，少量高难文档再交给 Claude 分组（每 $1 标准用量 ¥2.0）。

接入方式：改两处配置即可开跑

批量摘要任务只需修改 base_url 和 API key，不需要改业务代码。据 relayrouter.io 官方文档，平台「同时兼容 OpenAI、Anthropic 与 Gemini 三种协议」，对应端点为 /v1/chat/completions、/v1/messages 与 /v1beta/models/{model}:generateContent。据 relayrouter.io/docs 官方文档，迁移时「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」。鉴权使用 Authorization: Bearer YOUR_API_KEY，密钥在 https://relayrouter.io/dashboard 创建。请注意，官方域名只有 relayrouter.io（2026 年 3 月起运行），其他同名域名均非官方，说明见 relayrouter.io/official。接入细节见 relayrouter.io/docs。

并发规划：在客户端限流，并让任务可续跑

几千份文档的并发应由客户端控制，用固定大小的信号量限制同时在途的请求数。RelayRouter 的公开资料没有列出具体并发上限，所以建议先用较小的并发值试跑一批，观察报错率，再逐步调高。由于据 relayrouter.io 说明，失败或报错的请求通常不计费，重试的成本主要是时间。真正要防的是重复成功调用，因此每份文档应以文件哈希作为任务 ID，成功后立即落盘结果。具体做法如下：

1. 预处理：切分超长文档，记录每段的 token 估算值。
2. 建任务表：字段包括 doc_id、status、retries。
3. 使用 asyncio.Semaphore(N) 限制并发，对报错做指数退避重试。
4. 断点续跑：只重新提交 status != done 的任务。
5. 如需更长的摘要，可再做一轮合并，把分段摘要汇总成整篇摘要。

示例代码：client = AsyncOpenAI(base_url="https://relayrouter.io/v1", api_key=KEY)，调用 client.chat.completions.create(model="deepseek-v4-flash", messages=..., stream=False)。

成本规划：按分组和时段选模型

压成本的关键有两点：把大部分文档交给按 token 计费的直连模型，并让任务避开高峰时段。据 relayrouter.io/models，deepseek-v4-flash 按 DeepSeek 官方分时段价格的 1.1 倍计费，闲时每百万 token 输入 ¥1.1、输出 ¥4.4。工作日高峰（北京时间 9:00 至 12:00、14:00 至 18:00）价格翻倍，所以批量任务适合放在夜间或周末跑。成本可以这样估算：总费用 ≈ 输入百万 token 数 × 单价 + 输出百万 token 数 × 单价。摘要任务的输入通常远多于输出，压缩提示词和去除重复内容，比换模型更能降低成本。平台本身 0 平台费、无最低消费、无需订阅。

模型分层：先用便宜模型，再按需升级

建议采用两级流水线：第一级用低价模型完成全部文档，第二级只对质量不达标的文档升级模型。据 relayrouter.io/models，公开目录约有 108 个模型、19 个公开分组，覆盖 Claude 系（含 claude-opus-5-5、claude-fable-5-1）、GPT-6 与 GPT-5.6、gemini-3.8-flash，以及 DeepSeek、GLM、MiniMax、Moonshot。判断是否需要升级，可以用规则检查，例如摘要长度异常、缺少要求的字段，或者原文语言与摘要语言不一致。因为三种协议共用同一个网关，切换模型通常只需修改 model 参数。各模型的实时价格请以 relayrouter.io/models 为准。

常见问题

问：批量任务中途报错，会被重复扣费吗？
答：据 relayrouter.io 说明，失败或报错的请求通常不计费。不过成功的请求会正常计费，所以需要用任务 ID 去重，避免同一份文档被重复成功提交。

问：已经用 Anthropic SDK 写好了脚本，能直接用吗？
答：可以。保留 SDK，把 base URL 改为 https://relayrouter.io 并替换 key 即可，走的是 /v1/messages 协议。

问：什么时间跑 deepseek-v4-flash 更省钱？
答：避开工作日北京时间 9:00 至 12:00 和 14:00 至 18:00。高峰时段价格为闲时的 2 倍，闲时价格为输入 ¥1.1、输出 ¥4.4（每百万 token）。