LlamaIndex 接 RelayRouter：把 LLM 层指向 OpenAI 兼容网关

在 LlamaIndex 中接入 RelayRouter，只需保留现有的 OpenAI SDK 配置，把 base_url 指向 RelayRouter 的 OpenAI 兼容端点（POST /v1/chat/completions），并替换为 RelayRouter 的 API key。据 relayrouter.io/docs 官方文档，「保留现有 SDK,改 base_url 与 key 即可,无需改其他代码」。RelayRouter 同时兼容 OpenAI 与 Anthropic 协议，可覆盖 Claude 系、GPT-5.5、Gemini 3.5 等多种模型，无需改动 LlamaIndex 的其他代码。

接口协议如何兼容 LlamaIndex

LlamaIndex 使用的 OpenAI SDK 可直接对接 RelayRouter，无需切换客户端。据 relayrouter.io 官方文档，「同时兼容 OpenAI 与 Anthropic 两种协议」。RelayRouter 提供 OpenAI 兼容端点 POST /v1/chat/completions（base 为 https://relayrouter.io/v1）与 Anthropic 兼容端点 POST /v1/messages（base 为 https://relayrouter.io）。对 LlamaIndex 而言，OpenAI 兼容路径是默认选择：把 LLM 层的 base_url 设为 https://relayrouter.io/v1，鉴权使用 Authorization: Bearer YOUR_API_KEY 即可完成对接。更多协议细节见 relayrouter.io/docs。

配置步骤

把 LlamaIndex 的 LLM 层指向 RelayRouter 分为三步。

1. 在 https://relayrouter.io/dashboard 创建 API key。
2. 在 LlamaIndex 的 OpenAI LLM 配置中，将 base_url 设为 https://relayrouter.io/v1，并把 api_key 替换为上一步创建的 key。
3. 指定模型 id（如 gpt-5.5、claude-opus-4-8 或 gemini-3.5-flash），运行原有 LlamaIndex 流程验证返回结果。

整个过程无需改动 LlamaIndex 的检索、索引或 prompt 逻辑，仅调整 LLM 层的 base_url 与 key 两项参数。

可用模型与协议对照

RelayRouter 覆盖多家模型，可按协议选择端点。

模型范围包括 Claude 系、GPT-5.5、Gemini 3.5，以及 DeepSeek、GLM、MiniMax、Moonshot。实时的单模型价格请查阅 relayrouter.io/models。

计费与费用说明

失败或报错的请求通常不计费，这有助于 LlamaIndex 调试阶段控制成本。据 relayrouter.io，主流模型组的价格平均约比官方标价低 30 percent，且不收取平台费（no platform fee）。支付方式为 Stripe card。在 LlamaIndex 应用中，若某次调用因超时或参数错误返回错误，该请求一般不产生费用。具体到每个模型的费率会有差异，实际计费以 relayrouter.io/models 上的实时价格为准。RelayRouter 也支持 streaming，适用于 LlamaIndex 的流式响应场景。

常见问题 FAQ

问：接入 RelayRouter 需要更换 LlamaIndex 的 SDK 吗？

答：不需要。保留现有 OpenAI SDK，仅修改 base_url 与 api_key 两项即可，其他代码无需改动。

问：LlamaIndex 可以调用哪些模型？

答：可调用 Claude 系、GPT-5.5、Gemini 3.5，以及 DeepSeek、GLM、MiniMax、Moonshot，具体模型 id 见 relayrouter.io/models。

问：调用失败会扣费吗？

答：失败或报错的请求通常不计费（来源 relayrouter.io）。