OpenRouter 平台功能
OpenRouter 平台功能
服务层级
5 分钟阅读
服务等级
通过选择服务等级控制成本与延迟的权衡
服务等级
service_tier 参数让你在通过 OpenRouter 发送请求时控制成本与延迟的权衡。你可以在请求中传入该参数以选择特定处理等级,响应会标明实际使用的等级。计费按实际提供服务的等级费率进行。
使用服务等级
将 service_tier 作为请求体的顶层参数传入。支持的值为 flex(成本更低、延迟更高)和 priority(更快、成本更高)。fast 也可作为 priority 的别名被接受(见下方快速模式)。下面的示例向 OpenAI 的 gpt-5 请求 flex 等级,以换取 50% 折扣,代价是更高延迟和更低可用性。
service_tier 参数同样适用于 Responses API 和 Anthropic Messages API。各 API 中响应字段的返回位置见下方 API 响应差异。
快速模式
service_tier: "fast"(OpenAI 将优先处理更名为快速模式(Fast mode))、service_tier: "priority",以及 Anthropic 原生的 speed: "fast" 参数,在所有 API 和模型服务提供商上完全可互换。三者都会请求 priority 等级(响应报告为 priority);对于带有 fast 兄弟模型的 Anthropic 模型(例如 anthropic/claude-opus-5-fast),会改线路由到该 fast 兄弟模型(见快速模式)。
如果你显式设置了冲突的值(例如 speed: "standard" 搭配 service_tier: "priority"),两者都会按字面生效,谁也不会从另一方推导。
Anthropic 本身已弃用其 priority 等级。根据 Anthropic 的服务等级文档:“Priority Tier 容量承诺已不再开放购买。已有承诺的组织可以在合同结束日期之前继续使用 Priority Tier。”
路由工作原理
非默认等级端点(flex、priority)只有在请求明确要求时才会被考虑。有两种方式:
-
service_tier参数。 对于priority,会先尝试匹配的端点(按吞吐量排序),若都不成功则回退到其他端点;计费始终跟随实际使用的端点,因此,priority 请求如果回退到非该等级的端点,将按该端点的标准费率计费,而不是按等级费率。对于flex,路由仅限于 flex 端点(按价格排序)。Flex 从不回退到默认等级端点,因为那会比你请求的等级更贵,因此会改为返回 flex 容量错误。如果池中完全没有 flex 端点(例如该模型没有任何支持 flex 的模型服务提供商),请求会按标准费率正常路由。可与allow_fallbacks: false组合,使其只路由到该等级的首选端点。 -
provider.order或provider.only中的等级端点 slug。 每个等级都有自己的端点 slug,由模型服务提供商 slug 加上等级后缀组成,例如openai/priority或google-vertex/flex。例如,"provider": { "only": ["openai/priority"] }会将路由限制为 OpenAI 的 priority 等级。
未使用上述任一方式的请求,绝不会被路由到非默认服务等级。
API 中的等级端点
等级端点与标准端点一起列在模型端点 API 中。每一项都作为独立条目出现,带有加了等级后缀的 tag(例如 openai/priority),定价已计入等级乘数(与计费所用定价相同)。它们出现在列表中并不会改变路由:仍须按上文所述主动选择。
支持的模型服务提供商
以下模型服务提供商对部分模型支持 flex 和 priority 服务等级:
- OpenAI
- Google Vertex
- Google AI Studio
- SpaceXAI(仅
priority)
响应中的 service_tier 字段报告实际使用的等级。可能的响应值为 default、flex、priority,或在上游没有可用服务等级时为 null。请注意,OpenRouter 会将模型服务提供商等价的基础等级标签(例如 Google 的 standard)规范化为 default,但 Anthropic Messages API 除外,它会保留 standard 以匹配 Anthropic 的规范(见下方 API 响应差异)。
模型服务提供商文档:
- OpenAI:Chat Completions、Responses 和定价
- Google Vertex:Flex 和 Priority
- Google AI Studio:Flex 和 Priority
- SpaceXAI:优先处理(Priority Processing)
API 响应差异
API 响应包含 service_tier 字段,标明实际用于服务你请求的容量等级。该字段的位置因 API 格式而异:
- Chat Completions API(
/api/v1/chat/completions):service_tier返回在响应对象的 顶层,与 OpenAI 的原生格式一致。 - Responses API(
/api/v1/responses):service_tier返回在响应对象的 顶层,与 OpenAI 的原生格式一致。 - Messages API(
/api/v1/messages):service_tier返回在usage对象 内,与 Anthropic 的原生格式一致。
Messages API 中的 service_tier 值
Anthropic 的规范使用 standard 作为基础等级标签,而不是 OpenAI 风格的 default。因此 Messages API 返回 service_tier: "standard",而 Chat Completions 和 Responses API 返回 "default"。其他等级值原样返回。