OpenRouter 平台功能

OpenRouter 平台功能

服务层级

5 分钟阅读

服务等级

通过选择服务等级控制成本与延迟的权衡

服务等级

service_tier 参数让你在通过 OpenRouter 发送请求时控制成本与延迟的权衡。你可以在请求中传入该参数以选择特定处理等级,响应会标明实际使用的等级。计费按实际提供服务的等级费率进行。

使用服务等级

service_tier 作为请求体的顶层参数传入。支持的值为 flex(成本更低、延迟更高)和 priority(更快、成本更高)。fast 也可作为 priority 的别名被接受(见下方快速模式)。下面的示例向 OpenAI 的 gpt-5 请求 flex 等级,以换取 50% 折扣,代价是更高延迟和更低可用性。

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer <OPENROUTER_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-5",
    "service_tier": "flex",
    "messages": [
      { "role": "user", "content": "人生的意义是什么?" }
    ]
  }'

service_tier 参数同样适用于 Responses APIAnthropic Messages API。各 API 中响应字段的返回位置见下方 API 响应差异

Anthropic Messages API
curl https://openrouter.ai/api/v1/messages \
  -H "Authorization: Bearer <OPENROUTER_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-5",
    "service_tier": "flex",
    "max_tokens": 1024,
    "messages": [
      { "role": "user", "content": "人生的意义是什么?" }
    ]
  }'

快速模式

service_tier: "fast"(OpenAI 将优先处理更名为快速模式(Fast mode))、service_tier: "priority",以及 Anthropic 原生的 speed: "fast" 参数,在所有 API 和模型服务提供商上完全可互换。三者都会请求 priority 等级(响应报告为 priority);对于带有 fast 兄弟模型的 Anthropic 模型(例如 anthropic/claude-opus-5-fast),会改线路由到该 fast 兄弟模型(见快速模式)。

如果你显式设置了冲突的值(例如 speed: "standard" 搭配 service_tier: "priority"),两者都会按字面生效,谁也不会从另一方推导。

Anthropic 本身已弃用其 priority 等级。根据 Anthropic 的服务等级文档:“Priority Tier 容量承诺已不再开放购买。已有承诺的组织可以在合同结束日期之前继续使用 Priority Tier。”

路由工作原理

非默认等级端点(flexpriority)只有在请求明确要求时才会被考虑。有两种方式:

  1. service_tier 参数。 对于 priority,会先尝试匹配的端点(按吞吐量排序),若都不成功则回退到其他端点;计费始终跟随实际使用的端点,因此,priority 请求如果回退到非该等级的端点,将按该端点的标准费率计费,而不是按等级费率。对于 flex,路由仅限于 flex 端点(按价格排序)。Flex 从不回退到默认等级端点,因为那会比你请求的等级更贵,因此会改为返回 flex 容量错误。如果池中完全没有 flex 端点(例如该模型没有任何支持 flex 的模型服务提供商),请求会按标准费率正常路由。可与 allow_fallbacks: false 组合,使其只路由到该等级的首选端点。

  2. provider.orderprovider.only 中的等级端点 slug。 每个等级都有自己的端点 slug,由模型服务提供商 slug 加上等级后缀组成,例如 openai/prioritygoogle-vertex/flex。例如,"provider": { "only": ["openai/priority"] } 会将路由限制为 OpenAI 的 priority 等级。

未使用上述任一方式的请求,绝不会被路由到非默认服务等级。

API 中的等级端点

等级端点与标准端点一起列在模型端点 API 中。每一项都作为独立条目出现,带有加了等级后缀的 tag(例如 openai/priority),定价已计入等级乘数(与计费所用定价相同)。它们出现在列表中并不会改变路由:仍须按上文所述主动选择。

支持的模型服务提供商

以下模型服务提供商对部分模型支持 flexpriority 服务等级:

  • OpenAI
  • Google Vertex
  • Google AI Studio
  • SpaceXAI(仅 priority

响应中的 service_tier 字段报告实际使用的等级。可能的响应值为 defaultflexpriority,或在上游没有可用服务等级时为 null。请注意,OpenRouter 会将模型服务提供商等价的基础等级标签(例如 Google 的 standard)规范化为 default,但 Anthropic Messages API 除外,它会保留 standard 以匹配 Anthropic 的规范(见下方 API 响应差异)。

模型服务提供商文档:

API 响应差异

API 响应包含 service_tier 字段,标明实际用于服务你请求的容量等级。该字段的位置因 API 格式而异:

  • Chat Completions API/api/v1/chat/completions):service_tier 返回在响应对象的 顶层,与 OpenAI 的原生格式一致。
  • Responses API/api/v1/responses):service_tier 返回在响应对象的 顶层,与 OpenAI 的原生格式一致。
  • Messages API/api/v1/messages):service_tier 返回在 usage 对象 内,与 Anthropic 的原生格式一致。

Messages API 中的 service_tier

Anthropic 的规范使用 standard 作为基础等级标签,而不是 OpenAI 风格的 default。因此 Messages API 返回 service_tier: "standard",而 Chat Completions 和 Responses API 返回 "default"。其他等级值原样返回。