延迟与性能

了解 OpenRouter 的性能特征

OpenRouter 将性能作为首要设计目标。OpenRouter 经过深度优化，尽可能少地为你的请求增加延迟。

极低开销

OpenRouter 的设计目标是为请求增加最低限度的延迟。这通过以下方式实现：

• 使用 Cloudflare Workers 进行边缘计算，尽可能靠近你的应用
• 在边缘高效缓存用户和 API 密钥数据
• 优化路由逻辑，尽量缩短处理时间

性能注意事项

缓存预热

当 OpenRouter 的边缘缓存处于冷启动状态时（通常出现在新区域投入运行的最初 1–2 分钟），你可能会在缓存预热期间感受到略高的延迟。缓存填充完成后即会恢复正常。

额度余额检查

为保持计费准确并防止超额，OpenRouter 会在以下情况下执行额外的数据库检查：

• 用户额度余额较低（个位数美元）
• API 密钥接近其配置的额度上限

在这些条件下，OpenRouter 会更积极地使缓存过期，以确保计费正确，这会增加延迟，直到补充更多额度。

模型回退

使用模型路由或提供商路由时，若首选模型或提供商失败，OpenRouter 会自动尝试下一个选项。首次补全失败自然会增加该次请求的延迟。OpenRouter 会跟踪提供商故障，并尝试智能地绕过不可用的提供商，以免每次请求都承担这种延迟。

最佳实践

要在 OpenRouter 上获得最佳性能：

1. 保持充足的额度余额

   • 设置自动充值，使用更高的阈值和金额
   • 这有助于避免强制额度检查，并降低余额归零的风险
   • 建议最低余额：$10-20，以确保运行顺畅

2. 使用提供商偏好

   • 若你有具体的延迟要求（无论是首 Token 时间，还是末 Token 时间），提供商路由功能可帮助你达成性能与成本目标。