OpenRouter 安全与可观测

OpenRouter 安全与可观测

Ramp

1 分钟阅读

Ramp

将追踪发送到 Ramp

Ramp 是帮助企业管理费用、跟踪支出和优化成本的财务自动化平台。借助 Ramp 的 AI 用量追踪,你可以通过 OpenRouter 监控和控制组织的 LLM 支出。

第 1 步:获取 Ramp API 密钥

在 Ramp 中,前往集成设置并生成 API 密钥:

  1. 登录你的 Ramp 账户
  2. 前往 设置 > 集成(Settings > Integrations) 并搜索 “OpenRouter”
搜索 OpenRouter 集成
  1. 点击 OpenRouter 集成查看详情,然后点击 连接(Connect)
OpenRouter 集成详情
  1. 点击 生成 API 密钥(Generate API Key) 并复制令牌
生成 API 密钥

第 2 步:在 OpenRouter 中启用广播

前往 设置 > 可观测性(Settings > Observability),打开 启用广播(Enable Broadcast) 开关。

启用广播

第 3 步:配置 Ramp

点击 Ramp 旁的编辑图标,并填写:

  • API Key:你的 Ramp API 密钥
  • Base URL(可选):默认为 https://api.ramp.com/developer/v1/ai-usage/openrouter。仅在 Ramp 指示时修改
  • Headers(可选):以 JSON 对象形式包含在发往 Ramp 的请求中的自定义 HTTP 请求头
Ramp 配置

第 4 步:测试并保存

点击 测试连接(Test Connection) 验证配置。仅当测试通过时才会保存配置。

第 5 步:发送测试追踪

通过 OpenRouter 发出一次 API 请求,并确认 AI 用量数据出现在 Ramp 控制台中。

Ramp AI 支出仪表盘

追踪数据

Ramp 通过 OpenTelemetry 协议(OTLP)接收追踪。每条追踪包含:

  • Token 用量:消耗的提示词 Token、补全 Token 以及 Token 总量
  • 费用信息:该请求的总费用
  • 时间信息:请求开始时间、结束时间以及延迟指标
  • 模型信息:该请求使用的模型 slug 和模型服务提供商名称
  • 请求与响应内容:输入消息和模型输出(除非启用了 隐私模式

自定义元数据

trace 字段中的自定义元数据会作为 Span 属性随 OTLP 载荷发送。

支持的元数据键

OTLP 映射说明
trace_idTrace ID将多次请求归入同一条追踪
trace_nameSpan Name根 Span 的自定义名称
span_nameSpan Name层次结构中中间 Span 的名称
generation_nameSpan NameLLM 生成 Span 的名称
parent_span_idParent Span ID关联到追踪层次结构中已有的 Span

示例

{
  "model": "openai/gpt-4o",
  "messages": [{ "role": "user", "content": "Analyze this expense report..." }],
  "user": "user_12345",
  "session_id": "session_abc",
  "trace": {
    "trace_id": "expense_analysis_001",
    "trace_name": "Expense Processing Pipeline",
    "generation_name": "Analyze Report",
    "department": "finance",
    "cost_center": "CC-1234"
  }
}

补充说明

  • user 字段会映射到 Span 属性中的 user.id
  • session_id 字段会映射到 Span 属性中的 session.id
  • trace 中的自定义元数据键会作为 Span 属性包含在 trace.metadata.* 命名空间下
  • 模型、Token 用量和费用属性使用标准 GenAI 语义约定(gen_ai.*

隐私模式

当该目标端启用 隐私模式 时,追踪中会排除提示词和补全内容。其余追踪数据(Token 用量、费用、时间信息、模型信息以及自定义元数据)仍会正常发送。详情见 隐私模式