OpenRouter 安全与可观测

OpenRouter 安全与可观测

Arize AX

1 分钟阅读

Arize AX

将追踪发送到 Arize AX

Arize AX 是 Arize 打造的评估与可观测性平台,提供智能体追踪、评估、提示词优化等工具。

第 1 步:获取 Arize AX 凭据

在 Arize AX 中,前往空间设置查找 API 密钥和空间密钥:

  1. 登录你的 Arize AX 账户
  2. 前往 空间设置(Space Settings) 查找 Space Key
  3. 前往 API 密钥(API Keys) 创建或复制 API 密钥
  4. 记下用于组织追踪的 Project Name

第 2 步:在 OpenRouter 中启用广播

前往 设置 > 可观测性(Settings > Observability),打开 启用广播(Enable Broadcast) 开关。

启用广播

第 3 步:配置 Arize AX

点击 Arize AX 旁的编辑图标,并填写:

  • Api Key:你的 Arize AX API 密钥
  • Space Key:你的 Arize AX 空间密钥
  • Project Name:Arize AX 中追踪项目的名称
  • Base Url(可选):默认为 https://otlp.arize.com

第 4 步:测试并保存

点击 测试连接(Test Connection) 验证配置。仅当测试通过时才会保存配置。

第 5 步:发送测试追踪

通过 OpenRouter 发出一次 API 请求,然后在 Arize AX 控制台中指定项目下查看该追踪。

Arize 追踪视图

自定义元数据

Arize AX 使用 OpenInference 语义约定进行追踪。trace 字段中的自定义元数据会作为 Span 属性随 OTLP 载荷发送。

支持的元数据键

Arize 映射说明
trace_idTrace ID将多次请求归入同一条追踪
trace_nameSpan Name根追踪的自定义名称
span_nameSpan Name层次结构中中间 Span 的名称
generation_nameSpan NameLLM 生成 Span 的名称
parent_span_idParent Span ID关联到追踪层次结构中已有的 Span

示例

{
  "model": "openai/gpt-4o",
  "messages": [{ "role": "user", "content": "Classify this text..." }],
  "user": "user_12345",
  "session_id": "session_abc",
  "trace": {
    "trace_id": "classification_pipeline_001",
    "trace_name": "Text Classification",
    "generation_name": "Classify Sentiment",
    "dataset": "customer_feedback",
    "experiment_id": "exp_v3"
  }
}

补充说明

  • trace 中的自定义元数据键会作为 Span 属性包含在 metadata.* 命名空间下
  • user 字段会映射到 Span 属性中的用户标识
  • session_id 字段会映射到 Span 属性中的会话跟踪
  • Token 用量、费用和模型参数会自动作为兼容 OpenInference 的属性包含在内

隐私模式

当该目标端启用 隐私模式 时,追踪中会排除提示词和补全内容。其余追踪数据(Token 用量、费用、时间信息、模型信息以及自定义元数据)仍会正常发送。详情见 隐私模式