OpenRouter 平台功能

OpenRouter 平台功能

自定义分类器

1 分钟阅读

自定义分类器

自动对工作区中的 LLM 生成记录进行分类

自定义分类器让你可以定义结构化分类体系,并使用自选模型(OpenRouter 会在分类器设置过程中推荐速度快、成本低的模型)为提示词打标签并分类。分类器模型在每个请求完成后异步运行(不增加延迟),用部门、任务类型、复杂度或任何你能想到的维度为生成记录打标签。标签会出现在 日志 中,汇总报表可在 用量 视图中查看。二者结合起来,帮助你了解组织内如何使用 AI。

开始使用

  1. 前往工作区的分类器页面:分类器
  2. 点击 创建分类器(Create classifier)
  3. 选择一个预设,或从零开始构建
  4. 可选:选择采样率(例如,你可能不希望对工作区中 100% 的请求进行分类)
  5. 保存并激活分类器

该工作区中的生成记录现在会由所选模型分类。在 日志 中打开任意生成记录即可查看其分类标签。

只有工作区管理员可以创建和管理分类器。每个工作区都有自己独立的分类器。

分类预设

预设是模板化的分类器,可作为起点按你的场景定制,也可以直接使用。每个预设都带有调优过的提示词、预选维度和合理的默认值。

预设作用
部门(Department)按业务职能为每个请求打标签:Engineering、Sales、Marketing、Legal、HR、Finance、Operations
受众(Audience)按输出对象打标签:Internal、Client-facing、Regulator、Public
工程工作(Engineering work)按工作类型打标签:Feature development、Bug fixing、Documentation、Refactoring、Code review 等
智能体复杂度(Agent complexity)两个维度:difficulty_tier(从琐碎工具调用到前沿专家级工作共 7 级)和 task_family(coding、analysis、planning 等 10 个类别)
可资本化软件支出(Capitalizable software expense)你需要补充哪些项目和活动可资本化的额外信息。客户对提交或与第三方共享的任何最终财务或税务数据的准确性负责。

自行构建

如果预设不适用,可以从零构建分类器,每个分类器最多八个独立维度。

分类的是什么?

分类前,提示词会被序列化为单条用户消息内的带标签转录,例如:

SYSTEM: <caller system prompt>
TOOLS: search_web, run_sql, send_email
USER: <first user message>
ASSISTANT: <…>
TOOL_CALL run_sql: <args>
TOOL_RESULT: <…>
USER: <latest user message>

请注意:

  1. 不会发送完整工具 schema;只发送工具名称。
  2. 每一轮最多截断为 5,000 个字符。若某轮被截断,文本会以 ...[truncated] 结尾,以便分类器理解原文本会继续。
  3. 如果分类器模型的上下文明显短于相关提示词,分类会失败,但不会影响原始请求。建议选择具有较大上下文窗口的模型。

分类如何工作

分类在每次生成完成后异步运行:

  1. 你的请求结束,响应返回到应用(不增加延迟)
  2. 系统用提示词的序列化版本入队一个分类任务
  3. 分类器模型使用结构化输出,按你的分类体系评估该消息
  4. 标签写入生成记录,并出现在日志中

调用分类器模型时会传入提示词的序列化版本、你的分类提示词,以及将响应约束到所声明维度和取值的结构化输出 schema。

计费

分类器 Token 与其他生成一样,从工作区积分中计费。你可以通过选择模型来控制成本:选用小型、快速的模型(如 Haiku 或 Flash)可保持分类成本较低。分类请求计入配置该分类器的管理用户(而不是某把特定 API 密钥)。

失败处理

如果分类失败(超时、模型错误、无效输出),生成仍会正常进行,不会写入标签。分类失败不影响你的 API 响应。

查看分类结果

分类标签出现在两处:

  • 日志行。已分类的生成记录会显示标签图标。悬停可查看摘要提示。
  • 生成详情面板。打开任意已分类的生成记录,可看到 分类(Classifications) 部分,包含完整的维度到取值明细。

用量日志 视图中筛选和分析已分类的生成记录。

工作区作用域

每个分类器作用于单个 工作区。不同工作区可以有不同的分类器(也可以没有)。这样你可以在组织范围工作区上运行部门分类器,同时让某个项目工作区使用任务类型分类器。

建议

  • 从预设开始。 部门和工程工作预设覆盖最常见的场景。之后可以再定制。
  • 使用便宜的模型。 分类提示词较短且约束良好。上下文窗口大的小型/低成本模型效果最好,也能把成本压到最低。
  • 在日志中检查覆盖率。 启用分类器后,查看日志中的近期生成记录,确认标签按预期出现。