CodexQA

行业与实践研究与基准测试

轨迹质量写在仅在线,注意又允许离线选:华为云预置评估器按场景分档

CodexQA 团队阅读约 3 分钟

华为云 AgentArts 预置评估器按离线、在线和两者都支持分档。代码判定按次计费,模型判定按 Token 计费。表 2 把轨迹质量写成仅在线,注意又说智能体运行时和第三方托管可以在离线任务里选。

轨迹质量写在仅在线,注意又允许离线选:华为云预置评估器按场景分档

华为云智果(AgentArts,华为云的智能体开发平台)预置评估器文档《预置评估器概览》页面标注的更新时间是 2026-09-17 GMT+08:00。页面没有另给首次发布时间。这些评估器用来给智能体和工作流做质量评估,按使用场景分类,可以只支持离线评估、只支持在线评估,或两者都支持。

离线用评测集,在线用真实调用

离线评估:应用上线前,用预设评测集测效果。

在线评估:上线后,系统按真实运行数据(调用链、工具等)自动采样并评估。

费用分两种。代码判定评估器按次计费。模型判定评估器按消耗的 Token 计费。单价不在本页,页面指向另一篇《计费说明》。

两种判定,适用的输出不一样

表 1 把判定原理写成两行:

  • 模型判定:用大模型当裁判,按预设 Prompt 对输出做主观或半主观评分。适用于非确定性、语义理解、开放性输出,例如自然语言生成质量、对话逻辑、创意内容。
  • 代码判定:用确定性代码(正则匹配、JSON 校验、数学计算)做二元判断。适用于格式明确、可执行或可计算的任务,例如数据处理结果比对、数值计算是否准确。

表 2 按能不能上线拆开,但有一条注意和表不一致

页面先写一条注意:离线评估的对象如果是智能体运行时,或第三方托管智能体,可以选择轨迹质量、轨迹-工具参数填充正确性这两类评估器。表 2 却把这两类放在「仅支持在线评估」那一行。页面没有写这两句话哪一句优先。

表 2 的分档是:

仅支持离线、模型判定:参考答案遵从度、Skill 完整度、Skill 相关性、Skill 威胁分析、Skill 声明对齐、Skill 设计质量。Skill 在这里是页面原名,指智能体技能说明的质量,不是本站的技能目录。

仅支持离线、代码判定:文本等值判断、文本包含判断、文本起始子串判断、文本 JSON 格式校验、JSON 相等判断。

仅支持在线、模型判定:轨迹质量、轨迹-工具参数填充正确性、Token 效率。这一行没有列出代码判定评估器。

同时支持离线和在线、模型判定:正确性、AI 味检查、任务完成度、不敏感性、争议性、创意性、工具参数正确性、工具选择质量、幻觉现象、性别歧视、恶意性、指令遵从度、拒答检测、格式检查、语种一致性、文本可用性、安全风险漏放、有害性、有用性、深度性、犯罪性、引用相关性、知识问答-指令遵循、知识问答-真实准确、知识问答-精炼性、知识问答-便捷性、知识问答-丰富度、简洁性、细节丰富度、轮次相关性、知识保持、对话完整性、主题遵从、角色遵从、角色违规、Rubric 评估。

页面没有给评估器总数,也没有写每一项的分数刻度。

四个场景各推荐一组,不给实测分

  • RAG 知识问答:知识问答-真实准确、知识问答-精炼性、引用相关性。
  • 内容安全合规:恶意性、犯罪性、性别歧视、安全风险漏放。
  • 工具调用:轨迹质量、工具参数正确性、工具选择质量。
  • 通用对话质量:正确性、对话完整性、指令遵从度。

相关操作页是《创建离线评估任务》和《创建在线评估任务》。父主题和下一篇标题都叫《预置评估器》,本篇不包含各评估器的输入字段。Rubric 评估的五档分数在另一页,不在这里。

这篇文档没有给出的东西

没有样本量,没有线上得分,也没有代码判定和模型判定的单价。轨迹质量、轨迹-工具参数填充正确性同时出现在「仅在线」表格和「特定离线对象可选」的注意里,页面没有消解这个冲突。工具参数正确性(离线和在线都能选)和轨迹-工具参数填充正确性(表 2 写成仅在线)是两个名字,页面没有比较二者差别。

出处:华为云,华为云,预置评估器概览,2026-09-17,https://support.huaweicloud.com/ops-agentarts/agentarts_14_0040.html

觉得有用,转给同事

微信扫码

用微信扫一扫,在手机上打开后即可转发。

用 RSS 订阅

提交勘误