概念/概念定义
ADPS Agent 系统 · 工程概念
业务评测集
用业务流程、代表场景、权重和指标判断技术改动是否改善了业务结果。
应用背景
一套工单 Agent 的字段抽取准确率提高,并不必然缩短工单处理时间。新增澄清步骤可能提升局部正确率,同时增加转人工比例和客户等待。技术回归集能发现能力退化,业务仍需要另一套观察尺度。
概念定义
业务评测集由关键业务流程、代表场景、场景权重、指标口径和验收条件组成。它把 Agent 版本放进端到端任务中,观察完成时间、一次解决率、人工接管、错误动作、业务损失或其他领域结果。场景权重来自业务量与风险,不能由模型自行决定。
business_evaluation_set:
business_process: ...
scenarios:
- id: ...
weight: ...
metric: ...
data_definition: ...
acceptance: ...
owner: ...
version: ...
change_log: []
工程用法
产品、业务和工程团队共同定义样本抽取、指标分母、时间窗口和例外处理。结果按场景分别报告,再按已登记权重汇总。模型或工作流改动通过技术回归后,还要在业务评测集中检查业务流程是否实际改善,以及是否把成本转移给人工岗位或下游系统。
与技术评测集的边界
业务评测集不替代结构校验、事实正确性、安全、性能和稳定性测试。技术评测回答组件是否符合规格,业务评测回答整条流程是否得到改善。两套资产可以由不同责任人维护,但发布回执需要同时引用它们的版本和结果。
提出与来源
- 概念分组
- 评测、反思与治理
- ADPS 内初始来源
- ADPS 内初始提出:李娣娣
- 首次记录
- 推理模块第一次研讨会()
- ADPS 整理
- ADPS 将业务流程、代表场景、场景权重、指标口径和版本记录整理为业务层评测资产。
- 当前地位
- X2 下的跨模块概念
溯源记录
- 来源记录
- 推理模块第一次研讨会()
- 来源日期
- 本页首次公开