专题/人与 Agent 的协作边界

“有人审核”无法说明人和 Agent 怎样协作。人可能持续参与内容修改，也可能只批准一次高风险动作；Agent 可能每一步都等待确认，也可能在限额内连续运行，只在越界时暂停。设计评审需要定位人在哪个步骤进入、看到什么、决定什么，以及决定怎样绑定到后续执行。

人机关系也不能只按整套系统贴一个标签。同一个流程中，需求澄清可以共同编辑，付款可以门控执行，对账可以监督运行，低风险信息整理可以有界委托。关系随任务步骤、失败代价和可逆性变化。

四种运行关系

这四种关系描述运行方式，不是成熟度等级。有界委托不一定优于共同编辑。高风险、低频、强主观任务保持共同编辑或门控执行，通常更符合责任结构。

三项权力与一个接管条件

人和 Agent 的边界可以沿三项权力检查：

1. 信息资格：什么信息有资格影响决策。来源、时间、版本和可见范围由谁确定？
2. 验收标准：什么标准有资格证明结果正确。模型自评、规则校验、外部回执和人工判断分别处在哪一层？
3. 行动权限：什么权限有资格改变现实世界。批准绑定到哪一个工具、参数、资源、版本和有效期？

接管条件规定权力何时返回给人，包括证据不足、预算耗尽、规则冲突、不可逆动作、外部状态异常和连续失败。没有接管条件的“人在环中”只是组织口号。

交互契约

将协作关系写进工作流定义，避免只在 UI 上加一个确认按钮。

interaction_contract:
  task: payroll.allowance.change

  mode_by_step:
    clarify_goal: co_edit
    prepare_change: supervised
    commit_change: gated_action
    verify_result: supervised

  human_roles:
    requester: supplies_goal
    approver: authorizes_intent
    operator: handles_exception

  approval_binding:
    fields: [tool_version, normalized_args, resource, preconditions]
    expires_after: 15m
    single_use: true

  intervention:
    pause_when:
      - evidence_missing
      - amount_delta_above_200
      - employee_state_changed
      - retry_budget_exhausted
    handoff_artifact: exception_packet

  acceptance:
    probe: payroll_read_after_write
    reviewer: requester

approval_binding 是关键。用户批准的应是一个可重放、可审计的 Intent，而不是一段模糊的“可以继续”。工具版本、规范化参数或目标资源变化后，旧批准应失效。

一次有效交互包含什么

1. Agent 暴露缺口：列出缺失字段、冲突证据或超出权限的部分，不把猜测写成事实。
2. 人补充意图：确认目标、non-goals、优先级和不可接受结果。
3. Agent 提交候选决策：展示目标状态、当前状态、依据、拟执行动作、最大影响和回退点。
4. 人或策略作出裁决：批准、拒绝、修改或要求补证。裁决绑定具体 Intent。
5. Agent 在边界内执行：调用受准入工具，写入 ActionEvent 与业务账本。
6. 系统返回外部结果：回执、状态差异或消费端探针证明动作是否完成。
7. 人处理例外：异常包保留原目标、已完成步骤、剩余风险、证据和建议恢复点。

审批界面应展示具体 Intent

一个付款或数据修改审批界面，至少要显示目标对象、当前值、目标值、生效时间、工具与版本、规范化参数、依据、最大影响、失败后的恢复方式。批准与拒绝应生成结构化事件，超时后的默认行为也要明确。

长篇模型解释可以折叠为补充信息。审批者首先需要看见会改变什么、为什么允许、最坏会影响多少、完成后怎样验证。让人审核一段 prompt 或思维过程，无法替代对具体动作的授权。

接管包决定接手成本

Agent 暂停后只说“任务失败，请人工处理”，人仍要从头调查。可操作的接管包至少包括：

• 原始目标、当前版本和 non-goals；
• 已完成步骤、未完成步骤和最后一个 checkpoint；
• 关键证据、冲突点与外部系统当前状态；
• 已尝试的恢复动作、剩余预算和不可重复动作；
• 可选下一步及各自影响，但不替人作最终裁决。

接管后还需要恢复协议。人工修正若改变了业务状态，Agent 必须重新读取事实，而不能沿用暂停前的上下文继续执行。

薪酬变更中的关系切换

员工提出津贴调整时，Agent 与请求人共同编辑目标，补齐生效日期和政策依据。Agent 准备变更后进入门控执行，审批者看到具体 Intent。写入成功后，验证步骤可监督运行；若写后读取不一致，流程暂停并生成接管包。经过多次稳定运行，小额、单员工、可回滚请求可以进入有界委托，但批量、跨地区或政策冲突请求仍保留审批门。

关系怎样改变

常见问题

• 整套系统只标一个 HITL 标签，没有说明人在哪一步作什么决定。
• 审批对象是自然语言计划，执行时工具、参数或资源已经变化。
• 人承担责任，却看不到证据、影响范围和回滚方式。
• Agent 遇到任何不确定都提问，人的注意力被低价值确认耗尽。
• Agent 持续运行但没有越界阈值、暂停点和撤权通道。
• 人工接管后修改了外部状态，Agent 未重新感知就继续旧计划。

评审清单

1. 每个关键步骤采用哪种人机关系，依据是什么？
2. 人看到的是具体 Intent、证据和影响，还是一段泛化解释？
3. 信息资格、验收标准和行动权限分别由谁控制？
4. 批准是否绑定工具版本、参数、资源、前置条件和有效期？
5. 暂停、升级、撤权与人工接管条件是否可执行？
6. 接管包能否让人从 checkpoint 继续，而非从头调查？
7. 关系升级或降级是否由运行证据和复验结果支持？

相关资料

• Agent 模式组合
• Agent 设计生命周期
• G1 审批门
• G2 爆炸半径控制
• A4 护栏三明治
• 梁博执行型 Agent 案例
• 治理模块第一次研讨会