把模型的建议与执行权限分开,给每个动作定义前置条件和失败出口。
01先从一笔异常开始
设想财务系统里,一张发票与验收记录的金额不一致。Agent 可以整理差异、寻找关联资料、提出待核查原因。但“我判断没有问题”和“系统可以付款”,是两个需要分别设计的环节。
这里讨论系统设计,不提供会计或税务判断。真实付款规则、审批责任与例外处理,需要由企业相关负责人确定。
02固定流程能解决,就先写清流程
Anthropic 在 Building effective agents 中区分了预先定义的工作流与由模型动态决定步骤的 Agent,并建议从简单方案开始,按需要增加复杂性。
放到这笔对账异常上,我们可以先固定四步:读取记录、生成差异说明、提交复核、记录复核结果。只有当任务确实需要探索未知路径时,再评估模型自主规划的价值与成本。
读取证据 → 生成建议 → 人工复核 → 执行获批动作 证据缺失 → 停止推进 → 请求补充 记录版本变化 → 重新核验 → 不复用旧批准
03给动作写一份可检查的约定
下面是本站的教学设计建议:每个动作至少说明目标对象、所需权限、前置状态、输入证据和预期变化。例如“标记待复核”只能作用于仍未结案的异常记录。
执行前应重新核对关键状态,避免用户看到的记录已经过期。对于可能被重试的请求,还要设计重复执行的处理办法。不能只靠提示词要求模型“不要重复”。
04设计拒绝,而不只是成功
测试时加入三种情况:证据不足、调用者没有权限、同一请求重复到达。分别规定应该停在哪一步、用户看到什么、审计记录留下什么。
确认界面只是其中一层。真正的权限与状态检查需要在服务端执行。否则模型、界面或调用路径改变后,原来的限制可能不再成立。
把这个问题带回你的工作
为“标记一笔对账异常已解决”写出执行人、证据、前置状态、重复请求处理和拒绝条件。
先写自己的答案,再展开核对
本站原创参考解法 · 固定教学反馈,不是 AI 评分
- 先独立写:复核员批准版本 3 后,证据更新成版本 4;同一解决请求又因超时重发。你的系统分别返回什么?
- 参考约定:动作只能针对当前租户内仍待复核的异常;调用者具备处理权限,证据版本与批准版本一致,才能把状态改为已解决。这里是虚构的系统设计示例,不会执行付款。
- 版本变化时拒绝旧批准并返回重新复核提示;缺少证据时保持原状态。不要先改状态,再让模型解释是否应该执行。
- 幂等不是把重复请求都拒绝:相同操作标识与相同输入应返回原结果;相同标识却输入不同,应返回冲突。状态变更和结果记录应在同一事务内完成,并测试两个并发请求。
来源与进一步阅读
本文为本站辅助教学稿,示例为虚构情境,不代表客户项目或原作者认可。外部资料用于概念依据,本站方案与推断在正文中单独说明。
Anthropic · Building effective agents ↗