问答题【73/1935】如何定位 Agent 的错误决策?

难度:
2026-06-08 创建
想动手验证一下?打开练习场,写代码、看结果。在线练习

参考答案:

定位 Agent 的错误决策,不能只看最终回答,而要把一次运行还原成完整的决策链路:它看到了什么上下文、形成了什么中间目标、选择了哪个工具、工具返回了什么、状态如何更新,最后为什么生成这个结论。Agent 的错误通常不是单点问题,而是“输入理解、上下文构造、规划、工具调用、状态管理、结果汇总”某一环节发生偏差后被后续步骤放大。

实际排查时,第一步是做可复现。需要固定模型版本、提示词版本、工具 schema、检索索引版本、温度参数、外部接口返回,以及当次运行的 trace_id。如果 Agent 本身带有随机性,就要通过多次采样判断这是稳定错误还是偶发错误。稳定错误更像是策略、提示词、工具设计或上下文问题;偶发错误更可能和模型采样、边界表达不清、结果校验不足有关。

然后看 trace,而不是直接改 prompt。一个有效的 trace 至少要包含用户输入、系统指令、拼装后的上下文、RAG 命中的文档、计划步骤、每次工具调用的参数和返回、状态变更、最终输出。通过这些信息可以判断错误发生在哪一层:如果用户意图一开始就被理解错了,问题在任务解析;如果意图正确但拿到的知识不对,问题在检索、记忆或上下文裁剪;如果知识正确但步骤顺序不对,问题在规划;如果计划正确但工具参数错了,问题在工具选择或参数生成;如果工具结果正确但最终说错,问题在总结和约束对齐。

比较常见的一类错误是上下文污染。Agent 可能引用了过期记忆、低相关 RAG 结果,或者因为上下文过长导致关键约束被截断。这类问题不能简单靠“提示词写得更强”解决,而应该检查上下文排序、召回阈值、去重逻辑、时间有效性和权限边界。尤其在工程系统里,Agent 很多错误决策来自“看到了不该看的内容”或“没看到必须看的内容”。

另一类是工具调用错误。比如工具选错、参数字段填错、没有处理失败返回、把异步任务当成已完成结果,或者没有对工具输出做校验。这里更适合通过结构化 action schema、参数校验、返回值类型约束、失败重试和工具结果断言来治理,而不是完全依赖模型自觉。Agent 应该被设计成“可检查的执行器”,而不是一个只靠自然语言推理的黑盒。

定位完成后,还要把错误沉淀成评测样本。一次错误如果只修当前 case,价值有限;更好的做法是把输入、期望动作、期望工具参数、期望最终结果加入 regression eval。之后每次改 prompt、改工具、改检索策略,都通过这批样本验证是否引入新退化。对于高风险 Agent,还可以增加决策前校验,比如让模型输出 action reason code、置信度、必要前置条件,低置信度或缺少关键条件时进入人工确认或二次规划。

最近更新时间:2026-11-17

赞赏支持

题库维护不易,您的支持就是我们最大的动力!