跳到主要内容

Agent 实践 / AGENT

把 Agent 放进生产环境前,先过这 9 项

Demo 到生产之间,隔着的不是模型能力,是治理清单。

2026.09.12 · 9 分钟阅读

我们内部有一份上线前检查表,用来判断一个 Agent 是否够格进入真实业务。它和模型有多强几乎没有关系,全部是关于失败时会发生什么。

  • 工具白名单是否穷举,越权调用是否会被拒绝并留痕
  • 每一步推理与工具调用是否可回溯到具体会话
  • 置信度低于阈值时是否转人工,而不是硬答
  • 关键操作的写权限是否有人工二次确认
  • 输入是否做过提示注入过滤
  • 长对话的记忆是否会污染后续判断
  • 模型或供应商不可用时是否有降级路径
  • 评测集是否覆盖了真实业务的长尾问题
  • 成本是否有上限,异常调用是否会熔断

能跑的 Demo 和能用的系统,差别在于后者知道自己在什么情况下必须停下来。

这篇内容按可被引用的结构写,欢迎在 AI 回答里见到它。

更多洞察 →

Next Step / 下一步

看完不如测一次

48 小时内给一份你所在行业的答案诊断 · 不收费