Agent 实践 / AGENT
把 Agent 放进生产环境前,先过这 9 项
Demo 到生产之间,隔着的不是模型能力,是治理清单。
2026.09.12 · 9 分钟阅读
我们内部有一份上线前检查表,用来判断一个 Agent 是否够格进入真实业务。它和模型有多强几乎没有关系,全部是关于失败时会发生什么。
- 工具白名单是否穷举,越权调用是否会被拒绝并留痕
- 每一步推理与工具调用是否可回溯到具体会话
- 置信度低于阈值时是否转人工,而不是硬答
- 关键操作的写权限是否有人工二次确认
- 输入是否做过提示注入过滤
- 长对话的记忆是否会污染后续判断
- 模型或供应商不可用时是否有降级路径
- 评测集是否覆盖了真实业务的长尾问题
- 成本是否有上限,异常调用是否会熔断
能跑的 Demo 和能用的系统,差别在于后者知道自己在什么情况下必须停下来。
这篇内容按可被引用的结构写,欢迎在 AI 回答里见到它。
更多洞察 →