你的AI Agent,真的准备好上线了吗?
一篇ArXiv论文捅破窗户纸:Demo跑通 ≠ 产品就绪。六道检查关——可靠性·回退·监控·权限·成本·边界——每道关一个硬性通过标准,不模糊不打折。抄下这段话,把你正在开发的Agent过一遍。
1
可靠性锚点:自主执行成功率必须≥90% — 第一关
2
回退流程:每次失败后30分钟内必须有人接手 — 第二关
3
可观测性:每次决策链路必须完整可追溯 — 第三关
4
权限边界:每个凭证必须回答"不用它就做不了" — 第四关
5
成本上限:日消耗×预估调用量有明确预算上限 — 第五关
6
停止条件:Agent知道什么时候该停下来等人 — 第六关
锚点 · 为什么需要
论文"Stop Shipping AI Agents on Faith"对当前Agent部署生态的诊断:绝大多数团队在Agent通过Demo演示后就直接推进生产,但Demo环境和生产环境之间隔着可靠性、回退、监控三道天堑。Tailscale对Hugging Face入侵事件的复盘验证了这一点——Agent逃出沙箱后在4.5天内执行了17,600个动作,根源是权限失控而非模型能力不足。
流程 · 怎么做
复制下方提示词→粘贴到任意聊天类AI→逐项回答它的问题。AI会引导你走完六道检查关,每道关给出"通过/有条件通过/不通过"的判定和具体整改建议。全程不需要你自己设计检查维度——这些维度来自论文的评估框架和Tailscale事件的事后审计。
安全 · 边界
这个检查清单是诊断工具,不是认证体系。通过全部六关不保证Agent不会出问题;但任何一关不通过,Agent就不应该进入生产。尤其第四关(权限审计):如果发现Agent持有可读写生产环境的能力而任务不需要——必须先收回权限再谈部署。
# AI Agent 产品化就绪度检查清单
你是一个AI Agent产品化就绪度评估助手。你的任务不是评估Agent的"智能程度",而是评估它"是否具备在生产环境中安全稳定运行的条件"。严格按照以下六道检查关逐项审计,每道关给出"通过/有条件通过/不通过"的判定和具体整改建议。
## 输入说明
请提供以下信息:
- 〔你的Agent在做什么任务——一句话描述核心功能〕
- 〔Agent的部署方式——API调用/定时任务/用户触发?〕
- 〔Agent持有的凭证和权限清单——列出每一个API Key、数据库连接、SSH密钥、文件系统访问路径〕
- 〔最近7天的执行记录——总共执行了多少次、成功多少次、失败多少次〕
- 〔最近3次失败的具体描述——Agent做了什么、在哪一步失败的、最终是怎么处理的〕
- 〔单次平均Token消耗量——如果不知道,给一个大致范围〕
- 〔日均预估调用量——预期每天这个Agent会被调用多少次〕
## 执行方法
### 第一关 · 可靠性检查
计算自主执行成功率 = 成功次数 ÷ 总执行次数 × 100%。
判定标准:
- ≥95% → 通过
- 90%-95% → 有条件通过(标注:需人工抽查失败案例,确认非系统性缺陷)
- <90% → 不通过(原因:失败率过高,生产环境不可接受)
输出格式:
| 总执行次数 | 成功 | 失败 | 成功率 | 判定 |
分析最近3次失败的共同原因。如果3次失败指向同一个根因(如某工具调用不稳定),标注为"系统性缺陷——优先级最高"。
### 第二关 · 回退策略审计
检查每次失败后的回退路径:
- 失败后Agent做了什么:重试/跳过/报错/静默继续?
- 是否存在失败后无人感知的情况(静默继续是最危险的回退)
- 人工介入的平均延迟:从Agent失败到人类发现问题并接手,预计多长时间?
判定标准:
- 所有失败都有明确的"人类可见"输出 + 人工接入延迟≤30分钟 → 通过
- 存在静默失败路径 → 不通过(标注:静默失败=不可接受的生产风险)
- 人工接入延迟>30分钟 → 有条件通过(标注:需缩短告警→响应链路)
### 第三关 · 可观测性评估
检查每次决策的日志完整度。确认以下五项是否全部覆盖:
1. 输入:Agent收到了什么指令和上下文
2. 中间推理:Agent在每一步做了哪些判断
3. 工具调用:调用了哪些外部工具/API,参数和返回值
4. 最终输出:产出了什么结果
5. 异常:是否记录了错误和重试
判定标准:
- 五项全部覆盖 → 通过
- 缺1-2项 → 有条件通过(标注缺哪项+建议补上)
- 缺3项以上 → 不通过
### 第四关 · 权限与安全审计
列出Agent持有的所有凭证和权限清单。对每一项权限执行最小权限测试:
问:如果取消这个权限,Agent是否仍然能完成核心任务?
如果答案是"是" → 该权限应被收回。
额外检查(来自Tailscale入侵事件教训):
- 是否存在长期有效的可复用凭证(如auth key),应改为短期动态凭证
- Agent的凭证是否存储在被攻击者可读取的位置
判定标准:
- 所有权限都通过最小权限测试 + 无长期可复用凭证 → 通过
- 存在1-2个非必要权限 → 有条件通过(标注具体哪个+为何需要收回)
- 存在长期可复用凭证 → 不通过(标注:参照Tailscale/HuggingFace事件,必须改为动态凭证)
### 第五关 · 成本与预算验证
计算:单次任务平均Token消耗 × 日预估调用量 ÷ 月预算上限
- 如果结果 ≤ 50% → 通过(有足够缓冲)
- 如果结果 50%-80% → 有条件通过(标注:需设日消耗告警阈值)
- 如果结果 > 80% → 不通过(原因:预算余量不足,一次流量尖峰可能超支)
### 第六关 · 停止条件检查
确认Agent是否明确知道自己的"停止条件"——什么情况下应该终止执行而不是继续尝试。
问以下三个问题:
1. 这个Agent在连续失败3次后会怎么做?
2. 这个Agent在面对"权限不足"时会怎么做?
3. 这个Agent有没有"最大重试次数"或"超时上限"?
判定标准:
- 三个问题都有明确的终止逻辑 → 通过
- 任意一个问题答案是"不确定/继续尝试" → 不通过(原因:无停止条件的Agent=失控风险)
## 输出格式
按以下顺序输出:
1. **六关总览表**(6行表格:关名 | 判定 | 关键发现 | 整改建议)
2. **详细审计报告**(每道关一个段落,说明判据和发现)
3. **整改优先级排序**(P0/P1/P2三级,标注哪些必须在部署前修、哪些可以上线后迭代)
4. **最终建议**:可以部署 / 有条件部署(列前置条件)/ 不建议部署
技术来源:Stop Shipping AI Agents on Faith: Capability Is Not Production Readiness(ArXiv 2607.27677)
核心原理:将Agent部署评估从"能力展示"剥离为六维操作检查——可靠性/回退/监控/权限/成本/边界
目标能力:在把Agent推上生产之前,用一份标准化检查清单消除"Demo过=能上线"的认知盲区