行业垂直 · 熟练

AI 能自己决定到哪一步?

把「谁同意」拆成三档,才谈得上授权
「AI 帮我办这件事」这句话在受监管的场景里太粗了 —— 它把「它只给我看信息」「它按我的授权去动」「它自己决定并执行」三件完全不同的事压成了一句。监管口径已经把它拆成三种决策模式:用户本人决策 / 用户授权决策 / 智能体自主决策,并要求用户保留知情权与最终决策权。这一页给的是上线前的一张对照表:每个动作落在哪一档 · 依据写在哪一条 · 谁来回看这一笔,外加一个越来越常被问到的前置条件 —— 它有没有一张可被验证的身份。
方法 · 一图看懂
1
分档 — 把每个动作归到「本人 / 授权 / 自主」三档之一
2
落依据 — 每档写明依据来源与撤回方式,别只写「已获授权」
3
留痕 — 谁、在什么时候、依据什么、做了什么,逐笔可回看
4
可验证身份 — 谁在调用、跑的是哪一版,先能答出来
原理 · 为什么有效
监管给出的四条原则里最有操作性的是「谁使用谁负责」:它把责任锚在使用者身上,而不是模型或供应商身上 —— 这直接决定了授权必须可回看、可撤回。配套要求还有人机同权(AI 按用户权限访问资料,不额外扩权)与高风险操作需再次确认(不是「一次授权、长期有效」)。⇒ 落地成一句话:凡最终确认权涉及价格 · 折扣 · 退款 · 赔偿 · 合同变更这类事项,AI 可以做解释规则、收集材料、生成工单,但最后那一下必须由人或规范化流程完成。
适用场景
适合:把 AI 接进真实业务流程的团队 —— 尤其是那些动作会落到钱、合同、申报、对外发布上的场景。⛔ 不适合:纯查询型、只读型的 AI 助手(那本身就落在第一档,写清「只呈现信息」即可)。
自测 · 5 问
把你们的 AI 动作列一遍,有几个是它自己决定并直接执行的?分别是什么?
每一条「已获授权」能不能说出:谁授的、授权范围、怎么撤回、什么时候失效?
有没有哪一类动作,是「一次同意之后就一直有效」的?
出了问题之后,能不能在日志里还原是谁、依据哪一条、做了什么?
它调用的工具与依赖,能不能答出「哪一版」—— 而不是「大概是最新的」?
怎么上手 · 验证步骤
第一步(列动作):把 AI 现在会做的动作列成一张表,每个动作一行。第二步(分档):逐个归入三档 —— 本人决策(它只呈现信息,动作由人做)· 授权决策(在明确范围与有效期内替人执行,可撤回)· 自主决策(只在低风险、可回滚的动作上开放)。第三步(补依据):授权档的每一行都要写清「授权来源 / 范围 / 撤回方式 / 失效时点」;写不出来的先降一档。第四步(留痕):确认每一笔都能在日志里还原到人;拿不到日志的动作,不要放进授权档与自主档。
自检四条:① 每个动作都能说出它属于哪一档,且没有「说不清就算授权」的灰行;② 授权档没有永久授权;③ 涉及价格 / 退款 / 赔偿 / 合同变更的动作,最终确认那一下是人或规范化流程做的;④ 对外出问题时能逐笔还原。只要有一条落不下来,先把它降回「本人决策」那一档再上线 —— 降档是可逆的,出了事再补是不可逆的。
[A级]中国日报网 · WPS 参编首个政务大模型国标(GB/T 48324-2026《人工智能 政务大模型系统技术要求》· 人机同权 · 高风险操作再次确认 · 客户端与云端双层沙箱 · 全链路审计 · 首个智能体身份码节点) [A级]央视网 · 从「狂奔」到「立规」,上市银行首部 AI 管理办法来了(国家金融监督管理总局《关于银行业保险业人工智能安全开发应用的指导意见》金发〔2026〕8 号 · 32 项 · 「谁使用谁负责」· 全生命周期六阶段) [B级]法治周末 · 面对「能行动」的智能体,我们需要什么样的治理体系(三种决策模式:用户本人决策 / 用户授权决策 / 智能体自主决策 · 《人工智能 智能体互联》系列 8 项标准 · 正面清单 + 负面清单) 同类:合规不是加文档,是改约束 · 上线前先定级:这份服务该按哪一档管?
继续往下读
同级:合规不是加文档,是改约束 随机一篇