行业垂直 · 熟练

把 AI 接到能动手的设备上,先补三样

能动的手,要配能停的人
过去一年政策管的是「模型说了什么」;这一版开始,它管「模型让什么动了」。Anthropic 2026 版使用政策(2026-10-08 发布 · 2026-11-12 生效)首次给「接入可自主执行物理动作的硬件」写了专门条款,落点很少但很硬:合格操作者必须能观察设备并随时叫停、设备在模型断连时必须能保持安全状态、必须有独立于模型的硬件或控制器限位。这一页把这三条翻成可核问话,并把同批另外四处变更(欺骗性活动专章 · 武器软件与无人机武装 · 监控边界 · 高风险建议的人类复核与告知)一并过一遍。判据只有一条:这一条要求,我现在能不能拿出证据。
方法 · 一图看懂
1
先认适用范围 — 只有「接入可自主执行物理动作、且可能造成伤害」的设备才落这条;纯文本输出、纯屏幕内操作不落(别把这一条套到聊天机器人上)
2
三样硬要求逐条对 — 能观察并随时叫停(谁在盯 · 怎么停)· 断连保持安全态(网络断了会怎样)· 独立硬件或控制器限位(模型说了不算的那一层在哪)
3
同批另外四处一并过 — 欺骗性活动专章(政治与商业同适用)· 武器软件与无人机武装 · 监控与刑事司法边界 · 高风险建议的合格人员复核与告知
4
说不清的就是待补项 — 不以「我们很谨慎」结案,要求落到具名角色 · 明确动作范围 · 可查记录
原理 · 为什么有效
为什么要把「能动手的设备」单独拎出来写?因为它把风险从可撤回的那一类挪到了不可撤回的那一类。语言模型的输出错了,删掉重发就行;一条给设备的速度指令错了,可能没有第二次。政策对这两类事的处理方式因此不同 —— 对文本,它管「说了什么」;对物理动作,它管「谁在看着、谁能停、断了之后停在哪」。这三条的共同结构是:都要求存在一个独立于模型的层。观察者是独立的人、安全态是独立于连接的状态、限位是独立的硬件或控制器 —— 也就是说,合规不靠「模型更可靠」,靠「模型不可靠时系统还安全」。这也解释了同一版里为什么把高风险建议的复核要求写得更具体(须由合格人员复核、且复核的人要有改动权、且要告知当事人用了 AI):它们回答的是同一个问题 —— 这件事背后有没有一个能在出问题时按下刹车的人。
适用场景
适用于:把模型接进任何「会产生物理动作」的系统的人 —— 机械臂 / 无人机 / 车辆控制 / 智能家居联动 / 实验室自动化;也适用于把模型输出接进「关于某个具体个人的决定」的团队(招聘排序 · 授信 · 理赔 · 资格认定)。不适用于:纯文本生成、纯软件内操作(不开设备、不动钱、不决定人);也不适用于纯内部草稿与摘要类用法 —— 它们不指向具体个人的决定,高风险条款没有落点。前提:愿意把这三条落成具名的岗位与可查的日志;若你手上只有一句口头说明,那说明这一条还没做。
自测 · 5 问
我接入的设备里,有哪些「模型给出的动作可能造成伤害」?列得出来吗(是具体那几台,不是「我们的产线」)?
每台设备,说得出谁在看着它吗 —— 这个人现在有没有停它的手段(不是「应该能停」,是试用过能停)?
网络或模型连接断掉的那一刻,设备会停在哪 —— 这个状态是设计出来的,还是碰巧的?
运行参数的边界,是写在模型之外的硬件或控制器上,还是只写在提示词里?
同批另外四处(欺骗性活动 / 武器软件 / 监控 / 高风险建议复核与告知),我逐条过过一遍了吗?
怎么上手 · 验证步骤
不要一次补全。先做第 2 步里的第二条(断连安全态)—— 因为它最便宜、也最容易发现问题:直接拔一次网线或断开 API,看设备停在哪。多数团队第一次做就会撞上「它停在一个没人设计过的状态」。再补限位(把边界从提示词里挪到控制器上)—— 这一步的成本取决于你的设备是否支持参数限幅。最后才做「谁在看着」(观察者与叫停权),因为它需要落到人,而在任何自动化流程里,最容易缺的就是这个具名的人。
做完自己核三样:① 随便挑一台设备,能说出它的安全态是什么、断连后靠什么达到 ② 你的运行边界里,有没有哪一条其实只存在于提示词中 ③ 「谁在看着」这一栏,有没有填成「系统会自动处理」—— 那是没有填。
挑一台已经在跑的、接了模型的设备,写三行字 —— 第一行「断连后它停在哪」,第二行「谁能停它、怎么停」,第三行「哪条边界只写在提示词里」。三行都能写出来,说明这一条开始落地;只能写出第一行,说明你手上只有「模型很可靠」这个假设。
[C级]Anthropic 官方 2026 版 Usage Policy 公告(2026-10-08 发布 · 2026-11-12 生效:接入可自主执行物理动作硬件的安全要求 / 欺骗性活动专章 / 武器软件与无人机武装 / 监控与刑事司法边界) [C级]AINewsBank 对该版的逐条拆解(物理设备三条硬要求:合格操作者能观察并叫停 · 断连后保持安全态 · 独立硬件或控制器限位;并列出普通情绪发泄 / 反驳 / 黑暗题材创作 / 模型测试不在「虐待模型」条款内) [C级]Ground Truth 的政策对照文(同一批变更里:武器禁令覆盖「让武器运转的指导与控制软件、组件」,以及给无人机等自主载具加装武装) 同类:模型供应商改条款,先看哪三句 · 合规不是加文档,是改约束
继续往下读
同级:模型供应商改条款,先看哪三句 下一级:外贸找客户,把十一步跑成一条流水线 随机一篇