通用方法 · 熟练
不是所有活都该送上去
哪些留在自己机器上跑,按三条判据分
把每一件小活都发到云端,是过去两年默认的做法,而它正在被改掉。2026-10-08 的报道里,微软把 Copilot on Windows 的一部分任务改由用户自己电脑上的模型接手(内部叫 HydraFusion),官方口径是「让 token 走得更远」;同一周,本地推理工具链(覆盖 Apple / NVIDIA / AMD 三家的运行时)持续在榜。这一页给的是分流判据:哪一类活该留在本机(隐私敏感 · 要能离线 · 高频小任务),哪一类仍然送云端(难推理 · 长上下文),以及一个必须提前知道的坑 —— 发布说明里承诺的支持范围,常常大于你装完之后能用的范围。
方法 · 一图看懂
1
先做一张活儿清单 — 把你每天真正用 AI 做的事逐条写下来,不分类、不排序
2
按三条判据打标 — 原文能不能出本机 / 断网要不要能用 / 是不是一天跑很多次的小活
3
按「能做的活」选形态 — 分类 · 抽取 · 改写这类留在本机,难推理与长材料仍然送云端
4
先验一次再定方案 — 装机第一天只跑一件事:拿一条真实数据走通全流程,不通就先别改习惯
原理 · 为什么有效
分流的本质不是「省不省钱」,而是把三类不同的约束分开。第一类是数据不能出门:客户的合同、体检报告、未发布的稿子 —— 这些一旦上传就不受你控制,而它们在很多工作流里恰恰是最频繁的那部分。第二类是要能离线:出差、飞机上、断网时段还要能干活,云端在这段时间等于不存在。第三类是高频小活:格式转换、抽取字段、给一段话分类 —— 单次很小,但一天几十次,云端线路的延迟与成本会被累乘。反过来,难推理与长材料仍然属于云端:本机模型在长链推理与超大上下文上仍有明显差距,硬搬只会让你反复返工。所以正确的形态不是「换掉云端」,而是按活儿分两条线,并让本机那条线只承担它确实做得好的那几类任务。
适用场景
适用:手上有不适合外传的材料(客户数据 · 个人文档 · 未公开内容)的人 · 经常断网或出差的人 · 每天要跑大量小任务、能明显感到延迟与账单的人 · 已经在用本地工具但只是「装过」的人。
⛔ 不适用:全部工作都是长链推理与超长材料的人 —— 那类活留在云端更省事,分流反而增加一层维护。
⚠️ 前提:你至少有一台还能跑起小模型的机器(近几年的笔记本通常够用)。没有的话,这一页的第一条判据仍然适用 —— 只是答案会变成「先把这类活挑出来,找别的办法处理」。
自测 · 5 问
我每天用 AI 做的事,能不能说出具体三条?
这三条里,有哪一条的原文是不该上传的?
我有没有过「断网就没法干活」的时刻?那是哪一类活?
我一天里有多少次是在问很小的、几乎一样的问题?
我上次装本地模型,是跑通了哪一件真活,还是只跑了个「你好」?
怎么上手 · 验证步骤
第一件事只做一样:先跑通一件真活,再谈分流 —— 挑一条你每天都在做的、原文不该外传的小活(比如「把一段会议记录里的待办抽出来」),装好本机模型后拿一条真数据从头到尾跑一遍:输入 → 输出 → 你自己核对。第二件事:把跑通的这一条固定下来,连续用一周,记下「哪些次它做不了、需要转云端」。第三件事:只有当一周里那种「做不了」的次数稳定很少时,才把第二类活也搬过来 —— 一次只搬一类,搬完观察一周。另一条独立的动作同样重要:装机当天就去官方渠道核对一次「你想用的那个平台 / 版本,到底支持到什么程度」,别只信发布说明。
自检动作:写下你分流后的第一周里,有几次是「本机跑不动、临时改回云端」。这个数字如果大于你搬过去的工作量的一半,说明你搬错了那一类 —— 把它搬回去,不是本机不够强。