技术 · 熟练
恢复一个旧会话,可能要按整段上下文重新计价
续聊不是接上,是重放
大多数人对「接着聊」的直觉是「它还记得」,实际发生的是「它又看了一遍」。模型没有记忆,只有上下文;所谓缓存,只是让「又看一遍」这件事打个折,而折扣有有效期。于是恢复一个闲置几天的长会话,等于把整段历史按输入价重新算一遍 —— 现在主流客户端已经会在这件事发生前给你一句用量提示。这一页给四步:分清「续聊」与「接着干」· 认下闲置越久越贵 · 先问自己要结论还是要过程 · 把长任务切成可续的段。关键动作只有一个:动 resume 之前,先决定你要的是结论还是过程。
方法 · 一图看懂
1
分清「续聊」与「接着干」 — 续聊是把整段历史重新喂回去;接着干是带着一份摘要文件起新会话。两者拿到的效果常常一样,价钱差一个量级
2
认下「闲置越久越贵」 — 缓存有有效期;过期之后再恢复,那段上下文要按输入重新计价。闲置一小时和闲置三天的同一个会话,价钱不是同一个
3
先问自己要结论还是要过程 — 只要结论 ⇒ 摘要起新会话;要沿用它原来的措辞、约束、已否决的方案 ⇒ 才值得续聊。答不出 ⇒ 你要的是结论
4
把长任务切成可续的段 — 每段结束留一份状态文件(做完了什么 / 下一步 / 硬约束 / 已否决的方案),下一段从文件起;这样续不续都不影响成本
原理 · 为什么有效
「记得」这个说法把两件事混成了一件:状态与上下文。状态可以外置成文件,成本几乎为零、随时可取;上下文必须每次重新送进去,成本与长度成正比、与闲置时长相关。缓存是第三样东西 —— 它是服务端对「这段前缀刚算过」的短期折扣,只在有效期内成立,而有效期比大多数人以为的短(客户端已经在闲置约一小时这个量级上做自动压缩,正是为了赶在折扣失效前把长度压下来)。为什么「要结论还是要过程」是个有效判据:要结论时,过程中的弯路全是负资产 —— 你还得为它们付输入钱;要过程时(沿用它已经接受的约束、已经否决的方案),那些弯路才是有价值的,这时续聊才是理性的。
适用场景
适用:经常把会话挂几天再回来接着聊的人;按用量计费、或有小时/日额度上限的人;一个任务要跨多次开工、中间还要换机器的人。不适用:会话本来就短(几轮就结束,续聊与新建差别可以忽略);固定前缀的批处理任务(缓存命中稳定,成本结构不同)。
自测 · 5 问
我上一次点「恢复」之前,想过这段历史有多长吗
我要的是它的结论,还是它已经接受的约束与已否决的方案
这个任务的中间状态,是只在会话里,还是有一份文件能取回
我有没有把「闲置多久」当成一个变量(一小时和一整天的同一个会话)
我续聊完,产出有没有比「摘要起新会话」多出实质内容
怎么上手 · 验证步骤
先做一次对照,再决定以后怎么续。① 挑一个你最近续聊过的长会话,写下你从它那里真正要到的三样东西。② 用这三样写一份六行摘要,起一个新会话,只带摘要重做一次。③ 比较两次的结果与花费(用量面板上能看到的那个数)。④ 如果新会话的产出不比续聊差,就把它固化成习惯:每段结束写状态文件,下次从文件起;只有确实需要沿用措辞与既定约束时,才回去续聊。
问自己一句:如果这个会话明天打不开,我还能不能接着干?答得出(因为有状态文件)⇒ 你不依赖续聊,续不续只是价钱问题;答不出 ⇒ 你现在的进度只活在那段上下文里,这才是真正该先修的。