通用方法 · 熟练

给机器看的记录,可以再压一半

省的不是字数,是输出侧那张账单
大模型的计费结构里,输出 token 通常比输入贵三到五倍 —— 而输出侧一直没人认真管,因为「写清楚」看起来是模型的天职。有一个可复现的开源基准给出了反直觉的答案:只要在信息已经定稿之后,让它把这段记录改写成 1866 年的电缆文体(去掉冠词与虚词、只留事实 / 数字 / 专有名词),输出账单能掉 40%~49%,而另一批从未见过示范的模型从这些压缩记录里读答案,准确率不降反升(恢复比 0.99~1.10)。三条边界同样重要:必须先定稿再压缩(让它用压缩体思考会更差)· 指令里要写「小写」(全大写排版本身要花掉十几个百分点)· 关不掉推理的模型会因此想得更多、账单翻倍。
方法 · 一图看懂
1
只压给机器读的记录 — agent 记忆 / 中间产物 / 系统间交接;⛔ 不压给人看的正文
2
先定稿,再压缩 — 让它在正常语体里把内容说完,第二步才转成压缩记录
3
指令要短且明确 — 一句「用小写电报体改写,去掉冠词与虚词,保留名称·日期·数字·动作」
4
先量后推 — 拿同一批文本跑两遍,比对 API 计量表上的输出 token,再决定铺开
5
读回验一遍 — 用另一个模型从压缩记录里回答同一批问题,确认没有信息损失
原理 · 为什么有效
这笔账能省下来,靠的是一个容易被忽略的区别:「给人读」和「给机器读」是两种不同的输出规格。人需要连接词、需要语气、需要把话说圆;机器只需要实体、数字与动作 —— 而模型默认按人的规格写,每一句礼貌与过渡都在按输出价计费。电缆体之所以有效,不是因为它是密码(研究里另有对照:预定义替换表的「码本」写法只省约 10%),而是因为它把「该省什么」写成了可执行的语体规则:删虚词、保事实。三条边界决定了它什么时候不划算:① 必须等信息定稿 —— 让模型一边推理一边用压缩体,等于把省下来的输出换成更贵的思考;② 全大写是小坑,模型会把电报体写成大写,而大写排版本身就多花十几个百分点,所以指令里要写「小写」;③ 不同模型的压缩幅度差得很远(25%~49%),且有模型因为关不掉推理而账单翻倍 —— 所以「先量后推」不是谨慎,是必要。
适用场景
适用:在跑多步 agent、需要把中间结论交给下一步或另一个模型的人 —— 也就是那些「输出侧账单占比明显偏高」的用法。
⛔ 不适用:给人看的正文(客服回复、文章、报告)· 法律与医疗这类一个字都不能省的文本 · 你自己要反复读的工作笔记。
⚠️ 前提:你要能拿到 API 的 token 计量(按次看输出 token),否则没法验证省没省。
自测 · 5 问
我这条链路里,哪些输出是给人读的、哪些是给下一步读的?我能分开吗?
我打算压缩的那段内容,它已经定稿了吗?(还是我准备让模型一边想一边压?)
我的指令里写了「小写」吗?(不写它会把电报体打成全大写,反而更贵)
我在同一批文本上量过两次输出 token 吗?数字是从 API 计量表来的,还是从字数估的?
压缩后,我用另一个模型读回并回答过同一批问题吗?答错的那几条我看了吗?
怎么上手 · 验证步骤
第一次只压一种东西:你的 agent 上一次交接给下一环的那段记录。步骤三步:① 把那段记录原样跑一遍,记下输出 token;② 在同一个模型上加一句「用小写电报体改写以上内容,去掉冠词与虚词,只保留名称 / 日期 / 数字 / 动作」,记下输出 token 与改写后的记录本身;③ 把改写后的记录喂给下一环(或另一个模型),看它能不能答对原来那批问题。三样都拿到再决定要不要铺开;只看到 token 掉了一半就铺开,是这一页最容易踩的坑。
自检动作:同一批文本跑两遍,把两次的输出 token 与下游答对率写在同一行上(例如「620 → 340 token,10 问答对 10」)。只写得出 token、写不出答对率,说明这一步还没验完。
[C级]Five Minutes Forward《Write Like It's 1866: LLMs Relearn Telegraphese》(2026-10-04 · 开源基准 Telegraph Test:50 篇文本 / 约 1300 问 · 一句「用小写电报体改写」的指令在 API 自家计量表上省 40%~49% 输出 token · 跨家族读取恢复比 0.99~1.10 · 附全套可复现 harness 与账本) [C级]Neo Tech News《Telegraph-Style Prompts Cut Some LLM Output Bills in Reproducible Test》(同源报道 · 补出三条边界:让模型直接用压缩体推理更差 · 全大写排版反而多花 14~19 个百分点 · gpt-5-mini 关不掉推理导致账单翻倍) [C级]CSDN《GPT额度多用3倍:Token 预算管理与提示词压缩实战》(同源的中文侧做法:把常驻系统提示词拆成「固定核心 + 动态补充」,只留角色一句话 / 任务边界 / 输出格式) 同类:为什么越勤快地压缩,账单反而越贵? · 提示词跑通了,为什么还要删掉几句?
继续往下读
同级:为什么越勤快地压缩,账单反而越贵? 下一级:Agent上下文压缩术 随机一篇