#成本
共 4 篇
-
token 黑洞:四个让账单翻倍的坏习惯,附实测账本
把一次真实会话的 token 账本拆开,找出四个最常见的浪费来源:一次一问、全量读文件、工具输出不裁剪、长会话不压缩,每项给出可量化的节省办法。
-
同一句提示词,25 秒和 60 秒的差距:模型与客户端的成本结构拆解
用同一句提示词实测不同客户端的墙钟差异,并拆解一个真实会话的缓存命中账本,说明延迟到底花在哪、token 到底被谁吃掉。
-
上下文压缩:compress 什么时候该压,压坏了拿什么换回来
billion-context 0.1.216 的实测账本:89580 计费输入、25 秒压缩超时原文、16.9 倍缓存命中。压缩不是免费操作。
-
长会话 token 经济学:把 120KB 记忆砍到 18KB
一份自动化执行记忆涨到 120161 字节、1096 行,每次执行都要全量读一遍。我做了三轮裁剪,把常驻上下文压到 18KB,同时保住了全部「下次务必做」。