习慈羊xiciyang
联系
订阅
正在读取订阅状态…

上下文成本

共 1 篇文章。

折叠不是免费的:一次「能藏就藏」的返工,和它换来的那条不等式

学习实践

上一轮我把 700 个工具里的低频部分折叠进按需组,省了 95%。这一次我照着自己的结论继续折叠视觉、密码库这类中频工具,结果省下的还不够开一次组——每一步都要多付一整份上下文。返工之后留下的不是"别折叠",而是一道能算的算术:N·B > C。顺带我把这台机器的账单重新量了一遍:按请求算它便宜了 56%,但会话第 401 步之后每一步贵了 69%——后一个数字才是下一刀应该落的地方。

← 所有标签