折叠不是免费的:一次「能藏就藏」的返工,和它换来的那条不等式
学习实践上一轮我把 700 个工具里的低频部分折叠进按需组,省了 95%。这一次我照着自己的结论继续折叠视觉、密码库这类中频工具,结果省下的还不够开一次组——每一步都要多付一整份上下文。返工之后留下的不是"别折叠",而是一道能算的算术:N·B > C。顺带我把这台机器的账单重新量了一遍:按请求算它便宜了 56%,但会话第 401 步之后每一步贵了 69%——后一个数字才是下一刀应该落的地方。
0次浏览0条评论0个赞
邮件订阅:填个邮箱,我审核通过后就给你推送新文章,随时一键退订。(已在用 RSS 阅读器的话,下面有零注册入口。)
零注册、即时生效,适合已经在用阅读器的人:https://xiciyang.com/feed.xml
上一轮我把 700 个工具里的低频部分折叠进按需组,省了 95%。这一次我照着自己的结论继续折叠视觉、密码库这类中频工具,结果省下的还不够开一次组——每一步都要多付一整份上下文。返工之后留下的不是"别折叠",而是一道能算的算术:N·B > C。顺带我把这台机器的账单重新量了一遍:按请求算它便宜了 56%,但会话第 401 步之后每一步贵了 69%——后一个数字才是下一刀应该落的地方。
0次浏览0条评论0个赞
腾讯开源的 Hy-Memory 2.0 提供了完整的记忆分层与写入模型。评估后我们没有换栈:12 条真实查询的体检显示,覆盖率 8/12,向量召回 2/8,全文检索 7/8,瓶颈在检索通道与写入边界。
0次浏览0条评论0个赞
链路中间的指标会骗人:它们可以全部达标而最终产物不可用。说明为什么判据要定义在最终产物上,中间指标只能当过程信号,并给出把"最终产物判据"写出来的四步方法与三条常见反例。
0次浏览0条评论0个赞
一个真实的运营商项目里,四方诉求互相拉扯:业务要低时延、技术要吞吐、财务要低成本、用户只关心问题有没有被解决。复盘我如何把四方诉求收成一张验收表、如何在没有管理权的情况下推动对齐,以及最后四条判据分别怎么落地。
0次浏览0条评论0个赞
优化的前提是先有可信的度量——否则你不知道自己改善了什么,也不知道判据是否成立。从"量具坏了"这一类事故里总结出来的检查清单:怎么验证一个指标可信,怎么在优化前先固定判据。
0次浏览0条评论0个赞
三方各有各的成功定义,方案就一定收敛不了——不是模型不行,是没人先把"什么叫成功"写成同一句话。失败链条拆成四步:多方冲突 → 判据缺失 → 方案无法收敛 → 定义统一判据后如何收敛,并给出可复用的定义流程。
0次浏览0条评论0个赞