习慈羊xiciyang
联系
订阅
正在读取订阅状态…

判据必须定义在最终产物上

一份上线前的报告上每一层指标都是绿的:检索层说召回达标、服务层说时延达标、缓存层说命中率上升。上线第 1 周,用户仍然说「答得不对」。

「每一层都合格」的系统,端到端仍然不可用 —— 中间层的指标各自被优化,没有人对接口负责。

先说接口断在哪,再说判据该怎么写。

结论:判据挂在最终产物上,争议只在定义阶段付一次

系列占位:正文待补——判断、框架与落点先固定。先回答一个问题:为什么「每一层都合格」的系统,端到端仍然不可用?

链路中间三层全部达标,但与最终产物之间是断的;验收必须落在最终产物上

把判据定义在最终产物上,会同时改变三件事:验收由谁执行(使用方而不是链路各段)、失败时回到哪一步(最后一段而不是第一段)、以及哪些「漂亮数字」根本不进验收表。

这不是更严格的验收,而是唯一能站住的验收 [2];首页原则层面的第二条说的就是这件事 [3]。

骨架

  1. 中间指标为什么会失真:指标在链路里被逐段优化,段与段之间的接口没有人为它负责。

  2. 什么算「最终产物」:用户真正拿到、并且会用它做判断的那个东西 —— 不是链路里最漂亮的那个数字。

  3. 怎么定义:从使用方的验收动作倒推 → 写成一句可复核的话 → 指定谁在什么时候测 → 失败时回到哪一步。

  4. 三个反例:覆盖率很高但检索无用;时延分位数漂亮但首字抖动;精度指标达标但输出不可解析 —— 第三个反例的实测在 [1]。

  5. 一个对照:把同一条判据分别挂在中间层与最终产物上,验收结论会差在哪里。

小结与接下来

把判据挂在最终产物上,是一条能让争议提前结束的规则:争议在定义阶段付一次,而不是在验收阶段反复付。

下一站:当判据定了、也被测了,怎么保证”测出来的数”本身可信 —— 那是这一系列的第三篇。

参考文献

[1] 本站 · 先修量具,再谈性能:一次 8 卡推理调优复盘 — 同一类错误的另一个实例

[2] 本站 · 洞察的检验标准:五层递进,与三条能证伪的判据 — 判据要能证伪

[3] 本站 · 首页原则层面的第二条「判据定义在最终产物上」 — /#home-layer-6

评论

填个昵称就能发,不需要注册或登录