先修量具，再谈性能：一次 8 卡推理调优复盘，和一套带失败路径的调优状态机
案例复盘一份"看起来很完整"的性能报告里，TTFT 的每一个分位数都和总延迟一模一样——量具坏了。修好量具之后，第二个破绽暴露出来：Prefill 吞吐比 Decode 还慢，而这是物理上不该发生的。复盘这两次诊断与修复的实测数据，并说明我为什么把调优这件事从"多跑几轮看稳不稳"重写成了一台带失败路径的状态机。
0次浏览0条评论0个赞
vLLM
共 3 篇文章。
让回滚永远可达：把"调崩了怎么办"变成脚本能证明的事
案例复盘现场调参最贵的失败不是"参数调错了"，而是"调崩之后回不去"。所以执行框架的设计目标是让每一次变更都可回滚、可验证、可审计；优化更快只是副产品。把"回滚永远可达"拆成六件可以写成脚本的事，并给出启动后五步验证、故障关键字速查与算子级杠杆的落点。
0次浏览0条评论0个赞
调优中的统计决策：为什么 3% 的阈值不够，以及那 3 次"重复测量"其实不够用
专业洞察性能调优里最容易被跳过的一步，是回答"这次判定凭什么成立"。当测量噪声 σ≈2% 而你要判定的效应只有 3% 时，信噪比接近 1——"多跑几轮看稳不稳"在统计上是没有内容的。这件事可以拆成四层错误：固定阈值、样本量不足、边看边停、多指标齐看，并给出对应的四件工具（本机标定的动态阈值、功效分析、always-valid 推断、FDR 控制）。
0次浏览0条评论0个赞
