工程为基
判据落地要靠工程：算力底座、模型服务、知识智能、应用落地四条能力线。
四个方向
4 条本系列的话题
篇目
11 篇- 01
优化技术该插在哪一格：一套三层坐标，与一个 KV Cache 推导
一份优化技术清单没有用，坐标系才有用。一套三层坐标（任务流阶段 × 软硬件层级 L1–L7 × 技术维度），三个带阈值的判墙判据，并用一个完整推导说明为什么坐标重要——GQA 模型的 KV 头数会决定张量并行是否在白白复制 KV Cache，以及该如何切回来。
0次浏览0条评论0个赞
- 02
调优中的统计决策：为什么 3% 的阈值不够，以及那 3 次"重复测量"其实不够用
性能调优里最容易被跳过的一步，是回答"这次判定凭什么成立"。当测量噪声 σ≈2% 而你要判定的效应只有 3% 时，信噪比接近 1——"多跑几轮看稳不稳"在统计上是没有内容的。这件事可以拆成四层错误：固定阈值、样本量不足、边看边停、多指标齐看，并给出对应的四件工具（本机标定的动态阈值、功效分析、always-valid 推断、FDR 控制）。
0次浏览0条评论0个赞
- 03
通道怎么选：先把"是什么"和"从哪看"拆开
飞书回调配置全对、机器人一句话不回；浏览器镜像 HTTP 200、观察者计数正常、一帧都不出。两次都栽在同一件事上——把"接通了"当成"能用了"。用两条真实接入路径，把"约束在哪里""你看的是哪一份会话""什么才算成功"拆成三件可以独立回答的事。
0次浏览0条评论0个赞
- 04
从 67B 到 671B 再到 1.6T：DeepSeek 近三年换了五种结构，那道没变过的判断标准
从 2024 年 1 月的 DeepSeek-LLM 到 2026 年 10 月的 DeepSeek-V4.1-Flash-1017，DeepSeek 近三年换了五种结构，却始终守着同一道判断标准——省资源，但不掉点。前九次发布每次都要在这条判据上做一次交换；2026-10-17 的第十次更新第一次没换结构，让基准普涨、运行时间与输出长度同时缩短。按「每一代拆掉哪一根成本项」把主线串起来，数字均标注论文或官方模型卡出处，折算与推算的账本在文末「口径与边界」。
0次浏览0条评论0个赞
- 05
垂直整合的代价：DeepInfer 只服务一种模型，64 卡以下拿不到它的收益
2026-10-20 DeepSeek 开源了内部推理框架 DeepInfer。它承认自己最初主要基于 vLLM 构建，只支持 V4.1-Flash、只跑 SM100 与昇腾 950，发布包里不含 KV 存储、PD 分离和负载均衡。把官方 README、部署 Q&A 和 benchmark 图逐条对到 vLLM / SGLang / TensorRT-LLM 的机制上，能看清垂直整合真正买到的三样东西：高交互性一侧的吞吐、用 140 个 token 换掉整段 prefill 重放、以及只值 4–7% 的置信度调度。所有吞吐数字都是厂商自测，文中逐条标注口径与失效区间。
0次浏览0条评论0个赞
- 06
- 07
- 08
- 09
插件、Skill、MCP、CLI：先判断这份能力该不该进模型上下文
同一个能力做成插件和做成 CLI，代价差在每一步：插件的工具声明每次请求都在场，CLI 只在被调用时存在。按「谁决定调用时机、多久用一次、失败会污染谁」三个问题，把能力分到工具、Skill、MCP、套件、领域包与脚本六种形态，并给出动手前的三条验收。
0次浏览0条评论0个赞
- 10
装之前先量三笔账：上下文、热重载、卸载
个人给自己加能力，装、写、接之间差的不是功能，而是三笔账：每个工具每步占多少上下文、改一次要不要重启、删掉要留多少尾巴。三笔账都能落到数字与命令上，有一笔算不过来，就不该装进 harness。
0次浏览0条评论0个赞
- 11
折叠不是免费的：一次「能藏就藏」的返工，和它换来的那条不等式
上一轮我把 700 个工具里的低频部分折叠进按需组，省了 95%。这一次我照着自己的结论继续折叠视觉、密码库这类中频工具，结果省下的还不够开一次组——每一步都要多付一整份上下文。返工之后留下的不是"别折叠"，而是一道能算的算术：N·B > C。顺带我把这台机器的账单重新量了一遍：按请求算它便宜了 56%，但会话第 401 步之后每一步贵了 69%——后一个数字才是下一刀应该落的地方。
0次浏览0条评论0个赞
继续
换个系列，或回到全部文章。