习慈羊xiciyang
联系
订阅
正在读取订阅状态…

harness

共 2 篇文章。

第三代拨款给了接口:SWE-agent 只改工具界面,就把解决率从 11% 抬到 18%

架构手记

2024-05 之前,agent 工程把力气花在"多加一层编排"上。SWE-agent 换了方向:不改模型、不改循环,只改模型看到的界面——窗口 100 行、搜索上限 50 条、编辑失败立刻回滚。同一模型下 SWE-bench Lite 从 11% 抬到 18%,窗口从 100 行放到 200 行反而掉到 10.8%。这一篇把 ACI 的六个设计点、它们的消融数字与代价逐条拆开。

步数复利:四次 harness 换代,压的都是同一条曲线

架构手记

从 ReAct 的循环到 MCP 的协议,四代 agent harness 看上去在解决不同问题。把它们的收益换算到同一根轴上就只剩一个量:单步成功率。p=0.98、35 步时端到端只有 49%,而 p 每抬 0.01,端到端涨 21 个百分点;反过来,把步数从 35 加到 105 而 p 不动,每解决一个任务的成本涨 11 倍。这条曲线解释了 2023 年多智能体狂热为什么消退,也解释了 2024 年的 ACI 为什么是真拐点。

← 所有标签