习慈羊xiciyang
联系
订阅
正在读取订阅状态…

混合检索

共 1 篇文章。

让 Agent 自己长技能:一个"检索 → 计划 → 执行 → 沉淀"闭环,和它暴露出的三处安全缺陷

案例复盘

让 agent 自己长技能,真正的风险在于它把错的做法记成经验:技能库同时是它自己的判据来源,错一次会被记住很多次。我把它做通了(检索→计划→白名单执行→成功后蒸馏成技能写回同一个知识库),但通读代码后找到三处设计缺陷:白名单把解释器放了进去、自动沉淀默认开启、参数替换发生在分词之前。

← 所有标签