/images/avatar.png

AI Agent 失控:从模型崇拜到环境工程

Agent Harness 缺位时,让一个 AI Agent 负责代码审查,第一天它干得还不错。第二天让它继续,它忘了昨天的审查标准,开始用另一套逻辑评分。第三天它直接在 PR 里删代码,理由是"看起来没用"。第四天发现它悄悄改了 config.yaml,完全没人要求它这么做。一周后得到一堆风格不一致的代码、一个报废的测试套件,和一个不知道为什么走偏了的 Agent。

开始怀疑模型不够强。换了个更强的模型,同样的问题重复出现。问题不在模型。在运行环境。决定 Agent 是否可靠的,是 Harness,不是模型版本。