aifollow.news
返回 Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · 原发布时间 AI 评分54

清华与微软论文提出 HarnessMM,让编程智能体在预设检查通过后跳过模型调用

AI 导读

HarnessMM 让模型预先写好后续命令及通过条件;工具结果满足条件时,智能体直接执行下一步。在 98 道 HumanEval 任务上,采用该方法的 Codex 成功率保持在 90.82%,令牌用量减少 29.54%;DeepSeek Harness 的成功率从 71.43% 升至 85.71%,令牌用量减少 87.93%。

原帖引用 · AI 翻译

@rohanpaul_ai
译文 · 以原文为准

清华大学与微软的一篇新论文发现,在98道HumanEval任务上,DeepSeek Harness使用的token比其原始版本减少了87.93%,成功率则从71.43%升至85.71%。

Codex和DeepSeek Harness等智能体工具会在每次工具返回结果后调用大语言模型,以选择下一步。很多时候,下一步其实已经确定,例如代码编译成功后运行测试。

HarnessMM让模型预先写出带有确切参数的后续命令,并为每条命令设置一项检查条件,例如构建成功。当工具结果通过检查时,智能体就执行该命令,跳过大语言模型调用。

在98道HumanEval任务上,Codex的成功率保持在90.82%,使用的token比普通Codex减少了29.54%。DeepSeek Harness的成功率从71.43%升至85.71%,使用的token比原始版本减少了87.93%。

如果你的智能体会执行编写代码、构建、测试等可预测的连续步骤,就让模型一次性规划这些步骤并设置通过条件,而不是每一步都重新询问模型。

来源:Rohan Paul · x.com

论文
发现内容有误?提交纠错