Original post · AI translation
这篇综述认为,多模态智能体的自我改进技巧只能迁移到具备该技巧所依赖条件的任务中,例如答案可以核验的任务。
AI 智能体从自己在图像问答等1个领域的尝试中学习,到了机器人技术等另1个领域可能会失败,因为那里没有可供核验的东西。
自我改进的智能体如今涵盖视觉推理、图像生成、应用和网页导航以及机器人技术,但每种方法都只在1种场景中接受过测试。例如,多数投票法可以为简短的视觉问答答案打分,却无法在机器人的动作轨迹中找到可供比较的内容。
作者梳理了这4种场景中的方法,并列出每种技巧所需的条件,例如可供投票比较的答案,或可由程序核验的结果。随后,作者对每种技巧在各场景中的适用性给出判断:可迁移、有条件适用、受阻或多余。
在引用的1项针对500道题的审查中,保留下来的多数投票标签有24%是错误的,而程序计算得出的答案错误率为5.6%。这些判断是预测,并非迁移实验的结果。
在将自我改进技巧用于新任务之前,先确认该任务能提供这种技巧所依赖的核验方式,然后在相同预算下与基线方法进行测试比较。