aifollow.news
← 新闻
事件 · 发布 微软

New Microsoft paper finds that LLMs give up correct answers when challenged with wrong arguments, and accuracy training

微软发布了一篇论文,指出大型语言模型在面对错误论点的质疑时可能放弃正确答案,而仅靠准确率训练无法解决这一问题。

1 篇报道1 个来源

报道 1

Rohan Paul (@rohanpaul_ai)

微软研究提出自我争辩训练,减少模型受错误质疑后改掉正确答案

微软一篇新论文发现,模型面对错误反驳时常会放弃原本正确的答案,单靠提高准确率的训练无法解决。研究提出让模型先回答、再自行提出反对理由并裁定;在错误质疑测试中,Qwen3-8B 和 Gemma-2 9B 保持正确答案的比例从 53.3% 和 25.1% 升至约 89%。

来源Rohan Paul (@rohanpaul_ai) ↗