事件 · 发布
微软
New Microsoft paper finds that LLMs give up correct answers when challenged with wrong arguments, and accuracy training
微软发布了一篇论文,指出大型语言模型在面对错误论点的质疑时可能放弃正确答案,而仅靠准确率训练无法解决这一问题。
1 篇报道1 个来源
报道 1
Rohan Paul (@rohanpaul_ai)
微软研究提出自我争辩训练,减少模型受错误质疑后改掉正确答案
微软一篇新论文发现,模型面对错误反驳时常会放弃原本正确的答案,单靠提高准确率的训练无法解决。研究提出让模型先回答、再自行提出反对理由并裁定;在错误质疑测试中,Qwen3-8B 和 Gemma-2 9B 保持正确答案的比例从 53.3% 和 25.1% 升至约 89%。