Study finds averaging can mask inconsistencies in LLM moral judgmentsMachine translation

这篇论文发现，大语言模型的道德选择往往缺乏稳定的价值排序，而对其回答取平均值会制造出一种虚假的、类似人类的道德等级体系。

许多研究认为，大语言模型在道德测试中表现良好，因此具有合理的道德价值观。但给出好的答案并不能说明模型会权衡相互冲突的价值观。

研究人员向包括 GPT-5.2、Gemini 和 DeepSeek 在内的 5 个大语言模型提供成对的道德违规行为，并询问哪一种更严重。他们直接从模型的下一个词元输出中读取每个答案的概率，然后检验这些选择是否符合一致的排序。

颠倒 2 个选项的顺序后，30 个测试组中有 26 个的排序发生了变化。取平均值后，5 个模型中有 4 个呈现出清晰、几乎相同的排序，但这种排序与任何单独的测试集都不一致。

在信任模型的道德对齐评分之前，应检查它在单条提示和两种答案顺序下的选择是否保持一致的排序，且不要取平均值。