Original post · AI translation
马里兰大学的一篇新论文发现,如今的前沿模型检测人工智能撰写的文字时,表现与 Pangram 等经过训练的检测器一样好,还能解释其判断依据。
仅凭一段文本,就能说出其作者是哪个人工智能实验室或具体哪位个人。
匿名同行评审和化名账号都建立在一个假设之上:单凭文字不会暴露你的身份。人们也曾认为,识别人工智能生成的文本需要经过训练的检测器,不能只靠普通提示词。
作者给模型提供单篇文本和零样本提示词,不使用网页搜索、工具或候选名单。他们测试了模型能否判断文本由人工智能还是人类撰写、由哪个实验室的模型撰写,以及由哪位个人撰写。
Claude Fable 5.2 识别出了 398 份作者身份从未公开的私人同行评审中 56% 的评审人。对于一年内发帖超过 500 次的 Reddit 用户所写的评论,它识别出了其中 69% 的评论背后的账号。
如果你的产品依赖匿名写作,例如盲审或化名论坛,就应将作者匿名性视为薄弱环节,并用前沿模型测试它。