aifollow.news
返回 Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · 原发布时间 精选AI 评分67

马里兰大学论文称前沿模型可仅凭文字识别匿名作者

AI 导读

研究人员只给模型一段文字和零样本提示,不提供搜索工具或候选名单,测试其识别文字是否由 AI 撰写及追溯作者的能力。材料称,Claude Fable 5.2 在398篇作者未公开的私密同行评审中识别出56%的评审人;这一结果提示匿名评审和化名社区需要重新检验文字匿名性。

推荐理由

对匿名评审和化名社区的参与者有具体影响:研究报告称,模型在无外部工具和候选名单的条件下,仅凭文字识别出部分未公开身份的评审人。

原帖引用 · AI 翻译

@rohanpaul_ai
译文 · 以原文为准

马里兰大学的一篇新论文发现,如今的前沿模型检测人工智能撰写的文字时,表现与 Pangram 等经过训练的检测器一样好,还能解释其判断依据。

仅凭一段文本,就能说出其作者是哪个人工智能实验室或具体哪位个人。

匿名同行评审和化名账号都建立在一个假设之上:单凭文字不会暴露你的身份。人们也曾认为,识别人工智能生成的文本需要经过训练的检测器,不能只靠普通提示词。

作者给模型提供单篇文本和零样本提示词,不使用网页搜索、工具或候选名单。他们测试了模型能否判断文本由人工智能还是人类撰写、由哪个实验室的模型撰写,以及由哪位个人撰写。

Claude Fable 5.2 识别出了 398 份作者身份从未公开的私人同行评审中 56% 的评审人。对于一年内发帖超过 500 次的 Reddit 用户所写的评论,它识别出了其中 69% 的评论背后的账号。

如果你的产品依赖匿名写作,例如盲审或化名论坛,就应将作者匿名性视为薄弱环节,并用前沿模型测试它。

来源:Rohan Paul · x.com

论文
发现内容有误?提交纠错