aifollow.news
Back Rohan Paul
Rohan Paul· @rohanpaul_ai · X· · Original publication time SelectedAI score67

University of Maryland paper says frontier models can identify anonymous authors from text aloneMachine translation

AI introduction

Researchers gave models a single text and a zero-shot prompt, without web search, tools or a candidate list, to test AI-text detection and author identification. The source reports that Claude Fable 5.2 identified the reviewers of 56% of 398 private peer reviews whose authors had not been made public, raising questions about anonymity in peer review and pseudonymous forums.

Original post · AI translation

@rohanpaul_ai
Translation · refer to the original

马里兰大学的一篇新论文发现,如今的前沿模型检测人工智能撰写的文字时,表现与 Pangram 等经过训练的检测器一样好,还能解释其判断依据。

仅凭一段文本,就能说出其作者是哪个人工智能实验室或具体哪位个人。

匿名同行评审和化名账号都建立在一个假设之上:单凭文字不会暴露你的身份。人们也曾认为,识别人工智能生成的文本需要经过训练的检测器,不能只靠普通提示词。

作者给模型提供单篇文本和零样本提示词,不使用网页搜索、工具或候选名单。他们测试了模型能否判断文本由人工智能还是人类撰写、由哪个实验室的模型撰写,以及由哪位个人撰写。

Claude Fable 5.2 识别出了 398 份作者身份从未公开的私人同行评审中 56% 的评审人。对于一年内发帖超过 500 次的 Reddit 用户所写的评论,它识别出了其中 69% 的评论背后的账号。

如果你的产品依赖匿名写作,例如盲审或化名论坛,就应将作者匿名性视为薄弱环节,并用前沿模型测试它。

Source: Rohan Paul · x.com

Research
Found an error? Send a correction