原帖引用 · AI 翻译
Rohan Paul@rohanpaul_ai
Meta 的一篇新论文表明,将 2 个密钥融合成 1 个,能让 AI 生成文本中的隐形水印更容易被检测出来,即使 AI 使用推测解码等常见技巧来加快生成速度也是如此。
水印通过大语言模型采样词元的选择,将密钥信号隐藏在文本中,以便检测器日后标记该文本。Meta 早期的 TextSeal 会为每个词元随机选用 2 个密钥中的 1 个,因此检测时必须对两个密钥的结果取平均,导致信号减弱。
TextSeal2 将两个密钥融合成 1 个虚拟密钥,并加入新的噪声,使回答保持多样性,同时让每个词元都携带完整信号。对于推测解码,它从草稿随机竞赛剩余的候选词元中选取替代词元,因此接受率保持不变。
在使用推测解码且多样性相同的 Qwen3.5-9B 上,当误报率为 0.1% 时,它检测出了 89% 的 200 词元回答。TextSeal 检测出了 71%,textGrain 检测出了 67%,接受率相同。
· UTC+8