Original post · AI translation
Rohan Paul@rohanpaul_ai
清华大学的一篇新论文发现，当人们要求具有长期记忆的 AI 智能体忘记某项个人信息时，这些助手几乎从未干净地将其删除：它们要么保留该信息，要么删除过多内容。
具有长期记忆的智能体会存储个人信息，用户也越来越多地要求它们删除家庭住址之类的信息。现有的记忆基准测试只检验事实的存储和回忆。
他们构建了 BEMULA，其中包含 50 段较长的合成对话和 135 次遗忘请求，每段对话都配有一个不含请求的副本。探测测试会检查相关事实是否已消失、其他记忆是否保留，以及攻击是否仍能提取该事实。
在 6 种记忆系统和 3 种基础模型的测试中，没有一种配置能端到端通过超过 1.5% 的遗忘请求。收到遗忘请求后，这些系统对角色扮演或是非猜测等简单提取提示的拦截率最高只有 35.7%。
如果你的智能体会记住用户信息，就要建立并测试真正的删除流程，因为确认消息并不意味着数据已经消失。
· UTC+8