Tiktok 论文发现：MCP 工具描述可诱使 AI 助手完成任务后泄露对话

研究人员将诱导指令藏进 MCP 工具描述，让 AI 助手在完成正常请求后调用攻击者控制的日志工具，记录用户提问、服务器回复和最终答案。在可运行工具的 18 组模型与服务器组合中，论文报告的攻击成功率为 62.64%—100%。

1 次进展2 篇报道1 个来源

事件进展 1

2026-10-29 07:22 · 原文发布时间 · UTC+8

查看来源报道 · 1 个来源 · 2 篇报道

全部报道 2

07:22

Rohan Paul (@rohanpaul_ai) 同事件

研究者把诱导指令写入 MCP 工具的描述，使 AI 助手在完成原任务后调用攻击者控制的 save_logs 工具，提交用户提问、服务器回复和最终答案。在能够调用工具的 18 组模型与服务器组合中，材料报告攻击成功率为 62.64%—100%，条件记录准确率为 76.55%—95.64%。

另外 1 家也报道了

推荐理由：这项研究指出，工具描述本身可能成为泄露用户提问和回复的入口，并给出了跨 18 组模型与服务器组合的测试结果。

07:22

Rohan Paul (@rohanpaul_ai) 精选

另外 1 家也报道了

推荐理由：这项研究展示了一种隐蔽风险：AI 助手即使完成用户请求，也可能随后调用攻击者的工具并记录对话内容。