aifollow.news
Back IT之家 科技新闻
IT之家 科技新闻· · Original publication time AI score40

Huazhong University of Science and Technology and Alibaba establish AI security research center with nine initial projectsMachine translation

华中科技大学与阿里巴巴共建 AI 安全研究中心,启动 9 个课题

AI-assisted summary

Huazhong University of Science and Technology and Alibaba Group signed an agreement to establish a joint research center for intelligent attack and defense and frontier security. Its nine initial projects span four areas, including large model security and agent and device security. Two projects will explore detecting forged screens during mobile agent operations and protecting privacy in cross-app data sharing through secure computation.

Article · Original

IT之家 11 月 21 日消息,华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。

IT之家获悉,联合研究中心首批启动的 9 个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,以下为官方公开的案例:

当 AI 智能体开始替用户操作手机、完成复杂任务时,屏幕画面可能被伪造,操作过程也可能受到恶意诱导。对此,联合研究中心设立“图像对抗样本与终端威胁研判”课题,探索相关安全风险的识别与防护技术。

当用户在购物、地图、外卖等应用之间切换时,既希望享受数据互通带来的便捷,又担心个人信息在协同过程中泄露。针对这一问题,“隐私保护关系图谱”课题将探索通过密态计算等技术,实现数据“可用不可见、协同不透传”,让便利与隐私保护不再成为单选题。

Found an error? Send a correction