aifollow.news
返回 IT之家 科技新闻
IT之家 科技新闻· · 原发布时间 AI 评分40

华中科技大学与阿里巴巴共建 AI 安全研究中心,启动 9 个课题

AI 辅助摘要

华中科技大学与阿里巴巴集团签署合作协议,共建智能攻防与前沿安全联合研究中心。首批 9 个课题涵盖大模型安全攻防、智能体与终端安全等四个方向,其中两项将分别探索识别手机智能体操作中的画面伪造风险,以及通过密态计算保护跨应用数据协同中的隐私。

正文 · 原文

IT之家 11 月 21 日消息,华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。

IT之家获悉,联合研究中心首批启动的 9 个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,以下为官方公开的案例:

当 AI 智能体开始替用户操作手机、完成复杂任务时,屏幕画面可能被伪造,操作过程也可能受到恶意诱导。对此,联合研究中心设立“图像对抗样本与终端威胁研判”课题,探索相关安全风险的识别与防护技术。

当用户在购物、地图、外卖等应用之间切换时,既希望享受数据互通带来的便捷,又担心个人信息在协同过程中泄露。针对这一问题,“隐私保护关系图谱”课题将探索通过密态计算等技术,实现数据“可用不可见、协同不透传”,让便利与隐私保护不再成为单选题。

发现内容有误?提交纠错