aifollow.news
返回 IT之家 科技新闻
IT之家 科技新闻· · 原发布时间 精选AI 评分60

苹果下架19款涉深度伪造应用,谷歌和Meta也采取清理措施

AI 辅助摘要

一个涉及400多个关联域名和应用的网络,以宠物写真、语言学习等服务掩护性暴力深度伪造功能。苹果下架19款涉事应用;谷歌此前移除大部分相关应用;Meta称已处理1.16万个相关广告账户,并禁止209款应用投放广告。

推荐理由

日常服务外观掩盖了涉深度伪造功能;苹果、谷歌和Meta已分别处理应用分发或广告推广环节。

正文 · 原文

IT之家 11 月 3 日消息,据《连线》11 月 2 日报道,一个涉及 400 多个关联域名和应用的网络,以宠物写真、语言学习、AI 健身教练等日常服务为掩护,暗中提供性暴力深度伪造功能。苹果收到线索后已立即下架了 19 款 App。

研究人员发现,这些应用会根据用户来源、语言等信息,由服务器决定展示普通功能还是隐藏界面。苹果称,相关应用通过审核后,开发者更换了应用调用的网页内容,实施“审核后换壳”。

IT之家援引博文介绍,这一网络通过 Facebook 和 Instagram 广告导流,再借助苹果、谷歌应用商店分发。研究显示,今年 9 月仍有 27 款相关应用在 Google Play 上架,累计下载超过 35 万次,其中多款被标为适合所有年龄段。部分推广广告还包含 AI 生成的儿童性虐待内容。

平台已采取清理措施。苹果在接获《连线》问询后下架 19 款应用;谷歌此前已移除大部分涉事应用,但未回应置评请求。Meta 称,已对 1.16 万个相关广告账户采取措施,并禁止 209 款应用在旗下平台投放广告。

发现内容有误?提交纠错