aifollow.news
Back IT之家 科技新闻
IT之家 科技新闻· · Original publication time SelectedAI score60

Apple removes 19 apps linked to deepfakes; Google and Meta take actionMachine translation

苹果下架19款涉深度伪造应用,谷歌和Meta也采取清理措施

AI-assisted summary

A network spanning more than 400 related domains and apps concealed sexual-violence deepfake features behind services such as pet portraits and language learning. Apple removed 19 apps, Google had previously removed most of the related apps, and Meta said it had acted against 11,600 related ad accounts and barred 209 apps from advertising on its platforms.

Article · Original

The article text is unavailable in this language; an existing version is shown.

IT之家 11 月 3 日消息,据《连线》11 月 2 日报道,一个涉及 400 多个关联域名和应用的网络,以宠物写真、语言学习、AI 健身教练等日常服务为掩护,暗中提供性暴力深度伪造功能。苹果收到线索后已立即下架了 19 款 App。

研究人员发现,这些应用会根据用户来源、语言等信息,由服务器决定展示普通功能还是隐藏界面。苹果称,相关应用通过审核后,开发者更换了应用调用的网页内容,实施“审核后换壳”。

IT之家援引博文介绍,这一网络通过 Facebook 和 Instagram 广告导流,再借助苹果、谷歌应用商店分发。研究显示,今年 9 月仍有 27 款相关应用在 Google Play 上架,累计下载超过 35 万次,其中多款被标为适合所有年龄段。部分推广广告还包含 AI 生成的儿童性虐待内容。

平台已采取清理措施。苹果在接获《连线》问询后下架 19 款应用;谷歌此前已移除大部分涉事应用,但未回应置评请求。Meta 称,已对 1.16 万个相关广告账户采取措施,并禁止 209 款应用在旗下平台投放广告。

Found an error? Send a correction