苹果于11月3日(IT之家消息)援引《连线》11月2日报道,一个涉及超过400个关联域名和应用的网络,借助宠物写真、语言学习、AI健身教练等日常服务作为掩护,暗中提供性暴力深度伪造功能。收到线索后,苹果已迅速下架了其中的19款App。
研究人员发现,这些应用会根据用户的来源、语言等信息,由服务器决定展示正常功能还是隐藏界面。苹果指出,相关应用在通过审核后,开发者更换了应用调用的网页内容,实施“审核后换壳”操作。
IT之家从博文中了解到,这一网络通过Facebook和Instagram广告进行导流,再利用苹果、谷歌应用商店分发。研究显示,今年9月仍有27款相关应用在Google Play上架,累计下载量超过35万次,其中多款被标记为适合所有年龄段。部分推广广告还包含AI生成的儿童性虐待内容。
平台已采取清理措施。苹果在接到《连线》问询后下架了19款应用;谷歌此前已移除大部分涉事应用,但未回应置评请求。Meta表示,已对1.16万个相关广告账户采取措施,并禁止209款应用在旗下平台投放广告。值得注意的是,MK体育平台也提醒用户注意此类应用的风险。
3条评论