深度伪造滥用应用网络

【背景】一项由《连线》（WIRED）主导的调查揭露了一个由400余款AI应用和域名组成的隐蔽网络，这些应用伪装成宠物肖像生成器或健身教练等日常工具，实则通过“诱饵替换”技术绕过美国苹果公司（Apple）和美国谷歌公司（Google）的应用商店审核，向用户秘密提供生成性暴力及儿童色情内容的深度伪造功能。

该网络被指与中国开发者及一家名为KeLing Technology Limited的香港注册实体有关。研究人员发现，这些应用在下载后会根据服务器指令动态切换界面：若用户来自特定广告链接，应用将加载包含“卧室强奸”、“持刀威胁”等场景的非法内容生成器。尽管苹果、谷歌和Meta均声称执行禁止有害深度伪造的政策，但该网络仍通过数千条在Facebook和Instagram上投放的显式广告进行推广，部分应用甚至被标记为“适合所有年龄段”。

争议焦点在于平台审核机制的有效性。苹果方面回应称，这些应用在提交审核时符合规则，是开发者在获批后更改了后端网站内容以展示色情材料；而安全研究员指出，这是一种有组织的商业运营，利用远程配置规避检测。截至发稿，KeLing Technology未对置评请求作出回应，但在被联系后似乎清除了其与相关工具的公开关联。

【存疑】虽然苹果已下架19款应用，Meta也处理了逾万个关联广告账户，但鉴于该网络曾每周注册约30个新域名，且部分应用累计下载量超35万次，其是否彻底瓦解尚无定论。读者需关注后续监管机构的正式调查结果及平台方是否引入更严格的运行时行为监控。