Meta投放广告推广伪造女性政客裸照应用

近日，Meta再次因AI深度伪造内容的监管漏洞而陷入舆论风波。据Ars Technica报道，Meta旗下平台被曝投放了宣传一款“脱衣”应用的广告，该应用的核心功能是利用人工智能技术，将普通照片中的女性人物“脱去衣物”，尤其针对女性政客生成伪造裸体图像。更令人震惊的是，其中一则广告还附带了一段深度伪造色情视频，视频中的人物与一位美国政客高度相似。

事件始末：广告如何绕过审核

报道指出，这些广告在Meta旗下多个平台运营，投放目标显然指向对这类“伪造工具”感兴趣的潜在用户。广告文案通常会淡化其敏感性质，使用“一键去衣”“AI修图”等含糊术语，而实际生成的图像却极为露骨。部分广告甚至嵌入视频内容，通过动态画面吸引点击。这些广告的出现意味着，Meta已有的广告审核系统未能有效识别和拦截基于深度伪造的违规内容。

值得注意的是，Meta并非没有相关规则。该公司的政策明确禁止“未经同意的合成色情内容”和非自愿深度伪造，但显然，规则的执行在广告投放环节出现了漏洞。研究者普遍认为，广告审核工具更擅长识别明文含敏感词的文本，却难以对图像和视频中的语义内容进行充分判断。

深度伪造滥用：女性政客成为重灾区

这类应用的出现，并非孤立的灰色产业。近年来，随着生成式AI技术的普及，非自愿深度伪造内容呈爆发式增长。多个国际研究机构的数据显示，在网络流传的深度伪造视频中，超过九成涉及女性，且大部分属于色情内容。而女性政客、记者和公众人物，由于图像资料更为公开，往往成为攻击和骚扰的目标。

“这不仅仅是隐私问题，更是一种数字暴力。它被用来羞辱女性、破坏她们的公信力，甚至迫使她们退出公共领域。”——某研究非自愿深度伪造问题的学者表示。

事实上，通过“脱衣”应用生成的伪造裸照，已成为一种低成本的骚扰工具。用户只需一张社交媒体照片，便可制造看似真实的裸体图像。这类内容一旦传播，受害者往往难以完全删除，而澄清和维权过程则耗费极大心力。

平台责任与商业动机的冲突

Meta的广告业务是其核心收入来源，广告审核机制的松紧直接影响着平台的商业效率。然而，此次事件表明，当商业利益与内容安全发生冲突时，防线并非总是牢不可破。广告商购买流量，平台获得收入，而算法推送则可能进一步放大违规内容的覆盖范围。

近年来，欧美监管机构已加大对深度伪造内容的审查和立法力度。美国多个州通过法案，将制作和传播非自愿深度伪造列为刑事犯罪；欧盟《人工智能法案》也对生成式AI提出了透明度要求。但法律往往滞后于技术。就此次事件而言，广告审核的技术漏洞显然需要更系统的解决方案，例如对训练数据和投放模型进行专门优化，或建立更严格的广告主验证流程。

编者按：技术工具需要伦理底线

任何技术都有两面性。曾经的“照片修改”在今天演变为几乎无法分辨的深度伪造。平台作为内容分发的重要节点，不能以“技术中立”为由回避责任。Meta应尽快补上广告审核的漏洞，并对相关应用采取果断措施。与此同时，用户也需培养对“眼见不一定为实”的警惕，而社会更应通过法律与教育，为AI伦理划下清晰底线。

目前，Meta尚未就此事作出公开回应，但可以预见的是，随着舆论发酵，这不会是一次简单的内部整改。在AI技术加速奔跑的今天，守护个体的数字尊严，不应成为牺牲品。

本文编译自Ars Technica