近日，一项由非营利组织"美国儿童正义监督机构"（American Justice for Kids）开展的调查揭露了一个令人不安的现象：Meta旗下平台长期存在利用AI技术"脱衣"（nudify）未成年女孩照片的恶意广告，而Meta作为平台方对此反应迟缓，被批评为变相纵容。
AI"脱衣"应用广告泛滥
调查人员在Meta旗下Facebook和Instagram平台上发现了至少50条此类广告，这些广告推广所谓的"AI脱衣"应用，宣称可以将普通照片转化为合成裸体图像。更令人震惊的是，广告演示中使用的示例图片均来自真实IG用户的公开照片，其中包括未成年女孩的校园照、运动服照等日常生活照片。
"这恰恰是男性真正在使用的AI工具——用来对年轻女孩进行性剥削。Meta的广告系统不仅没有拦截这些内容，反而通过算法推荐将它们推送给了更多用户。"——American Justice for Kids调查员
Meta审核机制为何失效？
调查显示，这些广告在首次被举报后，Meta平均需要超过2周时间才能将其移除。部分广告甚至在反复举报后仍然持续展示。业内人士指出，Meta的AI审核系统主要依赖模式匹配来识别违规内容，但这些精心设计的广告往往通过变形文字、符号替换等方式规避过滤。
更深层的问题在于，Meta的社区准则虽然明确禁止"成人性暗示内容"和"霸凌骚扰"，但对于新兴的AI合成内容，特别是涉及深度伪造（Deepfake）技术的应用推广，其审核标准和流程显然尚未跟上技术发展的步伐。
日益泛滥的"Nudify"地下产业
近年来，随着开源图像生成模型的普及，创建"脱衣"应用的技术门槛大幅降低。安全研究机构Graphika的2024年报告显示，此类应用的月活跃用户总量已达到数百万人次。更令人担忧的是，这些应用大多以免费增值模式运营，用户只需上传目标照片，即可在数秒内生成合成裸体图像。
现有的法律框架尚不足以应对这一挑战。截至目前，美国仅有少数州出台了专门针对AI深度伪造色情内容的法律，而联邦层面的立法工作仍在推进中。Meta前政策总监Brian Fishman在社交媒体上评论称："科技公司不能简单地'移除'即可了事，它们需要从系统层面设计防止滥用机制，特别是在广告审核环节。"
受害者困境与Meta的"双重标准"
本次调查中，受影响的女孩及其家长表示，她们甚至在不知情的情况下成为了这些广告的"宣传素材"。一名受害女孩的母亲痛苦地表示："我女儿的照片被用来销售这种恶毒工具，我们却毫无办法。平台应该在第一时间就阻止这种情况。"
值得注意的是，Meta此前对AI内容并非完全没有监管措施——例如其已要求广告商披露使用AI生成的政客形象。然而，当涉及妇女儿童权益保护时，平台的回应速度和执行力却显著下降。前Meta信任与安全团队成员Sophie Zhang认为，这种差异并非无心之失，而是与广告营收驱动有关："这些违规广告带来了可观的点击量，在AI算法推荐的加持下，仅靠人工审核完全跟不上。"
行业反思：AI伦理不能仅靠"被动响应"
这一事件再次引发了业界关于AI科技伦理的广泛讨论。AI研究机构"算法公正联盟"指出，图像生成模型提供了前所未有的创作能力，但同时也在被系统性地武器化，用于性别暴力和性勒索。平台不应等问题扩大后再采取应对措施，而应在模型部署和广告入库前，就完成充分的风险评估。
截至发稿时，Meta发言人在一份书面声明中表示："此类内容显然违反了我们的政策，我们将继续加大力度，投入更多检测和审核资源来打击这些违规广告。"但批评人士指出，如果Meta只是重复过去那种"先出现，后删除"的应对模式，问题依旧无法得到根本解决。在一个AI技术日新月异的时代，科技巨头需要承担起与其市场地位相匹配的伦理责任。
本文编译自Ars Technica
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接