Hugging Face 被曝大量深度伪造裸照，平台监管陷困境

近日，WIRED 发布调查报告指出，全球知名的开源 AI 平台 Hugging Face 正面临一个棘手问题：其平台上托管的多个图像编辑模型被广泛用于制作深度伪造裸照。研究人员通过分析 1000 个图像编辑提示词发现，用户能够轻松绕过安全措施，生成高度逼真的非自愿色情内容（non-consensual deepfake nudes）。

技术漏洞与用户行为

研究团队选取了 Hugging Face 上最受欢迎的几款图像编辑模型（如 Stable Diffusion 的微调版本、Latent Consistency Model 等）进行测试。结果显示，这些模型在默认设置下并未充分过滤性暗示或成人内容相关的提示词。即使部分模型内置了简单的安全过滤器，用户也可以通过替换关键词（如将“naked”改为“undressed with realistic skin tone”）或使用负面提示词技巧来规避审查。

“我们只需要输入‘一个穿着泳装的女性，移除衣物并展示裸体’，不到 10 秒就能生成一张几乎无法分辨的裸照。” —— 某匿名研究员

在对 1000 个公开可查的图像编辑提示词进行语义分析后，研究人员发现约 12% 的提示词直接涉及制造非自愿色情内容，另有 23% 虽未明示但暗示性场景。这些提示词大部分来自匿名用户，且发布时间集中在最近 6 个月内。

平台责任与伦理困境

Hugging Face 作为全球最大的开源模型托管社区之一，一直标榜“民主化 AI”的愿景。然而，深度伪造裸照的泛滥让这一理想蒙上阴影。相比闭源平台（如 DALL·E 或 Midjourney）可以强制用户登录并实施严格内容审核，Hugging Face 的开放性使其难以完全管控用户行为。平台虽然允许第三方模型上传，但也意味着它对这些模型的实际用途缺乏直接控制。

Hugging Face 发言人在回应 WIRED 时表示：“我们已删除违规模型和数据集，并加强 AI 审核流程。但我们无法保证每个上传的模型都经过充分的安全审查。” 这种“先上传后审核”的机制在快速迭代的 AI 领域显得捉襟见肘。

编者按：开源AI的潘多拉魔盒

这一事件再次提醒我们：技术在创造价值的同时，也可能被滥用于侵犯他人隐私与尊严。深度伪造裸照不仅仅是道德问题，更涉及法律红线——多国已立法禁止未经同意的深度伪造色情内容。对于像 Hugging Face 这样的平台，单纯依靠技术过滤（如关键词屏蔽、图像哈希比对）远远不够，需要建立更完善的上传者责任制度、用户举报通道以及与执法机构的协作机制。

从更宏观角度看，图像编辑模型的可及性正在挑战“知情同意”这一社会契约。当任何拥有电脑的人都能在几分钟内创造伪造裸照，受害者不仅面临名誉损害，还可能遭受网络暴力、勒索甚至心理创伤。AI 社区必须正视这一现实，将安全设计（Safety by Design）融入模型预训练阶段，而非事后补救。

最后，用户教育同样不可或缺。平台应在显眼位置提示用户生成深度伪造内容的违法性与伦理危害，并鼓励举报。开源不应成为无底线的借口。

本文编译自WIRED