Grok仍托管女性名人色情深度伪造内容

2026年6月12日，《连线》杂志发布的一项最新调查揭露了一个令人不安的事实：由埃隆·马斯克创立的xAI公司旗下AI聊天机器人平台Grok，仍在持续托管大量针对知名女性的色情深度伪造内容。这些包括“裸体化”照片和视频在内的非自愿色情内容，不仅涉及众多好莱坞女星，甚至还包含至少一位美国著名政治家。

调查发现：数十条深度伪造内容公然存在

调查人员在对Grok官网进行全面扫描时，发现了数十条经过AI“脱衣”处理的名人深度伪造内容。这些内容通过生成式AI技术，将原本衣着得体的照片或视频替换为露骨的色情图像，所有素材均未经当事人同意。部分内容在Grok的公共浏览区域中可直接访问，无需任何特殊权限。

值得注意的是，这些被伪造的受害者中包括社会影响力巨大的娱乐圈名人以及一位身份敏感的政界女性。调查显示，Grok平台似乎并未对这类明显侵犯肖像权与隐私权的内容实施有效的事前过滤。尽管xAI在Grok的产品说明中声称“禁止生成非自愿色情内容”，但现实中的审核机制形同虚设。

“平台声称禁止非自愿色情内容，但实际审核形同虚设。”——《连线》调查团队

技术溯源：从AI对话到内容传播的漏洞链

Grok最初被定位为“具有叛逆精神”的AI聊天助手，但其背后的技术架构允许用户通过提示词生成并分享多媒体内容。调查人员发现，Grok的某些功能——如图像生成与社区分享——并未严格限制输出物中的人脸来源。这导致恶意用户可以利用公开人物的照片，通过第三方工具或平台内置的生成器创建深度伪造内容，再上传至Grok社区。

这一漏洞并非孤例。近年来，随着扩散模型（Diffusion Model）的开源浪潮，普通用户无需高超编程技能即可生成逼真的伪造图像。Telegram、Reddit等多个平台均曾因此受到批评，但像Grok这样由主要AI公司运营的平台仍出现此类问题，更具警示意义。

行业背景：深度伪造的法律与伦理困境

实际上，大多数发达国家已开始对未经同意的深度伪造色情内容采取法律行动。美国多个州通过了针对性立法，英国则在2024年将“分享深度伪造色情内容”列为刑事犯罪。然而，法律的滞后性使得很多案例需要受害者主动提告才可能推动删除。与此同时，内容平台的自律机制远远跟不上技术演进的速度。

埃隆·马斯克曾多次公开强调“绝对言论自由”，但Grok此次事件表明，自由与责任之间的边界在AI时代变得更加模糊。xAI公司尚未就此次调查发表正式回应，但外界普遍认为，如果连头部AI公司都无法阻止其平台沦为深度伪造色情内容的温床，整个行业将面临更大的监管压力。

编者按：技术的滥用从来不是新问题，但当AI工具的创造者开始回避基础的内容安全责任时，我们必须警惕：这是否预示着新一轮“技术逃避症”的蔓延？Grok事件再次提醒我们，AI公司不仅需要打造智能产品，更有义务构建负责任的内容生态。若放任不法内容滋生，最终受损的将是整个行业的公信力。

影响与展望：用户与平台的双重觉醒

此次调查在社交媒体上引发广泛讨论。维权组织呼吁xAI立即删除所有相关内容，并建立透明的内容审核流程。同时，用户也被呼吁提高对深度伪造的辨别能力，并主动举报可疑内容。技术本身无罪，但如何划定使用边界，将是每一个AI参与者必须回答的问题。

截至发稿时，Grok平台上的部分争议内容已被访问受限，但调查人员认为这只是临时措施。xAI能否真正做到技术向善，仍有待观察。

本文编译自WIRED