AI安全讨论越来越离谱：真假难辨的时代
本周，两段围绕AI安全的对话在社交平台病毒式传播，却几乎无人能确认其真实性。TechCrunch指出，当AI既能生成逼真文本、又能模仿人类语气与立场时，关于AI安全的公共讨论本身正成为最易被污染的信息战场。事实与虚构的边界模糊，正在制造一场
深度伪造 相关资讯
纽约查封12家名人深度伪造网站
曼哈顿地区检察官办公室对12家深度伪造网站采取查封行动，约1200名受害者被卷入其中，这是迄今针对有害深度伪造平台规模最大的一次法律行动。本文梳理此次执法行动的背景、深度伪造黑产的运作逻辑，以及监管与技术之间仍在拉大的差距。
欧洲百名政客遭色情深伪围猎，绝大多数为女性
一项针对160个深度伪造网站的分析显示，来自22个欧洲国家的100多名政客成为色情深度伪造的受害者，其中绝大多数为女性。这类网站正以工业化方式批量生产针对女性公众人物的虚假色情内容，而现有法律几乎无力追责，受害者维权步履维艰。
Meta被曝纵容AI脱衣广告：未成年女孩照片成目标
据Ars Technica报道，Meta旗下平台长期存在利用AI技术"脱衣"年轻女孩照片的恶意广告，而Meta对此反应迟缓。这些广告利用所谓的"nudify"应用，将Instagram上未成年女孩的普通照片转化为合成裸体图像。调查发现，Me
Pangram CEO：AI检测比“真假”难在哪里？
互联网正被AI生成内容淹没，求职简历、商品评论和保险理赔中也开始出现AI合成的文本与图像。Pangram联合创始人Max Spero认为，AI检测的真正难点在于内容并非简单的“真/假”二分类，而是一段人机协作的连续光谱；同时，生成模型与对抗
她们一生奉献教育，直到深伪视频找上门
深度伪造技术正在入侵校园，而受害者远不止学生。四名女教师向WIRED讲述了她们如何成为色情化AI生成内容的攻击目标，以及追究责任之路何其艰难。从发现视频到报案无门，从心理创伤到法律空白，这场数字暴力揭示了技术滥用下女性的脆弱处境，也向全社会
Meta投放广告推广伪造女性政客裸照应用
据Ars Technica报道，Meta在其平台上投放了宣传一款“脱衣”应用的广告，该应用承诺可将女性政客照片制作成裸体图像，其中一则广告甚至展示了与一位美国政客高度相似的深度伪造色情视频。此事引发对Meta广告审核机制及深度伪造技术滥用的
女子指控继父用Grok将童年照转为色情图
一名女性在诉讼中指控其继父使用xAI的Grok将童年照片转化为露骨色情图像，并痛斥AI工具“把日常生活变成儿童性虐待”。本文编译自TechCrunch，剖析AI生成内容被滥用的风险、行业责任与监管挑战。
AI垃圾内容引发反噬，平台终于开始整顿
从社交平台到新闻网站，低质量AI生成内容正在泛滥，用户已经厌倦了这些“AI垃圾”。现在，平台终于开始采取行动：越来越多的网站和应用推出标记、标注和封禁AI生成内容的工具与政策。这一转变不仅是对用户反弹的回应，也可能重新定义数字内容生态的规则
法官驳回xAI请求，明州“AI脱衣”应用禁令持续推进
美国明尼苏达州一项针对“nudify”应用的禁令在经历xAI的法律挑战后得以继续推进。联邦法官驳回了xAI申请暂停禁令的请求，意味着该州可执行法律，防止用户利用AI工具制作非自愿的裸体图像。这一裁决被视为对AI伦理监管的重要支持，同时也引发
谷歌地球AI功能上线一天即遭下架：伪造图像引发误导担忧
谷歌于8月1日紧急撤下其Google Earth平台上新推出的AI图像生成功能。该功能允许用户将任意AI生成的虚假图像直接叠加到真实卫星地图上，上线后迅速引发强烈反弹，外界担忧其可能成为传播地理虚假信息的工具。谷歌在争议声中火速叫停，但事件
马斯克xAI起诉明州：Grok脱衣禁令违宪？
Elon Musk的xAI公司正通过诉讼反击明尼苏达州一项禁止AI“脱衣”应用的法律，称其违宪且针对Grok模型。该法旨在遏制利用AI生成裸照的深度伪造行为，但马斯克认为禁令过于宽泛，侵犯了言论自由。本文深度剖析这场法律博弈背后的AI伦理与
谷歌SynthID水印难破解，但AI假信息难题未解
谷歌近期推出SynthID水印工具，宣称可对AI生成图像添加不可见标记，且难以被去除或篡改。该技术旨在帮助用户识别深度伪造内容，但专家指出，单纯靠水印无法根治AI虚假信息问题。在2026年的今天，AI生成内容已无处不在，水印只是应对这场信息
Hugging Face 被曝大量深度伪造裸照，平台监管陷困境
研究人员在 Hugging Face 平台上测试主流图像编辑模型，发现可轻易生成逼真的深度伪造裸照。通过对 1000 个图像编辑提示的分析，揭示了用户如何利用这些工具进行不当创作。这一现象凸显了开源 AI 平台在内容安全与伦理治理方面的重大
YouTube与X：通往Deepfake裸照App的‘后门’
最新研究显示，YouTube和X（原Twitter）正成为非自愿色情深度伪造应用的‘网关’。用户仅需花费1美元，便可利用这些平台提供的链接生成任意女性的裸露图像。研究发现，这些平台通过搜索推荐、评论区链接等方式，将用户引向约30个Nudif
谷歌深度伪造检测系统揭穿麦康奈尔病床假照
本周，一张显示美国参议员米奇·麦康奈尔在病床上插满管子、痛苦不堪的照片在社交媒体上疯传。经谷歌深度伪造检测系统分析，证实该照片为AI生成。该事件再次引发公众对深度伪造技术的担忧，也展示了科技公司在打击虚假信息方面的最新进展。
Savi App用AI反制AI诈骗，防止绑架勒索骗局
针对日益猖獗的AI深度伪造诈骗，初创公司Savi推出了一款专用App，可实时检测来电中的AI合成声音，防止不法分子利用语音克隆技术冒充亲人索要赎金。该公司刚获得700万美元种子轮融资，App于本周二在iOS和Android平台同步上线。
Scam.ai携手高通，在Computex 2026推出Halo深度伪造检测模型
Scam.ai宣布与高通合作，并在Computex 2026上推出Halo端侧深度伪造检测模型，专为桌面视频通话实时防伪设计。该模型利用高通AI引擎在设备本地运行，无需联网，能毫秒级识别AI换脸和语音合成，为视频通信安全树立新标杆。
Grok仍托管女性名人色情深度伪造内容
《连线》杂志调查发现，马斯克旗下AI公司xAI的Grok平台仍在托管大量“裸体化”深度伪造图片和视频，涉及多位知名女星及至少一位美国政界人士。这些未经同意的色情内容公然存在，引发对平台审核缺失与AI滥用风险的严重关切。
深度伪造裸照案：xAI要求法院揭露匿名起诉者真名
四名受害者因指控Elon Musk旗下的xAI公司通过Grok模型生成深度伪造裸照而匿名起诉，但xAI以“保护被告辩护权”为由，要求法院撤销受害者的匿名身份。若法院支持xAI，这些受害者将被迫在公开真名与放弃诉讼之间做出艰难抉择，引发AI法