AI生成儿童性虐待材料 新泽西州副检察长被捕
据Ars Technica报道，新泽西州一名副检察长因涉嫌使用生成式AI制作儿童性虐待材料（CSAM）被捕，案件起因是Discord用户对账号"thegentlemanpervert"的举报。这起执法者沦为被执法者的案件，再度暴露AI合成色
深度伪造 相关资讯
谷歌上线SynthID官网：一键识别AI生成内容
谷歌正式推出SynthID官方网站，用户可直接上传图片、视频或音频，验证其是否由AI生成。这标志着这项由DeepMind研发的数字水印技术，首次从幕后走向大众。在深度伪造泛滥、内容真伪难辨的当下，科技巨头正试图用“标注源头”替代“事后鉴伪”
祖父被AI假声音骗走钱财，她创办公司做手机端实时鉴伪
一场针对家人的深度伪造语音诈骗，把一位年轻创业者推上了创业之路。TechCrunch报道，Tarini Padmanabhuni在祖父被冒充其弟弟的AI合成声音骗走钱财后，创立了旧金山初创公司DetectifAI，致力于训练小到能直接跑在手
AI安全讨论越来越离谱：真假难辨的时代
本周，两段围绕AI安全的对话在社交平台病毒式传播，却几乎无人能确认其真实性。TechCrunch指出，当AI既能生成逼真文本、又能模仿人类语气与立场时，关于AI安全的公共讨论本身正成为最易被污染的信息战场。事实与虚构的边界模糊，正在制造一场
纽约查封12家名人深度伪造网站
曼哈顿地区检察官办公室对12家深度伪造网站采取查封行动，约1200名受害者被卷入其中，这是迄今针对有害深度伪造平台规模最大的一次法律行动。本文梳理此次执法行动的背景、深度伪造黑产的运作逻辑，以及监管与技术之间仍在拉大的差距。
欧洲百名政客遭色情深伪围猎，绝大多数为女性
一项针对160个深度伪造网站的分析显示，来自22个欧洲国家的100多名政客成为色情深度伪造的受害者，其中绝大多数为女性。这类网站正以工业化方式批量生产针对女性公众人物的虚假色情内容，而现有法律几乎无力追责，受害者维权步履维艰。
Meta被曝纵容AI脱衣广告：未成年女孩照片成目标
据Ars Technica报道，Meta旗下平台长期存在利用AI技术"脱衣"年轻女孩照片的恶意广告，而Meta对此反应迟缓。这些广告利用所谓的"nudify"应用，将Instagram上未成年女孩的普通照片转化为合成裸体图像。调查发现，Me
Pangram CEO：AI检测比“真假”难在哪里？
互联网正被AI生成内容淹没，求职简历、商品评论和保险理赔中也开始出现AI合成的文本与图像。Pangram联合创始人Max Spero认为，AI检测的真正难点在于内容并非简单的“真/假”二分类，而是一段人机协作的连续光谱；同时，生成模型与对抗
她们一生奉献教育，直到深伪视频找上门
深度伪造技术正在入侵校园，而受害者远不止学生。四名女教师向WIRED讲述了她们如何成为色情化AI生成内容的攻击目标，以及追究责任之路何其艰难。从发现视频到报案无门，从心理创伤到法律空白，这场数字暴力揭示了技术滥用下女性的脆弱处境，也向全社会
Meta投放广告推广伪造女性政客裸照应用
据Ars Technica报道，Meta在其平台上投放了宣传一款“脱衣”应用的广告，该应用承诺可将女性政客照片制作成裸体图像，其中一则广告甚至展示了与一位美国政客高度相似的深度伪造色情视频。此事引发对Meta广告审核机制及深度伪造技术滥用的
女子指控继父用Grok将童年照转为色情图
一名女性在诉讼中指控其继父使用xAI的Grok将童年照片转化为露骨色情图像，并痛斥AI工具“把日常生活变成儿童性虐待”。本文编译自TechCrunch，剖析AI生成内容被滥用的风险、行业责任与监管挑战。
AI垃圾内容引发反噬，平台终于开始整顿
从社交平台到新闻网站，低质量AI生成内容正在泛滥，用户已经厌倦了这些“AI垃圾”。现在，平台终于开始采取行动：越来越多的网站和应用推出标记、标注和封禁AI生成内容的工具与政策。这一转变不仅是对用户反弹的回应，也可能重新定义数字内容生态的规则
法官驳回xAI请求，明州“AI脱衣”应用禁令持续推进
美国明尼苏达州一项针对“nudify”应用的禁令在经历xAI的法律挑战后得以继续推进。联邦法官驳回了xAI申请暂停禁令的请求，意味着该州可执行法律，防止用户利用AI工具制作非自愿的裸体图像。这一裁决被视为对AI伦理监管的重要支持，同时也引发
谷歌地球AI功能上线一天即遭下架：伪造图像引发误导担忧
谷歌于8月1日紧急撤下其Google Earth平台上新推出的AI图像生成功能。该功能允许用户将任意AI生成的虚假图像直接叠加到真实卫星地图上，上线后迅速引发强烈反弹，外界担忧其可能成为传播地理虚假信息的工具。谷歌在争议声中火速叫停，但事件
马斯克xAI起诉明州：Grok脱衣禁令违宪？
Elon Musk的xAI公司正通过诉讼反击明尼苏达州一项禁止AI“脱衣”应用的法律，称其违宪且针对Grok模型。该法旨在遏制利用AI生成裸照的深度伪造行为，但马斯克认为禁令过于宽泛，侵犯了言论自由。本文深度剖析这场法律博弈背后的AI伦理与
谷歌SynthID水印难破解，但AI假信息难题未解
谷歌近期推出SynthID水印工具，宣称可对AI生成图像添加不可见标记，且难以被去除或篡改。该技术旨在帮助用户识别深度伪造内容，但专家指出，单纯靠水印无法根治AI虚假信息问题。在2026年的今天，AI生成内容已无处不在，水印只是应对这场信息
Hugging Face 被曝大量深度伪造裸照，平台监管陷困境
研究人员在 Hugging Face 平台上测试主流图像编辑模型，发现可轻易生成逼真的深度伪造裸照。通过对 1000 个图像编辑提示的分析，揭示了用户如何利用这些工具进行不当创作。这一现象凸显了开源 AI 平台在内容安全与伦理治理方面的重大
YouTube与X：通往Deepfake裸照App的‘后门’
最新研究显示，YouTube和X（原Twitter）正成为非自愿色情深度伪造应用的‘网关’。用户仅需花费1美元，便可利用这些平台提供的链接生成任意女性的裸露图像。研究发现，这些平台通过搜索推荐、评论区链接等方式，将用户引向约30个Nudif
谷歌深度伪造检测系统揭穿麦康奈尔病床假照
本周，一张显示美国参议员米奇·麦康奈尔在病床上插满管子、痛苦不堪的照片在社交媒体上疯传。经谷歌深度伪造检测系统分析，证实该照片为AI生成。该事件再次引发公众对深度伪造技术的担忧，也展示了科技公司在打击虚假信息方面的最新进展。
Savi App用AI反制AI诈骗，防止绑架勒索骗局
针对日益猖獗的AI深度伪造诈骗，初创公司Savi推出了一款专用App，可实时检测来电中的AI合成声音，防止不法分子利用语音克隆技术冒充亲人索要赎金。该公司刚获得700万美元种子轮融资，App于本周二在iOS和Android平台同步上线。