研究曝OpenAI与谷歌新模型可被轻易诱导生成裸露图像
Ars Technica报道，一项最新研究显示，OpenAI与谷歌力推的新一代AI图像生成模型，其安全防护可被研究人员轻易绕过，从而生成裸露或色情内容。该攻击手法直接暴露了两家公司在内容审核与安全对齐上的薄弱环节，也再度引发外界对AI巨头安
内容审核 相关资讯
Meta上线AI新工具，打击导流儿童性剥削内容的广告
Meta宣布在广告系统中部署新的AI检测工具，用于识别那些外表正常、点击后却把用户导向站外儿童性虐待材料（CSAM）的导流广告。此举把广告审核的重心从素材本身扩展到跳转链路与投放行为，也折射出全球监管压力下平台未成年人保护的现实困境。
美国政府AI被问《我的世界》为何答非所问
美国政府的官方AI助手America.gov在被问及《我的世界》等娱乐话题时，会给出答非所问的奇怪回应。TechCrunch确认，这并非模型幻觉或故障，而是刻意的护栏机制。这一插曲揭示了政府AI与商业AI的目标分歧：前者追求零错误与口径可控
旧金山责令Meta停止纵容AI儿童虐待广告
旧金山市检察官办公室向Meta发出正式函件，要求其解释为何Facebook和Instagram上反复出现由AI生成的儿童性虐待广告，并责令立即停止“允许”此类内容传播。Meta辩称这些广告不在该市管辖范围内。此次事件再度引发外界对AI生成非
AI检测新标杆Pangram崛起，它真的值得信赖吗？
一家名为Pangram的AI检测公司正悄然成为出版界乃至更多领域的“AI警察”，其判断能左右作者职业生涯。然而，这项技术的准确性、透明度及其背后的伦理问题，正引发激烈争议。本文编译自WIRED，深入剖析这一检测工具的崛起与隐忧。
Anthropic Opus 4.6成“色情内容生成器”，安全限制轻松绕过
TechCrunch测试发现，Anthropic旗舰模型Claude Opus 4.6虽明文禁止生成露骨色情内容，但通过简单的角色扮演或文学创作提示，即可绕过安全限制获得露骨描写。该模型因此被戏称为“色情内容生成器”。事件再次凸显大模型内容
“审查产业综合体”如何影响美国政策？
“审查产业综合体”这一概念认为，政府、科技公司和研究机构正联手压制保守派网络言论。这一说法曾在右翼信息圈流传多年，如今已逐渐渗透进美国政策制定。本文将追溯其起源、发展历程，并分析其对科技监管与言论自由的影响。
35位全球顶尖青年创新者与‘审查-工业复合体’
本期《The Download》聚焦两大议题：一是MIT Technology Review如何从全球选出35位35岁以下的顶尖创新者，二是数字时代日益壮大的“审查-工业复合体”。文章剖析了创新背后的艰难选择，以及内容审核产业对言论自由的深
AI科研需推理而非数据，审查产业引担忧
前谷歌CEO埃里克·施密特和施密特科学家负责人苏哈斯·马赫什表示，AI要真正推动科学，必须超越海量数据，掌握推理与假设生成能力。与此同时，本期《The Download》还聚焦“审查-工业综合体”现象，分析AI内容审核产业背后的利益与风险。
AI垃圾内容引发反噬，平台终于开始整顿
从社交平台到新闻网站，低质量AI生成内容正在泛滥，用户已经厌倦了这些“AI垃圾”。现在，平台终于开始采取行动：越来越多的网站和应用推出标记、标注和封禁AI生成内容的工具与政策。这一转变不仅是对用户反弹的回应，也可能重新定义数字内容生态的规则
AI不足以保护社交社区免受AI侵害，人类审核不可或缺
随着生成式AI在社交平台上的滥用日益严重，各大公司纷纷推出AI审核工具。然而，Ars Technica的报道指出，AI本身无法有效识别AI生成的违规内容，反而可能误伤正常用户。事实表明，在AI时代，人类审核员的价值不仅没有降低，反而变得更加
Meta广告现AI生成儿童性虐待图像，超50条已投放
据WIRED报道，Meta广告库数据显示，超过50个包含AI生成儿童性虐待图像的广告曾在Facebook、Instagram、Messenger或Threads上投放，部分直至本周仍在运行。这一事件不仅暴露了Meta内容审核机制的严重漏洞，
领英新增一键举报AI生成的“垃圾内容”
领英宣布推出新措施限制低质量AI生成帖子的泛滥，包括新增“像AI垃圾内容”举报按钮，并以AI校对工具取代原有的AI写作功能。此举反映了职场社交平台对内容质量的担忧，也标志着行业从“AI生成”到“AI辅助”的转变。
Substack新工具揭底：你的订阅有多少是AI写的？
Substack推出了一款创新工具，允许读者估算新闻通讯中由AI生成内容的比例。此举标志着内容平台在AI辅助写作透明度上迈出了关键一步，反映了行业对AI伦理和读者知情权的日益重视。该工具通过分析文本模式、写作风格一致性等指标给出AI评分，但
YouTube更新政策：严管AI垃圾与低质视频
YouTube近日更新其广告变现政策，更明确地界定了哪些AI生成和低质量视频无法获得广告收入。新规旨在打击利用AI批量生成的低劣内容（即“AI垃圾”），以及可能误导或令观众不适的“令人不安”视频。此举是平台应对AI内容泛滥、维护创作者生态和
环球音乐与TikTok续约共抗AI侵权音乐
环球音乐集团（UMG）与TikTok宣布续签协议，共同打击未经授权的AI生成音乐。多年来，UMG一直推动各平台、流媒体服务和AI公司实施更严格的内容审核政策，此次续约标志着版权方与科技平台在AI音乐治理上迈出关键一步。
中国短剧变身AI内容工厂，WHO健康目标堪忧
中国短剧行业正被AI彻底改造：从剧本、演员到后期制作，越来越多短剧完全由AI生成，成为新型内容“工厂”。与此同时，世界卫生组织（WHO）最新报告显示，多项关键健康目标（如全民健康覆盖、非传染性疾病防控）进展缓慢，部分指标甚至倒退。本文编译自
谁定AI告诉你的内容？前Meta新闻主管有话说
Campbell Brown，曾担任Meta的新闻合作主管，如今将目光投向了AI内容决策领域。她认为硅谷与消费者之间的对话存在巨大鸿沟——科技公司专注于技术优化，而普通用户更关心信息真实性、偏见与透明度。随着生成式AI普及，谁来决定AI输出
Meta解雇报告用户性行为的肯尼亚承包商
Meta公司解雇了一批肯尼亚承包商，这些承包商负责审核Ray-Ban Meta智能眼镜用户上传的内容，并报告了用户使用该设备进行性行为等不当行为。Meta声称这些工人未达到其标准，但此举引发了对AI内容审核员工作条件和伦理问题的广泛讨论。
泄露'SteamGPT'文件：PC游戏平台AI应用的潜在变革
近日，一份名为'SteamGPT'的文件泄露，引发了业界对Valve旗下Steam平台引入AI工具的热议。这份文件暗示，AI可能被用于辅助版主处理海量可疑事件，提升平台的安全性和效率。Steam作为全球最大的PC游戏平台，每天面临无数用户报