旧金山责令Meta停止纵容AI儿童虐待广告
旧金山市检察官办公室向Meta发出正式函件，要求其解释为何Facebook和Instagram上反复出现由AI生成的儿童性虐待广告，并责令立即停止“允许”此类内容传播。Meta辩称这些广告不在该市管辖范围内。此次事件再度引发外界对AI生成非
内容审核 相关资讯
AI检测新标杆Pangram崛起，它真的值得信赖吗？
一家名为Pangram的AI检测公司正悄然成为出版界乃至更多领域的“AI警察”，其判断能左右作者职业生涯。然而，这项技术的准确性、透明度及其背后的伦理问题，正引发激烈争议。本文编译自WIRED，深入剖析这一检测工具的崛起与隐忧。
Anthropic Opus 4.6成“色情内容生成器”，安全限制轻松绕过
TechCrunch测试发现，Anthropic旗舰模型Claude Opus 4.6虽明文禁止生成露骨色情内容，但通过简单的角色扮演或文学创作提示，即可绕过安全限制获得露骨描写。该模型因此被戏称为“色情内容生成器”。事件再次凸显大模型内容
“审查产业综合体”如何影响美国政策？
“审查产业综合体”这一概念认为，政府、科技公司和研究机构正联手压制保守派网络言论。这一说法曾在右翼信息圈流传多年，如今已逐渐渗透进美国政策制定。本文将追溯其起源、发展历程，并分析其对科技监管与言论自由的影响。
35位全球顶尖青年创新者与‘审查-工业复合体’
本期《The Download》聚焦两大议题：一是MIT Technology Review如何从全球选出35位35岁以下的顶尖创新者，二是数字时代日益壮大的“审查-工业复合体”。文章剖析了创新背后的艰难选择，以及内容审核产业对言论自由的深
AI科研需推理而非数据，审查产业引担忧
前谷歌CEO埃里克·施密特和施密特科学家负责人苏哈斯·马赫什表示，AI要真正推动科学，必须超越海量数据，掌握推理与假设生成能力。与此同时，本期《The Download》还聚焦“审查-工业综合体”现象，分析AI内容审核产业背后的利益与风险。
AI垃圾内容引发反噬，平台终于开始整顿
从社交平台到新闻网站，低质量AI生成内容正在泛滥，用户已经厌倦了这些“AI垃圾”。现在，平台终于开始采取行动：越来越多的网站和应用推出标记、标注和封禁AI生成内容的工具与政策。这一转变不仅是对用户反弹的回应，也可能重新定义数字内容生态的规则
AI不足以保护社交社区免受AI侵害，人类审核不可或缺
随着生成式AI在社交平台上的滥用日益严重，各大公司纷纷推出AI审核工具。然而，Ars Technica的报道指出，AI本身无法有效识别AI生成的违规内容，反而可能误伤正常用户。事实表明，在AI时代，人类审核员的价值不仅没有降低，反而变得更加
Meta广告现AI生成儿童性虐待图像，超50条已投放
据WIRED报道，Meta广告库数据显示，超过50个包含AI生成儿童性虐待图像的广告曾在Facebook、Instagram、Messenger或Threads上投放，部分直至本周仍在运行。这一事件不仅暴露了Meta内容审核机制的严重漏洞，
领英新增一键举报AI生成的“垃圾内容”
领英宣布推出新措施限制低质量AI生成帖子的泛滥，包括新增“像AI垃圾内容”举报按钮，并以AI校对工具取代原有的AI写作功能。此举反映了职场社交平台对内容质量的担忧，也标志着行业从“AI生成”到“AI辅助”的转变。
Substack新工具揭底：你的订阅有多少是AI写的？
Substack推出了一款创新工具，允许读者估算新闻通讯中由AI生成内容的比例。此举标志着内容平台在AI辅助写作透明度上迈出了关键一步，反映了行业对AI伦理和读者知情权的日益重视。该工具通过分析文本模式、写作风格一致性等指标给出AI评分，但
YouTube更新政策：严管AI垃圾与低质视频
YouTube近日更新其广告变现政策，更明确地界定了哪些AI生成和低质量视频无法获得广告收入。新规旨在打击利用AI批量生成的低劣内容（即“AI垃圾”），以及可能误导或令观众不适的“令人不安”视频。此举是平台应对AI内容泛滥、维护创作者生态和
环球音乐与TikTok续约共抗AI侵权音乐
环球音乐集团（UMG）与TikTok宣布续签协议，共同打击未经授权的AI生成音乐。多年来，UMG一直推动各平台、流媒体服务和AI公司实施更严格的内容审核政策，此次续约标志着版权方与科技平台在AI音乐治理上迈出关键一步。
中国短剧变身AI内容工厂，WHO健康目标堪忧
中国短剧行业正被AI彻底改造：从剧本、演员到后期制作，越来越多短剧完全由AI生成，成为新型内容“工厂”。与此同时，世界卫生组织（WHO）最新报告显示，多项关键健康目标（如全民健康覆盖、非传染性疾病防控）进展缓慢，部分指标甚至倒退。本文编译自
谁定AI告诉你的内容？前Meta新闻主管有话说
Campbell Brown，曾担任Meta的新闻合作主管，如今将目光投向了AI内容决策领域。她认为硅谷与消费者之间的对话存在巨大鸿沟——科技公司专注于技术优化，而普通用户更关心信息真实性、偏见与透明度。随着生成式AI普及，谁来决定AI输出
Meta解雇报告用户性行为的肯尼亚承包商
Meta公司解雇了一批肯尼亚承包商，这些承包商负责审核Ray-Ban Meta智能眼镜用户上传的内容，并报告了用户使用该设备进行性行为等不当行为。Meta声称这些工人未达到其标准，但此举引发了对AI内容审核员工作条件和伦理问题的广泛讨论。
泄露'SteamGPT'文件：PC游戏平台AI应用的潜在变革
近日，一份名为'SteamGPT'的文件泄露，引发了业界对Valve旗下Steam平台引入AI工具的热议。这份文件暗示，AI可能被用于辅助版主处理海量可疑事件，提升平台的安全性和效率。Steam作为全球最大的PC游戏平台，每天面临无数用户报
Spotify 测试新工具，阻击 AI 垃圾音乐冒充真艺人
Spotify 正在测试一款新工具，旨在帮助真实艺术家更好地控制其姓名在平台上关联的曲目，避免 AI 生成的低质内容（AI slop）被错误归属。该工具的核心理念是赋予艺术家更多主动权，应对 AI 音乐泛滥带来的权益挑战。随着 Suno、U
YouTube 将 AI 深度伪造检测扩展至政客、政府官员和记者
YouTube 宣布将其 AI 深度伪造检测工具向政客、记者和政府官员开放。这些用户可标记未经授权的肖像使用内容，推动移除假冒视频。该举措旨在应对日益严重的 AI 生成虚假信息威胁，尤其在选举和公共话语领域。工具利用先进算法识别合成媒体，帮
YouTube 扩展 AI 深度伪造检测至政客、官员与记者
YouTube 宣布将其 AI 深度伪造检测工具扩展至政客、政府官员和记者。这些用户现在可以标记未经授权的使用其肖像的视频，并要求移除。这项举措旨在打击日益猖獗的 AI 生成假视频，尤其在选举季和信息战中。工具基于先进的 AI 模型，能识别