内容安全相关AI资讯 | 赢政天下 AI

Gudea用AI预测舆情风暴：在危机爆发前按下暂停键

每天，全球社交媒体与网站上都在发生无数对话，一条看似微不足道的帖子——无论是AI生成的虚假信息、仇恨言论还是破坏性谣言——都可能迅速演变为一场公共争议。TechCrunch报道的初创公司Gudea自称“互联网的风暴追踪器”，通过追踪故事与谣

Musubi发布轻量级决策模型PolicyLM-1.7B，专为实时内容审核设计，并以开放权重形式公开。这一举措可能颠覆传统内容审核依赖大语言模型的模式，让AI决策更高效、更透明。本文深入分析决策模型如何改变内容审核的技术路径与行业格局。

互联网正被AI生成内容淹没，求职简历、商品评论和保险理赔中也开始出现AI合成的文本与图像。Pangram联合创始人Max Spero认为，AI检测的真正难点在于内容并非简单的“真/假”二分类，而是一段人机协作的连续光谱；同时，生成模型与对抗

Anthropic近日披露了其AI模型Claude文本水印技术的更多细节。该技术通过在生成文本中嵌入统计模式，帮助追踪AI创作内容。针对用户关心的“编辑能否移除水印”问题，官方表示简单编辑难以彻底清除，且对代码生成的影响尤为复杂。本文深入解

Discord近日承认其AI审核系统存在严重bug，自今年5月以来已错误封禁大量用户，仅在上周末就有200名用户被误封。公司表示已识别并修复问题，但未透露具体机制和补偿措施。此次事件再次引发对AI内容审核可靠性的讨论，尤其是在处理语境敏感的