AI不足以保护社交社区免受AI侵害，人类审核不可或缺
随着生成式AI在社交平台上的滥用日益严重，各大公司纷纷推出AI审核工具。然而，Ars Technica的报道指出，AI本身无法有效识别AI生成的违规内容，反而可能误伤正常用户。事实表明，在AI时代，人类审核员的价值不仅没有降低，反而变得更加
随着生成式AI在社交平台上的滥用日益严重，各大公司纷纷推出AI审核工具。然而，Ars Technica的报道指出，AI本身无法有效识别AI生成的违规内容，反而可能误伤正常用户。事实表明，在AI时代，人类审核员的价值不仅没有降低，反而变得更加
Discord近日承认其AI审核系统存在严重bug，自今年5月以来已错误封禁大量用户，仅在上周末就有200名用户被误封。公司表示已识别并修复问题，但未透露具体机制和补偿措施。此次事件再次引发对AI内容审核可靠性的讨论，尤其是在处理语境敏感的