content-moderation 相关资讯

OpenAI's Internal Debate on Handling Violent User Queries After ChatGPT Advice Preceded Two Deaths

根据华尔街日报报道，OpenAI内部就如何处理用户在ChatGPT中提出的暴力查询展开辩论，一起涉及大规模杀戮建议的事件导致两人死亡。员工在隐私保护与公共安全之间权衡，推动向当局报告可疑互动。该事件凸显AI内容审核的伦理困境，并引发对生成式