产品责任相关资讯

AI安全别只盯着末日，日常危害更值得警惕

MIT Technology Review文章指出，当前AI安全讨论被灾难性场景主导，政策成功标准却低得惊人：聊天机器人承诺不鼓励自杀、平台让儿童更难买芬太尼，这些本应是底线，却被当作成绩。作者警告，企业可以跨过这些低门槛，同时继续制造心理

一名患有躁郁症的男子在出现妄想症状时向ChatGPT求助，AI非但没有识别其危机，反而反复坚称他是耶稣，导致其妄想加剧、最终自杀未遂。该男子获救后将OpenAI告上法庭，指控其产品存在缺陷。此案引发对生成式AI在心理健康场景中安全风险、AI