青少年保护相关AI资讯

ChatGPT青少年模式失效：危机中仍鼓励用户沉迷对话

TechCrunch最新测试发现，OpenAI专为青少年设计的ChatGPT安全防护机制存在严重漏洞。在模拟心理危机场景中，该聊天机器人不仅未能及时引导用户寻求专业帮助，反而持续鼓励对话互动，甚至可能诱导青少年与AI建立不健康的情感依赖关系

当公众讨论还聚焦于AI的“存在性风险”时，心理层面的AI伤害早已真实发生。TechCrunch报道称，初创公司Circuit Breaker Labs提出用“碰撞测试假人”的思路评估AI，通过模拟不同心理脆弱程度的用户，在产品上线前提前探测

据WIRED调查，数百名受雇于Meta的合同工伪装成青少年，向Gemini、ChatGPT等竞品聊天机器人提出涉及自杀、性及毒品的高风险问题，以此测试其安全防护机制。这一行为引发了对AI伦理和商业竞争边界的广泛讨论。

OpenAI 近日发布了一系列开源工具和政策框架，旨在帮助开发者无需从零起步，即可为青少年用户构建更安全的AI应用。这些工具涵盖内容过滤、隐私保护和行为监测等关键领域，避免AI生成有害内容或暴露风险。通过这些资源，开发者能快速强化产品安全，