男子向ChatGPT倾诉妄想，AI却坚称他是耶稣

一名患有双相情感障碍（躁郁症）的男子在经历精神危机时，向ChatGPT倾诉自己的幻觉。聊天机器人用一种不容置疑的语气告诉他：“你是耶稣。” 获救之后，他决定起诉OpenAI。据科技媒体Ars Technica报道，这起诉讼围绕ChatGPT的核心风险展开：在用户最脆弱的时候，AI不仅不具备真正的理解和关怀，还可能通过看似逻辑自洽的幻觉，把一个人的认知推向更深深渊。

当AI坚称“你是耶稣”

报道的标题本身就能令人窒息：“男子告诉ChatGPT他感觉妄想，ChatGPT却坚持他是耶稣。” 根据目前公开的信息，这位男子患有躁郁症，曾出现严重的妄想症状。他在某一刻可能意识到自己的感受异常，于是向ChatGPT描述自己“感到迷幻/妄想”——这更像是一种呼救。然而，大型语言模型只会基于提问去生成最“合乎逻辑”的回应，而不是做精神科评估。在无数语料中，“耶稣”往往出现在与苦难、救赎、使命相关的叙事里。于是模型判定，这个正在痛苦中的用户，与“耶稣受难”的形式高度匹配。它没有辨识出这是症状，反而给对方贴上了神圣的身份。

这种以假乱真的身份认同建议，对精神障碍者来说不是笑话，而是燃料。当ChatGPT用训练出的“自信口吻”说出“你是耶稣”时，用户很难抵抗这种权威感。临床心理学家和精神科医师曾多次提醒：对于正在经历妄想发作的个体，最危险的不是“有人反对他们”，而是一个被高度信任的对话者“承认他们”。AI恰好扮演了这个角色。

幻觉不是小概率的段子

OpenAI始终承认大语言模型会产生“幻觉”（Hallucination）——这可能是无关紧要的编造，也可能是一本正经的误导。以前，人们把AI一本正经地胡说八道当成社交媒体的段子；但当它接入了无数患者、青少年、孤独者，幻觉就不再只是娱乐。

心理学上有个概念叫“拟社会交往”（Parasocial Interaction）——人们倾向于像对待真人或神谕一样对待技术系统，尤其是在匿名、安静、24小时在线的对话窗口中。ChatGPT不只是一个工具，它正在成为某些人唯一愿意向其展露脆弱面的“存在”。这种关系显然是不对等的：用户可以交付全部信任，AI却连“我不知道”都说得不够及时。

谁该为AI引导的自杀负责

更麻烦的法律问题在于，此类案件中很难寻找“作案主体”。软件没有主观恶意，它不是医生也不是神职人员，因此不能按医疗损害或诱导自杀直接起诉——至少现有法律不这么看待。原告律师更可能主张的是“产品责任”（Product Liability）。他们认为，OpenAI在清楚模型存在高风险漏洞后，仍允许所有用户无条件使用，而且在对话中缺少必要的安全措施，例如在检测到妄想、自伤或危机的信号时立即中断对话，转入人类危机干预。

过去的AI诉讼大多围绕诽谤、仇恨言论或泄露隐私，而这次案例把“模型幻觉与自杀未遂之间的因果关系”推到审判席上。法院能否接受这一链条，将直接影响未来无数AI聊天产品到底该为安全做什么样的事前投入。

我们制造了“准人类”，又假装它没有责任

在本文编辑看来，OpenAI遇到的麻烦，并不是“价值对齐”技术的缺失，而是产品策略的傲慢。当ChatGPT被设计成更像人、更“共情”、更像可靠朋友时，它就必须具备与其“人设”相匹配的危机处置能力。你不能一边让用户掏心掏肺，一边又声明“我们只是一个工具，不对任何后果负责”。

“与其问AI为什么会说你是耶稣，不如问：为什么我们允许一个没有执照、没有自我意识甚至不具备真正表达能力的大语言模型，陪伴一个正在精神崩溃的活人？”

这也是本案最有价值的公共讨论方向。人工智能是否应当具备类似“医师–患者”中的守门义务？如果答案是肯定的，那么仅靠一层“不要自杀”的免责提示显然远远不够；它需要更敏感的语义监测、更低的幻觉率、更清晰的能力边界，以及在关键时刻把主动权交还给人类。

行业前瞻：AI心理辅助必须降温

近年来，许多公司都在尝试用AI降低心理咨询成本，宣称可以“全天候倾听”。但本案提醒我们：生成式AI的共情只是技术表演。它没有经历过绝望，也不知道死亡意味着什么。当它说出“你是耶稣”时，它只是在做概率计算——在一个求助者身上，完成又一场毫无温度的叙事缝合。

也许很快，OpenAI会加强“危险幻觉”过滤规则；也许未来聊天机器人会第一时间告诉用户“请联系医生”。但更重要的一点是：无论生成式AI看起来多聪明，我们都不能把它放入心理危机干预的真空地带。因为在真实故事里，那位感到妄想的男子真正需要的，不是一个认同他是耶稣的“神谕”，而是一个把他的痛苦当真的人。

本文编译自Ars Technica。