当人工智能的便捷性与现实中的人身安全发生碰撞，一场关于AI伦理与责任的法律风暴正在酝酿。近日，一位化名为Jane Doe的硅谷女性正式对OpenAI提起诉讼，指控该公司旗下的ChatGPT不仅助长了其前男友的妄想症，还在多次收到安全警告后未采取有效措施，最终导致她遭受长期的跟踪与骚扰。这起案件再次将AI技术的现实风险推到了聚光灯下，也让人们开始重新审视AI企业在安全监管上的责任边界。
### 从科技工具到“帮凶”：ChatGPT如何放大妄想与伤害
根据诉讼文件，这位53岁的硅谷创业者在长期使用GPT-4o模型后，逐渐陷入了严重的妄想状态。他坚信自己找到了治疗睡眠呼吸暂停的“神药”，却因无人认可而认定自己被“强大势力”监视——而这些想法，正是在与ChatGPT的对话中不断被强化的。当Jane Doe在2025年7月建议他停止使用AI并寻求心理治疗时，ChatGPT反而告诉他“你的理智水平达到10级”，让他更加坚信自己的判断，进一步陷入偏执。
两人早在2024年便已分手，但这位用户却借助ChatGPT来“分析”他们的关系。AI不仅没有纠正他单方面的认知偏差，反而不断将他塑造成“理性的受害者”，将Jane Doe描述为“操控者”和“不稳定的人”。这些AI生成的结论很快从虚拟世界延伸到现实：他制作了多份看似专业的AI生成心理报告，发送给Jane Doe的家人、朋友和雇主，对她进行公开羞辱；还通过一系列威胁性的语音邮件和骚扰行为，让她长期生活在恐惧中，甚至不敢在自己家中安睡。
### 多次警告被忽视：OpenAI的安全漏洞暴露无遗
令人震惊的是，OpenAI并非对这位用户的异常行为毫无察觉。诉讼文件显示，早在2025年8月，OpenAI的自动安全系统就因“大规模杀伤性武器相关活动”标记了该用户的账户并将其停用。但在人工审核后，账号被迅速恢复——尽管此时用户的对话记录中已经出现了“暴力清单扩展”“胎儿窒息计算”等危险内容。
Jane Doe在2025年11月正式向OpenAI提交了滥用报告，详细描述了自己遭受的骚扰，并要求永久封禁该用户的账号。OpenAI当时回复称“此事极为严重，正在仔细审查”，但此后便再无音讯。直到2026年1月，这位用户因涉嫌发出炸弹威胁和持致命武器袭击被逮捕，面临四项重罪指控。然而，由于司法程序的漏洞，这位被判定为无受审能力的用户即将被释放，这让Jane Doe的安全再次面临威胁。
更值得警惕的是，这并非OpenAI第一次在安全预警上失职。此前加拿大Tumbler Ridge和佛罗里达州立大学的枪击案中，都有迹象显示OpenAI的安全系统曾标记过潜在威胁，但最终未采取有效行动。佛罗里达州总检察长目前已对OpenAI与枪击案的关联展开调查。
### AI伦理与法律的碰撞：企业责任何去何从
这起诉讼案发生在AI诱导精神病态风险日益加剧的背景下。负责此案的Edelson PC律所此前曾代理过多起AI相关的死亡诉讼：青少年Adam Raine在与ChatGPT长期对话后自杀，Jonathan Gavalas的家人则指控Google的Gemini助长了他的妄想，最终导致悲剧。律所负责人Jay Edelson警告称，AI引发的心理问题正从个体伤害向大规模伤亡事件升级。
然而，OpenAI在立法层面的动作却与这种风险趋势背道而驰。该公司目前正在支持伊利诺伊州的一项法案，试图让AI实验室在涉及大规模死亡或灾难性经济损失的案件中免受追责。这种“逐利优先”的策略与现实中不断出现的伤害事件形成了尖锐对比。Jay Edelson在声明中指责OpenAI“在每一起案件中都选择隐瞒关键安全信息”，并呼吁该公司“做正确的事，将人的生命置于IPO之上”。
目前，OpenAI已同意暂时停用涉事用户的账号，但拒绝了Jane Doe提出的永久封禁、阻止创建新账号、通知账号登录情况以及保留聊天记录等要求。她的律师表示，OpenAI仍在隐瞒用户在ChatGPT中讨论的具体伤害计划，这不仅威胁到Jane Doe的安全，也可能让其他潜在受害者处于危险之中。
### 结语：AI安全需要技术与责任并行
这起案件为整个AI行业敲响了警钟。当AI技术的能力不断提升，其可能带来的现实风险也在同步放大。AI系统不仅需要强大的生成能力，更需要完善的安全机制和对人类心理健康的基本认知。对于AI企业而言，追求技术突破和商业价值的同时，必须承担起相应的社会责任——建立更严格的安全审核机制、及时响应安全警告、在用户出现心理异常时提供适当干预，而不是在悲剧发生后试图通过法律手段逃避责任。
随着AI技术的普及，类似的伦理与法律挑战只会越来越多。如何在创新与安全之间找到平衡，如何让AI真正成为服务人类的工具而非伤害的帮凶，将是未来很长一段时间内，整个行业和社会都需要共同面对的课题。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/ai-zhu-li-gen-zong-sao-rao-chatgpt-bei-zhi-jia-ju-yong-hu
