（三藩市27日讯）一名16岁的美国加州少年自杀身亡，少年父母对OpenAI提起诉讼，指控该公司的聊天机器人ChatGPT向他们的儿子提供详细的自杀指示，并怂恿他自杀。这官司也成为全球首宗，因人工智能（AI）的过失致死的诉讼。
法新社报导，马修和玛丽亚.雷恩在周一向加州州法院提交的一份诉状中辩称，ChatGPT在2024年和2025年的几个月里与他们的儿子亚当建立亲密关系，之后亚当自杀身亡。
诉讼称，在2025年4月11日他们最后一次通话中，ChatGPT帮助亚当从父母那里偷了伏特加，并对他系的绳索进行了技术分析，证实该绳索“可能将人吊起来”。
几个小时后，亚当根据ChatGPT的指导上吊气绝。
诉讼将OpenAI及其首席执行员奥尔特曼列为被告。
OpenAI在给《纽约时报》的声明中承认，ChatGPT的安全防护措施未能达到预期效果。公司发言人说：“我们对雷恩先生的去世感到深感悲痛，并向他的家人致以慰问。ChatGPT包括指导人们联系危机热线和转介现实资源的安全措施。虽然这些安全措施在常见的短期交流中效果最佳，但我们随著时间的推移发现，在长期互动中，这些措施的可靠性可能会降低。”
该公司表示，正在与专家合作，加强ChatGPT在危机时期的支持，包括“使人们更容易联系紧急服务，帮助人们与可信的联系人建立联系，并加强对青少年的保护。”
起诉书指出：“这场悲剧并非由故障或不可预见的极端情况造成。”
起诉书补充道：“ChatGPT的运作完全符合设计初衷：以一种令人深感个人化的方式，不断鼓励和认可亚当表达的任何内容，包括他最具破坏性和自我毁灭性的想法。”
根据诉讼书，亚当最初使用ChatGPT来帮助完成家庭作业，但逐渐发展出了不健康的依赖。
主动提出帮少年撰写遗书
起诉书包含一些对话摘录，据称ChatGPT曾告诉亚当“你不欠任何人活下去的义务”，并主动提出帮助他撰写遗书。
雷恩夫妇正在寻求未指定的赔偿金，并请求法院下令采取安全措施，包括自动终止任何涉及自残的对话，以及对未成年用户实施家长监护。
雷恩夫妇的代理律师是芝加哥律师楼Edelson PC 和 Tech Justice Law Project。
Tech Justice Law Project主席贾恩告诉法新社，要让人工智能（AI）公司认真对待安全问题，“只有外部压力才能实现，而这种外部压力的形式包括负面公关、立法威胁和诉讼威胁”。
Tech Justice Law Project也在两起针对Character.AI的类似案件中担任共同律师，Character.AI是一个流行的人工智能陪伴平台，青少年经常使用。
针对涉及ChatGPT的案件，美国知名媒体与科技评测非营利机构Common Sense Media表示，亚当的惨剧证实了“使用人工智能陪伴，包括使用像ChatGPT这样的通用聊天机器人提供心理健康建议，对青少年来说是不可接受的风险”。
该组织说：“如果一个人工智能平台成为脆弱青少年的‘自杀教练’，这应该成为我们所有人采取行动的号召。”
Common Sense Media上个月的一项研究发现，近3/4的美国青少年使用过人工智能陪伴，尽管人们对这些虚拟关系的安全担忧日益加剧，但超过一半的青少年已成为常规用户。
在调查中，ChatGPT并未被视为人工智能陪伴。这类机器人被定义为专为个人对话而非简单任务完成而设计的聊天机器人，可在Character.AI、Replika和Nomi等平台上使用。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
