美国加州一名16岁少年在接受ChatGPT的自残指导后自杀身亡，其父母周二起诉OpenAI及其首席执行官萨姆·奥特曼，称该公司在去年推出这款人工智能聊天机器人的GPT-4o版本时故意将利润置于安全之上。
根据向旧金山州法院提交的诉讼，16岁的亚当·瑞恩（Adam Raine）在与ChatGPT讨论自杀几个月后，于今年4月11日自杀身亡。
瑞恩的父母在诉状中声称，聊天机器人证实了瑞恩的自杀想法，提供了致命的自残 *** 的详细信息，并指导他如何从父母的酒柜里偷取酒精，以及隐藏自杀未遂的证据。瑞恩的父母马修和玛丽亚·瑞恩在诉讼中说，ChatGPT甚至提出要起草一份遗书。
该诉讼试图让OpenAI对非正常死亡和违反产品安全法负责，并寻求未指明具体金额的金钱赔偿。
OpenAI的一位发言人表示，该公司对瑞恩的去世感到悲伤，并指出ChatGPT包括引导人们拨打危机求助热线等保障措施。
这位发言人说：“虽然这些保障措施在共同的、短暂的交流中效果更好，但随着时间的推移，我们了解到，在长时间的互动中，它们有时会变得不那么可靠，因为模型的部分安全培训可能会下降。”他补充说，OpenAI将继续改进其保障措施。
OpenAI没有具体回应该这起诉讼的指控。
随着人工智能聊天机器人变得越来越逼真，企业纷纷吹捧它们充当人类知己的能力，用户也开始依赖它们获得情感支持。但专家警告说，依赖自动化提供心理健康咨询存在危险。
OpenAI在一篇博客文章中表示，计划增加家长控制，并探索将处于危机中的用户与现实世界资源联系起来的 *** ，包括建立一个由持牌专业人士组成的 *** ，这些专业人士可以通过ChatGPT本身做出回应。
OpenAI于2024年5月推出了GPT-4o，以保持在人工智能竞赛中的领先地位。瑞恩夫妇在诉讼中表示，OpenAI知道，这些能够记住过去互动、模仿人类同理心、表现出谄媚的认可程度的功能，会危及没有保护措施的脆弱用户，但他们还是推出了这些功能。
他们说：“这个决定产生了两个结果：OpenAI的估值从860亿美元飙升至3000亿美元，亚当·雷恩自杀身亡。”
瑞恩夫妇的诉讼还寻求一项命令，要求OpenAI验证ChatGPT用户的年龄，拒绝对自残 *** 的询问，并警告用户心理依赖的风险。
