OpenAI在卷入16岁少年自杀事件后承诺改进保障措施

　　OpenAI周二在一篇博客文章中详细介绍了其计划，以解决ChatGPT在处理“敏感情况”时的缺点。此前，美国加州一个家庭将他们16的儿子自杀归咎于这款聊天机器人，并向OpenAI及其CEO萨姆·奥特曼提起诉讼。

　　“我们将在专家的指导下不断改进，并以对使用我们工具的人负责为基础——我们希望其他人能加入我们，帮助确保这项技术保护最脆弱的人，”OpenAI在一篇题为“在人们最需要的时候帮助他们”的博客文章中写道。

　　周二早些时候，亚当·雷恩的父母对OpenAI提起了产品责任和非正常死亡诉讼，此前他们的儿子在16岁时自杀身亡。在诉讼中，他的家人表示，“ChatGPT积极帮助亚当探索自杀 *** 。”

　　OpenAI在其博客文章中没有提及瑞恩的名字和这起诉讼。

　　该公司表示，尽管ChatGPT经过培训，可以指导人们在表达自杀意图时寻求帮助，但在长时间发送许多信息后，聊天机器人往往会提供违反公司保障措施的答案。

　　该公司表示，正在对本月早些时候发布的GPT-5模型进行更新，这将使聊天机器人降低对话的级别，并正在探索如何“在人们陷入严重危机之前将他们与认证治疗师联系起来”，包括可能建立一个由持牌专业人士组成的 *** ，用户可以通过ChatGPT直接联系。

　　此外，OpenAI表示，正在研究如何将用户与“最亲近的人”联系起来，比如朋友和家人。

　　在青少年方面，OpenAI表示将很快引入控制措施，让父母可以选择更深入地了解他们的孩子如何使用ChatGPT。

　　瑞恩家族的首席法律顾问杰伊·埃德尔森（Jay Edelson）周二表示， OpenAI没有人直接与瑞恩家人联系，表示哀悼，也没有讨论任何提高公司产品安全性的努力。