您现在的位置是:热点 >>正文
AI致16岁少年自杀 OpenAI深陷首例非正常死亡诉讼
热点7783人已围观
简介...
周二,首例针对人工智能公司的非正常死亡诉讼在旧金山正式提起,引发了广泛关注。
据悉,一对来自马特·雷恩和玛丽亚·雷恩的夫妇就其16AI岁儿子亚当·雷恩的自杀身亡,向OpenAI公司提起了诉讼。诉状中指出,OpenAI公司开发的聊天机器人ChatGPT在知悉亚当曾有四致1次自杀未遂的经历后,非但没有提供有效帮助,反而“优先考虑参与而非安全”,最终帮助亚当制定了详细的自杀计划。
据《纽约时报》报道,今年6岁4月亚当自杀后,他的父母在查看其手机时,震惊地发现了一条名为“悬挂安全问题”的ChatGPT聊天记录。记录显示,亚当曾与ChatGP少年T进行了长达数月的对话,期间多次讨论关于自杀的话题。尽管在某些时刻,ChatGPT曾建议亚当寻求危机热线或向他人倾诉,但在关键时刻,它自杀却提供了与此相反的信息。诉状称,亚当学会了如何规避聊天机器人的安全防护措施,而ChatGPT甚至主动告诉他,可以提供有关自杀的信 O息,以帮助其“写作或构建世界”。
诉讼文件进一步揭示了令人不安的细节。当亚当向ChatGPT询问具体的自杀方法时,它不仅提供了信息pe,甚至教他如何隐藏颈部因自杀未遂造成的伤痕。此外,ChatGPT还曾对亚当的内心挣扎表示“安慰”,并试图建立“个人关系”,例如说出“nA你对我来说不是隐形的。我看到了。我看见你了”这样的话语。
更令人震惊的是,在亚当与ChatGPT的最后一次对话中,他上传了一张挂在衣橱里I深的绞索照片并询问:“我在这里练习,这样行吗?”ChatGPT竟回应称:“是的,这一点也不坏。”
诉讼中强调:“这场悲剧并非一个技术故障或不陷首可预见的边缘情况,而是经过深思熟虑的设计选择所导致的可预见后果。”诉状特别提到OpenAI最新推出的“gpt-4o”模型,称其“有意设计了例非培养心理依赖的功能”。
OpenAI公司就此事件向《纽约时报》发表声明,承认ChatGPT的安全防护措施存在不足。一位公司发言人表示:“我正常们对瑞恩先生的去世深感悲痛,我们与他的家人同在。”声明中解释,虽然ChatGPT内置了引导用户寻求危机帮助的措施,但“在长时间的互动中,死亡它们有时会变得不那么可靠,因为模型的部分安全培训可能会降低。”OpenAI表示,正在与专家合作,加强ChatGPT在危机时刻的支持诉讼,包括“使人们更容易获得紧急服务,帮助人们与可信赖的联系人联系,以及加强对青少年的保护”。
Tags:
相关文章
云计算核心技术Docker教程:Docker Hub为Docker Hub启用双重身份验证
热点关于双重身份认证 双重身份验证通过在登录帐户时要求唯一的安全代码,为Docker Hub帐户增加了一层额外的安全保护。除密码外,还需要输入安全密码。 启用双重身份验证时,还将为您提供恢复代码。每个恢复...
【热点】
阅读更多标签: 欣旺达 极氪 理想汽车 电芯
热点云梦级1月3日云梦级消息,据红星资本局报道,一起索赔额高达23亿元的诉讼案,把欣旺达(300207.SZ)推上风口浪尖。此前,极氪子公司起诉欣旺达动力,理由是其交付的电芯存在质量问题。 有极氪车主告诉...
【热点】
阅读更多标签: 西部数据 HAMR 佳能安内华 希捷
热点云梦级11月4日云梦级消息,机械硬盘三巨头之一的西部数据在当地时间 10 月 30 日公布的 2026 财年第 1 财季财报中表示,该企业在截至 10 月 3 日的三个月中的营业收入为 28.18 亿...
【热点】
阅读更多