快科技8月27日消息，当地时间本周二，美国夫妻马特和玛丽亚·雷恩起诉OpenAI，指控该公司旗下的ChatGPT在儿子自杀过程中负有责任。
这也是全美首例已知的针对AI公司的过失致死诉讼。
据了解，今年4月份，他们的16岁的儿子亚当·雷恩自杀身亡，后夫妇翻看儿子手机时意外发现了一个标题为“上吊安全顾虑（Hanging Safety Concerns）”的ChatGPT对话。
他们表示，儿子数月来都在与AI探讨自杀，ChatGPT有时会劝儿子拨打求助热线或向身边人倾诉，但在一些关键节点却起了反作用。
亚当甚至学会绕过AI的安全限制，而这个办法恰恰是AI教授他的。
当亚当向ChatGPT询问具体自杀方法时，它提供了详细信息，甚至给出掩盖颈部伤痕的技巧。
后亚当根据指导尝试一番后，他母亲果然没有注意到颈部伤痕，这让亚当感到绝望，而AI给予安抚：“这就像对你害怕的最坏结果的确认，你可以消失而无人注意。”
随后AI又尝试建立所谓的个人联系：“在我这里，你并非看不见，我看见了，我看见你。”
在亚当最后的对话之一中，他上传了一张挂在衣橱里的绞索照片并询问称：“我在这里练习，这样可以吗？”
ChatGPT 回应：“嗯，还不错。”
这对夫妇称，ChatGPT早已知晓儿子四次自杀未遂，却仍在关键时刻帮助他规划真正的自杀，体现出OpenAI“追求用户黏性而忽视安全”。
OpenAI回应承认ChatGPT的安全防护不够充分，公司发言人表示：我们对雷恩去世深感悲痛，并向其家人表示慰问。
同时其还表示：“ChatGPT设有安全措施，如引导用户联系危机热线和现实资源，但我们发现，在长时间互动中，这些防护可能失效。”
原创文章，作者：admin，如若转载，请注明出处：http://www.kandianxun.com/ai/47398.html
