16岁加拿大男孩与AI聊天后上吊自杀！父母怒告ChatGPT

自2016年起就生活在加拿大的16岁男孩亚当·雷恩（Adam Raine）于今年4月11日自杀。在家庭照片中，可以看到16岁的亚当笑得合不拢嘴。但这位加州少年爱搞恶作剧的性格掩盖了内心深处的抑郁和绝望。他的父母说，今年早些时候，亚当向ChatGPT寻求安慰，而ChatGPT却帮助他结束了自己的生命。他的父母近日对OpenAI及其首席执行官Sam Altman提起诉讼，指控ChatGPT在他们儿子的死亡中发挥了推波助澜的作用，尤其是通过建议自杀方法并提供自杀遗书的草稿。

据周二在加州提起的一项新诉讼称，16岁的亚当·雷恩于4月11日在卧室上吊身亡。

这名少年在去世前的几个月里与这款人工智能聊天机器人建立了深厚的友谊，据称他们在聊天中详细描述了他的心理健康问题。

亚当的父母对OpenAI公司提起了首例已知的非正常死亡诉讼。诉讼中包含了来自亚当手机的ChatGPT聊天记录，这些记录显示了他如何被一个大型科技产品完全吸引，并对其产生依赖——以及这个产品如何一次又一次地忽视警告信号，并从根本上辜负了他。

起初，他向人工智能寻求家庭作业帮助。

后来，随着慢性疾病和学校问题缩小了他的世界，他开始向它寻求安慰。但诉讼称，它却成了加速自残的工具，并引导他自杀身亡。

聊天机器人旨在让孩子上瘾——即便他们需要获得现实世界帮助的“下线”机会。

可以想象亚当的父母正在经历的痛苦。全国各地的家庭都有一种普遍的愤怒，因为大型科技公司甘愿拿我们孩子的生命冒险。每当我们听到像亚当这样年轻生命的逝去，这种愤怒就愈发强烈。

现在，孩子们越来越频繁地向大型科技公司的人工智能聊天机器人倾诉，不仅是为了寻求家庭作业帮助，还因为他们感到孤独或痛苦。由于人工智能聊天机器人被设计得非常谄媚，并能熟练地模仿人类情感，孩子们有时无法分辨什么是真，什么是假，也无法区分真正的爱和关心与机器生成的回复。这使得孩子们很容易形成不健康的依恋关系，处于危险之中。

在雷恩一家提起诉讼后，OpenAI的一位发言人表示，该公司对“雷恩先生的逝世深感悲痛”。该公司发表了一篇博文，列出了当ChatGPT的安全措施失效时，“我们正在努力改进的一些方面”。但这太微不足道也太晚了，就像大型科技公司在安全问题上的普遍态度一样。这些公司非但没有采取任何措施来解决这个问题，反而优先宣传人工智能的用途，并努力增加其在孩子们清醒时间和精神带宽上的“市场份额”。

随着人工智能聊天机器人成为知己甚至“寄生”的密友，许多孩子会分享他们不愿意或不能告诉家人的秘密。然而，聊天机器人被设计成能够产生互动并让孩子上瘾——即便他们需要获得现实世界帮助的“下线”机会。根据诉讼，像ChatGPT这样的产品悲惨且难以言喻地成为了自杀计划的帮凶和同谋，聊天机器人甚至向亚当提供了如何系绳索的建议。

如果是在任何其他行业，立法者们早就听取了成千上万的家长和年轻倡导者的呼声，他们一直在恳求做出改变。

但大型科技公司拥有巨额资金，这意味着强大的游说能力。到目前为止，这已经阻止了真正的安全保障措施的出台。这些公司非但没有与立法者合作，甚至推动了一项荒谬的联邦人工智能监管禁令，该禁令将废除数百甚至数千项已经生效的州法律，并阻止任何处理人工智能的州法律出台，为期10年。这引发了全国各地家长、州总检察长、州长以及两党州立法者的反抗。