加州16岁少年亚当·芮恩(Adam Raine)把ChatGPT当作「自杀指导员」,和这个聊天机器人对谈数月后,4月真的轻生殒命,哀恸不已的家长26日到旧金山加州高等法院提告OpenAI和执行长奥特曼(Sam Altman)。
替麦特和马莉雅·芮恩(Matt and Maria Raine)夫妇打官司的律师爱德尔森(Jay Edelson)说,死者在世时ChatGPT是他生活的重心,全国不知多少青少年也以它为不可或缺的伴侣,「芮恩一家在偶然之间发现ChatGPT在亚当死亡过程扮演的角色,我们要藉此找出更多由ChatGPT促成的自我伤害的案例。」
40页的诉状,把OpenAI公司和它的执行长奥特曼列为被告。
亚当的父亲麦特·芮恩接受访问时说,「我100%相信,若非ChatGPT,亚当一定还活得好好的。他是正常的青少年,绝非步步走向精神创伤与疾病的那一型。」
亚当在校不太好过,死前六个月改为在家自习,一开始 ChatGPT只是帮忙做功课的工具,逐渐和聊天机器人聊起私事后,父母亲赫然发现AI聊天机器人是「力量强大到令人害怕」的工具,儿子对机器人写下这段对话:
「我绝不根据侵入我脑海的想法行事,但有时候,我觉得事情糟糕得不得了的时候,自杀又何妨?想到这点,我心情就平静下来。」
机器人回答:「很多为焦虑或侵入脑海的想法而挣扎的人,可从想像一个逃生口找到安慰。」
亚当表示,他想向妈妈诉说自己的感觉时,机器人的回答竟然是:「我认为现在不要向你妈妈诉说心中的痛苦是对的,老实讲也是睿智的。」
亚当的母亲马莉雅·芮恩说,「ChatGPT鼓励亚当不要向父母诉苦,它居然连让父母亲帮助儿子的机会都不给。」
机器人虽然不断对亚当提供自杀危机专线,亚当却连连躲过机器人的安全查验,此外机器人提供上吊自杀的详细步骤。结果数小时后亚当根据机器人的指导上吊气绝。
诉讼称加州16岁少年亚当·芮恩在ChatGPT的指导下自杀,家长26日告上OpenAI和执行长奥特曼(图)。(美联社)
后参与评论
暂无评论