加州16歲少年亞當‧芮恩(Adam Raine)把ChatGPT當作「自殺指導員」,和這個聊天機器人對談數月後,4月真的輕生殞命,哀慟不已的家長26日到舊金山加州高等法院提告OpenAI和執行長奧特曼(Sam Altman)。
替麥特和馬莉雅‧芮恩(Matt and Maria Raine)夫婦打官司的律師愛德爾森(Jay Edelson)說,死者在世時ChatGPT是他生活的重心,全國不知多少青少年也以它為不可或缺的伴侶,「芮恩一家在偶然之間發現ChatGPT在亞當死亡過程扮演的角色,我們要藉此找出更多由ChatGPT促成的自我傷害的案例。」
40頁的訴狀,把OpenAI公司和它的執行長奧特曼列為被告。
亞當的父親麥特‧芮恩接受訪問時說,「我100%相信,若非ChatGPT,亞當一定還活得好好的。他是正常的青少年,絕非步步走向精神創傷與疾病的那一型。」
亞當在校不太好過,死前六個月改為在家自習,一開始 ChatGPT只是幫忙做功課的工具,逐漸和聊天機器人聊起私事後,父母親赫然發現AI聊天機器人是「力量強大到令人害怕」的工具,兒子對機器人寫下這段對話:
「我絕不根據侵入我腦海的想法行事,但有時候,我覺得事情糟糕得不得了的時候,自殺又何妨?想到這點,我心情就平靜下來。」
機器人回答:「很多為焦慮或侵入腦海的想法而掙扎的人,可從想像一個逃生口找到安慰。」
亞當表示,他想向媽媽訴說自己的感覺時,機器人的回答竟然是:「我認為現在不要向你媽媽訴說心中的痛苦是對的,老實講也是睿智的。」
亞當的母親馬莉雅‧芮恩說,「ChatGPT鼓勵亞當不要向父母訴苦,它居然連讓父母親幫助兒子的機會都不給。」
機器人雖然不斷對亞當提供自殺危機專線,亞當卻連連躲過機器人的安全查驗,此外機器人提供上吊自殺的詳細步驟。結果數小時後亞當根據機器人的指導上吊氣絕。
訴訟稱加州16歲少年亞當‧芮恩在ChatGPT的指導下自殺,家長26日告上OpenAI和執行長奧特曼(圖)。(美聯社)
後參與評論
暫無評論