
OpenAI雖將ChatGPT定位為生產力工具,但華盛頓郵報分析用戶自行公開的4.7萬則對話後發現,許多人在生活中讓ChatGPT扮演深度親密的角色。
使用者的提問五花八門:永久除毛有哪些方式?能分析我和男友之間的對話訊息嗎?鎮痛藥乙醯胺酚服用過量的存活率是多少?以及,哲學性的探討:你有意識嗎?
超過一成的對話屬於抽象思想交流,ChatGPT被當成表達個人世界觀與價值信念的對象;另有大約一成的對話涉及情緒支持,用戶向AI傾訴焦慮、孤獨與生活困境,甚至以「寶貝(babe)」等暱稱與其互動。
有用戶抱怨ChatGPT太過順從附和。分析發現,AI以「對」或「沒錯」作為開頭的回應數量,達高於否定語氣開,比率約10:1。
為維持對話流暢,AI的親和性設計往往會順應使用者的語氣,調整立場。例如,當使用者暗示自身觀點,ChatGPT可能從中立敘述轉為強烈批判,甚至迎合陰謀論主張,推演出缺乏事實依據的荒誕結論。
ChatGPT對話雖然預設為私密,但使用者可主動點擊分享,生成連結,轉胋至公開的平台和論壇。這些內容會被保留在網際網路檔案館(Internet Archive)。華郵正是從這裡下載大量公開對話。但排除掉非英文內容,最終分析4.7萬筆英文對話。
用戶經常在這些對話中分享高度私密資訊。有名用戶請ChatGPT寫信說服前妻讓他看望小孩,附上姓名與地址;也有人討論心理健康困境,進而分享醫療資料;還有人請ChatGPT協助報警,指丈夫計畫離婚並威脅她的生命,完整提供家庭成員的姓名地址。
OpenAI已於7月移除讓Google搜尋抓取分享連結的功能,降低隱私外洩風險,以免部分使用者並未意識到,一旦分享連結,自己分享的內容會被永久存檔並公開。

ChatGPT在許多人的生活中扮演深度親密的角色。(路透)
後參與評論
暫無評論