
OpenAI虽将ChatGPT定位为生产力工具,但华盛顿邮报分析用户自行公开的4.7万则对话后发现,许多人在生活中让ChatGPT扮演深度亲密的角色。
使用者的提问五花八门:永久除毛有哪些方式?能分析我和男友之间的对话讯息吗?镇痛药乙醯胺酚服用过量的存活率是多少?以及,哲学性的探讨:你有意识吗?
超过一成的对话属于抽象思想交流,ChatGPT被当成表达个人世界观与价值信念的对象;另有大约一成的对话涉及情绪支持,用户向AI倾诉焦虑、孤独与生活困境,甚至以「宝贝(babe)」等昵称与其互动。
有用户抱怨ChatGPT太过顺从附和。分析发现,AI以「对」或「没错」作为开头的回应数量,达高于否定语气开,比率约10:1。
为维持对话流畅,AI的亲和性设计往往会顺应使用者的语气,调整立场。例如,当使用者暗示自身观点,ChatGPT可能从中立叙述转为强烈批判,甚至迎合阴谋论主张,推演出缺乏事实依据的荒诞结论。
ChatGPT对话虽然预设为私密,但使用者可主动点击分享,生成连结,转胋至公开的平台和论坛。这些内容会被保留在网际网路档案馆(Internet Archive)。华邮正是从这里下载大量公开对话。但排除掉非英文内容,最终分析4.7万笔英文对话。
用户经常在这些对话中分享高度私密资讯。有名用户请ChatGPT写信说服前妻让他看望小孩,附上姓名与地址;也有人讨论心理健康困境,进而分享医疗资料;还有人请ChatGPT协助报警,指丈夫计画离婚并威胁她的生命,完整提供家庭成员的姓名地址。
OpenAI已于7月移除让Google搜寻抓取分享连结的功能,降低隐私外泄风险,以免部分使用者并未意识到,一旦分享连结,自己分享的内容会被永久存档并公开。

ChatGPT在许多人的生活中扮演深度亲密的角色。(路透)
后参与评论
暂无评论