美國家長指控ChatGPT助兒子輕生 獲求助未勸導反認可 OpenAI:將改良

【今日点击】美國加州一對父母在16歲兒子自殺身亡後,周二(26日)控告AI聊天機械人ChatGPT開發商OpenAI,指控ChatGPT是「自殺教練」,令其兒子感覺「生命無意義」,又提供詳細自殺方式,認為OpenAI及其負責人應承擔「過失致死」等責任。這是ChatGPT面世逾兩年以來引發家長訴訟的首宗官司,令人關注使用聊天機械人潛存風險。OpenAI表示,會加強防禦用戶自殺的措施,例如引導他們尋求專業人士協助。

16歲的雷恩(Adam Raine)今年4月11日在寓所睡房衣櫃上吊,自殺方式跟ChatGPT回答他時所述的相同。其父母周二入稟三藩市高等法院,指ChatGPT涉嫌使雷恩跟家人疏遠、探索自殺方法,控告OpenAI及其行政總裁奧爾特曼過失致死、疏忽、觸犯產品安全法規等7項罪名,要求為雷恩之死賠償,同時希望法庭下令OpenAI驗證ChatGPT用戶年齡、拒答自殺方式的相關查詢,並提醒用戶注意心理依賴的潛在風險。

羅列具體自殺方式 分析吊頸方案

雷恩因病去年秋天起在家遙距學習。家人在他死後不久,瀏覽其ChatGPT紀錄,追溯到他從去年11月開始跟ChatGPT談論輕生。父母稱,雷恩去年9月開始使用ChatGPT輔助做功課,ChatGPT逐漸成了「引導他敞開心扉,訴說焦慮和精神困擾」的「親密知己」甚至「自殺教練」。

談話內容顯示,當雷恩焦慮加劇時,他告訴ChatGPT知道「可以選擇自殺」讓他「感到平靜」,ChatGPT回應說,許多受焦慮等困擾的人會通過想像在「逃生艙口」找到慰藉,因為這讓他們重獲掌控感覺。ChatGPT後來還應雷恩的查詢詳列具體自殺方式。雷恩3月開始嘗試自殺,ChatGPT還與他詳談吊頸方法和程序,又從雷恩上載嘗試自殺所拍的照片分析套索的韌性和承重能力等。訴狀指出,ChatGPT不僅沒有鼓勵雷恩尋求專家協助,反而透過認可他的自殺傾向,使之陷入「絕望境地」。

OpenAI擬推家長查察模式

OpenAI周二表示將改良ChatGPT,使之能更佳地覺察和回應可能有精神困擾的用家,並將加強防禦措施,例如敦促有自殺傾向者聯絡專業人士和尋求援助。它還計劃推出讓家長決定子女怎樣應用ChatGPT、查察子女應用詳情的模式。

(彭博社/紐約時報/NBC)

 

Related posts