美查ChatGPT涉生成假信息侵私隱 恐違消費者保護法 OpenAI在美面臨最大監管威脅

【今日点击】美國聯邦貿易委員會(FTC)正就人工智能(AI)聊天機械人程式ChatGPT及其開發商OpenAI展開調查,根據周四(13日)公開的民事訴狀,調查焦點落在OpenAI有否參與「涉及名譽傷害等危害消費者風險的不公平或欺騙性做法」。FTC主席強調執法重點是科企有否濫用個人私隱資訊。ChatGPT去年11月面世後,打響AI聊天機械人程式的「矽谷軍備競賽」,美國傳媒形容,這是OpenAI在美國業務所面臨的最大監管威脅。

據《華盛頓郵報》審閱文件所指,FTC本周向OpenAI寄出20頁長的要求清單,索取該科企如何處理涉及其AI模型風險紀錄。FTC提到,用戶投訴OpenAI開發的語言模型(包括ChatGPT)生成了關於個人的「虛假、誤導、貶損或有害」信息,FTC因此詢問OpenAI採取哪些措施來預防「生成式AI界面」生成錯誤內容和虛假信息。文件顯示,FTC正調查該公司是否參與對消費者造成「名譽傷害」的不公平或欺騙性做法。

OpenAI認3月底誤泄用戶私隱

FTC同時要求OpenAI提供後者對外披露的一宗安全事件之相關紀錄,當時其系統的程式錯誤令部分用戶看到付款相關資訊和其他用戶的聊天紀錄。FTC正調查OpenAI的數據安全做法有否違反消費者保護法。OpenAI承認,3月底出現的一個技術漏洞導致某些用戶的信息被泄露,主要是電子郵件地址和一些銀行信息,但強調自身資料被披露予他人的用戶數量「極低」。

FTC拒絕評論報道。OpenAI行政總裁奧爾特曼(Sam Altman)周四傍晚在Twitter表示,其公司「當然」會跟FTC合作,他指對FTC以泄漏事件首度提出要求,令人「非常失望」,無助建立信任。他表明有信心公司遵守法律,強調OpenAI保護私隱。

拜登政府和國會現正推動制訂涉及AI的新法律監管規則,參議院多數派領袖舒默預期,AI監管法律草案會在數月內出爐。然而,FTC介入表明現有的消費者保護法適用於AI產品。

《華郵》報道指出,若FTC發現有公司違反消費者保護法律,可處以罰款,或跟其達成同意令(consent decree,即與訟各方同意下作出的命令)並按此規限涉案企業如何處理數據。FTC如今形同美國聯邦政府的頭號矽谷警察,不時以違反消費者保護法為由對Meta(facebook母公司)、亞馬遜和Twitter開出巨額罰單。

FTC關注AI程式採挖數據不受限

FTC新任主席莉娜汗(Lina Khan)周四亮相眾議院司法委員會聽證會,表明關切ChatGPT等AI應用程式在可以採挖的數據不受限制。然而,有共和黨議員在席上質疑FTC有越權之嫌,例如有關誹謗的案件一般是按州法律來提出檢控。莉娜汗解釋稱,誹謗本身不是FTC執法的焦點,而是按成立FTC的法律,在AI訓練中濫用個人私隱資訊可以構成詐騙或欺騙,她說:「我們關心的是有他人有否造成具體的傷害?傷害可以是各種形式。」

(華盛頓郵報/華爾街日報)

圖 – 聊天機械人ChatGPT開發商Open AI共同創辦人兼首席科學家蘇茨克維(Ilya Sutskever,右)上月5日在以色列特拉維夫大學出席活動,同場還有該公司的行政總裁奧爾特曼(左)。(路透社)

Related posts