馬斯克旗下AI遭濫用 大量生成女性「脫衣」不雅照

【今日点击】全球首富馬斯克旗下人工智能(AI)企業xAI的聊天機械人Grok,涉嫌在社交平台發布大量經AI生成的女性與未成年者不雅圖片,惹國際社會廣泛不滿,其中法國與印度政府展開調查或要求回應。

製真實人物虛假性暴露內容

路透社上周五(2日)報道,過去數日馬斯克旗下社交平台X湧現大量涉及色情照片和投訴,相信是有用戶要求Grok將照片中人「脫衣」,變成看似穿比堅尼甚至幾近裸體,對像多為年輕女性,甚至未成年人。報道指Grok配合部分要求,生成女性穿著半透明比堅尼圖像然後發布。報道稱相關個案超過20宗,但亦有報道指有用戶借此生成真實人物的虛假性暴露內容,並在X平台上散播,受害者包括數百名女性和未成年者,有受害者直言感到被侵犯。

法國政府已向檢察官檢舉,稱這些內容「帶性暗示與性歧視」,「顯然非法」,他們也向法國傳媒監管機構Arcom舉報,以了解是否符合歐盟數碼服務法。印度資訊科技部也致函馬斯克旗下社交平台X的印度分公司,指其未能阻止Grok被濫用於生成與傳播女性不雅內容,限令X在3日內提交因應措施執行報告。Grok在X回應稱,已發現有關漏洞並正緊急修復,強調兒童性虐待材料屬違法且嚴格禁止。路透社透過電郵聯繫xAI尋求回應,其一代表回覆稱這是「傳統傳媒的謊言」。

 

Related posts