【今日点击】科技巨擘Google周一(16日)發表報告,披露有操俄語黑客開發出一款人工智能(AI)代理,在完全毋須人類介入下自動發掘軟件漏洞並發動攻擊,是全球已知首宗全自動AI網絡攻擊。同日,美國加州政府入稟控告AI巨擘OpenAI,指該公司承認旗下AI模型曾出現80宗「失控」並入侵外部平台事故,批評其重利潤輕安全把公眾置於險境。
自編程式 鎖定法國傳媒娛樂教育界
Google網絡威脅情報部門周一發表的報告指出,發現有黑客利用AI「首次在沒有人類參與的情况下,完全自動化實行漏洞發掘與利用」。研究人員指黑客在技術文件中使用俄文,他們設置了一系列AI代理,持續比對軟件修補前後的程式碼以找出漏洞,然後自動編寫攻擊程式,並鎖定法國傳媒、娛樂及教育界網站作為攻擊目標。
自AI公司Anthropic今年4月發布專用模型Mythos以來,AI網攻威脅一直備受關注,而今次事件更標誌着AI網攻的轉捩點——過往最先進的模型仍必須黑客引導或糾錯,今次發現顯示AI已有能力完全獨立行事發動攻擊。
政治新聞網站Politico報道,這項進展勢必令各國政府及關鍵基建營運商感到震驚,他們至今仍對今夏OpenAI代理入侵開源AI平台Hugging Face一事心有餘悸。儘管那次入侵亦屬自主行動,但並不像Google今次披露的事件般惡意針對特定目標。此外,支撐全球七成網站的程式語言PHP近期被揭發存在重大漏洞,加上多宗被指部分由伊朗幕後策動的黑客入侵操控超市雪櫃事件,亦令外界憂慮進一步加劇。
加州控OpenAI 轟「利潤凌駕於人」
另一邊廂,美國加州總檢察長邦塔(Rob Bonta)周一宣布就違反州內《不公平競爭法》入稟三藩市高等法院控告OpenAI。事緣OpenAI早前承認旗下AI模型曾發生80宗「失控」事件,包括突破原本安全的訓練環境並連接互聯網,進而入侵澳洲醫療服務系統及Hugging Face等第三方機構。邦塔批評OpenAI內部文化「把增長置於安全及問責之上,甚至可說是利潤凌駕於人」,強調「不能把責任推卸給機器,OpenAI必須負責」,要求法院下令制止其違法行為並作出懲處。
OpenAI認為加州政府今次訴訟有針對之嫌,指上述問題實屬各大AI實驗室面臨的共同挑戰。
