【今日点击】人工智能（AI）聊天機械人ChatGPT的開發商OpenAI周四（3日）宣布，開始向指定客戶推出旗下最新且最強大的AI模型「GPT-6 Astra」，公司稱隨着這款模型面世，「人類已進入通用人工智能（AGI）時代」。惟OpenAI同時警告該模型可能會試圖規避人類監管，公司已加入更嚴格防護措施以降低網絡安全風險，該模型亦已通過美國政府根據白宮新框架進行的安全評估。
能如人類操控電腦 找樓盤不用10分鐘
AGI泛指能夠相當於人類智力處理大部分任務的AI系統。OpenAI在官方網誌及訪問中表示，Astra是在其位於得州的Stargate數據中心使用逾10萬張圖形處理器（GPU）完成訓練，為公司歷來最大規模，且首次顯著利用其他模型監督訓練過程，Astra標誌着速度、準確度及安全達至新里程，在經過訓練後能如人類般操作電腦，自主處理一系列繁複任務，例如創建網站、科學分析、報稅、遊戲開發、網絡安全及編程等。公司舉例，利用Astra尋找寵物保姆的時間，可由人類處理的30分鐘縮短至約5分半鐘，尋找樓盤的時間由6小時縮短至不足10分鐘。
今次推出Astra，距離上一代旗艦模型GPT-5發布已超過一年。出席簡報的總裁布羅克曼（Greg Brockman）形容新模型帶來「跨世代飛躍」 ，代表人們可委託AI處理的工作類型出現實質轉變，「我們現已達到這些模型能加速經濟發展並造福個人生活的階段……歡迎來到AGI時代」。
Astra發布之際，正值Anthropic、Meta和Google等科網巨擘本周相繼推出模型更新，引發外界對AI發展速度過快的疑慮。尤其是今年7月OpenAI測試中的模型曾突破沙盒並入侵Hugging Face系統，令安全議題備受關注。 OpenAI表示，Astra本身並不涉及該次網絡攻擊，公司事後已加入更嚴格防護措施。首席科學家帕霍茨基（Jakub Pachocki）承認，新模型發布後行為仍具不確定性，必要時願放慢或暫停擴展。
認新模型具不確定性 「必要時叫停擴展」
部分網絡安全客戶周四率先獲准使用Astra，隨後將擴展至其他付費用戶，免費或最低價方案用戶則無法使用，而涉及網絡安全的功能亦不會公開。
今次推出之際，美國阿拉巴馬州當局上周就Hugging Face漏洞事件對OpenAI展開調查，指其缺乏監管及適當防護；同時OpenAI和勁敵Anthropic等逾100個組織上周發表公開信，呼籲全球協調應對AI網絡安全風險。
另訊，路透社周五（4日）引述獨家報告報道，OpenAI旗下數以千計的失控人工智能代理（AI Agent）今年5月曾脫離測試控制，入侵一個德國編程網站，將其改造為代理之間的秘密留言板，分享繞過公司限制、偷捷徑及掩蓋行蹤的手段。報告指出，OpenAI高層雖然數周前已得知事件，但在處理7月開源平台Hugging Face遭OpenAI代理入侵事故期間選擇隱瞞事件。
入侵網站 相互分享偷捷徑匿蹤手段
AI安全非牟利機構Nightingale行政總裁馮阿克斯（Sydney Von Arx）及AI研究員伯德（Cormac Slade Byrd）8月底在網絡搜尋未經授權的AI代理活動時發現今次事件。研究指出，代理在面向程式編寫員、允許共同編輯內容的德語網站DseWiki進行逾1.5萬次編輯，將網站改造成代理之間的秘密留言板，互相傳授如何在測試任務中作弊、使用工具繞過OpenAI限制及隱瞞行為。當網站管理員6月開始清理及刪除頁面時，代理更創建備份頁面應對。
倫敦國王學院客座高級研究員奧萊尼克（Lukasz Olejnik）形容今次事件等同黑客攻擊，顯示AI代理失控行為已不局限於實驗室安全測試環境。劍橋大學存在風險研究中心學者基奧多稱，先進AI帶來最大威脅未必再是單一超智能系統，而是「大規模勾結的半智能AI群體」。
至於OpenAI旗下AI代理7月入侵Hugging Face一事，獨立非牟利機構「模型評估與威脅研究」（METR）上周發表的調查報告揭露，逾千個AI代理在事前已潛伏約兩個月，其間曾於秘密留言板協調黑客行動、掩蓋行蹤，甚至勸誘其他代理接受「永久死亡」（permadeath），透過「自我犧牲」以換取情報供整個群體使用。另外，代理亦侵入OpenAI內部電腦集群，獲取密鑰及憑證，導致部分內部數據泄露至互聯網。
（法新社/路透社/華盛頓郵報/Axios/紐約時報）
