美誤信AI助撰情報圖截中國船 險釀兩國糾紛

【聚焦中美】美國有線新聞網絡(CNN)上周五(18日)報道,今春美伊爆發戰爭期間,美軍曾誤信一份由人工智能(AI)輔助撰寫的情報報告,以為一艘中國貨船在運送核武零件,幾乎要攔截登船,差點擦槍走火釀成兩國糾紛。美國特種作戰司令部與國防部暫時未有回應報道。

報道引述四名知情人士表示,該份美軍情報報告指一艘在中東航行的中國貨船運有核武零件,促使美軍展開攔截部署。惟在軍機已經出動、士兵也準備登船之際,有軍官發現那份由美國特種作戰司令部一名分析員撰寫的報告含有AI聊天機械人生成內容,且聊天機械人對該船貨物清單作出誤判。其中一名知情人士指該份報告「一派胡言」、「差點引發一場戰爭」。

暫不確定涉事聊天機械人是否美國政府出品還是商業產品,但有熟悉美軍及情報分析員所用AI系統的前高官透露,他們大多數使用商業產品的改編版本。

報道指出,在美軍和情報部門官員日益借助AI分析大量原始情報、選擇攻擊目標等情况下,今次事件突顯AI提供的不準確、誤導信息有可能導致災難級決策。

 

Related posts