Anthropic拒華府要求 不放寬AI護欄

【今日点击】美國人工智能(AI)企業Anthropic周四(26日)公開表示拒絕應華府要求,堅持旗下產品Claude不能用於大型本土監控或全自動殺人武器系統的護欄條件。公司行政總裁阿莫迪(Dario Amodei)的聲明表示,美國防長海格塞斯的威脅不會改變公司立場,希望對方可「重新考慮」;阿莫迪強調公司仍以支援美國國防部(戰爭部)及美軍為重要優先,但要「在我們要求的兩個(AI安全)護欄就緒下」。

阿莫迪盼防長「重新考慮」

五角大樓要求Anthropic移除旗下產品Claude的安全護欄並容許任何合法使用,海格塞斯甚至下通牒,如該公司不屈服,就會面臨被劃為「供應鏈風險」,令使用其產品的公司無法獲得美軍訂單,變相打擊Anthropic的生意。在馬斯克旗下的xAI本周較早前跟華府達成類似協議之前,Claude原是唯一被批准用於美軍加密系統的AI模型,甚至已在美軍上月初擄走委內瑞拉總統馬杜羅的軍事行動中曾派上用場。美國全國廣播公司(NBC)周四引述知情人士報道,Anthropic在去年12月跟美國國防部的談判中,已同意華府使用其AI系統用於導彈和網絡防衛,但這間以AI安全為主打的公司始終不肯在護欄問題上讓步。

 

Related posts