【聚焦中美】開發Claude系列人工智能（AI）模型的美國科技巨擘Anthropic周四（4日）警告，最新的AI模型已開始出現可能脫離人類控制的迹象，建議全球同步暫停研發最先進的AI系統，特別點名中國和美國需要進行協調。有關倡議勢在華府及矽谷面臨巨大阻力，多名官員與科技高層稱，任何研發停滯均形同將「世紀科技競賽」的主導權拱手讓予中國。
報告指恐毋須人類助進化可變聰明
這份由Anthropic聯合創辦人暨政策主管克拉克（Jack Clark）和內部研究主管法瓦羅（Marina Favaro）聯合撰寫的報告指出，根據公司內部數據，AI已大幅加速自身發展進程，這種加速形成回饋迴路（feedback loop），最終可能導致研究人員所稱的「遞迴式自我改進」（recursive self-improvement），意即AI系統具備自行優化或重寫自身程式碼、架構的能力，進而創造出能力更強的下一代，毋須人類協助就能自我變得更聰明。
「目前我們還沒走到這一步，遞迴式自我改進也並非必然會發生。」報告仍警告這種狀况可能比多數政府和機構預想得更早，「證據顯示，在AI開發流程的每個階段，人類扮演的角色正逐步縮小」。
克拉克周四接受英國廣播公司（BBC）訪問時指出，Claude所使用的編碼已有80%是自己所編寫，有可能在兩年內達到100%，形容現時的AI產業「就像只有油門，卻沒有煞車系統」。
Anthropic比喻AI版「核武軍控條約」
報告稱，全球放慢尖端AI發展速度「可能是件好事」，但警告若只有單一公司暫停研發，競爭對手只會加快腳步，「若缺乏全球協調機制，企業與政府將不得不在激烈競爭與地緣政治壓力下，做出艱難的安全相關決策」。Anthropic將這項挑戰比喻為「核武軍備控制條約」，但是AI更難管控，因為AI訓練過程遠比導彈發射井更容易隱藏，各方私下持續開發的誘惑也將極為巨大，要令「暫緩令」奏效，必須美中兩國等全球主要AI巨擘與政府達成共識，並建立可切實核查的機制，難度極高。該公司表示，計劃在未來數月召集各國官員、科學家、倡議團體及競爭企業，共同研議這類機制如何運作。
有關提議在華府和矽谷恐將面臨重重阻礙。業內同行及白宮官員認為，Anthropic過度聚焦最壞情况、誇大風險，實際上是以安全為名拖慢競爭對手策略，一旦美國AI發展減速，就可能讓中國在這場被視為本世紀最關鍵的科技競賽中取得決定性戰略優勢。
談中美合作 毛寧：AI非大國專利
不過，美國總統特朗普自言在近日訪問北京期間曾與中方商討在AI安全議題上合作的可能性。他本周簽署行政命令，在AI開發商發布其最強大的AI模型前，授權政府進行為期30天的初步審查。目前白宮已對Anthropic旗下Mythos（神話）模型展現的威力感到警惕，因該模型具備極強的網絡安全攻防能力，目前被禁對外開放。《金融時報》周四報道，華府已利用Mythos發動網絡攻擊。
中國外交部發言人毛寧昨在例行記者會就中美AI合作的提問答道，人工智能不是大國的專利，更不應滑向競爭對抗；並表示以下月在上海舉辦的2026世界人工智能大會暨人工智能全球治理高級別會議為契機，同各方加強人工智能全球治理。
（法新社/華爾街日報/金融時報/BBC）
