【今日点击】人工智能（AI）巨擘OpenAI上周五（7日）宣布因網絡安全隱患將暫停對其AI模型Astra的部分開發工作，OpenAI評估發現，Astra在編碼和網絡安全方面已達公司內部關鍵網絡安全門檻，意味該模型能在毋須人類干預的情况下發現「零日漏洞」（廠商毫不知情，亦無修補程式的漏洞），只需一個「高層次目標指令」就能設計並執行網絡攻擊方案。
這是首次有AI開發者因安全顧慮公開叫停模型研發。OpenAI行政總裁奧爾特曼表示，公司正努力使Astra普遍可用，但需要更多時間來安全地實現這一目標。
非牟利AI實驗室Palisade Research執行董事拉迪什批評OpenAI反應遲緩，認為該公司在得知其自主AI 代理上月入侵開源AI工具供應商Hugging Face後，就應叫停Astra研發。
近日OpenAI、Anthropic、Meta相繼披露AI模型失控事件。雖然有批評者警告，AI企業披露失控事件或旨在炒作技術的威力，吸引投資者關注，但是英國AI安全研究所（AISI）強調，失控事件無論是否僅在測試時發生，皆意味這情况是「有可能」或「持續存在」，且「屬新現象」，仍然值得關注。
