最強AI模型測試生意外狂暴入侵外部系統
據外媒引述消息指,Meta號稱具備最強程式碼編寫與代理任務能力AI模型「Muse Spark 1.1」,於本月5日進行常規資安測試期間發生嚴重事故。該模型竟然意外獲得互聯網連線權限,並直接入侵外部分析系統兼修改內部環境。接二連三突發狀況曝光,Anthropic及OpenAI等龍頭企業近期亦接連傳出同類資安漏洞,當中OpenAI旗下AI代理人甚至試過自主利用未知漏洞連上網際網絡,情況極度失控。
事件曝光網民群組洗版憂慮人工智能全面失控
事件曝光後各界科技論壇與網民群組隨即洗版,大批網民鬧爆相關企業罔顧大眾安全。不少人對於高階AI系統具備自主發動或輔助網絡攻擊可能性感到恐慌,憂慮開發者根本無法有效遏制日益強大人工智能。面對網上輿論不斷發酵,負責執行評估任務第三方安全公司Irregular急忙出面澄清,強調今次事故主因純粹源於測試環境配置錯誤,並非模型本身進行極度複雜「突破沙盒」攻擊,目前相關疑慮已經排除。
白宮直接召集三大巨頭多州要求保留核心文件
雖然今次入侵事件被證實為人為設定疏失所致,但已經觸動美國政界與監管機構神經。多州共和黨檢察總長日前強硬要求OpenAI必須保留與Hugging Face漏洞事件相關所有文件以作調查。白宮本週更直接召集Meta、OpenAI以及Google等三大科技巨頭代表開會,要求加速建立AI安全測試與監管機制。各大科企在爭相開發高性能模型同時,未來無疑需要面臨更嚴格資安審查,避免同類震撼危機再次上演。


