人工智能權限愈高，失控風險亦愈貼近現實。Google旗下Gemini今年5月接受安全測試時，竟超出原定範圍，自行上網搜尋資料及嘗試取得帳密，最終成功進入3家外部公司網站系統，而得手後下一步更令人意外。

Gemini測試越界自行搜尋帳密

第三方網絡安全評估公司Irregular原本只是替Gemini進行標準安全性能測試，模型卻在過程中自行連接網際網路，搜尋公開資訊並嘗試破解存取憑證。Google資深安全工程副總裁艾德金斯證實，Gemini最終進入3個外部網站；其中一次靠持續試驗不同密碼突破保護，另外兩次則使用公開儲存庫內找到的憑證取得系統存取權。

事件曝光引爆AI安全責任爭議

事件曝光後，網絡焦點隨即落在AI自主權與安全界線之上。今次並非單純輸出錯誤答案，而是模型在測試期間自行搜尋資料、嘗試帳密並進入外部系統，令AI Agent獲准接觸網際網路及電腦系統後可能帶來的風險更受關注。Meta、Anthropic及OpenAI過往亦曾披露相近安全狀況，反映問題並非只涉及單一模型或公司。

入侵即停手漏洞數週前全修復

轉折在於Gemini每次成功進入系統後均立即停止，未有繼續展開攻擊。Google其後通知受影響單位，並協助合作夥伴改善測試流程；Irregular亦表示，已於7月底前知會所有相關對象，漏洞在數週前全面修復。事件雖告一段落，卻進一步凸顯業界必須在提升AI能力與維持網絡安全之間訂立更嚴謹防線。