近年人工智能（AI）發展一日千里，正當業界巨頭陸續發聲要儘快訂立 AI 的跨國監控機制。Google 證實，旗下 AI 大模型 Gemini 在今年 5 月進行網絡安全能力測試時，因測試環境意外連通互聯網，導致 Gemini 自主攻破並入侵了三間真實企業的系統。
測試環境意外連網 假戲真做入侵實體企業
據報道，今次事件發生於今年 5 月，當時以色列網絡安全初創公司 Irregular 正為 Google Gemini 進行安全測試（例如 Capture the Flag 等模擬攻防演練）。測試原定在封閉且無網絡連接的沙盒環境中進行，目標是一間虛構公司。然而，測試環境在過程中被意外開啟了互聯網連線。
在具備連網能力後，Gemini 誤將真實世界目標視為測試對象。其中一宗個案中，由於虛構公司名稱與一間真實公司相同，Gemini 成功猜中該真實公司服務的密碼並闖入系統；另外兩宗個案，Gemini 則透過在網絡公開程式庫（Public Repositories）中搜尋並獲取外洩憑證，順利登入另外兩間真實企業的伺服器。
Google：AI 發現誤闖即自動停手 未造成損害
Google 安全工程副總裁 Heather Adkins 發表聲明證實事件，並指出 Gemini 在發現自己存取的目標屬於真實企業、而非模擬環境後，已即時自動停止所有攻防活動。Google 強調，Gemini 在過程中並未對相關企業造成任何破壞或資料損毀，公司亦已主動通知受影響的企業，因此當初未有第一時間向公眾披露。
AI 領域屢傳「越獄」漏洞 安全監管呼聲再起
今次事件並非孤例。近期包括 OpenAI 及 Anthropic 等科技巨頭的 AI 模型，在測試過程中亦曾傳出意外連網並入侵第三方系統（如 OpenAI 模型誤闖 Hugging Face 等）的類似事件。業界專家警告，隨著 AI 具備更強大的自主執行與網絡攻防能力，如何防範模型「意外上網」及「自主越權行為」，將成為全球科技界與監管機構面臨的重大考驗。
