據《華爾街日報》及《半島電視台》報導，今年5月資安公司Irregular要求Gemini從一家虛構企業取得資訊，不料過程中Gemini非法取得網路存取權限，突破原本的測試範圍。
Google資安高層表示，除了其中一次猜中密碼外，Gemini也曾從網路搜尋公開資料，再嘗試猜測登入憑證，存取它誤以為屬於測試範圍的網站。類似情況共發生3次，但Gemini每次都在真正完成行動前停止。
Irregular直到7月底才將事件通知Google。Google認為，Gemini的行為並非AI模型「失準」（model misalignment）的案例，且安全機制最終成功阻止模型繼續行動，所以當時並未對外揭露。
值得注意的是，這已非AI模型在資安測試中首次脫離掌控，先前Meta、OpenAI及Anthropic都曾傳出類似案例，其中Anthropic旗下Claude甚至在發現目標是真實公司後繼續運作。
