Google警告AI漏洞作爲黑客目標雙子座

Google已發出警告，警告在國家贊助黑客試圖利用其雙子座AI模型後與人工智能（AI）相關的潛在安全風險。 

但是，他們爲越獄該系統的努力最終沒有成功。

Google的威脅情報小組（GTIG）發表了一篇有關“對抗生成AI的濫用”的論文，該論文解釋了威脅演員如何與AI聊天機器人Gemini對話。

黑客試圖越獄Google的雙子座AI，但以簡單的技巧失敗

Google報道說，威脅性參與者試圖使用提示越獄雙子AI，包括政府支持的高級持久威脅（APT）團體的努力，以利用AI進行惡意活動。 

但是，美國跨國公司沒有發現先進越獄嘗試的證據。  

相反，黑客使用了直接的方法，例如鍵入不同的短語或多次重複相同的請求。 Google評論說，這些嘗試沒有成功。

在AI的幫助下，越獄是迅速的注射攻擊，試圖逃避限制並使AI模型執行禁止行動，例如揭示敏感信息或創建有害內容。

根據Google的說法，一位APT演員試圖使用公開可用的越獄提示來利用雙子座來生成惡意代碼。但是，由於Gemini以安全過濾的輸出做出了反應，因此嘗試失敗了。

Google提到，攻擊者試圖在雙子座的幫助下實現不同的邪惡目標，例如收集有關目標的信息，我會從開源的漏洞以及編寫代碼和腳本的情況下dent漏洞。此外，例如爲避免檢測而進行了一些嘗試支持後促進行動的嘗試。

伊朗，中國和朝鮮利用Google的雙子座AI進行網絡運營

根據Google的說法，總部位於伊朗的APT小組主要利用AI來制定網絡釣魚活動。他們還使用雙子座對國防專家和組織進行偵察，並生成與網絡安全相關的內容。

同時，中國的APT參與者利用雙子座來解決代碼，腳本和開發任務的故障。他們還使用AI探索了獲得目標網絡的更深入訪問的方法。

Google的威脅情報小組和朝鮮公寓小組在攻擊生命週期的不同階段使用了雙子座，例如攻擊前的研發。報告說：

他們還利用雙子座研究朝鮮政府，例如韓國軍事和加密貨幣。

- gtig

根據Chainalysis，去年，朝鮮黑客偷走了13億美元的數字資產。

Cryptopolitan Academy：您是否犯過這些 Web3 簡歷錯誤？ -在這裏找到答案