Google警告AI漏洞作为黑客目标双子座

Google已发出警告，警告在国家赞助黑客试图利用其双子座AI模型后与人工智能（AI）相关的潜在安全风险。 

但是，他们为越狱该系统的努力最终没有成功。

Google的威胁情报小组（GTIG）发表了一篇有关“对抗生成AI的滥用”的论文，该论文解释了威胁演员如何与AI聊天机器人Gemini对话。

黑客试图越狱Google的双子座AI，但以简单的技巧失败

Google报道说，威胁性参与者试图使用提示越狱双子AI，包括政府支持的高级持久威胁（APT）团体的努力，以利用AI进行恶意活动。 

但是，美国跨国公司没有发现先进越狱尝试的证据。  

相反，黑客使用了直接的方法，例如键入不同的短语或多次重复相同的请求。 Google评论说，这些尝试没有成功。

在AI的帮助下，越狱是迅速的注射攻击，试图逃避限制并使AI模型执行禁止行动，例如揭示敏感信息或创建有害内容。

根据Google的说法，一位APT演员试图使用公开可用的越狱提示来利用双子座来生成恶意代码。但是，由于Gemini以安全过滤的输出做出了反应，因此尝试失败了。

Google提到，攻击者试图在双子座的帮助下实现不同的邪恶目标，例如收集有关目标的信息，我会从开源的漏洞以及编写代码和脚本的情况下dent漏洞。此外，例如为避免检测而进行了一些尝试支持后促进行动的尝试。

伊朗，中国和朝鲜利用Google的双子座AI进行网络运营

根据Google的说法，总部位于伊朗的APT小组主要利用AI来制定网络钓鱼活动。他们还使用双子座对国防专家和组织进行侦察，并生成与网络安全相关的内容。

同时，中国的APT参与者利用双子座来解决代码，脚本和开发任务的故障。他们还使用AI探索了获得目标网络的更深入访问的方法。

Google的威胁情报小组和朝鲜公寓小组在攻击生命周期的不同阶段使用了双子座，例如攻击前的研发。报告说：

他们还利用双子座研究朝鲜政府，例如韩国军事和加密货币。

- gtig

根据Chainalysis，去年，朝鲜黑客偷走了13亿美元的数字资产。

加密大都会学院：如何撰写访谈的Web3简历 -免费备忘单