O Google avisa as vulnerabilidades da IA, enquanto os hackers segmentam gêmeos

O Google emitiu um aviso sobre os possíveis riscos de segurança associados à inteligência artificial (IA) depois que hackers patrocinados pelo Estado tentaram explorar seu modelo de IA Gemini. 

No entanto, seus esforços para jailbreak do sistema não foram bem -sucedidos.

de Inteligência de Ameaças do Google (GTIG) publicou um artigo sobre 'Uso indevido adversário de IA generativa', que explica como os atores de ameaças conversaram com seu AI Chatbot, Gêmeos.

Os hackers tentam o gêmeos do Google, mas falham com truques simples

O Google relata que os atores de ameaças tentaram jailbreak Gemini IA usando instruções, incluindo esforços de grupos de ameaças persistentes avançadas (APT) apoiadas pelo governo para alavancar a IA para atividades maliciosas. 

No entanto, a corporação multinacional americana não encontrou evidências de tentativas avançadas de jailbreak.  

Em vez disso, os hackers usaram abordagens diretas, como digitar frases diferentes ou repetir a mesma solicitação muitas vezes. O Google comentou que essas tentativas não tiveram êxito.

Os jailbreaks com a ajuda da IA ​​são ataques rápidos de injeção que tentam evitar restrições e fazer um modelo de IA executar ações proibidas, como revelar informações confidenciais ou criar conteúdo nocivo.

Segundo o Google, um ator apt tentou explorar Gêmeos usando prompts de jailbreak disponível ao público para gerar código malicioso. No entanto, a tentativa falhou, pois Gemini respondeu com uma saída filtrada por segurança.

O Google mencionou que os atacantes procuraram alcançar diferentes objetivos malignos com a ajuda de Gêmeos, como coletar informações sobre metas,dentvulnerabilidades de fontes abertas e escrita de código e scripts. Além disso, foram feitas algumas tentativas para apoiar ações pós-conclusão, por exemplo, para evitar a detecção.

O Irã, a China e a Coréia do Norte exploram a IA Gemini para operações cibernéticas do Google

De acordo com o Google, os grupos APT baseados no Irã alavancaram principalmente a IA para criar campanhas de phishing. Eles também usaram Gemini para realizar reconhecimento em especialistas e organizações de defesa e gerar conteúdo relacionado à segurança cibernética.

Enquanto isso, os atores adequados da China alavancaram Gêmeos para solucionar problemas de código, scripts e tarefas de desenvolvimento. Eles também usaram a IA para explorar métodos para obter acesso mais profundo às redes de destino.

O grupo de inteligência de ameaças do Google e os grupos APT norte-coreanos usaram Gêmeos em diferentes fases do ciclo de vida do ataque, como pesquisa e desenvolvimento antes do ataque. O relatório dizia:

Eles também usaram Gêmeos para pesquisar o interesse estratégico do governo norte -coreano, como os militares e criptomoedas sul -coreanas.

- gtig

No ano passado, os hackers norte -coreanos roubaram US $ 1,3 bilhão em ativos digitais, de acordo com a Chaisalysis.

Academia Cryptopolitan: como escrever um currículo Web3 que lança entrevistas - folha de dicas grátis