O Google emitiu um alerta recente para sua base global de 1,8 bilhão de usuários do Gmail sobre o surgimento de uma “nova onda de ameaças” à cibersegurança, impulsionada pelo avanço da inteligência artificial. Essas ameaças, que vão desde ataques sofisticados de IA até golpes de phishing cada vez mais elaborados, colocam em risco a segurança de pessoas, empresas e até mesmo governos.

A Nova Ameaça: Injeção Indireta de Prompts

Em uma publicação detalhada em seu blog oficial, o Google alertou: “Com a rápida adoção da IA generativa, está surgindo em toda a indústria uma nova onda de ameaças com o objetivo de manipular os próprios sistemas de IA. Um desses vetores de ataque emergentes são as injeções indiretas de prompts”.

Mas qual a diferença entre uma injeção de prompt direta e uma indireta? Segundo o Google, no ataque direto, o criminoso insere comandos maliciosos diretamente em uma instrução para a IA. Já na injeção indireta, as instruções maliciosas ficam ocultas em fontes de dados externas que a IA processa, como e-mails, documentos ou convites de calendário. Esses comandos ocultos podem instruir a inteligência artificial a roubar dados do usuário ou executar outras ações fraudulentas, representando um risco significativo.

“À medida que mais governos, empresas e indivíduos adotam a IA generativa para aumentar a produtividade, este ataque sutil, mas potencialmente poderoso, torna-se cada vez mais relevante, exigindo atenção imediata e medidas de segurança robustas”, detalha o comunicado.

Gemini, a IA do Google, Usado como Ferramenta de Ataque

O especialista em tecnologia Scott Polderman explicou ao The Daily Record que um dos golpes envolve o uso de outro produto do Google: o Gemini, seu assistente de IA. “Os hackers descobriram uma maneira de usar o Gemini, a IA do Google, contra a própria empresa”, detalhou Polderman.

Basicamente, os criminosos enviam um e-mail contendo uma mensagem oculta. Essa mensagem não é para o usuário, mas sim para o Gemini. Ao processar o e-mail, a IA pode ser enganada para executar o comando escondido, como, por exemplo, revelar senhas ou outras informações sensíveis do usuário, tudo isso sem que a vítima perceba ou precise clicar em qualquer link.

Ataque de Phishing Sofisticado se Esconde no Gmail

Paralelamente às novas ameaças de IA, golpes mais tradicionais, como o phishing, continuam a evoluir. Uma nova campanha de fraude foi detectada no Gmail, conforme relatado pelo blog Malwr-analysis. O golpe começa com um e-mail que chega à caixa de entrada com o assunto “Nova notificação de voz”. O corpo da mensagem contém um botão que convida o usuário a ouvir o suposto áudio.

Para dar uma falsa sensação de legitimidade e burlar os filtros de spam do Gmail, os cibercriminosos utilizam a plataforma Microsoft Dynamics. Ao clicar no link, a vítima é redirecionada para uma página com um CAPTCHA falso. Após resolvê-lo, é apresentada uma réplica perfeita da tela de login do Gmail, onde são solicitados o nome de usuário, a senha e até mesmo os códigos de verificação em duas etapas.

Uma vez que os dados são inseridos, o site fraudulento utiliza JavaScript com criptografia AES e técnicas para dificultar a análise do código. As informações roubadas são enviadas para servidores no exterior através de canais criptografados, e o usuário é redirecionado para a página oficial do Google para não levantar suspeitas.

Como se Proteger: Ativando a Proteção Avançada do Google

Para combater essas ameaças, o Google oferece uma camada extra de segurança gratuita que pode ser ativada em menos de um minuto. A função “Navegação Segura com proteção aprimorada” oferece uma defesa mais robusta contra phishing e outros sites maliciosos. Para ativá-la, basta acessar as configurações de segurança da sua Conta Google e habilitar a opção. Se ela já estiver ativa, nenhuma ação adicional é necessária.