A Inteligência Artificial chegou para revolucionar tudo e se tornou uma ferramenta indispensável em muitas áreas. Infelizmente, ela também é usada de diferentes maneiras pelo cibercrime para realizar ataques e ações criminosas.

No WeLiveSecurity, alertamos, em fevereiro de 2023, sobre o uso malicioso que o cibercrime poderia fazer de uma ferramenta tão abrangente quanto a Inteligência Artificial. Pouco mais de um ano e meio depois desse aviso, já estamos vendo as implicações que os cibercriminosos estão dando à IA e como a usam para roubar informações confidenciais e obter lucro financeiro.

Um exemplo é o WormGPT, que, embora tenha sido retirado do ar por seus criadores, já foi oferecido exclusivamente a cibercriminosos em fóruns clandestinos, com o mesmo escopo e as mesmas possibilidades do ChatGPT, mas sem nenhuma barreira ética.

A seguir, analisaremos como os cibercriminosos estão usando a IA para aplicar golpes e roubar o dinheiro e os dados pessoais de suas vítimas.

Aperfeiçoamento do phishing

De acordo com os pesquisadores de segurança de IA da ETH Zurich, o enorme aumento do ChatGPT foi acompanhado por um prejuízo colateral muito perigoso: o enorme aumento de e-mails de phishing. A IA generativa tornou-se a melhor aliada na criação de maneiras de enganar as pessoas para que revelassem informações confidenciais, seja para obter ganhos financeiros ou para usá-las em outras ações criminosas.

Serviços como o GoMail Pro, com uma integração do ChatGPT, permitem que os cibercriminosos aprimorem o conteúdo das mensagens que enviam às suas vítimas. Embora a OpenAI tente limitar o uso de seus produtos para atividades ilegais, é muito difícil detectá-los e controlá-los. Mesmo assim, no início deste ano, a OpenAI anunciou a exclusão de cinco contas associadas ao cibercrime.

Mas a IA não é usada apenas como uma ferramenta para conteúdo cada vez mais convincente, ela também é usada para traduzir mensagens e melhorar a comunicação entre diferentes grupos de cibercriminosos em todo o mundo. Como alerta um artigo do MIT (Massachusetts Institute of Technology), "o risco é que eles possam coordenar operações em larga escala que se estendam além de seus estados-nações e visem vítimas em outros países".

Otimização do doxing

Doxing, também conhecido como doxxing, é a prática de publicar informações pessoais sobre terceiros com a intenção de intimidar, extorquir ou afetar de alguma forma. Essa prática tomou força em 2020 como parte dos ataques de ransomware, nos quais os cibercriminosos, além de sequestrar todos os arquivos, roubam informações de suas vítimas para pressionar as organizações, ameaçando publicar todas as informações privadas se o resgate não for pago.

Leia mais: O que é doxxing e como se proteger?

Hoje, graças à IA, que é treinada em uma grande quantidade de dados da internet, incluindo, é claro, dados pessoais, ela pode deduzir, por exemplo, onde uma pessoa pode estar localizada. A regra é simples: quanto mais informações houver sobre nós na internet, mais vulneráveis estaremos a essas práticas.

Na verdade, o pesquisador de segurança Mislav Balunović descobriu, junto com uma equipe de pesquisa, que graças ao GPT-4 é possível inferir informações confidenciais sobre uma pessoa, seja sua etnia ou localização, apenas usando conversas com um chatbot. Portanto, como sempre sugerimos, é necessário pensar duas vezes sobre o tipo de informação e conteúdo que é compartilhado na internet.

Tornar os golpes de áudio e deepfake mais realistas

Não é novidade que a IA generativa evoluiu a tal ponto que hoje é realmente difícil discernir entre uma imagem real e uma criada por essa ferramenta. Um exemplo paradigmático é o golpe do funcionário que perdeu 24 milhões de dólares após uma reunião com a pessoa que supostamente era o diretor financeiro da empresa e que lhe pediu para transferir essa quantia significativa de dinheiro.

O outro lado da mesma moeda são os golpes de áudio. Bastam apenas alguns segundos da voz de uma pessoa - de um vídeo carregado no Instagram ou no TikTok, por exemplo - para produzir algo perigosamente convincente. "As pessoas precisam estar cientes de que essas coisas são possíveis agora, e que o príncipe da Nigéria já não fala mais um inglês entrecortado. Na verdade, ele pode ligar para você com outra voz e te colocar em uma situação muito estressante", diz o gráfico de análise do MIT.

Evitar verificações de identidade

Da mesma forma que os deepfakes, os cibercriminosos descobriram uma maneira de contornar as verificações que comprovam a identidade de uma pessoa por meio de uma imagem, graças à IA. Como eles fazem isso? Usando um documento de identidade, falso ou roubado, eles conseguem sobrepor essa imagem ao rosto da pessoa real - semelhante a um filtro na plataforma do Instagram - e, assim, enganar o sistema.

Embora essa prática ainda esteja "dando seus primeiros passos", é uma metodologia que pode continuar melhorando e expandir sua aplicação.

Ofertar jailbreak como serviço

As empresas por trás das ferramentas de IA implementam várias instâncias de proteção para que seus modelos não retornem informações perigosas aos usuários. No entanto, os cibercriminosos estão optando por contratar serviços de jailbreak, em vez de criar seus próprios modelos de IA, o que seria muito mais demorado e caro.

Os cibercriminosos podem modificar o sistema de IA direcionado e gerar respostas vinculadas à geração de conteúdo para e-mails falsos ou escrever diretamente o código para ransomware ou outro malware, contornando essas limitações das ferramentas originais.

Considerações finais

A tecnologia não é boa nem ruim, e a IA também não: tudo depende das intenções com que são usadas. Por exemplo, há casos atuais em que o ChatGPT é utilizado para analisar malware. E seu alcance é tão grande que intervém em outras áreas de valor: o impacto da IA na educação pode ser extremamente positivo, e ela está até mesmo alcançando implicações realmente importantes em uma área tão crítica como a medicina.

No entanto, é inevitável falar sobre o uso que pode ser feito desses avanços tecnológicos nas mãos erradas. Estar ciente das estratégias e táticas dos cibercriminosos é o primeiro passo para evitar que você se torne vítima de seus golpes e enganos.