O ChatGPT pode ser usado para escrever malwares?

O ChatGPT provou ser suficientemente bom para produzir respostas para perguntas diversas, trabalhos de pesquisa, respostas jurídicas, diagnósticos médicos e uma série de outras ações que podem perfeitamente serem confundidas com o trabalho de humanos. Em um post publicado anteriormente, destacamos alguns exemplos de como esse chatbot pode ser explorado por cibercriminosos. Mas isso pode realmente ter algum impacto significativo sobre as centenas de milhares de amostras de malware que vemos e processamos todos os dias, ou será uma falsificação fácil de detectar?

Embora os modelos de Machine Learning (ML) tenham sido usados para atividades de análise complexas, eles não são um grande botão vermelho que, quando pressionado, permite "matar malwares". O malware não é tão simples assim. Mas só para ter certeza, contatei alguns dos gurus do ML da ESET e fiz algumas perguntas:

É possível que o ChatGPT seja usado para criar malwares? Se sim, qual poderia ser o nível de qualidade dessas ameaças?

Embora o ChatGPT seja bastante bom na hora de sugerir código, gerar exemplos e fragmentos de código, depurar e otimizar códigos, ou mesmo automatizar documentação, ainda estamos longe de poder criar malwares através da Inteligência Artificial.

E quanto às funções mais avançadas?

Não sabemos se o ChatGPT é tão bom na ofuscação de códigos maliciosos. Alguns dos exemplos estão relacionados com linguagens de sequências de comandos, tais como o Python. Mas vimos o ChatGPT "reverter" o significado de um código desmontado conectado ao IDA Pro, o que é interessante. Portanto, é provavelmente uma ferramenta útil para ajudar um programador, e talvez este seja um primeiro passo para a criação de malwares mais completos, mas ainda não.

Qual o nível de qualidade das respostas produzidas pelo ChatGPT atualmente?

O ChatGPT é impressionante, considerando que é um grande modelo de linguagem e que suas capacidades surpreendem até mesmo os criadores de tais modelos. Entretanto, atualmente é muito superficial, comete erros, cria respostas mais próximas às alucinações (ou seja, respostas fabricadas) e não é realmente confiável para fins sérios. Mas, considerando o número de técnicos que estão testando esta tecnologia, ela aparentemente está ganhando espaço de forma bastante rápida.

O que o ChatGPT pode fazer atualmente? A ferramenta está suficientemente madura para algo?

Por enquanto, podemos ver três aspectos nos quais essa ferramenta pode ser adotada para fins maliciosos:

• Ataques de phishing mais sofisticados

Se você imaginava que o phishing como uma técnica parecia ter resultados convincentes no passado, espere um pouco mais. O ChatGPT permite testar e combinar mais fontes de dados a fim de obter e-mails especificamente projetados e difíceis de serem identificados apenas pelo conteúdo. Estas mensagens prometem ser mais eficazes em termos de número de cliques gerados. Além disso, não será tão fácil detectá-las ao observar erros gramaticais, já que o conhecimento desta plataforma de idiomas nativos é provavelmente melhor do que o seu. Considerando a maioria dos ataques mais desagradáveis começa quando as vítimas clicam em um link que chega através de um e-mail de phishing, é de se esperar que o impacto dessas ações sejam enormes.

• Automação de avisos de resgate

É raro que os operadores de ransomwares sejam especialistas em comunicação, mas o ChatGPT abre a possibilidade de que esses cibercriminosos melhorarem a sua comunicação e passem a ser mais convincentes para as vítimas durante as negociações. Isto também significa menos erros que podem permitir que as vítimas e as polícias possam rastrearem as verdadeiras identidades e localizações dos criminosos.

• Otimização dos golpes por chamadas telefônicas

Com melhorias contínuas na geração de linguagem para que pareça natural, os golpistas ser mais convincentes ao telefone e, desta forma, se fazerem passar por colegas da área que está ligando com a melhor das intenções. Isto é fundamental para os golpistas: tentar falar como se eles fossem um conhecido.

Se tudo isso parece ser um futuro bastante distante, não acredite muito nisso. Tudo isso pode não ocorrer tão rapidamente, mas os criminosos estão prestes a melhorar suas ações e ataques. Vamos ver se a defesa está à altura do desafio.