A rápida adoção das ferramentas de inteligência artificial generativa está transformando nosso cotidiano e se tornou um dos mercados de maior crescimento nos últimos anos. Nos Estados Unidos, por exemplo, estima-se que essa indústria contribuirá com 21% do produto interno bruto do país em 2030, evidenciando seu impacto na economia global. Além disso, projeta-se um crescimento de 36% no uso dessas tecnologias em todo o mundo nos próximos seis anos.

A facilidade e a acessibilidade da inteligência artificial para o usuário final, assim como seu uso em diversos ambientes de trabalho, geraram a necessidade de adaptar as estratégias de ciberdefesa. É essencial que as mudanças acompanhem a rapidez e a agilidade impostas por esse crescimento acelerado.

No ano passado, alertamos sobre o uso de ferramentas como o chatbot da OpenAI, ChatGPT, para facilitar a criação de malware e a geração de campanhas de phishing mais sofisticadas, destinadas a criminosos com pouca experiência. Recentemente, esse uso foi confirmado, quando a própria OpenAI detectou e desarticulou 20 ciberataques que utilizaram seu ChatGPT para o desenvolvimento e depuração de malware, evasão de detecções e ataques de spear phishing, entre outros.

Na área de cibersegurança, essas tecnologias são empregadas para antecipar e enfrentar as ameaças em constante evolução. A inteligência artificial desempenha um papel fundamental, desde a análise de malware até a detecção e automação de respostas, contribuindo significativamente para o aprimoramento das estratégias de defesa.

No contexto do Antimalware Day—uma iniciativa da ESET, comemorada todo dia 3 de novembro para reconhecer o trabalho dos profissionais da cibersegurança—vamos analisar os principais desafios que o uso da inteligência artificial impõe, como ela é utilizada pelo cibercrime e de que maneira melhora a eficiência das estratégias de cibersegurança.

Usos maliciosos da IA

Embora tenha se tornado evidente após a detecção pela OpenAI de campanhas que utilizaram o ChatGPT para potencializar seus ataques, o uso da inteligência artificial por cibercriminosos é uma preocupação crescente à medida que as tecnologias de machine learning e inteligência artificial se desenvolvem. No início do ano, o FBI emitiu um alerta especial sobre o aumento desse tipo de ameaças envolvendo IA.

Desde a criação de campanhas de phishing mais convincentes—com a redação de mensagens e comunicações que imitam diversas entidades e indivíduos—até a automação de scraping para coletar dados públicos (com fins maliciosos), essas são algumas das maneiras pelas quais o cibercrime tem explorado as facilidades oferecidas pela inteligência artificial desde o início.

A engenharia social, portanto, se torna uma ameaça ainda mais otimizada, especialmente com a capacidade da IA de imitar estilos de escrita pessoais ou mesmo incorporar deepfakes, que evoluíram rapidamente em termos de fidelidade em apenas alguns meses.

Segundo o Centro Nacional de Cibersegurança do Reino Unido (NCSC), esses usos maliciosos agravarão o impacto de ameaças como o ransomware e aumentarão tanto o volume quanto o impacto dos ciberataques nos próximos dois anos.

Benefícios da IA na cibersegurança

A inteligência artificial também oferece benefícios significativos para a cibersegurança, aprimorando a capacidade das organizações de se defenderem contra as ameaças atuais e de prever as que estão por vir.

Alguns dos usos mais destacados da inteligência artificial na cibersegurança incluem:

  • Melhoria da análise de ameaças em tempo real: Os assistentes de IA Generativa (GenIA) permitem o processamento de grandes volumes de dados em tempo real, utilizando algoritmos de aprendizado de máquina que identificam ameaças, detectam comportamentos suspeitos, priorizam alertas e monitoram o tráfego da rede.
  • Redução de erros de configuração: Assistentes de IA podem ajudar a eliminar erros de configuração que poderiam expor sistemas a ataques.
  • Automatização de respostas: Sistemas impulsionados por IA conseguem automatizar as respostas a brechas de segurança, como bloquear IPs maliciosas e isolar seções da rede, tornando a resposta a incidentes mais eficiente e eficaz.
  • Facilidade na análise de malware: A inteligência artificial facilita a análise de malware, permitindo a identificação mais rápida do uso de TTPs (Táticas, Técnicas e Procedimentos).
  • Aumento da produtividade dos Centros de Operações de Segurança (SOC): A capacidade de realizar análises automatizadas reduz os falsos positivos, aliviando a carga de trabalho dos SOC ao priorizar a resposta a alertas legítimos.

Principais desafios para as organizações

Um dos maiores desafios que as organizações enfrentam nesta nova era do cibercrime é a escassez de profissionais especializados em tecnologias de cibersegurança em suas equipes.

Diante do avanço acelerado dessas tecnologias e de seu uso por cibercriminosos, é fundamental que empresas e instituições, assim como suas equipes de resposta, se mantenham atualizadas e preparadas para implementar medidas e políticas de segurança que estejam à altura das novas ameaças.

Neste ponto, segundo dados do último relatório do (ISC)², há uma demanda significativa por profissionais de cibersegurança com habilidades em Machine Learning e Inteligência Artificial. O relatório revela que 90% das organizações identificam lacunas em suas equipes de segurança, e entre elas, um terço aponta como principal a falta de habilidades em IA.

Conclusão

A inteligência artificial está revolucionando a cibersegurança, tornando mais eficientes as análises em tempo real, a automatização de respostas e a redução de erros, fortalecendo a defesa contra ameaças avançadas.

Com a IA, as organizações podem se antecipar a ataques e melhorar a eficiência de suas operações de segurança. A adoção dessas tecnologias, juntamente com a capacitação especializada, é essencial para garantir a resiliência digital em um ambiente cada vez mais complexo.