A rápida adoção das ferramentas de inteligência artificial generativa está transformando nosso cotidiano e se tornou um dos mercados de maior crescimento nos últimos anos. Nos Estados Unidos, por exemplo, estima-se que essa indústria contribuirá com 21% do produto interno bruto do país em 2030, evidenciando seu impacto na economia global. Além disso, projeta-se um crescimento de 36% no uso dessas tecnologias em todo o mundo nos próximos seis anos.
A facilidade e a acessibilidade da inteligência artificial para o usuário final, assim como seu uso em diversos ambientes de trabalho, geraram a necessidade de adaptar as estratégias de ciberdefesa. É essencial que as mudanças acompanhem a rapidez e a agilidade impostas por esse crescimento acelerado.
No ano passado, alertamos sobre o uso de ferramentas como o chatbot da OpenAI, ChatGPT, para facilitar a criação de malware e a geração de campanhas de phishing mais sofisticadas, destinadas a criminosos com pouca experiência. Recentemente, esse uso foi confirmado, quando a própria OpenAI detectou e desarticulou 20 ciberataques que utilizaram seu ChatGPT para o desenvolvimento e depuração de malware, evasão de detecções e ataques de spear phishing, entre outros.
Na área de cibersegurança, essas tecnologias são empregadas para antecipar e enfrentar as ameaças em constante evolução. A inteligência artificial desempenha um papel fundamental, desde a análise de malware até a detecção e automação de respostas, contribuindo significativamente para o aprimoramento das estratégias de defesa.
No contexto do Antimalware Day—uma iniciativa da ESET, comemorada todo dia 3 de novembro para reconhecer o trabalho dos profissionais da cibersegurança—vamos analisar os principais desafios que o uso da inteligência artificial impõe, como ela é utilizada pelo cibercrime e de que maneira melhora a eficiência das estratégias de cibersegurança.
Usos maliciosos da IA
Embora tenha se tornado evidente após a detecção pela OpenAI de campanhas que utilizaram o ChatGPT para potencializar seus ataques, o uso da inteligência artificial por cibercriminosos é uma preocupação crescente à medida que as tecnologias de machine learning e inteligência artificial se desenvolvem. No início do ano, o FBI emitiu um alerta especial sobre o aumento desse tipo de ameaças envolvendo IA.
Desde a criação de campanhas de phishing mais convincentes—com a redação de mensagens e comunicações que imitam diversas entidades e indivíduos—até a automação de scraping para coletar dados públicos (com fins maliciosos), essas são algumas das maneiras pelas quais o cibercrime tem explorado as facilidades oferecidas pela inteligência artificial desde o início.
A engenharia social, portanto, se torna uma ameaça ainda mais otimizada, especialmente com a capacidade da IA de imitar estilos de escrita pessoais ou mesmo incorporar deepfakes, que evoluíram rapidamente em termos de fidelidade em apenas alguns meses.
Segundo o Centro Nacional de Cibersegurança do Reino Unido (NCSC), esses usos maliciosos agravarão o impacto de ameaças como o ransomware e aumentarão tanto o volume quanto o impacto dos ciberataques nos próximos dois anos.
Benefícios da IA na cibersegurança
A inteligência artificial também oferece benefícios significativos para a cibersegurança, aprimorando a capacidade das organizações de se defenderem contra as ameaças atuais e de prever as que estão por vir.
Alguns dos usos mais destacados da inteligência artificial na cibersegurança incluem:
- Melhoria da análise de ameaças em tempo real: Os assistentes de IA Generativa (GenIA) permitem o processamento de grandes volumes de dados em tempo real, utilizando algoritmos de aprendizado de máquina que identificam ameaças, detectam comportamentos suspeitos, priorizam alertas e monitoram o tráfego da rede.
- Redução de erros de configuração: Assistentes de IA podem ajudar a eliminar erros de configuração que poderiam expor sistemas a ataques.
- Automatização de respostas: Sistemas impulsionados por IA conseguem automatizar as respostas a brechas de segurança, como bloquear IPs maliciosas e isolar seções da rede, tornando a resposta a incidentes mais eficiente e eficaz.
- Facilidade na análise de malware: A inteligência artificial facilita a análise de malware, permitindo a identificação mais rápida do uso de TTPs (Táticas, Técnicas e Procedimentos).
- Aumento da produtividade dos Centros de Operações de Segurança (SOC): A capacidade de realizar análises automatizadas reduz os falsos positivos, aliviando a carga de trabalho dos SOC ao priorizar a resposta a alertas legítimos.
Principais desafios para as organizações
Um dos maiores desafios que as organizações enfrentam nesta nova era do cibercrime é a escassez de profissionais especializados em tecnologias de cibersegurança em suas equipes.
Diante do avanço acelerado dessas tecnologias e de seu uso por cibercriminosos, é fundamental que empresas e instituições, assim como suas equipes de resposta, se mantenham atualizadas e preparadas para implementar medidas e políticas de segurança que estejam à altura das novas ameaças.
Neste ponto, segundo dados do último relatório do (ISC)², há uma demanda significativa por profissionais de cibersegurança com habilidades em Machine Learning e Inteligência Artificial. O relatório revela que 90% das organizações identificam lacunas em suas equipes de segurança, e entre elas, um terço aponta como principal a falta de habilidades em IA.
Conclusão
A inteligência artificial está revolucionando a cibersegurança, tornando mais eficientes as análises em tempo real, a automatização de respostas e a redução de erros, fortalecendo a defesa contra ameaças avançadas.
Com a IA, as organizações podem se antecipar a ataques e melhorar a eficiência de suas operações de segurança. A adoção dessas tecnologias, juntamente com a capacitação especializada, é essencial para garantir a resiliência digital em um ambiente cada vez mais complexo.