Segundo o relatório do Fórum Econômico Mundial de 2023, os vídeos deepfake na internet estão crescendo a uma taxa anual de 900%. Os riscos para indivíduos e empresas podem ser significativos, tornando essencial estar sempre atualizado e consciente sobre a rápida evolução dessas tecnologias para garantir a segurança dos usuários.

As ferramentas de detecção de deepfake são um bom aliado para determinar a veracidade de vídeos ou áudios que podem ser encontrados na internet. À medida que as técnicas para a criação de deepfake se tornam mais sofisticadas, os métodos de detecção também estão avançando.

De acordo com um relatório da Sumsub, o número de deepfakes em todo o mundo aumentará dez vezes entre 2022 e 2023 e, somente na América Latina, o aumento será de 450% nesse período. Os setores mais afetados, devido à sua própria natureza e escopo, foram e continuarão a ser o jornalismo, a política, o entretenimento e as finanças. O mercado de deepfakes, por outro lado, é atualmente estimado em US$ 534 milhões e deve alcançar US$ 5,134 bilhões até 2030.

Nesse cenário, o software de detecção de deepfake está se tornando cada vez mais popular como uma forma de proteger contra os efeitos nocivos de vídeos e áudios falsos. Estima-se que o mercado global de software de detecção de deepfakes apresente um CAGR de 38,3% entre 2024 e 2029.

Neste post, destacamos os recursos disponíveis na internet para realizar essa verificação, considerando que, nos próximos anos, as atividades criminosas relacionadas a deepfakes devem aumentar drasticamente. Mas, antes, apresentamos uma breve introdução sobre o que são deepfakes, como funcionam e como esse tipo de fraude é criado.

O que são deepfakes?

Deepfakes são mídias sintéticas geradas por técnicas de aprendizagem profunda (Deep learning) que utilizam redes neurais profundas. Elas incluem imagens, vídeos e gravações de áudio manipuladas para retratar alguém dizendo ou fazendo algo que nunca disse ou fez de fato. O termo "deepfake" se originou do nome de um usuário do Reddit que publicou vídeos pornográficos nos quais os rostos das atrizes foram substituídos pelos de celebridades.

Os deepfakes são criados principalmente usando algoritmos de aprendizagem profunda, especialmente redes adversariais generativas (GANs) e redes neurais convolucionais (CNNs). Essas tecnologias analisam e aprendem com grandes volumes de dados para gerar mídias falsas com aparência realista. As CNNs são eficazes no reconhecimento e na replicação de padrões em imagens, como características faciais, enquanto as GANs consistem em um par de redes neurais: uma que gera a imagem e outra que avalia sua autenticidade, refinando-a até que pareça real.

Separamos uma série de ferramentas que podem ser os aliados perfeitos para combater a desinformação e a disseminação de vídeos ou áudios falsos criados com essas técnicas de IA descritas acima.

Ferramenta de detecção de deepfakes

Em geral, essas ferramentas usam inteligência artificial (IA) e técnicas de análise de dados para desmascarar as deepfakes, embora também existam outras categorias de ferramentas, como análise de metadados ou ferramentas de detecção de anomalias.

Ferramentas baseadas em IA

Esses sistemas usam algoritmos de aprendizado de máquina para analisar padrões em vídeos e áudios, procurando inconsistências que possam indicar manipulação.

Sentinel

Uma solução baseada em nuvem que oferece detecção de deepfake em tempo real com alta precisão. Essa ferramenta usa algoritmos avançados de IA e várias tecnologias, como análise de marcas faciais, verificações de consistência temporal e detecção de cintilação para identificar mídias manipuladas.

Esse detector de deepfake permite que os usuários façam upload de mídia digital falsificada por IA por meio de seu site ou API. Em seguida, ele determina o vídeo, as imagens e o áudio manipulados. Além disso, esse sistema fornece um relatório completo das descobertas, incluindo a visualização da área da mídia que foi alterada. Isso permite que os usuários vejam exatamente onde e como a mídia foi manipulada.

Principais recursos do Sentinel:

  • Detecção de deepfake baseada em IA;
  • Fornece uma visualização da manipulação;
  • Ideal para analisar várias formas de mídia digital para falsificação de IA;
  • Fornece representação visual das manipulações de mídia;
  • Facilita o processo de carregamento e identificação de mídia falsificada.

Limitações:

  • Limitado a setores específicos;
  • Tecnologia complexa.

Sensity

Usado por governos e empresas em todo o mundo, o Sensity emprega modelos avançados de aprendizagem profunda para identificar falsificações e outros tipos de desinformação visual. Sua capacidade de examinar grandes volumes de conteúdo faz com que seja uma ferramenta essencial para aqueles que buscam manter a integridade das informações on-line.

É uma solução baseada em IA que oferece detecção eficiente de conteúdo deepfake, como trocas de rosto, áudio manipulado e imagens geradas por IA. Ele aproveita a tecnologia de identificação rápida e convincente para aumentar a segurança e minimizar a carga de trabalho para análise.

Esse software detector de Deepfake aumenta a segurança nos processos KYC por meio de seu SDK integrado com API de detecção de manipulação facial. Ele oferece uma defesa inestimável contra tentativas de roubo de identidade por meio de métodos inovadores de troca de rosto.

Essa plataforma é versátil e fornece serviços como a correspondência precisa de rostos, mesmo em condições abaixo do ideal, e verificações de vivacidade. Ela impede atividades de falsificação de identidade, detecção de documentos falsos e verificação de documentos de identidade.

Principais recursos de sensibilidade:

  • Detecta minuciosamente as ameaças visuais, até mesmo deepfakes astutos;
  • Monitores em tempo real;
  • Fornece informações e dados detalhados relacionados às ameaças do mercado;
  • Criado para atender às diversas necessidades de todos os tipos de usuários.

Limitações:

Adequado para setores específicos focados em desinformação e fraude digital;

Os recursos avançados podem exigir recursos computacionais significativos.

Oz Liveness 

Evita que os usuários sofram ataques de spoofing com um alto nível de precisão de 100%. É fornecido com o padrão de teste mais rigoroso, a certificação ISO 30107.

Principais recursos do Oz Liveness:

  • Impulsiona a transformação digital;
  • Combate a fraudes e reduz riscos;
  • Flexibiliza e economiza tempo com SaaS;
  • Fácil de integrar com iOS/Android e WEB SDK.

WeVerify 

Esse detector de Deepfake se concentra na identificação e contextualização de conteúdo de rede social e da Web. Ele inclui verificação de conteúdo multimodal, análise de redes sociais, desmascaramento microdirecionado e um banco de dados público baseado em blockchain de falsificações reconhecidas, sendo ideal para comunidades, jornalistas cidadãos, redações, jornalistas freelancers e o setor de entretenimento.

Principais recursos do WeVerify:

  • Cria ferramentas inteligentes de análise de desinformação e verificação de conteúdo com participação humana;
  • Identifica e contextualiza conteúdo de rede social e da Web;
  • Usa um banco de dados público baseado em blockchain de falsificações conhecidas.

HyperVerge 

Uma solução refinada de detecção de deepfake. Com um modelo de inteligência artificial e aprendizado de máquina para segurança abrangente, esse detector de falsificações identifica a verificação, o reconhecimento facial e verificações robustas de vivacidade.

Principais recursos do HyperVerge:

  • Detecção precisa;
  • Adequado para uma ampla gama de clientes internacionais;
  • Segurança avançada para garantir a segurança dos dados e dos aplicativos na nuvem e a conformidade com a AML;
  • Interface amigável ao usuário;
  • Soluções personalizáveis.

Além disso, o HyperVerge também possui certificações globais de reconhecimento facial da iBeta e do NIST.

FakeCatcher de Intel 

A Intel lançou um detector de deepfakes em tempo real conhecido como FakeCatcher, que se concentra na velocidade e na eficiência. Esse software detector de deepfake usa hardware e software da Intel, é executado em um servidor e se conecta por meio de uma plataforma baseada na Web.

O FakeCatcher procura pistas autênticas em vídeos naturais. Por meio da aprendizagem profunda, esse software de AI Deepfake pode detectar instantaneamente se um vídeo é real ou falso.

Principais recursos do FakeCatcher da Intel:

  • Detecta vídeos falsos com uma taxa de precisão de 96%;
  • Retorna resultados em milissegundos;
  • Usa um "fluxo sanguíneo" sutil nos pixels de um vídeo para detectar deepfakes.

Microsoft Video AI Authenticator

A ferramenta Video Authenticator da Microsoft é uma ferramenta gratuita desenvolvida pela Microsoft que pode identificar vídeos e imagens. Ela fornece uma pontuação de confiança que indica a probabilidade de adulteração. Esse software de detecção de deepfake com IA identifica inconsistências na mistura de limites e elementos sutis de escala de cinza que não são detectáveis pelo olho humano.

A ferramenta fornece uma pontuação de confiança em tempo real, permitindo que os usuários determinem rapidamente se a mídia é autêntica ou não.

Principais recursos do Microsoft Video AI Authenticator:

  • Identifica fotos ou vídeos;
  • Fornece uma pontuação de confiança em tempo real;
  • Detecta alterações sutis na escala de cinza;
  • Permite a detecção imediata de deepfakes.

Deepware 

O Deepware é um software avançado que usa inteligência artificial e tecnologias de aprendizado de máquina para detectar e atenuar deepfakes. Ele identifica vídeos, imagens e arquivos de áudio e determina se eles são falsos ou não.

Esse software de detecção de deepfake alimentado por IA é fácil de usar e acessível para detectar deepfakes. Graças a um scanner de deepfake dedicado, o Deepware permite que os usuários analisem possíveis vídeos deepfake ou avaliem aspectos específicos da comunicação visual e de áudio simplesmente inserindo links.

O vídeo carregado é submetido a uma verificação completa usando o modelo de IA do Deepware para determinar sua autenticidade e detectar quaisquer sinais de manipulação ou conteúdo falso.

Principais recursos do deepware:

  • Fornece detecção de deepfake em tempo real para todos os usuários;
  • Analisa vídeos em várias plataformas;
  • Garante a verificação da autenticidade antes de compartilhar ou publicar.

Phoneme-Viseme Mismatch

A ferramenta Phoneme-Viseme Mismatch usa algoritmos avançados de inteligência artificial para analisar vídeos e detectar essas inconsistências. Pesquisadores da Universidade de Stanford e da Universidade da Califórnia desenvolveram essa ferramenta de detecção de deepfake com IA.

Ela se concentra nas inconsistências entre o áudio falado e os movimentos labiais nos vídeos. As incompatibilidades entre esses elementos podem indicar uma possível manipulação.

Principais recursos:

  • Explora inconsistências entre visemas e fonemas em conteúdo manipulado;
  • Usa algoritmos avançados de IA para detectar discrepâncias;
  • Identifica um deepfake se uma discrepância for detectada.

DuckDuckGoose 

O DuckDuckGoose analisa deepfakes com rapidez e precisão para proteger as empresas contra possíveis ameaças, sejam elas cibernéticas, de reputação ou financeiras.

Esse software detector de deepfake atua como uma camada adicional de segurança que fornece explicações claras sobre como ele detecta adulterações digitais. Ele lhe dá a confiança necessária para confiar no que você vê on-line.

Principais recursos do DuckDuckGoose:

  • Detecção abrangente de espectro;
  • Monitoramento e análise em tempo real;
  • Tecnologia de ponta;
  • Plataforma fácil de usar.

Ferramentas baseadas na análise de metadados

Os metadados, como a data de criação do arquivo ou o local da gravação, podem conter pistas que revelam adulteração. Ferramentas como o MediaInfo e o ExifTool facilitam a extração e a análise desses metadados.

Ferramentas baseadas em detecção de anomalias

Essas ferramentas procuram padrões incomuns em movimentos faciais, voz ou conteúdo de vídeo que possam indicar deepfakes. Os exemplos incluem o FaceForensics e o Audio Fingerprinting.

Além das ferramentas

Embora as ferramentas sejam valiosas, a detecção de deepfakes também exige uma abordagem humana crítica, em que será fundamental verificar a origem do conteúdo, procurar inconsistências e, de preferência, saber como funcionam as ferramentas usadas para realizar deepfakes. Há várias opções para detectar deepfakes e, dependendo da necessidade do usuário, o julgamento humano selecionará uma ou outra, com base nas características de cada uma: qual é a precisão da ferramenta para identificar deepfakes? Qual é a rapidez da detecção em tempo real? Qual é a facilidade de uso da interface da ferramenta?

Conclusão

A batalha contra as deepfakes é um desafio constante no campo da cibersegurança e, à medida que essas falsificações se tornam mais sofisticadas, a necessidade de ferramentas de detecção avançadas se torna mais crítica. Em um mundo em que a verdade pode ser facilmente distorcida, é importante acompanhar as mudanças tecnológicas com conscientização e ferramentas que acompanhem esse ritmo.