Deepfakes: golpes de sextorsão são impulsionados por essa tecnologia

O Departamento Federal de Investigação dos Estados Unidos (FBI) está alertando sobre o aumento de campanhas de extorsão, onde criminosos utilizam ferramentas de inteligência artificial prontamente disponíveis para criar deepfakes sexualmente explícitos a partir de fotos inocentes de pessoas, e em seguida, as assediam ou chantageiam.

De acordo com um recente Comunicado de Serviço Público divulgado pelo FBI, o órgão tem recebido um número crescente de relatos de vítimas "cujas fotos ou vídeos foram alterados para conteúdo explícito". Os vídeos, envolvendo adultos e menores de idade, são divulgados em redes sociais ou sites pornográficos.

Preocupantemente, a rápida evolução da tecnologia permite que praticamente qualquer pessoa crie conteúdo explícito adulterado que aparenta envolver adultos ou até mesmo crianças sem o seu consentimento. Isso leva ao assédio, chantagem e principalmente à sextorsão.

Às vezes, a própria vítima encontra o conteúdo, outras vezes são alertadas por alguém, e às vezes são contatadas diretamente pelo criminoso. Normalmente, em seguida, os criminosos podem:

Exigir um pagamento em dinheiro, caso contrário, compartilhará o conteúdo com amigos e familiares.
Exigir imagens ou vídeos sexualmente explícitos genuínos.

Outras formas de sextorsão

Este último pode envolver sextorsão, uma forma de chantagem em que o criminoso engana ou coage a vítima a compartilhar conteúdo sexualmente explícito de si mesma e, em seguida, ameaça divulgá-lo a menos que sejam pagos ou que mais imagens/vídeos sejam enviados. É uma tendência em rápido crescimento, sobre a qual o FBI tem sido obrigado a emitir alertas públicos ao longo do último ano.

Geralmente, em casos de sextorsão, a vítima é abordada na internet por alguém que finge ser outra pessoa. Essa pessoa engana a vítima até obter as imagens/vídeos explícitos. No caso da extorsão impulsionada por deepfake, as imagens falsas são o meio pelo qual as vítimas são chantageadas - não é necessário estabelecer amizade.

Em um contexto relacionado, alguns criminosos realizam golpes de sextorsão por meio de e-mails nos quais afirmam ter instalado malware no computador da vítima, supostamente permitindo gravar o indivíduo assistindo a conteúdo pornográfico. Eles incluem detalhes pessoais, como uma senha antiga de e-mail obtida em um vazamento de dados histórico, para tornar a ameaça - quase sempre vazia - mais realista. O fenômeno dos golpes de sextorsão por e-mail surgiu com o aumento da conscientização pública sobre a ameaça em si.

O problema com os deepfakes

Os deepfakes são criados usando redes neurais, o que permite aos usuários falsificar efetivamente a aparência ou o áudio de uma pessoa. No caso de conteúdo visual, eles são treinados para receber uma entrada de vídeo, comprimi-la por meio de um codificador e, em seguida, reconstruí-la com um decodificador. Isso pode ser usado para transpor efetivamente o rosto de uma pessoa para o corpo de outra e fazer com que ele imite os mesmos movimentos faciais da segunda pessoa.

A tecnologia existe há algum tempo. Um exemplo viral foi um vídeo de Tom Cruise jogando golfe, fazendo mágica e comendo pirulitos, que recebeu milhões de visualizações antes de ser removido. A tecnologia também foi usada para inserir rostos de celebridades e outras pessoas em vídeos obscenos.

A má notícia é que a tecnologia está se tornando cada vez mais acessível para qualquer pessoa e está amadurecendo ao ponto em que até mesmo pessoas com pouca experiência técnica podem usá-la com efeitos bastante convincentes. É por isso que o FBI e outras instituições estão preocupados.

Como vencer os criadores de deepfakes

Uma vez que esse conteúdo sintético é divulgado, as vítimas podem enfrentar "desafios significativos para impedir o compartilhamento contínuo do conteúdo manipulado ou sua remoção da internet". Isso pode ser mais difícil nos Estados Unidos do que na União Europeia, onde as regras do GDPR em relação ao "direito ao esquecimento" exigem que os provedores de serviços removam conteúdos específicos mediante solicitação do indivíduo. No entanto, mesmo assim, seria uma experiência angustiante para os pais ou seus filhos.

No mundo digital, sempre conectado e de compartilhamento constante, muitos de nós publicamos e criamos uma quantidade enorme de vídeos e fotos pessoais disponíveis na internet. Essas imagens são inofensivas o suficiente, mas infelizmente muitas delas estão prontamente disponíveis para visualização por qualquer pessoa. Aqueles com intenções criminosas sempre encontram uma maneira de usar esses recursos visuais e a tecnologia disponível para fins nefastos. É aí que muitos deepfakes entram em cena, já que hoje em dia quase qualquer pessoa pode criar esse tipo de conteúdo sintético, mas convincente.

É melhor se antecipar à tendência agora, para minimizar os danos potenciais para você e sua família. Veja algumas medidas para reduzir o risco de se tornar uma vítima de um deepfake e minimizar as consequências potenciais se o pior cenário ocorrer:

Para você:

Pense sempre duas vezes antes de publicar imagens, vídeos e outros conteúdos pessoais. O conteúdo mais inofensivo teoricamente pode ser usado por criminosos, sem o seu consentimento, para criar um deepfake;
Aprenda sobre as configurações de privacidade em suas contas de redes sociais. Torne seus perfis e listas de amigos privados, para que imagens e vídeos sejam compartilhados apenas com aqueles que você conhece;
Sempre tenha cautela ao aceitar solicitações de amizade de pessoas que você não conhece;
Nunca envie conteúdo para pessoas que você não conhece. Esteja especialmente atento a indivíduos que pressionam para ver conteúdo específico;
Desconfie de "amigos" que agem de maneira incomum na internet. A conta deles pode ter sido atacada e utilizada para obter conteúdo e outras informações;
Sempre use senhas complexas e únicas e autenticação em dois fatores para proteger suas contas de redes sociais;
Faça buscas regulares sobre si mesmo na internet para identificar qualquer informação pessoal ou conteúdo de vídeo/imagem disponível publicamente;
Considere fazer buscas reversas de imagens para encontrar fotos ou vídeos que tenham sido publicados na internet sem o seu conhecimento;
Nunca envie dinheiro ou conteúdo gráfico para indivíduos desconhecidos. Eles só pedirão mais;
Denuncie qualquer atividade de sextorsão à polícia e à plataforma de redes sociais relevante;
Denuncie o conteúdo deepfake à(s) plataforma(s) em que foi publicado.

Para os pais:

Realize buscas regulares na internet sobre seus filhos para identificar quanta informação pessoal e conteúdo está disponível publicamente na web;
Monitore a atividade on-line de seus filhos, dentro dos limites razoáveis, e discuta com eles os riscos associados ao compartilhamento de conteúdo pessoal;
Pense duas vezes antes de publicar conteúdo de seus filhos em que seus rostos sejam visíveis.

A tecnologia de deepfake barata continuará sendo aprimorada, democratizando a extorsão e o assédio. Talvez seja o preço que pagamos por uma internet aberta. Mas agindo com mais cautela on-line, podemos reduzir as chances de algo ruim acontecer.