Abus de confiance : Ce qu'il faut savoir sur les systèmes de sextorsion basés sur les deepfakes

Le Federal Bureau of Investigation (FBI) des États-Unis met en garde contre une augmentation des campagnes d'extorsion dans lesquelles des personnes malveillantes utilisent des outils d'intelligence artificielle (IA) facilement accessibles pour créer des deepfakes sexuellement explicites à partir de photos innocentes de personnes, puis les harcèlent ou les font chanter.

Selon son récent message d'intérêt public, le Bureau a reçu un nombre croissant de rapports de victimes "dont les photos ou les vidéos ont été modifiées en contenu explicite" Les vidéos, mettant en scène des adultes et des mineurs, sont diffusées sur les médias sociaux ou les sites pornographiques.

Il est inquiétant de constater que les nouvelles technologies permettent à presque n'importe qui de créer des contenus explicites falsifiés qui semblent mettre en scène des adultes non consentants, voire des enfants. Cela conduit ensuite au harcèlement, au chantage et à la sextorsion en particulier.

Parfois, la victime trouve le contenu elle-même, parfois elle en est informée par quelqu'un d'autre, et parfois elle est contactée directement par l'acteur malveillant. Il se passe alors deux choses :

L'acteur malveillant exige un paiement, faute de quoi il partagera le contenu avec ses amis et sa famille
Il demande des images ou des vidéos authentiques à caractère sexuel

Un autre moteur de la sextorsion

Dans ce dernier cas, il peut s'agir de sextorsion, une forme de chantage où l'auteur de la menace incite ou contraint la victime à partager des images sexuellement explicites d'elle-même, puis menace de les divulguer si la victime ne le paie pas ou n'envoie pas d'autres images/vidéos. Il s'agit d'une autre tendance en plein essor à propos de laquelle le FBI a été contraint de lancer des avertissements publics au cours de l'année écoulée.

En général, dans les cas de sextorsion, la victime se lie d'amitié en ligne avec un individu qui prétend être quelqu'un d'autre. Il la fait marcher jusqu'à ce qu'elle reçoive les images/vidéos explicites. Dans le cas de l'extorsion par deepfake, les fausses images sont le moyen par lequel les victimes sont rançonnées - il n'est pas nécessaire de se lier d'amitié avec quelqu'un d'autre.

Dans lemême ordre d'idées, certains criminels pratiquent l'escroquerie à la sextorsion en envoyant des courriels dans lesquels ils prétendent avoir installé un logiciel malveillant sur l'ordinateur de la victime, ce qui leur aurait permis d'enregistrer la personne en train de regarder un film pornographique. Ils incluent des détails personnels tels qu'un ancien mot de passe de messagerie obtenu à la suite d'une violation de données, afin de rendre la menace - presque toujours en l'air - plus réaliste. Le phénomène des courriels frauduleux de sextorsion est né d'une sensibilisation accrue du public à la sextorsion elle-même.

Le problème des deepfakes

Lesdeepfakes sont construits à l'aide de réseaux neuronaux, ce qui permet aux utilisateurs de simuler efficacement l'apparence ou le son d'une personne. Dans le cas d'un contenu visuel, les réseaux sont entraînés à prendre une vidéo, à la compresser au moyen d'un encodeur, puis à la reconstruire au moyen d'un décodeur. Cela pourrait être utilisé pour transposer efficacement le visage d'une cible sur le corps d'une autre personne et lui faire imiter les mêmes mouvements faciaux que cette dernière.

Cette technologie existe depuis un certain temps. Un exemple viral était une vidéo de Tom Cruise jouant au golf, faisant de la magie et mangeant des sucettes, qui a été visionnée des millions de fois avant d'être supprimée. La technologie a également été utilisée pour insérer les visages de célébrités et d'autres personnes dans des vidéos obscènes.

La mauvaise nouvelle, c'est que cette technologie devient de plus en plus facilement accessible à tous et qu'elle évolue au point que les novices en la matière peuvent l'utiliser de manière assez convaincante. C'est pourquoi le FBI n'est pas le seul à s'inquiéter.

Comment vaincre les "deepfakers

Une fois que ces contenus synthétiques sont diffusés, les victimes peuvent être confrontées à "des difficultés considérables pour empêcher le partage continu des contenus manipulés ou leur retrait de l'internet" Cela pourrait être plus difficile aux États-Unis que dans l'UE, où les règles du RGPD concernant le "droit à l'effacement" obligent les fournisseurs de services à retirer un contenu spécifique à la demande de l'individu. Cependant, même dans ce cas, ce serait une expérience pénible pour les parents ou leurs enfants.

Dans le monde numérique où tout doit être partagé en permanence, nous sommes nombreux à publier et à créer une montagne de vidéos et de photos personnelles éparpillées sur l'internet. Ces images et ces vidéos sont assez inoffensives, mais malheureusement, elles sont souvent accessibles à tout le monde. Les personnes mal intentionnées semblent toujours trouver un moyen d'utiliser ces ressources visuelles et la technologie disponible à des fins malveillantes. C'est là qu'interviennent les "deepfakes" car, de nos jours, presque n'importe qui peut créer des contenus synthétiques mais convaincants.

Mieux vaut prendre de l'avance sur la tendance dès maintenant, afin de minimiser les dommages potentiels pour vous et votre famille. Envisagez les mesures suivantes pour réduire le risque d'être victime d'un "deepfake" et pour minimiser les retombées potentielles si le pire scénario se produit :

Pour vous :

Réfléchissez toujours à deux fois avant de publier des images, des vidéos et d'autres contenus personnels. Le contenu le plus inoffensif peut théoriquement être utilisé par des acteurs malveillants sans votre consentement pour se transformer en "deepfake".
Renseignez-vous sur les paramètres de confidentialité de vos comptes de médias sociaux. Il est judicieux de rendre les profils et les listes d'amis privés, afin que les images et les vidéos ne soient partagées qu'avec les personnes que vous connaissez.
Soyez toujours prudent lorsque vous acceptez des demandes d'amis de personnes que vous ne connaissez pas.
N'envoyez jamais de contenu à des personnes que vous ne connaissez pas. Méfiez-vous particulièrement des personnes qui exercent une pression sur vous pour que vous voyiez un contenu spécifique.
Méfiez-vous des "amis" qui commencent à se comporter de manière inhabituelle en ligne. Leur compte peut avoir été piraté et utilisé pour obtenir du contenu et d'autres informations.
Utilisez toujours des mots de passe complexes et uniques, ainsi qu'une authentification multifactorielle (AMF) pour sécuriser vos comptes de médias sociaux.
Effectuez régulièrement des recherches sur vous-même en ligne afin d'identifier toute information personnelle ou tout contenu vidéo/image accessible au public.
Envisagez des recherches d'images inversées pour trouver des photos ou des vidéos qui ont été publiées en ligne à votre insu.
N'envoyez jamais d'argent ou de contenu graphique à des inconnus. Ils ne feront qu'en redemander.
Signalez toute activité de sextorsion à la police et à la plateforme de médias sociaux concernée.
Signalez les contenus "deepfake" aux plateformes sur lesquelles ils ont été publiés.

Pour les parents :

Effectuez régulièrement des recherches en ligne sur vos enfants afin de déterminer la quantité d'informations et de contenus personnels accessibles au public en ligne.
Surveillez l'activité en ligne de vos enfants, dans la mesure du raisonnable, et discutez avec eux des risques associés au partage de contenus personnels.
Réfléchissez à deux fois avant de publier des contenus de vos enfants où leur visage est visible.

La technologie du "deepfake" bon marché continuera à s'améliorer, démocratisant l'extorsion et le harcèlement. C'est peut-être le prix à payer pour un internet ouvert. Mais en agissant avec plus de prudence en ligne, nous pouvons réduire les risques d'incident.