Les deepfakes pornographiques fleurissent sur le Web, au point où des sites et des applications se spécialisent dans ce type de contenu. Le pire, c'est que les outils pour créer ces vidéos truquées deviennent accessibles à tous…

Les avancées technologiques sont formidables, mais elles entrainent inévitablement toutes sortes de dérives. C'est le cas des deepfakes, des images – photos ou vidéos – qui utilisent l'intelligence artificielle pour superposer un visage sur un autre visage – et donc reproduire de "fausses" personnes. S'ils sont utilisés dans le monde du cinéma – l'actrice Carrie Fisher a ainsi pu "reprendre" son rôle de la princesse Leia dans Star Wars IX malgré son décès – et peuvent se révéler divertissants – comme sur l'application Snapchat –, ils peuvent aussi être utilisés à des fins malveillantes, au point de devenir un véritable danger sur Internet. Or, comme les deepfakes sont capables de faire dire ou faire n'importe quoi à n'importe qui, ils sont parfois utilisés à des fins pornographiques, entachant l'image des personnes dont l'identité a été volée, qui n'ont bien évidemment pas donné leur consentement. Et le trafic vers les sites qui hébergent ce type de vidéos ne cesse d'augmenter. Pire encore, des applications permettant de réaliser ce genre de montage n'hésitent pas à faire leur publicité sur les réseaux sociaux, comme l'a remarqué NBC News.

Deepfake pornographique : des pubs sur Facebook

Une journaliste a eu le déplaisir de trouver sur Facebook une publicité pour l'application FaceMega mettant en scène une personne avec le visage d'Emma Watson. Celle-ci regarde la caméra d'un air coquin avant de se baisser devant la personne qui filme. La vidéo s'arrête ici, mais elle ne laisse aucun doute sur la suite des événements. Et même si ce n'est jamais dit de façon explicite, le slogan "Insère n'importe quel visage dans la vidéo" couplé aux images est sans équivoque : il s'agit d'une application pour créer des deepfakes pornographiques. De plus, certaines publicités se permettent même d'utiliser le son d'introduction de célèbres vidéos postées sur Pornhub....

D'après l'enquête de la NBC, ce ne sont pas moins de 230 publicités de ce genre qui ont été diffusées sur les réseaux sociaux de Meta durant le week-end du 4 et du 5 mars. Même si FaceMega propose des templates (des modèles avec des éléments modifiables) "innocents", avec des catégories 'Mode", "TikTok" ou "Mariage" par exemple, la catégorie "Hot" permet de s'en donner à cœur joie. Elle propose des vidéos de femmes et d'hommes légèrement vêtus qui dansent et prennent des poses suggestives. Après avoir sélectionné un modèle ou téléchargé leur propre vidéo, les utilisateurs peuvent saisir une simple photo du visage de n'importe qui et recevoir en quelques secondes une version de la vidéo dans laquelle le visage a été modifié. Et autant dire que c'est cette fonction-là qui a le plus de succès ! Une étude de 2019 estime à 96 % la part de montages pornographiques dans le milieu des deepfakes.

"Cela pourrait être utilisé avec les lycéens des écoles publiques qui sont victimes d'intimidation", alerte la journaliste Lauren Barton, qui a signalé la publicité sur Twitter. " Cela pourrait ruiner la vie de quelqu'un. Ils pourraient avoir des problèmes au travail. Et c'est extrêmement facile à faire et gratuit. Tout ce que j'ai eu à faire, c'est de télécharger une photo de mon visage et j'ai eu accès à 50 modèles gratuits." L'application est disponible sur le Play Store et l'App Store depuis 2022. Initialement, elle permettait de créer des deepfakes gratuitement, mais il faut maintenant payer 8 dollars par semaine. Elle stipule pourtant dans ses conditions générales d'utilisateurs qu'elle peut être utilisée par des enfants à partir de 9 ans et qu'elle n'autorise pas la publication de vidéos à caractère pornographique.

Deepfake porno : une explosion de la pratique

Depuis, FaceMega a été supprimé des deux magasins d'applications, mais ce n'est qu'un exemple parmi tant d'autres. Selon l'analyste indépendante Genevieve Oh, le nombre de deepfakes pornographiques sur Internet a doublé depuis 2018. De son côté, Pornhub a décidé de bannir les deepfakes dès 2018. Pour ça, la plateforme utilise une IA qui passe en revue les vidéos mises en ligne. Le problème, c'est que certains contenus sont tellement bien faits qu'ils passent à travers les mailles du filet. Pire encore, des sites payants spécialisés dans les deepfakes pornographiques ont vu le jour. Genevieve Oh a constaté dans ses analyses que le trafic de ces sites Web a explosé ces dernières semaines, mais le problème était déjà là avant, il ne fait que prendre de l'ampleur. En 2021, le média Wired avait découvert un important site de deepfake – dont nous tairons le nom – conçu spécifiquement pour générer de fausses photographies à caractère érotique ou pornographique. Entre janvier et octobre 2021, il avait reçu plus de 50 millions de visiteurs ! Des restrictions ont depuis permis de réduire sa fréquentation, mais il a entre-temps mis au point un véritable business plan pour s'étendre via d'autres sites partenaires.

Il y a quelques semaines, un important scandale a secoué la plateforme Twitch. En effet, en janvier 2023, le streamer Atrioc avait partagé son écran en direct et, dans l'un de ses onglets, des deepfakes pornographiques mettaient en scène de célèbres streameuses comme Pokimane et Higa. On imagine le sentiment d'horreur et d'humiliation que ces femmes ont dû ressentir en se voyant sujettes à de telles vidéos. Depuis, Twitch a durci sa politique et a annoncé la mise en œuvre de sanctions immédiates dès la première infraction constatée allant à l'encontre de ces règles. Mais là encore, ce n'est qu'un exemple, une goutte dans un vaste océan. Et c'est sans compter les forums ou salons privés comme Telegram ou Discord, où des personnes s'échangent des contenus deepfakes à tout va, sans aucun contrôle. Pour ne rien arranger, cette technologie est encore trop peu reconnue du côté de la législation. En France, le deepfake n'est pour le moment spécifié dans aucune loi et bénéficie donc d'une zone grise de la législation. Jusqu'à quand ?