Deepfake porno : le Gouvernement s'attaque au fléau d'Internet

Face au problème grandissant que représentent les deepfakes pornographiques, le Gouvernement prend les mesures nécessaires. Un projet de loi prévoit de porter jusqu'à trois ans d'emprisonnement la publication de ces montages.

L'intelligence artificielle est une technologie incroyable, mais terriblement dangereuse, et ce ne sont pas les deepfakes qui vont nous faire dire le contraire ! En effet, ces images – photos ou vidéos – utilisent l'IA pour superposer un visage sur un autre visage – et donc reproduire de "fausses" personnes. S'ils sont utilisés dans le monde du cinéma – pour faire revenir des acteurs décédés par exemple – et peuvent se révéler divertissants – comme sur l'application Snapchat –, ils peuvent aussi être utilisés à des fins malveillantes, au point de devenir un véritable danger sur Internet. Or, comme les deepfakes sont capables de faire dire ou faire n'importe quoi à n'importe qui, ils sont parfois utilisés à des fins pornographiques, entachant l'image des personnes dont l'identité a été volée, qui n'ont bien évidemment pas donné leur consentement.

Les célébrités en font parfois les frais, à l'image du scandale qui a secoué la plateforme Twitch en janvier 2023. Le streamer Atrioc avait partagé son écran en direct et, dans l'un de ses onglets, des deepfakes pornographiques mettaient en scène de célèbres streameuses comme Pokimane et Higa. Plus récemment, l'influenceuse Léna Mahfouf, alias Léna Situations, a découvert son visage sur un corps nu ne lui appartenant pas. "Ils ont capturé une image de l'une de mes vidéos et l'ont collé sur un corps qui ne m'appartient pas. Et il y a tellement de meufs sur Internet qui vivent cela", déplore-t-elle dans une de ses vidéos. Le ministre délégué chargé du Numérique, Jean-Noël Barrot, n'a pas manqué de réagir, regrettant que les deepfakes pornographiques soient "un angle mort de notre droit". Un projet de loi, porté par le Gouvernement, est toutefois en cours pour y remédier.

Deepfake porno : une pratique à encadrer d'urgence

Avec les progrès impressionnants de l'IA, les deepfakes, en particulier pornographiques, se multiplient. D'après une étude de la société de cybersécurité DeepTrace, 96 % des deepfakes sur Internet sont des contenus pornographiques. Pour ne rien arranger, des applications permettant de réaliser ce genre de montage n'hésitent pas à faire leur publicité sur les réseaux sociaux, rendant la création de deepfakes pornographiques accessible à tous, y compris à ceux qui n'ont pas forcément les compétences pour en réaliser des convaincants (voir notre article). Pire encore, ces trucages sont parfois utilisés pour pratiquer de la sextorsion, le maître chanteur menaçant sa victime de diffuser le contenu pornographique sur Internet si elle ne cède pas à ses demandes (voir notre article). Et ça, c'est quand il prend la peine de la prévenir !

En France, le deepfake n'est pour le moment spécifié dans aucune loi et bénéficie donc d'une zone grise de la législation. Seul l'article 226-4-1 du Code pénal permet de porter plainte lorsque l'on en est victime, car "le fait d'usurper l'identité d'un tiers ou de faire usage d'une ou plusieurs données de toute nature permettant de l'identifier en vue de troubler sa tranquillité ou celle d'autrui, ou de porter atteinte à son honneur ou à sa considération, est puni d'un an d'emprisonnement et de 15 000 € d'amende." L'article 226-8 du Code pénal précise que cette peine s'applique également pour "le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l'image d'une personne sans son consentement, s'il n'apparaît pas à l'évidence qu'il s'agit d'un montage ou s'il n'en est pas expressément fait mention". Une peine trop légère aux yeux du Gouvernement, qui compte bien durcir le ton.

Dans le projet de loi du numérique, adopté à l'unanimité par le Sénat en juillet dernier, le Gouvernement a rajouté un amendement contenant l'article 5 ter, qui vient renforcer l'article 226‑8 du Code pénal sur les montages sans consentement, et punit de deux ans d'emprisonnement et 60 000 euros d'amende toute publication de montage à caractère sexuel. Cette peine est portée à trois ans d'emprisonnement et 75 000 euros d'amende, si les images utilisées proviennent d'une photo ou d'une vidéo publiée sur des réseaux sociaux. Le texte sera présenté en deuxième lecture à l'Assemblée nationale en septembre.