L'Europe veut interdire la création de deepfakes sexuels par IA
Suite à la polémique autour des deepfakes sexuels générés par Grok sur X, l'Union européenne a adopté un texte visant à interdire les IA qui génèrent des visuels de ce type sans consentement. Pas sûr que cela suffise.
Le détournement des intelligences artificielles pour produire des deepfakes sexuels pose un sérieux problème de société. Cette pratique a attiré l'attention des autorités en début d'année, alors que des individus malveillants exploitent l'IA Grok sur X pour dénuder virtuellement les femmes qui postent des photos d'elles sur les réseaux sociaux, sans leur accord bien évidemment.
Face à l'indignation provoquée par cette pratique, le premier réflexe d'Elon Musk, le patron de X, entre autres, avait d'abord été de rendre cette fonction payante afin d'exploiter le filon, avant de faire marche arrière et de mettre en place des restrictions (voir notre article). Mais la polémique avait rapidement pris une dimension internationale, amenant la Commission européenne à ouvrir une enquête.
Mais X est loin d'être le seul concerné par le problème ! Une étude a révélé que l'App Store et le Play Store hébergent eux aussi de nombreuses applis proposant ce genre de "service" malgré leurs règlements. Aussi, face à la multiplication de ces pratiques, les institutions européennes cherchent à durcir rapidement la réglementation, avec l'objectif d'interdire purement et simplement certains usages, comme le rapporte Bloomberg.
Deepfakes sexuels : vers un renforcement de la législation européenne
Théoriquement, il est déjà illégal en Europe de produire et de diffuser des images sexuelles à l'insu d'une personne. Une directive de 2024 sur les violences faites aux femmes pénalise en effet le recours à l'IA pour générer des visuels de ce type, tandis que le Digital Services Act (DSA) oblige les plateformes à retirer les contenus illicites, dont les abus sexuels sur mineurs.
Mais la législation devrait se durcir un peu plus. La commission des libertés civiles (LIBE) du Parlement européen vient d'approuver, en commission, un texte incluant un amendement qui propose de bannir explicitement les outils dits de "nudification", c'est-à-dire les systèmes d'IA générant des images réalistes "visant à représenter des activités sexuellement explicites ou les parties intimes d'une personne physique identifiable" sans son consentement.
Les défenseurs de cette mesure insistent sur les conséquences très concrètes pour les victimes, évoquant des situations de harcèlement, d'humiliation publique et de violence numérique, qui touchent particulièrement les femmes et les enfants.
Cet amendement a été ajouté dans le cadre de l'AI Omnibus, un nouveau règlement en cours d'adoption qui doit permettre de simplifier et d'ajuster l'AI Act. Avec lui, les règles s'appliqueraient aussi aux usages et aux utilisateurs. De ce fait, les plateformes et les développeurs d'IA seraient directement ciblés, et ils auraient l'obligation de rendre impossible, ou du moins particulièrement difficile, la génération de contenus de ce type.
L'amendement sera soumis au vote de l'ensemble des eurodéputés en séance plénière le 26 mars prochain. S'il est validé, le Parlement et les pays membres de l'UE devront ensuite s'entendre sur une formulation similaire pour que la mesure puisse entrer en vigueur.
Deepfakes sexuels : entre innovations technologiques et protection des citoyens
Au-delà de la dimension juridique, ces débats traduisent une inquiétude plus large face à la facilité d'accès à ces technologies. Contrairement aux premiers deepfakes, qui nécessitaient des compétences techniques, les nouveaux outils sont simples d'utilisation et accessibles au grand public, ce qui augmente fortement les abus. La législation doit alors trouver un délicat équilibre entre innovation technologique et protection des droits fondamentaux, afin de ne pas freiner le développement de l'intelligence artificielle tout en encadrant ses usages les plus problématiques.
En tout cas, Elon Musk et Grok ne sont pas sortis d'affaires, loin de là ! L'Union européenne et le Royaume-Uni enquêtent actuellement sur la génération de deepfakes sexuels par l'IA du milliardaire, exposant ce dernier à de lourdes amendes.