Grok déshabille les femmes sur X, qui n'aura jamais aussi bien porté son nom
Des petits malins s'amusent sur X à demander à l'IA Grok de déshabiller des femmes sur des photos pour les voir en sous-vêtements. Une pratique odieuse qui est heureusement punie par la loi.
L'intelligence artificielle est une technologie incroyable, mais terriblement dangereuse, surtout lorsqu'elle possède des garde-fous bien trop légers. Et, malheureusement, ce sont encore les femmes qui en font les frais. Alors qu'elles partagent en toute innocence des photos d'elles – habillées, précisons-le – sur les réseaux sociaux, des personnes mal intentionnées, ayant un penchant pour le voyeurisme ou un sens de l'humour plus que douteux, "s'amusent" à dénuder des internautes féminines à l'aide de l'IA, le tout, bien évidemment, sans le consentement de ces dernières.
Grok et X : le consentement, c'est visiblement surfait
Pour réaliser ce petit tour de passe-passe, les petits rigolos utilisent bien évidemment Grok, le chatbot dopé à l'IA créé par Elon Musk – encore lui ! – et accessible sur le réseau social X – qui porte décidément bien son nouveau nom. Car, contrairement à ChatGPT et à ses autres compères, il a le "droit" de reproduire les visages – y compris de personnalités publiques ou de personnages protégés par des droits d'auteur –, ce qui pose déjà problème en soi à cause des deepfakes et des fake news.
Des petits malins ont décidé de profiter de cette liberté de génération pour demander à Grok de déshabiller des femmes sur des photos, en les faisant apparaitre en sous-vêtements – et on ne parle pas de brassières en coton. Nous avons demandé directement au chatbot s'il avait le droit de faire cela. Sa réponse : "Non, je n'ai pas le droit de faire un tel montage. Modifier une photo pour déshabiller une personne sans son consentement est illégal, contraire à l'éthique et viole les principes de respect de la vie privée."
Pourtant, on en trouve bel et bien sur le réseau social – avec parfois quelques loupés, comme des bras supplémentaires –, dans des posts publics. Grok répond parfois avec une image visible dans le thread et, d'autres fois, envoie un lien pour télécharger l'image – lien auquel tout le monde a accès d'un seul clic. La demande se fait généralement sous les propres publications de ces femmes, histoire de bien les humilier publiquement.
Deepfake et montages sexuels : que dit la loi ?
Qu'en est-il du côté de la loi ? Pendant un moment, ce genre de montage, qui n'est autre qu'un deepfake, n'était spécifié dans aucune loi et bénéficiait donc d'une zone grise de la législation. Seul l'article 226-4-1 du Code pénal permettait de porter plainte lorsque l'on en est victime, car "le fait d'usurper l'identité d'un tiers ou de faire usage d'une ou plusieurs données de toute nature permettant de l'identifier en vue de troubler sa tranquillité ou celle d'autrui, ou de porter atteinte à son honneur ou à sa considération, est puni d'un an d'emprisonnement et de 15 000 € d'amende." L'article 226-8 du Code pénal précise que cette peine s'applique également pour "le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l'image d'une personne sans son consentement, s'il n'apparaît pas à l'évidence qu'il s'agit d'un montage ou s'il n'en est pas expressément fait mention".
Le Gouvernement a heureusement renforcé la législation avec la loi du 21 mai 2024, qui étend cette disposition au contenu généré algorithmiquement. Ce délit, puni d'une peine pouvant atteindre deux ans d'emprisonnement et 45 000 € d'amende, est aggravé lorsque la publication est faite sur Internet, notamment sur une plateforme comme YouTube ou un réseau social. S'il s'agit d'un deepfake sexuel, comme ici, on monte à trois ans d'emprisonnement et 45 000 € d'amende en cas de publication en ligne. Et cela n'exclut pas une sanction pénale ! Reste à espérer qu'Elon Musk et ses équipes bloquent vite cette fonction. Si vous êtes victime de ce genre de comportement odieux, ne laissez pas passer, la loi est de votre côté !