Grok déshabille les femmes et les enfants sur X : la France ouvre une enquête
De nombreux internautes s'amusent sur X à demander à l'IA Grok de déshabiller des femmes, parfois mineures, sur des photos pour les voir en sous-vêtements. La France a ouvert une enquête judiciaire.
L'intelligence artificielle fascine autant qu'elle inquiète, notamment lorsque ses mécanismes de protection s'avèrent insuffisants. Une dérive dont les femmes sont, une fois encore, les premières victimes. En publiant des photos d'elles-mêmes – pourtant parfaitement vêtues – sur les réseaux sociaux, elles s'exposent à des usages détournés : des individus malveillants exploitent l'IA pour les dénuder virtuellement, sans leur accord bien évidemment. Ce phénomène n'est pas nouveau et avait déjà été pointé du doigt en mai dernier (voir notre article), mais il vient de connaître un regain de popularité plus que problématique. Pire, ces déshabillages concernent également des mineurs, ce qui a poussé la France à ouvrir une enquête.
Contenus pédopornographiques sur X : Grok part en roue libre
Pour réaliser ce petit tour de passe-passe, les petits rigolos utilisent bien évidemment Grok, le chatbot dopé à l'IA créé par Elon Musk et accessible sur le réseau social X. Il suffit de lui soumettre la photo de la personne en question et de lui demander de la mettre en sous-vêtements ou en bikini – et on ne parle pas de brassières en coton. Et il ne s'agit pas d'un phénomène de niche. Il suffit de faire une rapide recherche sur le réseau social pour constater l'abondance de la pratique.
Les chercheurs de l'ONG européenne AI Forensics ont tenté de quantifier le phénomène, en analysant 20 000 images générées par Grok entre le 25 décembre et le 1er janvier, comme le rapporte Le Monde. Il en ressort que plus de la moitié d'entre elles (53 %) représentaient des personnes légèrement vêtues, dont 81 % de femmes. Certaines images – une minorité fort heureusement – représentaient même des enfants de moins de 5 ans.
Après plusieurs jours de signalements d'utilisateurs, le compte officiel de Grok sur X a finalement admis des dysfonctionnements dans ses systèmes de sécurité. "Nous avons identifié des failles dans nos garde-fous et nous les corrigeons de toute urgence – la pédopornographie est illégale et interdite", indique-t-il à un internaute.
Bien entendu, les réactions outrées n'ont pas tardé à pleuvoir à l'international, jusqu'au sein du gouvernement français. Le parquet de Paris, via sa section de lutte contre la cybercriminalité (J3), a annoncé l'élargissement d'une enquête ouverte depuis l'été sur le réseau social X, y ajoutant la génération et la diffusion d'images pédopornographiques. "Le délit de montage à caractère sexuel d'une personne sans son consentement est puni de deux ans d'emprisonnement et de 60 000 euros d'amende", a-t-il rappelé. Le gouvernement a également effectué un signalement auprès de la plateforme Pharos, et l'Arcom a été saisie.