Souriez ! Cet appareil photo vous déshabille automatiquement grâce à l'intelligence artificielle

Souriez ! Cet appareil photo vous déshabille automatiquement grâce à l'intelligence artificielle

Aujourd'hui, vous pouvez déshabiller n'importe qui en quelques secondes à l'aide d'un simple appareil photo et un peu d'IA. Terrifiant !

Imaginez : un jour, alors que vous surfez sur la Toile, vous découvrez des photos ou des vidéos à caractère sexuel où vous apparaissez totalement nu, voire en "action", en libre circulation sur des sites pornographiques ou au sein de conversations de groupe. Pourtant, ces photos n'ont jamais existé. C'est ce que l'on appelle des deepfakes, des photos et des vidéos modifiées ou générées à l'aide d'outils d'intelligence artificielle (IA) pour mettre en scène des personnes, le plus souvent des femmes, dans des situations à des fins pornographiques et, bien évidemment, sans leur consentement. De nombreuses célébrités, mais aussi des personnes lambda en font régulièrement les frais.

Longtemps réservés à une poignée de personnes maîtrisant les subtilités de l'informatique et de l'intelligence artificielle, les deepfakes peuvent être fabriqués par tout le monde en quelques secondes, à l'aide d'applications disponibles sur le Play Store ou l'App Store. Aujourd'hui, avec le développement de l'IA, il existe même un appareil photo capable de générer instantanément une image dénudée de n'importe qui. Baptisé NUCA, il est présenté comme un "projet de conception et d'art spéculatif" par ses créateurs Mathias Vef et Benedikt Groß. Et, contrairement à ce qu'on pourrait penser, il n'est pas très compliqué à fabriquer…

Le boîtier a été produit grâce à une imprimante 3D, sur lequel a été fixé un objectif grand-angle de 37 mm. Lorsque l'appareil prend une photo, il l'envoie à un serveur qui utilise un algorithme pour analyser le sujet et en tirer un petit texte descriptif incluant son genre, son âge, son ethnie, etc. Celui-ci est utilisé comme "prompt" pour l'IA générative d'images Stable Diffusion, qui produit un corps nu. Il ne reste plus qu'à utiliser un outil de remplacement de visage pour "coller" celui du sujet sur le corps dénudé, et le tour est joué ! Dans tout ce processus, seule la première phase – le passage de l'image au texte – a été créée spécialement pour le projet. Tout le reste existe déjà et est disponible en ligne.

© NUCA

Le NUCA est présenté dans une vidéo promotionnelle colorée et joyeuse, avec des couleurs pop – un véritable produit marketing ! Mais, rassurez-vous, il ne sera heureusement jamais commercialisé.

Son but est simplement de soulever la question du potentiel dévastateur de l'IA, notamment au sujet du consentement et des impacts sociétaux des images générées par ces outils. Car, derrière les couleurs pop et l'ambiance légère de la vidéo, se cache en fait une réalité terrifiante, que viennent questionner les deux hommes : la facilité avec laquelle on peut aujourd'hui dénuder des gens contre leur gré. Et c'est bien là le message principal que veulent délivrer ces lanceurs d'alerte..