Nudity Protection : Instagram va bloquer les photos sexuelles non sollicitées

Le harcèlement sexuel en ligne est un vrai fléau. Pour y remédier, Instagram teste une nouvelle fonction, baptisée Nudity Protection, capable de détecter et de bloquer les photos de nudité non sollicitées envoyées en message privé.

L'expansion d'Internet a entraîné l'apparition d'une nouvelle tendance dont on se serait bien passé : le cyberflashing. Il s'agit d'envoyer une photo de ses organes génitaux – par message ou dans un partage Bluetooth – à des personnes qui n'ont strictement rien demandé. Ce phénomène touche principalement les femmes, qui reçoivent des dick picks – des photos de pénis non désirées – dans leur messagerie privée. Il ne s'agit ni plus ni moins que d'une forme d'exhibitionnisme numérique – d'ailleurs condamnée dans certains États comme le Royaume-Uni – qui peut aller jusqu'au harcèlement sexuel. Une étude de YouGov souligne que 78 % des femmes de 18 à 34 ans et 69 % des femmes de 35 à 54 ans ont déjà reçu une dick pick sans l'avoir demandée – alors que seuls 17 % des hommes admettent en avoir déjà envoyées. Les réseaux sociaux sont très touchés par ce phénomène et ont du mal à en protéger leurs utilisateurs. D'après l'étude d'une ONG britannique, 90 % des images de ce type ne sont actuellement pas détectées par les outils d'Instagram. Et c'est sans compter les nudes !

Les plus jeunes utilisateurs sont également particulièrement exposés à la sextorsion, une pratique qui consiste à faire chanter quelqu'un à l'aide de photos à caractère sexuel. Le National Center for Missing & Exploited Children (NCMEC), une organisation à but non lucratif américaine, alerte dans un rapport publié en mai 2023 sur les chantages aux photos et vidéos sexuelles envoyées aux adolescents, qui sont en forte hausse. Il révèle une augmentation de 82 % des signalements concernant des tentatives de séduction en ligne d'enfants, avec pour objectif de les faire chanter– ils gagnent la confiance de leurs futures victimes, généralement en se faisant eux-mêmes passer pour des mineurs ou en envoyant des photos intimes. Aussi, Instagram tente de remédier à ces problèmes grâce à un nouvel outil, Nudity Protection, qu'il s'apprête à tester, comme il l'annonce dans un billet de blog. Il vise notamment à protéger les adolescents et à empêcher les escrocs potentiels de les atteindre, mais se révèle aussi très efficace contre le cyberflashing donc. La fonction sera activée par défaut dans les messages directs (DM) pour les utilisateurs de moins de 18 ans et Meta informera les adultes pour les encourager à l'activer.

Nudity Protection : un nouvel outil pour lutter contre le harcèlement sexuel en ligne

En cours de développement depuis septembre 2022, cet outil permet de bloquer automatiquement les images sexuelles avant qu'elles ne soient vues. Plus exactement, une intelligence artificielle (IA) analyse chaque photo envoyée à travers la messagerie privée – mais sans y avoir accès. Si elle détermine qu'il s'agit d'un cliché contenant de la nudité – initialement, c'était uniquement les organes sexuels –, elle le floute avant de l'envoyer au destinataire. Qui peut ensuite décider de le déflouter ou non. Un moyen d'accepter les nudes – qui sont donc consentis – mais pas le cyberflashing. "Comme les images sont analysées sur l'appareil lui-même, la protection contre la nudité fonctionnera également dans les chats cryptés de bout en bout, où Meta n'aura pas accès à ces images - à moins que quelqu'un ne choisisse de nous les signaler", explique l'entreprise. Notons que, contrairement à Messenger et à WhatsApp, les messages directs sur Instagram ne sont pas cryptés, mais l'entreprise a déclaré qu'elle prévoyait de déployer le cryptage pour ce service.

Nudity Protection s'intègre dans la fonction "Mots cachés" introduite en 2021. Elle permet de filtrer automatiquement des demandes de messages privés comprenant des contenus offensants. Liz Fernandez, un porte-parole de Meta, avait déclaré à  The Verge : "Nous travaillons étroitement avec des experts pour nous assurer que ces nouvelles options préservent la vie privée des utilisateurs, tout en leur donnant un contrôle total sur les messages qu'ils reçoivent". Meta a également indiqué qu'il développait une technologie permettant d'identifier les comptes susceptibles d'être impliqués dans des escroqueries par sextorsion et qu'il testait de nouveaux messages contextuels à l'intention des utilisateurs susceptibles d'avoir interagi avec de tels comptes.

Étant soumis à une pression croissante de la part des États-Unis et de l'Europe, Meta s'efforce de rendre son réseau social plus sûr. L'entreprise a ainsi fait en sorte, en juillet dernier, qu'il soit plus difficile pour les personnes que l'on ne suit pas de submerger les utilisateurs de DM (messages directs) non désirés (voir notre article). En janvier 2024, elle a également pris des dispositions pour mieux protéger les mineurs sur ses services, empêchant les moins de 16 ans de recevoir de messages provenant d'inconnus sur Instagram et Messenger (voir notre article). Elle a ajouté qu'il serait plus difficile pour les adolescents de trouver des contenus sensibles tels que le suicide, l'automutilation et les troubles de l'alimentation.