Google Messages va automatiquement flouter les photos de nus
Google Messages intègre une nouvelle fonction de protection, qui envoie un avertissement en floutant automatiquement les photos de nudité, reçues ou envoyées. Elle est activée par défaut pour les mineurs.
L'expansion du numérique a entraîné l'apparition d'une nouvelle tendance dont on se serait bien passé : le cyberflashing. Il s'agit d'envoyer une photo de ses organes génitaux à des personnes qui n'ont strictement rien demandé. Ce phénomène touche principalement les femmes, qui sont victimes de dick picks – des photos de pénis non désirées. Quant aux plus jeunes utilisateurs, ils sont particulièrement exposés à la sextorsion, une pratique qui consiste à faire chanter quelqu'un à l'aide de photos à caractère sexuel.
Aussi, pour protéger ses utilisateurs, Google déploie une nouvelle fonction d'avertissement dans son application Messages. Annoncée en octobre dernier et testée depuis avril auprès de quelques utilisateurs, elle se nomme "Gérer les avertissements de contenu sensible" et est déjà disponible sur certains smartphones en France. Concrètement, les photos dénudées –○ on parle de nudes – envoyées ou reçues dans la messagerie instantanée seront floutées par défaut chez les utilisateurs mineurs. Les adultes pourront de leur côté l'activer s'ils le souhaitent.
Google Messages : comment activer la fonction d'avertissement ?
Cette nouvelle fonction repose sur SafetyCore, un "service système" destiné aux appareils sous Android 9 et plus, qui travaille en arrière-plan, sans interface utilisateur. Reposant sur un système d'intelligence artificielle locale – donc uniquement sur le smartphone –, il est chargé d'analyser des contenus qui pourraient poser problème quand des applications le lui demandent. Il peut ainsi examiner des messages, mais aussi des images pour détecter des contenus problématique.
Mais alors, comment fonctionne cette nouvelle protection exactement ? Un avertissement de contenu sensible est envoyé lorsque l'utilisateur reçoit une image de nudité. Celle-ci est alors automatiquement floutée et l'application propose plusieurs options : confirmer l'ouverture de la photo, revenir aux messages, bloquer le numéro de l'expéditeur et ouvrir une page de ressources utiles ("Découvrez pourquoi les images de nus peuvent être dangereuses").
L'avertissement s'affiche également si l'utilisateur essaye d'envoyer elle-même une photo de ce type, et lui propose là encore de poursuivre l'opération, de bloquer le numéro de l'expéditeur, de revenir aux messages et d'ouvrir les ressources utiles. Attention, Google précise bien sur sa page de support dédiée que la fonction n'est pas infaillible. Elle peut donc se tromper et signaler des images tout à fait innocentes ou, au contraire, ne pas réussir à détecter du contenu libidineux.
Cette fonction est activée par défaut pour les utilisateurs mineurs et ceux supervisés par leurs parents via Family Link. Pour les plus de 18 ans, elle est désactivée par défaut, mais il est tout à fait possible de l'activer manuellement. Pour cela, il faut se rendre dans les paramètres de Google Messages, en appuyant sur sa photo de profil ou son initiale en haut à droite, puis sur "Paramètres de l'application Messages". Il faut ensuite sélectionner "Protection et sécurité", puis "Gérer les avertissements de contenu sensible", pour enfin activer l'option "Avertissements dans Google Messages".