TikTok a volontairement privé 15 millions d'utilisateurs d'une mise à jour de sécurité majeure

TikTok a volontairement privé 15 millions d'utilisateurs d'une mise à jour de sécurité majeure

Un rapport interne confidentiel révèle que Tiktok a intentionnellement privé 15 millions d'utilisateurs d'une mise à jour censé rendre son algorithme moins nocif pour la santé mentale. L'un d'entre eux a fini par se suicider.

Depuis de nombreuses années, TikTok est dans le viseur de nombreux gouvernements, qui s'inquiètent notamment de son impact sur la santé mentale des plus jeunes. On ne compte plus le nombre de rapports et de commissions d'enquête qui révèlent la dangerosité du réseau social pour les adolescents – et pas que. Est particulièrement pointé du doigt son algorithme addictif, qui a tendance à enfermer l'utilisateur dans une bulle en privilégiant les contenus susceptibles de retenir son attention, et non ce qui lui plaît, ainsi que son exploitation des vulnérabilités psychologiques des moins de 18 ans. De nombreuses familles ont déjà assigné la plateforme chinoise en justice pour avoir recommandé des vidéos qui incitent au suicide, à l'automutilation ou aux troubles alimentaires à des mineurs.

Bien sûr, ByteDance, la maison mère, se défend de telles pratiques et assure tout mettre en œuvre pour protéger au maximum ses utilisateurs, notamment via des outils de contrôle parental et des mises à jour. Mais de récentes révélations viennent sérieusement nuancer ce discours. D'après un document interne émanant du réseau social chinois et révélé par Bloomberg, l'entreprise aurait volontairement privé certains jeunes d'une mise à jour de sécurité au début de l'année 2022 qui modifiait l'algorithme de recommandation de contenus afin de réduire le risque d'addiction et de dépression. Or, un de ces jeunes a fini par se suicider. 

TikTok : un ado enfermé dans une bulle algorithmique mortifère

Le document en question, un rapport interne de 14 pages rédigé en mars 2023, décrit une expérimentation menée aux États-Unis. TikTok avait commencé à modifier son algorithme en 2021 afin d'éviter qu'un utilisateur ne soit trop rapidement enfermé dans un même type de contenu – c'est ce qu'on appelle une bulle algorithmique. En effet, lorsqu'une personne regarde plusieurs vidéos consacrées à un même sujet, le système de recommandation peut avoir tendance à lui en proposer toujours davantage. Le correctif devait limiter ce phénomène, notamment lorsque les contenus en question étaient associés à la tristesse, à la solitude ou à la souffrance psychique.

Ce correctif a été déployé début 2022 auprès d'environ 90 % des utilisateurs américains. Les 10 % restants, soit environ 15 millions de personnes à l'époque, ont cependant conservé l'ancienne version de l'algorithme. Il ne s'agissait pas d'un simple retard de déploiement : TikTok avait sciemment exclu ce groupe afin de mesurer l'effet du changement sur l'utilisation de son application et s'assurer qu'un fil de vidéos moins répétitif ne risque pas de réduire le temps passé sur la plateforme – et donc de lui faire perdre de l'argent. 

Le problème, c'est que, dans ce groupe de personnes qui n'ont pas bénéficié de la mise à jour de sécurité, se trouvait un adolescent de 16 ans du nom de Chase Nasca. Celui-ci s'est malheureusement suicidé en février 2022, soit quelques semaines après y avoir été placé. 

Les équipes de TikTok ont mené une analyse de son compte plus d'un an après le tragique événement et se sont intéressées aux 7 563 vidéos recommandées au jeune homme au cours des dernières semaines de son utilisation de la plateforme. Or, il se trouve que près de 73 % d'entre elles étaient liées à la tristesse, à la solitude ou à la souffrance psychologique. Pire encore, environ 10 % des vidéos enfreignaient les règles de TikTok. Une vidéo donnait par exemple des astuces pour se suicider ou se scarifier. Il recevait ces contenus encore quelques heures avant son décès. L'entreprise a donc estimé que l'adolescent avait été piégé dans une boucle algorithmique particulièrement préoccupante.

Le rapport interne est d'autant plus embarrassant pour TikTok qu'il formule lui-même des recommandations visant à limiter les risques de ce type d'expérimentation. Ses auteurs proposent notamment de réduire la taille du groupe conservant l'ancien algorithme à moins de 1 % des utilisateurs – ce qui exposerait toute de même 1,8 million de personnes – et de limiter la durée des tests à sept jours.

TikTok : la question de la responsabilité des plateformes sur le contenu publié

Les parents de Chase Nasca ont par la suite engagé des poursuites contre TikTok pour mort injustifiée, accusant la plateforme d'avoir exposé leur fils à des milliers de contenus liés au suicide et à l'automutilation. Toute la question était de savoir si le drame aurait pu être évité si le jeune homme avait pu bénéficier de la mise à jour, et donc si le réseau social avait une responsabilité dans sa mort. La plainte a toutefois été rejetée en 2025, le tribunal estimant notamment que les demandes des parents étaient protégées par la section 230 du droit américain, qui offre une protection juridique aux plateformes concernant les contenus publiés par leurs utilisateurs. 

"Si ces révélations sur TikTok sont confirmées, c'est un scandale mondial", a réagi Sarah El Hairy, Haute-commissaire à l'Enfance, suite à l'article de Bloomberg. "Si une plateforme comme TikTok connaissait les risques et avait empêché le déploiement de protections disponibles, il ne s'agirait plus d'une simple défaillance, mais d'une question majeure de gouvernance qui devrait être pleinement examinée. |...] Nos enfants ne sont ni des cobayes, ni des produits d'appel, ni des statistiques d'engagement."

Des milliers de procédures sont aujourd'hui engagées aux États-Unis contre les réseaux sociaux, et leurs concepteurs ne sont plus seulement accusés de laisser circuler des contenus dangereux. Les plaignants mettent également en cause les mécanismes de recommandation qui déterminent les vidéos proposées aux utilisateurs, leur ordre d'apparition et la fréquence à laquelle elles leur sont montrées. TikTok assure de son côté que ce type de test est une pratique courante dans le secteur et affirme avoir depuis renforcé ses protocoles de sécurité.

Le phénomène ne se limite d'ailleurs pas aux États-Unis. En France, plusieurs familles ont également engagé des procédures contre TikTok, en mettant directement en cause son algorithme de recommandation. Une procédure regroupant plusieurs familles est en cours devant le tribunal judiciaire de Créteil, tandis qu'une enquête pénale est en cours à Paris sur les pratiques du réseau social.