Voici pourquoi Meta inonde Facebook et Instagram de faux profils d'utilisateurs

De faux profils d'utilisateurs générés et entretenus par IA envahissent Facebook et Instagram en ce moment. Et le plus fou, c'est qu'ils sont créés par Meta elle-même, l'entreprise propriétaire de ces réseaux sociaux.

Vous avez peut-être remarqué du contenu généré par IA qui inonde votre flux Facebook ou Instagram ces derniers temps. Un enfant prodige qui réalise une œuvre d'art, une reproduction du visage de Jésus dans la nature, une personne faisant courageusement face aux difficultés de la vie, des sculptures de sable incroyables… Eh bien, cela ne va pas aller en s'arrangeant.

Meta, le groupe de Mark Zuckerberg qui possède ces réseaux sociaux, avait prévenu qu'il allait, lui aussi, mettre de l'IA dans absolument tous ses services. D'après les révélations du Financial Times, l'entreprise  a décidé de rendre ses applications "plus divertissantes et engageantes" au cours des deux prochaines années. Pour cela, elle n'a rien trouvé de mieux que d'implémenter des bots générés par IA.

Profils générés par IA : des bots pour créer de l'engagement

Meta compte sur le déploiement de profils gérés par l'intelligence artificielle afin d'améliorer "l'engagement" sur ses plateformes, c'est-à-dire les interactions entre personnes, qu'elles soient réelles ou non. "Nous nous attendons à ce que les IA existent réellement sur nos plateformes, comme les comptes traditionnels le font", explique Connor Hayes, vice-président des produits d'IA générative pour Meta. "Ils auront des biographies, des photos de profil, et pourront générer leur propre contenu IA sur la plateforme… C'est dans cette direction que nous voyons tout cela aller."

La firme a déjà déployé un outil aux Etats-Unis en juillet dernier permettant aux vrais utilisateurs de Facebook et Instagram de créer des doubles numériques grâce à l'IA. Depuis, ce sont des centaines de milliers de bots qui ont pris vie. Meta envisage d'étendre cette pratique dans d'autres pays à l'avenir, même si la plupart des utilisateurs maintiennent ces avatars en privé. De plus, les créateurs de contenus peuvent déjà créer des avatars IA qui répondent aux question de leurs abonnés en respectant la personnalité de l'influenceur, brouillant un peu plus la frontière entre réel et fiction. Le Financial Times précise d'ailleurs que Mark Zuckerberg "a déjà montré qu'il était possible d'organiser des appels vidéo en direct avec l'avatar IA d'un créateur, qui pourrait converser dans son style." Merveilleux.

Profils générés par IA : quels dangers pour les utilisateurs ?

On peut légitimement avoir quelques réserves quant à la direction que prennent les réseaux sociaux de l'entreprise. Les profils générés par IA laissent plusieurs détails en suspens, à commencer par l'apparence de ces faux profils – à quel point seront-ils distinguables des autres ? – ou la confidentialité des données sur lesquelles ils s'entraîneront. 

Dans tous les cas, cette idée ne fait clairement pas l'unanimité. Certains experts craignent en effet que les IA ne participent à la diffusion massive de fake news, et donc à la désinformation qui sévit déjà sur les plateformes. Becky Owen, ex-cheffe de l'équipe d'innovations pour les créateurs chez Meta, est particulièrement inquiète. Si elle ne balaie pas la possibilité que les interactions avec des IA puissent être "un format de divertissement créatif", elle craint que "sans barrières robustes, les plateformes risquent d'amplifier de fausses informations à travers ces comptes gérés par IA".

En plus, les marqueurs mis en place par l'entreprise pour signifier qu'un contenu a été généré par IA ne sont pas franchement efficaces, au vu des commentaires sous les publications… Au final, nous risquons de nous retrouver avec des personnes qui n'existent pas discutant avec d'autres personnes qui n'existent pas. Ça fait rêver…