Avis Amazon : de l'IA pour résumer les commentaires et détecter les faux
Amazon va utiliser intensivement l'IA pour gérer les avis de ses clients, avec un module génératif à la ChatGPT pour résumer les commentaires et un outil d'analyse pour détecter les faux qui pullulent encore sur la plateforme.
Sur Amazon, les avis permettent souvent aux consommateurs de faire leur choix lors d'un achat. Le produit est-il solide ? Tien-il ses promesses ? Les caractéristiques annoncées sont-elles exactes ? À quoi ressemble-t-il "en vrai" ? Quels sont ses qualités et ses faiblesses réelles ? Autant d'interrogations auxquelles les commentaires des consommateurs permettent de répondre. En 2022, 125 millions de clients ont contribué à près de 1,5 milliard d'avis et d'évaluations sur Amazon, c'est pour dire ! Le problème, c'est que l'on peut vite ne plus savoir où donner de la tête, entre les millions de produits de la plateforme et les milliers d'avis pour chacun ! Pour aiguiller le consommateur, le géant du e-commerce s'essaye à l'IA générative dans le but de résumer les avis des clients. Une démarche qui n'est guère étonnante, étant donné que l'entreprise s'appuie depuis longtemps sur l'intelligence artificielle et l'apprentissage automatique pour proposer des publicités ciblées et des recommandations personnalisées. Mais il y a un risque que cela entretienne le fléau d'Amazon, à savoir les faux avis qui, postés par les professionnels, leur entourage ou leur agence de communication, servent à tromper les consommateurs !
IA générative Amazon : un résumé automatique des avis
Pour aider les consommateurs à trouver les produits qui leur correspondent le mieux, Amazon réfléchit à un moyen d'incorporer encore plus d'intelligence artificielle dans sa plateforme de e-commerce. En effet, comme le rapporte CNBC, l'entreprise expérimente l'utilisation de l'IA générative pour résumer les différents avis des clients. Plusieurs exemples ont été repérés en anglais, pour un purificateur d'air et pour un jouet. Juste sous la note moyenne des vis, un commentaire indique ce que les consommateurs ont et n'ont pas aimé, avec une petite étiquette qui indique que le message a été généré par une IA à partir du texte des commentaires et évaluations des clients.
Ainsi, pour le jouet, il ressort des avis positifs sur l'apparence, le divertissement, la valeur, les performances, la qualité ou encore la recharge. "Cependant, la majorité des clients ont exprimé des avis négatifs sur ces aspects", peut-on lire dans le commentaire généré par IA. "Par exemple, certains clients ont payé plus de 100 dollars pour un jouet qui n'en valait pas la peine, tandis que d'autres ont eu des problèmes avec la qualité du produit et la recharge." Idem pour le purificateur d'air, apparemment très efficace pour retirer les odeurs et particulièrement silencieux, mais où certains clients émettent des avis mitigés quant à sa capacité à réduire les allergies et l'asthme.
En soi, l'idée n'est pas mauvaise, car certains produits comprennent des milliers d'avis. Après, reste à savoir si un tel "résumé" permet réellement de se faire une opinion pertinente, et quel est le ratio positif/négatif – si seulement 30 % des commentaires mentionnent un point négatif, l'IA mettra-t-il celui-ci à la même hauteur que les points positifs ? D'ailleurs, les points positifs ne risquent-ils d'être mis en avance afin d'inciter à l'achat ? N'est-ce pas la porte ouverte aux faux avis, qui pourraient nourrir le résumé sans être détectés ? Amazon reste pour le moment très évasif sur le sujet, indiquant seulement à CNBC que "nous investissons de manière significative dans l'IA générative dans toutes nos activités."
IA Amazon : détecter les comportements suspects
Et oui, le problème est que les commentaires et avis des "clients" sont loin d'être fiables, ce qui risque de fausser les résumés de l'IA ! L'association de consommateurs Which?, interrogée par la BBC, explique qu'environ un avis en ligne sur sept serait faux, rien qu'au Royaume-Uni : une vraie plaie ! Sans grande surprise, les produits qui regroupent le plus de faux avis sont souvent de mauvaise qualité, non conformes, voire carrément dangereux – sinon, ils se vendraient sans problème. Leurs ventes explosent pendant les périodes d'achats importantes comme les soldes, le Black Friday ou Noël. Et le nombre de faux avis a grandement augmenté depuis que ChatGPT a été dévoilé au grand public fin novembre 2022. En effet, le chatbot permet de facilement générer du texte sur demande dans un langage naturel. L'outil parfait pour écrire de faux avis à la chaîne – et pas que des positifs, ils peuvent servir à critiquer les produits concurrents !
Pour lutter contre cette pratique, Amazon explique dans un communiqué utiliser les dernières avancées en matière d'IA. Le géant du e-commerce compte d'ailleurs renforcer l'usage de ses intelligences artificielles "détectrices de fraudes", d'autant plus que ces technologies ont beaucoup progressé ces derniers mois, depuis qu'OpenAI a ouvert la course à l'IA. Pour détecter et bloquer les faux avis, il a investi dans des modèles d'apprentissage automatique (machine learning) qui analysent des milliers de points de données pour détecter les comportements suspects. Par exemple, l'IA va analyser l'identité de l'auteur du commentaire, son activité sur la plateforme, ses précédents avis et tout autre comportement jugé inhabituel. Des enquêteurs spécialisés l'assistent également dans sa tâche. Le problème, c'est que même si les contre-mesures sont devenues plus efficaces, les courtiers ont également amélioré et adapté leurs techniques. Ils utilisent notamment les réseaux sociaux et des messageries cryptées pour préparer leurs faux avis, généralement en échange d'argent ou de produits gratuits.
Faux avis Amazon : une lutte acharnée
Amazon explique collaborer avec les associations de consommateurs afin d'identifier les acteurs les plus importants et les assigner en justice. "C'est un combat que nous ne pourrons pas gagner seuls. Ce n'est que par des partenariats avec d'autres acteurs, dans les secteurs privés et publics, qu'il sera véritablement possible de faire cesser les agissements des courtiers de faux avis, de s'attaquer au problème à la source et d'assurer la fiabilité des avis clients dans l'ensemble du secteur", explique l'entreprise. Pour cela, le partage des informations est essentiel. L'entreprise a d'ailleurs mis en place en avril l'Anti-Counterfeiting Exchange (ACX), un programme permettant d'identifier plus facilement les contrefaçons qui trompent les consommateurs (voir notre article). Amazon revendiquait en 2022 le blocage de plus de 200 millions d'avis suspectés d'être des faux, et indique avoir signalé 46 millions de personnes écrivant des faux frauduleux. Pour mieux informer le consommateur, Amazon commence également à mettre en place, depuis fin mars une étiquette pour signaler les produits fréquemment retournés (voir notre article).
La plateforme de e-commerce multiplie également les actions en justice. Fin mai, elle avait engagé pas moins de 94 actions contre des acteurs facilitant la diffusion de faux avis dans le monde, notamment aux États-Unis, en Chine et en Europe. Ces différentes actions judiciaires ont permis de faire fermer plusieurs courtiers, dont Matronex et Climbazon. De plus, Amazon appelle les gouvernements à mettre en place "des organismes gouvernementaux dotés de l'autorité et du financement nécessaires pour poursuivre ces faux courtiers d'évaluation." L'entreprise cherche également à mieux contrôler les services qui facilitent la sollicitation de fausses critiques. En juillet 2022, elle avait ainsi porté plainte contre les administrateurs de plus de 10 000 comptes Facebook à l'origine d'avis frauduleux. Et elle semble déterminé à continuer sur cette lancée en 2023 !