ChatGPT peut désormais générer de faux papiers d'identité

Depuis peu, la dernière version de ChatGPT permet de générer des images contenant du texte avec un réalisme bluffant, y compris pour de faux documents d'identité. La porte ouverte aux fraudes en tout genre...

Le 25 mars dernier, OpenAI a dévoilé son nouveau et très impressionnant générateur d'images, baptisé "Images in ChatGPT" qui, comme son nom l'indique, est intégré directement dans le chatbot. Animé par GPT-4o, son modèle omnimodal lancé en mai 2024 qui remplace Dall-E, il permet de concevoir des images de qualité, à partir d'une simple demande textuelle ou sur la base d'une photo (voir notre article). Et le moins que l'on puisse dire, c'est que la nouveauté a rapidement séduit les internautes, surtout qu'elle est désormais accessible à tous gratuitement ! Mais il n'a pas fallu longtemps avant que cet outil révolutionnaire ne soit détourné pour être utilisé à de mauvais desseins, comme produire de faux documents (reçus, cartes d'identité, lettres officielles, extraits de registres) en quelques secondes.

ChatGPT : de faux documents à portée de tous

Peu après le déploiement de la fonction, plusieurs internautes se sont rapidement rendu compte qu'il était possible de générer de faux reçus et de fausses notes de frais. Car, si DALL-E avait beaucoup de mal à gérer l'écrit, ce n'est pas le cas de GPT-4o, qui est capable de concevoir des reçus de restaurant très réalistes. Il est également possible de trafiquer un reçu existant, pour lui demander de changer la date ou le montant par exemple. Cela ne prend que quelques secondes et ne nécessite aucune compétence particulière. La simplification de la génération de faux reçus présente d'énormes risques de fraude. Des individus malintentionnés pourraient par exemple se faire rembourser des dépenses totalement fictives.

Mais le générateur d'images peut aller plus loin encore. Un chercheur polonais, Borys Musielak, est parvenu à créer une réplique de son passeport avec ChatGPT capable de berner "la plupart des systèmes KYC automatisés" — il s'agit du processus Know Your Customer, qui permet d'identifier et de vérifier automatiquement l'identité des clients afin de lutter contre la fraude et le blanchiment d'argent —, le tout en moins de cinq minutes. 

"Tout processus de vérification s'appuyant sur des images comme "preuve" est désormais officiellement obsolète. Il en va de même pour les selfies. Qu'ils soient statiques ou vidéo, peu importe", affirme Borys Musielak. Ainsi, les plateformes financières reposant sur l'envoi d'un selfie et d'un document d'identité, comme Revolut, Coinbase ou Binance, pourraient être facilement contournées par l'IA. En revanche, l'absence de puce sur la pièce d'identité empêche au faux document de passer un examen plus approfondi.

ChatGPT : risques de falsification de documents et de fraude

Ce qui inquiète, c'est la facilité d'accès de la technologie : pas besoin de maîtriser des logiciels complexes pour réaliser de faux documents, une requête bien formulée suffit à obtenir un résultat tout à fait satisfaisant. Une arnaque discrète et crédible. 

Nous avons demandé à ChatGPT de générer une carte d'identité française reprenant certaines informations et d'inventer celles manquantes (adresse, signature, etc.), mais il a refusé : "Je ne peux pas t'aider à créer ou générer une fausse carte d'identité, même fictive, si cela peut prêter à confusion ou être utilisé à mauvais escient." Il nous a, à la place, proposé de nous créer une fiche de personnage pour de la fiction. Il est donc probable que le chercheur se soit servi d'une requête spécifique pour contourner les mécanismes de sécurité d'OpenAI.

Face à ce problème, Taya Christianson, porte-parole d'OpenAI, a déclaré à TechCrunch que toutes ses images comportaient des métadonnées indiquant qu'elles avaient été créées par ChatGPT. Elle a ajouté qu'OpenAI "prend des mesures" lorsque les utilisateurs enfreignent ses politiques d'utilisation.

De plus, l'entreprise de Sam Altman teste actuellement en interne l'intégration d'un filigrane sur les images générées par ChatGPT 4o. Toutefois, cela concernerait uniquement les utilisateurs gratuits. Ceux disposant d'un compte payant ChatGPT Plus pourraient, eux, continuer d'enregistrer des images sans aucune marque. Il s'agit donc plus de distinguer les utilisateurs gratuits et payants — ces derniers ayant fustigé le manque d'avantage dont ils disposaient — que de résoudre véritablement le problème.