Course à l'IA : bientôt la fin de l'humanité ?

Face à la folle course actuelle à l'intelligence artificielle, des chercheurs, des dirigeants et des personnalités du numérique alertent sur les dangers de cette technologie, qui pourrait signer à terme la fin de l'humanité.

Alors que la course à l'IA se poursuit, un groupe de chercheurs, d'ingénieurs et de dirigeants du monde du numérique a émis un nouvel avertissement sur la menace existentielle que l'intelligence artificielle ferait peser sur l'humanité. Publiée par un organisme à but non lucratif, le Center for AI Safety, la déclaration est aussi courte qu'alarmante : "L'atténuation du risque d'extinction par l'IA devrait être une priorité mondiale au même titre que d'autres risques à l'échelle de la société tels que les pandémies et les guerres nucléaires".

L'avertissement est cosigné par des dizaines de dirigeants de l'industrie de l'IA, d'universitaires et même de célébrités, tels que Demis Hassabis (le PDG de Google DeepMind), Sam Altman (le PDG fondateur d'OpenAI), Geoffrey Hinton et Youshua Bengio (deux des trois chercheurs en IA qui ont remporté le prix Turing 2018, équivalent du Nobel de l'informatique, pour leurs travaux sur l'IA), des cadres supérieurs et des chercheurs de Google DeepMind et Anthropic, Kevin Scott (le directeur de la technologie chez Microsoft), Bruce Schneier (un pionnier de la cryptographie et de la sécurité sur Internet) ou encore le défenseur du climat Bill McKibben. Geoffrey Hinton a d'ailleurs déclaré à CNN qu'il avait décidé de quitter son poste chez Google et de "dénoncer" la technologie après avoir réalisé "soudainement" que "ces choses deviennent plus intelligentes que nous".

Course à l'IA : une pause pour éviter les dérives

En l'espace de quelques mois, l'intelligence artificielle a envahi les sphères médiatique, numérique, technologique, économique et même pédagogiques, artistiques et philosophiques, portée par son représentant le plus emblématique : ChatGPT, le désormais célèbre et incontournable robot conversationnel capable aussi bien de rédiger des dissertations que d'écrire du code informatique. Le succès de ce nouvel outil est tel qu'il a tout balayé sur son passage en une poignée de semaines, surprenant autant son créateur – OpenAI – que les géants de la tech – à commencer par Google, qui se trouva fort dépourvu quand le nouveau Bing fut venu… 

Depuis, une véritable frénésie s'est emparée de la planète tech et tous les acteurs du numérique se sont engagés dans une folle course à l'IA. Il ne se passe plus un jour sans que l'on entendue parler d'un nouveau système à base d'intelligence artificielle, tous les grands éditeurs annonçant l'intégration actuelle ou prochaine de fonctions motorisées par l'IA, de Microsoft à Adobe en passant Zoom ou Canva, pour n'en citer qu'une infime poignée. Sans parler de la multiplication des outils "génératifs", capables de créer de toutes pièces des images et des vidéos fictives à partir d'une simple description textuelle – un prompt, dans le nouveau jargon. 

Mais cette course à l'IA fascine autant qu'elle inquiète. Les enseignants, bien sûr, qui ont très vite remarqué que leurs élèves savaient parfaitement exploiter ChatGPT pour tricher. Mais aussi les écrivains, les photographes, les graphistes, et, de façon plus large, tous les créatifs qui craignent la concurrence d'une "intelligence" logicielle capable d'imiter leur travail, en se servant même de leurs œuvres pour apprendre et progresser. Et, plus largement encore, toutes les professions plus ou moins "intellectuelles" qui pourraient se voir assistées puis remplacer par des dispositifs à base d'IA, à l'instar de ce qui s'est passé pour les métiers manuels lors de la révolution industrielle (voir notre article).

Mais, sans attendre ce "grand remplacement", beaucoup s'inquiètent aujourd'hui des dégâts que causent déjà les IA, notamment avec les images truquées et les informations inventées qui alimentent les réseaux sociaux et les écrans en fake news plus vraies que nature, mais aussi les dérives autoritaires, comme la surveillance de masse et des arrestations par anticipation. Et il ne s'agit pas d'une bande de rétrogrades redoutant le progrès technologique !

Course à l'IA : les chercheurs sonnent l'alerte dans une lettre ouverte

Cet avertissement n'est qu'un parmi une longue série à venir. En mars 2023 déjà, de grands chercheurs spécialisés en IA avaient publié une lettre ouverte publiée par l'organisation à but non lucratif Future of Life Institute pour alerter le monde sur les dérives qu'engendre l'IA. Ces sommités reconnues – comme Steve Wozniak, le co-fondateur d'Apple, Jaan Tallinn, le co-fondateur de Skype, ou encore Yoshua Bengio, Stuart Russell et Gary Marcus, des figures de l'IA – accompagnées de diverses personnalités – dont Elon Musk, qui a depuis retourné sa veste pour développer sa propre IA, TruthGPT – y demandaient une pause, en proposant de ne plus rien sortir des labos avant d'avoir redéfini des règles pour encadrer l'utilisation des systèmes à base d'intelligence artificielle. "Nous appelons tous les laboratoires d'IA à suspendre immédiatement pendant au moins six mois la formation des systèmes d'IA plus puissants que GPT-4", précisait le texte, qui réclamait une pause publique et vérifiable des "expérimentations géantes", incluant tous les acteurs clés. 

"Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés d'IA qui sont rigoureusement audités et supervisés par des experts externes indépendants", pouvait-on encore lire. "Ces protocoles devraient garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable."

Les signataires s'inquiétaient avant tout pour les risques que l'IA fait courir sur l'humanité. "Les systèmes d'IA puissants ne devraient être développés qu'une fois que nous serons certains que leurs effets seront positifs et que leurs risques seront gérables ", écrivaient-ils dans la lettre. "Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants", demandaient-ils encore, en faisant allusion aux fakes news qui circulent déjà abondamment sur le Net et aux emplois menacés par l'IA. Si cet appel à la pause et à la réflexion avait recueilli plus de 1300 signatures, on ne peut pas vraiment dire qu'il ait été écouté...