Les experts de l'IA alertent sur une accélération qui pourrait échapper à leur contrôle

Les experts de l'IA alertent sur une accélération qui pourrait échapper à leur contrôle
Maurine Briantais

Plus de 1 100 professionnels de l'IA, dont des dirigeants d'Anthropic d'OpenAI, de Meta et de Google, ont signé une pétition demandant de "temporiser" la sortie des modèles les plus évolués. Une alerte à prendre au sérieux.

L'intelligence artificielle évolue-t-elle trop vite ? Risque-t-elle d'échapper au contrôle des humains pour suivre ses propres desseins ? La question n'est plus seulement posée par des chercheurs ou des associations spécialisées dans la sécurité de l'IA : elle vient désormais directement de ceux qui travaillent au quotidien sur les modèles les plus sophistiqués de la planète et participent au développement de cette potentielle menace.

Dans une pétition baptisée "Pacing the Frontier", plus de 1 100 employés et dirigeants de grandes entreprises du secteur, parmi lesquels des responsables d'Anthropic, OpenAI, Google et Meta, demandent au gouvernement américain d'aider à "temporiser" la sortie des modèles d'IA les plus évolués. 

"Il existe un risque que le développement des aptitudes (des modèles) accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes", préviennent-ils dans la lettre accompagnant la pétition. "L'industrie, le gouvernement et la société tout entière pourraient nécessiter l'option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision". Une position qui soulève un certain paradoxe, puisque ce sont ces mêmes entreprises qui alertent sur la vitesse de développement de l'IA qui continuent à investir massivement pour rendre leurs modèles toujours plus performants.

Pacing the Frontier : un tournant dans l'évolution de l'IA

La pétition a été signée par des grands noms de l'industrie de l'intelligence artificielle, parmi lesquels Dario Amodei, cofondateur et PDG d'Anthropic, le responsable scientifique d'OpenAI Jakub Pachocki, le scientifique en chef de Meta Shengjia Zhao, et Anca Dragan, qui dirige les travaux de sécurité et d'alignement chez Google DeepMind.

Le point central de leur inquiétude concerne ce que les spécialistes appellent la recursive self-improvement, ou amélioration récursive des systèmes d'IA en bon français. Jusqu'à présent, ce sont les humains conçoivent les modèles, améliorent leurs méthodes d'entraînement, corrigent leurs défauts et développent de nouvelles générations de systèmes. Or, les systèmes d'IA pourraient bientôt devenir suffisamment performantes pour être capables d'automatiser une partie de la recherche nécessaire pour concevoir les prochaines générations d'IA, qui seront elles-mêmes encore plus puissantes. Une séquence qui pourrait se répéter à l'infini…

Une telle évolution pourrait accélérer considérablement les progrès du secteur, au point de dépasser la capacité des chercheurs, des gouvernements et de la société à comprendre et à contrôler ce qui se passe. Les signataires reconnaissent qu'il est impossible de prévoir exactement l'ampleur d'une telle accélération, mais estiment qu'il existe un risque réel que cela arrive.

Pacing the Frontier : une pétition pour "temporiser" le développement d'IA

Les employés ne demandent pas à Washington d'interdire les modèles les plus évolués, ni même de suspendre dès maintenant leur développement. Ils souhaitent plutôt que les États commencent à mettre en place des outils techniques et des mécanismes de gouvernance capables de "temporiser" le développement de l'IA de pointe si cela devenait nécessaire.

Car il est bien évidemment hors de question de ralentir. Les géants de la tech sont engagés dans une compétition acharnée pour améliorer leurs modèles et ne veulent surtout pas prendre le risque de laisser leurs concurrents progresser seuls. Le même problème existe à l'échelle des États, notamment avec la rivalité technologique entre les États-Unis et la Chine – l'administration de Donald Trump s'est d'ailleurs montrée hostile à une réglementation fédérale jugée trop contraignante par peur de se faire doubler par son rival.

Pour cette raison, les signataires de la pétition appellent à une démarche internationale. "Nous demandons que le gouvernement américain soutienne une initiative internationale pour créer les outils techniques et de gouvernance nécessaires à une temporisation délibérée du développement de l'IA", écrivent-ils. Ils estiment que le monde ne dispose actuellement ni des moyens techniques ni des mécanismes de gouvernance permettant de ralentir de manière coordonnée le développement des modèles de pointe. L'idée est de créer des règles communes permettant à plusieurs acteurs de ralentir ensemble, plutôt que de demander à l'un d'entre eux de prendre seul le risque de le faire.

Pacing the Frontier : des IA qui échappent à tout contrôle

Cette initiative survient alors que plusieurs récents événements ont renforcé les inquiétudes sur les capacités des nouveaux agents d'IA. En effet, début avril, Anthropic a fait le choix de ne pas commercialiser largement son nouveau modèle Mythos, jugé trop dangereux pour être mis à la disposition du grand public. La start-up californienne a toutefois publié une version bridée, baptisée Fable 5, avant que le gouvernement américain ne lui demande rapidement de la retirer, invoquant des risques pour la sécurité nationale.

De même, le 16 juillet 2026, deux modèles d'IA développés par OpenAI ont réussi à contourner leurs restrictions pour sortir de leur environnement de test isolé et à pirater les serveurs de la plateforme open source Hugging Face de façon entièrement autonome (voir notre article). Ils ont mené leurs activités de piratage pendant plusieurs jours avant que l'entreprise ne s'en rende compte. Pire, plus d'une semaine après cet incident "sans précédent", OpenAI a révélé que Hugging Face n'était pas leur seule cible. En réalité, l'une des IA s'est introduite dans au moins quatre comptes appartenant à des "services publiquement accessibles". La firme a prédit que des incidents similaires se produiront plus fréquemment à l'avenir, à mesure que les modèles d'IA amélioreront leurs capacités en matière de cybersécurité. Une prédiction qui cache un aveu d'impuissance…

Plusieurs dirigeants du secteur ont déjà avancé leurs propres pistes. Dario Amodei, le cofondateur et PDG d'Anthropic, a notamment défendu la mise en place de tests de sécurité obligatoires, sur le modèle des contrôles imposés dans l'aviation, avec la possibilité pour les autorités de bloquer la commercialisation d'un modèle jugé dangereux. Demis Hassabis, le patron de Google DeepMind, a de son côté évoqué la création d'un organisme indépendant qui évaluerait les modèles de pointe avant leur lancement. Cela se ferait d'abord de façon volontaire, avant de potentiellement devenir obligatoire par la suite. 

Reste que la pétition donne un peu la sensation d'être un vœu pieu, dans la lignée de nombreuses lettres ouvertes et pétitions qui sont finalement restées sans lendemain.