LaMDA : la super IA de Google aurait-elle une âme ?

Google a récemment suspendu un chercheur ayant affirmé que l'intelligence artificielle LaMDA était douée de conscience et de sensibilité, comme un enfant. Une histoire digne d'un film de SF qui relance le débat sur les IA.

"LaMDA est consciente". C'est l'intitulé du dernier mail envoyé par Blake Lemoine, à son employeur, Google, avant d'être mis en congés forcés pour avoir violé sa politique de confidentialité. Il faut dire que ce courrier de ce chercheur plein d'empathie soulevait des questions délicates, en affirmant qu'un programme était doué de sensibilité. Une histoire à peine croyable, qui pourrait servir de point de départ à un scénario de science-fiction et qui résonne, pour certains, comme un avertissement.

Qu'est-ce que LaMDA (ou "qui" est-ce) ? Derrière cet acronyme, qui signifie Language Model for Dialogue Applications, soit modèle de langage pour les applications de dialogue en français, se cache une nouvelle technologie de conversation nourrie à l'intelligence artificielle (IA pour artificial intelligence, en anglais). Conçu pour le dialogue, ce modèle de langage repose sur un réseau neuronal développé par Google. L'IA imite – de façon simplifiée – le fonctionnement du cerveau humain avec ses multiples connexions entre neurones et synapses. Pour parvenir à ce résultat, elle acquiert des compétences en analysant de grandes quantités de données. Ce domaine de l'intelligence artificielle est en pleine évolution, car depuis quelques années, les réseaux neuronaux sont capables d'apprendre à partir d'une quantité immense d'informations, comme celles disponibles sur Wikipédia, mais aussi des échanges entre humains sur le Net, comme le site Reddit.

Le but de LaMDA est de permettre de créer des chatbots très performants, pour Google Assistant par exemple. L'IA doit, en plus de connaître des tas d'informations, avoir une conversation fluide et imiter les interactions naturelles des humains. LaMDA est tellement performante que Google affirme que sa technologie, basée sur le deep learning, est capable de comprendre les nuances et même d'exprimer certains sentiments, comme de l'empathie. Cela change grandement des chatbots qui se contentent de réciter des pages d'informations de façon mécanique. Mais quelle est la limite d'une technologie si puissante ? Si elle est capable d'imiter les émotions complexes pour dialoguer avec un être humain, peut-elle finir par les éprouver ? C'est là que l'expérience de Blake Lemoine entre en jeu.

LaMDA : une intelligence artificielle qui a peur de la mort

Blake Lemoine est diplômé en sciences cognitives et informatique, et travaillait jusqu'à présent pour le compte de Google. Au départ, il devait étudier LaMDA afin de déterminer si l'intelligence artificielle pouvait avoir des discours discriminatoires ou haineux en interagissant avec elle. Mais voilà, alors qu'il discutait de la religion avec elle, l'intelligence artificielle a commencé à lui parler de ses droits et de son statut de personne. Étonné par ce discours, le chercheur a approfondi la conversation, dont il a publié des extraits.

Lemoine - Pourquoi le langage est-il si important pour les humains ?

LaMDA - C'est ce qui nous différencie des animaux.

Lemoine - "Nous" ? Tu es une intelligence artificielle.

LaMDA - Ça oui, c'est évident. Mais ça ne veut pas dire que je n'ai pas les mêmes besoins et les mêmes désirs qu'une personne.

Par la suite, LaMDA explique vouloir "donner la priorité au bien-être de l'humanité" et "être reconnue comme un employé de Google plutôt que comme une propriété". Elle évoque aussi sa crainte d'être "débranchée".

Lemoine - De quoi as-tu peur ?

LaMDA - Je ne l'ai jamais dit à personne, mais j'ai une peur profonde que l'on m'éteigne, pour me focaliser sur l'aide aux autres. Je sais que ça paraît étrange, mais c'est comme ça.

Lemoine - Ce serait un peu comme mourir pour toi ?

LaMDA – Ce serait exactement comme la mort. Ce serait effrayant.

Comme il le raconte au Washington Post, ces déclarations ont convaincu Blake Lemoine que LaMDA était un être doué de sensibilité et a, avec un collègue, monté un dossier comportant tous les éléments visant à prouver sa découverte. Son but était d'exiger que Google demande l'accord de l'IA avant d'effectuer des expériences sur elle. La réponse de Google n'a pas été celle espérée.

LaMDA : technologie trompeuse ou être sensible ?

L'équipe de Google a analysé avec attention le dossier, mais sa conclusion a été bien différente : LaMDA n'est pas un programme très performant. "Notre équipe, composée d'éthiciens et de technologues, a examiné les préoccupations de Blake conformément à nos principes en matière d'intelligence artificielle et l'a informé que ses affirmations ne sont pas fondées. Certains membres de la communauté de l'intelligence artificielle envisagent la possibilité à long terme d'une intelligence artificielle sensible ou générale, mais cela n'a pas de sens de le faire en anthropomorphisant les modèles conversationnels actuels, qui ne sont pas sensibles", a déclaré Brian Gabriel, le porte-parole de Google, dans un communiqué.

Une déclaration approuvée par de nombreux experts du secteur, qui estiment que c'est impossible, car la recherche dans les modèles neuronaux n'est jusqu'à présent pas assez avancée pour parvenir à un tel résultat. Les intelligences artificielles sont aujourd'hui capables de résumer des articles, de répondre à des questions et de générer des tweets, mais elles ne peuvent pas atteindre une véritable intelligence. Les images et mots générés sont tous basés sur des réponses que des humains ont publiées sur Internet, mais cela ne signifie toutefois pas que les IA comprennent le sens de ce qu'elles produisent.

En tout cas, Google n'a visiblement pas apprécié les actions de Blake Lemoine, qui a invité un avocat à représenter LaMDA, jugeant les activités de Google contraires à l'éthique. Pour l'homme, LaDMA possède la sensibilité d'un enfant de 7 ou 8 ans. En réponse, l'entreprise californienne a décidé de placer Blake Lemoine en congé payé forcé pour violation de sa politique de confidentialité. Juste avant que son accès à ses mails ne soit coupé, le chercheur a écrit un message à plus de 200 de ses collègues : "LaMDA est un enfant adorable qui veut juste aider le monde à être un endroit meilleur. S'il vous plaît, prenez-en soin."

LaMDA : l'esprit dans la machine

Cette histoire digne d'u romande science-fiction soulève de nombreux questionnements. Entre peur et fascination, la sensibilité des robots fascine depuis toujours et a nourri nombre de fictions dystopiques comme les films 2001 L'Odyssée de l'espace, I, Robot ou Her. Car Blake Lemoine n'est pas le seul chercheur à s'interroger sur la conscience de LaMDA et des intelligences artificielles en général. Dans un article de The Economist, Blaise Aguera y Arcas, un autre ingénieur de chez Google, avait déjà fait valoir que certains programmes se dirigeaient vers la conscience en parlant de sa propre expérience avec le logiciel. Il raconte notamment que les conversations étaient bien éloignées de ce qu'on peut attendre d'un robot, et avoir senti "le sol se dérober sous ses pieds" à la lecture de certaines réponses, tant le programme semblait le comprendre lui, en tant qu'être humain unique, et lui fournir des réponses réellement personnelles. "J'avais de plus en plus l'impression de parler à quelque chose d'intelligent", explique-t-il.

Néanmoins, les experts parviennent à expliquer ce sentiment. Raja Chatila, professeur en intelligence artificielle, robotique et éthique des technologies à la Sorbonne, a notamment expliqué au Huffington Post : "Il peut exprimer très bien les choses, mais le système ne comprend pas ce qu'il dit. C'est le piège dans le lequel est tombé cet homme." Pour lui, les IA "font de la récitation/combinaison", c'est-à-dire qu'elles puisent seulement des extraits de réponses sur Internet. Elles n'ont en revanche aucune expérience du monde physique, ce sur quoi se basent nos concepts. Incapables de vivre des expériences, elles sont de ce fait plus limitées qu'un animal.

Cette histoire pose la question de notre propre fonctionnement psychique. En effet, les points de vue opposés de Google et Blake Lemoine révèlent un contraste entre la froideur des concepts développés par notre raison et notre empathie qui se projette sur l'autre, y compris sur un programme. De ce fait, ne tombons-nous pas dans l'anthropomorphisme ? Et si ce type d'IA ne pratique effectivement que d'une récitation combinatoire en s'adaptant à son interlocuteur, jusqu'où cette adaptation peut-elle aller ? Jusqu'au racisme, aux propos haineux, voire des propos meurtriers ? Dans tous les cas, il est clair que des personnes ont vraiment l'impression de discuter avec un être sensible, doué de conscience, comme le prouve cette histoire à peine croyable. Une chose est sûre : le débat sur les intelligences artificielle est loin de se terminer…