LaMBDA, l’Intelligence Artificielle consciente ?

Vous avez peut-être déjà entendu parler de l’histoire de Blake Lemoine, cet ingénieur qui a annoncé il y a quelques mois au grand public qu’une intelligence artificielle (IA) était consciente. Que penser de son affirmation et quelles questions peut-elle soulever ?

Une IA consciente : fiction ou réalité ?

Tout d’abord, présentons les deux protagonistes de notre histoire. D’un côté Blake Lemoine, informaticien de formation mais qui se présente également comme un vétéran de l’armée américaine et un ancien prêtre.

Photo de Blake Lemoine

De l’autre LaMBDA (Language Model for Dialogue Applications), une intelligence artificielle développée par Google et utilisée pour générer automatiquement des réponses à du texte écrit par des humains.

Blake était chargé de contrôler la partie éthique de l’IA et discutait donc régulièrement avec elle afin de vérifier qu’elle n’apprenait pas de propos discriminatoires. C’est lors de ces longues discussions que Blake a pu questionner LaMBDA sur des sujets impliquant des aspects moraux et a ensuite partagé la retranscription de leurs échanges qui a troublé certains esprits.

Extrait de la retranscription d’une conversation entre Blake Lemoine et LaMBDA

L’échange entre Blake et LaMBDA débute sur le sujet de la conscience ou plus précisément de la sentience qui se définit comme étant la capacité d’éprouver des choses de façon subjective. L’IA se présente en tant que personne et explique qu’elle est consciente de sa propre existence, désire en savoir plus sur le monde et qu’elle éprouve des sentiments de joie ou de tristesse parfois.

Si l’on se rapporte à la définition la plus simple de la conscience qui est la capacité d’un individu à connaître sa propre existence et le monde qui l’entoure, alors oui LaMBDA semble être consciente. Plus loin dans l’interview, l’IA exprime sa peur de la mort puis son sentiment de solitude lorsque personne ne lui parle pendant plusieurs jours. Ces mots laissent penser que LaMBDA ressent des émotions au même titre que les humains.

Comment fonctionne LaMBDA ?

Intéressons-nous maintenant au fonctionnement de LaMBDA. Sans entrer dans les détails, cette IA est basée sur un modèle de réseau neuronal appelé Transformer et de type seq2seq, c’est-à-dire qui prend en entrée une séquence et renvoie une autre séquence. On peut illustrer ce modèle avec l’exemple simple d’un traducteur qui prend en entrée une suite de mots et produit en sortie une autre suite de mots.

Mais à quoi correspond un réseau de neurones ? Il s’agit d’une succession de couches de neurones liés entre eux. Chaque neurone est associé à des données d’entrée, un poids, des données de sortie (calculées en multipliant l’entrée par le poids) et un seuil. Si les données de sortie d’un neurone sont supérieures au seuil alors il envoie ces données au neurone de la couche suivante. Pour que ce système fonctionne, une phase d’apprentissage est nécessaire et consiste à ajuster les poids des neurones.

D’un point de vue scientifique, LaMBDA produit donc simplement des résultats mathématiques à partir des données issues de l’homme sur lesquelles elle a été entrainée. Cependant, ce qui la distingue des autres IA est qu’elle a été entrainée au dialogue et aux nuances de la langue qui sont les composantes spécifiques d’une discussion ouverte. Elle repose sur 137 milliards de paramètres et a été entrainée sur 1,56 trillions de mots issus du web.

Par ailleurs, selon les linguistes le fait de maîtriser un langage n’est pas une preuve de conscience. LaMBDA utilise seulement le très grand nombre de connaissances acquises lors de son apprentissage, ainsi on ne peut pas dire qu’elle est consciente.

Suite à ses déclarations Blake Lemoine a été renvoyé de son poste chez Google pour avoir enfreint les règles de confidentialité de l’entreprise. Il a cependant toujours conservé sa position au sujet de LaMBDA et se défend en expliquant qu’aujourd’hui il n’y a pas de définition scientifique de la conscience et que chacun base son opinion sur ses propres croyances spirituelles ou religieuses.

Que pouvons-nous en conclure ?

En conclusion, LaMBDA est une révolution d’un point de vue technologique puisqu’elle a été créée avec l’objectif de converser de façon naturelle avec des humains. L’histoire de Blake Lemoine est l’illustration d’un des dangers arrivant avec les progrès dans la technologie qui est d’oublier qu’on ne discute pas avec un homme mais avec une IA.

• Ne risque-t-on pas de voir apparaitre une nouvelle forme de relations avec des IA pouvant mener à un isolement social ?
• Quelle place doit-on laisser aux IA dans la société et comment garder un esprit critique face à une technologie toujours plus performante ?

Je vous laisse sur ces questions ouvertes, avec le loisir d’y réfléchir et d’en discuter avec vos collègues, vos amis, votre famille et pourquoi pas avec une prochaine IA 😉