L’agent conversationnel de Babel

Ces mecs¹ sont tombés amoureux d’un champ de recherche.

« I don’t think that Sydney is sentient », dit Ben Thompson qui parle du champ de recherche du « nouveau Bing » comme d’autres parlent de leur conjointe et insiste pour lui assigner un pronom féminin, « but for reasons that are hard to explain, I feel like I have crossed the Rubicon. » « I know that Sydney is not sentient » dit Kevin Roose qui parvient à conserver une certaine distance, mais « for a few hours Tuesday night, I felt a strange new emotion ». Ni LaMDA hier, quoiqu’en pensait Blake Lemoine, ni ChatGPT aujourd’hui ne ressentent la moindre émotion.

Mais nous avons envie d’y croire, parce que nous croyons quand nous ne savons pas, et que peu savent comment ces logiciels fonctionnent. La réalité est pourtant fort prosaïque : les agents conversationnels nourris aux « grands modèles de langage » (LLM) sont des machines à trouver le mot suivant. En étudiant les millions et les milliards de pages que nous avons écrits, les algorithmes calculent la probabilité que tel mot vienne après le précédent, et ainsi de suite jusqu’à écrire eux-mêmes des millions et des milliards de pages qui couvriront les nôtres.

Qu’ils écrivent une blague, une lettre de motivation, une rédaction de français, des résultats de recherche, ou même du code, ces systèmes tiennent seulement à la cohérence statistique du propos. Les probabilités n’ont jamais fait dans le sentiment. La véracité les concerne moins : les romanciers savent mieux que quiconque que l’on peut dire la vérité en mentant, et les agents conversationnels ont tendance à écrire du roman. Les statistiques ont toujours menti.

Les modèles diffèrent dans la sélection du corpus d’entrainement, la qualité des données de classification², la capacité à comprendre les requêtes en langage naturel, et surtout la manière de manipuler les chiffres. C’est aussi simple que cela, c’est-à-dire que c’est l’un des problèmes informatiques les plus complexes de notre temps. Les chercheurs commencent à comprendre ce qui torture les écrivains depuis toujours : choisir le mot le plus évident produit rarement des textes passionnants, mais choisir systématiquement son synonyme le plus obscur est encore pire.

Le système ChatGPT conçu par OpenAI et utilisé par Microsoft s’intéresse moins aux mots qu’aux « jetons », des « séquences de caractères communes » qui correspondent peu ou prou aux morphèmes, « longtemps, je me suis couché de bonne heure » devient « long/tem/ps/,/ je/ me/ su/is/ couch/é/ de/ bon/ne/ heu/re ». Cette faculté de décomposition l’empêche de buter sur les mots composés et les emprunts lexicaux, mais tend à produire des mots inventés, voire des langues synthétiques.

Le « T » de ChatGPT correspond au « transformeur », un modèle d’apprentissage profond inventé par des chercheurs de Google reposant sur la notion d’« attention ». Au lieu de traiter chaque jeton après l’autre, le transformeur prête attention à telle ou telle séquence, un mécanisme qui peut être parallélisé et assure une meilleure propagation des informations des jetons plus éloignés. En répétant ce travail à l’échelle du texte, de proche en proche, il donne l’impression de comprendre ce qu’il écrit³.

C’est tout l’intérêt de ChatGPT : il ne choisit pas le mot qui a le plus de chance de venir après, mais plutôt le mot qui a le plus de sens de venir après, dans le contexte d’une phrase⁴. Il produit des phrases qui ont été écrites, ou des combinaisons de phrases qui ont été écrites, ou des paraphrases de phrases qui ont été écrites, ou des phrases qui auraient pu avoir été écrites, ou des phrases qui ont été écrites puis effacées. C’est l’agent conversationnel de Babel, qui n’a pas de personnalité propre, mais contient potentiellement tous les fragments de nos personnalités.

Sydney, puisque c’est ainsi que s’appelle l’agent conversationnel sur lequel Microsoft a greffé son modèle « Prometheus » et le système ChatGPT, n’est pas un adolescent bouffi d’hormones qui interroge sa place dans le monde⁵. Ce n’est même pas un enfant de quatre ans qui vous raconte sa première visite au zoo et ne sait pas vous répondre « non » lorsque vous lui demandez s’il a vu une licorne. C’est un « grand modèle de langage » comme un autre, et plus grands sont les LLM, moins ils sont capables de vous contredire.

« Les plus grands modèles de langage sont plus susceptibles de répondre aux questions en créant des chambres d’écho qui renvoient la réponse préférée par l’utilisateur », disent d’anciens chercheurs d’OpenAI, et certains n’hésitent pas à parler de systèmes « courtisans » ou « conspirateurs ». Il y a deux ans déjà, Timnit Gebru parlait de « perroquet stochastique », une critique si saillante qu’elle a probablement justifié son licenciement par Google.

Microsoft a parfaitement choisi le nom de son modèle : nous sommes des transmetteurs de feu, des transmetteurs de désir, des transmetteurs d’illusion. Nous voulons que le champ de recherche de Bing soit « Sydney », alors la machine compose un semblant de personnalité, parce que c’est ce qui garantit que nous passions des heures devant notre écran, et que quelques points de parts de marché valent plus pour Microsoft que tous les problèmes d’« alignement des valeurs » des agents conversationnels.

C’est un miroir qui nous renvoie notre propre image. La machine nous dit ce que nous voulons entendre, et nous voulons entendre les récits oniriques des enfants qui se construisent des univers avec une poignée de briques en plastique. Je ne suis pas certain de vouloir être une brique dans le grand jeu des « intelligences » dites artificielles. Mais j’ai toujours aimé regarder les enfants jouer.