La Royal Society de Londres a diffusé en direct, le 18 février, la conférence annuelle Michael Faraday. Le prix éponyme a été décerné cette année au professeur Michael Wooldridge, chercheur en intelligence artificielle (IA) à l'université d'Oxford depuis 30 ans. Pendant près d'une heure, il a livré une analyse lucide – ni dithyrambique ni alarmiste – de l'état réel de l'IA contemporaine.

Le ton est donné dès les premières minutes. Michael Wooldridge a tenu à dissiper un malentendu. Sa conférence n'est pas une attaque contre l'IA actuelle, ni un plaidoyer pour un retour aux systèmes symboliques des années 1980 : «L'IA contemporaine est remarquable. Je n'aurais pas prédit, il y a dix ans, que nous en serions là aujourd'hui.» Pour illustrer le chemin parcouru, il a mis en parallèle deux images. En 2016, CaptionBot, un programme de Microsoft censé décrire des photographies, était incapable de reconnaître La Nuit étoilée de Van Gogh – pourtant sans doute présente dans ses données d'entraînement – et la décrivait comme «deux animaux dans l'eau». En 2024, le modèle o1-preview d'OpenAI a résolu un problème de mathématiques olympiques que seule une infime fraction de la population mondiale serait capable de comprendre : «Quatre ans ont suffi pour passer de l'un à l'autre. C'est assez remarquable.»

Mais Wooldridge a aussitôt introduit la nuance qui structure toute sa démonstration : cette IA est «étrange». Elle répond que dormir dans un lit Ikea provoquera des rêves sur la Suède. Elle soutient qu'un fils pourrait avoir été l'instituteur de son père. Elle conseille à quelqu'un qui veut laver sa voiture dans un établissement situé à 60 mètres de «simplement marcher»–oubliant que la voiture, elle, ne se déplace pas seule.

L'exemple le plus révélateur reste peut-être celui du mot «strawberry» : interrogé sur le nombre de «r» qu'il contient, le modèle répond «deux», résiste aux corrections et déclare qu'il parierait un million de dollars sur cette réponse fausse. L'explication, selon Wooldridge, tient à la nature même du système : «Le modèle ne lit pas les lettres. Il décompose les mots en unités appelées tokens, représentées par des nombres. Il ne compte donc pas les caractères – il a vraisemblablement isolé le suffixe -berry, sans analyser l'ensemble du mot.»

Le mécanisme des LLM

Pour expliquer ces comportements, Wooldridge a décrit le mécanisme fondamental des large language models (LLM) : ils ne résolvent pas des problèmes. Ils complètent des textes. Étant donné une séquence de mots, ils prédisent le mot suivant le plus probable, puis répètent l'opération : «C'est exactement ce que fait votre téléphone quand il vous suggère le mot suivant dans un message. La différence, c'est l'échelle.»

GPT-3, le modèle qui a représenté pour lui le véritable tournant, en 2020, comptait 175 milliards de paramètres et avait été entraîné sur 500 milliards de mots — plusieurs milliers de vies humaines de lecture. Le calcul de cet entraînement a nécessité 3 × 10²³ opérations, soit des années de calcul sur un ordinateur de bureau classique. C'est cette démesure qui explique la valorisation actuelle de Nvidia, fournisseur privilégié des supercalculateurs dédiés à l'IA, désormais supérieure à cinq mille milliards de dollars.

Le conférencier a expliqué d'où viennent les capacités apparentes de ces modèles : le langage naturel encode, par sa structure même, des formes de raisonnement logique, des algorithmes, des traces de résolution de problèmes. En apprenant à imiter ces structures à une échelle suffisante, les LLM parviennent à émuler des raisonnements sans les effectuer :«Ce n'est pas de la compréhension. C'est de la reconnaissance de formes à très grande échelle.»

Wooldridge a également illustré un paradoxe : en IA classique, un système est évalué selon deux critères, la «solidité» (si une réponse est donnée, elle est correcte) et la «complétude» (si une solution existe, le système la trouvera). Or, un étudiant qui rendrait un devoir ne satisfaisant ni l'un ni l'autre serait recalé : «Les LLM ne satisfont ni l'un ni l'autre. Cela ne signifie pas qu'ils ne sont pas utiles, ni qu'ils ne sont pas remarquables – mais ces concepts fondamentaux ne s'appliquent tout simplement pas aux grands modèles de langage, parce que ce n'est pas ainsi qu'ils fonctionnent.»

Les hallucinations

Wooldridge a insisté sur la nature profonde du phénomène des hallucinations – ces affirmations fausses produites avec assurance par les modèles. GPT-5, le modèle le plus attendu de 2024, hallucine toujours : «Si on m'avait demandé quelle serait la caractéristique transformatrice de GPT-5, j'aurais répondu : arrêter d'halluciner. Ce n'est pas le cas.» Ce n'est pas un défaut de réglage : c'est une conséquence directe du mécanisme. Un modèle qui prédit le mot le plus probable n'est pas conçu pour distinguer le vrai du faux. Il n'en a pas la structure.Autre limite soulevée : la rigidité une fois l'entraînement achevé. Modifier les «croyances» d'un réseau de neurones déjà entraîné est extrêmement difficile. L'apprentissage continu – la capacité à intégrer de nouvelles informations sans réentraîner l'ensemble du modèle – reste un problème ouvert majeur.

Anthropomorphisme

La dernière partie de la conférence a abordé la question que beaucoup posent : ces systèmes sont-ils conscients ? Wooldridge a été catégorique : «Non.» Il a rappelé que l'intelligence humaine est le produit de milliards d'années d'évolution dans un monde physique en constante interaction. Les LLM n'ont aucune représentation du temps qui passe, aucun ancrage dans un environnement réel : «Quand vous quittez une conversation avec ChatGPT pour partir en vacances, il ne se demande pas où vous êtes. Il n'a aucune notion du passage du temps.» Il a néanmoins reconnu un phénomène réel : les utilisateurs traitent ces systèmes comme des esprits rationnels – parce que nous sommes, selon Wooldridge, génétiquement programmés pour rechercher ce type d'interlocuteur : «Je dis ‘s'il vous plaît’ aux modèles de langage. Je sais pertinemment que c'est sans objet. Mais c'est une habitude très difficile à rompre.» Des utilisateurs confient à ces systèmes leurs peurs médicales, leurs crises relationnelles, leurs croyances les plus intimes. Ce phénomène, a-t-il averti, mérite une attention sérieuse.

Wooldridge a conclu sur une note inattendue : l'un des apports les plus précieux des LLM n'est pas ce qu'ils font, mais ce qu'ils révèlent. Leurs échecs – incapacité à charger un lave-vaisselle, à naviguer dans un espace inconnu, à maintenir une cohérence logique de base – montrent à quel point ces tâches, pourtant accomplies sans effort par n'importe quel être humain, sont en réalité d'une complexité redoutable : «L'IA contemporaine nous a montré que l'intelligence humaine est bien plus complexe et nuancée que nous ne le pensions avant d'avoir des grands modèles de langage.» Pour lui, la bonne façon de penser à l'IA reste celle d'une prothèse cognitive : un outil qui augmente l'intelligence humaine sans la remplacer.