Un chercheur de Microsoft a construit un réseau de neurones avec des chèvres dans Age of Empires 2. Le but n'est pas ce que vous croyez.

Imaginez : un jeu de stratégie médiéval, un éditeur de scénarios, des chèvres, et un réseau de neurones fonctionnel. Ce n'est pas une métaphore. Ce n'est pas une diapositive de présentation de start-up. Un chercheur de Microsoft l'a vraiment fait, et l'objectif de toute cette mise en scène est l'une des idées les plus utiles qu'on ait avancées dans le domaine de l'IA depuis des années : cessons de supposer que les grands modèles de langage pensent comme des humains, simplement parce qu'ils ont appris à partir du langage humain.

La mise en scène : des chèvres comme bits, des ponts comme logique

Adrian de Wynter, chercheur chez Microsoft et à l'Université de York, a construit un réseau de neurones fonctionnel à l'intérieur de l'éditeur de cartes d'Age of Empires II, selon The Decoder. La conception est volontairement complètement absurde. Une chèvre debout sur de l'herbe équivaut à 0. Une chèvre debout sur un pont équivaut à 1. De Wynter construit des portes logiques à l'aide des outils de script de l'éditeur de scénarios, et des rampes de glace avec des chèvres en attente empêchent les calculs d'être perturbés. Le mini-réseau terminé se compose de deux portes XNOR et d'une porte AND, et il apprend la fonction logique AND. C'est un vrai réseau de neurones fonctionnel. Il tourne sur un jeu de stratégie en temps réel sorti en 1999. Les chèvres, elles, n'en savent rien.

De Wynter va plus loin dans l'annexe, toujours selon The Decoder : il démontre que, en théorie, n'importe quel ordinateur pourrait être reproduit à l'aide d'une version idéalisée du jeu, rendant Age of Empires II aussi expressif sur le plan computationnel que n'importe quel substrat capable de faire tourner un LLM. Ce qui signifie que si vous êtes prêt à soutenir qu'un LLM est conscient ou sensible parce qu'il traite du langage et produit des réponses qui sonnent humaines, vous devez étendre ce même argument aux chèvres. Ce que vous ne souhaitez probablement pas faire.

L'argument central : l'anthropomorphisme est un défaut de conception

La thèse de l'article, telle que rapportée par 404 Media, est que « l'objectif de l'article est de montrer formellement que nous anthropomorphisons trop facilement ». Ce n'est pas une simple impression ; c'est une critique méthodologique avec des conséquences directes sur la façon dont les systèmes d'IA sont construits, testés et auxquels on fait confiance.

Lorsque les chercheurs et les équipes produit supposent qu'un LLM raisonne comme un humain parce qu'il a été entraîné sur du texte humain, ils conçoivent des évaluations autour de cette hypothèse. Ils demandent aux modèles d'expliquer leur raisonnement, traitent les réponses fluides comme une preuve de compréhension, et confondent la reconnaissance de motifs à grande échelle avec une véritable inférence.

L'expérience de De Wynter est un reductio ad absurdum formel : les mêmes propriétés logiques attribuées aux LLMs comme preuve d'une cognition semblable à celle des humains sont présentes dans un système composé d'animaux de ferme médiévaux et de palissades. Pour quiconque développe avec l'IA, ce n'est pas une raison de se méfier de chaque réponse d'un modèle. C'est une raison de concevoir vos tests et votre calibration de confiance autour de ce que les LLMs font réellement — c'est-à-dire la prédiction du prochain token à partir de motifs statistiques appris — plutôt que de ce qu'ils semblent faire, c'est-à-dire penser. Cette distinction est d'une importance capitale lorsque vous décidez de confier à un système d'IA des tâches à forts enjeux sans supervision humaine.

Ce que les développeurs et les apprenants doivent retenir

PC Gamer a rapporté la formulation directement à partir de l'objectif déclaré de De Wynter : amener les gens à « cesser de supposer que les LLMs se comportent comme des humains simplement parce qu'ils ont été entraînés avec du langage naturel ». C'est un conseil concret, pas simplement de la vantardise académique.

Si vous apprenez à développer avec des outils d'IA, la compétence la plus durable que vous puissiez acquérir dès maintenant est l'habitude de tester les résultats en les confrontant à la réalité, plutôt qu'en vous demandant si la réponse sonne de façon confiante et cohérente. Un LLM qui explique sa réponse de manière fluide n'est pas nécessairement correct ; il est juste très doué pour donner l'impression de l'être.

XDA Developers a présenté le projet comme la preuve que les LLMs ne sont pas sensibles, et cette lecture tient la route. Mais la lecture la plus constructive est que la question de la sensibilité est tout simplement la mauvaise question. La question utile est : dans quelles conditions ce système produit-il des résultats fiables, et comment puis-je les vérifier ?

Le réseau de chèvres de De Wynter ne peut pas répondre à un ticket de support client ni rédiger un plan de cours, mais il rend l'architecture sous-jacente compréhensible d'une manière que cent articles explicatifs n'ont pas réussi à faire. Parfois, la démonstration la plus claire est la plus absurde.

C'est une méthodologie dix sur dix, zéro sur dix pour les implications en matière de bien-être animal, et exactement le genre de recherche qui devrait être une lecture obligatoire avant que quiconque ne déploie une fonctionnalité d'IA.

À suivre : à mesure que les cadres d'évaluation de l'IA évoluent, attendez-vous à ce que l'argument central de De Wynter — selon lequel l'indépendance du substrat est la raison pour laquelle les tests comportementaux de sensibilité ou de raisonnement humain sont fondamentalement peu fiables — se retrouve dans la façon dont les équipes sérieuses définissent la « sécurité de l'IA » et l'audit des modèles. Les chèvres sont arrivées les premières.