Des chercheurs de Microsoft publient un article : si ChatGPT a une conscience, les chèvres d'Age of Empires 2 aussi.

Le scientifique en chef de Microsoft, Adrian de Wynter, a utilisé l'éditeur de cartes personnalisées d'Age of Empires II pour construire un perceptron 1 bit à l'aide de chèvres, de prairies et de ponts du jeu, dans un article académique intitulé "Si les grands modèles de langage ont des traits humains, alors Age of Empires II aussi". Il y démontre que la logique de calcul sous-jacente de grands modèles de langage comme ChatGPT est fondamentalement identique au mécanisme de déclenchement des chèvres dans le jeu.

Implémentation technique d'un réseau neuronal dans Age of Empires II : le rôle des prairies, des ponts et des chèvres

(Source : capture d'écran de CryptoCity)

De Wynter a utilisé la fonction de déclenchement de scénario personnalisé d'Age of Empires II pour construire une porte NAND à partir d'éléments du jeu : les prairies représentent le chiffre 0, les ponts le chiffre 1, et les chèvres jouent le rôle de bits. Lorsque la porte logique est déclenchée, la chèvre servant de signal d'entrée est retirée, et une nouvelle chèvre est générée sur la voie de sortie.

Grâce à ce mécanisme, De Wynter a implémenté dans le jeu un perceptron 1 bit, le bloc de construction le plus fondamental des réseaux neuronaux modernes. Il affirme que ce réseau piloté par des chèvres est, par essence, identique à la technologie sous-jacente qui alimente ChatGPT, ne différant que par la complexité et l'échelle.

Les statistiques de De Wynter sur les biais d'anthropomorphisme dans 300 articles d'informatique

Dans son article, De Wynter analyse plus de 300 articles d'informatique publiés au cours des deux dernières années et révèle les chiffres suivants :

· 57 % des articles supposent, dès la conception de l'expérience, que les LLM possèdent des traits humains comme l'anxiété ou la moralité.

· Parmi ces articles qui présupposaient l'existence de tels traits, 77 % concluent finalement que ces traits sont effectivement présents.

· De Wynter qualifie ce résultat de biais de confirmation, estimant que l'hypothèse d'anthropomorphisme initiale des chercheurs influence directement les conclusions scientifiques finales.

· Il appelle la communauté scientifique à adopter une hypothèse nulle ne présupposant pas de traits humains pour ses expériences.

Le discours commercial des géants de l'IA et le mécanisme de marché de l'anthropomorphisme des LLM

De Wynter souligne que les stratégies commerciales des entreprises d'IA renforcent la perception publique de la conscience des LLM. Il mentionne que les consommateurs sont plus enclins à payer lorsqu'ils s'identifient au produit, une règle qui s'applique aussi bien aux grille-pains qu'aux abonnements LLM.

Dans son article, De Wynter cite trois cas : Sam Altman, PDG d'OpenAI, a souvent laissé entendre que la construction de LLM est une voie vers une « IA divine » ; Ilya Sutskever, ancien scientifique d'OpenAI, aurait discuté avec des employés de la vision du modèle de l'entreprise comme d'une « conscience divine » ; Dario Amodei, PDG d'Anthropic, a déclaré aux médias qu'« il est impossible de déterminer si l'IA a une conscience ». Ces affirmations sont toutes citées par De Wynter dans son article, et ne constituent pas son interprétation personnelle des positions de ces trois personnes.

Questions fréquentes

De Wynter a-t-il construit un modèle d'IA complet dans Age of Empires II ?

Ce que De Wynter a implémenté dans le jeu est un perceptron 1 bit, le bloc de construction le plus fondamental des réseaux neuronaux modernes, et non un modèle d'IA complet. L'objectif de l'article est de montrer que la même logique de calcul sous-jacente existe à la fois dans le mécanisme de déclenchement des chèvres du jeu et dans la technologie sous-jacente de ChatGPT, afin d'expliquer que la perception des traits anthropomorphiques de ChatGPT provient principalement de l'interface textuelle et des attentes psychologiques.

Que signifient les statistiques 57 % et 77 % ?

Selon l'analyse statistique de l'article de De Wynter, parmi plus de 300 articles d'informatique des deux dernières années, 57 % supposent au préalable que les LLM possèdent des traits humains comme l'anxiété ou la moralité ; parmi ces articles, 77 % concluent finalement que ces traits sont effectivement présents. De Wynter interprète cela comme un biais de confirmation — l'hypothèse initiale des chercheurs influence directement la conception des expériences et les conclusions finales.

Comment l'écrivain de science-fiction Ted Chiang décrit-il le problème de l'anthropomorphisme excessif des LLM ?

Selon l'article, Ted Chiang a écrit que croire aveuglément que les modèles de langage possèdent une conscience revient à croire qu'à chaque ouverture d'un fichier Microsoft Word, on réveille plusieurs entités cachées dans l'historique des conversations, illustrant ainsi que la perception anthropomorphique des LLM est une illusion cognitive.