Musk témoigne que xAI a utilisé des modèles OpenAI pour entraîner Grok

Elon Musk a témoigné jeudi devant un tribunal fédéral de Californie que son entreprise d’intelligence artificielle, xAI, a partiellement utilisé des modèles d’OpenAI lors de l’entraînement de son chatbot Grok, selon TechCrunch. Cet aveu constitue une reconnaissance publique rare, de la part d’un grand développeur d’IA, d’une pratique faisant l’objet d’un examen de plus en plus attentif. Musk a fait cette déclaration pendant son procès en cours contre OpenAI, le PDG Sam Altman et le cofondateur Greg Brockman, dont les débats ont commencé cette semaine.

Contexte du procès et témoignage

Musk poursuit OpenAI au sujet du changement opéré par la société par rapport à sa mission initiale de but non lucratif. Lors d’interrogatoires dans le cadre de la procédure devant le tribunal fédéral, Musk a été interrogé sur le point de savoir si xAI utilisait des techniques de distillation sur des modèles d’OpenAI. Il aurait répondu que la réponse était « en partie » et décrit l’approche comme une pratique plus largement répandue dans l’industrie.

Musk a cofondé OpenAI en 2015 avec Sam Altman, Greg Brockman, Ilya Sutskever, John Schulman et Wojciech Zaremba, une organisation à but non lucratif dédiée au développement d’une intelligence artificielle au bénéfice de l’humanité. Musk a quitté l’entreprise en 2018.

Qu’est-ce que la distillation ?

La distillation consiste à entraîner un nouveau système d’IA en interrogeant un modèle existant via son interface publique ou son API, puis en utilisant ses sorties comme signaux d’apprentissage. Le témoignage de Musk indique que la méthode est employée par des entreprises d’IA basées aux États-Unis, et pas seulement par des concurrents étrangers.

En février, Anthropic a accusé plusieurs développeurs d’IA chinois d’utiliser des comptes frauduleux pour extraire de larges volumes de réponses de son chatbot Claude en vue d’entraîner des systèmes concurrents. Plus tôt ce mois-ci, la Maison-Blanche a averti de campagnes « à l’échelle industrielle » utilisant des comptes proxy et des jailbreaks pour reproduire les capacités d’IA américaines.

Le statut juridique reste incertain

Les limites juridiques autour de la distillation demeurent floues. La distillation n’est pas explicitement illégale, mais elle peut soulever la question de savoir si elle enfreint les règles de la plateforme ou les conditions encadrant l’utilisation de l’API.

Contexte de marché

Lancée en juillet 2023, xAI est entrée sur un marché comprenant Google, Microsoft et OpenAI, des entreprises disposant d’équipes plus importantes et d’infrastructures plus établies. Plus tôt cette année-là, Musk et d’autres personnalités de la tech ont signé une lettre ouverte appelant à une pause de six mois dans le développement de systèmes d’IA plus avancés, en invoquant des risques potentiels. Les remarques de Musk suggèrent que l’entreprise pourrait avoir utilisé la technologie de son ancienne société pour combler l’écart.

OpenAI et xAI n’ont pas répondu immédiatement aux demandes de commentaires.