Le chercheur de Google DeepMind Alex Turner démissionne à propos d’un contrat militaire d’IA du Pentagone, sans restrictions

D’après un long post publié récemment par Alex Turner, ancien chercheur en sécurité de l’IA chez Google DeepMind, il a démissionné en juin après que l’entreprise a signé, en avril, un contrat d’IA militaire avec le U.S. Department of Defense, qu’il décrit comme « unrestricted ». Turner avait rédigé un cadre de supervision de l’IA militaire sur 25 pages et obtenu le soutien d’environ 250 employés de DeepMind et de Google Research, en proposant des garde-fous contre les armes autonomes et la surveillance de masse. Toutefois, Turner a déclaré que ses échanges avec le PDG de DeepMind, Demis Hassabis, et d’autres hauts responsables n’ont abouti à aucun progrès substantiel, et que la proposition n’a jamais été examinée formellement par la direction.

Turner a également indiqué que les clauses du contrat limitant les armes autonomes et la surveillance n’étaient pas contraignantes dans leur formulation. Il a exprimé sa déception de voir que des figures majeures de l’IA, dont le Chief Scientist de Google, Jeff Dean, et le lauréat du prix Turing, Yoshua Bengio, n’ont pas pris des mesures suffisantes pour empêcher la signature du contrat, malgré des déclarations publiques antérieures s’opposant aux armes létales autonomes.