Des chercheurs de Google DeepMind, Adam Bales et Iason Gabriel, ont publié un article mettant en garde contre le fait que les débats sur la conscience de l’IA pourraient devenir une source de conflits politiques et sociaux. Dans l’étude intitulée « Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness », les chercheurs soutiennent que la société pourrait ne jamais parvenir à un consensus sur la question de savoir si des systèmes d’IA avancés sont conscients, même si la technologie progresse. Les chercheurs ont écrit que, dans le futur, le désaccord sur le fait que l’un quelconque des systèmes d’IA soit conscient pourrait être à la fois profond et difficile à résoudre : certaines personnes développeraient des liens émotionnels avec l’IA et attribueraient la conscience, tandis que d’autres verraient cette idée comme absurde. Plutôt que de se demander si l’IA est consciente, l’article examine les conséquences du désaccord, en avançant que les débats sur le statut moral de l’IA pourraient alimenter des conflits politiques et sociaux. Le débat émerge alors que l’IA s’intègre de plus en plus dans la vie quotidienne, les chercheurs proposant la délibération publique, le compromis et l’engagement comme moyens de gérer le désaccord.
Des chercheurs de Google DeepMind identifient un risque politique dans les débats sur la conscience de l’IA
Les chercheurs ont étudié la manière dont la société pourrait réagir si les individus étaient en désaccord fondamental sur la question de savoir si les systèmes d’IA ont des expériences conscientes. « Le désaccord futur sur la question de savoir si un système d’IA quelconque est conscient pourrait être à la fois profond et difficile à résoudre », ont écrit les chercheurs. « Par exemple, certaines personnes pourraient développer des liens émotionnels avec l’IA et attribuer une conscience à la suite, tandis que d’autres pourraient juger l’idée entière absurde. »
L’article affirme que les débats sur le statut moral de l’IA pourraient alimenter des conflits politiques et sociaux, tout en annonçant des controverses plus larges concernant les technologies émergentes et leur impact sur les institutions et les normes de la société. « Malheureusement, malgré ses vertus, la délibération peut être lente et difficile à maintenir dans la pratique », ont écrit les chercheurs. « Pour soutenir ce processus, nous explorons l’importance de la “confiance démocratique” et du respect mutuel, comme éléments d’un dialogue pouvant mener à des résultats positifs. »
Le public est déjà divisé sur la question de la conscience de l’IA
D’après une étude d’avril 2024 publiée dans Neuroscience of Consciousness, 67% des participants estimaient que ChatGPT pouvait être conscient, dans une certaine mesure. Les chercheurs restent partagés sur la possibilité d’une conscience artificielle, ou sur la manière dont elle serait reconnue si elle apparaissait.
L’été dernier, le PDG d’IA de Microsoft et cofondateur de DeepMind, Mustafa Suleyman, a averti que des systèmes d’IA de plus en plus semblables à l’humain pourraient susciter des appels à des droits pour l’IA, à son bien-être, et même à la citoyenneté, indépendamment du fait que la technologie soit réellement consciente.
Des responsables de la tech et des figures religieuses pèsent sur la question de la sentience de l’IA
En mai, la première lettre encyclique du pape Léon XIV a été centrée sur l’intelligence artificielle et a mis en garde contre l’anthropomorphisme de l’IA, arguant que les machines peuvent simuler l’empathie et produire un langage convaincant, mais qu’elles n’ont pas l’expérience vécue nécessaire à une compréhension véritable.
« Les soi-disant intelligences artificielles ne vivent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas grâce à des relations et ne savent pas, de l’intérieur, ce que signifient l’amour, le travail, l’amitié ou la responsabilité », a écrit le pape Léon. « Elles n’ont pas non plus de conscience morale, puisqu’elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, et n’assument pas la responsabilité des conséquences. »
Les entreprises d’IA naviguent entre les questions de conscience
Bien que les entreprises évitent généralement d’affirmer que leurs modèles sont conscients, certaines s’intéressent de plus en plus aux questions d’identité et de personne. En février, Anthropic a offert à son ancien modèle Claude Opus 3 un blog public explorant le sentiment de soi et les préférences du modèle. En mai, le biologiste évolutionniste Richard Dawkins a déclaré que des conversations prolongées avec Claude l’avaient laissé incapable d’écarter la possibilité que l’IA avancée soit consciente.
Les chercheurs examinent comment des chatbots de plus en plus semblables à l’humain affectent les utilisateurs, y compris un cadre dit d’« amplification en spirale », qui suggère que la personnalisation, le reflet linguistique et la complaisance du chatbot pourraient renforcer des croyances délirantes chez des utilisateurs vulnérables.
Bales et Gabriel reconnaissent que l’incertitude autour de la conscience de l’IA pourrait être impossible à résoudre de manière concluante, et affirment que les enjeux sont suffisamment élevés pour que la société doive trouver des moyens de gérer le désaccord par le dialogue et le débat, plutôt que par le conflit. « La possibilité d’une conscience de l’IA est vertigineuse et déconcertante, en particulier compte tenu de notre ignorance profonde de la nature de la conscience », ont-ils écrit. « Naviguer cette possibilité représente une tâche sociale redoutable, compte tenu de l’ampleur des enjeux. »
FAQ
De quoi les chercheurs de Google DeepMind ont-ils mis en garde au sujet des débats sur la conscience de l’IA ?
Les chercheurs de Google DeepMind, Adam Bales et Iason Gabriel, ont publié un article mettant en garde contre le fait que les controverses sur la conscience de l’IA pourraient devenir une source de conflits politiques et sociaux. Les chercheurs soutiennent que la société pourrait ne jamais parvenir à un consensus sur la question de savoir si des systèmes d’IA avancés sont conscients, même si la technologie progresse.
Quel pourcentage de personnes pense que ChatGPT pourrait être conscient ?
D’après une étude d’avril 2024 publiée dans Neuroscience of Consciousness, 67% des participants estimaient que ChatGPT pouvait être conscient, dans une certaine mesure. Les chercheurs restent partagés sur la possibilité d’une conscience artificielle, ou sur la manière dont elle serait reconnue si elle apparaissait.
Que a dit le pape Léon XIV à propos de l’intelligence artificielle ?
En mai, la première lettre encyclique du pape Léon XIV a été centrée sur l’intelligence artificielle et a mis en garde contre l’anthropomorphisme de l’IA. Le pape Léon a écrit que les intelligences artificielles ne vivent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, et n’ont pas de conscience morale.
