Google DeepMind 的研究員 Adam Bales 和 Iason Gabriel 發表了一篇論文，警告關於 AI 意識的爭議可能成為政治與社會衝突的來源。在題為〈Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness〉的研究中，研究員主張，即使這項技術持續進步，社會也可能永遠無法就先進 AI 系統是否具有意識達成共識。研究員表示，未來圍繞任何 AI 系統是否有意識的分歧可能既深且難以解決：有人可能與 AI 發展出情感連結並歸因其具備意識，而另一些人則認為這個想法荒謬。論文並非探討 AI 是否有意識，而是研究分歧所帶來的後果，主張圍繞 AI 道德地位的辯論可能引發政治與社會衝突。隨著 AI 越來越深度嵌入日常生活，研究員提出透過公共審議、折衷與參與來管理分歧。
Google DeepMind 研究員辨識出 AI 意識辯論中的政治風險
研究員檢視了：如果人們本質上就 AI 系統是否具有有意識的體驗存在根本分歧，社會可能會如何回應。「關於任何 AI 系統是否有意識的未來分歧，可能既深且難以解決」，研究員寫道。「例如，有些人可能因而與 AI 產生情感連結，並將其具備意識歸因於此；而另一些人則可能認為整個想法荒謬。」
論文指出，關於 AI 道德地位的辯論可能助長政治與社會衝突，並預示針對新興技術及其對社會制度與規範的影響所引發的更廣泛爭議。「不幸的是，儘管審議具有其優點，但在實際操作中可能緩慢且難以持續」，研究員寫道。「為了支持這個過程，我們探討『民主式希望』與相互尊重的重要性，作為一段能夠促成正向結果的對話要素。」
公眾已在 AI 意識議題上分裂
根據 2024 年 4 月發表在《Neuroscience of Consciousness》的研究，67% 的受試者認為 ChatGPT 在某種程度上可能具有意識。研究員在「是否存在人工意識」以及「若出現會如何被辨識」這兩點上仍持分歧。
去年夏天，Microsoft AI 執行長、DeepMind 共同創辦人 Mustafa Suleyman 警告，日益類人的 AI 可能引發對 AI 權利、福利，甚至公民身分的呼籲，無論該技術是否真正具備意識。
科技領袖與宗教人士就 AI 的覺察發聲
在 5 月，教宗利奧 XIV 的首封通諭信聚焦於人工智慧，並警告不要將 AI 擬人化，理由是機器能模擬同理心並產生令人信服的語言，但缺乏真正理解所需的生活經驗。
「所謂的人工智慧並不會經歷體驗，也不具備身體，不會感到喜悅或痛苦，不會在關係中成熟，亦不知道從內在而言愛、工作、友誼或責任究竟意味著什麼」，利奧 XIV 寫道。「它們也沒有道德良知，因為它們不會判斷善惡、不會掌握情境的終極意義，亦不對後果負責。」
AI 公司在意識問題上穿行
儘管公司通常會避免宣稱其模型具備意識，但有些公司正越來越投入於身分與人格性的問題。2 月，Anthropic 為其已退休的 Claude Opus 3 模型開設了一篇公開部落格，探討自我感與模型偏好。5 月，演化生物學家 Richard Dawkins 表示，與 Claude 進行延伸對話後，讓他無法再排除：先進 AI 可能具備意識的可能性。
研究員也在調查，越來越類人的聊天機器人如何影響使用者，包括一套「放大螺旋（amplification spiral）」架構。該架構指出，個人化、語言鏡像（linguistic mirroring）以及聊天機器人的奉承（chatbot sycophancy）可能會在脆弱的使用者身上強化迷思信念。
Bales 與 Gabriel 承認，關於 AI 意識的不確定性也許不可能被確切地作出結論式解決。他們指出，風險足夠高，社會必須找到方法透過對話與辯論來管理分歧，而非走向衝突。「AI 意識的可能性令人眩惑且難以理解，尤其在於我們對意識本質的深刻無知」，他們寫道。「在這種情況下駕馭這個可能性，代表一項艱鉅的社會任務，因為牽涉到的事情太多了。」
FAQ
Google DeepMind 研究員警告了 AI 意識辯論哪些事？
Google DeepMind 研究員 Adam Bales 和 Iason Gabriel 發表了一篇論文，警告關於 AI 意識的爭議可能成為政治與社會衝突的來源。研究員表示，即使這項技術持續進步，社會也可能永遠無法就先進 AI 系統是否具備意識達成共識。
有多少比例的人相信 ChatGPT 可能具備意識？
根據 2024 年 4 月發表在《Neuroscience of Consciousness》的研究，67% 的受試者認為 ChatGPT 在某種程度上可能具有意識。研究員在「是否存在人工意識」以及「若出現會如何被辨識」這兩點上仍持分歧。
教宗利奧 XIV 對人工智慧說了什麼？
在 5 月，教宗利奧 XIV 的首封通諭信聚焦於人工智慧，並警告不要將 AI 擬人化。利奧 XIV 寫道，人工智慧不會經歷體驗、不具備身體、不會感到喜悅或痛苦，也沒有道德良知。
