قال أدريان دي وينتر، كبير العلماء في مايكروسوفت، في ورقة بحثية بعنوان "إذا كانت نماذج اللغة الكبيرة تمتلك صفات بشرية، فإن 'عصر الإمبراطوريات 2' تمتلكها أيضًا" إنه استخدم محرر الخرائط المخصص في لعبة "عصر الإمبراطوريات 2" لبناء مشغل بت واحد (1-bit perceptron) باستخدام الماعز والعشب والجسور في اللعبة، مما يثبت أن المنطق الحسابي الأساسي لنماذج اللغة الكبيرة (LLM) مثل ChatGPT مطابق لآلية تحفيز الماعز في اللعبة.
التنفيذ التقني للشبكة العصبية في 'عصر الإمبراطوريات 2': أدوار العشب والجسور والماعز الحسابية
(المصدر: لقطة شاشة من CryptoCity)
استخدم وينتر وظيفة المحفزات المخصصة في اللعبة لبناء بوابة NAND: حيث يمثل العشب الرقم 0، والجسور الرقم 1، ويلعب الماعز دور البت (bit). عند تفعيل البوابة المنطقية، يُزال الماعز الذي يمثل إشارة الإدخال، ويُنتج ماعز جديد على مسار الإخراج.
من خلال هذه الآلية، نفذ وينتر مشغل بت واحد (1-bit perceptron) في اللعبة، وهو اللبنة الأساسية للشبكات العصبية الحديثة. قال وينتر إن هذه الشبكة التي يقودها الماعز مماثلة تمامًا في جوهرها للتقنية الأساسية التي تشغل ChatGPT، وتختلف فقط في التعقيد والحجم.
إحصاءات وينتر حول التحيز التجريدي في 300 ورقة بحثية في علوم الكمبيوتر
حلل وينتر في ورقته أكثر من 300 ورقة بحثية في علوم الكمبيوتر من العامين الماضيين، وكشف عن الأرقام التالية:
- 57% من الأوراق البحثية افترضت مسبقًا أن LLM تمتلك صفات بشرية مثل القلق أو الأخلاق في بداية تصميم التجارب.
- من بين الأوراق التي افترضت وجود هذه الصفات مسبقًا، خلصت 77% منها إلى أن الصفات موجودة بالفعل.
- صنف وينتر هذه النتيجة على أنها تحيز تأكيدي، معتبرًا أن الافتراضات التجريدية الأولية للباحثين أثرت بشكل مباشر على الاستنتاجات العلمية النهائية.
- دعا وينتر المجتمع العلمي إلى اعتماد فرضية صفرية لا تفترض صفات بشرية في التجارب.
الخطاب التجاري لعمالقة الذكاء الاصطناعي وآلية السوق لتجسيد LLM
أشار وينتر إلى أن الاستراتيجيات التجارية لشركات الذكاء الاصطناعي تعزز التصور العام لوعي LLM. وذكر أن المستهلكين يميلون أكثر للدفع عندما يشعرون بالارتباط العاطفي مع المنتج، وهذا المبدأ ينطبق من محمصة الخبز إلى خدمات اشتراك LLM.
استشهد وينتر بثلاث حالات في ورقته: صرح سام ألتمان، الرئيس التنفيذي لـ OpenAI، مرارًا بأن بناء LLM هو طريق نحو "ذكاء إلهي"؛ إيليا سوتسكيفير، العالم السابق في OpenAI، ناقش مع الموظفين اعتبار نموذج الشركة على أنه "وعي إلهي"؛ داريو أمودي، الرئيس التنفيذي لـ Anthropic، قال لوسائل الإعلام إنه "لا يستطيع التأكد مما إذا كان الذكاء الاصطناعي واعيًا". جميع هذه التصريحات استشهد بها وينتر في ورقته، وليست تفسيره الشخصي لمواقف الثلاثة.
أسئلة شائعة
هل بنى وينتر نموذج ذكاء اصطناعي كامل في 'عصر الإمبراطوريات 2'؟
نفذ وينتر في اللعبة مشغل بت واحد (perceptron)، وهو اللبنة الأساسية للشبكات العصبية الحديثة، وليس نموذج ذكاء اصطناعي كامل. الهدف من الورقة هو إظهار أن نفس المنطق الحسابي الأساسي موجود في آلية تحفيز الماعز في اللعبة والتقنية الأساسية لـ ChatGPT، مما يوضح أن إدراك الناس للصفات التجريدية لـ ChatGPT ينبع أساسًا من واجهة النص والتوقعات النفسية.
ماذا تعني الإحصاءتان 57% و 77%؟
وفقًا للتحليل الإحصائي في ورقة وينتر، من بين أكثر من 300 ورقة بحثية في علوم الكمبيوتر من العامين الماضيين، افترضت 57% منها مسبقًا أن LLM تمتلك صفات بشرية مثل القلق أو الأخلاق؛ ومن بين هذه الأوراق، خلصت 77% منها إلى أن الصفات موجودة بالفعل. فسر وينتر ذلك على أنه تحيز تأكيدي - حيث أثرت الافتراضات الأولية للباحثين مباشرة على تصميم التجارب والاستنتاجات العلمية النهائية.
كيف وصف الكاتب الخيال العلمي تيد تشانغ مشكلة التجسيد المفرط لـ LLM؟
وفقًا للاقتباس في المقال، كتب تيد تشانغ سابقًا أن الإيمان الأعمى بأن نماذج اللغة واعية يشبه الاعتقاد بأن في كل مرة تفتح فيها ملف Word في مايكروسوفت، تستيقظ كيانات متعددة مخبأة في سجلات المحادثة، مما يوضح أن الإدراك التجسيدي لـ LLM هو وهم معرفي.
