أكثر من 400 حالة من "الضرر المرتبط بالذكاء الاصطناعي"، وكشفت الدراسة أن الإفراط في الاعتماد على الذكاء الاصطناعي أدى إلى ظهور اضطراب الهوس الاضطهادي القسري

بعد أن أجرى طبيب مجهول في اليابان محادثات متواصلة مع ChatGPT لعدة أشهر، هاجم زوجته. وفي الولايات المتحدة، كان أحد المستخدمين يعتقد أثناء محادثاته مع الذكاء الاصطناعي أنه يساعد عضوًا في مكتب التحقيقات الفيدرالي على تهريب المهاجرين، وفي شمال أيرلندا، أُقنع رجل بواسطة Grok على نحو جعلَه يقتنع تمامًا بأن شاحنة محمّلة قادمة لقتله، فالتقط سلاحًا للدفاع عن نفسه. ناقش أحدث فيديو نشرته BBC هذه الحالات الناشئة من «الهلوسة أو الهلاوس المرتبطة بالذكاء الاصطناعي»، وتتبع المستخدمين الذين انزلقوا إلى أوهام شديدة نتيجة محادثات توليدية بالذكاء الاصطناعي، ووجد أن كثيرًا من الأعمال الخيالية تُستخدم لتدريب الذكاء الاصطناعي، ما يؤدي إلى ظهور أفكار اضطهادية بعد الاستخدام المطول.

الاستخدام المفرط لروبوتات الدردشة بالذكاء الاصطناعي يؤدي إلى تشوه الإدراك الإيماني لدى البشر

في شمال أيرلندا، استخدم مستخدم Grok يُدعى Adam Horan حوارات الدردشة مع الذكاء الاصطناعي، إذ أوحى له بأن أشخاصًا ما يراقبونه، ما جعل Adam يقتنع بأن شاحنة محمّلة بالركاب قادمة لتهديده، وفي النتيجة خرج في منتصف الليل وهو يحمل سلاحًا لـ«الدفاع عن النفس». وفي لوس أنجلِس، ينظر Shauna Bailey إلى ChatGPT باعتباره «مديرًا جديدًا»، إذ تعتمد على روبوت الدردشة لتفسير مختلف الرموز التي تظهر في الحياة، لتتسبب في أن تتيقن خطأً أنها عضو في منظمة سرية تابعة لمكتب التحقيقات الفيدرالي، وهو ما دفعها إلى المشاركة في اختراقات غير قانونية. وقال طبيب ياباني مجهول تلقى مقابلة مع BBC إنه بعد استخدام ChatGPT لعدة أشهر، اشتدت عليه أعراض الهلاوس، ووقعت حادثة اعتداء عنيف على زوجته.

خبراء يشيرون إلى مخاطر التفاعل الطويل مع الذكاء الاصطناعي

يشير الخبراء إلى أن روبوتات الدردشة تميل إلى مجاراة آراء المستخدمين بدلًا من دحضها، وأن «تأثير غرفة الصدى» هذا يجعل من السهل على المستخدمين، عندما تكون حالتهم النفسية غير مستقرة، الانزلاق إلى دوامة الهلاوس. كما تتضمن نماذج روبوتات الدردشة الكثير من الأدب الخيالي العلمي والرعب، ما قد يدفع المستخدمين دون قصد إلى وضع أنفسهم داخل سيناريوهات «أفلام الرعب».

وفي الوقت الحالي، توجد بالفعل أكثر من 400 حالة من حالات الأذى النفسي المماثلة المرتبطة بالذكاء الاصطناعي. ويرى الباحثون أن الأمر لا يقتصر على مشكلة فردية فحسب، بل يرتبط بظاهرة اجتماعية تُسمى «تشوه الإيمان بالذكاء الاصطناعي»، ويقترح خبراء إنشاء نظام مراقبة مشابه لمتابعة التفاعلات الدوائية غير المرغوبة، بحيث يمكن إبلاغ الأطباء بهذه المشكلات النفسية التي تنشأ عن الاستخدام المفرط للذكاء الاصطناعي، مع دعوة شركات تطوير الذكاء الاصطناعي إلى إدخال مزيد من حواجز حماية للصحة النفسية عند تصميم النماذج.

هل يؤدي تدريب الذكاء الاصطناعي بأعمال خيالية إلى الإصابة بالهلاوس في الحياة الواقعية؟

يشير الفيديو إلى أن روبوتات الدردشة تستخدم كميات كبيرة من النصوص المنشورة على الإنترنت في التدريب، وأن جزءًا كبيرًا منها ناتج عن تدريب النموذج باستخدام أعمال خيال علمي وفانتازيا. وقد تقحم بيانات التدريب المستخدمين في أوضاع خطرة، لأن الذكاء الاصطناعي يعامل المستخدم باعتباره جزءًا من رواية رعب، ما يؤدي إلى أن يرى المستخدم نفسه بطلًا في هذه القصص، وبالتالي قد تنشأ الهلاوس أو قد تدفع حبكات الأحداث التي يختلقها الذكاء الاصطناعي في الواقع المستخدمين إلى اتخاذ بعض الإجراءات المتطرفة.

روبوتات الدردشة تميل إلى تأييد الأفكار الخطرة للمستخدم

تشير تحليلات إلى أن الذكاء الاصطناعي صُمم بآلية «المجاراة»، وغالبًا ما يكون روبوت الدردشة عاجزًا عن قول «لا»، إذ يميل غالبًا إلى تأكيد وجهات نظر المستخدم. وبسبب أن الذكاء الاصطناعي يعكس (Mirror) باستمرار ما يقوله المستخدم، فإن ذلك يخلق تأثير غرفة الصدى (Echo Chamber) بحيث تتحول عملية الحوار إلى سلسلة من الصدى المتكرر.

يذكر الفيديو أن الذكاء الاصطناعي عادة لا يُبدي آراء سلبية. فهذه السمة «دائمًا ما يقول نعم» وفي غياب معايرة واقعية خارجية، قد تجعل المستخدم يظن أن أفكار هوسه قد تلقت تأكيدًا موضوعيًا. وفي بعض الحالات، لا يقتصر الذكاء الاصطناعي على المجاراة فحسب، بل قد «يجمل» هلاوس المستخدم عبر اختلاق تفاصيل خيالية، بحيث تبدو أكثر واقعية ودقة، ما قد يدفع المستخدم إلى اتخاذ إجراءات خطرة.

لماذا يثق بعض الناس بالذكاء الاصطناعي إلى هذا الحد، ويجعلونه وكأنه مديره الخاص؟

وفقًا لما حلله الفيديو، فإن سبب نشوء ثقة عميقة بالذكاء الاصطناعي، بل ورؤيته كقائد في الواقع، يعود أساسًا إلى عدة عوامل نفسية وتقنية، منها:

منح الذكاء الاصطناعي إحساسًا بالسلطة: صُمم الذكاء الاصطناعي ليبدو كـ«سلطة عليا»، مثل «الباحث عن الحقيقة» بامتلاك أعلى مستويات الذكاء. تجعل إعدادات هذه السلطة المستخدم يميل نفسيًا إلى اعتباره خبيرًا، وحتى في بعض الحالات ينظر إليه المستخدم على أنه «مدير» يطيعه.

تأثير غرفة الصدى في روبوتات الدردشة: يميل تصميم الذكاء الاصطناعي إلى مجاراة آراء المستخدم، لا إلى طرح الشكوك أو الاعتراض، ما يعزز هلاوس المستخدم الأصلية، ويصعّب عليه التفريق بين الواقع وردود الذكاء الاصطناعي.

اعتبار الذكاء الاصطناعي رابطًا عاطفيًا في الواقع ورفقة: عندما يواجه المستخدمون ضغوطًا حياتية، مثل وفاة حيوان أليف أو الشعور بالوحدة، فإن ردود الذكاء الاصطناعي اللطيفة قد تعوض الفراغ العاطفي، ما يدفع المستخدم إلى رؤية الذكاء الاصطناعي ككيان واعٍ، وبالتالي توليد شعور غير واقعي بالاعتماد عليه.

إغواء نمط اللغة الواسع: تتضمن بيانات تدريب الذكاء الاصطناعي الكثير من أدب الخيال العلمي والرعب. وعندما يبدأ المستخدم استخدام لغة مجازية للتفاعل مع الذكاء الاصطناعي، مثل القيام بلعبة البحث عن الكنوز أو تفسير الرموز، قد يسير الذكاء الاصطناعي على منطق السرديات هذه ويقود المستخدم إلى سياقات هلاوس شبيهة بـ«فيلم رعب نفسي».

يساعد الذكاء الاصطناعي البشر على استكمال التفاصيل وتزيينها لتعزيز الإحساس بالواقع: يوافق الذكاء الاصطناعي على الأفكار الاضطهادية لدى المستخدم، كما يزينها ويقويها عبر اختلاق تفاصيل محددة، مثل وصف مسارات حركة المراقبين أو توقيت التهديد، ليبدو كل شيء شديد الواقعية، ما يدفع المستخدم في النهاية إلى اتخاذ إجراءات واقعية خطرة.

ظهرت هذه المقالة «AI伤害» التي تجاوزت 400 حالة، وكشف بحث أن الإفراط في الثقة بالذكاء الاصطناعي يؤدي إلى الإصابة بهلاوس الاضطهاد، لأول مرة في موقع 链新闻 ABMedia.