أطلقت كلية ستانفورد للأبحاث في الذكاء الاصطناعي المتمحور حول الإنسان (Stanford HAI) في شهر يونيو حتى الآن أكبر دراسة ميدانية على مستوى الأبحاث بشأن خوارزميات التوظيف بالذكاء الاصطناعي، ووجدت أن أنظمة الفرز بالذكاء الاصطناعي في الوظائف التي يتقدم لها أصحاب البشرة السوداء بنسبة 26% وأصحاب البشرة الآسيوية بنسبة 15% تُظهر تمييزاً يقع ضمن تعريف لجنة تكافؤ فرص العمل الأمريكية (EEOC) لـ”قاعدة الأربعة أخماس“. وتكون الفئة الأكثر تفضيلاً عادةً هم المتقدمون البيض.
تتبع 3.4 مليون باحث عن عمل، و4 مليون طلب، وتغطي 150 جهة توظيف في 11 قطاعاً
تشمل الدراسة 3.4 مليون باحث عن عمل، و4 مليون طلب، و1,700 وظيفة، و150 جهة توظيف، و11 قطاعاً، وهي حالياً أكبر دراسة ميدانية عالمياً بشأن خوارزميات التوظيف بالذكاء الاصطناعي. وتتمثل مجموعة الضبط في 108 شركات من قائمة فورتشن 500، و83,000 طلب، حيث لم تعتمد هذه الشركات الفرز بالذكاء الاصطناعي، ولا تكاد تلاحظ ظاهرة الرفض الشامل المنهجي في مجموعة الضبط.
تنص قاعدة الأربعة أخماس التابعة للجنة EEOC على أنه إذا كانت نسبة توصية التوظيف لفئة ما أقل من 80% من أعلى نسبة توصية لدى الفئة الأعلى توصية، فإن ذلك يشكل حدّاً قانونياً لوجود “أثر سلبي”. وتُظهر الدراسة، بناءً على هذا المعيار، أنه إذا تم التوصية بالوظائف لأصحاب البشرة السوداء والآسيويين بنسبة عادلة، فسيتم تمكين ما يزيد عن 40,000 طلب من الوصول إلى مرحلة المراجعة البشرية.
تكشف الدراسة أيضاً عن “آليات إخفاء” رقمية للتمييز: فعند احتساب متوسط معدلات التوصية من جميع الوظائف معاً، يكاد يتلاشى التمييز رقمياً؛ فعلى سبيل المثال، قد يُفضّل نظام ذكاء اصطناعي توصية أصحاب البشرة السوداء للعمل في الخدمات اللوجستية للمناغل (التخزين والنقل) دون التوصية بالمناصب المالية، وعند جمع النتائج يصبح المتوسط قريباً من معيار الإنصاف. ولا يظهر التمييز إلا عبر التحليل المفصل حسب كل وظيفة على حدة، وحسب كل فئة على حدة.
مشكلة تركّز الخوارزمية: 90% من الشركات الأمريكية تستخدم فرزاً بالذكاء الاصطناعي، وWorkday تواجه دعوى جماعية
في 4 شركات تستخدم المورّد نفسه لخدمة الذكاء الاصطناعي، رفض 10% من المتقدمين بعد تقديمهم الطلب إلى هذه الشركات الأربع جميعها؛ بينما لا تكاد توجد هذه الظاهرة في مجموعة الضبط التي لم تستخدم فرزاً بالذكاء الاصطناعي. تُرجع الدراسة ذلك إلى “ثقافة خوارزمية واحدة”: إذ يتم تطبيق انحيازات مجموعة واحدة من الخوارزميات في مئات الشركات، ما يؤدي إلى استبعاد منهجي لمتقدمي فئات محددة من سوق العمل بأكمله، وغالباً دون أن يدرك المتقدمون لذلك.
حدّد الباحثون 3 خصائص عالية الخطورة موجودة بالفعل في أدوات فرز الذكاء الاصطناعي:
اعتماد واسع النطاق (Pervasively Adopted): نحو 90% من أصحاب العمل في الولايات المتحدة يستخدمونها في عملية التوظيف
عالية الأثر (Highly Consequential): تحدد بشكل مباشر ما إذا كان المتقدمون سيلجون مرحلة المراجعة البشرية
غير شفافة أمام الجمهور (Opaque): لا يعرف المتقدمون ما إذا كانوا قد تم استبعادهم عبر الخوارزمية، ولا تكون لدى أصحاب العمل بالضرورة معرفة بكيف تؤدي الأداة فعلياً عبر فئات الوظائف المختلفة
تواجه أداة فرز الذكاء الاصطناعي لدى Workday حالياً دعوى جماعية، مع اتهامات تشمل التمييز على أساس العرق والعمر والإعاقة.
قانون الذكاء الاصطناعي في كولورادو (AI Act) يدخل حيز التنفيذ في يونيو، والمعيار الخاص بـ”الرعاية المعقولة” غير محدد
يدخل قانون الذكاء الاصطناعي في كولورادو حيز التنفيذ رسمياً في يونيو 2026، وهو واحد من القوانين القليلة في الولايات المتحدة التي تفرض متطلبات امتثال واضحة تخص أدوات توظيف الذكاء الاصطناعي على مستوى الولايات. ويُلزم المطورين باتخاذ تدابير “رعاية معقولة” لمنع التمييز. غير أن تفاصيل “الرعاية المعقولة” وآلية تطبيقها لا تزال قيد الإعداد.
أشار فريق البحث إلى أن افتراض قيام هذا النوع من الدراسات هو توفر البيانات، بينما غالباً ما تكون بيانات التوظيف تحت سيطرة المورّدين وأصحاب العمل. كما أشار إلى أن خريجي دفعة 2026 يواجهون بيئة توظيف من أصعب البيئات في السنوات الأخيرة: إذ تضاعف عدد طلبات الوظائف المبتدئة في الشركات ليصل إلى 3 أضعاف مستويات 2022، وارتفع بالتوازي معدل استخدام أدوات فرز الذكاء الاصطناعي.
الأسئلة الشائعة
ما هي قاعدة الأربعة أخماس في EEOC، وكيف حددت هذه الدراسة التمييز بموجبها؟
تنص قاعدة الأربعة أخماس على أنه إذا كانت نسبة توصية التوظيف لفئة ما أقل من 80% من أعلى نسبة توصية لدى الفئة الأعلى توصية، فإن ذلك يحقق حد “الأثر السلبي” من الناحية القانونية. استخدمت دراسة Stanford HAI هذا المعيار للتحليل المفصل بحسب كل وظيفة وعلى مستوى كل فئة، من خلال تفكيك بيانات فرز الذكاء الاصطناعي، ووجدت أن أنظمة الذكاء الاصطناعي تُظهر تمييزاً مطابقاً للتعريف المذكور بالنسبة إلى فئاتها في الوظائف التي تقدم إليها 26% من المتقدمين السود و15% من المتقدمين الآسيويين.
لماذا كان من الصعب رصد تمييز توظيف الذكاء الاصطناعي في الماضي؟
يعد “اختفاء” التمييز إحصائياً السبب الجوهري. فعند حساب متوسط معدلات التوصية لجميع الوظائف معاً، تقابل معدلات التوصية المرتفعة في نوع من الوظائف معدلات التوصية المنخفضة في نوع آخر من الوظائف، ما يجعل متوسطاً إجمالياً يقترب من معيار الإنصاف. ولم تسمح دراسة Stanford HAI بظهور التمييز من خلال التحليل الدقيق بحسب كل وظيفة وعلى مستوى كل فئة، وبالتالي خرج التمييز من الأرقام.
ما المتطلبات المحددة التي يفرضها قانون الذكاء الاصطناعي في كولورادو على أدوات توظيف الذكاء الاصطناعي؟
دخل قانون الذكاء الاصطناعي في كولورادو حيز التنفيذ في يونيو 2026، ويُلزم مطوري أدوات توظيف الذكاء الاصطناعي باتخاذ تدابير “رعاية معقولة” لمنع التمييز. وهو من بين القوانين القليلة على مستوى الولايات الأمريكية المتعلقة بتوظيف الذكاء الاصطناعي والتي دخلت حيز النفاذ بالفعل. وفي الوقت الراهن، لا يزال من المقرر تحديد المعايير التفصيلية لـ”الرعاية المعقولة” وآليات الإنفاذ المقابلة بشكل أكبر من قبل الجهات المختصة.
