وزير الخارجية البريطاني إيفيت كوبر حذر من أن الحكومات تحتاج إلى اتفاقيات عالمية لإدارة مخاطر الذكاء الاصطناعي. في مقال نُشر يوم الاثنين، شبهت كوبر التحدي بجهود السلامة النووية التي تلت الحرب العالمية الثانية، مشيرة إلى أن الحكومات تخاطر بتكرار أخطاء ارتُكبت في فجر العصر النووي إذا انتظرت لوضع قوانين للذكاء الاصطناعي. ووصفت كوبر القضية بأنها قد تكون "أكبر تحدٍ أمني في العقد القادم" ودعت إلى التعاون بين الولايات المتحدة والصين وقوى الذكاء الاصطناعي الأخرى بشأن معايير السلامة. يأتي تحذيرها بعد قمة السلامة للذكاء الاصطناعي 2023 في بلتشلي بارك والمخاوف المتصاعدة مؤخرًا بشأن قدرات الأمن السيبراني للذكاء الاصطناعي.
كوبر تقارن تحدي حوكمة الذكاء الاصطناعي بسباق التسلح النووي
كتبت كوبر أن الذكاء الاصطناعي يقدم إنجازات ولكن أيضًا مخاطر جديدة مع تزايد قوة التكنولوجيا وتوفرها على نطاق واسع. "في الشهر الماضي، في شنتشن، الصين، رأيت الوعد الاستثنائي للذكاء الاصطناعي والروبوتات المستخدمة في الرعاية الصحية المنقذة للحياة"، صرحت كوبر. "ولكن نفس التقنيات تعيد تشكيل مستقبل الحرب والجريمة والتماسك الاجتماعي بطرق مقلقة."
شبهت كوبر السباق الحالي لتطوير أنظمة الذكاء الاصطناعي بسباق التسلح النووي المبكر، مشيرة إلى أن اتفاقيات السلامة العالمية ظهرت فقط بعد أن شهدت الدول الدمار الذي تسببت به الأسلحة الذرية. "فيما يتعلق بالنووي، جاء الاتفاق الدولي فقط بعد أن رأى العالم القوة المرعبة للتكنولوجيا الجديدة في هيروشيما"، كتبت كوبر. "لا يمكننا تحمل الانتظار حتى نرى ما يعادل هيروشيما في الذكاء الاصطناعي قبل أن نتحرك."
دعت كوبر بريطانيا إلى استخدام نفوذها الدبلوماسي لجمع الولايات المتحدة والصين وقوى الذكاء الاصطناعي الكبرى الأخرى لوضع مبادئ ومعايير سلامة مشتركة. وأشارت إلى قمة السلامة للذكاء الاصطناعي 2023 في بلتشلي بارك، حيث اجتمع قادة عالميون من 29 دولة والاتحاد الأوروبي لمناقشة المخاطر الناشئة للذكاء الاصطناعي، واصفة ذلك بأنه مثال على قدرة المملكة المتحدة على "حشد العالم بشأن أمن الذكاء الاصطناعي."
حوادث أمنية حديثة في الذكاء الاصطناعي تستدعي استجابة سياسية
يأتي تحذير كوبر بعد أشهر من المخاوف المتصاعدة حول كيفية إشراف الحكومات على أنظمة الذكاء الاصطناعي المتزايدة القوة. في مايو، حذر معهد أمن الذكاء الاصطناعي البريطاني من تحقيق مكاسب سريعة في قدرات الأمن السيبراني للذكاء الاصطناعي بعد أن أصبح GPT-5.5 من OpenAI ثاني نموذج يكمل هجومًا إلكترونيًا محاكيًا دون مساعدة بشرية، بعد Claude Mythos Preview من Anthropic.
بعد أيام، حذر صندوق النقد الدولي من أن الذكاء الاصطناعي يمكن أن "يضخم" الهجمات الإلكترونية ضد النظام المالي العالمي من خلال خفض المهارة اللازمة لاستغلال الثغرات، وحث صانعي السياسات على معالجة الأمن السيبراني كقضية استقرار مالي وليس مجرد مشكلة تقنية.
في يونيو، وقع الرئيس دونالد ترامب أمرًا تنفيذيًا ينشئ إطارًا طوعيًا لمراجعة نماذج الذكاء الاصطناعي المتقدمة قبل إصدارها، وتوسيع برامج الأمن السيبراني للذكاء الاصطناعي، وتوجيه الوكالات لتقييم مخاطر الأمن القومي المحتملة من نماذج الذكاء الاصطناعي الحدودية.
في نفس الشهر، جادل الرئيس التنفيذي لـ Anthropic داريو أمودي بأن متطلبات الشفافية لم تعد كافية ودعا إلى اختبار إلزامي من طرف ثالث للنماذج الحدودية. تبع هذا الطلب قيام الحكومة الأمريكية بإصدار أمر لـ Anthropic بتقييد الوصول إلى Claude Fable 5 وMythos 5 بسبب مخاوف الأمن القومي قبل رفع الأمر في يوليو.
الأسئلة الشائعة
ماذا حذرت وزيرة الخارجية البريطانية إيفيت كوبر بشأن حوكمة الذكاء الاصطناعي؟
حذرت وزيرة الخارجية البريطانية إيفيت كوبر من أن الحكومات تحتاج إلى اتفاقيات عالمية لإدارة مخاطر الذكاء الاصطناعي قبل أن تُجبر أزمة على اتخاذ إجراء. في مقال نُشر يوم الاثنين، صرحت بأن إدارة مخاطر الذكاء الاصطناعي قد تصبح "أكبر تحدٍ أمني في العقد القادم" وشبهت الوضع بسباق التسلح النووي، حيث جاءت الاتفاقيات الدولية فقط بعد مشاهدة الدمار في هيروشيما.
ما التعاون الدولي الذي دعت إليه كوبر بشأن سلامة الذكاء الاصطناعي؟
دعت كوبر بريطانيا إلى استخدام نفوذها الدبلوماسي لجمع الولايات المتحدة والصين وقوى الذكاء الاصطناعي الكبرى الأخرى لوضع مبادئ ومعايير سلامة مشتركة. وأشارت إلى قمة السلامة للذكاء الاصطناعي 2023 في بلتشلي بارك، حيث اجتمع قادة من 29 دولة والاتحاد الأوروبي لمناقشة مخاطر الذكاء الاصطناعي، كمثال على قدرة المملكة المتحدة على حشد التعاون العالمي بشأن أمن الذكاء الاصطناعي.
ما التطورات الأمنية الحديثة في الذكاء الاصطناعي التي حدثت قبل تحذير كوبر؟
في مايو، حذر معهد أمن الذكاء الاصطناعي البريطاني من تحقيق مكاسب سريعة في قدرات الأمن السيبراني للذكاء الاصطناعي بعد أن أكمل GPT-5.5 من OpenAI هجومًا إلكترونيًا محاكيًا دون مساعدة بشرية. حذر صندوق النقد الدولي من أن الذكاء الاصطناعي يمكن أن يضخم الهجمات الإلكترونية ضد النظام المالي العالمي. في يونيو، وقع الرئيس دونالد ترامب أمرًا تنفيذيًا ينشئ إطارًا لمراجعة نماذج الذكاء الاصطناعي المتقدمة، وأمرت الحكومة الأمريكية Anthropic بتقييد الوصول إلى نماذج معينة بسبب مخاوف الأمن القومي قبل رفع الأمر في يوليو.
