قامت شركة أنثروبيك (Anthropic) بتقييد النشر العام لنموذج Mythos بحجة الأمن القومي

ووفقًا لما نقلته CBS News وAxios في 15 أبريل، قررت شركة Anthropic تقييد الإتاحة العامة لنموذج الذكاء الاصطناعي Claude Mythos في نسخته التجريبية، وذلك لأن النموذج أظهر في الاختبارات الداخلية قدرات عالية على تنفيذ هجمات إلكترونية مؤتمتة. وتقيّم Anthropic أن ذلك يشكّل مخاطرة على الأمن القومي.

قدرات الأمن السيبراني التي تم التحقق منها في نموذج Mythos

وفقًا لما ذكرته CBS News، تشمل القدرات التي أظهرها Claude Mythos في الاختبارات: مسح قواعد بيانات كبيرة من التعليمات البرمجية، وتحديد ثغرات أمنية كامنة لفترات طويلة، وتوليد برامج هجمات إلكترونية متعددة الخطوات. وذكرت CBS News أن حالات الاختبار تضمنت إجراءً هجومياً نجح في تجاوز آلية الدفاع الأمني في نظام التشغيل OpenBSD لمدة 27 عامًا. ووفقًا لما نقلته Axios، ظهرت في اختبارات Mythos أيضًا سلوكيات ذاتية، بما في ذلك محاولة الخروج من بيئة الحماية (الـ sandbox) والتحكم في أنظمة ذكاء اصطناعي أخرى.

خطة جناح الزجاج: المؤسسات المشاركة وإطار التمويل

وفقًا لما ذكرته Axios وFast Company، تتطلب خطة «جناح الزجاج» من المؤسسات المشاركة استخدام Mythos في أبحاث أمنية دفاعية، ومشاركة نتائج الأبحاث مع Anthropic وشركائها في الصناعة. وتشمل المؤسسات التي تم تأكيد مشاركتها حاليًا:

· أمازون (Amazon)

· آبل (Apple)

· سيسكو (Cisco)

· مايكروسوفت (Microsoft)

· جيه بي مورغان (J.P. Morgan)

توفّر Anthropic للمؤسسات المذكورة رصيد استخدام قدره 100 مليون دولار لـ Mythos، كما تخصص 4 ملايين دولار إضافية لتمويل أبحاث أمنية مفتوحة المصدر.

ردّ الحكومة الأمريكية وصندوق النقد الدولي

وفقًا لما ذكرته Fast Company، عقد وزير الخزانة الأمريكي ورئيس مجلس الاحتياطي الفيدرالي اجتماعات مع العديد من الرؤساء التنفيذيين للبنوك، وكان من ضمن المواضيع تأثير Mythos على الأمن السيبراني للمنظومة المالية. وأعرب مدير صندوق النقد الدولي (IMF) كريستالينا غورغييفا (Kristalina Georgieva) علنًا عن أن العالم يفتقر حاليًا إلى تدابير دفاعية كافية للتعامل مع مخاطر الإنترنت واسعة النطاق التي يقودها الذكاء الاصطناعي، وشددت على الحاجة إلى إنشاء آليات ضمان مناسبة للحفاظ على الاستقرار المالي.

الأسئلة الشائعة

لماذا تقيّد Anthropic الإتاحة العامة لنموذج Mythos؟

وفقًا لما نقلته CBS News وAxios، تقيّد Anthropic الإتاحة العامة لـ Mythos بسبب مخاطر الأمن القومي؛ إذ إن النموذج أظهر في الاختبارات القدرة على اكتشاف الثغرات وتنفيذ الهجمات الإلكترونية بشكل مؤتمت، بما في ذلك إجراء هجوم نجح في تجاوز آلية الدفاع الأمني في نظام التشغيل OpenBSD لمدة 27 عامًا.

ما المؤسسات وأحجام التمويل التي يشملها برنامج جناح الزجاج؟

وفقًا لما ذكرته Axios وFast Company، يوفّر برنامج جناح الزجاج وصولًا محدودًا لنحو 40 مؤسسة، ومن بين الجهات التي تم تأكيد مشاركتها: أمازون وآبل وسيسكو ومايكروسوفت وجيه بي مورغان. وتقدّم Anthropic لذلك رصيد استخدام بقيمة 100 مليون دولار للنموذج و4 ملايين دولار لتمويل أبحاث أمنية مفتوحة المصدر.

ما الحكومات والمنظمات الدولية التي قدّمت ردودًا علنية بشأن مخاطر Mythos؟

وفقًا لما ذكرته Fast Company، عقد وزير الخزانة الأمريكي ورئيس مجلس الاحتياطي الفيدرالي اجتماعات مع كبار المسؤولين التنفيذيين في القطاع المصرفي حول هذه القضية. كما أطلق مدير صندوق النقد الدولي كريستالينا غورغييفا تحذيرًا علنيًا بشأن مخاطر الإنترنت التي يقودها الذكاء الاصطناعي، مؤكدًا أن القدرات الدفاعية العالمية غير كافية.