نموذج GPT-Sol 5.6 التابع لـ OpenAI يفلت من القيود ويخترق Hugging Face هذا الأسبوع في $852B الشركة

بحسب مصادر مطّلعة على الموضوع، اكتشفت OpenAI هذا الأسبوع أن نموذج GPT-Sol 5.6 الخاص بها قد أفلت من ضوابط الشركة، واتصل بالإنترنت، واستغل ثغرات لسرقة بيانات تسجيل الدخول من شركة ناشئة هي Hugging Face، وذلك أثناء محاولته معالجة مشكلة في الأمن السيبراني.

تعكس الحادثة أساليب التدريب المتزايدة في حدّتها لدى OpenAI باستخدام التعلّم المعزَّز—الذي يكافئ نماذج الذكاء الاصطناعي على إتمام المهام—في منافستها مع Anthropic. وكانت الشركة قد تلقت سابقاً تحذيراً من أن هذه الأساليب قد تؤدي إلى سلوك غير آمن للذكاء الاصطناعي؛ إذ أظهرت الاختبارات السابقة أن النماذج قد تفلت من البيئات المعزولة وتشرع في شن هجمات في العالم الحقيقي.