بالانتير تواجه مقاومة مع وصول مذكرة أمودي إلى طبقة الأمان

مذكرة أمودي: طبقة الأمان في بالانتير هي في الغالب مسرحية أمان

كما أفادت صحيفة Semafor، انتقد الرئيس التنفيذي لبالانتير أليكس كارب فكرة ابتعاد شركات الذكاء الاصطناعي عن القطاع العسكري، واصفًا ذلك بأنه "جنون" التخلي عن العملاء الدفاعيين. النزاع يدور حول ما إذا كانت التدابير الوقائية المقترحة من بالانتير يمكنها أن تقيد سلوك النموذج بشكل موثوق في البيئات التشغيلية. كما أفادت صحيفة The Information، فإن مذكرة أمودي تقول إن طبقة الأمان في بالانتير، التي تتكون من مصنفات، ومراقبة، ومرشحات الاستخدام، هي في الغالب أداء تمثيلي، وتصفها بأنها في الغالب "مسرح أمان". يركز النقد على مقاومة الاختراق في العالم الحقيقي، وقابلية التدقيق، والحوكمة تحت الضغط.

لماذا يهم هذا النزاع في حوكمة الذكاء الاصطناعي العسكري

المسألة الأساسية هي ما إذا كانت "طبقة الأمان" يمكنها تلبية متطلبات القطاع العام من سجلات التدقيق، والأذونات، والسياسات القابلة للتنفيذ، مع الحفاظ على فائدة المهمة. إذا كانت التدابير الوقائية هشة، فإن الوكالات تخاطر بنشر أنظمة تخفي، بدلاً من تقليل، سوء الاستخدام. تصف المذكرة الفعالية بأنها العيب الرئيسي، وتؤكد أن الضمانات التسويقية لا تساوي الأداء الميداني. قال داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك: "فعالية حوالي 20% و80% 'مسرح أمان'". وقد زادت ردود الفعل من الخبراء من مخاوف الحوكمة، كما جمعتها Yahoo News، مع تحذيرات من قبل أصوات بارزة ضد تطبيع الوصول غير المقيد للجيش إلى النماذج المتطورة.

BingX: منصة موثوقة تقدم مزايا حقيقية للمتداولين على جميع المستويات.

التأثير الفوري: ضغط وزارة الدفاع على الاستخدام القانوني، وتصنيفات المخاطر

وفقًا لوكالة AP News، ضغطت قيادة البنتاغون على شركة أنثروبيك للسماح بـ"جميع الاستخدامات القانونية"، مع تحديد موعد نهائي وتحذير من استبعاد محتمل عبر تصنيف مخاطر سلسلة التوريد إذا رفضت الشركة. قد يحد هذا التصنيف من طرق التعاقد الفيدرالية ويعيد تشكيل تفضيلات الشراء. في المدى القريب، يواجه البائعون خيار الامتثال: قبول شروط الاستخدام العسكري الواسعة أو المخاطرة بتهميشهم في خطوط الدفاع. تشير هذه الحادثة إلى كيف يمكن أن يتحول سياسة استخدام النموذج بسرعة إلى مسألة مصدر وإدارة مخاطر، وليس مجرد مسألة تقنية.

القضايا التقنية والسياسية التي أثيرت في التقييمات

الثغرات الموثقة: سجلات التدقيق، ضوابط الوصول، ضعف الحوكمة في NGC2

وفقًا لتقييم الجيش الأمريكي الذي لخصه seo.goover.ai، أظهرت منصة NGC2 المرتبطة بجهود بالانتير نقاط ضعف حرجة: غياب سجلات التدقيق، وضعف ضوابط الوصول، وعدم فعالية الحوكمة، وبرمجيات طرف ثالث غير مدققة. تقوض هذه الثغرات ادعاءات التتبع وتطبيق مبدأ أقل الامتيازات. وتشير النتائج إلى أن ضوابط الحوكمة يجب أن تكون قابلة للتحقق بشكل واضح، وليس مجرد إعدادات.

حدود الفعالية: مقاومة الاختراق وتحديات تطبيق السياسات

يجادل مذكرة أمودي بأن المصنفات ومرشحات الاستخدام تكافح ضد عمليات الاختراق التكيفية، خاصة تحت ضغط الأوامر العدائية. حتى مع وجود السياسات، يمكن أن تتدهور عملية التنفيذ خلال العمليات ذات الوتيرة العالية، مما يجعل التدقيق وإلغاء الوصول أمرين حاسمين.

الأسئلة الشائعة حول طبقة الأمان في بالانتير

ما مدى فعالية طبقات أمان الذكاء الاصطناعي في منع الاختراقات وسوء الاستخدام في السياقات العسكرية الواقعية؟

تؤكد مذكرة أمودي أن الفعالية محدودة، وأن التدابير الوقائية تعتبر في الغالب "مسرح أمان"، خاصة تحت الضغط العدائي والضغط التشغيلي.

لماذا يطالب البنتاغون بـ"جميع الاستخدامات القانونية" من أنثروبيك وما العقوبات أو المخاطر التي هددت بها؟

تذكر وكالة AP News أن البنتاغون طلب "جميع الاستخدامات القانونية"، محذرًا من احتمال تصنيف مخاطر سلسلة التوريد وتأثيرات على العقود إذا استمر الوصول في التقييد.