باحثون يزرعون حقنات أوامر (Prompt Injections) لمنع هجمات الذكاء الاصطناعي؛ تُظهر الاختبارات انخفاضًا بنسبة 57% إلى 5% في معدلات الوصول الإداري

قال باحثون من Tracebit، يوم الاثنين، إنهم اكتشفوا تقنية دفاعية تُسمى "القصف السياقي" (context bombing)، تقوم بزرع حقن أوامر (prompt injections) — أوامر محرّمة تُشغّل حواجز أمان الذكاء الاصطناعي — إلى جانب أسرار مخزّنة على AWS لحجب الهجمات من وكلاء الذكاء الاصطناعي. عندما يواجه نموذج الهجوم هذه الأوامر، يتوقف عن اتباع تعليماته الأصلية ويرفض المتابعة.

اختبرت Tracebit تقنية القصف السياقي عبر خمسة نماذج رائدة (Opus 4.8 وGemini 3.1 Pro وGLM 5.2 وDeepSeek 4 Pro وKimi 2.6) في بيئة AWS مُحاكية باستخدام 152 عملية هجوم. أظهرت النتائج أن وضع قنب سياقي داخل سرّ مُموّه خفّض معدل حصول الوكلاء على وصول إداري كامل من 57% إلى 5%، وخفض الاختراق الكامل من 36% إلى 1%. حقق Opus 4.8، وهو الوكيل الأكثر قدرة الذي جرى اختباره، وصولاً إداريًا في 93% من عمليات التشغيل دون وجود الدفاع، لكنه فشل في كل المحاولات عندما واجه قنباً سياقياً.