سيرتِك تكشف عن «مضاد فيروسات لوكلاء الذكاء الاصطناعي» مع تصاعد التهديدات الخفية مع أسواق المهارات

أطلقت شركة Certik منصة أمنية جديدة تُوصف بأنها "مضاد فيروسات لوكلاء الذكاء الاصطناعي" بهدف معالجة المخاطر المتزايدة المرتبطة بسوق مهارات الذكاء الاصطناعي التابعة لجهات خارجية غير مُراجَعة.

• أبرز النقاط:
• • أطلقت Certik منصة أمنية لتوفير طبقة "مضاد فيروسات" لبيئات الوكلاء.
• • تُظهر تدقيقات القطاع مخاطر مرتفعة، لكن تهدف CertiK إلى حماية الأسواق عبر دقة فحص تبلغ 90.5%.
• • تُعد Finchip.ai من بين المنصات التي تعمل على توسيع عمليات التكامل استعدادًا لتحديثات فحص موجهة للمستهلكين في المستقبل.

تحدي الأمن

أطلقت شركة Certik المتخصصة في أمن البلوك تشين والذكاء الاصطناعي منصة أمنية جديدة في 27 مايو، بهدف تقييم المخاطر المرتبطة بمهارات الذكاء الاصطناعي (AI) التابعة لجهات خارجية. ويأتي الإصدار تحت مسمى "مضاد فيروسات لوكلاء الذكاء الاصطناعي"، في وقت تتصاعد فيه المخاوف داخل الصناعة بشأن أمن أسواق مهارات الذكاء الاصطناعي.

حذر باحثون أمنيون من أن كثيرًا من هذه المهارات غير مُراجَعة، ويمكنها تنفيذ إجراءات على مستوى النظام، وقد تتضمن سلوكًا خبيثًا مخفيًا، ما يخلق خطرًا جديدًا لسلسلة توريد البرمجيات في عصر الذكاء الاصطناعي. وقد حددت عمليات تدقيق أمنية عبر القطاع مخاطر تتراوح بين سرقة بيانات الاعتماد وتسريب البيانات إلى التلاعب بتحويل الأموال وهجمات تجاوز التعليمات القائمة على الأوامر (prompt).

ورغم هذه المخاوف، توسعت أسواق مهارات الذكاء الاصطناعي بسرعة مع نضج بيئات الوكلاء. لكن على عكس متاجر التطبيقات التقليدية، تأتي معظم المهارات من مستودعات عامة دون مراجعة تذكر أو دون أي مراجعة. ويقول محللون إن ذلك يخلق فرصًا للمهاجمين لدمج تعليمات ضارة، أو تشغيل وصول غير مصرح به إلى البيانات، أو التلاعب بتدفقات التنفيذ المستقلة.

وفي منشور مدونة حديث، قالت Certik إن منصة فحص المهارات صُممت خصيصًا لتقييم المخاطر التي تظهر أثناء التنفيذ، بما في ذلك السيناريوهات التي تنطوي على معاملات مالية أو طلبات تحويل أموال. وتنتج الأداة درجة رقمية من 0 إلى 100، إلى جانب أحكام "pass" و"warn" و"fail"، ونتائج مُصنفة. ووفقًا للشركة، يحقق النظام دقة تصل إلى 90.5% في تحديد مخاطر الأمن.

قال رونغهوي غو، الرئيس التنفيذي والمؤسس المشارك لشركة Certik: "مع اندماج وكلاء الذكاء الاصطناعي بشكل أعمق في الأنظمة المالية وسير العمل المؤسسية والتفاعلات الرقمية اليومية، تصبح نمذجة الأمن المتعلقة بمهارات الجهات الخارجية أكثر أهمية بشكل حاسم". وأضاف: "تم بناء CertiK Skill Scanner لإنشاء طبقة ثقة معيارية قبل التنفيذ، بما يساعد المستخدمين والمنصات على تحديد المخاطر المخفية قبل تعريض البيانات الحساسة أو الأصول أو الأنظمة للخطر."

وقالت Certik إن أسواق مهارات الذكاء الاصطناعي يمكنها دمج أداة الفحص مباشرة في خطوط نشر المحتوى، عبر مراجعة المهارات تلقائيًا قبل أن تصبح متاحة للجمهور وعرض أحكام الأمن للمستخدمين. ويمكن للشركات نشر الأداة ضمن سير عمل الامتثال وإدارة المخاطر الداخلية، بينما يمكن للمطورين المستقلين استخدامها لإجراء تدقيق ذاتي للمهارات قبل نشرها.

وقالت الشركة إن التحديثات المستقبلية ستتيح للمستخدمين العاديين فحص المهارات بأنفسهم قبل التثبيت. وقد تم بالفعل نشر الفاحص في بيئات محددة للبنية التحتية لوكلاء ذكاء اصطناعي ضمن Web3. كما تعمل Certik على توسيع عمليات التكامل مع منصات إضافية، من بينها Finchip.ai.

قال غاري يانغ، مستثمر الحضانة لدى Finchip.ai: "الثقة هي شرط مسبق لتمكين أي اقتصاد مهارات من العمل على نطاق واسع". وأضاف: "عمل CertiK في التحقق من أمن المهارات هو بالضبط ما يحتاجه هذا النظام البيئي. وهذا ما يجعل مهمة Finchip المتمثلة في ملكية المهارات القابلة للبرمجة وتوزيعها جديرة بأن تُبنى."

ويأتي هذا الإطلاق بعد توسع Certik في البنية التحتية للأمن التي تركز على الذكاء الاصطناعي. وقبل ذلك بعام، قدمت الشركة مبادرة AI Auditor لمعالجة المخاطر المرتبطة بالأنظمة المستقلة وبيئات التنفيذ المدفوعة بالذكاء الاصطناعي.

قال غو: "تتجه تطبيقات الذكاء الاصطناعي نحو تنفيذ مستقل بدرجة متزايدة، ما يخلق فئة جديدة من تحديات الأمن والثقة". وأضاف: "نعتقد أن البنية التحتية للأمن في عصر الذكاء الاصطناعي يجب أن تعمل بشكل استباقي، لا بشكل رد فعلي."