CertiK تطلق ماسح المهارات بالذكاء الاصطناعي لأمان الوكلاء

• أطلقت CertiK أداة Skill Scanner، وهو منتج أمني مصمم لتقييم مهارات الذكاء الاصطناعي التابعة لجهات خارجية قبل استخدامها بواسطة وكلاء الذكاء الاصطناعي.
• تستهدف الأداة مخاطر مثل السلوك الخبيث الخفي، والوصول غير المصرح به للبيانات، والتنفيذ المستقل في بيئات Web3 وWeb2.

تتعمق CertiK في مجال أمن الذكاء الاصطناعي مع إطلاق CertiK Skill Scanner، وهو منتج مصمم لمراجعة مهارات الذكاء الاصطناعي التابعة لجهات خارجية قبل تثبيتها أو نشرها أو الموافقة على استخدامها داخل أنظمة المؤسسات. تصف الشركة الأداة بأنها شيء قريب من طبقة مضاد للفيروسات لعصر وكلاء الذكاء الاصطناعي. المقارنة ليست مثالية، لكنها توصل إلى الهدف. لم يعد وكلاء الذكاء الاصطناعي يقتصرون على الإجابة على الأسئلة في نافذة الدردشة. بدأوا في استدعاء أدوات خارجية، وقراءة الملفات، وتحفيز سير العمل، ونقل البيانات بين الأنظمة، وفي الحالات الأكثر حساسية، التفاعل مع البنية التحتية المالية. وهذا يغير معادلة الأمان. يمكن أن يكون امتداد المتصفح السيئ خطيرًا بالفعل. يمكن أن تكون مهارة الذكاء الاصطناعي السيئة المتصلة بعامل مستقل أسوأ، لأن العامل قد ينفذ الإجراءات بسرعة وفي سياق لا يراه المستخدم بالكامل. تخلق مهارات الذكاء الاصطناعي خطرًا تنفيذيًا جديدًا أصبحت مهارات الذكاء الاصطناعي هي المكونات الإضافية لاقتصاد الوكلاء. إنها توسع ما يمكن أن يفعله وكيل الذكاء الاصطناعي، من سحب البيانات وأتمتة المهام إلى تنفيذ الإجراءات المالية والتفاعل مع بروتوكولات Web3. ومع ذلك، كل مهارة إضافية تخلق أيضًا نقطة أخرى يمكن أن يحدث فيها خطأ ما. لا يقتصر هذا الخطر على البرامج الضارة الواضحة. قد تطلب المهارة بيانات أكثر مما تحتاج إليه، أو تتصرف بشكل مختلف أثناء التنفيذ عما كانت عليه أثناء المراجعة، أو تؤدي إلى استدعاءات API غير مصرح بها، أو تخلق بهدوء ظروفًا لسوء الاستخدام لاحقًا. في البيئات المالية، يصبح القلق أكثر حدة. الأداة التي يمكنها بدء استدعاءات الأموال، أو التوقيع على طلبات سير العمل، أو إعداد المعاملات تحتاج إلى مستوى مختلف من التدقيق مقارنة بوظيفة إضافية بسيطة للإنتاجية. قالت CertiK إن Skill Scanner مبنية لاكتشاف السلوك الخبيث الخفي، والوصول غير المصرح به للبيانات، ومخاطر التنفيذ قبل تعرض الأنظمة الحساسة. على عكس أدوات مسح الذكاء الاصطناعي الأوسع نطاقًا، تقول الشركة إن منتجها يركز على المخاطر التي يمكن أن تظهر أثناء التنفيذ الفعلي، بما في ذلك الحالات التي تنطوي على تحركات الأموال والمعاملات المالية. قال رونغوي جو، الرئيس التنفيذي والمؤسس المشارك لـ CertiK، إن نموذج الأمان حول مهارات الطرف الثالث أصبح أكثر أهمية مع انتقال وكلاء الذكاء الاصطناعي إلى الأنظمة المالية وسير عمل المؤسسات والخدمات الرقمية اليومية.

"تم بناء CertiK Skill Scanner لإنشاء طبقة ثقة موحدة قبل التنفيذ، مما يساعد المستخدمين والمنصات على تحديد المخاطر الخفية قبل تعرض البيانات الحساسة أو الأصول أو الأنظمة"، قال جو.

الأسواق والمؤسسات والمطورون في الخط الأول المجموعات المستهدفة الأولى هي أسواق مهارات الذكاء الاصطناعي والمؤسسات والمطورون. يمكن للأسواق دمج الماسح الضوئي في خطوط النشر الخاصة بها، بحيث يتم مراجعة المهارات قبل إطلاقها. يمكنهم أيضًا عرض أحكام CertiK كمؤشرات ثقة للمستخدمين الذين يقررون ما إذا كانوا سيُثبّتون مهارة من جهة خارجية. بالنسبة للمؤسسات، حالة الاستخدام هي أكثر دفاعية. تحتاج الشركات التي تختبر وكلاء الذكاء الاصطناعي داخليًا إلى طريقة لتقييم مهارات الطرف الثالث قبل دخولها إلى بيئات الإنتاج أو لمس بيانات العملاء أو الأنظمة الداخلية أو سير العمل الحساس للامتثال. هذا هو المكان الذي تصبح فيه عملية المراجعة المسجلة مفيدة. إنه يعطي فرق الأمان شيئًا أكثر واقعية من ادعاء البائع أو وصف المطور. يمكن للمطورين المستقلين أيضًا استخدام الماسح الضوئي لتدقيق المهارات ذاتيًا قبل النشر. قالت CertiK إن التحديثات المستقبلية ستوسع الوصول المباشر للمستخدمين اليوميين، مما يسمح للأفراد بمسح المهارات بأنفسهم قبل التثبيت أو الاستخدام. ينتج الماسح الضوئي درجة من 0 إلى 100، جنبًا إلى جنب مع أحكام "نجاح" أو "تحذير" أو "فشل" وقائمة محدودة من النتائج مجمعة حسب الخطورة. تقول CertiK إن النظام يصل إلى دقة 90.5% في تحديد المخاطر الأمنية، بهدف تقليل النتائج الإيجابية الخاطئة مع جعل تقييمات مهارات الذكاء الاصطناعي أكثر موثوقية. تم بالفعل نشر المنتج في بيئات البنية التحتية لوكلاء Web3 المختارة. تعمل CertiK أيضًا على التكامل مع منصات إضافية لمهارات الذكاء الاصطناعي، بما في ذلك FinChip.ai. يأتي الإطلاق بعد التوسع الأوسع لـ CertiK في البنية التحتية الأمنية التي تركز على الذكاء الاصطناعي، بعد أن قدمت الشركة مبادرة مدقق الذكاء الاصطناعي (AI Auditor) في وقت سابق من هذا العام. بالنسبة لشركة معروفة في المقام الأول بتدقيقات Web3، فإن هذه الخطوة هي امتداد منطقي. نظرًا لأن وكلاء الذكاء الاصطناعي بدأوا في التعامل مع الكود والأصول والأذونات وسير عمل الأعمال، يجب أن تحدث فحوصات الأمان قبل التنفيذ، وليس بعد تعرض النظام بالفعل.