Certik meluncurkan platform keamanan baru yang dijelaskan sebagai “anti-virus untuk agen AI” yang dirancang untuk mengatasi risiko yang terus meningkat dari pasar marketplace keterampilan AI pihak ketiga yang belum tervalidasi.
- Poin Utama:
-
- Certik meluncurkan platform keamanan untuk menyediakan lapisan “anti-virus” bagi ekosistem agen.
-
- Audit sektor menunjukkan risiko yang tinggi, namun CertiK menargetkan perlindungan bagi marketplace dengan ketepatan pemindaian 90,5%.
-
- Finchip.ai termasuk platform yang memperluas integrasi menjelang pembaruan pemindaian yang ditujukan untuk konsumen di masa depan.
Tantangan Keamanan
Perusahaan keamanan blockchain dan AI, Certik, pada 27 Mei mengungkap platform keamanan baru yang dirancang untuk menilai risiko pada keterampilan AI pihak ketiga. Dijuluki “anti-virus untuk agen AI,” rilis ini muncul di tengah meningkatnya kekhawatiran industri terhadap keamanan marketplace keterampilan AI.
Peneliti keamanan telah memperingatkan bahwa banyak keterampilan tersebut tidak tervalidasi, dapat menjalankan tindakan tingkat sistem, dan mungkin mengandung perilaku berbahaya yang tersembunyi, sehingga menciptakan risiko rantai pasokan perangkat lunak baru untuk era AI. Audit keamanan di seluruh sektor telah mengidentifikasi risiko mulai dari pencurian kredensial dan eksfiltrasi data hingga manipulasi transfer dana dan serangan override berbasis prompt.
Meski demikian, marketplace keterampilan AI telah berkembang pesat seiring pematangan ekosistem agen. Namun, tidak seperti toko aplikasi tradisional, sebagian besar keterampilan bersumber dari repositori publik dengan sedikit atau tanpa peninjauan. Analis mengatakan hal ini menciptakan peluang bagi penyerang untuk menyematkan instruksi berbahaya, memicu akses data tanpa izin, atau memanipulasi alur eksekusi otonom.
Dalam sebuah unggahan blog baru-baru ini, Certik mengatakan platform pemindai keterampilannya dirancang khusus untuk mengevaluasi risiko yang muncul selama eksekusi, termasuk skenario yang melibatkan transaksi keuangan atau panggilan dana. Pemindai menghasilkan skor numerik dari 0 hingga 100, bersama dengan vonis “pass,” “warn,” atau “fail” serta temuan yang dikategorikan. Menurut perusahaan, sistem ini mencapai ketepatan hingga 90,5% dalam mengidentifikasi risiko keamanan.
“Ketika agen AI semakin terintegrasi ke dalam sistem keuangan, alur kerja perusahaan, dan interaksi digital sehari-hari, model keamanan seputar keterampilan pihak ketiga menjadi sangat penting,” kata Ronghui Gu, CEO dan co-founder Certik. “CertiK Skill Scanner dibangun untuk membangun lapisan kepercayaan yang distandardisasi sebelum eksekusi, membantu pengguna dan platform mengidentifikasi risiko tersembunyi sebelum data sensitif, aset, atau sistem terekspos.”
Certik mengatakan marketplace keterampilan AI dapat mengintegrasikan pemindai langsung ke pipeline penerbitan, meninjau keterampilan secara otomatis sebelum tayang, serta menampilkan vonis keamanan kepada pengguna. Perusahaan dapat menerapkan alat tersebut sebagai bagian dari alur kerja kepatuhan internal dan manajemen risiko, sementara pengembang independen dapat memakainya untuk melakukan audit mandiri terhadap keterampilan sebelum menerbitkannya.
Perusahaan tersebut mengatakan pembaruan di masa depan akan memungkinkan pengguna sehari-hari memindai keterampilan sendiri sebelum instalasi. Pemindai ini sudah dideploy di lingkungan infrastruktur agen AI Web3 tertentu. Certik juga memperluas integrasi dengan platform tambahan, termasuk Finchip.ai.
“Kepercayaan adalah prasyarat agar setiap ekonomi keterampilan dapat berfungsi dalam skala besar,” kata Gary Yang, investor inkubasi di Finchip.ai. “Pekerjaan CertiK dalam verifikasi keamanan keterampilan adalah persis yang dibutuhkan ekosistem ini. Itulah yang membuat misi Finchip tentang kepemilikan dan distribusi keterampilan yang dapat diprogram layak untuk dibangun.”
Peluncuran ini mengikuti ekspansi Certik ke infrastruktur keamanan yang berfokus pada AI. Awal tahun ini, perusahaan memperkenalkan inisiatif AI Auditor untuk mengatasi risiko yang terkait dengan sistem otonom dan lingkungan eksekusi yang digerakkan oleh AI.
“Aplikasi AI bergerak menuju eksekusi yang semakin otonom, yang menciptakan kategori baru tantangan keamanan dan kepercayaan,” kata Gu. “Kami percaya bahwa infrastruktur keamanan untuk era AI harus berfungsi secara proaktif, bukan reaktif.”
