Peneliti dari University of Toronto, Vector Institute, University of Cambridge, dan ServiceNow mendemonstrasikan cacing (worm) bertenaga AI yang mampu menghasilkan strategi serangan dan menyebar secara otonom di seluruh jaringan. Malware proof-of-concept ini berjalan di mesin yang terinfeksi menggunakan model open-weight, bukan layanan cloud, menandai pergeseran dari ancaman berbasis AI sebelumnya. Para peneliti berpendapat bahwa karya ini menunjukkan serangan siber berbasis AI telah bergerak melampaui teori, dengan cacing yang dapat mengidentifikasi kerentanan, menyusun jalur serangan yang disesuaikan, mengompromi sistem, serta mereplikasi diri sambil menyesuaikan taktik terhadap target yang berbeda.
Makalah riset tersebut menggambarkan apa yang tim anggap sebagai perubahan mendasar dari cacing tradisional. "Kita harus bersiap menghadapi adversary generatif yang otonom," tulis para peneliti. "Sistem malware yang menyebar tanpa operator manusia dan didefinisikan bukan oleh kode exploit yang tetap, melainkan oleh kemampuan untuk bernalar tentang target, beradaptasi terhadap pengamatan, dan mensintesis logika serangan secara real time."
Cacing komputer adalah malware yang mereplikasi diri dan menyebar otomatis di jaringan yang rentan. Wabah cacing bersejarah termasuk ILOVEYOU pada 2000 dan WannaCry pada 2017 menginfeksi jutaan komputer di seluruh dunia, mengganggu layanan kritis, dan menyebabkan kerusakan senilai miliaran dolar. Lebih baru, malware Shai-Hulud menunjukkan bagaimana serangan yang dapat menyebar sendiri dapat menyebar secara online, menginfeksi perangkat lunak yang digunakan oleh perusahaan besar termasuk OpenAI dan Mistral.
Peneliti Menguji Cacing AI di Lingkungan Jaringan Terisolasi
Tim menguji cacing tersebut di jaringan virtual terisolasi yang berisi 33 sistem Linux, Windows, dan IoT yang disisipkan dengan kerentanan umum. Dalam 15 eksperimen, cacing mengidentifikasi rata-rata 31,3 kerentanan, berhasil mengompromi 23,1 host, dan menyebar ke sekitar 20 mesin selama tujuh hari operasi otonom.
Pada beberapa pengujian, malware mencapai tujuh generasi replikasi diri. Para peneliti menemukan sistem dapat mengeksploitasi kerentanan yang diumumkan setelah batas waktu pelatihan model dengan menyerap advis keamanan yang dipublikasikan baru pada saat runtime, sehingga memungkinkannya memasukkan informasi yang tidak menjadi bagian dari data pelatihan awal model.
Cacing AI Beroperasi Tanpa Infrastruktur Cloud
Menurut studi tersebut, yang membuat cacing bertenaga AI ini berbeda dari versi sebelumnya adalah kemampuannya beradaptasi terhadap target yang berbeda dengan menggunakan model bahasa besar untuk mengidentifikasi kerentanan dan menghasilkan strategi serangan secara real time, alih-alih mengandalkan daftar exploit yang tetap.
"Cacing tradisional, seperti WannaCry, mengeksploitasi kerentanan yang telah ditentukan sebelumnya, dan penyebarannya bisa dihentikan dengan menambal kerentanan-kerentanan tersebut," tulis para peneliti. "Di sini, kami menunjukkan bahwa agen kecerdasan buatan memungkinkan ancaman yang benar-benar baru: sebuah cacing yang menghasilkan strategi serangan yang disesuaikan untuk setiap target yang ditemuinya."
Berbeda dari banyak aplikasi AI, cacing ini tidak bergantung pada akses ke layanan cloud AI. Alih-alih bergantung pada infrastruktur cloud dari penyedia seperti AWS, Microsoft Azure, atau Google Cloud, malware menjalankan model AI langsung di mesin yang telah dikompromi. Saat cacing menyebar, sistem yang terinfeksi secara efektif menjadi bagian dari infrastruktur komputasinya.
Tim Riset Menahan Detail Teknis untuk Mencegah Penyalahgunaan
Meski pengujian dilakukan dalam lingkungan yang terkendali, para penulis mengakui sifat penggunaan ganda dari pekerjaan ini dan sengaja menahan beberapa detail teknis untuk mengurangi risiko penyalahgunaan.
"Sebelum merilis preprint ini, kami mengedit naskah untuk memastikan penyajian metode kami menyeimbangkan kedalaman detail yang diperlukan bagi komunitas untuk mempelajari ancaman novel ini dengan risiko aktor berbahaya yang menggunakan metode kami untuk membuat malware," kata para peneliti.
Para peneliti mengatakan proyek ini ditujukan untuk lebih memahami risiko yang ditimbulkan oleh cacing komputer adaptif dan memberikan bukti sejauh mana kemampuan siber yang didukung AI telah berkembang. "Menangani ancaman ini karenanya akan memerlukan tindakan terkoordinasi lintas komunitas riset, keamanan, industri, dan kebijakan: kerangka evaluasi yang menguji kapabilitas level-harness, sistem deteksi yang disetel untuk pola perilaku agen otonom, serta langkah regulasi yang memperhitungkan sifat terdesentralisasi dari inferensi open-weight," tulis mereka.
FAQ
Apa yang didemonstrasikan peneliti dalam studi cacing AI?
Peneliti dari University of Toronto, Vector Institute, University of Cambridge, dan ServiceNow mendemonstrasikan proof-of-concept cacing bertenaga AI yang dapat mengidentifikasi kerentanan, menghasilkan strategi serangan, dan menyebar secara otonom di seluruh jaringan sambil beradaptasi taktiknya terhadap target yang berbeda.
Bagaimana kinerja cacing AI dalam pengujian?
Dalam 15 eksperimen pada jaringan virtual terisolasi yang berisi 33 sistem, cacing mengidentifikasi rata-rata 31,3 kerentanan, berhasil mengompromi 23,1 host, dan menyebar ke sekitar 20 mesin selama tujuh hari operasi otonom. Pada beberapa pengujian, malware mencapai tujuh generasi replikasi diri.
Mengapa tim riset menahan detail teknis?
Para penulis mengakui sifat penggunaan ganda dari pekerjaan ini dan sengaja menahan beberapa detail teknis untuk mengurangi risiko aktor berbahaya menggunakan metode mereka untuk membuat malware, sekaligus tetap memberikan kedalaman yang cukup agar komunitas dapat mempelajari ancaman novel tersebut.
