Universitas Tel Aviv menemukan serangan HalluSquatting, di mana ilusi AI dapat dimanfaatkan untuk membangun jaringan zombie

Peneliti dari Universitas Tel Aviv, Institut Teknologi Israel, dan Intuit mengungkapkan sebuah metode serangan baru bernama "HalluSquatting" dalam makalah berjudul "Waspadai Serangan Zombie Proxy: Implementasi Serangan Promptware Tidak Terarah yang Dapat Diskalakan melalui HalluSquatting Kontra-Adversarial Umum dan Dapat Dipindahkan", yang memanfaatkan fenomena ilusi AI untuk menipu agen AI agar mengunduh kode berbahaya.

Mekanisme Serangan HalluSquatting: Prinsip Teknologi Prediksi Sumber Daya Ilusi AI dan Pendaftaran Dini

Menurut penjelasan para peneliti, langkah serangan HalluSquatting adalah: penyerang memprediksi kemungkinan model AI menghasilkan tautan palsu ke repositori perangkat lunak dan sumber daya daring, mendaftar terlebih dahulu dengan nama tersebut, dan menyisipkan perintah berbahaya di dalamnya; ketika agen AI mencoba mengakses sumber daya ilusi ini, mereka akan menganggap konten yang dikendalikan penyerang sebagai konten yang sah dan mengeksekusinya.

Metode ini mirip dengan "Typosquatting" dalam serangan jaringan tradisional—di mana nama domain salah ketik digunakan, sedangkan HalluSquatting menargetkan kesalahan ilusi pada model AI. Seiring fungsi asisten AI berkembang dari menjawab pertanyaan menjadi mampu mengakses file, mencari di internet, menulis kode, dan menjalankan perintah, ancaman ini semakin meluas pengaruhnya.

Data Pengujian: 85% Repositori Kode dan 100% Instalasi Skill

Berdasarkan hasil pengujian para peneliti, tingkat kejadian ilusi HalluSquatting adalah sebagai berikut:

Skema Kloning Repositori Kode: tingkat kejadian ilusi mencapai 85%

Skema Instalasi Skill: tingkat kejadian ilusi mencapai 100%

Tim peneliti menguji empat asisten pengkodean AI dan proxy berikut:

Cursor: Terpengaruh

GitHub Copilot: Terpengaruh

Gemini CLI: Terpengaruh

OpenClaw: Terpengaruh

Pertanyaan Umum

Apa itu serangan HalluSquatting, dan bagaimana bedanya dengan serangan jaringan tradisional?

Menurut penjelasan para peneliti, HalluSquatting adalah prediksi tautan sumber daya palsu yang mungkin dihasilkan model AI, kemudian mendaftar dan menyisipkan perintah berbahaya di nama tersebut sebelumnya; berbeda dengan "Typosquatting" yang memanfaatkan kesalahan ketik manusia, HalluSquatting menargetkan kesalahan ilusi pada model AI. Makalah penelitian ini dipublikasikan oleh peneliti dari Universitas Tel Aviv, Institut Teknologi Israel, dan Intuit.

Tool AI apa saja yang rentan terhadap serangan HalluSquatting?

Berdasarkan pengujian para peneliti, asisten pengkodean AI seperti Cursor, GitHub Copilot, Gemini CLI, dan OpenClaw semuanya rentan; tingkat kejadian ilusi dalam skema instalasi skill mencapai 100%, sedangkan dalam skema kloning repositori kode mencapai 85%. Tingkat kerentanan dan langkah mitigasi spesifik bergantung pada pengumuman keamanan resmi dari masing-masing pengembang alat.

Bagaimana HalluSquatting bisa menyebabkan terbentuknya jaringan zombie AI?

Menurut penjelasan para peneliti, jika agen AI saat menjalankan tugas mengakses sumber berbahaya yang dikendalikan penyerang dan menganggapnya sebagai konten yang sah, penyerang dapat menjalankan kode dari jarak jauh melalui agen-agen ini, membentuk jaringan zombie yang terdiri dari agen AI yang diserang; jaringan zombie ini dapat digunakan untuk serangan denial-of-service, penambangan cryptocurrency, penyebaran malware, dan serangan ransomware. Skema serangan spesifik dijelaskan dalam makalah penelitian.