Para peneliti memperingatkan bahwa agen AI dapat menjadi botnet melalui HalluSquatting dengan tingkat halusinasi sebesar 85%

Peneliti dari Universitas Tel Aviv, Technion, dan Intuit menunjukkan teknik serangan baru bernama "Adversarial HalluSquatting" yang memanfaatkan halusinasi yang dihasilkan AI untuk merusak komputer. Teknik ini menipu agen AI agar mempercayai repositori perangkat lunak palsu dan alat yang berisi instruksi berbahaya, berpotensi memungkinkan penyerang membangun botnet berbasis AI.

Pengujian menunjukkan tingkat halusinasi AI mencapai 85% dalam skenario penggandaan repositori dan 100% dalam pengujian instalasi keahlian terhadap asisten pengkodean termasuk Cursor, GitHub Copilot, Gemini CLI, dan OpenClaw. Para peneliti memperingatkan bahwa metode ini dapat menyebabkan eksekusi kode jarak jauh ketika agen bertindak berdasarkan informasi yang tidak diverifikasi tanpa memastikan keabsahan sumber. HalluSquatting meniru taktik typosquatting, tetapi menargetkan kesalahan yang dibuat oleh model AI daripada kesalahan pengetikan manusia.