Keamanan AI Agent Butuh Pertahanan Menyeluruh: Google dan Meta Peringatkan

Peneliti keamanan dari Google dan Meta memperingatkan bahwa agen AI otonom memerlukan arsitektur pertahanan yang menyeluruh di seluruh sistem untuk mengatasi risiko keamanan yang muncul. Para ahli mengingatkan bahwa alat keamanan siber tradisional saja tidak cukup untuk melindungi dari ancaman yang ditimbulkan oleh agen AI yang mampu menyimpan memori, memanggil alat eksternal, berkoordinasi dengan agen lain, dan beroperasi terus-menerus tanpa pengawasan manusia secara langsung. Kekhawatiran ini muncul karena penerapan cepat agen AI di tingkat perusahaan ke dalam beragam alur kerja, termasuk pembayaran, layanan pelanggan, pemrograman, keamanan siber, dan operasi keuangan. Berbeda dari sistem chatbot bergaya sebelumnya, AI agentik menghadirkan sistem memori yang persisten, eksekusi alat, dan alur kerja otonom yang menciptakan permukaan serangan baru. Kegagalan keamanan pada sistem yang saling terhubung ini jarang tetap terisolasi—instruksi yang dikompromikan atau masukan berbahaya dapat menyebar melalui beberapa lapisan sebelum menjadi terlihat secara eksternal.

Security Gaps in AI Agent Systems

A survey of 116 AI-agent security papers identified major gaps in defenses against "cross-session" and "stack-propagating" threats, which are capable of moving across multiple layers of autonomous systems over time. The risk is particularly acute in financial services, where AI agents are increasingly deployed for payments, fraud monitoring, trading operations, and customer account management.

In a recent incident, Bankr, an AI-powered crypto trading assistant, disabled transactions on May 20 after identifying an attacker who had gained access to at least 14 wallets. Security experts speculated the bot could have been exploited by a hacker.

Keyrock reported that AI agents processed $73 million in crypto payments between 2025 and 2026, demonstrating the scale of autonomous AI deployment in financial workflows.

Researchers emphasize that agent security must be approached as a systems problem, treating the AI model powering the agent as an untrusted component. Security experts are proposing methods to intercept attacks as they move through interconnected AI-agent systems rather than relying solely on front-end filters or prompt moderation.

Google dan Meta Perluas Ekosistem AI Agentik

Google baru-baru ini meluncurkan Gemini Spark, asisten AI yang selalu aktif dan mampu berinteraksi di berbagai aplikasi Workspace, sistem cloud, dan platform pihak ketiga. Perusahaan ini mengintegrasikan agen AI lebih dalam ke sistem Chrome, Gmail, Search, dan Android.

Meta tengah menyiapkan asisten AI agentik yang mampu menjalankan tugas-tugas yang dipersonalisasi di platform sosial dan pesan-mesannya. Para ahli keamanan memperingatkan bahwa sistem yang makin otonom menciptakan lebih banyak peluang terjadinya pelanggaran keamanan dan serangan berbahaya di seluruh ekosistem yang saling terhubung ini.