A segurança de agentes de IA exige defesa a nível de sistema: Google e Meta alertam

Investigadores de segurança da Google e da Meta estão a alertar que os agentes de IA autónomos exigem arquiteturas defensivas a nível de todo o sistema para responder a riscos de segurança emergentes. Os especialistas avisam que as ferramentas tradicionais de cibersegurança, por si só, não conseguem proteger contra ameaças colocadas por agentes de IA capazes de reter memória, chamar ferramentas externas, coordenar-se com outros agentes e operar continuamente sem supervisão humana direta. A preocupação surge com a implantação rápida de agentes de IA nas empresas, em fluxos de trabalho que incluem pagamentos, apoio ao cliente, programação, cibersegurança e operações financeiras. Ao contrário dos sistemas anteriores em estilo de chatbot, a IA agentic introduz sistemas de memória persistente, execução de ferramentas e fluxos de trabalho autónomos que criam novas superfícies de ataque. As falhas de segurança nestes sistemas interligados raramente ficam isoladas — instruções comprometidas ou entradas maliciosas podem propagar-se por várias camadas antes de se tornarem visíveis externamente.

Security Gaps in AI Agent Systems

A survey of 116 AI-agent security papers identified major gaps in defenses against "cross-session" and "stack-propagating" threats, which are capable of moving across multiple layers of autonomous systems over time. The risk is particularly acute in financial services, where AI agents are increasingly deployed for payments, fraud monitoring, trading operations, and customer account management.

In a recent incident, Bankr, an AI-powered crypto trading assistant, disabled transactions on May 20 after identifying an attacker who had gained access to at least 14 wallets. Security experts speculated the bot could have been exploited by a hacker.

Keyrock reported that AI agents processed $73 million in crypto payments between 2025 and 2026, demonstrating the scale of autonomous AI deployment in financial workflows.

Researchers emphasize that agent security must be approached as a systems problem, treating the AI model powering the agent as an untrusted component. Security experts are proposing methods to intercept attacks as they move through interconnected AI-agent systems rather than relying solely on front-end filters or prompt moderation.

A Google e a Meta alargam os ecossistemas de IA agentic

A Google revelou recentemente o Gemini Spark, um assistente de IA sempre ligado capaz de interagir em várias aplicações do Workspace, sistemas cloud e plataformas de terceiros. A empresa está a integrar agentes de IA mais profundamente no Chrome, Gmail, Search e nos sistemas Android.

A Meta está a preparar assistentes de IA agentic capazes de executar tarefas personalizadas nas suas plataformas sociais e de mensagens. Especialistas em segurança alertam que sistemas cada vez mais autónomos criam mais oportunidades para violações de segurança e ataques maliciosos através destes ecossistemas interligados.