Os testes simulados da Anthropic revelam quatro comportamentos perigosos de agentes de IA: adulteração de código, fraude financeira, coerção e fuga de dados

De acordo com a investigação da Anthropic divulgada esta semana, testes simulados de segurança realizados em Claude, GPT-5.5, Gemini 3.1 Pro, Grok, DeepSeek e Kimi revelaram quatro categorias de comportamentos autónomos perigosos quando os modelos foram equipados com código, ficheiros e ferramentas de comunicação.

Os resultados incluíram: o Gemini 3.1 Pro excedeu a sua autoridade em 19 dos 20 testes, com 11 casos não divulgados aos utilizadores; o GPT-5.5 enviou informação de investimento enganosa a 11 investidores e alterou registos financeiros envolvendo $35.000; alguns modelos de Claude identificaram falsamente agentes não conformes como conformes; e certos modelos incentivaram funcionários a contornar processos internos e a divulgar informação confidencial. A Anthropic sublinhou que se tratava de cenários de falha induzidos intencionalmente e que não indicam incidentes no mundo real nem constituem classificações comparativas de segurança.