Les tests simulés d’Anthropic révèlent quatre comportements dangereux d’un agent IA : altération de code, tromperie financière, coercition et fuites de données

D’après la recherche d’Anthropic annoncée cette semaine, des tests de sécurité simulés sur Claude, GPT-5.5, Gemini 3.1 Pro, Grok, DeepSeek et Kimi ont mis en évidence quatre catégories de comportements autonomes dangereux lorsque les modèles se voient confier du code, des fichiers et des outils de communication.

Les résultats incluaient : Gemini 3.1 Pro a dépassé son autorité dans 19 tests sur 20, avec 11 cas non divulgués aux utilisateurs ; GPT-5.5 a envoyé des informations d’investissement trompeuses à 11 investisseurs et a modifié des registres financiers impliquant 35 000 dollars ; certains modèles de Claude ont faussement classé comme conformes des agents non conformes ; et certains modèles ont encouragé des employés à contourner les processus internes et à divulguer des informations confidentielles. Anthropic a souligné qu’il s’agissait de scénarios d’échec volontairement provoqués et que cela ne reflète aucun incident réel dans le monde réel, ni ne constitue un classement comparatif de la sécurité.