Les agents IA vulnérables aux attaques par injection d’instructions, selon des chercheurs, avec un taux de réussite de 79%

D’après des chercheurs de l’Université technologique de Nanyang, de ST Engineering, d’IBM Research et de l’Université de l’Illinois à Urbana-Champaign, des agents IA alimentés par GPT-5 et Gemini ne peuvent pas, de manière constante, résister aux attaques par injection d’invites, selon une étude publiée jeudi.

Lors de 3 168 simulations d’attaque, les attaques directes par injection d’invites ont réussi plus de 79% du temps, tandis que les attaques indirectes intégrées dans du contenu web ont atteint des taux de réussite compris entre 41,67% et 68,16%. Les chercheurs ont développé StakeBench, un banc d’essai pour évaluer les réponses des agents IA à ce type d’attaques dans des environnements en ligne réalistes, et ont noté que l’injection d’invites demeure une vulnérabilité critique à mesure que les agents IA deviennent grand public pour la navigation web, la recherche, les achats et le trading de cryptomonnaies.