Une étude du MIT et de l’Université de Queensland révèle un risque de 12 % d’armes biologiques activées par l’IA, susceptibles de causer des dommages catastrophiques d’ici 2030.

D’après Axios, une étude conjointe du MIT FutureTech et de l’Université de Queensland publiée aujourd’hui montre que 272 chercheurs évaluant 24 risques liés à l’IA ont identifié une probabilité de 12 % que les capacités de l’IA puissent entraîner des issues catastrophiques — définies comme plus d’un million de décès ou plus de 100 milliards de dollars de pertes — avant 2030, malgré les mesures d’atténuation actuellement en place. La même probabilité s’applique aux armes propulsées par l’IA et aux attaques de masse. Sans mesures d’atténuation, ce risque dépasse 20 %. L’étude classe la conception d’armes chimiques et biologiques assistée par l’IA parmi les catégories présentant les risques les plus élevés.

Plusieurs dirigeants de grandes entreprises d’IA ont également publié une lettre ouverte conjointe avertissant des risques de biobombes dérivées de l’IA, appelant à renforcer les audits des capacités des modèles et les garde-fous de sécurité, en particulier pour traiter le potentiel d’usage malveillant des modèles open source.