Des cadres supérieurs d’Anthropic rencontrent, lundi, à Washington, D.C., des responsables de l’administration Trump afin de résoudre un différend concernant les derniers modèles d’IA de l’entreprise, d’après une source proche de la société. Anthropic a reçu une directive de contrôle des exportations vendredi, citant des autorités liées à la sécurité nationale et ordonnant à l’entreprise de suspendre l’accès à Fable 5 et Mythos 5 par tout ressortissant étranger, qu’il se trouve à l’intérieur ou à l’extérieur des États-Unis. La start-up d’IA a désactivé l’accès aux modèles pour l’ensemble des clients afin d’assurer le respect de la directive. Cette mesure marque la dernière tension dans la relation d’Anthropic avec le gouvernement, déjà électrique après un affrontement avec le département de la Défense qui s’est intensifié plus tôt cette année, lorsque le DOD a qualifié Anthropic de risque pour la chaîne d’approvisionnement en mars.
Le gouvernement publie une directive de contrôle des exportations vendredi
Le gouvernement a appelé Anthropic à 1h00 (heure de l’Est) vendredi et a ordonné à l’entreprise de désactiver Fable 5 et Mythos 5 en raison d’une menace de sécurité nationale non précisée, selon une personne au fait des discussions qui a demandé à ne pas être nommée afin d’aborder des sujets confidentiels. Anthropic a reçu une lettre officielle vers 17h30 (heure de l’Est), qui exigeait de suspendre les modèles. Avant que la directive n’arrive vendredi, Anthropic n’avait reçu aucune communication au sujet d’une menace de sécurité nationale, a déclaré la personne.
Dans son communiqué de vendredi, Anthropic a indiqué qu’elle estime que la préoccupation du gouvernement porte sur une faille de type jailbreak potentielle étroite, non universelle, dans laquelle un utilisateur pourrait contourner une barrière de cybersécurité et demander à Fable 5 de lire un codebase spécifique et de corriger d’éventuels défauts logiciels.
Le DOD a qualifié Anthropic de risque pour la chaîne d’approvisionnement en mars
Le ministère de la Défense a qualifié Anthropic de risque pour la chaîne d’approvisionnement en mars, ce qui a interdit aux entrepreneurs de la défense d’utiliser la technologie de l’entreprise, car elle menacerait prétendument la sécurité nationale américaine. Le secrétaire à la Défense Pete Hegseth a abordé la dernière directive du gouvernement dans un billet sur X samedi, écrivant que chaque jour qui passe prouve pourquoi la mise à l’index d’Anthropic était la bonne décision.
Anthropic a poursuivi l’administration Trump dans le but d’obtenir le renversement de la désignation de risque pour la chaîne d’approvisionnement, et cette procédure est toujours en cours.
Anthropic a reçu une approbation préalable avant la mise sur le marché des modèles
Anthropic a dévoilé Fable 5 et Mythos 5 mardi, quelques jours seulement avant de recevoir la directive de contrôle des exportations du gouvernement. La société a travaillé avec des agences gouvernementales pour tester les modèles avant la sortie et a obtenu l’autorisation de les déployer, selon une personne au fait des discussions qui a demandé à ne pas être nommée afin d’aborder des sujets confidentiels.
Fable 5 et Mythos 5 reposent sur l’aperçu Claude Mythos d’Anthropic, un modèle puissant qui excelle dans l’identification des vulnérabilités de sécurité au sein des logiciels. Anthropic a limité le déploiement à un groupe restreint d’entreprises dans le cadre d’une initiative de cybersécurité appelée Project Glasswing, et son approche semblait lui avoir valu une certaine bienveillance de la part de l’administration Trump, qui a tenu plusieurs réunions avec l’entreprise au sujet des capacités du modèle.
Anthropic a présenté Fable 5 et Mythos 5 comme des modèles à la pointe de l’état de l’art, surpassant de nombreux benchmarks de l’industrie. Mythos 5 est encore limité à un groupe restreint d’utilisateurs, mais Anthropic a rendu Fable 5 disponible pour ses clients entreprise et ses abonnés payants. La société a indiqué que la diffusion plus large était possible grâce à de nouvelles protections qui bloquent les réponses dans des domaines spécifiques à haut risque, y compris la cybersécurité et la biologie.
La société conteste l’inquiétude liée au jailbreak étroit
Anthropic a déclaré ne pas être d’accord avec l’idée selon laquelle la découverte d’un potentiel jailbreak étroit devrait justifier le rappel d’un modèle commercial déployé auprès de centaines de millions de personnes. La société a déclaré : « Si cette norme était appliquée à l’échelle de l’industrie, nous pensons qu’elle entraînerait essentiellement l’arrêt de tous les nouveaux déploiements de modèles pour l’ensemble des fournisseurs de modèles de pointe. »
Anthropic a déclaré penser qu’il s’agit d’un malentendu et qu’elle travaille à rétablir l’accès dès que possible.
FAQ
Que s’est-il passé chez Anthropic vendredi en réponse à la directive du gouvernement ?
Anthropic a désactivé l’accès à ses modèles d’IA Fable 5 et Mythos 5 pour l’ensemble des clients vendredi après avoir reçu une directive de contrôle des exportations du gouvernement, qui citait des autorités de sécurité nationale et ordonnait à l’entreprise de suspendre l’accès par tout ressortissant étranger, qu’il se trouve à l’intérieur ou à l’extérieur des États-Unis.
Pourquoi le Department of Defense a-t-il qualifié Anthropic de risque pour la chaîne d’approvisionnement ?
Le DOD a qualifié Anthropic de risque pour la chaîne d’approvisionnement en mars, ce qui a interdit aux entrepreneurs de la défense d’utiliser la technologie de l’entreprise, car elle menacerait prétendument la sécurité nationale américaine. Le secrétaire à la Défense Pete Hegseth a publié sur X samedi que chaque jour qui passe prouve pourquoi la mise à l’index d’Anthropic était la bonne décision.
Comment Anthropic décrit-elle la préoccupation du gouvernement au sujet de Fable 5 ?
Anthropic a déclaré dans son communiqué de vendredi qu’elle estime que la préoccupation du gouvernement porte sur un potentiel jailbreak étroit, non universel, dans lequel un utilisateur pourrait contourner une barrière de cybersécurité et demander à Fable 5 de lire un codebase spécifique et de corriger d’éventuels défauts logiciels. La société a qualifié le différend de malentendu et a indiqué qu’elle travaille à rétablir l’accès dès que possible.
