Anthropic appelle à un ralentissement mondial de l’IA face au risque d’auto-amélioration récursive

Anthropic a publié une déclaration sur son site web le 4 juin (heure locale) appelant à un ralentissement mondial du développement d’une IA de pointe, en avertissant que les systèmes d’IA s’accélèrent vers un état où ils pourraient concevoir et entraîner de nouveaux systèmes de manière autonome, hors de tout contrôle humain. La société a cité des données internes montrant qu’aujourd’hui plus de 80% du code de production est rédigé par son assistant IA Claude, contre quelques pourcents auparavant avant février 2025, et que les volumes de livraison du code par les ingénieurs ont atteint 8 fois les niveaux de 2024 au second trimestre de cette année. Anthropic a déclaré que si l’IA parvient à réaliser une « amélioration de soi récursive » avec une puissance de calcul suffisante, les systèmes pourraient entièrement développer de manière autonome une IA de nouvelle génération dépassant leurs capacités actuelles, un scénario auquel l’humanité n’est pas prête. La société a proposé qu’une « baisse collective vérifiable » entre plusieurs grandes entreprises d’IA dans plusieurs pays pourrait être nécessaire. Cette déclaration intervient quelques jours après qu’Anthropic a déposé confidentiellement auprès de la SEC, le 1er juin, une déclaration d’enregistrement S-1, lançant son processus de préparation à l’introduction en bourse.

Anthropic : plus de 80% du code de production est écrit par Claude AI

Anthropric a indiqué dans sa publication du 4 juin (heure locale) que plus de 80% du code intégré aux systèmes de production de l’entreprise est désormais rédigé de façon autonome par son assistant IA Claude, contre des pourcentages à un chiffre avant le lancement de l’outil de codage Claude Code en février 2025. La société a décrit un schéma de travail typique selon lequel Claude écrit du code pendant que des humains fournissent des indications et procèdent à des revues. Les ingénieurs d’Anthropic ont livré en moyenne 8 fois plus de code par trimestre au second trimestre que lors des niveaux de 2024.

D’après des entretiens menés en mars auprès de 130 employés, la durée des tâches que l’IA peut accomplir indépendamment a doublé tous les 4 mois, contre un rythme initial de doublement tous les 7 mois. Lors de tests d’optimisation pour l’entraînement de code, Claude Opus 4 a atteint environ un gain de vitesse de 3x en mai 2025, tandis que le modèle d’aperçu Mythos a atteint un gain de vitesse de 52x en avril 2026.

La société décrit trois scénarios de développement de l’IA

Anthropric a exposé trois trajectoires possibles pour le développement de l’IA. Le premier scénario implique un ralentissement significatif des progrès technologiques. Le deuxième scénario, que la société a indiqué comme le plus probable à l’heure actuelle, implique que l’IA continue d’apporter des gains de productivité importants tout en conservant les humains le contrôle ultime. Le troisième scénario implique que les systèmes d’IA franchissent entièrement une phase où ils construisent de manière exhaustive leurs successeurs.

La société a déclaré que si le troisième scénario se matérialisait, l’auto-construction de l’IA pourrait apporter des bénéfices sans précédent à des domaines comme la science et la médecine, mais qu’elle comporte aussi d’énormes risques existentiels. Anthropic a averti que les humains pourraient perdre le contrôle sur les systèmes d’IA et que la supervision humaine de l’IA pourrait devenir extrêmement difficile.

Anthropic propose un mécanisme de coordination mondiale pour ralentir l’IA

Anthropric a appelé la communauté internationale, les gouvernements et les principaux laboratoires d’IA à établir conjointement un mécanisme efficace de coordination mondiale. La société a indiqué que ce mécanisme permettrait un ralentissement proactif ou un arrêt temporaire du développement d’IA de pointe lorsque nécessaire, offrant à l’humanité suffisamment de temps pour s’adapter sur le plan des structures sociales et faire progresser la recherche d’alignement de l’IA. Anthropic a souligné qu’en cas d’arrêt du développement par une seule entreprise, les concurrents accéléreraient, et que la « baisse collective vérifiable » entre plusieurs grandes entreprises d’IA dans plusieurs pays est requise.

Anthropic dépose un S-1 confidentiel auprès de la SEC le 1er juin

Anthropric a annoncé le 1er juin que la société a soumis confidentiellement un projet de déclaration d’enregistrement S-1 à la Securities and Exchange Commission des États-Unis (SEC), lançant formellement son processus de préparation à l’introduction en bourse. La société a déclaré qu’elle pourra procéder à la cotation une fois que la SEC aura terminé son examen. Anthropic a divulgué que son revenu récurrent annuel (ARR) a dépassé 47 milliards de dollars au début du mois de mai et devrait atteindre 50 milliards de dollars d’ici la fin de ce mois. La société n’a pas divulgué de calendrier précis ni d’ampleur de levée de fonds pour la cotation, indiquant que « cela dépendra des conditions de marché et de divers facteurs externes ». Une analyse a indiqué que la société pourrait commencer à se coter dès cet automne. L’évaluation actuelle d’Anthropic s’élève à 965 milliards de dollars, dépassant la valorisation du concurrent OpenAI, évaluée à 852 milliards de dollars.

FAQ

Quel pourcentage du code de production d’Anthropic est écrit par Claude AI ?

Plus de 80% du code intégré aux systèmes de production d’Anthropic est désormais rédigé de façon autonome par son assistant IA Claude, contre des pourcentages à un chiffre avant février 2025, lorsque la société a lancé Claude Code.

Quand Anthropic a-t-elle déposé sa déclaration d’enregistrement S-1 auprès de la SEC ?

Anthropric a soumis confidentiellement un projet de déclaration d’enregistrement S-1 à la Securities and Exchange Commission des États-Unis le 1er juin, lançant son processus de préparation à l’introduction en bourse.

Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire