Le CPU Nvidia Vera atteint une orchestration d’agents IA 2,2 fois plus rapide, avec 1,6 fois plus de concurrence prise en charge

NVDA1,44%
Selon Nvidia, le 21 juillet, le CPU Vera a atteint jusqu’à 2,2x une vitesse d’orchestration plus rapide pour les charges de travail d’agents IA que des CPU concurrents, tout en prenant en charge 1,6x l’exécution d’agents simultanée supplémentaires. Les tests de DeepInfra ont mis en évidence ces améliorations dans la gestion d’opérations d’agents complexes. DeepInfra traite environ 50 billions de tokens chaque semaine sur l’ensemble de sa plateforme, dont environ 30% générés par des applications agentiques, soulignant la demande croissante d’un ordonnancement CPU efficace dans les pipelines d’inférence IA.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire