Les dépenses d'IA open-source en entreprise tombent à 11 %, mais dominent les environnements de production.

Selon le PDG de Decagon, Jesse Zhang, tel que surveillé par Beating, les dépenses en IA open source des entreprises ne représentent actuellement que 11 % des dépenses totales consacrées aux grands modèles, la plupart des entreprises restant en phase d'exploration précoce avec des modèles fermés. Cependant, dans l'environnement de production propre à Decagon, 90 % des appels d'inférence ont déjà basculé vers des modèles open source, en raison des exigences de faible latence et de capacités de fine-tuning approfondi. Zhang note qu'à mesure que les cas d'usage arrivent à maturité, les modèles open source remplaceront de plus en plus les environnements de production grâce à une personnalisation supérieure et une vitesse de réponse critique – dans les scénarios de service client, des délais de réponse de 8 secondes dégradent l'expérience utilisateur.
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire