Les entreprises réduisent leurs dépenses en IA alors que les coûts des jetons s'envolent en 2024

Selon Barron's, les entreprises réévaluent leurs investissements dans l'IA après avoir fait face à des dépassements de coûts de Token inattendus en 2024, la transparence des prix et le contrôle budgétaire devenant des défis majeurs à Wall Street.

Les modèles de raisonnement et les agents IA sont les principaux moteurs de coûts. Les modèles de raisonnement effectuent de longs calculs internes avant de générer des résultats, consommant bien plus de Tokens que le texte final produit. Les agents de codage IA sont encore plus coûteux, nécessitant jusqu'à 1 000 fois plus de Tokens que les programmeurs humains pour accomplir des tâches équivalentes.

De nombreuses entreprises mettent désormais en place des tableaux de bord pour surveiller l'utilisation de l'IA par les employés et s'orientent vers des modèles plus rentables, notamment des alternatives moins coûteuses en provenance de Chine ou attendent des baisses de prix de la part des principaux fournisseurs.

Pour ajouter à la complexité, différents fournisseurs de modèles comptent les Tokens différemment — la méthode de comptage d'Anthropic montre une utilisation de 30 à 40 % plus élevée que celle des concurrents — ce qui rend difficile pour les analystes de suivre les tendances d'adoption de l'IA.