Le 1er juin, GitHub Copilot est passé d’une facturation basée sur chaque requête à une tarification basée sur des jetons, provoquant une forte hausse des factures mensuelles des gros utilisateurs, multipliées par plus de 10. D’après des estimations internes des coûts partagées par des utilisateurs, la facture mensuelle d’un développeur devrait passer de 44,68 dollars à 754,29 dollars, tandis qu’un autre indique des charges potentielles de 847 dollars par mois.
Le PDG de Coinbase, Brian Armstrong, a prédit qu’au cours des 12 à 18 prochains mois, 80% des charges de travail liées à l’IA migreront vers des modèles coûtant 99% de moins que les modèles de pointe actuels, seuls 20% des tâches avancées comme des percées scientifiques restant tributaires d’API de pointe. Armstrong a déclaré que Coinbase met en place des stratégies d’acheminement des prompts afin d’allouer dynamiquement les requêtes à des modèles moins coûteux tout en maintenant des coûts totaux stables malgré la croissance exponentielle de la consommation de jetons.