A 1 de junho, o GitHub Copilot mudou de faturação por pedido para preços baseados em tokens, fazendo com que as contas mensais dos utilizadores mais intensivos disparassem mais de 10 vezes. De acordo com estimativas internas de custos partilhadas por utilizadores, a conta mensal de um programador deverá aumentar de 44,68 USD para 754,29 USD, enquanto outro relatou possíveis encargos de 847 USD por mês.
O CEO da Coinbase, Brian Armstrong, previu que, num prazo de 12 a 18 meses, 80% das cargas de trabalho de IA migrem para modelos que custam 99% menos do que os actuais modelos de fronteira, ficando apenas 20% de tarefas avançadas como avanços científicos dependentes de APIs de ponta. Armstrong afirmou que a Coinbase está a implementar estratégias de encaminhamento de prompts para alocar dinamicamente os pedidos a modelos de menor custo, mantendo custos totais estáveis apesar do crescimento exponencial do consumo de tokens.