Utilizaço de tokens LLM e preços de aluguer de GPU disparam em junho, diz o JPMorgan Chase

De acordo com o relatório Data Center Watch do JPMorgan Chase, de 1 de julho, a utilização de tokens LLM na plataforma OpenRouter aumentou 70% mês a mês e 20 vezes ano a ano em junho, com os preços a subirem apenas 5% ano a ano apesar do maior consumo. Os modelos dos EUA capturaram 85% do total de gastos em consumo.

Entretanto, os preços de aluguer de GPU entre fornecedores não cloud subiram de forma generalizada: A100 aumentou 6,3%, H100 subiu 3,7% e B200 subiu 2,7%, indicando uma força sustentada na procura de hardware de IA.