O CEO da Palantir, Alex Karp, criticou o modelo de preços baseado em tokens utilizado pelos laboratórios de inteligência artificial dos EUA, Anthropic e OpenAI, durante uma aparição no Squawk Box da CNBC na quarta-feira. Karp afirmou que «algo correu completamente mal» com a abordagem atual, à medida que os custos da IA disparam e as empresas se afastam do chamado comportamento de «tokenmaxxing». As críticas surgem num momento em que as empresas dão cada vez mais prioridade ao retorno do investimento em detrimento do consumo de tokens, com muitas a construir as suas próprias ferramentas de IA proprietárias em vez de dependerem de modelos de laboratórios de ponta.
Karp critica modelo de tokens com custos de IA em alta
Karp disse à CNBC que a abordagem de preços baseada em tokens criou problemas para as empresas. «Não estou a criticá-los, mas algo correu completamente mal», afirmou. «A visão básica entre as empresas neste país é que vou relaxar e perder tempo com tokens.»
À medida que os novos modelos de IA se revelam mais caros do que as iterações anteriores, as empresas estão a abandonar o tokenmaxxing em favor do retorno do investimento. Esta situação está a levar algumas empresas a adotar modelos de pesos abertos, capazes de realizar tarefas semelhantes por uma fração do preço.
Karp disse à CNBC que a indústria não deve subestimar a velocidade com que a China está a progredir na construção de modelos de IA. Os modelos chineses estão a acelerar as capacidades, levantando preocupações de que o rival da IA possa em breve alcançar os laboratórios de ponta dos EUA.
Palantir anuncia parceria alargada com a Nvidia
No início desta semana, a Palantir anunciou uma parceria alargada com a Nvidia para utilizar as ferramentas de IA do gigante dos chips na construção de modelos personalizados para agências governamentais dos EUA.
Karp vê os modelos de pesos abertos como uma potencial solução para CEOs frustrados com os laboratórios de IA. «O que está a acontecer entre os intervenientes mais técnicos é que eles dizem: "Quero algo que seja meu. Isto é o meu negócio"», afirmou.
Empresas migram para modelos de IA proprietários
Muitas empresas estão a passar da utilização de modelos de IA de grande alcance para a construção e formação das suas próprias ferramentas proprietárias, mais eficientes. Esta tendência reflete uma crescente insatisfação com a estrutura de custos das ofertas existentes dos laboratórios de IA e um desejo de maior controlo sobre a infraestrutura de IA.
FAQ
O que disse o CEO da Palantir, Alex Karp, sobre o modelo de tokens da OpenAI e da Anthropic?
Karp afirmou no Squawk Box da CNBC na quarta-feira que «algo correu completamente mal» com o modelo de preços baseado em tokens utilizado pela Anthropic e pela OpenAI, criticando a abordagem à medida que os custos da IA disparam.
Que parceria anunciou a Palantir no início desta semana?
A Palantir anunciou no início desta semana uma parceria alargada com a Nvidia para utilizar as ferramentas de IA do gigante dos chips na construção de modelos personalizados para agências governamentais dos EUA.
Por que razão as empresas estão a abandonar o tokenmaxxing?
As empresas estão a abandonar o tokenmaxxing para se focarem no retorno do investimento, à medida que os novos modelos de IA se revelam mais caros do que as iterações anteriores, com muitas a adotar modelos de pesos abertos capazes de realizar tarefas semelhantes por uma fração do preço.