Musk testemunha que a xAI usou modelos da OpenAI para treinar o Grok

Elon Musk testemunhou na quinta-feira, num tribunal federal da Califórnia, que a sua empresa de inteligência artificial xAI utilizou parcialmente modelos da OpenAI durante o treino do seu chatbot Grok, segundo a TechCrunch. A admissão representa um reconhecimento público raro, por parte de um grande programador de IA, de uma prática que está a ser alvo de escrutínio crescente. Musk fez a afirmação durante o seu processo em curso contra a OpenAI, o CEO Sam Altman e o cofundador Greg Brockman, no qual o julgamento começou esta semana.

Contexto do processo e depoimento

Musk está a processar a OpenAI devido à mudança da empresa em relação à sua missão original sem fins lucrativos. Durante o interrogatório no processo em tribunal federal, Musk foi questionado sobre se a xAI utilizou técnicas de distilação em modelos da OpenAI. Segundo foi reportado, terá respondido que a resposta era “parcial” e descreveu a abordagem como uma prática mais alargada na indústria.

Musk cofundou a OpenAI em 2015 com Sam Altman, Greg Brockman, Ilya Sutskever, John Schulman e Wojciech Zaremba, como uma organização sem fins lucrativos focada no desenvolvimento de inteligência artificial para benefício da humanidade. Musk saiu da empresa em 2018.

O que é a distilação?

A distilação refere-se ao treino de um novo sistema de IA ao fazer consultas a um modelo existente através da sua interface pública ou API e ao usar essas saídas como sinais de aprendizagem. O depoimento de Musk indica que o método está a ser utilizado por empresas de IA com base nos EUA, e não apenas por concorrentes estrangeiros.

Em fevereiro, a Anthropic acusou vários programadores chineses de IA de usarem contas fraudulentas para extrair grandes volumes de respostas do seu chatbot Claude, com o objetivo de treinar sistemas concorrentes. No início deste mês, a Casa Branca alertou para campanhas em “escala industrial” com recurso a contas de proxy e jailbreaks para replicar capacidades de IA dos EUA.

O estatuto legal continua pouco claro

Os limites legais em torno da distilação continuam pouco claros. A distilação não é explicitamente ilegal, mas pode levantar questões sobre se viola regras de plataforma ou os termos que regem o uso de API.

Contexto de mercado

Lançada em julho de 2023, a xAI entrou num mercado que incluía Google, Microsoft e OpenAI, empresas com equipas maiores e infraestruturas mais estabelecidas. Ainda nesse ano, Musk e outras figuras da tecnologia assinaram uma carta aberta a pedir uma pausa de seis meses no desenvolvimento de sistemas de IA mais avançados, citando riscos potenciais. As declarações de Musk sugerem que a empresa poderá ter usado a tecnologia da sua empresa anterior para fechar a diferença.

A OpenAI e a xAI não responderam imediatamente a pedidos de comentário.