Musk Depõe que o xAI Usou Modelos da OpenAI para Treinar o Grok

Elon Musk depôs na quinta-feira em um tribunal federal na Califórnia que sua empresa de inteligência artificial, xAI, usou parcialmente modelos da OpenAI enquanto treinava o chatbot Grok, de acordo com o TechCrunch. A admissão representa um raro reconhecimento público, por um grande desenvolvedor de IA, de uma prática sob escrutínio crescente. Musk fez a declaração durante seu processo em andamento contra a OpenAI, o CEO Sam Altman e o cofundador Greg Brockman, do qual o julgamento começou esta semana.

Contexto da ação judicial e depoimento

Musk está processando a OpenAI por causa da mudança da empresa em relação à missão original sem fins lucrativos. Durante o interrogatório no processo no tribunal federal, Musk foi questionado se a xAI usou técnicas de destilação em modelos da OpenAI. Ele teria respondido que a resposta era “parcialmente” e descrito a abordagem como uma prática mais ampla do setor.

Musk cofundou a OpenAI em 2015 com Sam Altman, Greg Brockman, Ilya Sutskever, John Schulman e Wojciech Zaremba, como uma organização sem fins lucrativos voltada a desenvolver inteligência artificial em benefício da humanidade. Musk deixou a empresa em 2018.

O que é destilação?

Destilação se refere ao treinamento de um novo sistema de IA ao consultar um modelo existente por meio de sua interface pública ou API e usar essas saídas como sinais de aprendizado. O depoimento de Musk indica que o método está sendo usado por empresas de IA baseadas nos EUA, e não apenas por concorrentes estrangeiros.

Em fevereiro, a Anthropic acusou vários desenvolvedores chineses de IA de usar contas fraudulentas para extrair grandes volumes de respostas do chatbot Claude a fim de treinar sistemas concorrentes. No começo deste mês, a Casa Branca alertou sobre campanhas “em escala industrial” usando contas de proxy e jailbreaks para replicar as capacidades de IA dos EUA.

Situação legal permanece incerta

Os limites legais em torno da destilação ainda permanecem incertos. A destilação não é explicitamente ilegal, mas pode levantar dúvidas sobre se viola regras da plataforma ou os termos que regem o uso de API.

Contexto de mercado

Lançada em julho de 2023, a xAI entrou em um mercado que já contava com Google, Microsoft e OpenAI, empresas com equipes maiores e infraestrutura mais estabelecida. Ainda naquele ano, Musk e outras figuras da tecnologia assinaram uma carta aberta pedindo uma pausa de seis meses no desenvolvimento de sistemas de IA mais avançados, citando riscos potenciais. Os comentários de Musk sugerem que a empresa pode ter usado a tecnologia de sua ex-empresa para diminuir a diferença.

A OpenAI e a xAI não responderam imediatamente a solicitações de comentário.