Anthropic acusa Alibaba de "roubar" dados do Claude e envia carta a autoridades da Casa Branca

De acordo com uma cópia da carta obtida pela Bloomberg em 24 de junho, a Anthropic enviou uma carta a vários senadores dos EUA e autoridades da Casa Branca, acusando empresas relacionadas ao laboratório Qwen, da Alibaba, de terem realizado, entre abril e junho, quase 25 mil contas falsas para iniciar um total de 28,8 milhões de conversas com o Claude, extraindo sistematicamente dados de treinamento de engenharia de software e capacidades principais do Claude, classificando a ação como um "ataque de destilação adversária".

Anthropic acusa Qwen de 28,8 milhões de conversas com foco preciso em engenharia de software

O padrão do ataque é: um grande número de contas falsas faz perguntas ao Claude, coleta as respostas e as utiliza para treinar a série de modelos Qwen. Na carta, a Anthropic explica que o alvo do ataque não são consultas aleatórias, mas sim as duas capacidades mais competitivas do Claude: engenharia de software e raciocínio agentivo (a capacidade da IA de planejar múltiplas etapas de forma autônoma e executar tarefas complexas como um agente).

A Anthropic afirma que esse método é idêntico ao do DeepSeek e do MiniMax, mencionados em seu post no blog, caracterizando-o como um ataque de destilação "sistemático, em larga escala e industrial". A carta define claramente: este tipo de ataque "rouba capacidades de IA dos principais laboratórios dos EUA de forma ilegal, sistemática e em escala industrial, e as reembala como produtos próprios, sem arcar com os custos de treinamento e pesquisa".

Anthropic, OpenAI e Google formam compartilhamento de inteligência tripartite e pedem esclarecimentos ao governo sobre diretrizes antitruste

A Anthropic, a OpenAI e o Google formaram uma aliança tripartite para compartilhar informações sobre violações de destilação detectadas por cada uma, e a preocupação da indústria dos EUA evoluiu de incidentes isolados para uma postura de defesa coletiva. Na carta, a Anthropic também pede ao governo dos EUA que ajude a esclarecer as diretrizes antitruste relevantes, para que as grandes empresas dos EUA possam compartilhar informações sobre ataques de destilação com mais liberdade.

A Anthropic admite na carta que, ao treinar o Claude, também destilou modelos anteriores da própria empresa. A linha entre "destilar a si mesmo" e "destilar os outros" ainda não é clara legalmente; a destilação em si é amplamente utilizada na indústria, e a legalidade depende da escala e da intenção, não da técnica em si.

Senado planeja apresentar emenda; Câmara já promove projeto bipartidário

Ambas as casas do Congresso dos EUA já têm legisladores agindo. No Senado, os republicanos Bill Hagerty e os democratas Andy Kim planejam apresentar uma emenda para incluir na lista negra ou sancionar empresas chinesas que destilem ilegalmente resultados de IA dos EUA; na Câmara, Bill Huizenga e Sydney Kamlager-Dove já promoveram um projeto bipartidário similar. As propostas de ambas as casas planejam ser incluídas na Lei de Autorização de Defesa Nacional (NDAA) anual.

Perguntas frequentes

O que é um "ataque de destilação adversária" e qual a diferença da destilação de modelo comum?

A destilação de modelo é uma técnica para um modelo menor aprender as capacidades de um modelo maior, amplamente utilizada na comunidade de pesquisa de IA. O problema está na escala e na intenção: a ação acusada pela Anthropic envolve o uso de quase 25 mil contas falsas para realizar 28,8 milhões de perguntas industriais em três meses, visando precisamente capacidades principais, ultrapassando os limites permitidos pelos termos de serviço dos principais laboratórios de IA.

Quais são os pedidos específicos da Anthropic ao Congresso dos EUA na carta?

Na carta, a Anthropic pede ao governo dos EUA duas ações: impor sanções ou colocar na lista negra empresas chinesas que destilem ilegalmente resultados de IA dos EUA; e ajudar a esclarecer as diretrizes antitruste, para que as principais empresas de IA dos EUA possam compartilhar informações sobre ataques de destilação com mais liberdade, estabelecendo um mecanismo de defesa coletiva mais eficaz.

O status legal de ataques de destilação já está claro nos EUA atualmente?

Atualmente, ainda não está claro legalmente. A destilação em si não é totalmente ilegal; a indústria geralmente permite seu uso em menor escala e para desenvolvimento não concorrente. A Anthropic também admite na carta que destilou seus próprios modelos anteriores e já pediu explicitamente ao governo dos EUA que ajude a esclarecer os limites legais relevantes.