A IA Claude criou citações falsas de tribunal, o advogado pediu desculpa e reconheceu ter cometido erros

Numa ação judicial no tribunal federal relacionada com os despedimentos federais em larga escala do governo de Trump, o advogado Jason Grieves apresentou, a 16 de maio, uma declaração em que admite que a documentação de moção apresentada ao tribunal continha citações falsas. Essas citações foram geradas depois de ele ter utilizado a plataforma de IA empresarial da Anthropic, o Claude Console, para ajudar a redigir a moção.

Linha temporal de eventos confirmada na íntegra: Processo completo da declaração de Grieves

6 de maio, de manhã (confirmado): Devido à urgência de tempo, Grieves usou o Claude Console para criar a primeira versão da moção e enviou essa versão a um advogado assistente, dando instruções orais claras: «Este rascunho foi gerado por inteligência artificial; ela precisa de verificar cuidadosamente as citações.»

6 de maio, à tarde (confirmado): O advogado assistente informou Grieves de que tinha revisto e verificado cada citação. A assistente identificou duas citações de casos incorretas e encontrou outro caso de substituição; ainda assim, as citações falsas acabaram por constar no documento final apresentado.

Grieves, na sua declaração, confirma dois pontos de responsabilidade: «Garantir que as citações estão rigorosamente corretas é totalmente da minha responsabilidade, assumo toda a responsabilidade por isso»; «Os casos citados podem, no geral, apoiar a nossa posição, mas permitir a inclusão de citações falsas é um erro imperdoável.»

Enquadramento confirmado do Claude Console

O Claude Console (antes o Anthropic Developer Console), lançado em março de 2023, é a plataforma de IA empresarial da Anthropic, para que empresas e profissionais interajam com o modelo de IA Claude. Os usos incluem redigir documentos, fazer resumos, programar e conduzir investigação. Na sua declaração, Grieves descreve-o como uma «plataforma de inteligência artificial empresarial, com isolamento de dados», distinta do Claude.ai orientado para consumidores.

Antecedentes do precedente de confirmação da entrada de “alucinações” de IA em tribunal

Em abril de 2026, advogados do escritório Sullivan & Cromwell já tinham sido formalmente sancionados por apresentarem ao tribunal citações legais falsas geradas por IA. O caso de Grieves, relativo ao processo do governo de Trump sobre despedimentos federais em larga escala, abrange a redução de pessoal da FEMA e reformas propostas de proteção dos funcionários públicos. O tribunal ainda não divulgou decisões sobre o tratamento subsequente.

Perguntas frequentes

Como explica Grieves a atribuição de responsabilidade pela presença de citações falsas?

De acordo com a declaração de Grieves, ele explicou claramente ao advogado assistente, de forma oral, que o rascunho tinha sido gerado por IA e pediu a verificação das citações. O assistente confirmou que tinha revisto, mas as citações falsas acabaram por passar. Grieves afirma explicitamente que, enquanto sócio-gerente e signatário da peça, assume toda a responsabilidade, sem a transferir para o assistente ou para a ferramenta de IA em si.

Em que difere o Claude Console do uso geral do Claude AI?

O Claude Console (Anthropic Developer Console) é uma plataforma de IA na vertente empresarial, com um desenho de isolamento de dados, dirigida a empresas e utilizadores profissionais; difere do Claude.ai para consumidores em termos de processamento de dados e enquadramento de conformidade. Grieves sublinha especificamente que está a ser usada uma «plataforma de inteligência artificial empresarial, com isolamento de dados», mas isso não impede que ocorram “alucinações” de IA (a geração de citações incorretas).

Como trata o tribunal a situação de citações falsas geradas por IA?

Em abril de 2026, no caso Sullivan & Cromwell, os advogados já tinham sido formalmente sancionados por problemas semelhantes. No caso de Grieves, os advogados já se desculparam formalmente perante o tribunal; o resultado concreto sobre o tratamento subsequente ainda não foi divulgado.