Sullivan & Cromwell Pede Desculpas por Alucinações de IA em Petição Judicial com 40 Citações Errôneas

Mensagem do Gate News, 23 de abril — Sullivan & Cromwell, um grande escritório de advocacia de Wall Street, pediu desculpas a um juiz federal depois de apresentar uma petição judicial contendo aproximadamente 40 citações incorretas e outros erros causados por alucinações de IA. Andrew Dietderich, co-chefe da equipe global de reestruturação do escritório, escreveu ao juiz-chefe Martin Glenn, do Tribunal de Falências dos EUA para o Distrito Sul de Nova York, na sexta-feira, afirmando “Lamentamos profundamente que isso tenha ocorrido” e assumindo a responsabilidade pela falha em garantir a precisão.

De acordo com um banco de dados mantido pelo tecnólogo jurídico Damien Charlotin, houve 1.334 incidentes registrados de alucinações de IA em petições judiciais em todo o mundo, com mais de 900 ocorrendo nos EUA. A maioria dessas alucinações envolve citações fabricadas, embora argumentos jurídicos gerados por IA também tenham sido identificados em alguns casos.

Dietderich observou que a Sullivan & Cromwell tem políticas em vigor para o uso de ferramentas de IA, incluindo processos de revisão de citações, mas essas políticas não foram seguidas nesta ocasião. Ele afirmou: “Lamentavelmente, esse processo de revisão não identificou as citações imprecisas geradas por IA, nem identificou outros erros que parecem ter resultado total ou parcialmente de erro manual.” O escritório está conduzindo uma investigação interna e avaliando melhorias em seus processos de treinamento e revisão.

Os erros foram descobertos pelo escritório de advocacia rival Boies Schiller Flexner. A Sullivan & Cromwell, classificada em 30º lugar no AmLaw Global 200, anteriormente representou a exchange de criptomoedas FTX em seu caso de falência.