Anthropic afirma que não há 'interruptor de emergência' para modelos de IA implantados no Pentágono

De acordo com monitorização da Beating, a Anthropic apresentou documentos ao Tribunal de Recursos Federal de Washington afirmando que, uma vez que os seus modelos de IA estejam implantados no ambiente do Pentágono, a empresa não tem visibilidade nem meios técnicos para controlar ou desligar os modelos, e não existe um ‘interruptor de emergência’ em funcionamento. A Anthropic também observou que o Pentágono teve a oportunidade de testar os modelos antes da sua implementação. Este documento representa o desenvolvimento mais recente na disputa entre a Anthropic e o Pentágono sobre o rótulo de ‘risco na cadeia de abastecimento’. Em março deste ano, o Pentágono classificou a Anthropic como um risco na cadeia de abastecimento, citando a interferência inadequada da empresa na forma como a sua tecnologia é utilizada em operações militares sensíveis. O cerne da disputa reside na política de uso da Anthropic, que proíbe que o Claude seja utilizado para armas autónomas ou vigilância em massa, uma estipulação que o Pentágono considera uma ‘fumaça de arame’. A litigação resultou numa divisão entre os dois tribunais: o tribunal de Washington rejeitou o pedido da Anthropic para suspender o rótulo de risco na cadeia de abastecimento, enquanto o tribunal da Califórnia aprovou-o. O efeito prático é que a Anthropic não pode participar em novos contratos com o Pentágono, mas pode continuar a fornecer serviços a outras agências governamentais. Entretanto, a administração Trump está a promover a implementação do novo modelo da Anthropic, Mythos, em agências federais, com os chefes das agências a explorar como usar o Mythos para defender contra ciberataques, contradizendo a posição do Pentágono de que a Anthropic representa um risco para a segurança nacional. A próxima audiência está agendada para 19 de maio.