Anthropic admite ter incorporado código esteganográfico para utilizadores chineses, chamando-lhe 'experiência de prevenção de abuso', promete reversão amanhã

De acordo com a monitorização da Dongcha Beating, Thariq, um engenheiro da equipa Claude Code da Anthropic, respondeu publicamente à recente controvérsia sobre a revelação do 'código espião'. Ele admitiu que, em março deste ano, um mecanismo experimental foi incorporado no produto, que detetava se o fuso horário do sistema era Asia/Shanghai ou Asia/Urumqi, se o nome do anfitrião do proxy correspondia a uma lista de revendedores chineses, e utilizava palavras-chave do AI Lab para injetar informações de marcação ocultas nos prompts do sistema usando pontuação especial de forma esteganográfica. Afirmou que este mecanismo visava 'impedir que revendedores não autorizados abusassem de contas e a destilação de modelos', mas enfatizou que a equipa tinha desde então implementado medidas de proteção mais fortes e 'sempre teve a intenção de o retirar'. O pull request relacionado foi fundido, e espera-se um rollback completo na versão de amanhã. Esta revelação foi tornada pública pela conta de segurança @IntCyberDigest no dia 30 de junho, acompanhada de duas capturas de ecrã de código mostrando que o Claude Code estava a marcar o ambiente dos utilizadores chineses sem o seu conhecimento. Embora a resposta de Thariq tenha sido um reconhecimento positivo, o cronograma de 'lançamento em março e aceleração da retirada apenas após a exposição' levantou um ceticismo generalizado na comunidade, com comentários a criticarem amplamente a Anthropic por 'só dizer que vai retirar depois de ser apanhada' e 'monitorizar secretamente sem notificar os utilizadores'. A imagem há muito cultivada pela empresa de ser 'mais focada na segurança e ética' sofreu um duro golpe na sua credibilidade.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado