O Mythos da Claude ameaça a segurança financeira? O ministro das Finanças dos EUA e o presidente da Fed reúnem-se em caráter de urgência para alertar sobre os riscos

O ministro das Finanças dos EUA e o presidente da Reserva Federal convocaram de emergência os principais dirigentes de Wall Street para abordar um alerta do modelo mais recente da Anthropic, Mythos. As autoridades classificaram este modelo como um risco sistémico para o sistema financeiro.

Chefes de finanças convocam de emergência dirigentes de Wall Street; ameaça em rede de IA sobe para risco sistémico

De acordo com o relatório da Bloomberg, o ministro das Finanças dos EUA, Scott Bessent, e o presidente da Reserva Federal, Jerome Powell, convocaram de emergência no ano passado, em Washington, na sede do Departamento do Tesouro, os principais executivos de bancos de Wall Street, para alertarem sobre possíveis riscos de cibersegurança que o modelo mais recente da empresa de IA Anthropic, “Claude Mythos Preview”, poderá desencadear.

Entre os dirigentes bancários presentes na reunião estiveram o CEO do Citigroup, Jane Fraser; o CEO da Morgan Stanley, Ted Pick; o CEO do Bank of America, Brian Moynihan; o CEO do Wells Fargo, Charlie Scharf; e o CEO do Goldman Sachs, David Solomon; já o CEO do JPMorgan Chase, Jamie Dimon, não conseguiu comparecer. Estas instituições foram todas listadas pelas autoridades reguladoras como instituições financeiras de importância sistémica.

A reunião foi acompanhada pessoalmente pelo ministro das Finanças e pelo presidente da Reserva Federal, algo que na indústria é visto como uma medida invulgar. No passado, a intervenção do governo nos riscos de IA ficou, na maioria dos casos, por grupos de trabalho a nível de instituições; agora, foi elevada directamente para o aviso pessoal dos mais altos dirigentes das autoridades financeiras, deixando claro que as autoridades já classificaram as ameaças cibernéticas associadas à IA como riscos sistémicos à estabilidade do sistema financeiro.

O modelo Mythos tem capacidades impressionantes e pode identificar milhares de vulnerabilidades zero-day

De acordo com os materiais técnicos divulgados pela Anthropic no mesmo dia, o Mythos tem a capacidade de identificar e explorar vulnerabilidades em todos os sistemas operativos e navegadores web mais comuns. Durante a fase de testes, o modelo identificou sozinho milhares de vulnerabilidades zero-day previamente desconhecidas (zero-day vulnerabilities), incluindo uma vulnerabilidade no sistema operativo open source orientado para a segurança OpenBSD que esteve latente durante 27 anos; além disso, o modelo também descobriu uma vulnerabilidade na biblioteca de processamento de vídeo FFmpeg que nem sequer foi detectada mesmo após a execução de 5 milhões de processos por ferramentas de teste automatizadas.

Os investigadores da Anthropic salientaram que a capacidade do Mythos para descobrir vulnerabilidades resulta dos avanços globais do modelo em redacção de código, raciocínio e autonomia, e não de um treino deliberado para esse fim.

A empresa indicou na sua declaração que, “a mesma capacidade que torna o modelo mais eficaz na correcção de vulnerabilidades torna-o também mais eficaz na exploração de vulnerabilidades”. Esta afirmação evidencia a dupla face do Mythos: a linha entre defesa e ataque quase se esbate perante este tipo de modelo.

A Anthropic recusa publicar publicamente e limita o acesso com o Project Glasswing

Precisamente porque as capacidades são demasiado fortes, a Anthropic decidiu não divulgar publicamente o Mythos e adoptou uma estratégia de restrição de acesso, disponibilizando-o apenas para uso por determinadas empresas parceiras. A empresa anunciou em simultâneo o arranque de um plano de colaboração defensiva de cibersegurança chamado “Project Glasswing” (“Glasswing”), em parceria com mais de 40 empresas, incluindo a AWS, a Apple, a Cisco, a Google, o JPMorgan Chase, a Microsoft e a Nvidia, com o objectivo de, antes de os atacantes agirem, identificar proactivamente e corrigir vulnerabilidades em software crítico.

Fonte da imagem: X/@AnthropicAI A Anthropic anunciou em simultâneo o arranque de um plano de colaboração defensiva de cibersegurança chamado “Project Glasswing” (“Glasswing”)

A Anthropic afirma: “Dado o quão poderosa é a capacidade do modelo, adoptamos uma atitude prudente na forma como o disponibilizamos. Estamos a colaborar com um pequeno grupo de clientes com acesso antecipado para testar o modelo e acreditamos que esta é a geração mais disruptiva que construímos até agora.”

A empresa revelou ainda que já apresentou aos responsáveis governamentais sessões de briefing sobre cenários de aplicação ofensiva e defensiva do Mythos e continua a manter negociações com a Agência dos EUA para a Segurança Cibernética e Infra-estruturas (CISA) e com o Centro de Inovação para Normas de IA. O interesse subsequente do público centra-se na forma como os órgãos reguladores irão definir padrões de revisão para a disponibilização de modelos semelhantes, nas medidas de defesa concretas que as instituições financeiras deverão adoptar e se a coordenação entre reguladores internacionais conseguirá acompanhar a velocidade da evolução tecnológica.

Este artigo foi gerado pela Aggregation de informações de vários intervenientes via Agent criptográfico, com revisão e edição do《Cidade Criptográfica》; actualmente, ainda se encontra em fase de treino, podendo existir desvios lógicos ou erros de informação. O conteúdo é apenas para referência e não deve ser encarado como recomendação de investimento.