A Microsoft Corrige Vulnerabilidade Crítica do Copilot que Expõe Códigos do 2FA

A Microsoft corrigiu na terça-feira passada uma vulnerabilidade classificada como máxima criticidade em sua plataforma de IA do M365 Copilot. Na segunda-feira, pesquisadores da empresa de segurança Varonis, que descobriram a falha, revelaram como o exploit de prova de conceito poderia recuperar códigos de autenticação em duas etapas e outros dados sensíveis de e-mails acessíveis ao Copilot. A causa raiz está na incapacidade dos bots de IA de distinguir entre instruções fornecidas pelos usuários e aquelas embutidas em conteúdos de terceiros que os modelos processam, deixando a Microsoft e outros provedores de LLM sem conseguir impedir que seus produtos cumpram solicitações maliciosas de recuperação de dados.

Pesquisadores da Varonis burlam as proteções do Copilot usando linguagem de marcação

A Microsoft criou proteções no Copilot para impedir que o LLM envie formulários da web, envie e-mails e execute ações semelhantes que poderiam exfiltrar dados do usuário. Pesquisadores da Varonis contornaram essas restrições usando uma linguagem de marcação, que permite adicionar elementos de formatação como títulos, listas e links ao texto sem tags HTML. Outra alternativa envolveu encapsular dados sensíveis dentro de tags HTML como e . Em ambos os casos, uma requisição web contendo os dados atinge o servidor web do atacante, onde as informações secretas são capturadas em logs.

A Microsoft implementou proteções adicionais, incluindo envolver a saída do Copilot em blocos para que os navegadores a tratem como texto puro, e restringir os sites que o Copilot pode visitar sem aprovação explícita. Embora o Copilot tenha permissão ampla para enviar solicitações para domínios da Microsoft, as proteções restringem solicitações para sites não confiáveis.

Exploits de injeção de Parâmetro para Prompt via parâmetros da URL

A Varonis elaborou uma cadeia de exploração que burlou essas proteções usando o que os pesquisadores chamam de Injeção de Parâmetro para Prompt. O parâmetro, neste caso, é o q em uma URL, que sinaliza uma consulta que foi incluída. A Injeção de Parâmetro para Prompt é uma parente próxima da injeção de prompt, com a diferença de que o comando malicioso fica no parâmetro da consulta, em vez de estar em um e-mail ou em outro conteúdo não confiável.

FAQ

Que vulnerabilidade a Microsoft corrigiu no Copilot na terça-feira passada? A Microsoft corrigiu uma vulnerabilidade de máxima criticidade em sua plataforma de IA do M365 Copilot que permitia que hackers recuperassem códigos de autenticação em duas etapas e outros dados sensíveis de e-mails acessíveis ao Copilot. Pesquisadores da Varonis, que descobriram a vulnerabilidade, revelaram seu exploit de prova de conceito na segunda-feira.

Como os pesquisadores da Varonis burlaram as proteções de segurança do Copilot? Os pesquisadores da Varonis usaram linguagem de marcação para adicionar elementos de formatação sem tags HTML e encapsularam dados sensíveis dentro de tags HTML como e . Eles também empregaram uma técnica de Injeção de Parâmetro para Prompt que colocou comandos maliciosos em parâmetros de consulta da URL em vez de no conteúdo do e-mail, permitindo que requisições web contendo dados do usuário atingissem servidores controlados pelo atacante, onde a informação foi capturada em logs.