De acordo com documentos judiciais, a Google apresentou uma ação judicial na sexta-feira (12 de junho) contra a rede chinesa de cibercrime Outsider Enterprise por utilizar a IA Gemini para automatizar campanhas massivas de phishing. Os arguidos terão utilizado o Gemini para gerar código e modelos para sites falsos que imitam portais legítimos de telecomunicações, visando centenas de milhares de vítimas dos EUA com mensagens concebidas para roubar credenciais financeiras.
O FBI estima que a operação tenha enviado 2,5 milhões de mensagens de burla e criado 8.000 sites de phishing em dezenas de países. Os arguidos terão roubado 3,87 milhões de números de cartões de crédito e causado aproximadamente 1,9 mil milhões de dólares em perdas desde julho de 2023, segundo os registos do tribunal.