A Anthropic apela por uma pausa global no desenvolvimento de IA de fronteira, 5 de junho

De acordo com a publicação de quinta-feira do blogue da Anthropic, a empresa de investigação em IA apelou a uma pausa global no desenvolvimento de IA de fronteira a 5 de junho, citando riscos associados à melhoria recursiva e autoaperfeiçoada em sistemas de IA. A Anthropic divulgou dados internos que mostram os seus modelos mais avançados a alcançar ganhos de desempenho rápidos e alertou que os sistemas de IA poderão em breve atingir uma otimização autónoma sem intervenção humana, colocando riscos sociais significativos.

A empresa propôs a criação de um acordo global para abrandar o desenvolvimento da investigação em IA e estabelecer mecanismos de verificação para garantir que os concorrentes cumprem. A Anthropic afirmou: «Se o mundo puder optar por abrandar ou temporariamente suspender o desenvolvimento de IA de fronteira para que a sociedade e a investigação consigam acompanhar o progresso tecnológico, isso seria benéfico».