Um estudo do MIT e da Universidade de Queensland revela um risco de 12% de armas biológicas potenciadas por IA causarem danos catastróficos até 2030

De acordo com a Axios, um estudo conjunto do MIT FutureTech e da University of Queensland divulgado hoje revela que 272 investigadores, a avaliar 24 riscos de IA, identificaram uma probabilidade de 12% de que as capacidades de IA conduzam a resultados catastróficos — definidos como mais de 1 milhão de mortes ou mais de 100 mil milhões de dólares em perdas — antes de 2030, com as medidas de mitigação atuais em vigor. A mesma probabilidade aplica-se a armas baseadas em IA e a danos em massa. Sem medidas de mitigação, este risco excede 20%. O estudo classificou a construção de armas químicas e biológicas assistida por IA entre as categorias de maior risco.

Vários líderes de grandes empresas de IA também publicaram uma carta conjunta, alertando para os riscos de bioarmas derivados de IA e apelando a auditorias mais rigorosas das capacidades dos modelos e a salvaguardas de segurança, especialmente no que diz respeito ao potencial uso indevido de modelos de código aberto.