Studi MIT dan Universitas Queensland Menunjukkan Risiko Senjata Biologis yang Dipicu AI Sebesar 12% Berpotensi Menyebabkan Bencana pada 2030

Menurut Axios, sebuah studi bersama oleh MIT FutureTech dan University of Queensland yang dirilis hari ini menunjukkan bahwa 272 peneliti yang menilai 24 risiko AI mengidentifikasi probabilitas 12% bahwa kemampuan AI dapat mengarah pada hasil yang bencana—didefinisikan sebagai lebih dari 1 juta kematian atau lebih dari $100 miliar kerugian—sebelum 2030, dengan langkah mitigasi yang ada saat ini. Probabilitas yang sama berlaku untuk senjata yang didukung AI dan bahaya massal. Tanpa langkah mitigasi, risikonya melebihi 20%. Studi tersebut menempatkan pembangunan senjata kimia dan biologis berbantuan AI sebagai salah satu kategori berisiko tertinggi.

Sejumlah pimpinan dari perusahaan-perusahaan AI besar juga menerbitkan surat terbuka bersama yang memperingatkan risiko bioweapon yang bersumber dari AI, menyerukan audit kapabilitas model dan perlindungan keselamatan yang lebih kuat, khususnya untuk menanggapi potensi penyalahgunaan model open-source.