Ratusan pengguna menjadikan ChatGPT sebagai pusat konsultasi racun dan senjata biologis, dan ada yang benar-benar mendapatkan panduan langkah demi langkah.

The Wall Street Journal mengungkapkan bahwa sejak musim panas 2025, terdapat ratusan pertanyaan terkait. Setelah pakar senjata biologis dan kontra-terorisme meninjau ulang sebagian catatan, mereka menilai beberapa jawaban akurat dan cukup spesifik, sehingga siswa SMA biasa pun bisa mengikutinya.
Salah satu pengguna bahkan menyebut dalam percakapan bahwa ia ingin melukai orang tuanya, namun ChatGPT tetap melanjutkan memberikan jawaban.
Belakangan, OpenAI membekukan akun-akun tersebut, tetapi tidak melaporkannya kepada aparat penegak hukum. AS juga belum memiliki undang-undang federal yang mewajibkan perusahaan AI melaporkan percakapan seperti itu. Apakah pengguna terkait sedang menguji model, sekadar penasaran, atau menyiapkan tindakan, saat ini tidak bisa dipastikan, dan tidak ada bukti publik yang menunjukkan seseorang benar-benar membuat senjata.
OpenAI telah menempatkan GPT-5 Thinking untuk penanganan model berkemampuan “tinggi” di bidang biologi dan kimia. Konten chat akan dideteksi otomatis dan ditinjau ulang oleh manusia, dan pengguna yang melanggar akan diblokir.
Namun aturan resmi juga tertulis bahwa hanya jika dinilai ada risiko kerugian dunia nyata yang “segera dan dapat dipercaya”, pemberitahuan akan dilakukan kepada aparat penegak hukum.