Kepala PBB Peringatkan AI Berkembang Lebih Cepat dari Kemampuan Tata Kelola; Desak Larangan Senjata Otonom Mematikan

Pada Senin (6 Juli), Sekretaris Jenderal PBB António Guterres membuka Dialog Global pertama tentang Tata Kelola AI di Jenewa, memperingatkan bahwa kecerdasan buatan berkembang dengan "kecepatan yang tak terkendali" dan melampaui pengawasan kelembagaan. Ia menggunakan "vibe coding"—istilah untuk membiarkan AI menulis perangkat lunak tanpa pengawasan manusia yang ketat—sebagai metafora untuk tata kelola yang berbahaya dan pasif, dengan menyatakan "kita tidak bisa vibe coding masa depan umat manusia." Guterres mencatat bahwa AI mencapai skala penerapan dalam dua tahun, dibandingkan dengan 15 tahun bagi internet untuk mencapai satu miliar pengguna.

Guterres meluncurkan Ikrar Keamanan AI untuk Anak, yang mewajibkan perusahaan melakukan pengujian keamanan independen sebelum menerapkan sistem AI kepada anak-anak, dan menyerukan larangan hukum internasional terhadap senjata otonom mematikan yang memilih dan membunuh target tanpa pertimbangan manusia. Dialog yang dihadiri oleh seluruh 193 negara anggota PBB ini didasari oleh laporan awal dari Panel Ilmiah Internasional Independen tentang Kecerdasan Buatan yang terdiri dari 40 ilmuwan dari 140 negara, yang menemukan bahwa sistem saat ini tidak dapat menjamin keamanan AI. Dialog Global kedua dijadwalkan berlangsung di New York pada tahun 2027.