CEO Anthropic: Model AI harus diaudit secara wajib, pemerintah dapat memblokir penerapan berisiko tinggi

AI模型強制審計

CEO Anthropic, Dario Amodei, pada 11 Juni merilis tulisan kebijakan panjang berjudul 《Policy on the AI Exponential》, untuk pertama kalinya secara terbuka menyerukan pemerintah turun tangan, sebagai pemimpin tertinggi perusahaan, guna menetapkan aturan untuk model AI generasi terbaru. Amodei menyebut Claude Mythos Preview sudah mampu menemukan celah berisiko tinggi sebagai dasar legislasi.

Tiga butir utama kebijakan: standar kuantitatif dan kerangka hukum yang ditegaskan

Pernyataan satu: uji pihak ketiga yang wajib

Ambang kuantitatif (salah satu pemicu saja): daya komputasi pelatihan melebihi 10^25 FLOPs, atau pendapatan AI tahunan di atas 500 juta dolar AS, atau belanja riset dan pengembangan AI di atas 1 miliar dolar AS. Perusahaan yang memenuhi ambang ini, model di bawahnya, sebelum masuk daftar/beredar harus lulus audit independen; pengujian berfokus pada empat bidang risiko: keamanan siber, senjata biologis, sistem AI lepas kendali, serta riset dan pengembangan otomatis yang dapat mempercepat risiko-risiko tersebut. Dalam naskah aslinya, Amodei menegaskan bahwa dalam kerangka ini, pemerintah memperoleh kewenangan hukum untuk memblokir, menunda, atau mencegah penerapan model.

Pernyataan dua: penempatan AI sebagai infrastruktur kunci keamanan siber

Mewajibkan pengembang generasi terbaru melindungi “bobot model” agar tidak dicuri oleh penyerang eksternal maupun orang dalam, serta membangun jalur resmi untuk pelaporan “serangan distilasi model”. Amodei mengutip Claude Mythos Preview yang mampu menemukan secara proaktif celah risiko tinggi pada sistem operasi utama sebagai dasar teknis dari pernyataan ini.

Pernyataan tiga: pengakuan terang-terangan atas penggantian kerja secara struktural

Kerangka tersebut menuliskan secara gamblang bahwa bila AI mencapai tingkat kemampuan seperti yang diprediksi, AI akan menjadi “pengganti tenaga kerja secara menyeluruh” bukan alat bantu produktivitas. Kerangka juga menguraikan skenario tingkat pengangguran 5%, 10% dan bahkan kondisi yang lebih ekstrem, serta mengusulkan mekanisme penyesuaian seperti asuransi upah, pendapatan dasar universal (UBI), hingga model kekayaan berdaulat.

Komitmen kebijakan 350 juta dolar AS yang ditegaskan oleh Anthropic

Komitmen finansial yang diumumkan Anthropic pada hari yang sama:

200 juta dolar AS: mendirikan “Economic Future Research Fund”, untuk uji coba kebijakan publik

150 juta dolar AS: menyelenggarakan program hibah nasional

Di bagian penutup tulisan panjangnya, Amodei menyatakan: “Tantangan kuncinya bukan bagaimana memberi insentif untuk pertumbuhan, melainkan menemukan cara agar setiap orang bisa berbagi manfaat.” Dalam naskahnya ia menegaskan bahwa kerangka ini “adalah titik awal, bukan titik akhir”.

Perbandingan dengan sikap yang sudah ditegaskan terhadap pemerintahan Trump

Sikap yang ditegaskan pemerintahan Trump: membiarkan industri AI “berkembang liar”, untuk mengalahkan Tiongkok melalui persaingan positif, serta secara proaktif meratakan hambatan regulasi setempat di setiap negara bagian.

Sikap yang ditegaskan Amodei: di bagian penutup tulisan panjangnya mencari bahasa yang bisa diterima lintas partai: “Konsep kebijakan ini memiliki daya tarik akal sehat lintas partai dalam spektrum politik; semakin cepat kami bertindak, semakin cepat setiap orang bisa berbagi manfaat dari AI.” Dalam naskahnya, Amodei menegaskan bahwa sebelumnya Anthropic pernah menyatakan “tuntutan transparansi saja sudah cukup”; dorongan kebijakan ini merupakan pembaruan resmi atas posisi tersebut.

FAQ (Pertanyaan yang Sering Diajukan)

Ambang kuantitatif uji paksa yang diajukan Anthropic itu secara spesifik apa?

《Policy on the AI Exponential》 pada tulisan panjangnya menegaskan tiga ambang pemicu; bila salah satunya terpenuhi, audit independen yang wajib harus selesai sebelum model diluncurkan/didaftarkan: daya komputasi pelatihan melebihi 10^25 FLOPs, pendapatan AI tahunan di atas 500 juta dolar AS, atau belanja riset dan pengembangan AI di atas 1 miliar dolar AS. Pengujian berfokus pada empat bidang risiko: keamanan siber, senjata biologis, sistem AI lepas kendali, serta riset dan pengembangan otomatis.

Mengapa Anthropic menyerukan pengendalian legislatif pada hari yang sama saat merilis model terkuat?

Logika penegasan Amodei adalah: Claude Mythos Preview sudah mampu menemukan celah risiko tinggi di sistem operasi utama, membuktikan bahwa profil risiko AI sudah “cukup jelas untuk diawasi secara presisi”; dengan demikian, alasan bahwa regulasi sebelumnya “belum cukup jelas” tidak lagi berlaku.

Apakah usulan kebijakan ini saat ini sudah masuk proses legislasi di AS?

Hingga 11 Juni 2026, 《Policy on the AI Exponential》 masih berupa dokumen usulan kebijakan dan belum masuk proses legislasi resmi apa pun di Kongres AS. Dalam naskahnya, Amodei menegaskan bahwa kerangka ini “adalah titik awal, bukan titik akhir”, serta tidak mengumumkan proposal legislasi apa pun atau jadwal dorongan yang spesifik.

Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar