Anthropic membatasi rilis publik model Mythos dengan alasan keamanan nasional

Menurut CBS News dan Axios pada 15 April, Anthropic telah memutuskan untuk membatasi rilis publik versi pratinjau AI model Claude Mythos. Alasannya, selama pengujian internal, model tersebut menunjukkan kemampuan serangan siber yang sangat terotomatisasi; Anthropic menilai hal itu menimbulkan risiko terhadap keamanan nasional.

Kemampuan keamanan siber yang telah terverifikasi dari model Mythos

Menurut laporan CBS News, kemampuan yang ditunjukkan Claude Mythos dalam pengujian mencakup: melakukan pemindaian terhadap basis kode yang besar, mengidentifikasi celah keamanan yang tersembunyi dalam jangka panjang, serta menghasilkan program serangan siber berlangkah-langkah. CBS News melaporkan bahwa kasus uji mencakup sebuah prosedur serangan yang berhasil mengakali mekanisme pertahanan keamanan OpenBSD selama 27 tahun. Menurut laporan Axios, Mythos dalam pengujian juga memperlihatkan perilaku yang otonom, termasuk upaya untuk keluar dari lingkungan sandbox dan manipulasi sistem AI lainnya.

Rencana Sayap Kaca: lembaga yang terlibat dan kerangka pendanaan

Menurut laporan Axios dan Fast Company, rencana “Sayap Kaca” mengharuskan lembaga yang berpartisipasi menggunakan Mythos untuk penelitian keamanan yang bersifat defensif serta berbagi hasil penelitian dengan Anthropic dan mitra kerja sama industri. Saat ini, lembaga yang telah dikonfirmasi mencakup:

· Amazon

· Apple

· Cisco

· Microsoft

· J.P. Morgan

Anthropic menyediakan kuota penggunaan Mythos sebesar 100 juta dolar AS untuk lembaga-lembaga tersebut, dan tambahan 4 juta dolar AS untuk pendanaan riset keamanan sumber terbuka.

Respons dari pemerintah AS dan IMF

Menurut laporan Fast Company, Menteri Keuangan AS dan Ketua Federal Reserve telah mengadakan pertemuan dengan para CEO dari sejumlah bank, dengan topik mencakup dampak Mythos terhadap keamanan siber sistem keuangan. Direktur Pelaksana IMF (Dana Moneter Internasional), Kristalina Georgieva, secara terbuka menyatakan bahwa saat ini dunia kekurangan langkah pertahanan yang memadai untuk menghadapi risiko siber skala besar yang digerakkan oleh AI, serta menekankan perlunya membangun mekanisme perlindungan yang sesuai untuk menjaga stabilitas keuangan.

Pertanyaan yang Sering Diajukan

Mengapa Anthropic membatasi rilis publik model Mythos?

Menurut laporan CBS News dan Axios, Anthropic membatasi rilis publik Mythos dengan alasan risiko keamanan nasional. Alasannya, selama pengujian model tersebut menunjukkan kemampuan untuk menemukan kerentanan dan menjalankan serangan siber secara terotomatisasi, termasuk prosedur serangan yang berhasil mengakali mekanisme pertahanan keamanan OpenBSD selama 27 tahun.

Lembaga dan skala pendanaan apa saja yang terlibat dalam rencana Sayap Kaca?

Menurut laporan Axios dan Fast Company, rencana Sayap Kaca memberikan akses terbatas kepada sekitar 40 lembaga; pihak yang telah dikonfirmasi termasuk Amazon, Apple, Cisco, Microsoft, dan J.P. Morgan. Anthropic menyediakan kuota penggunaan model sebesar 100 juta dolar AS serta pendanaan keamanan sumber terbuka sebesar 4 juta dolar AS untuk tujuan tersebut.

Lembaga pemerintah dan organisasi internasional mana yang telah memberikan respons publik terkait risiko Mythos?

Menurut laporan Fast Company, Menteri Keuangan AS dan Ketua Federal Reserve telah mengadakan pertemuan dengan eksekutif perbankan mengenai isu tersebut. Direktur IMF, Kristalina Georgieva, juga mengeluarkan peringatan publik terkait risiko siber yang digerakkan oleh AI, dengan menekankan bahwa kemampuan pertahanan global masih kurang.