Apakah Claude Mythos Mengancam Keamanan Keuangan? Menteri Keuangan AS dan Ketua The Fed Mengadakan Rapat Darurat untuk Memperingatkan Risiko

Menteri Keuangan AS dan Ketua Federal Reserve secara darurat mengumpulkan para eksekutif papan atas di Wall Street, untuk menanggapi peringatan dari model terbaru Anthropic Mythos. Pihak berwenang menetapkan bahwa model tersebut merupakan risiko sistemik bagi sistem keuangan.

Pejabat keuangan tingkat tinggi secara darurat mengumpulkan para eksekutif Wall Street, ancaman siber AI ditingkatkan menjadi risiko sistemik

Menurut laporan Bloomberg, Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell pada pekan lalu secara darurat mengumpulkan para CEO bank-bank utama di pusat Departemen Keuangan di Washington, untuk menyampaikan peringatan terkait risiko keamanan siber yang mungkin ditimbulkan oleh model terbaru AI company Anthropic, “Claude Mythos Preview”.

Para pimpinan bank yang hadir dalam rapat tersebut termasuk Jane Fraser, CEO Citigroup; Ted Pick, CEO Morgan Stanley; Brian Moynihan, CEO Bank of America; Charlie Scharf, CEO Wells Fargo; serta David Solomon, CEO Goldman Sachs; sementara Jamie Dimon, CEO JPMorgan, tidak dapat hadir. Semua institusi di atas telah ditetapkan oleh otoritas pengawas sebagai lembaga keuangan yang memiliki kepentingan sistemik.

Rapat ini dihadiri langsung oleh Menteri Keuangan dan Ketua Federal Reserve, yang dipandang oleh kalangan industri sebagai tindakan yang tidak biasa. Dalam intervensi pemerintah terhadap risiko AI di masa lalu, sebagian besar masih berupa gugus tugas di level lembaga; kini langsung ditingkatkan menjadi peringatan yang disampaikan sendiri oleh pimpinan tertinggi otoritas keuangan, yang secara jelas menegaskan bahwa otoritas telah menetapkan ancaman siber AI sebagai risiko sistemik bagi stabilitas sistem keuangan.

Kemampuan model Mythos luar biasa, mampu menemukan banyak celah zero-day secara mandiri

Menurut dokumen teknis yang dipublikasikan Anthropic pada hari yang sama, Mythos memiliki kemampuan untuk mengidentifikasi dan memanfaatkan celah di semua sistem operasi utama dan peramban web. Pada tahap pengujian, model tersebut secara mandiri menemukan ribuan celah zero-day yang sebelumnya belum diketahui, termasuk sebuah celah yang bertahan selama 27 tahun di sistem operasi sumber terbuka yang berorientasi keamanan OpenBSD; selain itu, model tersebut juga menemukan sebuah celah di pustaka pemrosesan audio-video FFmpeg yang bahkan tidak dapat dideteksi oleh alat pengujian otomatis setelah menjalankan proses sebanyak 5.000.000 kali.

Para peneliti Anthropic menekankan bahwa kemampuan Mythos dalam menemukan celah berasal dari kemajuan menyeluruh model dalam penulisan program, penalaran, dan otonomi, dan bukan merupakan hasil pelatihan yang sengaja.

Perusahaan tersebut dalam pernyataannya menyatakan, “Kemampuan yang sama yang membuat model lebih efektif dalam memperbaiki celah juga membuatnya sama efektif dalam mengeksploitasi celah.” Pernyataan ini menonjolkan sifat dua sisi Mythos: batas antara pertahanan dan serangan, yang hampir lenyap di hadapan model-model seperti ini.

Anthropic menolak untuk memublikasikan secara terbuka, membatasi akses melalui “Project Glasswing”

Karena kemampuannya terlalu kuat, Anthropic memutuskan untuk tidak menerbitkan Mythos secara terbuka, melainkan menerapkan strategi pembatasan akses, hanya dibuka untuk digunakan oleh perusahaan mitra tertentu. Perusahaan tersebut sekaligus mengumumkan dimulainya rencana kerja sama keamanan siber defensif bernama “Project Glasswing”, bekerja sama dengan lebih dari 40 mitra perusahaan seperti AWS, Apple, Cisco, Google, JPMorgan, Microsoft, Nvidia, dan lainnya, dengan tujuan secara proaktif menemukan dan memperbaiki celah pada perangkat lunak kunci sebelum penyerang turun tangan.

Sumber gambar: X/@AnthropicAI Anthropic juga mengumumkan dimulainya rencana kerja sama keamanan siber defensif bernama “Project Glasswing”

Anthropic menyatakan: “Mengingat besarnya kemampuan model, kami mengambil sikap yang hati-hati dalam cara peluncurannya. Kami sedang bekerja sama dengan sekelompok kecil pelanggan akses awal untuk menguji model tersebut, dan kami menganggap ini sebagai generasi paling terobosan yang telah kami bangun sejauh ini.”

Perusahaan tersebut juga mengungkapkan bahwa mereka telah melakukan presentasi kepada pejabat pemerintah mengenai skenario penerapan serangan dan pertahanan untuk Mythos, serta terus melakukan konsultasi dengan CISA (Badan Keamanan Siber dan Infrastruktur) AS dan pusat inovasi standar AI. Perhatian yang menjadi sorotan pihak luar berikutnya berfokus pada bagaimana lembaga pengawas akan menetapkan standar peninjauan peluncuran untuk model-model serupa, langkah pertahanan konkret apa yang harus diambil oleh lembaga keuangan, dan apakah koordinasi di antara lembaga pengawas internasional dapat mengikuti kecepatan evolusi teknologi.

Konten ini dirangkum oleh Agen terenkripsi dari berbagai pihak, disunting dan diedit oleh 《Kota Enkripsi》, saat ini masih berada pada tahap pelatihan, sehingga mungkin ada penyimpangan logika atau kesalahan informasi. Konten ini hanya untuk referensi, harap jangan dianggap sebagai nasihat investasi.