Claude Mythos mengancam keamanan keuangan? Menteri Keuangan AS dan Ketua Federal Reserve mengadakan rapat darurat dan memperingatkan risiko

Kepala Departemen Keuangan AS dan Ketua Federal Reserve secara darurat mengumpulkan para eksekutif papan atas Wall Street untuk memberikan peringatan terkait model terbaru Anthropic, Mythos. Model ini dinyatakan oleh otoritas sebagai risiko sistemik terhadap sistem keuangan.

Pejabat keuangan teratas secara darurat mengumpulkan para eksekutif Wall Street, ancaman jaringan AI ditingkatkan menjadi risiko sistemik

Menurut laporan Bloomberg, Kepala Departemen Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell pada pekan lalu secara darurat mengumpulkan para CEO bank-bank utama di pusat Departemen Keuangan di Washington, D.C., untuk menyampaikan peringatan terkait potensi risiko keamanan siber yang dapat ditimbulkan oleh model terbaru AI Anthropic, “Claude Mythos Preview”.

Para eksekutif bank yang hadir termasuk Jane Fraser, CEO Citigroup; Ted Pick, CEO Morgan Stanley; Brian Moynihan, CEO Bank of America; Charlie Scharf, CEO Wells Fargo; dan David Solomon, CEO Goldman Sachs; sementara Jamie Dimon, CEO JPMorgan, tidak dapat hadir. Semua institusi di atas telah ditetapkan oleh otoritas pengawas sebagai lembaga keuangan yang memiliki kepentingan sistemik.

Pertemuan ini dihadiri langsung oleh Menteri Keuangan dan Ketua Federal Reserve, yang dinilai kalangan industri sebagai tindakan yang tidak biasa. Intervensi pemerintah terhadap risiko AI di masa lalu sebagian besar masih berupa tim kerja tingkat lembaga; kini, peringatannya dinaikkan secara langsung menjadi peringatan yang disampaikan oleh pimpinan tertinggi otoritas keuangan. Ini sekaligus memperjelas bahwa otoritas telah menetapkan ancaman siber AI sebagai risiko sistemik terhadap stabilitas sistem keuangan.

Kemampuan model Mythos sangat mengesankan, dapat menemukan banyak celah zero-day secara mandiri

Berdasarkan data teknis yang dipublikasikan Anthropic pada hari yang sama, Mythos memiliki kemampuan untuk mengidentifikasi dan mengeksploitasi celah dalam semua sistem operasi utama dan peramban web. Pada tahap pengujian, model tersebut secara mandiri menemukan ribuan celah zero-day yang sebelumnya tidak diketahui (zero-day vulnerabilities), termasuk sebuah celah di sistem operasi sumber terbuka yang berorientasi keamanan OpenBSD yang telah bersembunyi selama 27 tahun; selain itu, model tersebut juga menemukan celah di pustaka pemrosesan video FFmpeg yang bahkan tidak terdeteksi oleh alat uji otomatis setelah menjalankan proses sebanyak 5.000.000 kali.

Peneliti Anthropic menekankan bahwa kemampuan Mythos dalam menemukan celah berasal dari kemajuan menyeluruh model dalam penulisan program, penalaran, dan kemandirian, bukan hasil pelatihan yang memang disengaja.

Perusahaan tersebut dalam pernyataannya menyebutkan, “Kemampuan yang sama yang membuat model lebih efektif dalam memperbaiki celah juga membuatnya lebih efektif dalam mengeksploitasi celah.” Pernyataan ini menyoroti sifat dua sisi Mythos: batas antara pertahanan dan serangan hampir lenyap di hadapan model semacam ini.

Anthropic menolak mempublikasikan secara terbuka, membatasi akses dengan “Project Glasswing”

Karena kemampuannya terlalu kuat, Anthropic memutuskan untuk tidak memublikasikan Mythos secara terbuka ke publik, melainkan menerapkan strategi pembatasan akses, hanya dibuka untuk perusahaan mitra tertentu. Perusahaan tersebut sekaligus mengumumkan peluncuran program kerja sama keamanan siber defensif bernama “Project Glasswing” (Proyek Glasswing), berkolaborasi dengan lebih dari 40 mitra perusahaan seperti AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA, dan lainnya, dengan target untuk secara proaktif menemukan dan memperbaiki celah dalam perangkat lunak kunci sebelum pelaku serangan bertindak.

Sumber gambar: X/@AnthropicAI Anthropic secara serentak mengumumkan peluncuran program kerja sama keamanan siber defensif bernama “Project Glasswing” (Proyek Glasswing)

Anthropic menyatakan: “Mengingat betapa kuatnya kemampuan model, kami mengambil sikap yang hati-hati dalam cara kami meluncurkannya. Kami sedang bekerja sama dengan sekelompok kecil pelanggan akses awal untuk menguji model tersebut, dan kami memandang ini sebagai generasi paling terobosan yang telah kami bangun sejauh ini.”

Perusahaan tersebut juga mengungkapkan bahwa mereka telah memberikan pengarahan kepada pejabat pemerintah terkait skenario penerapan pertahanan dan serangan Mythos, serta terus berunding dengan Cybersecurity and Infrastructure Security Agency (CISA) AS dan AI Standard Innovation Center. Fokus yang menjadi perhatian pihak luar kemudian terkonsentrasi pada bagaimana lembaga pengawas akan menetapkan standar peninjauan peluncuran untuk model-model serupa, langkah-langkah pertahanan spesifik apa yang harus diambil oleh lembaga keuangan, serta apakah koordinasi antarlembaga pengawas internasional dapat mengikuti kecepatan evolusi teknologi.

Konten dalam artikel ini dirangkum oleh Agent terenkripsi untuk mengumpulkan informasi dari berbagai pihak, disunting dan diedit oleh 《加密城市》, saat ini masih dalam tahap pelatihan, sehingga mungkin terdapat penyimpangan logika atau kesalahan informasi; konten ini hanya untuk referensi, dan mohon jangan menganggapnya sebagai nasihat investasi.