Apakah Claude Mythos mengancam keamanan finansial? Menkeu AS dan Ketua Federal Reserve mengadakan rapat darurat untuk memperingatkan risiko

Menteri Keuangan AS dan Ketua Federal Reserve secara mendesak mengumpulkan para eksekutif puncak di Wall Street untuk mengantisipasi peringatan dari model terbaru Anthropic, Mythos. Model tersebut ditetapkan oleh otoritas sebagai risiko sistemik bagi sistem keuangan.

Pejabat keuangan tingkat tinggi secara mendesak mengumpulkan para eksekutif puncak di Wall Street, ancaman jejaring AI dinaikkan menjadi risiko sistemik

Menurut laporan dari 《Bloomberg》， Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell minggu lalu secara mendesak mengumpulkan para CEO bank-bank utama di Washington, D.C., di kantor pusat Departemen Keuangan, untuk menyampaikan peringatan terkait potensi risiko keamanan siber yang dapat ditimbulkan oleh model terbaru AI company Anthropic, “Claude Mythos Preview”.

Para eksekutif bank yang hadir termasuk Jane Fraser, CEO Citigroup; Ted Pick, CEO Morgan Stanley; Brian Moynihan, CEO Bank of America; Charlie Scharf, CEO Wells Fargo; serta David Solomon, CEO Goldman Sachs; sedangkan Jamie Dimon, CEO JPMorgan Chase, tidak dapat hadir. Lembaga-lembaga tersebut semuanya telah dicantumkan oleh otoritas pengawas sebagai institusi keuangan yang bersifat penting secara sistemik.

Pertemuan ini dihadiri langsung oleh Menteri Keuangan dan Ketua Federal Reserve, yang dipandang oleh industri sebagai tindakan yang tidak biasa. Intervensi pemerintah terhadap risiko AI pada masa lalu sebagian besar hanya berada pada tingkat kelompok kerja di level institusi; kini, peringatan tersebut meningkat langsung menjadi pernyataan waspada dari pimpinan tertinggi otoritas keuangan, dengan jelas menunjukkan bahwa otoritas telah menetapkan ancaman siber AI sebagai risiko sistemik bagi stabilitas sistem keuangan.

Kemampuan model Mythos luar biasa, dapat secara mandiri menemukan banyak celah zero-day

Berdasarkan materi teknis yang dirilis oleh Anthropic pada hari yang sama, Mythos memiliki kemampuan untuk mengidentifikasi dan mengeksploitasi celah di semua sistem operasi dan peramban web arus utama. Dalam tahap pengujian, model ini secara mandiri menemukan ribuan celah zero-day yang sebelumnya tidak diketahui (zero-day vulnerabilities), termasuk sebuah celah yang telah bersembunyi selama 27 tahun dalam sistem operasi sumber terbuka yang berorientasi keamanan OpenBSD; selain itu, model ini juga menemukan sebuah celah dalam pustaka pemrosesan video FFmpeg yang bahkan tidak dapat dideteksi oleh alat pengujian otomatis setelah menjalankan 5.000.000 kali prosedur.

Peneliti Anthropic menekankan bahwa kemampuan Mythos dalam menemukan celah berasal dari kemajuan menyeluruh model dalam penulisan program, penalaran, dan otonomi, bukan hasil pelatihan yang disengaja.

Perusahaan tersebut dalam pernyataan menyatakan, “Kemampuan yang sama agar model lebih efektif dalam menambal celah, juga membuatnya lebih efektif dalam mengeksploitasi celah.” Pernyataan ini menonjolkan sifat dua sisi Mythos: batas antara pertahanan dan serangan nyaris lenyap di hadapan model semacam ini.

Anthropic menolak untuk mengumumkan secara terbuka, membatasi akses melalui “Project Glasswing”

Karena kemampuannya terlalu kuat, Anthropic memutuskan untuk tidak mempublikasikan Mythos secara terbuka, melainkan menerapkan strategi pembatasan akses, hanya membukanya untuk digunakan oleh perusahaan mitra tertentu. Perusahaan itu sekaligus mengumumkan dimulainya program kerja sama keamanan siber defensif bernama “Project Glasswing”, dengan bekerja sama dengan lebih dari 40 mitra perusahaan seperti AWS, Apple, Cisco, Google, JPMorgan Chase, Microsoft, NVIDIA, dan lainnya, dengan tujuan secara proaktif menemukan dan menambal celah dalam perangkat lunak kunci sebelum para penyerang bertindak.

Sumber gambar: X/@AnthropicAI Anthropic secara bersamaan mengumumkan dimulainya program kerja sama keamanan siber defensif bernama “Project Glasswing”

Anthropic menyatakan: “Mengingat kekuatan kemampuan model, kami mengambil sikap hati-hati dalam cara rilisnya. Kami sedang bekerja sama dengan sekelompok kecil pelanggan akses awal untuk menguji model tersebut, dan kami percaya ini adalah generasi paling terobosan yang telah kami bangun sejauh ini.”

Perusahaan ini juga mengungkapkan bahwa pihaknya telah memberikan presentasi kepada pejabat pemerintah terkait skenario penggunaan ofensif dan defensif Mythos, serta terus berunding dengan Cybersecurity and Infrastructure Security Agency AS (CISA) dan AI Standard Innovation Center. Fokus yang menjadi perhatian setelahnya dari kalangan luar kemudian tertuju pada bagaimana lembaga pengawas akan menyusun standar peninjauan rilis untuk model-model serupa, langkah-langkah pertahanan spesifik apa yang harus diambil oleh institusi keuangan, serta apakah koordinasi antar lembaga pengawas internasional dapat mengikuti kecepatan evolusi teknologi.

Konten ini dirangkum oleh Agent terenkripsi untuk mengumpulkan informasi dari berbagai pihak, dan disunting serta diedit oleh《Kota Enkripsi》; saat ini masih dalam tahap pelatihan, sehingga mungkin terdapat deviasi logika atau kesalahan informasi. Konten ini hanya untuk referensi, mohon jangan menganggapnya sebagai nasihat investasi.