Bank Sentral Peringatkan Risiko AI Agen pada Stabilitas Keuangan Global

Bankir sentral dan regulator keuangan semakin meningkatkan peringatan mereka tentang adopsi cepat kecerdasan buatan agen di pasar keuangan, mengatakan bahwa teknologi tersebut dapat memperkenalkan risiko sistemik baru yang belum siap ditangani oleh kerangka regulasi yang ada. Kekhawatiran muncul saat bank dan lembaga keuangan mempercepat penggunaan sistem AI yang mampu membuat keputusan otonom, mengeksekusi transaksi, dan mengoordinasikan tugas-tugas kompleks dengan campur tangan manusia yang terbatas.

Para pejabat yang berbicara di forum kebijakan internasional baru-baru ini menekankan bahwa meskipun kecerdasan buatan dapat meningkatkan efisiensi, mengurangi biaya, dan memperluas akses ke layanan keuangan, AI agen mewakili pergeseran signifikan dari otomatisasi tradisional. Tidak seperti model AI konvensional, sistem agen dapat secara independen merencanakan, berpikir, dan bertindak di berbagai proses keuangan, menciptakan tantangan baru untuk pengawasan dan akuntabilitas.

Meningkatnya Kekhawatiran atas Pengambilan Keputusan Otonom

Wakil Gubernur Bank of England Sarah Breeden memperingatkan bahwa regulasi keuangan mungkin memerlukan reformasi signifikan seiring AI agen menjadi semakin terintegrasi ke dalam perbankan, pembayaran, dan perdagangan. Ia berargumen bahwa persyaratan tradisional untuk pengawasan manusia mungkin tidak lagi memadai karena sistem otonom dapat beroperasi pada kecepatan dan skala di luar pengawasan manusia.

Regulator semakin khawatir tentang beberapa risiko, termasuk:

• Agen AI memperkuat volatilitas pasar melalui perilaku perdagangan yang terkoordinasi.
• Serangan siber menjadi lebih canggih saat AI mengidentifikasi kerentanan sistem.
• Kegagalan operasional menyebar dengan cepat di seluruh lembaga keuangan yang saling terhubung.
• Akuntabilitas yang tidak jelas saat sistem otonom membuat keputusan keuangan.

Breeden juga menyarankan bahwa regulator mungkin memerlukan pengaman baru seperti pemutus sirkuit darurat, saklar pemutus, dan langkah-langkah ketahanan operasional yang lebih kuat untuk membatasi dampak gangguan yang didorong oleh AI.

Seruan untuk Pengawasan Global yang Lebih Kuat

Diskusi ini melampaui Inggris. Pejabat bank sentral dan organisasi keuangan internasional telah menyoroti kekhawatiran bahwa antusiasme investasi terkait AI juga dapat menggembungkan gelembung aset dan meningkatkan ketidakstabilan keuangan jika ekspektasi tidak sesuai dengan realitas ekonomi.

Pada saat yang sama, regulator mengakui bahwa AI menawarkan peningkatan produktivitas yang berarti bagi lembaga keuangan, sehingga pembatasan langsung tidak mungkin terjadi. Sebaliknya, para pembuat kebijakan tampak fokus pada pengembangan kerangka tata kelola yang menyeimbangkan inovasi dengan stabilitas keuangan.

Seiring perusahaan keuangan terus menerapkan sistem AI yang semakin otonom, bank sentral memberi sinyal bahwa modernisasi regulasi akan menjadi prioritas. Tantangannya sekarang adalah memastikan bahwa pengaman berkembang cukup cepat untuk mengimbangi teknologi sebelum sistem keuangan otonom menjadi tertanam dalam di pasar global.