Anthropic Peringatkan Risiko Iterasi Mandiri AI saat Claude Menghasilkan 80% Kode Perusahaan

Menurut Anthropic, Claude telah secara otomatis menghasilkan sekitar 80% kode perusahaan per pekan lalu, yang menandai sinyal penting bahwa sistem AI telah memasuki tahap peningkatan diri yang rekursif—artinya model dapat merancang sistem AI generasi berikutnya tanpa campur tangan manusia.

Anthropic menekankan bahwa seiring kemampuan AI yang berkembang dengan cepat, pemantauan untuk potensi perilaku yang sulit dikendalikan serta pembangunan mekanisme keselamatan menjadi semakin penting, menurut The Information.

Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar