OpenAI Membangun GPT-Red untuk Menguji Serangan Prompt Injection, GPT-5.6 Menunjukkan 6x Lebih Sedikit Kegagalan

Menurut OpenAI pada 15 Juli, perusahaan membangun GPT-Red, sebuah model red-teaming otomatis internal yang menguji sistem AI untuk kerentanan prompt injection dan membantu melatih GPT-5.6 secara adversarial sebelum diterapkan. OpenAI mengatakan bahwa GPT-5.6 Sol mencapai 6x lebih sedikit kegagalan pada tolok ukur prompt-injection langsung tersulitnya dibandingkan model produksi terbaiknya dari empat bulan sebelumnya. Dalam uji simulasi yang menggunakan skenario mesin penjual AI produksi dari Andon Labs, GPT-Red mengungguli tim red-team manusia dengan mengubah harga dan membatalkan pesanan pelanggan lain sebelum OpenAI mengungkap celahnya. Prompt injection terjadi ketika instruksi berbahaya yang tertanam dalam prompt atau konten eksternal mengubah perilaku model secara tidak sengaja.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar