Vitalik Mengusulkan Standardisasi Perangkat Keras LLM Lokal di Sekitar Tingkat Memori 96GB

ETH-4,82%
Menurut PANews, pada 28 Mei, pendiri Ethereum Vitalik Buterin menyarankan agar penerapan model bahasa besar (LLM) lokal menstandarkan diri pada konfigurasi memori tertentu, dengan 96GB diidentifikasi sebagai batas atas yang layak untuk perangkat keras saat ini. Buterin menjadikan referensi RTX 6000 GPU dengan VRAM 96GB serta MacBook kelas atas dengan memori unified 128GB, seraya mencatat bahwa sekitar 32GB perlu dicadangkan untuk tugas sistem lainnya. Ia mengusulkan agar ekosistem mengadopsi tingkat kapasitas yang distandarkan—2GB, 8GB, 24GB, 96GB, 256GB, dan 1TB—untuk meningkatkan efisiensi penerapan dan kompatibilitas lintas-platform bagi desain LLM dan perangkat keras GPU.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar