NVIDIA DGX GH200 Ialah Sistem Pertama Dengan Memori GPU Sebesar 144 Terabyte

Selain sistem kecerdasan buatan (AI) NVIDIA ACE, adikomputer NVIDIA DGX GH200 turut diumumkan oleh Jensen Huang sebentar tadi. Ia adalah sistem adikomputer pertama di dunia dengan memori GPU sebesar 144 Terabyte. Ini sekaligus menjadikannya komputer pertama dunia dengan memori melangkaui 100 TB.

Menurut NVIDIA DGX GH200 mengandungi sistem 256 NVIDA Grace Hopper Superchip yang diumumkan tahun lalu dengan setiap satunya dilengkapi GPU dengan memori sebesar 480 GB LPDDR5. Sambungan menggunakan NVLink-C2C membolehkan memori dikongsi antara Grace Hopper Superchip dengan pantas. Menurut NVIDIA mempunyai 7x lebih banyak lebar jalur berbanding PCIe Gen5.

Untuk membolehkan NVIDIA DGX GH200 beroperasi, ia memerlukan gentian optik sepanjang 241 kilometer, dilengkapi 2112 kipas penyejuk 60mm yang menghembus pada kadar 70,000 kaki padu udara seminit dan sistem mempunyai berat keseluruhan 18,000 kilogram.

Prestasi NVIDIA DGX GH200 pula adalah lebih 2 kali ganda berbanding sistem DGX H100 yang digunakan oleh pelanggan mereka seperti Micorosoft untuk melatih model bahasa raya (LLM) GPT3. Dengan prestasi yang lebih pantas, proses melatih AI generasi seterusnya akan memecut dengan lebih laju.

[sumber] NVIDIA Blog [/sumber]