Cari @ Amanz

Semalam NVIDIA Blackwell B200 telah dilancarkan sebagai cip kecerdasan buatan (AI) paling berkuasa di dunia. Setiap GPU B200 menawarkan kemampuan 20 petaflops utiuk FP4 dengan ia turut dilengkapi 208 bilion transistor.

NVIDIA Blackwell B200 (kiri) dengan CPU Grace Hopper

NVIDIA turut menawarkan NVIDIA GB200 Grace Blackwell Superchip yang menggabungkan dua GPU NVIDIA B200 dengan satu CPU NVIDIA Grace. Menerusi sistem baharu ini, melatih model LLM dengan 1 trilion parameter boleh dilakukan dengan pengurangan kos serta penggunaan tenaga sehingga 25X berbanding generasi terdahulu.

NVIDIA Blackwell B200

Sebagai perbandingan, NVIDIA mengatakan sebelum ini melatih LLM dengan 1.8 trilion parameter memerlukan 8000 GPU Hopper serta 15 MW tenaga elektrik. Tetapi 2000 GPU Blackwell boleh melakukan proses yang sama dengan hanya 4 MW kuasa elektrik. Secara keseluruhan kemampuan GB200 adalah sekitar 7X kemampuan H100 yang dihasilkan oleh NVIDIA sebelum ini.

NVIDIA GB200 Grace Blackwell Superchip

Dengan pengumuman sistem baharu ini, NVIDIA turut melancarkan NVIDIA GB200 NVL72 yang merupakan sebuah sistem yang mengandungi 36 NVIDIA GB200 Grace Blackwell Superchip. Prestasi NVL72 adalah sehingga 30X kemampuan GPU NVIDIA H100 Tensor Core. Setiap NBL72 mempunyai kemampuan pemprosesan AI sehingga 1.4 exaFLOP dan 30TB memori. Ia akan menjadi unit asas untuk DGX SuperPOD terkini NVIDIA.

 NVIDIA GB200 NVL72

Pelanggan awal NVIDIA Blackwell ialah Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla dan xAI.

© 2024 Amanz Media Sdn Bhd