Memori HBM, ataupun High Bandwidth Memory mungkin dikenali buat pertama kalinya kerana ia merupakan teknologi memori yang digunakan didalam kad grafik AMD Radeon Vega sejumlah tahun yang lalu. Secara ringkasnya, diantara kelebihan memori HBM ini ialah saiznya yang lebih padat, penggunaan kuasa yang lebih rendah dan juga kadar penghantaran data yang tinggi.
Terkini, Micron telah memperkenalkan penawaran memori terbaru mereka, iaitu HBM3 Gen2, yang merupakan cip memori 8 tingkat dengan kapasiti 24GB pertama mereka, yang dibangunkan buat masa ini khusus untuk digunakan didalam sektor kecerdasan buatan.
Semua memori HBM sejak HBM2 hadir dengan lapisan memori 8 tingkat, tetapi ini adalah kali pertama Micron telah berjaya memperkenalkan kapasiti memori setinggi 24GB dengan kelajuan penghantaran data 1.2TB melalui lebar jalur memori 1024-bit. Memori HBM3 dengan kapasiti 24GB mungkin bukan sesuatu yang baru, tetapi ia secara lazimnya hanya diperlihatkan melalui cip memori dengan 12 lapisan memori bertingkat.
Selain dari itu, Micron juga mengatakan bahawa HBM3 Gen2 hadir dengan kadar penggunaan tenaga elektrik yang 2.5 kali lebih cekap berbanding dengan penawaran HBM3 sebelum ini, membolehkan pengendali pusat data untuk mengurangkan kos bekalan kuasa dan memudahkan mereka untuk menambah skala pemprosesan pusat data.
Dalam pada itu, Micron juga mengatakan bahawa mereka sedang membangunkan memori HBM3 dengan 12 lapisan memori bertingkat dengan kapasiti memori setinggi 36GB, yang mana menurut syarikat tersebut, membolehkan sebuah mesin pelayan dengan lapan slot memori untuk memuatkan sebanyak 288GB memori HBM3 Gen2.
Micron mengatakan bahawa mereka telah mula memperkenalkan sampel memori HBM3 Gen2 ini kepada sejumlah pelanggan mereka untuk diuji terlebih dahulu. Mereka juga mengesahkan bahawa pengeluaran berskala besar memori ini akan bermula pada bulan hadapan.