High Bandwidth Memory

Teknoloji

HBM, DDR4 veya GDDR5'ten önemli ölçüde daha küçük form faktöründe daha az güç kullanırken daha yüksek bant genişliği elde eder. Bu, Silisyum silikalar (TSV - Through-silicon via) ve mikro yumrular ile birbirine bağlanan bir bellek denetleyicisine sahip isteğe bağlı bir taban kalıbı dahil olmak üzere sekize kadar DRAM kalıbının (böylece üç boyutlu bir entegre devre olarak) istiflenmesi ile elde edilir. HBM teknolojisi prensipte benzer ancak Micron Technology tarafından geliştirilen Melez Bellek Küp arayüzü ile uyumsuzdur.
HBM bellek veriyolu, DDR4 veya GDDR5 gibi diğer DRAM belleklerine kıyasla çok geniştir. Dört DRAM kalıbı olan bir HBM yığını (4‑Hi) toplam 8 kanal ve toplam 1024 bit genişliğinde kalıp başına iki tane 128 bitlik kanala sahiptir. Dört adet 4‑Hi HBM yığınına sahip bir grafik kartı/GPU, bu nedenle 4096 bit genişliğinde bir bellek veriyoluna sahip olacaktır. Buna karşılık, GDDR belleklerin veriyolu genişliği 32 bit, 512 bit bellek arayüzlü bir grafik kartı için ise 16 kanaldır. HBM, paket başına 4 GB'a kadar destekler.
DDR4 veya GDDR5'e göre belleğe daha fazla sayıda bağlantı yapılması, HBM belleğini GPU'ya (veya diğer işlemcilere) bağlamak için yeni bir yöntem gerektiriyordu. AMD ve Nvidia hem bellek hem de GPU'yu bağlamak için interposer (bağlantılar arasında yönlendirme yapan bir arayüz) adı verilen amaca uygun silikon yongaları vardır. Bu interposer, bellek ve işlemcinin fiziksel olarak yakın olmasını ve bellek yollarını azaltmasını gerektiren ek bir kazanıma sahiptir. Bununla birlikte, yarı iletken cihaz üretimi baskılı devre kartı üretiminden önemli ölçüde daha pahalı olduğundan, bu nihai ürüne ek maliyet getirir.

Arayüz

HBM DRAM, dağıtık bir arayüz ile ana bilgisayar hesaplama kalıbına sıkıca bağlanmıştır. Arayüz bağımsız kanallara ayrılmıştır. Kanallar birbirinden tamamen bağımsızdır ve mutlak olarak birbirine senkronize değildir. HBM DRAM, yüksek hızlı, düşük güçlü çalışma elde etmek için geniş bir arayüz mimarisi kullanır. HBM DRAM, 500 MHz hızında diferansiyel saat CK_t / CK_c (burada "_t" soneki, diferansiyel çiftin "gerçek" veya "pozitif", "_c" ise "tamamlayıcı" olduğu anlamına gelir) kullanır. Komutlar, CK_t, CK_c'nin yükselen kenarında kaydedilir. Her kanal arayüzü, çift veri hızında (DDR) çalışan 128 bitlik bir veri yolu tutar. HBM, pin başına 1 GT/s aktarım hızlarını (1 bit aktarımı) destekler ve 128 GB/s'lik genel bir paket bant genişliği sağlar.

HBM2

İkinci nesil yüksek bant genişlikli bellek olan HBM2, yığın başına sekiz kalıp ve 2 GT/s'ye kadar pin aktarım hızlarını da belirler. 1024 bit geniş erişime (wide access) sahip olan HBM2, paket başına 256 GB/sn'lik bellek bant genişliğine erişebilir. HBM2, tanımlamasına göre paket başına 8 GB'a kadar aktarım hızına izin verir. HBM2'nin özellikle sanal gerçeklik gibi performansa duyarlı tüketici uygulamaları için kullanışlı olduğu tahmin edilmektedir.
19 Ocak 2016'da Samsung, yığın başına 8 GB'a kadar olan erken seri HBM2 üretimini duyurdu. SK Hynix ayrıca Ağustos 2016'da 4 GB'lık yığınların kullanılabilirliğini açıkladı.
2018 yılının sonlarında, JEDEC, artan bant genişliği ve kapasiteleri sağlayan HBM2 şartnamelerinde bir güncelleme yaptığını duyurdu. Yığın başına 307 GB/s'ye kadar (2.4 Tbit/s etkin veri hızı) çalışan ürünler artık resmi şartnamede desteklenmektedir, ancak bu hızda çalışan ürünler zaten mevcuttu. Ayrıca, güncelleme 12-Hi yığınları (12 kalıp) için destekli istif başına 24 GB kapasiteye olanak tanır.

HBM3

Üçüncü nesil yüksek bant genişlikli bellek, HBM3, 2016 yılında duyuruldu. HBM3'ün daha yüksek bellek kapasitesi, daha fazla bant genişliği, daha düşük voltaj ve daha düşük maliyetler sunması bekleniyor. Artan yoğunluğun, kalıp başına daha fazla yoğunluk ve çip başına daha fazla kalıp yığınından gelmesi beklenmektedir. Bant genişliğinin 512 GB/s veya daha fazla olması bekleniyor. Samsung, 2020 yılına kadar yoğun üretim beklese de, çıkış tarihi açıklanmadı.

HBM4

Exascale yüksek performanslı bilgisayarların geleceği için Hewlett Packard Enterprise, OPGHC HBM3+ ve HBM4'ün 2022 ile 2024 arasında piyasaya sürülmesini öngörüyor. Daha fazla istifleme ve daha yüksek kapasite, soket başına daha fazla adreslenebilir bellek ve daha yüksek hız getirmelidir. HBM3+, soket başına 4 TB/s ve 1024 GB adreslenebilir bellek ile planlanmaktadır (karşılaştırma için, üst düzey AMD EPYC yongaları 150 Gb/s ve CPU soketi başına 2048 GB adreslenebilir DDR4 DRAM'a sahiptir). 32 Gbit (4 GB) DRAM kalıp ve HBM3+, yığın başına 16 kalıp ile her bir HBM3+ bileşeni 64 GB kapasite sağlayacaktır.