A HBM2e egy nagy teljesítményű számítógépes memória szabvány, melynek neve az angol „High Bandwidth Memory 2 enhanced” rövidítése, ami azt jelenti, hogy „Fokozott nagy sávszélességű memória 2”. Ellentétben a hagyományos memóriákkal, amelyek chipjei a lapkán egymás mellett helyezkednek el, az HBM memóriachipek vertikálisan egymásra rétegezve vannak. Ez az elrendezés rendkívül széles kommunikációs útvonalat, úgynevezett memóriabuszt hoz létre, amely egyszerre nagy mennyiségű adatot képes továbbítani. A memória ezenfelül egy közös alapra, egy „interposer” nevű szilícium alaplapra van elhelyezve, a fő számítási chip, például a grafikus processzor (GPU) közvetlen közelében. A rövid távolság csökkenti az adatátviteli késleltetést és az energiafogyasztást. A mesterséges intelligencia területén a nagy adatátviteli sebesség kulcsfontosságú a számítási egységek hatékony adatellátásához, megakadályozva azok tétlenségét, és lehetővé téve teljesítményük kihasználását a komplex modellek képzése és működtetése során. Az „e” betű a névben az HBM2 szabvány továbbfejlesztett változatát jelöli, amely magasabb átviteli sebességet biztosít. Ahhoz, hogy megértsük, miben különbözik a hagyományos játékgrafikai memóriától, hasznos a GDDR (Graphics Double Data Rate) memóriával, például a GDDR6-tal vagy GDDR7-tel való összehasonlítás. A GDDR különálló chipekből áll, amelyek a grafikus mag körül helyezkednek el a lapkán, és nagyon magas órajelre támaszkodnak viszonylag keskeny busz mellett (chipenként jellemzően 32 bit). A HBM család memóriái az ellenkező utat járják. Alacsonyabb órajelen működnek, de a chipek vertikális rétegezésének és a rendkívül széles busznak (stackenként 1024 bit vagy több) köszönhetően egyszerre több adatot továbbítanak. Az eredmény a HBM esetében jelentősen nagyobb teljes adatátviteli sebesség és jobb teljesítmény-watt arány, ami kulcsfontosságú az adatközpontok és az AI betanítása szempontjából. A GDDR ezzel szemben olcsóbb, könnyebben gyártható és kapacitása egyszerűbben bővíthető, ezért a játék- és fogyasztói videokártyákon dominál.
