Lo sviluppo di queste memorie incominciò nel 2008 da parte di AMD per fronteggiare il problema dell'incrementeincremento sempre maggiore del consumo elettrico e della miniaturizzazione dei circuiti. Insieme ad AMD lavorarono al progetto anche i produttori di memorie ([[SK Hynix]]...) e le prime produzioni in volumi cominciarono nel 2015. La prima GPU ad utilizzare questo tipo di memorie fu la AMD Radeon R9 Fury X, mentre la prima GPU ad utilizzare le memorie HBM2 fu la Nvidia Tesla P100.<ref>{{Cita web|url=https://www.anandtech.com/show/9390/the-amd-radeon-r9-fury-x-review|titolo=The AMD Radeon R9 Fury X Review}}</ref><ref>{{Cita web|url=https://www.youtube.com/watch?v=se9TSUfZ6i0s|titolo=High-Bandwidth Memory (HBM) from AMD: Making Beautiful Memory}}</ref><ref>{{Cita web|url=https://www.anandtech.com/show/9266/amd-hbm-deep-dive|titolo=AMD HBM Deep Dive}}</ref>
