三星推出“會(huì)思考”的HBM2內(nèi)存 具備1.2 TFLOPS嵌入式計(jì)算能力

三星宣布新的HBM2內(nèi)存集成了AI處理器，最高可提供1.2 TFLOPS嵌入式計(jì)算能力，使內(nèi)存芯片本身可以執(zhí)行CPU、GPU、ASIC或FPGA的操作。

據(jù)TomsHardware報(bào)道，新的HBM-PIM (processing-in-memory) 芯片在每個(gè)內(nèi)存模塊內(nèi)注入了一個(gè)AI處理器，從而將處理操作轉(zhuǎn)移到HBM本身。這種新型內(nèi)存的設(shè)計(jì)是為了減輕內(nèi)存與一般處理器之間轉(zhuǎn)移數(shù)據(jù)的負(fù)擔(dān)，因?yàn)閷?shí)際應(yīng)用中，這種負(fù)擔(dān)無(wú)論在功耗還是時(shí)間上，往往比真正的計(jì)算操作消耗更大。

三星表示，將這項(xiàng)技術(shù)應(yīng)用到稱為Aquabolt的HBM2內(nèi)存時(shí)，可以提供兩倍的性能，同時(shí)將功耗降低70%以上。三星還聲稱，使用這種新內(nèi)存不需要任何軟件或硬件變化（包括內(nèi)存控制器），從而可以被市場(chǎng)更快地采用。目前該方案可以在進(jìn)行商業(yè)驗(yàn)證，預(yù)計(jì)所有驗(yàn)證將在今年上半年完成，這也標(biāo)志著離實(shí)際應(yīng)用已經(jīng)不遠(yuǎn)了。

在前一段時(shí)間舉行的國(guó)際固態(tài)電路虛擬會(huì)議(ISSCC)期間，三星展示了其新內(nèi)存架構(gòu)的更多細(xì)節(jié)。每個(gè)存儲(chǔ)器組都有一個(gè)嵌入式可編程計(jì)算單元（PCU），運(yùn)行頻率為300MHz。該單元通過(guò)來(lái)自主機(jī)的常規(guī)存儲(chǔ)器命令進(jìn)行控制，以實(shí)現(xiàn)in-DRAM處理，它可以執(zhí)行各種FP16計(jì)算。存儲(chǔ)器也可以在標(biāo)準(zhǔn)模式下工作，也就是說(shuō)它可以像普通的HBM2一樣工作，或者在FIM模式下進(jìn)行內(nèi)存數(shù)據(jù)處理。

當(dāng)然，為PCU單元騰出空間會(huì)降低內(nèi)存容量，與標(biāo)準(zhǔn)的8Gb HBM2裸片相比，每個(gè)PCU配備的內(nèi)存裸片只有一半的容量（4Gb）。為了幫助解決這個(gè)問(wèn)題，三星采用了6GB堆棧，將4個(gè)帶有PCU的4Gb裸片與4個(gè)沒有PCU的8Gb裸片組合在一起（而不是普通HBM2的8GB堆棧）。

一般用戶想用上這種內(nèi)存還需要一些時(shí)間，至少目前不會(huì)在最新的游戲GPU上使用它。三星指出，這種新的內(nèi)存首先要滿足數(shù)據(jù)中心、HPC系統(tǒng)等大規(guī)模應(yīng)用處理的需求。還有一個(gè)挑戰(zhàn)性的問(wèn)題是內(nèi)存芯片的散熱，特別是考慮到需要堆棧，不過(guò)三星暫時(shí)沒有解釋HBM-PIM芯片會(huì)如何解決。