原標題：給內(nèi)存加上AI？三星是這樣做的

三星在將AI技術融入內(nèi)存方面取得了顯著進展，主要通過內(nèi)存內(nèi)處理（PIM）技術實現(xiàn)。以下是三星在這一領域的具體做法和成果：

一、技術背景與意義

隨著人工智能（AI）算法和應用程序的快速發(fā)展，數(shù)據(jù)處理需求急劇增長。傳統(tǒng)的內(nèi)存解決方案在容量、帶寬和能效方面已難以滿足AI應用的需求。因此，三星等廠商開始探索將AI處理能力直接集成到內(nèi)存中的方法，以減少數(shù)據(jù)移動帶來的延遲和能耗，提高整體性能。

二、具體做法

1. HBM-PIM技術

• 三星首次成功將基于PIM的高帶寬存儲器（HBM-PIM）整合到商用化加速器系統(tǒng)中。HBM-PIM通過在高帶寬內(nèi)存（HBM）中集成內(nèi)存內(nèi)處理（PIM）功能，實現(xiàn)了AI處理能力的直接集成。

• 三星推出的首個HBM-PIM產(chǎn)品（Aquabolt-XL）將AI處理能力整合到三星HBM2 Aquabolt中，顯著增強了超級計算機和AI應用的高速數(shù)據(jù)處理能力。

• HBM-PIM在賽靈思（Xilinx）Virtex Ultrascale+（Alveo）AI加速器中進行了測試，結果顯示其系統(tǒng)性能提升了近2.5倍，能耗降低了超過60%。

1. DRAM模組與移動內(nèi)存

• 三星不僅將PIM技術應用于HBM，還將其應用范圍擴大至DRAM模組和移動內(nèi)存。例如，三星的加速DIMM（AXDIMM）能在DRAM模塊內(nèi)進行“處理”，減少CPU和DRAM之間的大量數(shù)據(jù)交換，提升AI加速器系統(tǒng)的能源效率。

• AXDIMM模塊能保留傳統(tǒng)DIMM的外形尺寸，因此可以在不修改系統(tǒng)的情況下直接替換。目前，AXDIMM正在客戶的服務器上進行測試，能夠在基于AI的推薦應用中提供大約2倍的性能，并使整個系統(tǒng)的能耗減少40%。

2. LPDDR5-PIM移動存儲器

• 三星還開發(fā)了LPDDR5-PIM移動存儲器，該存儲器可在不連接數(shù)據(jù)中心的情況下提供獨立的AI功能。模擬測試表明，LPDDR5-PIM在用于語音識別、翻譯和聊天機器人等應用時，性能可提升1倍以上，同時能耗減少60%以上。

三、未來展望

三星計劃通過與其他行業(yè)領導者合作，在2022年上半年實現(xiàn)PIM平臺標準化，從而擴展AI內(nèi)存產(chǎn)品組合。此外，三星還將繼續(xù)努力培養(yǎng)一個高度健全的PIM生態(tài)系統(tǒng)，以確保整個內(nèi)存市場的廣泛適用性。

隨著技術的不斷發(fā)展，三星的PIM技術有望在未來進一步提升AI應用的性能和能效，推動AI技術的普及和應用。同時，這也將促進整個半導體行業(yè)的創(chuàng)新和發(fā)展。