工控網(wǎng)首頁(yè)
>

新聞中心

>

業(yè)界動(dòng)態(tài)

>

突破“內(nèi)存墻”,HBM4E助力構(gòu)建“以數(shù)據(jù)為中心”的AI基礎(chǔ)設(shè)施

突破“內(nèi)存墻”,HBM4E助力構(gòu)建“以數(shù)據(jù)為中心”的AI基礎(chǔ)設(shè)施

2026/11/2 21:23:40

人工智能產(chǎn)業(yè)正在經(jīng)歷一場(chǎng)前所未有的高速變革。從參數(shù)規(guī)模突破萬(wàn)億級(jí)的大語(yǔ)言模型(LLM),到持續(xù)普及的代理式AI,新一輪技術(shù)發(fā)展給現(xiàn)有AI基礎(chǔ)設(shè)施帶來(lái)了嚴(yán)峻挑戰(zhàn)。雖然服務(wù)器峰值算力(FLOPS)實(shí)現(xiàn)爆發(fā)式增長(zhǎng),內(nèi)存帶寬的步伐卻相對(duì)滯后,這一差距不斷擴(kuò)大,使得“內(nèi)存墻”問(wèn)題愈發(fā)突出。如今,AI基礎(chǔ)設(shè)施的瓶頸已不再局限于單純的算力,內(nèi)存與處理器之間的數(shù)據(jù)移動(dòng)效率同樣至關(guān)重要。

在中國(guó),隨著AI產(chǎn)業(yè)快速發(fā)展,這一全球性挑戰(zhàn)也日益凸顯。根據(jù)中國(guó)信息通信研究院發(fā)布的《2025年人工智能產(chǎn)業(yè)發(fā)展研究報(bào)告》,2025年中國(guó)AI核心產(chǎn)業(yè)規(guī)模預(yù)計(jì)突破1.2萬(wàn)億元。此外,2025年9月,國(guó)務(wù)院印發(fā)《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》,提出到2030年,新一代智能終端、AI智能體等應(yīng)用普及率達(dá)90%以上。

隨著相關(guān)目標(biāo)逐步推進(jìn),未來(lái)數(shù)以百萬(wàn)計(jì)的用戶與終端設(shè)備將同時(shí)調(diào)用AI應(yīng)用,數(shù)據(jù)中心不僅要滿足LLM訓(xùn)練的帶寬需求,還會(huì)面臨AI推理階段日益嚴(yán)峻的帶寬瓶頸。近期,以O(shè)penClaw、Hermes為代表的AI智能體迅速興起并廣泛普及,也印證了業(yè)界對(duì)AI推理階段帶寬瓶頸的擔(dān)憂并非空穴來(lái)風(fēng)。

與傳統(tǒng)大語(yǔ)言模型(LLM)工作負(fù)載不同,AI智能體需要多步連續(xù)推理、頻繁上下文切換、實(shí)時(shí)工具調(diào)用,會(huì)產(chǎn)生高并發(fā)、碎片化的內(nèi)存讀寫(xiě)請(qǐng)求。只有解決內(nèi)存吞吐量瓶頸這一技術(shù)挑戰(zhàn),才能更好地釋放下一代AI應(yīng)用潛力,支撐“人工智能+”時(shí)代的海量數(shù)據(jù)需求。

為滿足如此高強(qiáng)度的數(shù)據(jù)需求,業(yè)界正在推動(dòng)硬件架構(gòu)的重大變革。高帶寬內(nèi)存(HBM)已成為應(yīng)對(duì)這一需求的關(guān)鍵方案。借助2.5D、3D封裝技術(shù)和硅中介層,HBM能夠支持超寬電氣接口,在緊湊的空間內(nèi)以更低功耗提供更高帶寬。隨著AI超級(jí)周期持續(xù)推進(jìn),業(yè)界正加快向HBM4及其增強(qiáng)版本HBM4E演進(jìn)。

這一代際升級(jí)帶來(lái)了跨越式的性能提升。JEDEC HBM4標(biāo)準(zhǔn)設(shè)定的單引腳速率最高達(dá)8 Gbps,與HBM3E大致相當(dāng),但其通過(guò)將接口寬度擴(kuò)展至2048位,實(shí)現(xiàn)了總帶寬翻倍。HBM4E則在此基礎(chǔ)上進(jìn)一步提升性能。Rambus HBM4E控制器IP可支持單引腳16 Gbps的高速數(shù)據(jù)傳輸,單顆內(nèi)存器件帶寬達(dá)到前所未有的4.096TB/s;在典型的八器件AI xPU配置中,聚合內(nèi)存帶寬可達(dá)32.7TB/s以上。

除極致的速度外,HBM4在功耗、內(nèi)存訪問(wèn)、RAS(可靠性、可用性、可維護(hù)性)方面均完成優(yōu)化升級(jí),HBM4E沿用了這些能力。架構(gòu)層面,HBM4將每個(gè)堆棧的獨(dú)立通道數(shù)量翻倍至32個(gè),每個(gè)通道含2個(gè)偽通道,使設(shè)計(jì)人員能夠更靈活地訪問(wèn)堆棧內(nèi)的DRAM器件。同時(shí),HBM4還能提供更靈活的低電壓供電方案,支持0.7V至0.9V的VDDQ電壓以及1.0V或1.05V的VDDC電壓,顯著優(yōu)化系統(tǒng)整體能效。

與此同時(shí),該接口標(biāo)準(zhǔn)還向后兼容現(xiàn)有的HBM3/HBM3E控制器,助力平穩(wěn)過(guò)渡。新引入的定向刷新管理(DRFM)機(jī)制,則進(jìn)一步提升可靠性、可用性與可維護(hù)性(RAS),并增強(qiáng)了針對(duì)行錘攻擊的防護(hù)能力。

然而,這些技術(shù)的進(jìn)步并非一帆風(fēng)順。盡管帶寬收益顯而易見(jiàn),但實(shí)現(xiàn)此類內(nèi)存子系統(tǒng)卻面臨著復(fù)雜的工程挑戰(zhàn)。HBM4和HBM4E采用了前所未有的2048位超寬接口,2.5D和3D封裝的物理限制也對(duì)其設(shè)計(jì)與實(shí)現(xiàn)提出了極為嚴(yán)苛的要求。具體而言,設(shè)計(jì)人員既要應(yīng)對(duì)更高傳輸速率下復(fù)雜的數(shù)據(jù)并行處理問(wèn)題,也要解決熱管理難題——性能要求越高,HBM內(nèi)存控制器就越需要對(duì)堆疊中的存儲(chǔ)裸片進(jìn)行有效的輪轉(zhuǎn)調(diào)度,以避免出現(xiàn)局部熱點(diǎn)。

面對(duì)內(nèi)存子系統(tǒng)呈指數(shù)級(jí)增長(zhǎng)的復(fù)雜度,傳統(tǒng)自研開(kāi)發(fā)模式越來(lái)越難跟上AI領(lǐng)域激烈的競(jìng)爭(zhēng)節(jié)奏。采用經(jīng)過(guò)驗(yàn)證并充分優(yōu)化的內(nèi)存接口IP,正成為適配AI產(chǎn)品高速迭代的戰(zhàn)略選擇。要突破AI“內(nèi)存墻”難題,行業(yè)需要的不僅是更快的內(nèi)存標(biāo)準(zhǔn),更需要經(jīng)過(guò)芯片量產(chǎn)驗(yàn)證且成熟可靠解決方案。通過(guò)與經(jīng)驗(yàn)豐富的IP供應(yīng)商合作,芯片廠商和設(shè)計(jì)人員可降低研發(fā)風(fēng)險(xiǎn)、縮短上市周期,充分釋放下一代大語(yǔ)言模型的巨大潛能。


審核編輯(
唐楠
)
投訴建議

提交

查看更多評(píng)論
其他資訊

查看更多

聚力新質(zhì)造,拓局東南亞 | IEAC-新質(zhì)制造業(yè)出海聯(lián)盟(雅加達(dá))產(chǎn)品交流會(huì)圓滿落幕

工程隱性成本成為競(jìng)爭(zhēng)變量,西門(mén)子SINAMICS G200系列變頻器如何為設(shè)備廠商減負(fù)?

德承工控MD-3000:DIN導(dǎo)軌工控機(jī)選購(gòu)容易忽略的細(xì)節(jié)

自主可控踐行科技報(bào)國(guó),物理AI筑牢安全底座

六軸納米定位系統(tǒng)怎么選?PIC光纖耦合中的行程、重復(fù)性與反饋