江波龍發(fā)布SOCAMM2：創(chuàng)新內(nèi)存加速AI算力
2025年開(kāi)放數(shù)據(jù)中心大會(huì)（ODCC）于9月9日至11日在北京舉行。本屆大會(huì)以“擁抱AI變革，點(diǎn)燃算網(wǎng)引擎”為主題，匯聚了數(shù)據(jù)中心、算力、存儲(chǔ)等領(lǐng)域的專家和企業(yè)代表。
在大會(huì)現(xiàn)場(chǎng)，江波龍正式發(fā)布了基于LPDDR5/5x的創(chuàng)新企業(yè)級(jí)內(nèi)存產(chǎn)品SOCAMM2，以應(yīng)對(duì)不同規(guī)模AI工作負(fù)載帶來(lái)的嚴(yán)峻挑戰(zhàn)；同期，公司企業(yè)級(jí)SSD產(chǎn)品總監(jiān)曹匡文發(fā)表《用AI存儲(chǔ)賦能AI應(yīng)用》主題演講，全面介紹江波龍如何利用人工智能技術(shù)優(yōu)化存儲(chǔ)系統(tǒng)。
SOCAMM2：與HBM應(yīng)用互補(bǔ)的創(chuàng)新內(nèi)存選擇
SOCAMM2基于LPDDR5/5x顆粒和CAMM模塊化設(shè)計(jì)，同時(shí)采用4-N-4 HDI超高密度互連疊層結(jié)構(gòu)，極大提升了設(shè)計(jì)復(fù)雜度和孔密度，為高性能計(jì)算提供了堅(jiān)實(shí)的基礎(chǔ)。與LPCAMM2設(shè)計(jì)相比，SOCAMM2去除了頂部凸出的梯形結(jié)構(gòu)，進(jìn)一步降低了整體高度，更適合服務(wù)器的安裝環(huán)境和液體冷卻系統(tǒng)，在僅14×90 mm的緊湊尺寸內(nèi)最大可實(shí)現(xiàn)256GB容量，數(shù)據(jù)傳輸速率高達(dá)8533Mbps。
SOCAMM2具有突破性的能效表現(xiàn)，功耗僅為標(biāo)準(zhǔn)DDR5 RDIMM的1/3，在同容量下帶寬提升至2.5倍，顯著降低AI推理延遲，主要面向HPC、通用服務(wù)器、AI集群服務(wù)器、AI訓(xùn)練/推理、智能輔助駕駛和工業(yè)邊緣網(wǎng)關(guān)等應(yīng)用場(chǎng)景。
同樣應(yīng)用于AI領(lǐng)域，從架構(gòu)定位來(lái)看，HBM以固定封裝和高成本換取極致帶寬，SOCAMM2則以可替換、高效益的模塊化設(shè)計(jì)實(shí)現(xiàn)容量、功耗與彈性的平衡。在實(shí)際系統(tǒng)中，可同時(shí)采用HBM應(yīng)用于GPU側(cè)，SOCAMM2用作CPU側(cè)，從而兼顧帶寬與容量的雙重提升。
憑借在性能、能效與空間效率三個(gè)維度的創(chuàng)新，SOCAMM2為高性能計(jì)算與創(chuàng)新存儲(chǔ)架構(gòu)提供了全新的解決方案，尤其適合面向AI與大模型推理的高效益擴(kuò)展需求。
存儲(chǔ)在AI應(yīng)用的多重挑戰(zhàn)：性能瓶頸與可靠性難題
曹匡文在演講中深入剖析了AI大集群存儲(chǔ)系統(tǒng)面臨的共性難題。他指出，企業(yè)級(jí)SSD是AI集群的核心基石，但AI數(shù)據(jù)流從GB級(jí)、TB級(jí)到PB級(jí)都存在不同特點(diǎn)的性能瓶頸和可靠性挑戰(zhàn)。
性能瓶頸方面，無(wú)論是訓(xùn)練階段的隨機(jī)讀取，還是推理階段的高并發(fā)訪問(wèn)，亦或是檢查點(diǎn)保存時(shí)的大量順序?qū)懭?，都?duì)存儲(chǔ)系統(tǒng)提出了極高的性能需求。低延遲、優(yōu)秀的QoS和規(guī)避長(zhǎng)尾延時(shí)成為關(guān)鍵挑戰(zhàn)?？煽啃苑矫妫邔?xiě)入量和高負(fù)載下的故障預(yù)測(cè)困難，以及生命末期的數(shù)據(jù)安全保障，都是傳統(tǒng)存儲(chǔ)系統(tǒng)難以解決的問(wèn)題。
針對(duì)應(yīng)用痛點(diǎn)，江波龍推出了全方位的AI智能存儲(chǔ)解決方案。通過(guò)引入智能負(fù)載感知技術(shù)，實(shí)時(shí)識(shí)別冷熱數(shù)據(jù)，優(yōu)化緩存策略和數(shù)據(jù)布局，顯著提升了系統(tǒng)性能。同時(shí)，通過(guò)機(jī)器學(xué)習(xí)模型分析SSD內(nèi)部多項(xiàng)實(shí)時(shí)參數(shù)，建立精準(zhǔn)的可靠性模型，實(shí)現(xiàn)了預(yù)測(cè)性主動(dòng)維護(hù)和及時(shí)告警。
AI存儲(chǔ)升級(jí)AI應(yīng)用：性能與可靠性全面提升
江波龍的創(chuàng)新之處在于將AI技術(shù)深度融入存儲(chǔ)產(chǎn)品的設(shè)計(jì)、管理和運(yùn)維中，實(shí)現(xiàn)了三大技術(shù)突破。
智能性能優(yōu)化：利用控制器內(nèi)置ML機(jī)器學(xué)習(xí)能力，實(shí)現(xiàn)預(yù)測(cè)性流量控制、智能任務(wù)優(yōu)先級(jí)調(diào)度和數(shù)據(jù)訪問(wèn)模式學(xué)習(xí)。與過(guò)去沒(méi)有流量控制、沒(méi)有優(yōu)先級(jí)管理、沒(méi)有冷熱識(shí)別的傳統(tǒng)方案相比，新一代智能存儲(chǔ)顯著提升了吞吐效率和響應(yīng)速度，使數(shù)據(jù)準(zhǔn)備速度加快、模型訓(xùn)練效率提升、推理速度大幅優(yōu)化。
壽命預(yù)測(cè)智能化：通過(guò)分析實(shí)時(shí)工作溫度梯度、NAND健康特性、最優(yōu)讀寫(xiě)電壓變化、讀寫(xiě)錯(cuò)誤計(jì)數(shù)和系統(tǒng)日志等多維度數(shù)據(jù)，智能運(yùn)維系統(tǒng)能夠自動(dòng)預(yù)警硬盤(pán)健康狀況，助力客戶實(shí)現(xiàn)存儲(chǔ)生命末期提前告警，有效規(guī)避掉盤(pán)和數(shù)據(jù)丟失風(fēng)險(xiǎn)，同時(shí)降低運(yùn)維復(fù)雜度，提高設(shè)備利用率。
可靠性全面提升：通過(guò)ML機(jī)器學(xué)習(xí)模型精確計(jì)算最佳讀取電壓，既提高了讀取速度，也增強(qiáng)了糾錯(cuò)能力，使UBER（不可修正誤碼率）等可靠性指標(biāo)顯著優(yōu)于業(yè)內(nèi)主流水平。針對(duì)QLC可靠性問(wèn)題，江波龍還通過(guò)NAND Flash閃存介質(zhì)研究和特性分析改善了QLC生命末期的數(shù)據(jù)可靠性。結(jié)合智能算法識(shí)別LBA熱度，實(shí)現(xiàn)冷熱分流，有效降低WAF（寫(xiě)放大），進(jìn)一步提升SSD壽命。未來(lái)，公司計(jì)劃將這些在QLC領(lǐng)域的技術(shù)儲(chǔ)備，全面應(yīng)用于即將發(fā)布的企業(yè)級(jí)SSD產(chǎn)品中。
這些技術(shù)配合優(yōu)化的優(yōu)化的可靠性模型，高冗余的硬件設(shè)計(jì)，增強(qiáng)的PLP保護(hù)，為客戶帶來(lái)了實(shí)實(shí)在在的收益：數(shù)據(jù)準(zhǔn)備速度加快、模型訓(xùn)練效率提升、推理速度加快，運(yùn)行更加穩(wěn)定可靠，全面優(yōu)化了AI工作效率。
研造一體：一站式存儲(chǔ)服務(wù)深入AI領(lǐng)域
8月26日，剛剛落成的上?？偛?，是江波龍TCM與PTM商業(yè)模式的核心載體，也是AI存儲(chǔ)技術(shù)的研發(fā)中樞?？偛客浇ㄔO(shè)的企業(yè)級(jí)存儲(chǔ)實(shí)驗(yàn)室，聚焦大容量、高性能、高階軟硬件的產(chǎn)品技術(shù)方案，并與蘇州封測(cè)制造基地、中山存儲(chǔ)產(chǎn)業(yè)園多地協(xié)同，逐步深化AI應(yīng)用場(chǎng)景，持續(xù)滿足AI訓(xùn)練、AIGC推理等多元需求。憑借“研發(fā)+封測(cè)+制造”的一站式存儲(chǔ)服務(wù)，江波龍能夠根據(jù)客戶的特定需求，完成高度定制化的創(chuàng)新產(chǎn)品，精確控制產(chǎn)品特性、成本與交付周期，為AI存儲(chǔ)領(lǐng)域持續(xù)注入創(chuàng)新動(dòng)能。
未來(lái)，公司將推出支持QLC和PCIe Gen5的企業(yè)級(jí)SSD，并融入更多智能化創(chuàng)新與高階算法，為AI數(shù)據(jù)中心提供更多優(yōu)選存儲(chǔ)方案。
關(guān)注我們
