目前AI技術(shù)正與終端產(chǎn)品快速融合,推動了以消費電子代表的諸多終端硬件產(chǎn)品的創(chuàng)新。2024年極具代表性的AI Phone、AI PC等創(chuàng)新端側(cè)AI產(chǎn)品也的確激發(fā)了新的市場,以更智能的功能刺激了消費需求,給我們?nèi)粘I顜碇悄芑淖兊耐瑫r,也帶動了上下游產(chǎn)業(yè)鏈加速創(chuàng)新。
蘋果在2024年將Apple Intelligence引入iPhone ,雖然近期交易平臺SellCell的一份報告顯示絕大多數(shù)用戶認(rèn)為Apple Intelligence功能目前并未帶來明顯的價值提升,但這并不影響智能設(shè)備的未來方向——減少云端依賴,重點發(fā)展端側(cè)AI。
為了提升端側(cè)AI競爭力,強(qiáng)大的硬件性能支持是前提,對于芯片側(cè)的要求會聚焦在算力、內(nèi)存、功耗、工藝、面積、散熱等方面,其中存儲芯片是極為關(guān)鍵的一環(huán)。
為了進(jìn)一步提高iPhone的端側(cè)AI性能,根據(jù)韓媒報道,三星應(yīng)蘋果公司的要求,開始研究新的低功耗雙倍數(shù)據(jù)速率LPDDR DRAM封裝方式。
此前蘋果的LPDDR DRAM堆疊在整個SoC上,體積緊湊,便于降低功耗與延遲,是板上空間受限的消費電子設(shè)備常用的封裝方式。蘋果希望通過分開封裝DRAM和SoC,增加I/O引腳數(shù)量提高數(shù)據(jù)傳輸速率和并行數(shù)據(jù)通道,提高內(nèi)存帶寬以增強(qiáng) iPhone的端側(cè)AI能力。
此前亦有報道稱三星還可能嘗試為iPhone DRAM 應(yīng)用專為設(shè)備端AI設(shè)計的LPDDR6-PIM(內(nèi)存內(nèi)置處理器)技術(shù)。
AI技術(shù)應(yīng)用場景從云端擴(kuò)展到端側(cè)設(shè)備,給存儲市場帶來了新市場需求,同時也推動了存儲芯片在端側(cè)的持續(xù)創(chuàng)新。
從云到端,AI催生存儲“芯”需求
在云端,AI依賴于大規(guī)模的數(shù)據(jù)中心和高效龐大的存儲系統(tǒng)來存儲、傳輸并處理數(shù)據(jù)。數(shù)據(jù)中心有著大規(guī)模集群式的存儲硬件來應(yīng)對海量數(shù)據(jù),而在端側(cè),AI需要在計算資源、存儲資源受限的設(shè)備上實現(xiàn)實時、低功耗的數(shù)據(jù)處理,這對存儲芯片的容量、速度和能效提出了全新的要求,也推動了存儲技術(shù)革新。
根據(jù)國際知名調(diào)研機(jī)構(gòu)TechInsights發(fā)布的《2025存儲器市場展望》,存儲器市場包括DRAM和NAND,預(yù)計在2025年將實現(xiàn)顯著增長,這主要得益于人工智能(AI)及相關(guān)技術(shù)的加速采用。報告中同樣表示隨著邊緣AI變得更加普及,將推動對適合這些新功能的內(nèi)存解決方案的需求。
來源:TechInsights
從今年的幾個市場來看,CFM閃存市場數(shù)據(jù),2024年手機(jī)存儲需求同比去年增長4%,PC市場存儲需求同比增長8%,而且端側(cè)AI已經(jīng)開始推動這些領(lǐng)域的終端設(shè)備內(nèi)存儲芯片的更新?lián)Q代。
AI手機(jī)領(lǐng)域,16G的DRAM可以說已經(jīng)是AI手機(jī)最低的基本配置,AI PC領(lǐng)域同樣,更快的數(shù)據(jù)傳輸速度、更大的存儲容量和帶寬需求也帶動了主流LPDDR5x和LPDDR5T產(chǎn)品的需求。如微軟發(fā)布的AI PC求內(nèi)存容量最低為16GB,搭載新處理器的AI PC已普遍將內(nèi)存提升至了32GB,為AI模型的部署升級留下充足空間。
AI智能眼鏡、AI TWS耳機(jī)今年也是紛紛上新,AI TWS耳機(jī)中功能更多,為了存儲更多固件和代碼程序,就需要外擴(kuò)串行NOR Flash。當(dāng)前幾款已發(fā)布的AI耳機(jī)中NOR Flash容量較之普通TWS耳機(jī)也有了比較大的提升,基本上實現(xiàn)了翻倍來支持內(nèi)置的AI新功能。
對端側(cè)AI設(shè)備來說,算力和數(shù)據(jù)的加持實現(xiàn)了各種智能功能,而這些數(shù)據(jù)存放在哪里,如何高效讀寫這些數(shù)據(jù),需要更強(qiáng)大的存儲芯片為其提供助力。
科技產(chǎn)品的創(chuàng)新往往是牽一發(fā)而動全身,為實現(xiàn)某一功能,需要整個終端配置協(xié)同更新。最終體現(xiàn)在消費者面前的可能僅僅是某一個具體的簡單好用的功能點,而在其背后是軟硬件先進(jìn)技術(shù)數(shù)年不斷迭代。端側(cè)AI設(shè)備功能實現(xiàn)背后存儲器技術(shù)革新是貼切的寫照,存儲器更大容量更高讀寫速度更低功耗背后亦是整個半導(dǎo)體產(chǎn)業(yè)鏈制程技術(shù)迭代的體現(xiàn)。
存儲芯片與端側(cè)AI設(shè)備協(xié)同演變
存儲產(chǎn)品在我們?nèi)粘I钪须S處可見,其主要功能包括數(shù)據(jù)的存儲、讀取、寫入和擦除,而其分類則根據(jù)存儲介質(zhì)的不同,又有隨機(jī)存取存儲器(RAM)、只讀存儲器(ROM)、閃存(Flash Memory)等多種類型。目前各類智能終端中應(yīng)用的存儲芯片主要有如下幾種。
DRAM
動態(tài)隨機(jī)存取存儲器,是最常見的系統(tǒng)內(nèi)存類型,用于存儲臨時數(shù)據(jù)和正在處理的數(shù)據(jù),是最大規(guī)模的單品市場。在AI智能手機(jī)、AI PC等智能終端中,DRAM用于提供快速的數(shù)據(jù)訪問和處理能力,前文已提到AI終端已經(jīng)開始換上更大容量更高讀寫速度的DRAM,隨著AI應(yīng)用的發(fā)展,對高性能DRAM的需求仍在不斷增長。
NAND Flash
NAND Flash閃存是一種非易失性存儲器,用于長期數(shù)據(jù)存儲。在智能終端如AI手機(jī)、AI PC、AI Pad中,NAND Flash用作內(nèi)部存儲,存儲操作系統(tǒng)、應(yīng)用程序和用戶數(shù)據(jù)。未來端側(cè)設(shè)備操作系統(tǒng)肯定會搭載大模型以及其他AI應(yīng)用程序,端側(cè)設(shè)備會需要更高的NAND Flash容量用于長期存儲。
NOR Flash
NOR Flash也是一種非易失性存儲器,常用于存儲啟動代碼和固件。它在需要快速啟動和執(zhí)行的設(shè)備中尤為重要,上文提到的AI TWS耳機(jī)就是典型的應(yīng)用。市場上各類AI硬件對NOR Flash容量需求增加已經(jīng)是確定性的趨勢,尤其是中大容量NOR Flash。
UFS
高性能的通用閃存存儲方案,在高端移動設(shè)備中應(yīng)用。UFS4.0版本,其最高讀取速度已經(jīng)達(dá)到了4200MB/s,寫入速度也能達(dá)到2800MB/s。端側(cè)AI性能的發(fā)揮離不開高效的數(shù)據(jù)流轉(zhuǎn),UFS 4.0存儲技術(shù)正好能夠為之提供支持。隨著端側(cè)AI軟件層面的持續(xù)優(yōu)化以及UFS 技術(shù)向更多端側(cè)設(shè)備普及,端側(cè)AI設(shè)備將擁有更強(qiáng)大的學(xué)習(xí)能力和更快的響應(yīng)速度。引用鎧俠對UFS前景描述的原話,“現(xiàn)代手機(jī)正進(jìn)入一個由端側(cè)AI(On-Device AI)與先進(jìn)存儲技術(shù)協(xié)同發(fā)展的新時代”。
LPDDR
一種低功耗版本的DRAM,即低功耗雙倍數(shù)據(jù)速率,是為移動設(shè)備設(shè)計以減少能耗的方案。LPDDR5和LPDDR5x提供了更高的數(shù)據(jù)傳輸速率和更低的功耗,LPDDR6也敲定在即,將全面適配AI計算需求,用更高頻率更高帶寬支持端側(cè)AI設(shè)備。
HBM
HBM的火熱程度想必都有所耳聞,它本質(zhì)上是一種高性能的3D堆疊DRAM,擁有極高的帶寬和存儲密度,適用于需要處理大量數(shù)據(jù)的AI和高性能計算應(yīng)用,主要用于服務(wù)器和數(shù)據(jù)中心等高性能計算領(lǐng)域。
為什么在端側(cè)設(shè)備存儲中仍舊將其列了出來呢?因為端側(cè)設(shè)備開始搭載HBM已經(jīng)在內(nèi)存大廠的推進(jìn)日程中。此前就有報道SK海力士正在將HBM導(dǎo)入汽車領(lǐng)域,在移動端側(cè)設(shè)備領(lǐng)域,三星與海力士同樣在做端側(cè)HBM產(chǎn)品研發(fā),初步估計2026年能實現(xiàn)商業(yè)化。
大大小小各類存儲芯片在端側(cè)AI設(shè)備紛紛落地的推動下,迎來了新的市場需求,同時也在不斷升級以適配端側(cè)AI設(shè)備對存儲的新要求。目前看來存儲產(chǎn)品在端側(cè)AI設(shè)備的協(xié)同演進(jìn)上主要在這幾方面做了提升。
數(shù)據(jù)處理速度與內(nèi)存帶寬
端側(cè)AI應(yīng)用對即時數(shù)據(jù)處理和快速響應(yīng)的需求是明確的,這依賴于存儲芯片有著極高的數(shù)據(jù)讀寫速度,這樣才能體驗端側(cè)AI實時的特點。同樣,隨著端側(cè)大模型引入,對內(nèi)存帶寬的需求也隨之增長,要求存儲芯片能夠在短時間內(nèi)完成大量數(shù)據(jù)的讀寫操作,并支持高并發(fā)的數(shù)據(jù)訪問請求,解決內(nèi)存墻問題實現(xiàn)在受限的資源下釋放端側(cè)大模型性能。還需要通過優(yōu)化存儲結(jié)構(gòu)和算法,提高存儲空間的利用率和數(shù)據(jù)的讀寫效率。
能效管理與小型化
在端側(cè)AI與存儲芯片的協(xié)同優(yōu)化中,能效管理與芯片小型化是匹配端側(cè)智能設(shè)備高效運行的關(guān)鍵。端側(cè)AI設(shè)備存儲目標(biāo)是以最高效的方式將AI模型從存儲加載到內(nèi)存中。為此,需要在不增加功耗的前提下,獲得盡可能高的吞吐量。如何降低功耗、節(jié)省空間是每家原廠都在琢磨的。如美光科技針對AI PC開發(fā)的LPDDR5X與傳統(tǒng)SODIMM產(chǎn)品相比就將功耗降低了58%,空間節(jié)省了64%。
落地端側(cè),存儲探索更多可能
端側(cè)AI設(shè)備的快速發(fā)展,倒逼了存儲芯片整體性能的革新,新型存儲技術(shù)也在新趨勢下加速發(fā)展。
如MRAM磁阻隨機(jī)存取存儲器,它是一種基于隧穿磁阻效應(yīng)的存儲器,具有讀寫次數(shù)無限、寫入速度快、功耗低特點,兼具非易失性和高速讀寫的特性,非常契合需要快速響應(yīng)和持久保存數(shù)據(jù)的端側(cè)本地存儲。
MRAM與邏輯芯片集成度高的特點也能在設(shè)備小型化上提供助力,在端側(cè)設(shè)備深入應(yīng)用的未來,MRAM有望能匹配傳統(tǒng)存儲器的應(yīng)用需求,與其他存儲器結(jié)合,為端側(cè)AI設(shè)備存儲上性能、容量和成本的平衡。
另一個隨著AI應(yīng)用普及開始被重視的方向,則是存算一體化,根據(jù)不同側(cè)重還能細(xì)分到近存計算、存內(nèi)處理和存內(nèi)計算。對數(shù)據(jù)處理速度和存儲效率的要求不斷提高,傳統(tǒng)與計算分離的存儲解決方案日后或許承載不了端側(cè)AI對實時性和能效的需求。
在內(nèi)存內(nèi)核中集成NPU等AI引擎來處理一些計算、處理功能,避免了傳統(tǒng)架構(gòu)中數(shù)據(jù)在存儲器和處理器之間頻繁傳輸所產(chǎn)生的延遲,可以實現(xiàn)更快的數(shù)據(jù)訪問速度和更低的能耗,這對于需要本地實時響應(yīng)的端側(cè)應(yīng)用場景尤為重要。對算力、功耗和實時性有較高要求的眾多移動端側(cè)AI設(shè)備,如AI手機(jī)、AI PC、AI可穿戴設(shè)備、AI智能家居日后都可能選擇該技術(shù)路線。
寫在最后
端側(cè)AI給存儲芯片市場帶來了新的發(fā)展機(jī)遇和挑戰(zhàn),端側(cè)AI功能不斷擴(kuò)展和深化,對存儲的性能和功耗要求將越來越高,整個產(chǎn)業(yè)鏈上下游全力推進(jìn)技術(shù)革新保持競爭力;另一方面,隨著新型存儲技術(shù)的不斷涌現(xiàn)以及端側(cè)AI設(shè)備存儲芯片需求打開,市場競爭將更加激烈,這對于國內(nèi)存儲芯片廠商也是一個崛起機(jī)會。
回到文章開頭的故事,雖然目前端側(cè)AI設(shè)備還并沒有做到真正的智能,但有一句話是這樣說的,“人們總是高估短期,而低估長期科技能力”,未來具有真正意義上設(shè)備端AI功能的產(chǎn)品功能會讓人意想不到。而隨著端側(cè)AI設(shè)備功能的不斷成熟和應(yīng)用場景的拓展,存儲芯片將迎來新的前景和機(jī)遇。
(來源物聯(lián)網(wǎng)智庫)