AI SSD采購容量預計突破45EB
根據 TrendForce 集邦咨詢最新的《Enterprise SSD》研究報告,由于 AI 需求大幅升溫,最近兩季 AI 服務器相關客戶向供應商進一步要求加單 Enterprise SSD(企業級固態硬盤)。上游供應商為了滿足 SSD 在 AI 應用上的供給,加速制程升級,開始規劃推出 2YY 產品,預期于 2025 年量產。
本文引用地址:http://www.j9360.com/article/202408/461945.htmTrendForce 集邦咨詢表示,AI 服務器客戶對供應商加單的情況,導致 Enterprise SSD 合約價于 2023 年第四季至 2024 年第三季間的累積漲幅超過 80%。
TrendForce 集邦咨詢在報告中指出,SSD 應用于 AI 推理服務器,可在推理過程中協助調整、優化 AI 模型,尤其 SSD 可以實時更新數據,以便微調推理模型結果。AI 推理主要提供檢索增強生成 (RAG, Retrieval-Augmented Generation) 和大型語言模型 (LLM, Large Language Model) 服務,而 SSD 可以儲存 RAG 和 LLM 參考的相關文檔和知識庫,以生成含有更豐富信息的響應。此外,隨著更多生成信息是以影片或相片顯示,其數據存儲量也相應增加,因此,TLC/QLC(四層單元閃存)16TB 以上等大容量 SSD 便成為 AI 推理主要采用的產品。
現在大家都知道,想要大模型有更高質量的輸出,就需要高質量的數據,而且是大量的高質量數據。所以,存儲系統的第一個作用就是:承擔起存儲大量數據的能力。
有人預測數據集會呈指數級增長,如此多的數據,說到底還需要服務器和存儲來承擔,如果還是用機械硬盤,則需要非常多的硬件系統,這對于數據中心空間,能耗和散熱都是挑戰。
而如果換成 SSD 閃存存儲后,其單位能耗可以輸出更高的性能,有助于省電。同時,更高的單盤容量可以減少硬件系統數量,進而減少數據中心機房空間占用,省下更多成本。
在 AI 同樣非?;馃岬谋泵赖仁袌錾希瑢Ω呷萘?SSD 的需求正在快速上升。企業和數據中心正在尋求大容量的存儲解決方案來應對不斷增長的 AI 相關數據。
AI 的場景大致分為模型訓練和推理兩大部分。
其中,訓練主要在數據中心內部完成,涉及的主要操作包括數據攝?。↖ngest)、Checkpoint 創建等。當然,需要歸檔的數據也都存放在資源充裕的數據中心里。而推理既可以在數據中心內部完成,也可以在近邊緣和遠邊緣端完成。
數據準備的過程主要發生在數據中心和近邊緣端,也會有少部分發生在遠邊緣端。可以說,幾乎所有場景中都離不開存儲的支持,都需要存儲具有處理大量數據的能力,都需要有盡可能高的讀寫性能。
此時,閃存存儲的優勢就非常明顯。
在 AI 浪潮的推動下,美國頂級科技公司的數據中心正加速從 HDD 轉向企業級 SSD。比如:大型科技公司如特斯拉在擴大 AI 服務器建設時,紛紛選擇增加 SSD 的采購量,以滿足日益增長的數據處理需求。
AI SSD 需求位元年增率超過 60%,供應商加快大容量產品開發
2024 年 AI 服務器 SSD 市場除了 16TB 以上產品需求自第二季大幅上升,隨著 NVIDIA H100、H20 和 H200 等系列產品到貨,相關客戶進一步加大 TLC 4、8TB Enterprise SSD 訂單需求。根據 TrendForce 集邦咨詢預估,今年 AI 相關 SSD 采購容量將超過 45EB,未來幾年,AI 服務器有望推動 SSD 需求年增率平均超過 60%,而 AI SSD 需求在整個 NAND Flash(閃存)的占比有機會自 2024 年的 5%,上升至 2025 年的 9%。
不過,戴爾公司副董事長兼首席運營官 Jeff Clarke 在財報電話會議上透露,由于成本上升和供需關系緊張,預計 2024 年下半年 SSD 價格將再攀升 20%。這一消息無疑給計劃購買或升級 SSD 的用戶帶來了不小的壓力。
業內專家分析認為,SSD 價格的上漲與原材料成本的增加密切相關。隨著全球原材料價格的持續上漲,SSD 的生產成本也在不斷攀升。此外,存儲器廠商為了擺脫虧損、改善盈利狀況,也開始尋求提高產品價格。這些因素共同推動了 SSD 價格的上漲。
對于用戶而言,面對 SSD 價格的上漲,如何選擇合適的存儲設備成為了一個亟待解決的問題。一方面,用戶可以根據自己的實際需求選擇性價比更高的存儲設備;另一方面,用戶也可以關注市場動態,抓住合適的時機進行購買或升級。
評論