大模型迭代引發一體機市場熱潮,IDC啟動大模型推理算力系列研究
2025年1月以來,中國市場 AI 創企深度求索開發的 AI開源 大模型 DeepSeek的爆火引起廣泛關注,近期DeepSeek等大模型的迭代也推動了一體機產品的密集發布,吸引了包括服務器、云服務、行業應用開發、大模型技術供應商等多方參與,根據IDC統計,市場上已迅速有接近百家廠商推出AI一體機產品。
本文引用地址:http://www.j9360.com/article/202503/467925.htm未來AI算力市場服務模式如何演變?AI一體機有哪些市場機會?基于市場上的普遍問題,IDC進行了總結,旨在為技術供應商和行業用戶提供參考:
中國市場AI算力服務的模式
DeepSeek等大模型的迭代推動了AI算力服務模式的更新升級,一方面,用戶端對AI算力建設提出新的需求,包括算力效率提升、推理需求增加、供應方式多樣化等;另一方面,供應側,AI算力基礎設施服務模式也不斷創新。中國市場的AI算力建設,走出了一條具備中國特色的差異化路線。
當前提供AI計算服務的模式主要有以下幾種:
● 公有云算力服務:在公有云上提供算力基礎設施,即公有云廠商的AIaaS服務。
● 智算中心:由政府牽頭,國資平臺發起智算中心項目,由集成商作為總包,智算中心廠商參與建設。建成之后可供地方政府、企業訓練、調優與部署AI應用。
● 私有云:由企業自主采購、自主建設AI私有云,支撐內部的模型訓練與部署。
● AI一體機:主要用于支撐本地部署AI應用。
AI一體機的市場機會
AI一體機,是專為AI大模型應用和部署而設計的集成計算設備,通常包含CPU/GPU等算力組合、存儲器、操作系統、AI平臺軟件及各類模型算法、推理服務等軟硬組件。從去年開始,AI一體機市場上主要產品形態包含訓推一體機、推理一體機等,訓推一體機具備開箱即用、私有化部署等特性,支持完整的AI模型開發流程(包括訓練和推理部署等多個環節)。也有部分推理一體機,專注于高效能推理場景。目前搭載DeepSeek的AI一體機方案存在差異,能支持運行蒸餾版、滿血版V3/R1模型,但Deepseek一體機的實際應用效果仍有待觀察,有些行業用戶則結合自己的應用場景考量優先選擇預制了參數規模更小的大模型、成本更低的一體機做嘗試,預計能夠滿足一些行業的應用需求。
由于DeepSeek事件,帶動了整個中國市場對AI應用的樂觀發展預期,如果在驅動更多企業(尤其是中小等長尾企業)部署AI的假設下,AI一體機市場將會迎來進一步發展。隨著基礎大模型開啟另一開發新范式,大模型從千億參數向行業精調模型演進,AI一體機通過軟硬一體的集成解決方案,能夠實現特定場景的私有化部署,縮短部署周期,降低中小企業大模型的使用門檻。對于一些具備大量敏感數據的用戶,私有化部署確保數據安全處理/避免敏感信息外流,能夠滿足教育/科研、政務與公共服務、制造、能源、醫療、金融等領域的一些應用需求。
隨著AI應用的不斷落地,算力建設的重點也將從以支持訓練為主開始轉向越來越多的支持推理。在此背景下,IDC啟動大模型推理算力系列研究。主要包含下列研究報告:
● 《中國大模型推理計算指數研究報告,2025》:希望從大模型推理的角度,幫助用戶建立推理算力選型的參考、驗收的標準以及持續運營的支持。如下表所示,技術能力、服務能力、規模化能力、供應鏈以及安全,將是我們考量的維度。
● 《中國AI大模型訓推一體機市場分析與品牌推薦,2025》:AI大模型一體機市場囊括了服務器、云服務、行業應用開發、大模型技術供應商等多方參與,市場以往更關注基礎功能和性能,今年可能更強調成本、效果更佳的AI模型能力集成、軟硬件協同優化和行業定制化、安全性等。IDC將啟動市場追蹤與品牌推薦研究,輔助行業用戶更好的選型AI大模型一體機產品。
免責聲明
本文中的內容和數據均來源于IDC所發布的報告,所有內容及數據均為我公司所有。未經IDC書面許可,任何機構和個人不得以任何形式翻版、復制、刊登、發表或引用。
評論