微軟重磅官宣:推出自研AI芯片
金翎獎2024年度功率器件及模組類及優質供應商評選活動火熱進行中,士蘭,宏微,羅姆已參與!
Azure Maia 是一款AI 加速器芯片,用于OpenAI 模型、ChatGPT、Bing、GitHub Copilot 等AI 工作負載,Azure Maia 100 則是該系列第一代產品,采取5 納米制程生產。
Azure Cobalt 為Arm 架構的云端運算處理器,配備128 個運算核心,與目前幾代Azure Arm 芯片相比,效能提升40%,為Microsoft Teams、Azure SQL 等服務提供支援,這2 款芯片均由臺積電生產,微軟已在設計第二代版本。
Azure Maia 100
領導團隊開發新芯片的微軟AHSI(Azure Hardware Systems and Infrastructure)副總裁Rani Borkar 指出,微軟已在Bing 和Office 產品測試新款AI 芯片,微軟主要AI 合作伙伴、ChatGPT 開發商OpenAI 也以GPT 3.5 Turbo 進行測試。Azure Maia 和Azure Cobalt 預計明年初正式用于微軟數據中心,成為Azure 云端運算服務的一部分。
Rani Borkar 接受外媒采訪表示,對具規模的微軟而言,優化和整合硬件的每個要素可提供最佳運算效能,同時避免供應鏈瓶頸,Azure Maia 和Azure Cobalt 可為客戶提供基礎設施新的選擇。
首批由Azure Cobalt 100 提供支持的服務器
自研芯片可獲得硬件性能和價格優勢,同時避免公司過度依賴任何一家供應商。目前AI 產業高度依賴NVIDIA GPU 因此凸顯問題,亞馬遜和Google 已有自研芯片的具體成果,亞馬遜2015 年收購以色列芯片新創Annapurna Labs,為客戶提供云端和AI 芯片的服務,Google 從2018 年起允許客戶采用自研芯片TPU(Tensor Processing Unit),微軟急起直追終于跟上腳步。
除此之外,微軟稱,作為定制芯片的補充,微軟正在拓展與芯片供應商的合作伙伴關系,為客戶提供基礎設施選項。
微軟表示,將在微軟智能云Azure中添加AMD MI300X加速虛擬機(VMs)。ND MI300虛擬機(VMs)將采用AMD最新的GPU——AMD Instinct MI300X,旨在加速AI工作負載的處理,以實現高范圍的AI模型訓練和生成式推理。
為英偉達H100 Tensor Core GPU打造的全新NC H100 v5虛擬機系列開放預覽,將提高大中型AI訓練和生成式推理的性能、可靠性和效率。微軟稱還發布了ND H200 v5虛擬機系列計劃,這是一款AI優化虛擬機,配備了即將推出的英偉達H200 Tensor Core GPU。
微軟過去曾開發客制化芯片,包括與AMD 合作設計Xbox 處理器,以及為HoloLens 和Xbox Kinect 運動控制器開發專用芯片。隨著Azure Maia 和Azure Cobalt 正式發表,微軟自研芯片版圖更加完整。
*博客內容為網友個人發布,僅代表博主個人觀點,如有侵權請聯系工作人員刪除。