對于人工智能 (AI) 而言,任何單一硬件或計算組件都無法成為適合各類工作負載的萬能解決方案。AI 貫穿從云端到邊緣側的整個現代計算領域,為了滿足不同的 AI 用例和需求,一個可以靈活使用 CPU、GPU 和 NPU 等不同計算引擎的異構計算平臺必不可少。依托于 Arm CPU 的性能、能效、普及性、易于編程性和靈活性,從小型的嵌入式設備到大型的數據中心,Arm CPU 已經為各種平臺上的 AI 加速奠定了基礎。就靈活性而言,這對生態系統大有裨益的三個主要原因是,首先, Arm CPU 可以處理
作者:Arm 高級首席工程師 Ed Miller人工智能 (AI) 應用正以前所未見的速度持續增長。有觀察家認為 AI 可以解決部分當前人類所面臨的嚴峻挑戰。然而,現在卻很少有開發者知道如何將 AI 應用在可持續發展上。為了彌合技術差距并支持可持續發展目標,Arm 與 FruitPunch AI 共同贊助了“AI for Bears 挑戰”。FruitPunch AI 教導大家如何應用 AI 來解決聯合國 17 項可持續發展目標中的實際挑戰。由來自全球各地的學員與專家組成 15 到 50 名工程師的團隊,
作者:Arm 基礎設施事業部軟件工程師 Nobel Chowdary Mandepudi生成式人工智能 (AI) 正在科技領域發揮關鍵作用,許多企業已經開始將大語言模型 (LLM) 集成到云端和邊緣側的應用中。生成式 AI 的引入也使得許多框架和庫得以發展。其中,PyTorch 作為熱門的深度學習框架尤為突出,許多企業均會選擇其作為開發 AI 應用的庫。通過部署 Arm Kleidi 技術 ,Arm 正在努力優化 PyTorch,以加速在基于 Arm 架構的處理器上運行 LLM 的性能
人工智能 (AI)、云計算和邊緣計算等技術的發展正推動著各行各業的創新升級,這一過程也伴隨著對計算資源需求的急劇增加,引發能源消耗和環境影響的新挑戰。如數據中心領域,服務器、存儲設備和網絡設備等在執行 AI 訓練和推理任務時需要消耗大量電力。又如智能終端領域,隨著 AI 手機、AI PC 等設備中大模型的部署和應用,這些設備的能耗也隨之上升。以數據中心為例,根據國際能源署 (IEA) 的預測,隨著全球對互聯網服務和 AI 需求的不斷增加,支撐這些服務運行的全球數據中心的耗電量正逐年上升,預計將在未來四年內