圖源：ipopba/Stock.adobe.com

當你入了機器學習(ML)領域的門之后，很快就會發現，云端的數據存儲和處理成本竟然如此之高。為此，許多企業都上了內部部署基礎設施的車，試圖通過這些設施來承載其ML工作負載，從而限制上述成本。可即便如此，這些內部的數據中心還是會帶來諸如功耗增加等代價，尤其是在規模較大的情況下。而功耗增加，就意味著電費支出更高，還會給設備散熱制造麻煩，對可持續發展也會構成不利影響。

在云服務和內部部署場景中，這些開銷與輸入到中心樞紐的數據量直接相關。而解決的辦法，就是在數據到達樞紐之前，盡可能過濾掉其中多余的部分，這就需要借助邊緣計算系統，在盡可能接近數據采集來源的地方分析輸入數據。

當然，這些邊緣計算系統能夠實現這種改變的前提，在于它們自身必須具備高能效，而新一代的RISC-V處理器恰在此時悄然面世。這些處理器能夠實現三倍于其他指令集架構(ISA)設備的單位性能能效。

邊緣ML中的RISC-V：指令更少，功耗更低

ML與邊緣計算的融合，使智能設備獲得了自主決策和實時適應的能力。對這類數據處理層次的需求與RISC-V處理器技術的進步不謀而合，后者已經應用到了以下聯網邊緣應用中：

●   可穿戴設備：配備RISC-V處理器的健身追蹤器可在設備上執行活動識別和健康監測，實時向用戶提供個性化的建議和反饋。

●   智能樓宇：RISC-V處理器已經運用到樓宇自動化設備中，這些設備可以實時執行物體檢測、異常識別、智能自動化和安全防護。

●   機器人：配備RISC-V處理器的工業機器人可以實時處理圖像和檢測物體，從而適應不斷變化的環境，并自主執行復雜任務。

RISC-V將在轉變各種應用場景的過程中持續發揮關鍵作用，這部分源于它具有開放、標準化的ISA以及高計算效率，可簡化復雜AI算法在邊緣設備上的實現。這種效率源自RISC-V架構最基本的構件：指令集。

RISC-V以簡化的ISA為基礎，具有一套基本的整數指令（RV32I或RV64I），同時處理器架構師可以添加可選擴展，以適應各種使用場景。其中，有兩個關鍵性的擴展顯著提高了RISC-V處理器的ML運算能力：

●   向量擴展 (V)：該擴展提供了向量運算支持，這對高效矩陣乘法和許多ML算法中的基本運算而言是至關重要的。向量擴展可以讓處理器在多個數據元素上同時執行多種運算，從而顯著提高性能。

●   壓縮擴展 (C)：該擴展引入了壓縮指令，編碼所需的位數更少，因此代碼量更小、內存占用更低。這對內存資源有限的邊緣設備尤為重要。

結合這些擴展，RISC-V處理器可在執行ML工作負載時實現高性能和高效率。RISC-V處理器IP公司SiFive正是借助向量擴展和其他微體系結構創新，實現了比競品高30%至40%的能效。^[1]

實際上，有研究表明，RISC-V設備在CPI方面往往優于大多數現有指令集架構，這里的CPI是指執行一條指令所需的平均時鐘周期數。^[2]這些測試表明，RISC-V設備有能力在保持熱效率的同時，在更長的時間內執行復雜的ML任務。

RISC-V生態系統和邊緣ML工具

RISC-V的模塊化ISA尤其適合開發緊湊型高能效處理器。它的指令集更加直接，有助于優化設計、縮短芯片設計和驗證時間、降低成本，當然還能降低功耗。

要在終端系統中實現所有這些優勢，最終還是要靠開發人員。RISC-V技術為何能在邊緣計算環境中得到快速應用？基于開放標準的處理器硬件，以及圍繞它而產生并且共同成長的軟件和工具生態系統，可謂功不可沒。

LLVM和GCC等流行的編譯器現在都支持RISC-V，可確保生成的代碼針對目標處理器進行優化，包括對ISA擴展的利用。與此同時，TensorFlow和PyTorch等流行的ML框架也正在向RISC-V移植，一眾嵌入式軟件企業也貢獻出了自己的ML庫、框架和中間件。

例如，Antmicro和Google Research合作為基于RISC-V的邊緣ML應用開發了快速原型設計和投產前 (pre-silicon) 開發解決方案，該解決方案由Renode仿真框架和Kenning裸機運行時組成（圖1）。這種聯合解決方案可以讓ML模型運行在模擬的RISC-V硬件上，幫助開發人員加快工程開發周期。最終，在投入昂貴的芯片制造工序之前，就可以對整個技術棧進行評估和優化。

圖1 Antmicro與Google Research合作推出的RISC-V仿真框架。它為加速ML開發提供了硬件/軟件協同設計流程 （圖源：作者）

當然，RISC-V和ML開發工具都還有有改進空間。在這些生態系統共同發展的過程中，仍有一些挑戰需要克服，包括以下方面：

●   成熟度：與更加成熟的架構相比，RISC-V生態系統相對較新，因而經驗豐富的開發人員并不多，可供使用的工具和庫也不夠全面。

●   標準化：盡管有RISC-V International組織為供應商之間的合作和創新奠定基礎，但在開放的生態系統中，產品的實現方式一定是多種多樣的，這可能會帶來架構碎片化和兼容性問題。持續的標準化工作對于維持平穩統一的開發流程至關重要。

●   硬件可及性：針對ML任務優化的商用RISC-V處理器市場仍然很有限。不過，隨著需求的增加，硬件格局也將隨之發展和擴大。

要應對這些挑戰，就需要業界領導者、研究機構和開源社區開展合作與投資。我們沒有任何理由認為業界或開源和開放標準社區會停止向RISC-V生態系統加以投入，也就沒有理由認為RISC-V技術會停止在高能效邊緣應用領域的發展。

RISC-V塑造邊緣ML的未來

從實現的角度而言，精簡指令集計算機 (RISC) 和復雜指令集計算機 (CISC) 之間的爭論在很大程度上已經過時。現在，CPU的效率和性能主要取決于它的微架構，而架構又是通過其ISA和用于制造物理芯片的制程節點來實現的。

隨著RISC-V和邊緣ML市場的發展，我們將持續見證硬件創新和更加專業化的RISC-V處理器。這些處理器可能會包含專用的加速器、優化的內存架構和其他各種功能，以提高執行ML工作負載的整體性能和效率。

這些新增功能將繼續拓寬采用RISC-V的邊緣設備的應用領域，為其在從智能家居和醫療保健設備到工業自動化系統和自動駕駛汽車等各個領域的部署鋪平道路。憑借如此廣泛的應用范圍，基于RISC-V的處理器技術將持續作為智能、互聯邊緣ML系統的基本構件——這一趨勢已在多個領域的實際應用中占據主導地位。

隨著RISC-V生態系統不斷成熟、開發人員對該架構日益熟悉，更多的創新應用將不斷涌現，實現更加出色的ML應用。未來將是智能、互聯和高效創新的時代。

參考資料

[1] SiFive website, n.d., accessed February 16, 2024, https://www.sifive.com/.

[2] Wajid Ali. "Exploring Instruction Set Architectural Variations: x86, ARM, and RISC-V in Compute-Intensive Applications," Engineering: Open Access 1, no. 3, (2023):157–162.

作者簡介

Brandon是一位有超過十年經驗的深度技術記者、講述者和技術作家，從軟件初創公司到半導體巨頭都是他曾經報道過的對象。他關注的領域包括嵌入式處理器、硬件、軟件和工具，因為它們都與電子系統集成、物聯網/工業4.0部署和邊緣人工智能等用例有關。他還是一名出色的播客、視頻博主、活動主持人和會議發言人，并曾在多家電子工程貿易出版物中擔任主編和技術編輯。Brandon在不出席B2B技術受眾的大型活動時，會通過電視指導菲尼克斯地區的體育特許經營公司。