賽靈思為何用“軟件”來推動其自適應計算平臺
王? 瑩? (《電子產品世界》編輯)
本文引用地址:http://www.j9360.com/article/202003/410499.htm不久前,賽靈思推出了Vitis 統一軟件平臺,并宣布其重要組 件Vitis AI開放下載,使人工智能 (AI)和機器學習開發者可利用賽 靈思的高性能自適應計算平臺的加 速度。一家硬件平臺公司,為何重 磅推出軟件平臺?為此,電子產品 世界等媒體采訪了賽靈思軟件與 AI 產品市場營銷副總裁Ramine Roane (羅明)。
1 賽靈思整體的業務戰略及對計算的看法
所有的電子系統應該是自適應 的,就像有機物種一樣,這樣才能 跟上創新的速度。同樣,“所有的 硬件和計算應該是自適應的”觀 點,也得到越來越多的行業認可。
直到2000年之前,根據摩爾定律,業界還接受著芯片或硅工藝的 密度每18個月翻一番的速度,當時 所有的應用和軟件開發人員不用多 做什么,就等著新芯片出現。直到 2000年時,工藝方面的登納德縮放 比例定律(Dennard scaling)走到 盡頭,認為隨著工藝密度的進一步 翻番,頻率不可能再進一步提高 了,所有的CPU和計算機最多也就 到(2~4) GHz的速度,而且迄今維持了20年。為了提升所有的應用性 能,要進一步擴展,后來使用多核 CPU,因此,這個問題從硬件轉向 軟件(如圖1)。
之后出現了向異構CPU和加速 器的轉移,到目前為止,這種方向 是可行的。問題在于所有這些架構 包括CPU都是固定的,這就很難跟 上AI的創新速度。
賽靈思的思路是打造自適應的 平臺,非常靈活多變,而且賽靈思 的芯片也可針對不同的應用進一步 進行硬件的優化。所以現在開發者 就不用等著新芯片出來,就可以建立一些特定架構的應用。
賽靈思提供的解決方案,如何 追趕上像AI這樣的創新速度?從圖2可見,CNN等深度學習模型在 2012—2018 年發展的趨 勢,可看出 每 3 個月會 出現新的AI 模型,會取代之前的模型,一般是1年半到2年的時間來構 造1個全新的ASIC或GPU。
從圖2可見,藍色的,之前最 主流的是GoogLeNet,1年半到2年 后是ResNet,現在ResNet是最尖端 的技術,但是無法在原有的架構上 運行。賽靈思的器件以及可自適應 的硬件,就可以來構建這種特有的 架構。
2 Vitis和Vitis AI的特點
Vitis的名字來自于法語,意思 是生命力,解釋到中文有“至關重 要”的含義。 Vitis和Vitis AI開發工具可以助 力軟件開發人員和AI科學家,用 他們選擇的語言,例如C++進行開 發,也可以使用相關的架構和庫進 行開發。
1)Vitis 統一軟件平臺是針對 軟件開發人員的,包括AI的軟件開 發人員。
不過,對于軟件人員和AI人 員,賽靈思并不是那么知名,因為 過去長久以來,賽靈思的開發工具 主要面向硬件的開發人員。隨著賽靈思推出Vitis和Vitis AI,想要改變 人們對于賽靈思的認識——現在也 針對軟件開發人員(如圖3)。
而且軟件開發 人員的機會更多, 因為軟件人員的數 量大大高于硬件開 發人員。現在全球 硬件開發者可能是 一二十萬的規模, 而軟件開發人員是 數以幾百萬計的。 而且現在美國大學里學硬件開發的 已經很少了,大部分人選擇學習軟 件開發。賽靈思傳統的Vivado是針 對硬件開發人員的平臺,新推出的 Vitis和Vitis AI是針對軟件開發者以 及AI科學家的。
2)Vitis統一軟件平臺的特點 是統一了所有應用平臺的開發,包 括:① 把AI和傳統的軟件開發統 一起來。②把云和邊緣也都統一起 來,包括終端計算以及邊緣和云 計算,不同的架構全都統一起來。 ③可以使用統一的語言進行異構的 加速。
賽靈思現在也在進行一個戰略 轉型:從傳統硬件公司轉型成為軟 件的平臺公司。賽靈思的理念是擁抱開源,把免費工具貢獻給大 家。現在賽靈思還有開源庫,例如 Github,還有SRT的運行庫,有AI 模型的例子,都是經過優化的,可 以在FPGA上運行,還有賽靈思收 購深鑒科技公司獲得的技術。
實際上,Vitis和Vitis AI是拋磚 引玉——采用免費的模式,主要從 硬件賺取利潤。
一個問題是:在深度學習加速 方面,雖然現在FPGA成長快,但 是在AI培訓方面,主流的還是GPU 居多,一方面是因為GPU硬件性能 高,另一方面,英偉達在軟件工具 方面針對各個垂直領域做了很多工 作。那么,Xilinx推出Vitis平臺之 后,是不是有助于加速到各個垂直 應用的進程?
Ramine Roane解釋道,GPU在 AI培訓上的市場份額很大,但在AI 的推斷上面效率并不是很高。AI推 斷最大的市場份額還是由CPU占據 的,不過現在CPU加速的效率還不 高,例如在邊緣的一個案例是北京 小馬智行公司的自動駕駛,時延是 一個很關鍵的問題,GPU最大的問 題是時延太高了。不過,過去人們 認為FPGA有點難用,需要用硬件 開發,隨著Vitis、Vitis AI的推出, 這個難度會降低。
本文來源于科技期刊《電子產品世界》2020年第03期第89頁,歡迎您寫論文時引用,并注明出處。
評論