突破AI芯片限制 IMEC攜手格羅方德破馮諾伊曼瓶頸
比利時微電子研究中心(IMEC),日前與半導體代工廠格羅方德(GF)公開展示了全新AI芯片硬件。IMEC模擬內存式運算(AiMC)架構及格羅方德22FDX制程為基礎的前提下,這款全新芯片經過優化,并于模擬環境中的內存式運算硬件進行深度神經網絡運算。在達到高達2,900TOPS/W的創紀錄高能源效率后,加速器被視為低功率裝置進行邊緣運算推論的關鍵推手。這項新技術在隱私保護、安全性以及延遲性等各種優勢,將為智慧喇叭、自駕車諸多邊緣設備的AI應用程序帶來沖擊性的影響。
本文引用地址:http://www.j9360.com/article/202007/415811.htm自數字計算機年代起,處理器早與內存分道揚鑣。使用大量數據的作業時,需要從內存取回一樣數量的數據元素。此一限制又稱「馮諾伊曼瓶頸」(von Neumann bottleneck),會拖慢實際的指令周期,特別是在神經網絡這種大量依賴向量矩陣乘法的運算中。這些運算除了仰賴數字計算機的精準度外,還需要大量的能源。然而,若以準確度較低的模擬技術執行向量矩陣乘法,神經網絡一樣可以獲得精確的結果。
為了因應這個挑戰,IMEC透過旗下的產業聯合機器學習計劃,與格羅方德等產業伙伴開發了一套新架構:在靜態隨機存取內存單元(SRAM cells)中執行模擬運算,藉此消除「馮諾伊曼瓶頸」的限制。以此開發的模擬推論加速器(AnIA),則以格羅方德的22FDX制程半導體平臺為基礎,具有出色的能源效率。特征測試顯示,其能源效率高達2,900 TOPS/W。微型傳感器及低功率邊緣設備中的圖形識別,一般得仰賴數據中心的機器學習,如今可透過此一高效能加速器在地執行。
IMEC機器學習計劃主持人Diederik Verkest表示:「AnIA成功的設計定案,代表我們已朝模擬內存式運算的驗證邁進重要一步。此一參考實作(reference implementation)不僅說明了模擬內存式運算的可行性,也代表它們的能源效率要比數位加速器好上10到100倍。在IMEC的機器學習計劃中,我們會針對模擬內存式運算,調整現有及新興的內存裝置并予以優化。這些前景看好的結果鼓舞我們進一步發展這項技術,目標是讓效率進化至10,000 TOPS/W?!?/span>
格羅方德運算暨有線基礎架構的產品管理副總裁Hiren Majmudar也指出:「格羅方德利用自家的低能源、高性能22FDX制程技術平臺,與IMEC密切合作,并推出全新的AnIA 芯片。這款測試芯片能更進一步地向業界展示22FDX 制程技術如何大幅降低能源密集型AI及機器學習應用的功率耗損?!?/span>
放眼未來,格羅方德將把可在22FDX平臺上執行的AiMC作為亮點,在AI市場上推出一套差異化解決方案。格羅方德的22FDX 采用了22nm FD-SOI 技術,可在極低能源的條件下有出色的表現,且足以在0.5伏特極低能源及每微米1微微安培的極低待機漏電流下運作。搭載全新AiMC 功能的22FDX,目前已進入開發階段,由格羅方德具備最先進300mm生產線的德國德勒斯頓Fab 1晶圓廠負責。
評論