AMD為GPU做的HBM高帶寬顯存方案

　　動態調整頻率則是通過軟硬件動態調整存儲器的讀寫頻率，來降低訪問調度的隨機性，實現更多預訪問，讓訪問變得更有序，進一步提升訪問效率，進而降低延遲。此種手段實施并不簡單，并且理論上提升的幅度十分有限，雖然可以一定程度上優化，但并不足以應付未來AI場景的百倍千倍數據吞吐，畢竟每小時TB級別海量數據才是AI世界的真實常態。

　　將存儲結構盡量靠近核心，做成片上存儲也是一種熱門思路。精簡的訪問路徑使得邏輯核心與存儲的訪問精度得到顯著提升，盡可能利用工藝極限提升存儲器的訪問效率。這種方式的理論上可以在減少訪問延遲5-10倍以上，這種量級的優化進步對比之前的幾種方式就來得非常可觀。

　　在思路和技術兩個維度發現傳統芯片的“存儲墻”瓶頸之后，下一步就是從思想和技術兩方面進行突破，這也就引出了我們今天的核心“存儲優先架構”。

　　“存儲優先架構”原理和優勢所在

　　簡單來理解，存儲優先架構實際上就是片上存儲技術+架構思想革新，是技術手段變革和思想革新的雙重結合。

　　之前我們已經提到了片上存儲這種設計方式的好處，它能夠帶來成倍的存儲訪問效率提升。但是片上存儲這套思路實際上技術本身沒有對架構思想進行變革，依舊是按照馮·諾依曼架構來的一套體系，雖然得益于片上存儲技術，訪問的效率大大提升了，但是由于架構不變，訪問的步驟依舊較多，這帶來了存儲效率的浪費。

　　于是，在片上存儲技術的基礎上，探境科技提出了一種顛覆性的思想，以存儲為中心帶動計算，重新設計整個AI芯片的架構——即“存儲優先架構”(SFA)。

　　探境科技提出的“存儲優先架構”

　　上圖是存儲優先架構的示意圖，通過對比馮·諾依曼架構示意圖，我們從上圖可以觀察到存儲架構包括數據層、計算層和控制層組成，它們以存儲調度為核心邏輯形成一套計算架構，數據在存儲之間的遷移過程中同時完成計算，計算就那么自然而然隨著數據轉移同時進行了。理論上這種設計方案的能效能提升10-100倍，計算資源利用率提升40-50%，同時對DDR的占用率也能夠實現大幅度下降。這就好像從前城里10萬老百姓辦手續，不但路遠，還要跑很多趟。現在百姓雖然已經多達500萬，但是提高了辦事效率，辦事窗口離家門口更近了，還允許一次性辦齊。

　　據了解，目前探境科技全新的存儲優先架構并不僅僅只是停留在理論層面，而是真真正正已經流片，并即將推向商用領域。在今年10月份舉行的IC WORLD大會上面，探境科技發布了即將推出的語音、圖像序列AI芯片和IP授權。這些產品可以被用在AI計算、邊緣計算、安放前端協處理、語音喚醒、命令詞識別、語義理解、通用降噪、自動駕駛等多個前沿領域。

　　存儲優先架構應用到實際能帶來什么體驗革新?舉個例子：

　　目前智能音箱一個使用痛點就是語音控制和反饋的延遲。智能音箱需要聽到用戶的喚醒詞進行喚醒，并在得到指令內容之后，將內容的聲音數據回傳到云端，進行分析和處理得到結果之后再返回到智能音箱播放出來。這中間由于信號、網絡延遲等一系列問題就會導致最終用戶體驗質量的大幅下降，等待2、3秒也就成了常態。如果智能音箱采用存儲優先架構的AI芯片，能夠在本地接受內容之后直接處理為結果，不需要回傳云端和大數據比對、分析和運算，實現高效的邊緣計算，這將根本性提升最終的用戶體驗。智能音箱如是，自動駕駛如是，智慧新零售如是，智慧城市方方面面都離不開完整的AI、云計算、邊緣計算的配合。

　　摩爾定律注定失效，存儲優先架構或是AI芯片的未來

　　從某種意義上來說，摩爾定律是基于馮·諾依曼架構提出的，而馮·諾依曼架構本身的結構路徑基于指令集模式的處理邏輯，存在對于海量數據，尤其是不規則海量數據處理的先天短板。所以不管是摩爾定律和還是x86基礎的馮·諾依曼架構，它們隨著人類社會發展以及數據量的不斷攀升，是注定必將失效的。或者反過來說，我們海量數據洪流的時代漸漸淘汰舊的芯片規則約束，正催生芯片架構進行一次大的革新。

　　存儲優先架構以其邏輯步驟精簡+片上存儲技術手段的方式，得到雙重性能提升，實現了以存儲調度為核心的計算架構，這的確是一次前所未有的創新實踐。隨著探境科技流片量產和隨后的應用場景部署，存儲優先架構的AI芯片必將幫助終端設備實現更多自動化的、低延遲的邊緣計算，以改善最終的智慧生活體驗。關于存儲優先架構的AI芯片產品以及未來的具體應用進展，我們不妨持續關注拭目以待。