馮·諾依曼的技術挑戰

　　AI芯片需要滿足高效的數據訪問，以及深度學習下的新的計算范式，AI芯片在發展上，也遇到了一些瓶頸問題，特別是馮·諾依曼瓶頸。

　　在傳統“馮·諾依曼架構”中，計算模塊和存儲單元互相分離，數據從處理單元外的存儲器提取，處理完之后再寫回存儲器。每一項任務，如果有十個步驟，那么CPU會依次進行十次讀取、執行，再讀取、再執行，這就造成了延時，以及大量功耗花費在了數據讀取上。

　　大部分針對AI，特別是加速神經網絡處理而提出的硬件架構創新都是在和這個問題做斗爭。概括來說，目前的解決思路包括減少訪問存儲器的數量，降低訪問存儲器的代價。

　　AI芯片中的新興計算技術

　　新興計算技術包括近內存計算、存內計算，以及基于新型存儲器的人工神經網絡和生物神經網絡。

　　對于馮·諾依曼、CMOS工藝和器件瓶頸形成的AI芯片存儲、計算間的問題，神經形態計算是一種新的路徑。近些年，神經形態計算也用來指采用模擬、數字、數模混合VLSI以及軟件系統實現的神經系統模型。其將數字處理器當作神經元，把內存作為突觸，內存、CPU和通信部件完全集成在一起，采用模擬人腦神經元結構來提升計算能力。

　　而針對CMOS工藝瓶頸的解決思路，可以通過開發提供大量存儲空間的片上存儲器技術，并探索利用片上存儲器去構建未來的智能芯片架構。

　　神經形態芯片的最終方向

　　借鑒生物腦的互聯結構，神經形態芯片可以實現任意神經元間的互聯。即在指定規模的仿生神經網絡下，任意一個神經元都可以把信息傳遞給指定的另一個或多個神經元。如此強大的細粒度互聯能力是其他神經網絡/深度學習芯片目前還無法做到的。

　　神經形態芯片在智能城市、自動駕駛的實時信息處理、人臉深度識別等領域都有出色的應用。如IBMTrueNorth芯片可以用于檢測圖像中的行人、車輛等物體，且功耗極低(65mW)。它也可被用于語音、圖像數據集識別等任務，準確性不遜于CNN加速器芯片。此外，在線學習能力也是神經形態芯片的一大亮點。

　　AI芯片的存儲技術將被顛覆

　　近期，面向數字神經網絡的加速器(GPU、FPGA和ASIC)迫切需要AI友好型存儲器。

　　中期，基于存內計算的神經網絡可以為規避馮·諾依曼瓶頸問題提供有效的解決方案。

　　后期，基于憶阻器的神經形態計算可以模擬人類的大腦，是AI芯片遠期解決方案的候選之一。

　　人工智能芯片如果能有統一的終極算法出現，那么我們很可能會看到一個終極芯片出現。AI芯片是整個人工智能技術發展的基礎，也將是推動整個半導體領域技術進步的最重要的力量之一。

　　隨著人工智能和物聯網的持續快速發展，越來越多的應用需求和應用場景將不斷涌現。需求驅動的AI芯片技術創新將促進創新鏈與產業鏈更加緊密結合，推動開放合作、共享共贏的產業生態形成。

　　CMOS技術與新興信息技術的交叉融合，開源軟件到開源硬件的潮流漸顯，預示著我們將迎來一個前所未有的協同創新機遇期。

　　國內國外的AI芯片將成大趨勢

　　今年，國際、國內已經有多家芯片巨頭公布AI芯片計劃，也有多家AI芯片的研發公司獲得融資。

　　由寒武紀科技公司領頭，已經完成1億美元A輪融資，并由國投創業(A輪領投方)，阿里巴巴創投、聯想創投、國科投資、中科圖靈、元禾原點(天使輪領投方)、涌鏵投資(天使輪投資方)聯合投資，這輪融資之后，寒武紀科技已經成為全球AI芯片領域第一家獨角獸公司。

　　英特爾、英偉達和三星，Facebook、微軟、Google、IBM、蘋果、華為等科技公司都在積極布局AI芯片。芯片巨頭英特爾收購Nervana、Altera。其中，收購Nervana一舉被認為是要與英偉達開戰。英偉達在芯片領域的表現越來越好，為了研發AI芯片，還聘請了專門研究AI芯片的Clément Farabet。可見專業的AI芯片將是未來很長時間的大趨勢。