當芯片規格發展到7nm時，人們對摩爾定律的質疑聲越來越大，也開始恐慌未來芯片設計該如何發展？不僅是芯片體積的問題，隨著計算量的增加，數據處理單元的數量也在不斷上生，僅靠單一芯片將很難滿足未來市場的需求，因此，必須轉換思路尋找新的解決辦法。有很多廠商選擇在板卡上集成多顆芯片協同工作，但這樣做就要面臨如何連通各種芯片，并且降低功耗的問題。后來人工智能的發展為一些芯片廠商帶來了新思路，他們開始設計神經網絡處理器，期望利用智能計算用一顆芯片完成大多數的工作量。但這其實是繞道而行，并不能真正解決。只有正面芯片間互聯互通的問題，才是真正的SoC設計。而NetSpeed利用人工智能完成了這一步跨越。

這群來自硅谷的工程師們經過7年的準備工作，推出業內首款以人工智能為基礎的SoC芯片內部互連解決方案Orion AI。該方案支持多播與廣播等先進特性，能極大提升人工智能SoC與加速器ASIC的性能與效率，可廣泛應用于數據中心、自動駕駛、AR/VR，以及先進視頻分析。Orion AI由NetSpeed經過硅驗證的Orion IP構建而成，這些Orion IP已經授權給地平線機器人、寒武紀、百度以及Esperanto等領先的人工智能公司。NetSpeed Systems大中華區銷售總監黃啓弘詳細解析了這款具有劃時代意義的產品。

NetSpeed Systems大中華區銷售總監黃啓弘

從人工智能思潮“大爆發”時起，電子圈內廠商就進入了一場思維較量的晉級賽。誰更能理解人工智能的含義？誰能率先掌握人工智能的核心架構和發展趨勢？誰又能將人工智能為己用？誰就能搶占先機。而目前人工智能的主要挑戰有三點：人工智能工作負載具備獨特性，在訓練側與推理側都需要大型矩陣乘法；人工智能架構具備獨特性，內核數量多，大量并行結構，點對點通信；極高帶寬要求，未來要求會更高。

“這些新SoC內部體現出的是一種新的數據流，”NetSpeed首席執行官Sundari Mitra說道，“一般來說，想實現快速有效的點對點數據交換，就需要大量的計算單元。傳統架構運行方式不同，采用中央存儲作為數據交換系統。而人工智能系統需要任意位置數據交換，這可以通過廣泛的接口而實現，并需要支持長突發傳輸。Orion AI的一個關鍵優勢就是能夠支持多重多播請求，并支持非阻塞傳輸。”

Orion AI在SoC設計中具有非常明顯的技術優勢：

s解耦架構：分層堆疊，每層均可擴展或收縮；

s可編程多播：最早也是目前唯一支持基于廣播推送的可配置多播網絡IP；

s非凡的服務質量（QoS）：以具備端到端QoS規劃的非阻塞路徑來控制帶寬與延遲；

s極致性能：萬億字節每秒（TB/s）吞吐量-數據帶寬高達1024位總線，2GHz+,1000個內核；

s終極效率：采用先進低功耗管理技術以提升能效；

s內置人工智能：利用先進人工智能算法，在解決方案空間搜尋最有效率解決方案。

Orion AI架構概覽

OrionAI由NetSpeed的圖靈機器學習引擎提供支持，該引擎使用監督學習來探索和優化SoC設計與架構。Linley Group首席分析師Linley Gwennap表示，這是一種以人工智能為核心的設計方法，“就像有一位隨時在線的建筑大師給出設計建議。處理器架構師可以采納圖靈的建議，然后花時間去解決SoC設計中的其他難題。”NetSpeed提供的智能設計環境從架構要求的規格書開始，助力設計師在數不勝數的設計方案中化繁為簡，開放設計空間探索以尋求最佳解決方案，并提供持續的設計反饋。