近兩年AI芯片廠商不斷涌現，2021年熱度更甚，一方面科技巨頭們加大投入力度，另一方面初創企業們逐步商業化，并且參與者持續增加。

在2021世界人工智能大會期間，瀚博半導體發布其首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡，可實現深度學習應用超高性能、超低延時的推理性能，可顯著降低數據中心與邊緣智能應用的部署成本。據悉，SV100系列及VA1通用推理加速卡預計將于今年四季度量產上市。

瀚博半導體成立于2018年，今年4月28日完成了5億元人民幣A+輪融資。本輪融資由經緯中國和中國互聯網投資基金聯合領投，老股東紅點創投中國基金、五源資本、賽富投資基金、耀途資本、天狼星資本和元木資本跟投。

國內大廠們也動作不斷，今年上半年，百度宣布旗下昆侖芯片業務已成立獨立新公司，瞄準的也是云端AI通用芯片，第二代昆侖芯片已經流片成功，將于2021年下半年量產；字節跳動也表示在組建相關團隊，在AI芯片領域做一些探索；華為的昇騰生態在繼續展開，阿里含光芯片也已面市。

國外的英偉達、英特爾、AMD等更是在AI領域布局已久，尤其是英偉達在AI生態上建立了穩固的壁壘生態。

人工智能芯片的賽道依舊火熱，隨著持續的技術演進，全球范圍內各行業數據中心對推理算力的需求在快速增長，下游客戶多樣化的算力應用場景，催生了多樣化的AI計算加速芯片需求。那么，在這場算力平臺的競爭中，新興公司們如何走出差異化路線？云端推理芯片是不少公司選擇突圍的方向。

瀚博半導體創始人兼CEO錢軍表示，選擇推理端突破，一方面是因為市場需求，有數據顯示，2021年推理市場已經大于訓練市場；另一方面是因為GPU在推理側不是最好的構架，瀚博半導體有更好的DSA構架。

據介紹，瀚博SV100系列芯片的單芯片INT8峰值算力超200 TOPS，采用了自研的通用架構，支持FP16, BF16和INT8等數據格式，并可以實現眾多主流神經網絡的快速部署及計算機視覺、視頻處理、自然語言處理和搜索推薦等多樣化推理應用場景。同時，芯片集成高達64路以上H.264/H.265/AVS2的1080p視頻解碼，廣泛適用于云端與邊緣智能應用場景。

同時，瀚博半導體創始人兼CTO張磊還介紹道，瀚博的VastStream軟件平臺支持TensorFlow、PyTorch、Caffe2等常見的深度學習框架模型與ONNX格式的模型，通過高度定制的AI編譯器充分優化模型在瀚博硬件上的執行效率。

在架構等技術能力之外，商業落地非常關鍵，錢軍在接受記者采訪時談道：“SV100花了兩年半時間，我們找到了一個很好的伙伴快手，快手投了我們，并且合作非常緊密。同時，我們也在和其他國內外的廠商們談合作。”

錢軍也坦言，在兩年多的研發過程中，作為初創公司遇到非常多的挑戰，“包括整個框架設立可能都會是瓶頸，需要顧慮方方面面的問題，最重要的要從客戶的需求來看，構架要對。在理解客戶的需求，我們下了很多功夫。”

在AI芯片的爭霸賽中，國內的競爭者越來越多，在群雄并起的階段，格局還在不斷變化之中。