在灣芯展SEMiBAY2024《HBM與存儲器技術與應用論壇》上，億鑄科技創始人、董事長兼CEO熊大鵬發表了題為《超越極限：大算力芯片面臨的技術挑戰和解決策略》的演講。

熊大鵬博士提出，在AI大模型技術的推動下，算力迎來需求拐點，硬件架構將成為滿足算力需求的關鍵路徑之一，未來算力增長將以存儲單元為中心。

大模型時代的機遇與挑戰

在AI大模型時代，隨著數據、算力、參數量的不斷提升，模型能力顯著增強。熊大鵬博士指出，大模型已經從量變逐漸演變為質變，當模型體量足夠大時，會出現類似人類“開悟”的涌現能力，大模型的推理能力將顯著提升。這一變化預示著AI應用的最后一公里即將打通，業務落地將推動對AI計算能力的需求迎來拐點。

Omdia最新報告《云計算和數據中心人工智能處理器預測》顯示，用于云計算和數據中心人工智能的GPU和其他加速芯片的市場規模已從2022年的不到100億美元增長到2024年的780億美元，并預計到2029年將達到1510億美元。然而，2026年市場可能會出現一個明顯的拐點，增長動力將從技術采用轉向人工智能應用需求的變化。

此外，IDC預測，未來的人工智能服務器將注重提高計算能力和處理效率（能效比），以適應更復雜、更大規模的人工智能應用。預計到2027年，用于推理的AI算力占比將達到72.6%，未來有望達到95%為推理，5%為訓練。

應用落地需要硬件架構突破

然而，現有的芯片硬件性能提升速度已難以滿足算法模型急劇增長的算力需求。摩爾定律，這個曾經指導半導體行業發展的黃金法則，如今正面臨前所未有的挑戰。國信證券經濟研究所報告指出，大模型參數規模每18個月增長35倍，而摩爾定律下的芯片僅增長2倍。因此，探索和發展新的硬件架構成為算力突破的關鍵路徑之一。

熊大鵬博士強調，在現有的硬件架構下，目前AI芯片面臨著“三堵墻”問題：存儲墻、能耗墻和編譯墻。存儲墻是指存儲器的數據訪問速度跟不上計算單元的數據處理速度，導致性能瓶頸的問題。

同時，由于存儲墻的存在則帶來了能耗墻和編譯墻的問題。能耗墻是指隨著芯片性能的提升，能耗和散熱問題成為限制進一步性能提升的主要因素。編譯墻則是隨著AI模型的復雜性增加，編譯器需要處理的數據量和計算任務也急劇增加，這使得靜態編譯優化變得非常困難，手動優化又消耗了大量時間和成本。

存算一體開啟算力第二增長曲線

面對這一挑戰，億鑄科技選擇創新，用“存算一體超異構”架構這一全新的芯片設計思路，極大地減少了數據搬運的延遲，提升了整體的計算效率和能效比。

熊大鵬博士指出，想要打破AI芯片“三堵墻”，就需要從算力的第一性原理（阿姆達爾定律）來著手，將數據搬運量大幅下降，使得F值接近于0，才能保證有效算力密度線性增長。目前業內主要存在兩種解決方式：一種是存內計算，另一種是近存計算。

存內計算是通過將存儲和計算功能融合，減少數據搬運延遲，提升性能和能效。在理想狀態下，F=0，能夠實現存儲與計算無縫融合。近存計算則是將存儲單元和計算單元通過先進封裝集成在一起，增加訪存帶寬、減少數據搬移時延，以提升整體計算效率。

熊大鵬博士強調，通過存算一體架構等技術，可以突破傳統計算模式的瓶頸，實現更高的有效算力，打破有效算力的天花板。未來，以算力單元為中心的時代即將結束，算力第二增長曲線將以存儲單元為中心。

結語

熊大鵬博士表示，億鑄科技自成立以來，始終致力于通過存算一體，提供貢獻更具性價比、更高能效比、更大算力發展空間的AI大算力芯片發展新路徑。2023年3月，面對ChatGPT等大模型帶來的AI算力挑戰，億鑄科技首次提出“存算一體超異構”，為大模型時代AI大算力芯片發展提供全新思路。

未來，隨著AI技術的不斷進步，算力的需求也在不斷增長。億鑄科技將通過創新的存算一體架構，為AI芯片的發展提供新的方向。在大模型時代，億鑄科技的技術和產品將為AI技術的發展提供強大的支持，推動整個行業向前發展。隨著億鑄科技技術的不斷成熟和應用的不斷擴展，我們有理由期待，AI芯片技術將迎來一個新的發展階段，為科技進步做出更大的貢獻！