在通膨壓力與經濟低迷的影響下，全球有超過半數的企業正面臨嚴重的人力與技術缺口。在此同時，企業也面臨營運成本增加的壓力，IDC預測，AI的自動化發展將成為企業解決壓力的重要投資。企業自動化應用目前仍面臨AI應用擴展及協同串接的難題，并且在目前單模態的AI應用，已不足以滿足企業在實時決策、預測能力的需求。

放眼未來，能夠同步處理文本、視覺影像、音頻等應用的多模態AI，將有機會幫助企業解決面對的難題，提供更精準的自動化性能，跨越企業內部各種業務流程的決策串流障礙。多模態AI的自動化應用，已逐漸在智能能源與芯片開發設計上嶄露頭角。IDC預測到 2023 年，持續的人才不足與技術缺口將促使 35%的企業開始投資AI技能，并且預期在2026年將有40%的AI模型能涵蓋多模態的數據演算，這也成為未來企業展現營運韌性不可或缺的必備條件。

人工智能無所不在
然而，現階段人工智能發展所面臨到的兩大挑戰，包括了大量人為介入導致的偏差與效率問題，以及類神經網絡算法所帶來的信任問題。根據IDC研究指出，目前的人工智能技術只能算是弱AI，意味著只能應用在單一領域中。而這也讓下一代人工智能技術的發展，將朝向Omnipresent AI（無所不在人工智能）發展，讓人工智能可以真正做到算法融合、流程的自動化、以及虛實整合。在這樣的發展基礎下，人工智能將可望更有效率地應用在多種不同的虛實融合場域，也讓AI的應用能更多元普及。人工智能朝向強AI發展，也將使企業對于人工智能的需求大幅提升。

IDC預估到2024年，50%的結構化可重復性的事務，將可實現全面自動化。并且在未來10年內，達到人類僅需在旁監督，不用直接下指令，機器便能自行進行動作，并決定事務執行方式的產業運作目標。


 
圖一 : 現階段人工智能發展面臨到的挑戰，包括大量人為介入導致的偏差與效率問題，以及類神經網絡算法的信任問題。

行動神經運算三大要素
除了企業端的導入，為了達到無所不在的人工智能，為行動裝置導入AI能力與神經運算已經勢在必行，讓人工智能也能隨身帶著走。Arm資深業務開發經理暨首席應用工程師沈綸銘指出，對于行動裝置來說，神經運算最需要的要素有以下三點：

●機器學習推論（Machine learning influence） 的執行效率：在終端裝置提供有效率的神經網絡執行效能，是用戶導入的第一個關鍵。

●功耗效率：省電絕對是行動裝置持續的追求。在得到類神經運算之下，第二個要素就是降低功耗的需求，加速行動裝置類神經運算導入市場。

●軟件框架的支持：目前人工智能的訓練框架各不相同，導致終端裝置要執行類神經運算無法直接使用，需要額外人力成本進行模型轉換，同時也會造成模型經度損失。所以行動裝置執行類神經運算時，必須在項目規畫的初期，就選擇公開兼容于各種訓練框架的軟件方案。


 
圖二 : 企業開始運用集體智慧的力量來提高生產效率。

Arm架構神經運算特色
Arm架構是目前多數行動裝置所采用的運算核心。沈綸銘說，行動裝置上導入AI與ML伴隨了許多的挑戰，而Arm架構也針對這些問題，進行了以下的解決與優化。

●持續在CPU、GPU增加AI 運算的能力：目前大多數的機器學習都是在Arm CPU和GPU上進行處理，因此Arm持續發布新的效率與功耗改進項目，甚至可以在最小的終端裝置與傳感器上，運行機器學習模型。Arm機器學習解決方案結合硬件IP、軟件與人工智能開發框架，可協助指導設計人員為云端、邊緣與端點建構次世代創新、可攜式的人工智能應用項目。

●持續優化軟件效能整合度：Arm的機器學習SDK包含所有的Arm IP（CPU、繪圖處理器與 NPU），提供更好的機器學習效能。開放原始碼的SDK支持常見的框架與模型格式（例如Tflite、TFLiteμ、Android NNAPI、PyTorch與ONNX），因此可以快速整合及打造流暢的開發人員體驗。軟件可支持各種Arm處理器工作負載，只要開發一次就能部署到各個地方。

●協助算法以及終端用戶合作開發新的AI應用：Arm AI是多功能及可擴充的人工智能開發環境，結合各種IP 、工具、軟件及支持，可幫助生態系伙伴創新，開發新的AI應用。

沈綸銘說，Arm持續致力于提供于省電的運算架構。神經運算底層的行為，其實就是大量的矩陣運算跟數據的搬動，不論是Arm設計的CPU、GPU、NPU，都會在設計的初期就考慮終端應用場景對功耗的要求。也因為這樣的特色，使得許多合作伙伴也選擇采用整套的Arm Total Solutions for IoT。例如奇景光電的客制化圖像處理芯片解決方案就是采用了Arm Corstone-300，且無縫的執行于Arm虛擬硬件目標（AVH）之上，使其SoC更兼容于Arm生態系的軟硬件支持架構。而AVH即將擴展到第三方裝置平臺，將使開發流程更加順暢。這些都將能為開發人員大幅縮短開發流程與時間、可專注于特定使用場景，提升客戶的使用經驗。

另外還有開放的軟件框架支持。坊間神經運算架構方案多半采用封閉的軟件框架，導致可以導入的使用場景十分有限，無法滿足行動裝置所需的語音、影像，甚至是混合型（sensor fusion）的各面向應用場景。因此Arm在規劃神經運算軟件架構時，便意識到這個問題，在規劃CPU、GPU、NPU軟件架構時，便十分重視開源的軟件生態。

結語
隨著AI技術應用發展、終端智能裝置的增加，與企業數字轉型的浪潮推動下，IDC觀察到有越來越多的企業開始運用集體智慧的力量，搜集并啟用集群式的事物或機器，以提高生產效率、融合內部協作，達到知識管理與決策制定等目的。IDC認為這些多樣態的智慧終端，將經由中心化、去中心化、與異質化群體學習等方法，讓學習，預測，與行動更加快速有效。預期制造業、零售業、醫療產業將在未來最有機會導入群體智慧發展，逐步邁向全自動化，并創造更多產業發展機會。