早在1956年，Allen Newell、Cliff Shaw和Herbert Simon合力制作了一個名為「邏輯理論家（The Logic Theorist）」的計算機程序。該程序由RAND Corporation資助開發，旨在模仿人類解決問題的技能，許多人認為它是人工智能（AI）的第一個范例。
時至今日，大語言模型（Large Language Model；LLM）已成為人工智能的代言人。LLM是一種計算算法，通過密集訓練來學習文本（TEXT）文檔中的統計關系，從而實現通用語言生成和其他自然語言處理任務，OpenAI的ChatGPT可能是最知名的示例。
盡管LLM非常有用，但它只是人工智能其中一個小眾應用；相比之下，把自動化系統收集的大量數據提供予機器學習（Machine Learning；ML）算法更加大有作為。ML是人工智能的一種應用，允許計算機在沒有直接程序設計或指令的情況下進行學習，從而不斷提高機器的智能。
全球互聯的物聯網能夠讓人們收集幾乎無限量數據，這些數據不僅可以提供給云端的計算機，還可以用來促進ML算法，從而為物聯網內數十億聯網設備提高智慧。這意味著，即使是最普通的物聯網設備也能不斷提升智慧，為未來的工業、商業、教育、醫療等領域帶來巨大潛力。
就拿最不起眼的冰箱來說吧，全世界有數十億臺冰箱，占全球總耗電量的12%。通過不斷向ML模型提供外部和內部溫度數據、柜內存放食物的數量、柜門打開的頻率，以及電網負荷較低時段等高級資料，智能冰箱壓縮機控制器可以快速適應使用模式，以減省能源使用和碳排放，這是非常美好的愿景。目前的挑戰在于如何將硬件和軟件結合起來以實現無縫運行。

 
圖一 : 通過不斷向ML模型提供各種數據，智能冰箱壓縮機控制器可以快速適應使用模式，以減省能源使用和碳排放。

向邊緣發展
1999年，當Kevin Ashton提出「物聯網（the Internet of Things）」一詞時，他對網絡的設想與今天的物聯網略有不同。Ashton預測數十億個廉價、小巧的傳感器將其數據傳送到功能強大的集中式計算資源，并進行繁重的計算操作。Ashton的預測很有遠見，但也有失算之處：通過網絡從許多設備發送連續數據是復雜、耗能且費用昂貴的事情。
如今，我們通過將物聯網的智慧分配到邊緣，最大限度地減少了網絡流量。因為當代物聯網設備的資源雖然難與云端計算機相比，但也已經能夠獨當一面，配備了專用應用處理器和充足的內存資源。這使得物聯網能夠支持廣泛分布的計算資源，其中的單個設備均能夠進行重要的邊緣處理。
在最基本的層面上，邊緣處理可讓物聯網設備對數據進行本地篩選，以確定哪些數據是不值一提，哪些數據則顯示情況正在發生變化并應當轉發做進一步分析。ML使得邊緣設備不僅能檢查數據是否超過默認閾值，還能推斷出變化的含義，然后采取相應措施。
Nordic Semiconductor戰略與產品管理執行副總裁Kjetil Holstad表示：「我們將這項全新功能稱為邊緣人工智能（Edge AI），它為物聯網產品帶來了一些關鍵優勢：可在本地實時處理輸入，因此無需使用帶寬通過無線鏈路發送原始數據，同時不會浪費時間等待云端的響應。其次，本地處理相比空中發送數據耗電更少，因而物聯網設備可以運行更長時間或使用更小的電池。」
監測機器軸承的溫度傳感器就是此類功能的示例。如果軸承溫度逐漸升高，該傳感器可以使用ML模型來推斷這僅僅是機器在預熱，無需擔心；若軸承溫度快速上升，則可能顯示潤滑出現故障，并觸發傳感器在發生損壞前關閉機器。
咨詢公司德勤在「預測性維護（Predictive Maintenance）」定位檔中表示：「數據是任何預測性維護引擎的動力。其質素和數量是分析根本原因和提前預測故障的限制因素。物聯網提供了大量精確數據，并與邊緣人工智能一起為預測性維護領域帶來了巨大的經濟潛力。」
德勤公司指出，每年非計劃性機器停機給工業制造商造成的損失估計高達500 億美元；實施預測性維護，每年平均可節省材料成本5%至10%；設備正常運行時間可延長10%至20%；總體維護成本可降低5%至10%；維護規劃時間可縮短 20%至50%。

 
圖二 : 通過在設備中添加邊緣人工智能，監測機器軸承的溫度傳感器可以使用ML模型來推斷機器預熱的狀況。

工程技術挑戰
利用人工智能和ML增強物聯網確實好處多多，但大規模實施這種技術卻充滿挑戰。當今許多先進的ML模型都需要大量的計算資源和功耗來執行推理（運行 ML模型并根據輸入的數據做出決策）。然而，當今大量的物聯網連接設備雖然能夠執行一些邊緣計算，但卻缺乏人工智能和ML所需的資源。
Tiny Machine Learning或TinyML是一種解決方案。TinyML是ML的一個分支，它簡化了ML技術，使其適用于電池供電、基于微控制器的嵌入式設備。TinyML使得小型物聯網傳感器能夠以實時響應速度執行ML任務。
TinyML使得當今的無線SoC能夠支持ML，而未來的新一代硬件將能夠運行更先進的ML程序。Nordic Semiconductor投入了數百萬美元經費進行研究，將這類硬件推向市場。
「我們設計了能夠以優化方式運行ML的低功耗SoC，不需要專用的ML加速器。關鍵在于將創新工程與最大數據處理能力和最小功耗相結合。」Holstad表示：「隨著物聯網中人工智能和ML不斷發展，對其提出的要求也會越來越高；這可能意味著未來超低功耗嵌入式設備將配備專用ML加速器內核。但現在，我們的高效SoC和SiP展示優化的力量，毋須加速器也可實現先進的ML。」
他以Nordic雙核nRF5340和新型第五代無線SoC產品nRF54H20為例，這些 SoC采用Edge Impulse的TinyML軟件。Holstad解釋道：「憑借nRF53和nRF54系列，Nordic成功地打破了處理能力和功耗之間的折衷權衡。這意味著開發人員可以立即獲得在電池供電SoC上支持高級ML所需的高處理能力和低功耗特性。Nordic還提供開展ML項目所需的全部開發工具和軟件。」

ML大放異彩
盡管面臨嚴峻的工程技術挑戰，但開發人員已經開始將帶有ML的物聯網產品引入商業領域。挪威公司Sensorita就是一個示例，該公司推出的智慧廢物管理解決方案基于Nordic公司nRF9160 SiP蜂巢物聯網產品和挪威生命科學大學研究的雷達技術，用于評估大型垃圾箱的裝載水平和內容物。
Sensorita執行長Ulrikke Lien表示：「客戶移動廢物處理箱，或者棄置與分類標示不同的廢物，使得廢物處理公司無法知道垃圾箱有多滿、里面裝了什么或何時應該取走。這給物流和生產計劃帶來了問題，而且不必要的回收操作也增加了二氧化碳排放量。」
Sensorita已借助一款結合雷達和GPS的堅固傳感器解決了這一問題。傳感器每小時多次獲取垃圾箱內部的雷達圖像，然后將這些圖像發送到Sensorita云平臺進行分析。通過利用在數百萬幅雷達圖像上訓練出來的ML算法，傳感器能夠估算出垃圾箱的滿載程度以及所裝載的主要垃圾類型。
nRF9160 SiP使用蜂巢網絡定位數據和GNSS三角測量法記錄每個垃圾箱的精確位置，并通過其LTE-M/NB-IoT調制解調器將傳感器數據傳輸到Sensorita云平臺。
Sensorita還利用ML優化卡車在城市中清空垃圾箱的路線，結果節省燃料、減少工時，并且降低碳排放。
更高效的冰箱、預測性維護和垃圾箱優化固然重要，但都屬于小眾產品。當ML在網絡中廣泛部署時，成果將無比巨大，例如對醫療保健的影響。像Nordic的nRF54H20這樣的無線SoC支持具有各種傳感器（如心率、心率變異性、溫度、呼吸頻率、血氧、壓力、疲勞和其他生理跡象傳感器）的穿戴式設備。這種穿戴式設備不僅適用于健身愛好者，還適用于老年人、成年人和兒童。
有了ML和蜂巢物聯網連接，穿戴式設備能夠同時持續監測多種生命體征。如果某些或所有生命體征出現變化跡象，穿戴式設備的ML模型就能判斷這種趨勢是微不足道的，還是嚴重的緊急醫療情況。例如血氧水平、心率、血壓和呼吸的突然變化顯示心臟問題迫在眉睫。如果情況嚴重，穿戴式設備還能夠通知急救人員，同時在其到達之前提供重要的數據。
這類設備可以減少醫院就診次數，同時優化對真正需要人士的護理，從而節省緊張的醫療預算，這將為全球節省數千億美元。
在依靠電池運行的低功耗嵌入式設備上執行ML的能力，將會改變物聯網，促使網絡變得更加智能、強大和靈活，還將帶來先前不可能實現的新型產品和應用。未來將會十分精彩，并且比人們想象的更快來臨，敬請大家拭目以待。