一年前，當我們提出有關邊緣計算的展望時，該領域才剛剛開始萌芽。去年，我們針對開源技術的迅速發展以及在邊緣部署機器學習（ML）所需的不同編程范例開展了演講。

除了數據科學家，很少有公司在其產品中積極深入地整合機器學習技術，因此，邊緣計算的優勢只得到了定性認可。

我們在這里提到的邊緣計算，其優勢包括節能和減少延遲。因為對數據進行云處理，云存儲的成本高昂，且許多情況下帶寬也受限，從而限制了將數據傳輸到云端利用人工智能開展決策。

此外，在邊緣節點利用人工智能做出快速決策，邊緣計算還可以帶來更好的用戶體驗。用戶向云端發送和在云端存儲的數據通常會因為對隱私和安全問題的擔憂而存在限制。

如今，在看到邊緣計算在實際系統上的部署并了解具體應用要求后，我們可以切身定量地感受到這些好處。

對每一單位電能“斤斤計較”

體會邊緣計算的好處，能耗和性能是最常用的評估指標。與將數據傳輸到云端的成本相比，更多工作能夠使用既有的能量在本地的邊緣節點完成。

我們以MobileNet為例（有關MobileNet的更多內容在稍后做詳細介紹），這是一種用于對象分類的熱門神經網絡（為了避免長達數頁的分析，這里進行了高度簡化）。

拿MobileNet的一個版本舉例，譬如MobileNet_v1_1.0_224，需要大約5.59億次乘積累加（MAC）計算和50,176像素（224x224）的輸入圖像尺寸。保守一點，假設GPU上的10次MAC要耗費100皮焦耳，則559次MMAC將耗費大約0.001焦耳。與之對比的是，通過LPTE將圖像上傳到云端需要花費約0.02焦耳（假設每個像素8位且圖像未壓縮）。換句話說，與處理圖像相比，傳輸所需的能量增加了一個能量級，而在云端，神經網絡模型上的推理仍必須執行（在更加昂貴的設備上執行）。

對社會的好處

對于許多客戶而言，機器學習是新領域。經常有人問我們“機器學習適用于我的應用嗎”？當然，我們的回答是“看情況而定”。有一些基本的前提條件，如物理接口（例如，攝像頭、麥克風、傳感器）、收集數據和為數據加標簽的能力（用于模型訓練）以及確定機器學習是否真的能為該應用帶來價值（即刺激產品銷量，帶來金錢價值）。在這些前提條件均滿足的情況下，我們認為或多或少的機器學習能夠被應用于非常廣泛且多樣的領域種，其中最有趣的是有益于社會或能夠提升用戶體驗的應用。

特別是隨著人們對氣候的關注加深，機器學習有價值的應用領域之一，是在農業中使用機器學習來監控和節約用水量、開展農藥的針對性噴灑、將無人機應用于作物分析中，這些應用都是為了提高生產力，最大限度減少全球食品生產帶來的影響。機器學習還可用于提高應用的工業生產力，如通過目視檢查對食品質量進行分類、預測性維護與異常檢查以及加強設備操作員的安全。

另一個非常熱門的應用領域是使用機器學習來確保安全訪問，這對于家用門禁系統、商用安全系統，如對安全區域的訪問以及攔截或允許用戶接觸重型機械操作這一系列應用都具有非常重要的意義。在這些情況下為了加強安全訪問，門鎖或用戶識別型的產品會同時驗證兩個參數來判斷是否允許訪問，即同時應用人臉和語音識別或其他生物識別方法。通過使用活體檢測，可進一步增強人臉識別，以防止欺騙攻擊。

公共安全已成為當代備受關注的一個問題，而機器學習將成為其很好的解決方案。例如，基于機器學習可以開發這樣的應用程序，讓機場、地鐵站臺或其他公共場所的安保攝像頭來確定古怪的行為模式或檢測是否有人遺落包裹或行李。如果出現以上情況，則系統可以做出恰當的響應，例如，將這一情況甚至具體發生的地點通知有關部門。另外，基于攝像頭利用機器學習，還可以計算城市交通系統中十字路口的車輛數、監控車流和調整紅綠燈時間——這不僅為駕駛員提供了便利，還能夠幫助提高駕駛效率。

在邊緣設備中實施機器學習是算法和處理解決方案領域巨大進步的結果。然而，直到ImageNet大規模視覺識別挑戰賽在2010年拉開帷幕，機器學習的時代才真正開始發展。這一挑戰賽一直以來的目標是預測包含1000個可能的對象類別之一的照片的內容。之后，AlexNet誕生，現在看來AlexNet有點過時了，但仍用于評測（由于其準確度較低，現在已通常不用于實際應用）。AlexNet的發展帶來了新型的分類模型拓撲，如VGG、ResNet和Inception。

正如我在前面提到的，MobileNet是最近出現的新技術之一，由于其較小的尺寸與合理的準確度而倍受青睞。此外，通過使用遷移學習來針對特定對象類進行微調，可提高這些模型的準確度。

隨著算法發展以及支持它們的訓練框架和推理引擎的巨大進步，處理能力得到提升。雖然機器學習加速器正逐漸成為常態，嵌入式系統開發人員仍努力在傳統設備中部署機器學習，從低成本MCU到包含多個CPU內核、GPU與DSP的高度集成應用處理器，覆蓋范圍十分廣泛。

現如今我們可以基于一個2美元的MCU實現一套人臉識別解決方案，該解決方案可在略大于200毫秒的時間內執行推理，且準確度高達95%，這是多么令人驚訝。

如果進一步提高處理器性能以及內存容量，就能夠增強邊緣設備處理更復雜應用（如上所述）的能力，想象一下，如果邊緣設備的機器學習性能增加幾個數量級，您可以做些什么？

推動邊緣計算發展

我們相信，我們的行業距離實現機器學習的所有潛力還有很長的路要走。就此而言，工業、消費電子、物聯網和汽車應用的大多數系統開發人員仍不理解機器學習目前能夠如何增強其產品。但是，機器學習不只是一時的潮流，我們已經證明了其對社會和工業大有裨益。

展望未來，我們將看到越來越多的處理器集成機器學習加速。我們還將看到開源工具和庫的大幅增加，以支持機器學習發展。通過機器學習技術在邊緣設備的積極部署，將會給數據分析和集體知識分配帶來巨大的改革，而我們正是這一改革的見證者。

*本文內容轉載自New Electronics，原文標題為“Edge Computing from Concept to Reality”。