在OpenVINO? 工具套件發布五周年之際，英特爾開展OpenVINO? DevCon中國系列工作坊2023活動，旨在通過每月一次的工作坊，持續助力開發者系統學習、穩步提升。基于此，英特爾成功舉辦了首期以“煥然五周年·瞰見新特性”為主題的 OpenVINO? DevCon 2023系列活動，并在此次活動上發布了功能更加強大的全新英特爾^?OpenVINO? 2023.0版本，以期在更大程度上幫助 AI 開發者簡化工作流程，提升部署效率。

英特爾中國區網絡與邊緣事業部首席技術官、英特爾高級首席 AI 工程師張宇博士表示：“AI技術的每一次創新突破都會為開發者帶來全新機遇與挑戰。在AIGC的浪潮中，英特爾持續為開發者賦能，通過打造和迭代以OpenVINO?工具套件為代表的創新產品，化解各種AI應用場景下的開發難題，優化開發體驗，充分釋放開發者的創新活力。”

作為一款深度學習推理工具，OpenVINO?已幫助數十萬開發者大幅提升了AI推理性能，使其僅憑借幾行代碼即可實現高性能“一次編寫，任意部署”，并自動為開發者選擇最佳硬件配置，提升開發效率。由于OpenVINO?能夠使訓練好的神經網絡模型在不同硬件平臺上進行高效且準確的推理，這項技術已被廣泛應用于教育、零售、醫療和工業等各個領域，為行業客戶提供了高效的深度學習推理技術，帶來了巨大價值。例如，在試卷批改場景中，學生和老師在鋪有點碼試卷上書寫的筆跡可通過智慧筆進行實時搜集，隨后分別被上傳到云端服務器上。云端渲染服務器會將筆跡渲染成圖像，并進一步通過目標檢測模型和 OCR 模型檢測識別，將書寫內容轉換為文本，最后將識別結果與題庫進行綜合整理，生成作業報告。老師可以基于作業報告，針對學生進行個性化教學。在此過程中，通過 OpenVINO? 精度感知而量化出的模型推理速度相比于浮點模型有十幾倍的提升，且量化模型的召回率和準確率與浮點模型相當，在滿足精度要求的情況下，達到了推理實時性的要求。

自 2018 年首發 OpenVINO? 工具套件以來，英特爾密切關注市場需求，著眼未來發展趨勢，持續迭代更新，將其對模型的支持從計算機視覺擴展到自然語言處理，不斷賦予其更高性能，使其更加易用、更加靈活、更加開放和更加全面。英特爾基于此次活動發布的 OpenVINO?  2023.0 版本在以往的基礎上，新增了以下優勢：

●   更多的集成, 最大限度減少代碼變更：OpenVINO? 2023.0使從訓練模型轉移到部署的過程變得更加輕松。在優化模型時，開發者無需離線轉換TensorFlow模型，而是可以自動進行。開發者可采用標準的TensorFlow模型，并將其直接加載到OpenVINO? Runtime或OpenVINO? Model Server中。當需要最大性能時，仍然鼓勵離線轉換為OpenVINO?格式。

●   更廣泛的模型支持：OpenVINO? 2023.0具備更廣泛的生成式AI模型（CLIP BLIP、Stable Diffusion 2.0等）、文本處理模型（GPT、Transformer 模型等）及其他關鍵模型（Detectron2、PaddleSlim、RNN-T等）的支持。開發者在利用GPU（CPU于2022年啟用）時不再需要更改為靜態輸入，這使其在編碼方面具有更大靈活性。與此同時，神經網絡壓縮框架（NNCF）成為量化工具的一種選擇。通過壓縮模型中的數據，可以更輕松地實現大幅模型性能改進。

●   出色的可移植性和性能：CPU設備插件現在在英特爾?第12代酷睿處理器及以上版本上提供線程調度，開發者可根據應用程序的優先級選擇在E核、P核或兩者上運行推理，根據需要優化性能或節能。此外，無論開發者使用哪種插件，OpenVINO?都將默認提供最佳性能格式。同時，OpenVINO? 2023.0還通過更高效的模型加載/編譯改進了GPU上的模型緩存。

除了針對 OpenVINO? 的持續更新迭代，英特爾還于近期發布了“英特爾? Developer Cloud for the Edge”平臺公眾測試版。該平臺可滿足開發者訪問英特爾最新架構 CPU、GPU、VPU 和 FPGA 等硬件資源的需要，無需配置即可調用英特爾最新 OpenVINO? 工具套件等其他軟件資源。同時，該平臺還支持容器化和裸機應用部署，可確保開發者獲得真實性能數據，加速人工智能方案開發、驗證與部署落地過程，提高應用開發效率和產品選型優化。“英特爾?Developer Cloud for the Edge”平臺將持續優化中國區用戶體驗，引入本地參考實現和相關邊緣設備，擴建基礎服務硬件以支撐更多用戶訪問，滿足不同用戶對測試設備多樣性的需求。

在創新產品的加持下，英特爾還正在與產業生態伙伴緊密協作，積極貢獻于標準化組織和開源組織工作。英特爾網絡與邊緣事業部 OpenVINO? 亞太區產品營銷及開發者生態總監王珅表示：“在國內，英特爾推動了多個開源項目，其中包括 OpenVINO?、oneAPI 等，這些項目為本土開發者和企業提供了更多選擇和支持。與此同時，我們還與國內廠商、創新企業和研究機構進行深入合作，共同探索和實踐網絡與邊緣計算的應用和創新，并積極參與各種開發者活動和技術峰會，為開發者提供更多技術交流和學習的機會。”

英特爾始終相信開發者是推動 AI 產業創新發展的核心動力。未來，英特爾將繼續秉承“水利萬物而不爭”的生態理念，擁抱開放、開源的力量，助力開發者在邊緣端基于英特爾軟硬件產品進行創新，予力 AI 規模化落地，推動千行百業數智化升級。