原創(chuàng):晏茜
資料來源:范俊希
本文旨在介紹英特爾推出的邊緣軟件中心。
1. 英特爾邊緣軟件中心——智能邊緣開發(fā)一站式資源
英特爾的邊緣軟件中心( ESH,Edge Software Hub )提供了一系列的應(yīng)用于各種邊緣應(yīng)用的一站式的邊緣計算軟件資源。這些軟件資源都包括 4 大模塊,分別是邊緣軟件、軟件平臺、使用案例、推薦硬件。
邊緣軟件包括英特爾自主研發(fā)的軟件,第三方的軟件,和開源的邊緣軟件。
基于這些邊緣軟件,英特爾開發(fā)出了應(yīng)用于各類垂直行業(yè)的軟件平臺,其實這些軟件平臺也是一些軟件堆?;蜍浖慕M合。不同的軟件平臺應(yīng)用于不同特定的行業(yè)場景,比如,計算機視覺的邊緣洞見平臺,工業(yè)互聯(lián)網(wǎng)的軟件動件平臺,用于車隊管理的軟件平臺,工業(yè)控制平臺,自主移動機器人的軟件洞見平臺。

使用案例是基于軟件平臺的基礎(chǔ)上,運用它的軟件框架,上圖是應(yīng)用層開發(fā)出來的一些實際落地的端到端的邊緣軟件解決方案。
最后是在客戶從軟件中心獲取到這些資源以后,英特爾會給出適用于他的使用案例的硬件推薦,這些硬件來自于英特爾的合作伙伴,比如 ODM、OEM 的硬件。
其實我們可以把邊緣軟件中心想象成一個線上的軟件商店,這些邊緣軟件包,軟件平臺,參考實現(xiàn),以及用例,都可以看作是商店中的商品。英特爾的用戶和開發(fā)者,通過他的軟件中心就可以下載這些使用案例,也可以看到整體的軟件架構(gòu)。在基于軟件架構(gòu)和使用案例的基礎(chǔ)上,我們可以對它進行二次的開發(fā),快速的把我們的精力聚焦在自己想要做的智能邊緣解決方案上,以實現(xiàn)快速的落地智能邊緣解決方案的目的。
英特爾為什么要推出這樣一個平臺呢?這是因為不管是對于他的合作伙伴,還是對于他的客戶來說,邊緣端的軟件應(yīng)用開發(fā)其實面臨著很多的問題和挑戰(zhàn),比如成本要求對邊緣設(shè)備性能的限制,企業(yè)短周期,低成本的軟件解決方案的追求。

邊緣軟件中心主要是針對邊緣應(yīng)用軟件的開發(fā)。面對各行各業(yè),不同的應(yīng)用場景給我們的企業(yè)和我們的開發(fā)者造成了什么樣的困難呢?我們的企業(yè)要去選擇軟件方案,開發(fā)者為了實現(xiàn)這些軟件方案,要去選擇開發(fā)工具,包括所依賴的一些軟件工具,SDK 的選擇等等,其實大量的工具對我們來說是非常耗時的操作。所以在面對這些 AI 應(yīng)用開發(fā)者所面臨的痛點的時候,英特爾軟件中心整合了一些自己研發(fā)的軟件以及一些開源的軟件框架,比如,OpenVINO,OpenNESS,Media SDK,Smart Edge Open,虛擬化技術(shù)等等,融合了很多這樣的技術(shù)。英特爾構(gòu)建了各類軟件平臺,比如剛才提到的軟件堆棧,軟件包,以及參考設(shè)計的實現(xiàn)。目前來說,英特爾已有 40 多個參考實現(xiàn)和 5 大軟件平臺,分別應(yīng)用于不同應(yīng)用場景。邊緣軟件中心其實是引入了 OpenVINO。OpenVINO 可以很好的解決負載整合和異構(gòu)部署的問題。其次,英特爾的邊緣軟件中心自 2020 年的 7 月底正式發(fā)布以來,始終堅持提供長期的支持與定期的更新,更新周期大概是每個季度一次,并定期上線軟件洞見平臺以及參考實現(xiàn)。從最初的幾個參考實現(xiàn)到現(xiàn)在 40 個參考實現(xiàn),5 大洞見平臺,可以說他的更新速度已經(jīng)是相當快了。英特爾的參考實現(xiàn)覆蓋了很多的領(lǐng)域,比如,智慧城市,智慧交通,智慧醫(yī)療,智慧教育等等。
2. 英特爾邊緣軟件中心 最新內(nèi)容

上圖是英特爾邊緣軟件中心的整體架構(gòu)。最底層是邊緣設(shè)備的推薦,這些邊緣設(shè)備都是來自于英特爾的生態(tài)合作伙伴,比如 UZEI, GWIPC 等等,他們的設(shè)備都是經(jīng)過英特爾官方認證的,是比較可靠的邊緣設(shè)備,這些邊緣設(shè)備與英特爾的軟件相結(jié)合,達到一個軟硬件結(jié)合的目的,以此讓我們的應(yīng)用程序以及軟硬件的性能水平發(fā)揮到最優(yōu)。
基于這些硬件層面,是一些基礎(chǔ)軟件的組件,這些基礎(chǔ)軟件組件包括英特爾自主研發(fā)的軟件工具,開源的第三方的軟件組件,以及來自于英特爾生態(tài)合作伙伴的一些軟件。比如,OpenVINO,OpenNESS,ACRN 的虛擬化的技術(shù),邊緣數(shù)據(jù)處理的 Edgex Foundry 框架,Docker 虛擬化的技術(shù)等等很多基礎(chǔ)軟件組件。
基于這些基礎(chǔ)軟件之上,英特爾開發(fā)出來了自己的一些邊緣軟件平臺。

上圖是英特爾的 5 大軟件動件平臺,Edge Insights for Vision 用于計算機視覺,EII 用于工業(yè)互聯(lián)網(wǎng),ECI 用于工業(yè)控制平臺,EIF 用于車隊,EI for AMR 用于自主移動機器人。
基于邊緣軟件平臺,英特爾開發(fā)出了他的邊緣使用案例。

英特爾目前提供 41 個參考實現(xiàn)的使用案例,每一個參考實現(xiàn)都是一個具體的落地實施的邊緣軟件解決方案,覆蓋了不同行業(yè),包括智慧城市,智慧交通,計算機視覺分析,智能車隊等等。
以上是英特爾邊緣軟件中心的整體架構(gòu)。
3. 邊緣軟件包
視覺邊緣洞見平臺——加速計算機視覺應(yīng)用與邊云集成的創(chuàng)新方案
基于 Intel Distribution of OpenVINO, 該軟件包集成了用于部署計算機視覺與深度學(xué)習(xí)工作負載的軟件模塊,可構(gòu)建獨立的運行環(huán)境或生成容器化架構(gòu)。同時,還集成了用于數(shù)據(jù)共享的 EdgeX Foundry 中間件,用于構(gòu)建媒體處理管道的 DL Streamer,用于容器編排的 K3S,以及云服務(wù)商用于邊緣節(jié)點的邊緣 SDK。
工業(yè)邊緣洞見平臺——支持前沿的 AI 工作負載,實現(xiàn)產(chǎn)品質(zhì)量檢測預(yù)測性分析及工業(yè)自動化
預(yù)集成的軟件堆棧,能夠加速工業(yè)解決方案在邊緣測的開發(fā)與部屬,在靠近數(shù)據(jù)產(chǎn)生源頭的邊緣部署人工智能,可以有效提高工廠的運營與生產(chǎn)效率。該軟件包所包含的 docker 容器模塊能夠在邊緣測安全地提取和存儲視頻與時序數(shù)據(jù),執(zhí)行實時分析,并且根據(jù)獲得的數(shù)據(jù)洞察向工具或設(shè)備發(fā)送下游命令,進而實現(xiàn)閉環(huán)控制。
工業(yè)邊緣控制平臺——加速工業(yè)控制系統(tǒng),向軟件定義功能的解決方案演進
與兼容的硬件一起,該軟件參考設(shè)計集成了實時計算,基于標準的連接性,安全性,虛擬化及 IT 管理功能。通過利用例如 KVM、ACRN 的虛擬化技術(shù),該軟件包簡化了對 deterministic 與 non-deterministic workloads 的覆蓋。
車隊邊緣控制平臺——通過事件檢測和通知為駕駛員和車隊經(jīng)理提供近乎實時的洞見
使用車載攝像頭為駕駛員和車隊管理人員提供近乎實時的洞察信息。通過推理,視頻注入和分析服務(wù),跨多個攝像頭檢測事件并監(jiān)控司機行為。使用云連接組件部署邊緣到云的通信。
自主移動機器人邊緣控制平臺——構(gòu)建和部署端到端移動機器人應(yīng)用程序
使用自主移動機器人邊緣洞見,創(chuàng)建、構(gòu)建和部署從機器人到邊緣服務(wù)器再到云端的端到端機器人應(yīng)用程序。這款開放式模塊化工具套件基于 ROS 2,包括所有所需工具、中間件和庫,讓客戶可以跨不同的使用案例和各種細分市場快速部署其機器人解決方案。
4. 邊緣使用案例
針對于這 5 大洞見平臺,英特爾又有許多的參考實現(xiàn)。


視覺邊緣洞見平臺主要的架構(gòu)如上圖,底層是依賴于英特爾的硬件架構(gòu),上面是操作系統(tǒng),再上面是一些中間的組件,第二層是英特爾自己研發(fā)的軟件架構(gòu),軟件堆棧,和其自主研發(fā)的工具,比如加速深度學(xué)習(xí)推理的軟件工具包 OpenVINO。最上層的是 User Application,也就是開發(fā)者所要聚焦的業(yè)務(wù)層的實現(xiàn)。

上圖所示是英特爾已經(jīng)實現(xiàn)的一些 RI(Reference Implementations),第一張圖是醫(yī)學(xué)影像對腦部腫瘤檢測的 Demo 案例。第二張圖是多攝像頭對社交距離監(jiān)測的案例,可用于疫情防控,該案例還可用于空間人數(shù)統(tǒng)計和單向檢測。第三張圖是自助結(jié)賬系統(tǒng)。第四張圖是計算機視覺在智慧交通方面的應(yīng)用。第五張圖是無人售貨機。最后一張圖同樣是多攝像頭對社交距離監(jiān)測的案例。
工業(yè)邊緣洞見平臺的實例如下圖。


它的應(yīng)用場景包括工業(yè)文本的檢測,紡織品缺陷分類的檢測,和對焊隙孔隙率檢測。它的架構(gòu)基本上分為三大模塊,VI(Video Ingestion)模塊,視頻攝取的模塊,VA(Video Analysis)模塊,視頻分析的模塊,和時序數(shù)據(jù)的攝取和分析模塊。
車隊邊緣洞見平臺同樣也是模塊化的模式,它基本上每一個模塊都用到了英特爾的開發(fā)者工具套件 OpenVINO。

下圖分別是事故監(jiān)測的 Demo,駕駛員狀態(tài)管理的 Demo,和貨車上物體監(jiān)測的 Demo。

下圖是自主移動機器人邊緣洞見平臺的模塊結(jié)構(gòu)和實現(xiàn)的場景。


工業(yè)邊緣控制(ECI)。


以上是本文分享的全部內(nèi)容,歡迎批評指正。