英特爾用于視頻分析的邊緣AI計算盒開發(fā)簡介
一、概述
將多路視頻流解碼與視頻分析集成。利用靈活的AI能力和參考視頻分析管道對應(yīng)用進行端到端配置,以實現(xiàn)快速開發(fā)。
用于視頻分析的邊緣AI計算盒有兩種安裝腳本——開發(fā)和部署,適用于解決方案開發(fā)周期的不同階段。
用于視頻分析的邊緣AI計算盒可以是連接到攝像頭的獨立設(shè)備,能夠?qū)崟r進行邊緣分析。此外,它還可以連接到網(wǎng)絡(luò),作為網(wǎng)絡(luò)上的分散式 AI 服務(wù),按需運行離線深度學(xué)習(xí)分析。
選擇配置和下載來下載以下程序包和軟件。
二、配置和下載
代表情景監(jiān)測的圖標。是一個中心有斜三角形的圓圈。圓圈外部有感嘆號、圓環(huán)和檢查標記。
編程語言:Python、C、C++
可用軟件:英特爾? 發(fā)行版 OpenVINO? 工具套件 2021.4.2
三、推薦的硬件
我們建議搭配以下硬件使用此程序包。有關(guān)其他建議,請參閱推薦的硬件頁面。 (多廠商硬件支持)
四、目標系統(tǒng)要求
第 11 代和第 12 代智能英特爾? 酷睿? 處理器和賽揚? 處理器
操作系統(tǒng):
Ubuntu* 20.04(內(nèi)核版本為 5.8 或更高)
面向第 12 代智能英特爾? 酷睿? 處理器的 Ubuntu* 20.04 配備內(nèi)核版本 5.15
至少 128 GB 磁盤空間
至少 8GB (4GB x2) 內(nèi)存,具有 8GB 交換空間
直接互聯(lián)網(wǎng)接入
五、工作原理
用于視頻分析的邊緣AI計算盒為輕便型邊緣設(shè)備創(chuàng)建了完整的視頻分析管道。該程序包針對第 11 代和第 12 代智能英特爾? 酷睿? 處理器和賽揚? 處理器進行了優(yōu)化,包含集成顯卡,可為 AI 計算加速提供增強性能與效率。
挑選解決方案所需的軟件模塊并相應(yīng)地下載安裝腳本。在此版本中,提供了不同風(fēng)格的安裝腳本——開發(fā)和部署。(參見圖 1)
六、開發(fā)軟件包
開發(fā)版軟件包提供了必要的模塊(參見圖 2):
英特爾? 發(fā)行版 OpenVINO? 工具套件
英特爾? Media SDK
RTSP 服務(wù)器
MQTT 服務(wù)
TensorFlow 橋
Gstreamer
英特爾? Deep Learning Streamer(英特爾? DL Streamer)
SQLite 數(shù)據(jù)庫*
Docker 社區(qū)版 (CE)*
Docker Compose*
其他組件以容器形式提供,例如云服務(wù)提供商連接器(Microsoft Azure* 和 AWS*)、InfluxDB* 數(shù)據(jù)庫和容器化 OpenVINO? 工具套件。開發(fā)軟件包旨在提供完整的 SDK 或工具套件,讓您輕松省力地設(shè)置開發(fā)環(huán)境。
七、部署軟件包
部署軟件包提供的主要軟件與開發(fā)軟件包相同,但預(yù)選的模塊主要為運行時庫。目標是最大限度減少程序包的安裝占用空間,使其適合部署到內(nèi)存和存儲資源可能受限的邊緣設(shè)備。
圖表以方框圖形式展現(xiàn)。最左邊的模塊代表配置階段,中間則是英特爾 Developer Catalog UI,兩個箭頭指向右邊的兩個模塊:上面的開發(fā)程序包和下面的部署程序包。
圖 1:面向視頻分析的邊緣 AI 計算盒 - 開發(fā)和部署。
如圖 2 所示,集成 GPU (iGPU) 是部署 AI 工作負載的主要目標平臺。CSP 連接器提供了接口,可供邊緣 AI 計算盒利用云服務(wù)創(chuàng)建邊緣到云功能,例如遙測、設(shè)備入網(wǎng)和可管理性。此外,我們準備了許多參考實現(xiàn)(例如智能視頻 AI 工作負載),它們作為一種快速演示工具,供開發(fā)人員用于評估邊緣AI計算盒硬件性能。
架構(gòu)以復(fù)雜的方框圖表展現(xiàn)。上面的模塊從左到右依次是云、Azure* 及其功能的方框、GitHub 和 Docker 的方框,最后是英特爾功能。下面的模塊最左邊是設(shè)備,然后是它右邊的多層方框。AI + 介質(zhì)管道堆棧在面向 Docker 和 Kubernetes 的基礎(chǔ)堆棧上方。
圖 2:用于視頻分析的 AI 計算盒軟件堆棧示意圖
八、入門
必備條件
系統(tǒng)必須設(shè)置根密碼。
要使第 12 代英特爾? 酷睿? 處理器或賽揚? 處理器(原 Alder Lake 產(chǎn)品)與 GPU 加速器協(xié)同工作,請完成以下步驟:
sudo vim /etc/default/grub
將 “i915.formorce_probe=*” 附加至 GRUB_CMDLINE_LINUX_DEFAULT: 結(jié)尾
GRUB_CMDLINE_LINUX_DEFAULT="quiet splash i915.force_probe=*"
sudo update-grub
sudo reboot
注意:智能視頻AI工作負載參考實現(xiàn)也需要這些步驟。
安裝程序包
選擇配置和下載下載程序包,然后遵循以下步驟安裝。
配置和下載
1?打開一個新終端,進入下載的文件夾并解壓縮下載的軟件包:
unzip edge_ai_box_for_video_analytics.zip
2?轉(zhuǎn)到 edge_ai_box_for_video_analytics/ 目錄:
cd edge_ai_box_for_video_analytics
3?更改 edgesoftwar 可執(zhí)行文件的權(quán)限:
chmod 755 edgesoftware
4?運行以下命令,安裝程序包:
./edgesoftware install
5?在安裝過程中,系統(tǒng)會提示您提供產(chǎn)品密鑰。產(chǎn)品密鑰包含在英特爾向您發(fā)送的確認下載的電子郵件中。
控制臺窗口顯示系統(tǒng)提示輸入產(chǎn)品密匙。
6?安裝完成后,您會看到消息 “Installation of package complete”(軟件包安裝完成)以及每個模塊的安裝狀態(tài)。
控制臺窗口顯示安裝期間的系統(tǒng)輸出。流程結(jié)束后,系統(tǒng)將顯示 “Installation of package complete” 和各模塊的安裝狀態(tài)。
基于程序包構(gòu)建解決方案
使用硬件加速的單對象和多對象檢測教程應(yīng)用程序。
另外,了解 OpenVINO? 與 TensorFlow* 集成示例目錄中的演示。
要將 Linux 上運行的物聯(lián)網(wǎng)即插即用橋接樣本連接至 Azure* 物聯(lián)網(wǎng)中樞,請通過預(yù)先安裝的 azure_cli、Azure 物聯(lián)網(wǎng)資源管理器和克隆的存儲庫運行樣本。
九、結(jié)論和后續(xù)步驟
您使用此應(yīng)用程序,成功為輕便型邊緣設(shè)備創(chuàng)建了完整的視頻分析管道。
在下一步中,請嘗試智能視頻 AI 工作負載參考實現(xiàn)。
十、了解更多
要繼續(xù)學(xué)習(xí),請參閱以下指南和軟件資源:
英特爾? 發(fā)行版 OpenVINO? 工具套件文檔
OpenVINO? 與 TensorFlow* 集成