本文簡(jiǎn)介

??本系列文章將在AI愛(ài)克斯開(kāi)發(fā)板上使用OpenVINO? 開(kāi)發(fā)套件依次部署并測(cè)評(píng)YOLOv8的分類模型、目標(biāo)檢測(cè)模型、實(shí)例分割模型和人體姿態(tài)估計(jì)模型。

AI愛(ài)克斯開(kāi)發(fā)板

YOLOv8簡(jiǎn)介

??YOLOv8是Ultralytics公司基于YOLO框架，發(fā)布的一款面向物體檢測(cè)與跟蹤、實(shí)例分割、圖像分類和姿態(tài)估計(jì)任務(wù)的SOTA模型工具套件。

用Python代碼訓(xùn)練YOLOv8模型

用命令行訓(xùn)練YOLOv8模型

導(dǎo)出訓(xùn)練好的YOLOv8模型，并用OpenVINO部署在英特爾硬件平臺(tái)上，也非常方便，下面依次介紹：

第一步：準(zhǔn)備YOLOv8的OpenVINO推理程序開(kāi)發(fā)環(huán)境。請(qǐng)基于本文范例代碼倉(cāng)提供的requirements.txt文件，通過(guò)一行命令完成開(kāi)發(fā)環(huán)境安裝。

pip install -r requirements.txt

第二步：導(dǎo)出YOLOv8 OpenVINO IR模型。首先使用命令：yolo classify export model=yolov8n-cls.pt format=onnx imgsz=224，完成yolov8n-cls.onnx模型導(dǎo)出。

導(dǎo)出yolov8n-cls.onnx

導(dǎo)出yolov8n-cls IR模型

第三步：用benchmark_app測(cè)試yolov8分類模型的推理計(jì)算性能。 benchmark_app是OpenVINOTM工具套件自帶的AI模型推理計(jì)算性能測(cè)試工具，可以指定在不同的計(jì)算設(shè)備上，在同步或異步模式下，測(cè)試出不帶前后處理的純AI模型推理計(jì)算性能。
使用命令：benchmark_app -m yolov8n-cls.xml -d GPU，獲得yolov8n-cls.xml模型在AI愛(ài)克斯開(kāi)發(fā)板的集成顯卡上的異步推理計(jì)算性能，如下圖所示。

benchmark

第四步：使用OpenVINO Python API編寫(xiě)YOLOv8分類模型推理程序?；贠penVINO Python API的YOLOv8分類模型范例程序yolov8_cls_ov_sync_infer.py(請(qǐng)克隆本文代碼倉(cāng))的核心源代碼，如下所示：

# 實(shí)例化Core對(duì)象
core = Core() 
# 載入并編譯模型
net = core.compile_model(f'{MODEL_NAME}-cls.xml', device_name="GPU")
# 獲得模型輸入輸出節(jié)點(diǎn)
input_node = net.inputs[0]    # yolov8n-cls只有一個(gè)輸入節(jié)點(diǎn)
N, C, H, W = input_node.shape # 獲得輸入張量的形狀
output_node = net.outputs[0]  # yolov8n-cls只有一個(gè)輸出節(jié)點(diǎn)
ir = net.create_infer_request()
##########################################
#   ---根據(jù)模型定義預(yù)處理和后處理函數(shù)-------
##########################################

# 定義預(yù)處理函數(shù)
def preprocess(image, new_shape=(W,H)):
    # Preprocess image data from OpenCV
    [height, width, _] = image.shape
    length = max((height, width))
    letter_box = np.zeros((length, length, 3), np.uint8)
    letter_box[0:height, 0:width] = image
    blob = cv2.dnn.blobFromImage(image, scalefactor=1 / 255, size=new_shape, swapRB=True)
    return blob
# 定義后處理函數(shù)
def postprocess(outs):
    score = np.max(outs)
    id = np.argmax(outs)
    return score, id, imagenet_labels[id]

##########################################
#   ----- AI同步推理計(jì)算 ------------
##########################################
# 采集圖像
image = cv2.imread("bus.jpg")
# 數(shù)據(jù)預(yù)處理
blob = preprocess(image)
# 執(zhí)行推理計(jì)算并獲得結(jié)果
outs = ir.infer(blob)[output_node]
# 對(duì)推理結(jié)果進(jìn)行后處理
score, id, label = postprocess(outs)

YOLOv8+OpenVINO