主页 > 互联网 > 内容页

当前时讯：手把手教你使用LabVIEW实现Mask R-CNN图像实例分割（含源码）

2023-03-21 14:04:53 来源：LabVIEW深度学习实战

前言

前面给大家介绍了使用LabVIEW工具包实现图像分类，目标检测，今天我们来看一下如何使用LabVIEW实现Mask R-CNN图像实例分割。

一、什么是图像实例分割？

图像实例分割(Instance Segmentation)是在语义检测(Semantic Segmentation)的基础上进一步细化，分离对象的前景与背景，实现像素级别的对象分离。并且图像的语义分割与图像的实例分割是两个不同的概念，语义分割仅仅会区别分割出不同类别的物体，而实例分割则会进一步的分割出同一个类中的不同实例的物体。

计算机视觉中常见的一些任务（分类，检测，语义分割，实例分割）

(相关资料图)

二、什么是Mask R-CNN

Mask R-CNN是一个实例分割（Instance segmentation）算法，可以用来做“目标检测”、“目标实例分割”、“目标关键点检测”。 Mask R-CNN算法步骤：

首先，输入一幅你想处理的图片，然后进行对应的预处理操作，或者预处理后的图片；将其输入到一个预训练好的神经网络中（ResNeXt等）获得对应的feature map；对这个feature map中的每一点设定预定的ROI，从而获得多个候选ROI；将这些候选的ROI送入RPN网络进行二值分类（前景或背景）和BB回归，过滤掉一部分候选的ROI接着，对这些剩下的ROI进行ROIAlign操作（即先将原图和feature map的pixel对应起来，然后feature map和固定的feature对应起来）；**最后，对这些ROI进行分类（N类别分类）、BB回归和MASK生成（在每一个ROI里面进行FCN操作） **

三、LabVIEW调用Mask R-CNN图像实例分割模型

1、Mask R-CNN模型获取及转换

安装pytorch和torchvision获取torchvision中的模型(我们获取预训练好的模型)：

model = models.detection.maskrcnn_resnet50_fpn(pretrained=True)

转onnx

def get_pytorch_onnx_model(original_model):    model=original_model    # define the directory for further converted model save    onnx_model_path = dirname        # define the name of further converted model    onnx_model_name = "maskrcnn_resnet50.onnx"    # create directory for further converted model    os.makedirs(onnx_model_path, exist_ok=True)    # get full path to the converted model    full_model_path = os.path.join(onnx_model_path, onnx_model_name)    model.eval()    x = torch.rand(1, 3, 640, 640)    # model export into ONNX format    torch.onnx.export(        original_model,        x,        full_model_path,        input_names=["input"],        output_names=["boxes", "labels", "scores", "masks"],        dynamic_axes={"input": [0, 1, 2, 3],"boxes": [0, 1],"labels": [0],"scores": [0],"masks": [0, 1, 2, 3]},        verbose=True,opset_version=11    )    return full_model_path

完整获取及模型转换python代码如下：

import osimport torchimport torch.onnxfrom torch.autograd import Variablefrom torchvision import modelsdirname, filename = os.path.split(os.path.abspath(__file__))print(dirname)def get_pytorch_onnx_model(original_model):    model=original_model    # define the directory for further converted model save    onnx_model_path = dirname        # define the name of further converted model    onnx_model_name = "maskrcnn_resnet50.onnx"    # create directory for further converted model    os.makedirs(onnx_model_path, exist_ok=True)    # get full path to the converted model    full_model_path = os.path.join(onnx_model_path, onnx_model_name)    model.eval()    x = torch.rand(1, 3, 640, 640)    # model export into ONNX format    torch.onnx.export(        original_model,        x,        full_model_path,        input_names=["input"],        output_names=["boxes", "labels", "scores", "masks"],        dynamic_axes={"input": [0, 1, 2, 3],"boxes": [0, 1],"labels": [0],"scores": [0],"masks": [0, 1, 2, 3]},        verbose=True,opset_version=11    )    return full_model_pathmodel = models.detection.maskrcnn_resnet50_fpn(pretrained=True)print(get_pytorch_onnx_model(model))