基于昇腾AI | 英码科技EA500I使用AscendCL实现垃圾分类和视频物体分类应用

现如今，人工智能迅猛发展，AI赋能产业发展的速度正在加快，“AI+”的需求蜂拥而来，但AI应用快速落地的过程中仍存在很大的挑战：向下需要适配的硬件，向上需要完善的技术支持，两者缺一不可。

基于此，昇腾推出了系列化行业SDK和参考设计，通过把千行百业细分场景的开发经验和行业知识沉淀下来、水平复制，从而大幅度降低门槛、简化开发、提升效率。而英码科技是昇腾重要的APN合作伙伴、金牌分销商，具有较强的自主设计硬件能力，双方紧密携手，打造软硬结合、更符合行业需求的算力底座，赋能产业快速、低成本数字化转型。

今天来介绍英码科技EA500I边缘计算盒子使用AscendCL快速实现垃圾分类和视频物体分类应用的案例，帮助开发者降低学习成本、简化开发流程，缩短项目周期！

案例概述

①垃圾分类应用：基于AscendCL，使用EA500I实现对图片中的垃圾类别进行检测，并输出有检测类别的图片；

②视频物体分类应用：基于GoogLeNet分类网络，使用EA500I实现对视频帧中的物体进行识别分类，并将分类的结果展示在PC网页上。

案例说明

本案例底层原理逻辑请参考华为昇腾AscendCL <垃圾分类>，和<视频物体分类>案例。

前置条件

基于EA500I实现垃圾分类应用

1、环境安装

注意事项：

➢以下操作以普通用户HwHiAiUser安装CANN包为例说明，推荐使用root用户进行操作，如果是root用户，请将安装准备中所有的${HOME}修改为/usr/local。

➢推荐按照本文档路径进行操作，如安装在自定义路径可能会导致环境冲突等问题

①配置相关环境

# 以安装用户在任意目录下执行以下命令，打开.bashrc文件。
vi ~/.bashrc  
# 在文件最后一行后面添加如下内容。
source ${HOME}/Ascend/ascend-toolkit/set_env.sh
source /home/work/MindX_SDK/mxVision-5.0.RC3/set_env.shexport CPU_ARCH=`arch`
export THIRDPART_PATH=${HOME}/Ascend/thirdpart/${CPU_ARCH}  #代码编译时链接samples所依赖的相关库文件
export PYTHONPATH=${THIRDPART_PATH}/acllite:$PYTHONPATH #设置pythonpath为固定目录
export LD_LIBRARY_PATH=${THIRDPART_PATH}/lib:$LD_LIBRARY_PATH  #运行时链接库文件
export INSTALL_DIR=${HOME}/Ascend/ascend-toolkit/latest #CANN软件安装后的文件存储路径，根据安装目录自行修改
export DDK_PATH=${HOME}/Ascend/ascend-toolkit/latest #声明CANN环境
export NPU_HOST_LIB=${DDK_PATH}/runtime/lib64/stub #声明CANN环境
# 执行命令保存文件并退出。
:wq!  
# 执行命令使其立即生效。
source ~/.bashrc
# 创建samples相关依赖文件夹
mkdir -p ${THIRDPART_PATH}
# 下载源码并安装git
cd ${HOME}
sudo apt-get install git
git clone https://gitee.com/ascend/samples.git
# 拷贝公共文件到samples相关依赖路径中
cp -r ${HOME}/samples/common ${THIRDPART_PATH} 
# 拷贝media_mini等so文件以及相关头文件
mkdir -p ${INSTALL_DIR}/driver
cp /usr/lib64/libmedia_mini.so ${INSTALL_DIR}/driver/ #如路径中没有相关so文件，可跳过该命令
cp /usr/lib64/libslog.so ${INSTALL_DIR}/driver/
cp /usr/lib64/libc_sec.so ${INSTALL_DIR}/driver/
cp /usr/lib64/libmmpa.so ${INSTALL_DIR}/driver/
cp /usr/local/Ascend/include/peripheral_api.h ${INSTALL_DIR}/driver/ #如路径中没有相关头文件，可跳过该命令

②安装python-acllite

# 安装ffmpeg部分依赖
sudo apt-get install -y libavformat-dev libavcodec-dev libavdevice-dev libavutil-dev libswscale-dev 
# 安装其它依赖
pip3 install --upgrade pip
pip3 install Cython
sudo apt-get install pkg-config libxcb-shm0-dev libxcb-xfixes0-dev
# 安装av
pip3 install av
# 安装pillow 的依赖
sudo apt-get install libtiff5-dev libjpeg8-dev zlib1g-dev libfreetype6-dev liblcms2-dev libwebp-dev tcl8.6-dev tk8.6-dev python-tk
# 安装numpy和PIL
pip3 install numpy
pip3 install Pillow
# 将acllite目录拷贝到第三方文件夹中。后续编译依赖libmedia_mini.so，编译完成后需替换此处的acllite文件夹
cp -r ${HOME}/samples/python/common/acllite ${THIRDPART_PATH}
# C码库编译，本库包含Atlas200dk的板载摄像头访问接口，该接口是在C码（lib/src/目录）基础上做的python封装。
cd ${HOME}/samples/python/common/acllite/lib/src
make 
# 编译生成的libatalsutil.so在../atlas200dk/目录下。
# 再次将acllite目录拷贝到第三方文件夹中，保证当前使用的是更新后的代码。
cp -r ${HOME}/samples/python/common/acllite ${THIRDPART_PATH}

2、模型获取&转换

# 进入案例路径，samples为前置步骤中下载的案例包
cd ${HOME}/samples/python/contrib/garbage_picture
# 在model路径下下载原始模型
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com:443/003_Atc_Models/AE/ATC%20Model/garbage/mobilenetv2.air --no-check-certificate
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/models/garbage_picture/insert_op_yuv.cfg --no-check-certificate
# 使用ATC工具进行模型转换
atc --model=./mobilenetv2.air --framework=1 --output=garbage_yuv --soc_version=Ascend310B1 --insert_op_conf=./insert_op_yuv.cfg --input_shape="data:1,3,224,224" --input_format=NCHW

3、测试数据获取

# 创建并进入data文件夹
cd ${HOME}/samples/python/contrib/garbage_picture
mkdir data
cd data
# 下载图片数据
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/models/garbage_picture/newspaper.jpg
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/models/garbage_picture/bottle.jpg    
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/models/garbage_picture/dirtycloth.jpg
# 进入案例运行路径 
cd ../src

4、运行案例

运行python代码：

# 此处的data为测试数据路径
python3 classify_test.py ../data/

➢运行成功后如无报错会显示以下信息：

5、案例展示

在案例根目录out文件夹下会生成带有检测类别的图片：

基于EA500I实现视频物体分类应用

1、环境安装

注意事项：

➢以下操作以普通用户HwHiAiUser安装CANN包为例说明，推荐使用root用户进行操作，如果是root用户，请将安装准备中所有的${HOME}修改为/usr/local。

➢推荐按照本文档路径进行操作，如安装在自定义路径可能会导致环境冲突等问题。

①配置相关环境

# 以安装用户在任意目录下执行以下命令，打开.bashrc文件。
vi ~/.bashrc  
# 在文件最后一行后面添加如下内容。
export CPU_ARCH=`arch`
export THIRDPART_PATH=${HOME}/Ascend/thirdpart/${CPU_ARCH}  #代码编译时链接samples所依赖的相关库文件
export LD_LIBRARY_PATH=${THIRDPART_PATH}/lib:$LD_LIBRARY_PATH  #运行时链接库文件
export INSTALL_DIR=${HOME}/Ascend/ascend-toolkit/latest #CANN软件安装后的文件存储路径，根据安装目录自行修改
export DDK_PATH=${HOME}/Ascend/ascend-toolkit/latest #声明CANN环境
export NPU_HOST_LIB=${DDK_PATH}/runtime/lib64/stub #声明CANN环境
# 执行命令保存文件并退出。
:wq!  
# 执行命令使其立即生效。
source ~/.bashrc 
# 创建samples相关依赖文件夹
mkdir -p ${THIRDPART_PATH}
# 下载源码并安装git
cd ${HOME}
sudo apt-get install git
git clone https://gitee.com/ascend/samples.git
# 拷贝公共文件到samples相关依赖路径中
cp -r ${HOME}/samples/common ${THIRDPART_PATH}
# 拷贝media_mini等so文件以及相关头文件
mkdir -p ${INSTALL_DIR}/driver
cp /usr/lib64/libmedia_mini.so ${INSTALL_DIR}/driver/ #如路径中没有相关so文件，可跳过该命令
cp /usr/lib64/libslog.so ${INSTALL_DIR}/driver/
cp /usr/lib64/libc_sec.so ${INSTALL_DIR}/driver/
cp /usr/lib64/libmmpa.so ${INSTALL_DIR}/driver/
cp /usr/local/Ascend/include/peripheral_api.h ${INSTALL_DIR}/driver/ #如路径中没有相关头文件，可跳过该命令

②安装opencv

# 执行以下命令安装opencv （注：请确保安装的版本是3.x）
sudo apt-get install libopencv-dev
# 如果安装的opencv版本为4.x，请执行下列命令链接对应头文件
sudo ln -s /usr/include/opencv4/opencv2 /usr/include/

③安装protobuf&presentagent

# 安装protobuf相关依赖
sudo apt-get install autoconf automake libtool
# 下载protobuf源码
cd ${HOME}
git clone -b 3.13.x https://gitee.com/mirrors/protobufsource.git protobuf
# 编译安装protobuf
cd protobuf
./autogen.sh
./configure --prefix=${THIRDPART_PATH}
make clean
make -j8
sudo make install
# 进入presentagent源码目录并编译
cd ${HOME}/samples/cplusplus/common/presenteragent/proto 
${THIRDPART_PATH}/bin/protoc presenter_message.proto --cpp_out=./ #该步骤报错可参考FAQ
# 开始编译presentagnet
cd ..
make -j8
make install

2、模型转换&获取

注意事项：

➢本案例使用基于Caffe的GoogLeNet模型，获取模型的命令已提供，如果开发者需要更多模型信息可参考：<模型链接>

# 进入案例路径，samples为前置步骤中下载的案例包
cd ${HOME}/samples/cplusplus/level2_simple_inference/1_classification/googlenet_imagenet_video/model
# 在model路径下下载原始模型
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/003_Atc_Models/AE/ATC%20Model/classification/googlenet.caffemodel
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/003_Atc_Models/AE/ATC%20Model/classification/googlenet.prototxt
# 在model路径下下载模型配置文件
wget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/models/googlenet_imagenet_video/insert_op.cfg
# 使用ATC工具进行模型转换
atc --model="./googlenet.prototxt" --weight="./googlenet.caffemodel" --framework=0 --output="googlenet" --soc_version=Ascend310B1 --insert_op_conf=./insert_op.cfg --input_shape="data:1,3,224,224" --input_format=NCHW

3、编译运行案例

1、执行编译脚本

# 进入脚本路径
cd ${HOME}/samples/cplusplus/level2_simple_inference/1_classification/googlenet_imagenet_video/scripts
# 赋予脚本权限 
chmod +x sample_build.sh    
# 执行编译脚本
bash sample_build.sh

➢执行编译脚本后请根据实际情况选择arm/x86格式，在EA500I上进行操作请选择：arm

➢编译脚本中会自动下载相关视频素材：cat.mp4，如开发者使用其它素材，可以在sample_build.sh处删除该命令

➢编译完成后会生成相关文件并提示complete

2、执行脚本运行案例

# 赋予脚本权限 
chmod +x sample_run.sh    
# 执行运行脚本
bash sample_run.sh

➢执行运行脚本后，如果有本设备有多个ip，请选择能连通外网的ip并进行输入，例：10.1.30.111

➢执行成功后，会提示successfully，并提供相关的网页链接

➢运行脚本默认读取cat.mp4素材，如开发者使用其它素材，可以在sample_run.sh处更改素材路径

4、案例展示

打开浏览器输入提供的网页链接与端口号，例：10.1.30.111:7007

➢进入下图界面后，等待状态栏变为绿色，可以单击“Refresh“刷新，当有数据时相应的Channel 的Status变成绿色。

➢状态栏正常后，点击右侧的View Name下的名字，例：classify

➢进入视频物体分类界面后，会在视频左上角显示检测的物体类别，视频上方显示视频帧率，开发者可进行截图、录像等功能。

5、相关FAQ

①安装protobuf&presentagent时执行${THIRDPART_PATH}/bin/protoc presenter_message.proto --cpp_out=./

报错：protoc not such file or directory

➢该报错可能是protobuf安装问题：

# 回到protobuf安装路径cd /usr/local/probuf# 再次执行make installmake install# 查看${THIRDPART_PATH}/bin/下是否有protoc

②执行编译脚本时报错如下图：

➢该报错可能是opencv版本问题：

# 进入报错代码
vi ../src/classify_process.cpp
# 修改报错代码第279行（请根据实际代码行数修改）
修改成：cv::IMWRITE_JPEG_QUALITY
# 执行命令保存文件并退出
:wq!
# 重新执行编译脚本
bash sample_build.sh

结语

以上就是英码科技EA500I边缘计算盒子基于昇腾AscendCL快速实现垃圾分类和视频物体分类应用的案例。选购英码科技基于昇腾AI芯片推出的边缘计算产品，即可参照以上流程快速实现相关应用，大幅降低开发学习时间，缩短项目周期！如有技术问题和产品定制需求，欢迎留言交流~