随着人工智能和大数据时代的到来,传统嵌入式处理器中的CPU和GPU逐渐无法满足日益增长的深度学习需求。为了应对这一挑战,在一些高端处理器中,NPU(神经网络处理单元)也被集成到了处理器里。NPU的出现不仅减轻了CPU和GPU的负担,还让复杂的计算任务得以高效处理。在典型的工作流中,CPU会首先接收任务,并根据任务的性质将其分配给合适的处理单元,图像处理任务由GPU处理,而人工智能相关任务则交给NPU。
应用领域:
图像识别: NPU能够迅速对图像进行分类、检测和分割等操作,大大提升了处理效率。
语音识别: NPU实现了实时语音转换和语音合成功能,为语音交互提供了更自然的体验。
自然语言处理: NPU帮助机器完成更高效的翻译、文本分类和情感分析,推动了自然语言处理技术的发展。
实例分享:Yolov5分类检测
在RK3588处理器上,不仅可以基于Linux系统使用NPU,也可以基于Android系统使用NPU,基于Linux使用NPU已经多次与大家分享过就不在赘述。
在 Android平台上,可以通过两种方式调用RKNN API:直接链接librknnrt.so或链接基于Android平台HIDL实现的librknn_api_android.so。对于需要通过CTS/VTS测试的设备,建议使用后者,而对于不需要测试的设备,直接链接librknnrt.so可以提供更好的性能。
在开发板网盘资料中提供了Yolov5分类检测的示例—rknn_yolov5_android_apk_demo(基于瑞芯微官方demo修改)
测试步骤
⑴ 硬件连接
使用USB-TypeC连接线连接到OTG端口,连接迅为的ov13850/ov5695摄像头,连接屏幕
⑵ 例程测试
启动 Android Studio,打开rknn_yolov5_android_apk_demo应用工程文件夹进行编译,编译成功后,选择iTOP-RK3588设备并运行应用程序
当APP运行时,您会在迅为iTOP-RK3588开发板外接的MIPI屏幕上看到应用界面。在1280*800的预览分辨率下,应用程序能够达到约15FPS的运行速度,表现令人满意。