4.3. 快速跑通一个样例
我们提供了模型转换及量化样例程序、多媒体相关样例程序、以及涵盖图像分类、目标检测、图像分割、文本检测识别等领域的单个模型算法移植样例程序,具体如下:
BM1688/CV186AH SOPHONSDK中 doc文件夹下的《 TPU-MLIR快速入门手册》提供了模型转换与量化样例;
BM1688/CV186AH SOPHONSDK中 sophon-demo 提供了 CenterNet、LPRNet、PP-OCR、ResNet、RetinaFace、YOLOv3/v4、YOLOv5、YOLOX、YOLOv8 等单个模型的推理样例程序;
BM1688/CV186AH SOPHONSDK中 sophon-stream 提供了多线程任务构建的样例程序,只需要编写配置文件就可以完成流水线的搭建;
BM1688/CV186AH SOPHONSDK中 sophon-media 提供不同硬件架构下关于视频及图片编解码、bmcv格式转换的多媒体相关样例程序,具体可以参考doc文件夹下的多媒体参考手册
下面以YOLOv5算法为例,介绍如何快速跑通一个样例;
(1) 将sophon-sail、sophon-demo压缩包复制到SOPHON边缘服务器并解压
(2) 进入sophon-sail文件夹,安装sophon-sail的python库,whl包位于python_wheels/soc_BM1688目录下,选择对应的版本进行安装
1pip3 install ./sophon_arm-3.7.0-py3-none-any.whl --force-reinstall
(3) 进入sophon-demo文件夹,下载官方模型以及数据集
1cd ./sample/YOLOv5/scripts
2chmod +x /download.sh
3./download.sh
(4) 执行yolov5的python检测代码
1cd ../python
2# BM1688
3python3 yolov5_bmcv.py --bmodel ../models/BM1688/yolov5s_v6.1_3output_int8_1b_2core.bmodel --conf_thresh 0.45
4
5# CV186AH
6python3 yolov5_bmcv.py --bmodel ../models/CV186X/yolov5s_v6.1_3output_int8_1b.bmodel --conf_thresh 0.45
测试结束后,会将预测的图片、json文件保存在results目录下,同时会打印预测结果、推理时间等信息。
模型性能、精度、C++程序编译等更多信息请参考YOLOv5/readme、YOLOv5/cpp/readme、YOLOv5/python/readme等文件。