1. TPU-MLIR简介

TPU-MLIR是算能深度学习处理器的编译器工程。该工程提供了一套完整的工具链, 其可以将 不同框架下预训练的神经网络, 转化为可以在算能智能视觉深度学习处理器上高效运算的模型文件 bmodel/cvimodel。 代码已经开源到github: https://github.com/sophgo/tpu-mlir 。

论文<https://arxiv.org/abs/2210.15016> 描述了TPU-MLIR的整体设计思路。

TPU-MLIR的整体架构如下:

图 1.1 TPU-MLIR的整体架构

目前直接支持的框架有PyTorch、ONNX、TFLite和Caffe。其他框架的模型需要转换成ONNX模型。如何将其他深 度学习架构的网络模型转换成ONNX, 可以参考ONNX官网: https://github.com/onnx/tutorials。

转模型需要在指定的docker执行, 主要分两步, 一是通过 model_transform 将原始模型 转换成mlir文件, 二是通过 model_deploy 将mlir文件转换成bmodel/cvimodel。

如果要转INT8模型, 则需要调用 run_calibration 生成校准表, 然后传给 model_deploy。

如果INT8模型不满足精度需要, 可以调用 run_qtable 生成量化表, 用来决定哪些层采用浮点计算， 然后传给 model_deploy 生成混精度模型。

本文通过简单的例子介绍TPU-MLIR是如何使用的。