2. 开发环境配置

首先检查当前系统环境是否满足ubuntu 22.04和python 3.10。如不满足,请进行下一节 基础环境配置 ;如满足,直接跳至 tpu_mlir 安装

2.1. 基础环境配置

如不满足,从 DockerHub https://hub.docker.com/r/sophgo/tpuc_dev 下载所需的镜像:

$ docker pull sophgo/tpuc_dev:v3.2

如果是首次使用Docker, 可执行下述命令进行安装和配置(仅首次执行):

1$ sudo apt install docker.io
2$ sudo systemctl start docker
3$ sudo systemctl enable docker
4$ sudo groupadd docker
5$ sudo usermod -aG docker $USER
6$ newgrp docker

确保安装包在当前目录, 然后在当前目录创建容器如下:

$ docker run --privileged --name myname -v $PWD:/workspace -it sophgo/tpuc_dev:v3.2
# myname只是举个名字的例子, 请指定成自己想要的容器的名字

后文假定用户已经处于docker里面的/workspace目录。

2.2. tpu_mlir安装

目前支持2种安装方法:

(1)直接从pypi下载并安装:

$ pip install tpu_mlir

(2)从Github的 Assets 处下载最新 tpu_mlir-*-py3-none-any.whl,然后使用pip安装:

$ pip install tpu_mlir-\*-py3-none-any.whl

tpu_mlir在对不同框架模型处理时所需的依赖不同,对于onnx或torch生成的模型文件,使用下面命令安装额外的依赖环境:

$ pip install tpu_mlir[onnx]
$ pip install tpu_mlir[torch]

目前支持5种配置: onnx, torch, tensorflow, caffe, paddle。 可使用一条命令安装多个配置,也可直接安装全部依赖环境:

$ pip install tpu_mlir[onnx,torch,caffe]
$ pip install tpu_mlir[all]