5. MLIR-模型迁移流程

• 5.1. MLIR-迁移工具概述
• 5.2. 使用 TPU-MLIR 生成FLOAT BModel
  • 5.2.1. 加载tpu-mlir
  • 5.2.2. 准备工作目录
  • 5.2.3. ONNX转MLIR
• 5.3. 使用 TPU-MLIR 进行模型量化
  • 5.3.1. 加载tpu-mlir
  • 5.3.2. 准备工作目录
  • 5.3.3. ONNX转MLIR
  • 5.3.4. MLIR转F16模型
  • 5.3.5. MLIR转INT8模型
    • 5.3.5.1. 生成校准表
    • 5.3.5.2. 编译为INT8对称量化模型
  • 5.3.6. 效果对比
  • 5.3.7. 模型性能测试
    • 5.3.7.1. 安装 libsophon 环境
    • 5.3.7.2. 检查 BModel 的性能