SophonSDK 开发指南

目录

• 1. 声明
• 2. 引言
  • 2.1. 术语解释
  • 2.2. 对比说明
  • 2.3. 注意事项
  • 2.4. 授权
  • 2.5. 帮助与支持
• 3. SDK软件包
  • 3.1. SDK 简介
    • 3.1.1. SophonSDK 包括基础工具包与高阶工具包
      • 3.1.1.1. 基础工具包
      • 3.1.1.2. 高阶工具包
    • 3.1.2. SophonSDK文件夹目录
    • 3.1.3. SophonSDK解压后的文件目录
    • 3.1.4. SDK主要模块
  • 3.2. 资料简介
  • 3.3. 获取SDK
  • 3.4. 安装SDK
    • 3.4.1. 环境配置-Linux
      • 3.4.1.1. 解压SDK压缩包
      • 3.4.1.2. tpu-nntc 环境初始化
      • 3.4.1.3. libsophon 环境搭建
      • 3.4.1.4. sophon-mw 环境搭建
      • 3.4.1.5. 交叉编译环境搭建
      • 3.4.1.6. 验证
    • 3.4.2. 环境配置-SoC
      • 3.4.2.1. 开发环境配置
      • 3.4.2.2. 运行环境配置
  • 3.5. 更新SDK
    • 3.5.1. PCIe模式下的更新
    • 3.5.2. SoC模式下的更新
  • 3.6. SDK更新记录
  • 3.7. 发行说明
  • 3.8. SDK已知问题
• 4. 快速入门
  • 4.1. 芯片简介
  • 4.2. 移植开发综述
    • 4.2.1. 算法移植流程
    • 4.2.2. 典型视频AI分析任务
  • 4.3. 重要概念
    • 4.3.1. 工作模式
    • 4.3.2. 硬件内存
    • 4.3.3. BModel
    • 4.3.4. bm_image
  • 4.4. 常用样例
• 5. 网络模型迁移
  • 5.1. 模型迁移概述
  • 5.2. FP32 模型生成
  • 5.3. INT8 模型生成
    • 5.3.1. 准备lmdb数据集
    • 5.3.2. 生成FP32 Umodel
    • 5.3.3. 生成INT8 Umodel
      • 5.3.3.1. 数据预处理
      • 5.3.3.2. 量化网络
      • 5.3.3.3. 优化网络
      • 5.3.3.4. 级联网络量化
    • 5.3.4. 精度测试
    • 5.3.5. 生成INT8 Bmodel
    • 5.3.6. auto_cali一键量化工具
• 6. 算法移植
  • 6.1. 算法移植概述
  • 6.2. C/C++编程详解
    • 6.2.1. 加载bmodel
    • 6.2.2. 预处理
      • 6.2.2.1. 预处理初始化
      • 6.2.2.2. 打开视频流
      • 6.2.2.3. 解码视频帧
      • 6.2.2.4. Mat 转换 bm_image
      • 6.2.2.5. 预处理
    • 6.2.3. 推理
    • 6.2.4. 后处理
    • 6.2.5. 算法开发注意事项汇总
  • 6.3. Python编程详解
    • 6.3.1. 加载模型
    • 6.3.2. 预处理
    • 6.3.3. 推理
  • 6.4. 解码模块
    • 6.4.1. OpenCV解码
    • 6.4.2. FFmpeg解码
  • 6.5. 图形运算加速模块
    • 6.5.1. C语言编程接口
    • 6.5.2. Python语言编程接口
  • 6.6. 模型推理
    • 6.6.1. BMLib模块C接口介绍
    • 6.6.2. BMRuntime模块C接口介绍
    • 6.6.3. Python接口
• 7. 性能测试
  • 7.1. 概述
  • 7.2. 视频编解码性能
    • 7.2.1. 视频解码性能测试
    • 7.2.2. 视频编码性能测试
    • 7.2.3. 视频转码性能测试
  • 7.3. TPU算力
    • 7.3.1. BM1684 性能测试
    • 7.3.2. BM1684X 性能测试
• 8. 附录
  • 8.1. 微服务器定制化软件包