2.2.3. Sophon Inference

../../_images/sophon_inference.png

Sophon Inference 目前主要包含了 SAIL(Sophon Artificial Intelligent Library) 模块。 我们提供了 python 和 c++ 的接口和示例程序,旨在帮助用户快速将模型部署到算丰 TPU 产品上。

SAIL :封装了 BMRuntime, BMCV, BMDecoder 等运行时模块。提供了 python 和 c++ 接口。 可用来:

a).驱动 TPU 加载 bmodel 并进行推理;

b).驱动 TPU 进行图像和视频的处理。