2.2.3. Sophon Inference¶
Sophon Inference 目前主要包含了 SAIL(Sophon Artificial Intelligent Library) 模块。 我们提供了 python 和 c++ 的接口和示例程序,旨在帮助用户快速将模型部署到算丰 TPU 产品上。
SAIL :封装了 BMRuntime, BMCV, BMDecoder 等运行时模块。提供了 python 和 c++ 接口。 可用来:
a).驱动 TPU 加载 bmodel 并进行推理;
b).驱动 TPU 进行图像和视频的处理。