2.2. 算丰软件产品概览

针对上一小节中提到的一系列算丰系列TPU产品, 算能自主研发了一套与之匹配的软件工具: Bitmain Neural Network Software Development Kit(BMNNSDK)。

使用算丰TPU产品所需的软件栈完全包含在 BMNNSDK 中。 Sophon Inference 是 BMNNSDK 中的一个上层模块, 提供了一系列的高级 API 以帮助用户快速部署模型。

在本小节中,我们首先总体讲述基于算丰TPU产品的深度学习模型部署的流程。 然后,我们分别介绍 BMNNSDK 以及 Sophon Inference 的基本概念。 最后,我们介绍 BMNNSDK 和 Sophon Inference 的安装使用以及相关注意事项。