2.2. 算丰软件产品概览¶
针对上一小节中提到的一系列算丰系列TPU产品, 算能自主研发了一套与之匹配的软件工具: Sophon Software Development Kit(SophonSDK)。
使用算丰TPU产品所需的软件栈完全包含在 SophonSDK 中。 Sophon Inference 是 SophonSDK 中的一个上层模块, 提供了一系列的高级 API 以帮助用户快速部署模型。
在本小节中,我们首先总体讲述基于算丰TPU产品的深度学习模型部署的流程。 然后,我们分别介绍 SophonSDK 以及 Sophon Inference 的基本概念。 最后,我们介绍 SophonSDK 和 Sophon Inference 的安装使用以及相关注意事项。