地址类型。
typedef unsigned int local_addr_t typedef unsigned long long system_addr_t typedef unsigned long long global_addr_t typedef unsigned long long l2_sram_addr_t typedef unsigned long long addr_t
数据维度。
class dim4 int n int c int h int w class dim2 int h int w
数据类型。
enum data_type_t enumerator DT_INT8 = 1 enumerator DT_UINT8 = 0 enumerator DT_INT16 = 7 enumerator DT_UINT16 = 6 enumerator DT_FP16 = 3 enumerator DT_BFP16 = 11 enumerator DT_INT32 = 9 enumerator DT_UINT32 = 8 enumerator DT_FP32 = 5
舍入模式枚举。
enum rounding_mode_t enumerator RM_HALF_TO_EVEN = 0 enumerator RM_HALF_AWAY_FROM_ZERO = 1 enumerator RM_TOWARDS_ZERO = 2 enumerator RM_DOWN = 3 enumerator RM_UP = 4 enumerator RM_HALF_UP = 5 enumerator RM_HALF_DOWN = 6
半精度浮点格式。
union float16 unsigned short bits
BF16半精度浮点格式。
union bfloat16 unsigned short bits
标量联合体。
union scalar_t char s8 unsigned char u8 short s16 unsigned short u16 float16 f16 bfloat16 bf16 int s32 unsigned int u32 float f32
变量类型枚举。
enum var_type_t enumerator TENSOR enumerator SCALAR enumerator VECTOR
变量内容联合体。
union var_context_t scalar_t scalar_t local_addr_t addr
变量结构体,如果 type 是 TENSOR 或 VECTOR, 则 context.addr 有效,否则 context.scalar 有效。
TENSOR
VECTOR
class variable_t var_type_t type var_context_t context
NPU 的数量。
NPU_NUM
每个NPU上local memory的大小。
LOCAL_MEM_SIZE
基础数学运算。
DIV_UP DIV_UP(a, b) (((a) - 1) / (b) + 1) ALIGN ALIGN(a, b) DIV_UP (a, b) * (b)
DIV_UP(a, b) (((a) - 1) / (b) + 1)
ALIGN(a, b) DIV_UP (a, b) * (b)
DIV_UP