6. 算法工具链开发指南
- 6.1. 简介
- 6.2. 入门指南
- 6.3. 进阶指南(PTQ)
- 6.3.1. 概述
- 6.3.2. 环境安装
- 6.3.3. PTQ原理及步骤详解
- 6.3.4. 模型算子支持列表
- 6.3.5. 模型上板运行(runtime)应用开发说明
- 6.3.5.1. 模型推理DNN API使用说明
- 模型推理DNN API说明
- 概述
- 数据类型和数据结构
- 版本信息类
HB_DNN_VERSION_MAJOR
HB_DNN_VERSION_MINOR
HB_DNN_VERSION_PATCH
- 模型类
HB_DNN_TENSOR_MAX_DIMENSIONS
HB_DNN_INITIALIZE_INFER_CTRL_PARAM
hbPackedDNNHandle_t
hbDNNHandle_t
hbDNNTaskHandle_t
hbDNNTensorLayout
hbDNNDataType
hbDNNTensorShape
hbDNNQuantiShift
hbDNNQuantiScale
hbDNNQuantiType
hbDNNTensorProperties
hbDNNTaskPriority
hbDNNTensor
hbDNNRoi
hbDNNInferCtrlParam
- 系统类
hbBPUCore
hbDSPCore
hbSysMem
hbSysMemFlushFlag
- 前处理类
HB_DNN_INITIALIZE_RESIZE_CTRL_PARAM
hbDNNResizeType
- hbDNNResizeCtrlParam
- 插件类
hbDNNLayerCreator
- API接口
- 版本信息
hbDNNGetVersion()
- 模型加载/释放
hbDNNInitializeFromFiles()
hbDNNInitializeFromDDR()
hbDNNRelease()
- 模型信息
hbDNNGetModelNameList()
hbDNNGetModelHandle()
hbDNNGetInputCount()
hbDNNGetInputName()
hbDNNGetInputTensorProperties()
hbDNNGetOutputCount()
hbDNNGetOutputName()
hbDNNGetOutputTensorProperties()
- 模型推理
hbDNNInfer()
hbDNNRoiInfer()
hbDNNWaitTaskDone()
hbDNNReleaseTask()
- 内存操作
hbSysAllocMem()
hbSysAllocCachedMem()
hbSysFlushMem()
hbSysFreeMem()
hbSysWriteMem()
hbSysReadMem()
hbSysRegisterMem()
hbSysUnregisterMem()
- 前处理
hbDNNResize()
- 插件
hbDNNRegisterLayerCreator()
hbDNNUnregisterLayerCreator()
- 数据排布及对齐规则
- 错误码
- 配置信息
- 开发机模拟器使用注意事项
- 模型推理DNN API使用示例说明
- 模型推理DNN API说明
- 6.3.5.2. 模型上板分析工具说明
- 6.3.5.3. 公版模型精度评测说明
- 6.3.5.1. 模型推理DNN API使用说明