6.3. 进阶指南(PTQ)
- 6.3.1. 概述
- 6.3.2. 环境安装
- 6.3.3. PTQ原理及步骤详解
- 6.3.4. 模型算子支持列表
- 6.3.5. 模型上板运行(runtime)应用开发说明
- 6.3.5.1. 模型推理DNN API使用说明
- 模型推理DNN API说明
- 概述
- 数据类型和数据结构
- 版本信息类
HB_DNN_VERSION_MAJORHB_DNN_VERSION_MINORHB_DNN_VERSION_PATCH- 模型类
HB_DNN_TENSOR_MAX_DIMENSIONSHB_DNN_INITIALIZE_INFER_CTRL_PARAMhbPackedDNNHandle_thbDNNHandle_thbDNNTaskHandle_thbDNNTensorLayouthbDNNDataTypehbDNNTensorShapehbDNNQuantiShifthbDNNQuantiScalehbDNNQuantiTypehbDNNTensorPropertieshbDNNTaskPriorityhbDNNTensorhbDNNRoihbDNNInferCtrlParam- 系统类
hbBPUCorehbDSPCorehbSysMemhbSysMemFlushFlag- 前处理类
HB_DNN_INITIALIZE_RESIZE_CTRL_PARAMhbDNNResizeType- hbDNNResizeCtrlParam
- 插件类
hbDNNLayerCreator
- API接口
- 版本信息
hbDNNGetVersion()- 模型加载/释放
hbDNNInitializeFromFiles()hbDNNInitializeFromDDR()hbDNNRelease()- 模型信息
hbDNNGetModelNameList()hbDNNGetModelHandle()hbDNNGetInputCount()hbDNNGetInputName()hbDNNGetInputTensorProperties()hbDNNGetOutputCount()hbDNNGetOutputName()hbDNNGetOutputTensorProperties()- 模型推理
hbDNNInfer()hbDNNRoiInfer()hbDNNWaitTaskDone()hbDNNReleaseTask()- 内存操作
hbSysAllocMem()hbSysAllocCachedMem()hbSysFlushMem()hbSysFreeMem()hbSysWriteMem()hbSysReadMem()hbSysRegisterMem()hbSysUnregisterMem()- 前处理
hbDNNResize()- 插件
hbDNNRegisterLayerCreator()hbDNNUnregisterLayerCreator()
- 数据排布及对齐规则
- 错误码
- 配置信息
- 开发机模拟器使用注意事项
- 模型推理DNN API使用示例说明
- 模型推理DNN API说明
- 6.3.5.2. 模型上板分析工具说明
- 6.3.5.3. 公版模型精度评测说明
- 6.3.5.1. 模型推理DNN API使用说明