旭日X3派用户手册
1. 快速开始
2. 系统配置
3. Samples示例
4. Python开发指南
5. C/C++开发指南
6. 量化工具链开发指南
6.1. 简介
6.2. 环境安装
6.3. 快速体验
6.4. 训练后量化(PTQ)使用说明
6.4.1. PTQ原理及步骤详解
6.4.1.1. 简介
6.4.1.2. 模型算子约束
6.4.1.3. 模型准备
6.4.1.4. 模型验证
6.4.1.5. 模型转换
6.4.1.6. 模型性能分析与调优
6.4.1.7. 模型精度分析与调优
6.4.2. 模型算子支持列表
6.5. 公版模型性能精度指标
7. Linux 内核
8. FAQ
9. 建议反馈
旭日X3派用户手册
»
6.
量化工具链开发指南
»
6.4.
训练后量化(PTQ)使用说明
»
6.4.1.
PTQ原理及步骤详解
上一页
下一页
6.4.1.
PTQ原理及步骤详解
6.4.1.1. 简介
6.4.1.2. 模型算子约束
6.4.1.3. 模型准备
6.4.1.4. 模型验证
使用
hb_mapper
checker
工具验证模型
检查异常处理
检查结果解读
检查结果的调优指导
6.4.1.5. 模型转换
准备校准数据
使用
hb_mapper
makertbin
工具转换模型
模型转换yaml配置参数说明
预处理HzPreprocess算子说明
转换内部过程解读
转换结果解读
转换产出物解读
6.4.1.6. 模型性能分析与调优
使用
hb_perf
工具估计性能
开发板实测性能
模型性能优化
检查影响模型性能的yaml参数
处理CPU算子
高性能模型设计建议
BPU面向高效率模型优化
6.4.1.7. 模型精度分析与调优
模型精度分析
精度调优
精度有明显损失(4%以上)
较小精度损失提升