PaddleOCR/deploy/slim/quantization/README.md

1.2 KiB
Executable File
Raw Blame History

运行示例前请先安装1.2.0或更高版本PaddleSlim

模型量化压缩教程

概述

该示例使用PaddleSlim提供的量化压缩API对OCR模型进行压缩。 在阅读该示例前,建议您先了解以下内容:

安装PaddleSlim

可按照PaddleSlim使用文档中的步骤安装PaddleSlim。

量化训练

进入PaddleOCR根目录通过以下命令对模型进行量化

python deploy/slim/quantization/quant.py -c configs/det/det_mv3_db.yml -o Global.pretrain_weights=det_mv3_db/best_accuracy Global.save_model_dir=./output/quant_model

导出模型

在得到量化训练保存的模型后我们可以将其导出为inference_model用于预测部署

python deploy/slim/quantization/export_model.py -c configs/det/det_mv3_db.yml -o Global.checkpoints=output/quant_model/best_accuracy Global.save_model_dir=./output/quant_model