2020-07-13 22:19:42 +08:00
|
|
|
|
# Benchmark
|
|
|
|
|
|
|
|
|
|
|
|
本文给出了PaddleOCR超轻量中文模型（8.6M）在各平台的预测耗时benchmark。
|
|
|
|
|
|
|
|
|
|
|
|
## 测试数据
|
|
|
|
|
|
- 从中文公开数据集[ICDAR2017-RCTW](https://github.com/PaddlePaddle/PaddleOCR/blob/develop/doc/doc_ch/datasets.md#ICDAR2017-RCTW-17)中随机采样**500**张图像。
|
|
|
|
|
|
该集合大部分图片是通过手机摄像头在野外采集的。有些是截图。这些图片展示了各种各样的场景，包括街景、海报、菜单、室内场景和手机应用程序的截图。
|
|
|
|
|
|
|
|
|
|
|
|
## 评估指标
|
|
|
|
|
|
在四种平台上的预测耗时指标如下：
|
|
|
|
|
|
|
|
|
|
|
|
|长边尺寸(px)|T4(s)|V100(s)|Intel至强6148(s)|骁龙855(s)|
|
|
|
|
|
|
|-|-|-|-|-|
|
2020-07-14 16:18:28 +08:00
|
|
|
|
|960|0.092|0.057|0.319|0.354|
|
2020-07-14 16:55:33 +08:00
|
|
|
|
|640|0.067|0.045|0.198|0.236|
|
|
|
|
|
|
|480|0.057|0.043|0.151|0.175|
|
2020-07-13 22:19:42 +08:00
|
|
|
|
|
|
|
|
|
|
说明：
|
2020-07-14 14:24:57 +08:00
|
|
|
|
- 评估耗时阶段为图像输入到结果输出的完整阶段，包括了图像的预处理和后处理。
|
|
|
|
|
|
- `Intel至强6148`为服务器端CPU型号，测试中使用Intel MKL-DNN 加速CPU预测速度，使用该操作需要：
|
|
|
|
|
|
- 更新到飞桨latest版本：https://www.paddlepaddle.org.cn/documentation/docs/zh/install/Tables.html#whl-dev ，请根据自己环境的CUDA版本和Python版本选择相应的mkl版wheel包，如，CUDA10、Python3.7环境，应操作：
|
|
|
|
|
|
```shell
|
|
|
|
|
|
# 获取安装包
|
|
|
|
|
|
wget https://paddle-wheel.bj.bcebos.com/0.0.0-gpu-cuda10-cudnn7-mkl/paddlepaddle_gpu-0.0.0-cp37-cp37m-linux_x86_64.whl
|
|
|
|
|
|
# 安装
|
|
|
|
|
|
pip3.7 install paddlepaddle_gpu-0.0.0-cp37-cp37m-linux_x86_64.whl
|
|
|
|
|
|
```
|
|
|
|
|
|
- 预测时使用参数打开加速开关： `--enable_mkldnn True`
|
|
|
|
|
|
- `骁龙855`为移动端处理平台型号。
|
