飞桨模型转ONNX模型教程

1. ONNX简介

ONNX是一种开放的机器学习模型格式，允许不同框架间模型的互操作性。通过ONNX，可以在不同的深度学习框架之间迁移和部署模型。

2. Paddle2ONNX安装

要安装Paddle2ONNX，可以使用以下命令：

pip install paddle2onnx

3. 获取Paddle2ONNX模型库

飞桨提供了多种官方模型，可以直接转换为ONNX格式。这些模型包括图像分类、图像分割、目标检测和文字识别等。更多模型可以从飞桨的官方仓库下载。

4. 飞桨转ONNX教程

4.1 飞桨训练模型导出为ONNX模型

以MNIST手写数字识别网络为例，首先使用飞桨训练模型，然后导出为ONNX模型。在导出时，需要使用paddle.onnx.export接口，并指定输入的shape。

import paddle
from paddle.vision.models import LeNet
from paddle.vision.transforms import Normalize# 加载数据集
train_dataset = paddle.vision.datasets.MNIST(mode='train')
test_dataset = paddle.vision.datasets.MNIST(mode='test')# 模型组网
model = LeNet(num_classes=10)# 训练模型
model.train(train_dataset, epochs=5, batch_size=64, verbose=1)# 导出模型为ONNX
paddle.onnx.export(model,"lenet.onnx",input_spec=[paddle.static.InputSpec(shape=[None, 1, 28, 28], dtype="float32")],opset_version=11
)

4.2 飞桨部署模型转为ONNX模型

对于从PaddleOCR、PaddleClas或PaddleHub等仓库下载的部署模型，可以使用Paddle2ONNX的命令行工具进行转换。

paddle2onnx --model_dir=/path/to/model --opset_version=11 --save_file=/path/to/output/model.onnx

4.3 验证ONNX模型

可以使用ONNX库检查模型的有效性，并验证模型是否匹配。

import onnx
import onnxruntime as ort# 加载ONNX模型
onnx_model = onnx.load("model.onnx")# 使用ONNXRuntime推理
sess = ort.InferenceSession("model.onnx")
input_name = sess.get_inputs()[0].name
output = sess.run(None, {input_name: input_data})

4.4 使用ONNX模型进行推理

导出的ONNX模型可以使用ONNXRuntime等推理引擎进行推理。

# 安装ONNXRuntime
!pip install onnxruntime# 使用ONNXRuntime推理
import onnxruntime as ort# 创建推理会话
sess = ort.InferenceSession("model.onnx")# 数据预处理
# ...# 推理
output = sess.run(None, {input_name: input_data})# 结果后处理
# ...

5. 注意事项

• Paddle2ONNX已经支持170多个飞桨算子，大多数飞桨模型可以顺利导出为ONNX格式。
• 如果在转换过程中遇到不支持的算子，请在Paddle2ONNX的GitHub仓库中提出Issue。
• 导出ONNX模型时，需要指定ONNX的算子版本，这应根据待部署的推理引擎进行设置。