模型部署 - onnx 的导出和分析 - PyTorch 导出 ONNX - 学习记录

PyTorch教程：将简单模型导出为ONNX格式的完整指南 前言 在深度学习领域，PyTorch因其灵活性和易用性而广受欢迎。然而，在实际生产环境中，我们经常需要将训练好的模型部署到不同的平台和设备上。ONNX（Open Neural Network Exchange）作为一种开放的神经网络交换格式，能够帮助我们实现这一目标。本文将详细介绍如何使用PyTorch将模型导出为ONNX格式。 ONNX...

在使用PyTorch进行模型训练时，我们通常希望将训练好的模型导出为ONNX（Open Neural Network Exchange）格式的文件。 ONNX（Open Neural Network Exchange）是一个开放格式，用于表示深度学习模型。它允许模型被不同的深度学习框架所使用，实现了模型的互操作性和可移植性。ONNX由Facebook和微软在2016年共同推出，旨在解决深度学习模型在不同框架和工具之间的兼容性问题。

本文介绍了pytorch下三种不同类型的模型转换至onnx的方法

多输入网络构建、模型导出生成ONNX格式、导出的ONNX模型有效性验证三个部分。

PyTorch模型导出到ONNX文件示例(LeNet-5)

严格意义上说，这篇文章已经不完全属于PyTorch的内容了，属于模型部署的范畴，但工作中导出模型一般都是算法工程师的工作内容，所以这里需要讲一下。ONNX（Open Neural Network Exchange）文件是一种开放的、与框架无关的文件格式，用于表示深度学习模型。ONNX 文件使用.onnx扩展名，并且基于 Protocol Buffers（protobuf）格式进行序列化。ONNX 的主要目标是解决深度学习模型在不同框架之间的兼容性问题。

使用深度学习开源框架Pytorch训练完网络模型后，在部署之前通常需要进行格式转换，例如地平线工具链模型转换目前仅支持Caffe1.0和ONNX(opset_version=10/11 且 ir_version≤7)两种。ONNX(Open Neural Network Exchange)格式是一种常用的开源神经网络格式，被较多推理引擎支持，例如Pytorch、PaddlePaddle、TensorFlow等。本文将详细介绍如何将Pytorch格式的模型导出到ONNX格式的模型。

什么是ONNX onnx定义了一种可扩展的计算图模型\一系列内置的运算(op)和标准数据类型.每一个计算流图都定义为由节点组成的列表,并构建有向无环图.其中,每一个节点都有一个或者多个输入与输出,每一个节点都称为一个一个OP.这相当于一种通用的计算图,不同深度学习框架构建的计算图都能转换成它. Caffe2, PyTorch, Microsoft Cognitive Toolkit, Apache MXNet 和其他工具都在对ONNX进行支持。在不同的框架之间实现互操作性，并简化从研究到产品化的过程，将提高

ONNX 是目前模型部署中最重要的中间表示之一，在把 PyTorch 模型转换成 ONNX 模型时，使用的 torch 接口是这里记录了 pytorch 模型转 onnx 时的原理和注意事项，还包括部分 PyTorch 与 ONNX 的算子对应关系。

本文将主要介绍Pytorch模型训练后导出至onnx的过程，并介绍onnx的概念及其在Pytorch中的应用。通过本文，开发者可以更容易地理解onnx的概念，并学会如何将Pytorch模型导出至onnx。本文将主要介绍Pytorch模型训练后导出至onnx，并介绍onnx的概念及其在Pytorch中的应用。可以使用torch.onnx.export()函数将模型导出到ONNX格式，该函数接受一个Pytorch模型，一个输入张量列表和一个输出张量列表作为参数。

Open Neural Network Exchange（ONNX）是一种开放的深度学习模型交换格式。ONNX格式可以实现不同框架(比如Pytorch和Tensorflow)之间的模型互操作和跨平台部署。使用ONNX格式可以还可以提高模型的推理效率，并有广泛的社区支持。

截至 PyTorch 2.1，ONNX 导出器有两个版本。是最新的（仍处于测试阶段）导出器，基于 PyTorch 2.0 发布的 TorchDynamo 技术。基于 TorchScript 后端，自 PyTorch 1.2.0 起可用。在中，我们有机会从高层次上了解 PyTorch，并训练了一个小型神经网络来对图像进行分类。在本教程中，我们将在此基础上扩展内容，介绍如何使用 TorchDynamo 和ONNX 导出器将 PyTorch 中定义的模型转换为 ONNX 格式。

ONNX（Open Neural Network Exchange）则是一种开源的跨平台深度学习框架。将PyTorch模型转为ONNX格式可以使得该模型可以在其他的深度学习框架中使用，如TensorFlow，Caffe等。下面介绍一下PyTorch转ONNX的原理和方法。