mmdeploy框架导出模型为ONNX

1037号森林里一段干木头

已于 2024-07-31 11:22:41 修改

阅读量1.7k

点赞数 23

CC 4.0 BY-SA版权

分类专栏： mmlab 文章标签：人工智能计算机视觉深度学习机器学习

于 2024-04-23 15:35:55 首次发布

本文链接：https://blog.csdn.net/qq_40622955/article/details/138123226

本文介绍如何使用mmdeploy框架从源码编译并安装onnxruntime后端，构建mmdeploy，并安装模型转换器。随后，通过具体示例展示了如何利用deploy.py脚本将mm算法库的模型配置和检查点转换为ONNX格式，包括必要的参数说明。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

文章目录

1 从源码编译

参考链接
 reference2

git clone -b main https://github.com/open-mmlab/mmdeploy.git --recursive
cd mmdeploy

1.1 安装onnxruntime后端

python 的onnx后端安装.

pip install onnxruntime==1.8.1

注：在另外的机器上python3.11.5版本的环境下没有onnxruntime==1.8.1，安装了onnxruntime1.15.1,可以正常转换模型。
c++ 的onnx库，在你喜欢的目录下下载解压，设置环境变量即可。


wget https://github.com/microsoft/onnxruntime/releases/download/v1.8.1/onnxruntime-linux-x64-1.8.1.tgz
tar -zxvf onnxruntime-linux-x64-1.8.1.tgz
export ONNXRUNTIME_DIR=$(pwd)/onnxruntime-linux-x64-1.8.1
export LD_LIBRARY_PATH=$ONNXRUNTIME_DIR/lib:$LD_LIBRARY_PATH

可以用下面的方式把环境变量设为永久

echo '# set env for onnxruntime' >> ~/.bashrc
echo "export ONNXRUNTIME_DIR=${ONNXRUNTIME_DIR}" >> ~/.bashrc
echo "export LD_LIBRARY_PATH=$ONNXRUNTIME_DIR/lib:$LD_LIBRARY_PATH" >> ~/.bashrc
source ~/.bashrc

1.2 build mmdeploy

cd /the/root/path/of/MMDeploy
export MMDEPLOY_DIR=$(pwd)
mkdir -p build && cd build
cmake -DCMAKE_CXX_COMPILER=g++ -DMMDEPLOY_TARGET_BACKENDS=ort -DONNXRUNTIME_DIR=${ONNXRUNTIME_DIR} ..
make -j$(nproc) && make install