本项目完整项目下载地址:【Yolo项目下载地址】
经过前面几篇文章,我们得到了一个没有错误的项目。但是呢?速度测试后,发现还是稍微有点慢的,如何进一步加速呢?我们可以使用OpenVino进行部署。OpenVINO是Intel专门为自家CPU、集成显卡和VPU设计的推理加速工具包。
对比:ONNX Runtime虽然也支持多线程,但缺乏针对Intel硬件的深度指令级优化。
因此,我们可以在项目中集成OpenVINO来加速推理,同时保持ONNX模型格式不变。
下载OpenVino
第一步,首先,我们需要下载OpenVino。具体下载链接为: