主干网络篇 | YOLOv5/v7 更换骨干网络之 EfficientNet | 卷积神经网络模型缩放的再思考

主干网络篇 | YOLOv5/v7 更换骨干网络之 EfficientNet | 卷积神经网络模型缩放的再思考

1. 简介

近年来，深度卷积神经网络（CNN）在图像识别、目标检测等领域取得了巨大进展。然而，随着模型复杂度的不断提升，模型训练和部署所需的计算资源也呈指数级增长，这对于资源受限的设备和平台带来了挑战。

为了解决这个问题，EfficientNet 应运而生。EfficientNet 是一种基于神经网络架构搜索（NAS）的卷积神经网络架构，它通过探索不同网络结构的组合，以最小化的计算代价获得最大化的精度，实现了模型的轻量化和高效性。

本文将介绍将 EfficientNet 作为主干网络替换 YOLOv5/v7 中原有骨干网络的方案，并探讨卷积神经网络模型缩放的再思考。

2. 原理详解

EfficientNet 的核心思想是通过神经网络架构搜索（NAS）寻找在特定性能指标约束下，模型参数量和计算量与模型精度之间的最佳平衡。

EfficientNet 的架构搜索过程主要包括以下步骤：

1. 定义搜索空间: 首先，定义一个包含不同网络结构组合的搜索空间，例如网络深度、宽度、卷积核大小、激活函数等。
2. 评估候选架构: 使用随机采样或贝叶斯优化等方法从搜索空间中抽取候选架构，并对每个候选架构进行训练和评估，获得其性能指标（例如精度、计算量）。
3. 更新搜索策略: 根据评估结果，更新搜索策略，将搜索重点放在更有可能找到高性能架构的区域。
4. 重复步骤 2 和 3