Yolo系列——动态卷积

最新推荐文章于 2025-07-14 13:59:47 发布
原创 最新推荐文章于 2025-07-14 13:59:47 发布 · 2.2k 阅读 · 24 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#YOLO

一、为什么要提出动态卷积？

为了更好的将模型部署在边端设备上，需要设计轻量级网络模型。轻量级卷积网络因其较低的运算而限制了CNN的深度（卷积层层数）和宽度（通道数），限制了模型的表达能力，使得模型性能下降。

如何在不增加网络宽度和深度的情况下增加模型的表达能力，成为待解决的问题。在CVPR2020年，动态卷积的概念被提出，它的设计初衷就是，在不显著增加模型参数量或计算复杂度的前提下，动态卷积可以提升模型在诸如分类、检测等任务上的准确率。

二、参数量、FLOPs的理解以及计算方式

参数量：指的是模型中所有需要学习的参数总和，这包括但不限于卷积层的权重、全连接层的权重以及偏置项等。参数量直接关系到模型的存储需求和训练时的内存消耗。

计算参数量的计算公式如下：
参数量=(Kh×Kw×Cin)×Cout+Cout参数量=(K_h\times K_w\times C_{in})\times C_{out}+C_{out}参数量=(Kh​×Kw​×Cin​)×Cout​+Cout​
其中CinC_{in}Cin​表示输入通道数，CoutC_{out}Cout​表示输出通道数，Kh×KwK_h\times K_wKh​×Kw​表示卷积核的大小。(Kh×Kw×Cin)×Cout(K_h\times K_w\times C_{in})\times C_{out}(Kh​×Kw​×Cin​)×Cout​表示卷积核的权重参数。CoutC_{out}Cout​表示偏置项的参数。

输入通道、输出通道数以及卷积数之间的关系图如下：
在这里插入图片描述

FLOPs: FLOPs衡量的是模型在进行前向传播时执行的浮点运算次数，包括加法、减法、乘法和除法等。它是评估模型运行时计算成

最低0.47元/天 解锁文章

200万优质内容无限畅学
（二）动态卷积之Dynamic Convolution
Billie使劲学的博客
04-07 2万+
代码地址：code 论文题目：Dynamic Convolution: Attention over Convolution Kernels 论文地址：paper 目录 前言 Dynamic Convolution解决的问题 动态感知机 Dynamic Convolution结构 实验结果 Dynamic Convolution代码实现(Pytorch) 前言 动态卷积 现在的诸多task中，普遍需要capacity较大的模型，而随着模型参数的不断增加，计算成本也越来越高。
深度学习——全维度动态卷积ODConv
R的博客
08-03 1万+
动态卷积就是对卷积核进行线性加权第一篇提出动态卷积的文章也是在SE之后，他提出目前的注意力机制模型主要都是在特征图上做工作，而动态卷积它对多个卷积核进行线性加权，加权值则与输入有关，这就使得动态卷积具有输入依赖性。也就是说，对于不同的输入，我们使用不同的卷积核。之后对这些不同的卷积核，进行注意力加权。看这组图片，这是的作者提出的。在两种方式的对比下，发现他们的作用是一样的。
各种动态卷积（CondConv、DynamicConv、ODConv、DyNet...）
最新发布
medemingzia的博客
07-14 844
随后，有一个全连接（FC）层和四个头分支。该文作者认为通过内核空间的一个维度（关于卷积核数）赋予卷积核动态特性，但忽略了其他三个维度（关于空间大小，每个卷积核的输入通道数和输出通道数），根据此启发，提出了ODConv，即沿着核空间的四维分别学习四个维度上的注意力权重，实验证明了这四种注意力是互补的，并可以增强卷积核的特征提取能力。a为沿着卷积核的空间（宽高）维度进行乘法运算，b为沿着输入通道维度进行乘法运算，c为沿着输出通道维度进行乘法运算，d为沿着卷积核的维度进行乘法运算，可以定义为。
动态卷积（轻量级卷积）替代多头自注意力
qq_47896523的博客
07-29 2720
动态卷积，它比自注意力更简单、更有效。我们仅基于当前时间步长预测单独的卷积核，以确定上下文元素的重要性。这种方法所需的操作数量随输入长度呈线性增长，而自注意力是二次的。在大规模机器翻译、语言建模和抽象摘要上的实验表明，动态卷积比强自注意模型有更好的改进。
关于动态卷积
qq_45670407的博客
04-07 1240
关于深度学习中的动态卷积
动态卷积
gwpscut的博客
04-05 8567
卷积层是通过将上一层的特征映射与一组过滤器进行卷积来计算输出特征映射。这些滤波器是卷积层的唯一参数，通常通过反向传播算法在训练中学习。我们提出了一种新的深度网络层，称为“动态卷积层”，是对卷积层的一种推广。传统的卷积层使用在训练中学习的过滤器，在测试中保持不变。与此相反，动态卷积层使用的过滤器在测试期间会随着输入的不同而变化。这是通过学习将输入映射到过滤器的函数来实现的。 与卷积层类似，动...
DynamicConv（动态卷积）
微信号：Custom-Software
08-23 1万+
DynamicConv（动态卷积） 第一个总结: 动态卷积的目标在于：在网络性能与计算负载中寻求均衡。常规提升网络性能的方法（更宽、更深）往往会导致更高的计算消耗，因此对于高效网络并不友好。 因而，相比静态卷积，动态卷积具有更强的特征表达能力。 相比静态感知器，动态感知器具有更大的模型。它包含两个额外的计算：(a)注意力权值计算；(2)动态权值融合。尽管如此，这两点额外计算相比感知器的计算量可以忽略： Dynamic Convolution 类似于动态感知器，动态卷积同样具有K个核。按照CNN中的经典设
动态卷积 Dynamic convolution
热门推荐
Dongjiuqing的博客
03-17 2万+
动态卷积的相关文章
Yolo系列——YOLO v1
2301_77698138的博客
10-23 3057
最终输出的7×7意味着7×7个grid cell，30表示每个grid cell包含30个信息，其中2个预测框，每个预测框包含5个信息(x y w h c)，分别为中心点位置坐标，宽高以及置信度，剩下20个是针对数据集的20个种类的预测概率(即假设该grid cell负责预测物体，那么它是某个类别的概率)。值越大则box越接近真实位置。YOLO-V1算法最后输出的检测结果为7x7x30的形式，其中30个值分别包括两个候选框的位置和有无包含物体的置信度以及网格中包含20个物体类别的概率。
Yolo系列——Yolo v2
2301_77698138的博客
10-24 1878
YOLOv2是一种高效、准确的目标检测模型。它通过改进网络结构、引入Anchor机制、使用高分辨率分类器和多尺度训练等策略提高了模型的检测速度和精度。同时它还具有较好的泛化能力和实时性能，已被广泛应用于多个领域。
YOLO系列论文综述（从YOLOv1到YOLOv11）【第11篇：YOLO变体——YOLO+Transformers、DAMO、PP、NAS】
https://github.com/Donvink，专注于计算机视觉、目标检测、目标跟踪等方向
11-30 1653
本文介绍了YOLO的一系列变体，包括DAMO-YOLO、PP-YOLO系列、YOLO-NAS以及将Transformer结合YOLO。
yolo系列——目标检测基本概念
Priplex的博客
08-01 426
目标检测就是框出图片中用户感兴趣的物体，并且预测物体类别一般做法是利用滑动窗口（Sliding Wondow）
动态卷积之Dynamic Convolution
机器学习，深度学习
03-23 1万+
论文题目:Dynamic Convolution: Attention over Convolution Kernels 论文地址:https://arxiv.org/abs/1912.03458 前几天发布了关于动态卷积CondConv的文章.今天,我想介绍另一种类型动态卷积Dynamic Convolution,相关文章链接在本文的开头已经给出,感兴趣的可以自己去下载并阅读.最近发现这个卷积的研究比较热门,研究者们试图要打破常规卷积对数据"一视同仁"的思想,设计一种依赖于输入样本的卷积即每个样本.
（CVPR-2020）动态卷积：注意力卷积核
顾道长生的科研笔记
02-10 7159
动态卷积:注意力卷积核 论文题目：Dynamic Convolution: Attention over Convolution Kernels paper是微软发表在CVPR2020的工作 论文地址：链接 Abstract 轻量卷积神经网络（CNN）由于其较低的计算预算限制了CNN的深度（卷积层数）和宽度（通道数），导致其表达能力有限，因此性能会下降。为了解决这个问题，作者提出了动态卷积，这是一种在不增加网络深度或宽度的情况下增加模型复杂性的新设计。动态卷积不是每层使用一个卷积核，而是根据关注
cnn中的动态卷积
liguandong
09-22 1192
模块核心是类似se的通道作用机制，对通道维度进行重要性分数生成，然后取topk进行排序，对其余的卷积值进行0填充，在进行卷积操作。总结一波cnn卷积核上的设计，核心思路是对卷积核做一些改进，更加轻量化，高效。
动态卷积&&条件卷积
weixin_43921949的博客
10-24 5271
有关动态卷积&&条件卷积的一些记录与想法
YOLOv8改进 | 主干网络 | C2f融合动态卷积模块ODConv
kay_545
07-01 2477
ODConv（Omni-Dimensional Dynamic Convolution）的主要原理是通过引入多维度注意力机制来动态调整卷积核参数，从而在卷积神经网络中实现更灵活和精确的特征提取。它通过计算并应用空间注意力、通道注意力、滤波器注意力和核选择注意力，全面地调整卷积核在各个维度上的权重。这种多维度的动态调整机制使得ODConv能够根据输入图像的特征动态选择最合适的卷积核组合，从而在各类高层视觉任务（如图像分类、目标检测和图像分割）中实现显著的性能提升，同时保持较高的参数效率。
动态卷积：自适应调整卷积参数，显著提升模型表达能力 CVPR 2020
我爱计算机视觉
06-08 7234
本文转载自微软研究院AI头条。编者按：轻量级卷积神经网络能够在较低的计算预算下运行，却也牺牲了模型性能和表达能力。对此，微软 AI 认知服务团队提出了动态卷积，与传统的静态卷积（每层单个...
yolo 可变性卷积
03-04
### 可变性卷积在YOLO中的应用 可变性卷积（Deformable Convolution），作为一种增强型卷积操作，在处理具有复杂形变的目标时表现出色。传统卷采样点的位置是固定的，而变形卷积允许这些位置偏移，从而更灵活地捕捉不同形状的对象边界[^2]。 #### 实现方式 为了支持对象检测中物体形态的变化，引入了额外的学习参数——偏置向量，该向量决定了每个滤波器内核元素相对于中心的具体位移情况。具体来说： - **标准卷积 vs. 变形卷积**：常规卷积采用均匀间隔的取样模式；相比之下，变形版本则加入了动态调整能力，使感受野可以自适应调节大小与方向。 - **双线性插值法**：当计算新坐标处的像素强度时，会运用此方法估计非整数值坐标的灰度级，确保转换过程平滑过渡而不失真。 以下是Python环境下基于PyTorch框架实现的一个简单例子: ```python import torch from torchvision.ops import deform_conv2d input_tensor = torch.randn(20, 16, 50, 32) # 输入张量尺寸(batch_size=20, channels_in=16, height=50, width=32) offsets = torch.rand(20, 2 * 3*3, 50, 32) # 偏移矩阵维度应匹配输入特征图及所需变换尺度 weight = torch.randn(33, 16, 3, 3) # 卷积核权重初始化 output = deform_conv2d(input=input_tensor, offset=offsets, weight=weight) print(output.shape) # 输出经过变形卷积后的数据结构信息 ``` 上述代码片段展示了如何定义并执行一次变形卷积运算。值得注意的是`torchvision.ops.deform_conv2d()`函数接收三个主要参数：原始图片批次、用于指导变形程度的二维偏移数组以及待施加的标准卷积核系数集。 #### 使用场景 对于像行人重识别(Pedestrian Re-ID)，车辆姿态变化较大场合下的车牌定位等任务而言，由于目标本身存在显著的姿态差异或视角扭曲现象，此时利用变形卷积能有效提升模型鲁棒性和准确性。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值