[注意力机制]--Non-Local注意力的变体及应用

最新推荐文章于 2025-04-25 09:06:51 发布
最新推荐文章于 2025-04-25 09:06:51 发布
阅读量9.5k 收藏 85
点赞数 11
CC 4.0 BY-SA版权
文章标签： 深度学习 自动驾驶 pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42096202/article/details/103475376

自己整理了一下Non-Local注意力机制提出后，后续该注意力机制的变体和在其他领域的应用！由于自己看论文数量有限，欢迎大家补充说明！

一、语义分割：\color{#FF3030}{一、语义分割：}一、语义分割：

1.CCnet-Criss-Cross Attention for Semantic Segmentation
在这里插入图片描述
原Non-Local block操作的计算复杂度为O(HW * HW)，本文将Non-Local分解为两个Criss-Cross attention block，相当于只在水平和竖直方向的像素点学习权重值，但是其他像素点的权重对特征提取也有作用，所以采用了递归的方式，计算复杂度降为了O(2 * HW * (H+W-1))，大大节省了内存和显存。且效果比Non-local更好。
在这里插入图片描述
实验结果：
在这里插入图片描述

2.DAnet：Dual Attention Network for Scene Segmentation
在这里插入图片描述
目前基于深度学习的语义分割网络

最低0.47元/天 解锁文章

200万优质内容无限畅学
chenzy_hust
关注
注意力机制论文:Non-Local neural networks及其Pytorch实现
mingo_敏
03-01 1万+
Non-Local neural networks PDF: https://arxiv.org/pdf/1711.07971.pdf PyTorch代码: https://github.com/shanglianlm0525/PyTorch-Networks PyTorch代码:
UNet改进（24）：注意力机制-从基础原理到高级融合策略
最新发布
2501_91516851的博客
07-22 124
本文系统探讨了如何通过引入各类注意力机制增强UNet在医学图像分割中的性能。文章分为基础篇、进阶篇和高级篇三个层级：基础篇介绍了时序注意力、可变形注意力、分层注意力等8种基础机制；进阶篇提出了5种混合注意力设计；高级篇则探讨了全局+局部+多尺度等复杂组合机制。实验表明，这些注意力模块在心脏MRI、肺部感染等任务中能提升2-15%的分割精度。文章还提供了硬件适配建议和完整实现代码，为研究者提供了全面的技术参考。未来方向包括NAS优化、量子注意力等前沿探索，为UNet在医疗影像等领域的应用革新提供了理论指导。
NON-LOCAL-注意力机制
qq_35975753的博客
09-26 1万+
什么是视觉中的注意力机制？ 计算机视觉（computer vision）中的注意力机制（attention）的基本思想就是想让系统学会注意力——能够忽略无关信息而关注重点信息。 近几年来，深度学习与视觉注意力机制结合的研究工作，大多数是集中于使用掩码(mask)来形成注意力机制。掩码的原理在于通过另一层新的权重，将图片数据中关键的特征标识出来，通过学习训练，让深度神经网络学到每一张新图片中需要关注的区域，也就形成了注意力。 注意力机制一种是软注意力(soft attention)，另一种则是强注.
注意力机制综述：基础原理、变种和最近研究
AI算法修炼营的博客
04-13 2906
点击上方“AI算法修炼营”，选择加星标或“置顶”标题以下，全是干货作者：李新春 整理：极市平台知乎链接：https://zhuanlan.zhihu.com/p/10666237...
注意力机制——Non-local Networks（NLNet）
weixin_50752408的博客
03-16 2446
自注意力模块采用注意力机制来计算每个像素与其他像素之间的相互依赖关系，并使用这些依赖关系来加权聚合所有像素的特征表示。这种全局交互方式使得模型能够在像素之间建立远距离的依赖关系，从而提高了模型的表示能力。传统的卷积神经网络（CNN）在处理图像时，只考虑了局部区域内的像素信息，忽略了全局信息之间的相互作用。NLNets通过引入非局部块来解决这个问题，该块包括一个自注意力模块，用于学习像素之间的相互作用。：NLNet是一种非局部注意力模型，通过对整个输入空间的特征进行加权求和，以捕捉全局信息。
注意力之Non-local Neural Networks
weixin_42764932的博客
01-11 1258
Local & non-local Local这个词主要是针对感受野(receptive field)来说的。以卷积操作为例，它的感受野大小就是卷积核大小，而我们一般都选用33，55之类的卷积核，它们只考虑局部区域，因此都是local的运算。同理，池化(Pooling)也是。 而non-local指的就是感受野可以很大，不是一个局部领域，比如全连接就是non-local的，而且是global的。但是全连接带来了大量的参数，给优化带来困难。这也是卷积神经网络近年来流行的原因，考虑局部区域，参数大大减
【图像超分】论文精读：Image Super-Resolution with Cross-Scale Non-Local Attention and Exhaustive Self-Exemplars
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
04-20 1856
基于深度卷积的单幅图像超分辨率(SISR)网络包含了从大规模外部图像资源中学习局部恢复的好处，但现有的研究大多忽略了自然图像中的远程特征相似性。最近的一些工作通过探索非局部注意模块成功地利用了这种内在特征相关性。然而，目前的深度模型都没有研究图像的另一个固有属性：跨尺度特征相关性。在本文中，我们提出了第一个跨尺度非局部 (CS-NL) 注意力模块，并集成到循环神经网络中。通过将新的 CS-NL 先验与强大的循环融合单元中的局部和尺度内非局部先验相结合，我们可以在单个低分辨率 (LR) 图像中找到更多的跨尺度
基于注意力机制的图像分类模型优化
AI天才研究院
04-25 1141
卷积神经网络（CNN）在图像分类任务中取得显著进展，但传统CNN通过固定感受野处理视觉信息，可能忽略关键区域或通道的语义关联。注意力机制通过动态聚焦重要特征，成为提升模型性能的关键技术。本文聚焦注意力机制在图像分类中的优化策略，涵盖核心原理、算法实现、数学建模、实战案例及应用趋势，帮助读者掌握从理论到工程的完整优化路径。背景介绍：明确目标、读者与文档结构核心概念：解析注意力机制分类及架构设计算法原理：通过Python实现经典注意力模块数学模型：推导注意力权重计算的核心公式。
Non-local Neural Networks
06-18 4169
上一篇关于注意力机制介绍到2021CVPR上发表的关于嵌入位置信息的注意力机制Coordinate Attention for Efficient Mobile Network Design，有兴趣的同学可以阅读一下。今天
YOLOv8有效改进系列及项目实战目录 包含卷积，主干 注意力，检测头等创新机制 以及 各种目标检测分割项目实战案例
热门推荐
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
05-06 3万+
大家好！欢迎阅读本专栏。本专栏涵盖了YOLO8中C2f、主干网络、检测头、注意力机制、Neck等多种结构的创新，同时也包括了 YOLO相关的基础知识以及相关项目。
注意力机制与其变体
m0_63260018的博客
12-21 3929
自注意力和多头注意力的发展 自注意力机制是注意力的一种形式，它允许模型在处理一个序列时，将每个元素与序列中的其他元素进行比较。这种机制在Transformer模型中被广泛采用，因为它提供了一种更有效的方式来捕捉序列内的全局依赖。多头注意力则是自注意力的扩展，它将注意力分割成多个头部，每个头部独立地关注输入数据的不同部分。这种方法提供了更复杂和灵活的方式来捕捉数据中的多种模式和特征。
注意力机制、注意力机制的变体、论文中常见的注意力
Ray
06-16 1521
前面那篇论文中有提到利用注意力机制进行语义分割的，这里转载一篇。 各种注意力总结
【YOLO v5 v7 v8 v9小目标改进】Non-local 注意力实现非局部神经网络，解决长空间和时间数据依赖问题
Debroon
03-01 1796
增加更多非局部块的实验结果表明，在网络中添加更多的非局部块可以进一步提高性能，特别是当这些块被添加到不同的网络层级时，它们可以执行长距离多跳通信，帮助模型更有效地捕捉复杂的时空依赖关系。将单个非局部块添加到ResNet的不同阶段的结果表明，无论是在网络的早期阶段还是后期阶段添加非局部块，都能带来性能的提升，但是添加到空间尺寸较小的res5阶段时提升稍小。通过这个结构，非局部块能够在每个位置捕捉全局依赖，不仅包括空间位置之间的关系，还包括跨时间的动态变化，这对于理解复杂的视频序列至关重要。
3-3 注意力机制--注意力机制的各种变式
a131529的博客
11-13 221
的维度拉到同一维度，最后再经过一个激活函数和一个一维数组相乘即可得到一个标量。如果维度不相同，我们就需要在中间加入一个权重矩阵，进而实现相乘。维度不等的条件下诞生的，W1和W2的作用就是将s和。的向量维度相同的情况下，如果维度不相同呢？
【计算机视觉 | 注意力机制】13种即插即用涨点模块分享！含注意力机制、卷积变体、Transformer变体等
wzk4869的博客
11-29 1万+
【计算机视觉 | 注意力机制】13种即插即用涨点模块分享！含注意力机制、卷积变体、Transformer变体等
视觉注意力机制 | Non-local模块如何改进？来看CCNet、ANN
AI算法修炼营的博客
03-05 8082
点击上方“AI算法修炼营”，选择加星标或“置顶”标题以下，全是干货前面的话前面的文章中，我们关注了Non-local网络模块、视觉注意力机制在分类网络中的应用——SENet、SKNet、...
注意力机制
人无远虑，必有近忧
01-15 1万+
自下而上的无意识的注意力，称为基于显著性的注意力（ SaliencyBased Attention）．基于显著性的注意力是由外界刺激驱动的注意，不需要主动干预，也和任务无关．如果一个对象的刺激信息不同于其周围信息，一种无意识的“赢者通吃”（ Winner-Take-All）或者门控（ Gating）机制就可以把注意力转向这个对象．不管这些注意力是有意还是无意，大部分的人脑活动都需要依赖注意力，比如记忆信息、阅读或思考等．。那么在预测某个词yt时，任何输入单词对于它的重要性都是一样的，也就是注意力分散了。
【计算机视觉】详解 Non-local 与 SENet、CBAM 模块融合：GCNet、DANet (视觉注意力机制 (三))
闻韶
04-11 1万+
绪论 视觉注意力机制 (一)阐述了视觉应用中的 Self-attention 机制及其应用 —— Non-local 网络模块；视觉注意力机制 (二)主要分析了视觉注意力机制在分类网络中的应用——SENet、CBAM、SKNet 。它们构成了视觉注意力机制中的基本模块，本节将主要介绍融合 Non-local 模块和 SENet 模块的全局上下文建模网络（Global Context N...
【YOLOv8改进-注意力机制】Non-Local：基于非局部均值去噪滤波的自注意力模型
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
05-21 1637
卷积和循环神经网络中的操作都是一次处理一个局部邻域，在这篇文章中，作者提出了一个非局部的操作来作为捕获远程依赖的通用模块。受计算机视觉中经典的非局部均值方法启发，我们的非局部操作计算某一位置的响应为所有位置特征的加权和。而且，这个模块可以插入到许多计算机视觉网络架构中去。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值