【YOLOv8改进-注意力机制】Non-Local：基于非局部均值去噪滤波的自注意力模型

Non-local注意力模块是一种用于计算机视觉和自然语言处理任务的注意力机制，它可以将全局信息引入到局部区域的特征表示中。它的主要思想是对于每个位置上的特征，使用所有位置的特征加权平均来计算该位置的输出。 具体地，对于一个输入特征图X，一个输出特征图Y，以及一个非线性变换函数f，Non-local注意力模块的输出可以表示为： Y = f(X, g(X), h(X)) 其中g(X)，h(X)分别为输入特征图X通过两个卷积层得到的两个特征图，用于计算注意力权重。具体地，g(X)和h(X)分别被用来计算相似度矩阵和权重矩阵，然后将权重矩阵应用到输入特征图上，得到注意力加权的特征表示，最后与输入特征图相加得到输出特征图。 Non-local注意力模块的优点在于能够捕捉全局信息和长程依赖关系，从而提高了模型的性能和泛化能力。它已经被成功应用于许多计算机视觉和自然语言处理任务中，如图像分类、目标检测、语义分割、机器翻译等。