【第16篇】Vision Transformer

AI智韵

已于 2023-06-22 10:17:52 修改

阅读量148

点赞数

CC 4.0 BY-SA版权

分类专栏：高质量AI论文翻译文章标签： transformer 深度学习计算机视觉

于 2023-04-28 05:45:56 首次发布

不能复制，转发

本文链接：https://blog.csdn.net/m0_47867638/article/details/130418447

高质量AI论文翻译专栏收录该内容

184 篇文章 ¥99.90 ¥299.90

订阅专栏

本文探讨了Transformer架构在计算机视觉领域的应用，尤其是Vision Transformer (ViT)。研究发现，ViT在大规模数据预训练后，在多个图像识别基准上表现出与最先进的CNN竞争或超越的性能，而无需依赖CNN的归纳偏差。尽管在小数据集上可能不如CNN，但随着数据量增加，ViT的优势逐渐显现。ViT的潜力在于其在数据和计算资源有限的情况下，仍能实现优秀的效果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

论文连接：https://arxiv.org/abs/2010.11929
GitHub·：https://github.com/google-research/vision_transformer

摘要

虽然 Transformer 架构已成为自然语言处理任务的事实标准，但其在计算机视觉中的应用仍然有限。在视觉上，注意力要么与卷积网络结合使用，要么用于替换卷积网络的某些组件，同时保持其整体结构不变。我们表明，这种对 CNN 的依赖是不必要的，直接应用于图像块序列的纯变换器可以在图像分类任务上表现得非常好。当对大量数据进行预训练并转移到多个中型或小型图像识别基准（ImageNet、CIFAR-100、VTAB 等）时，与 state-of-the- 相比，Vision Transformer (ViT) 获得了出色的结果艺术卷积网络，同时需要更少的计算资源来训练。

1 简介

基于自注意力的架构，尤其是 Transformers，已成为自然语言处理 (NLP) 的首选模型。主要方法是在大型文本语料库上进行预训练，然后在较小的特定任务数据集上进行微调。由于 Transformers 的计算效率和可扩展性，训练具有超过 100B 参数的前所未有的模型成为可能。随着模型和数据集的增长，仍然没有饱和性能的迹象。

然而，在计算机视觉中，卷积架构仍然占主导地位。受 NLP 成功

了解本专栏