论文地址:https://openaccess.thecvf.com/content/CVPR2022/html/Zamir_Restormer_Efficient_Transformer_for_High-Resolution_Image_Restoration_CVPR_2022_paper.html
源码地址:https://github.com/swz30/Restormer
概述
图像恢复任务旨在从受到各种扰动(噪声、模糊、雨滴等)影响的低质量图像中恢复出高质量图像,该任务需要强大的先验知识作为引导。基于卷积神经网络的方法感受野受限,无法对像素间的长程依赖进行建模,且在推理过程卷积核的参数固定,无法应对多变的输入内容。相对而言,Transformer中的自注意力机制可以解决以上的问题,而传统的Transformer空间注意力计算过程显存消耗大。为了解决以上的问题,文中提出一种高效的Transformer框架(Restormer)用于图像恢复任务。该框架主要包含两个核心组件:多深度卷积头转置注意力(MDTA)模块和门控深度卷积前馈