Swin Transformer实战图像分类(Windows下，无需用到Conda，亲测有效)

目录

前言

一、从官网拿到源码，然后配置自己缺少的环境。

针对可能遇到的错误：

二、数据集获取与处理

2.1 数据集下载

2.2 数据集处理

三、下载预训练权重

四、修改部分参数配置

4.1 修改config.py

4.2 修改build.py

4.3 修改units.py

4.4 修改main.py

4.5 修改其他的地方

4.6 将最后结果以折线图的形式呈现出来

五、其他可修改的地方

六、运行代码

前言

关于Swin Transformer的讲解和实战，实际上网络上已经有很多了。不过有一些代码跑起来可能有一些问题（有一些确实有点问题，或者没头没尾的）。

最初的时候，我通过一些调研，参照网上的一些教程，跑的时候也遇到了一些问题，但是最后确实是成功了。下面我就详细地来讲述应该怎么做。

关于Swin Transformer的基础知识就不再赘述了。相信想到用Swin Transformer来实战的同学肯定已经多多少少对其有一定了解了。

在此，我说一下我的实战的思路：

从官网拿到代码，然后改改，换成自己的数据集，加载它的预训练权重，然后让代码跑起来。

如果你的coding能力确实比较强，那么你完全可以从官网上找到部分Swin Transformer的Model部分核心代码，然后数据处理部分、跑模型的部分都自己来写，这样做也完全OK。但是对能力要求较高，并且对模型的理解要求也比较高。比如，参考某B站Up主的视频，它的代码就是这样子的（在别人的文章里应该都能看的到，我就不重复了）。

而我们在这里就介绍傻瓜式的操作。

我的环境：

  • Win 10
  • Python 3.8
  • Pytorch/torchvision 1.13.1+cu116
  • NVIDIA GeForce RTX 3060（CUDA 11.7.102）
  • Pycharm Community；

OK，开始。

一、从官网拿到源码，然后配置自己缺少的环境。

论文: https://arxiv.org/abs/2103.14030

代码: https://github.com/microsoft/Swin-Transformer

注意下，这里的fused window process、还有apex等不安装也是可以跑通的。它们的安装不影响代码的运行。如果你最后对性能有很高的要求，那你再去下载，我们这里主要是学习，然后让它先跑起来。

你要最起码确保在data文件夹下、models文件夹下和最外层的所有py文件都没有依赖报错（就是导入包的报错）

就是如上图那些的一些包，你给它都下载好不报错就行了。或者你新搞个虚拟环境，然后重新装一下就行，怎么搞虚拟环境可以参考这篇文章【正在更新中...】。

针对可能遇到的错误：

注意，这个错误只是可能遇到，不是一定会遇到。它和你下载的Pytorch的版本有关系。并且你的分类数如果大于5，应该是不会报错的。

那我们需要做什么呢？就是你可能需要改一下你的accuracy函数。

说一下这个函数的入口在哪找，因为这个函数并不是Swin-transformer的函数，它是Pytorch内置的文件函数，所以它原本是只读的（只是有写保护，并非不可更改）。那么我们从哪里找呢？

找到main.py->函数validate，有一行

acc1, acc5 = accuracy(output, target, topk=(1, 5))

鼠标点击accuracy函数，然后按ctrl B就可以了(转到定义)

然后在metrics.py(这是个只读文件)里的这个函数accuracy，它应该是这个样子的（如下图）：

但有些小伙伴该函数的第一行是这个样子的：

maxk = max(topk)

然后就导致如果你训练过程中，如果分类数比较少（比如二分类），那它就会报类似于“索引k超出范围”这样的错误。你把它这一行给改成上面截图的那个样子就行：

maxk = min(max(topk), output.size()[1])  //应该是这个样子的，否则二分类会报错

OK了家人们，现在我们环境配置就这样说完了。拿到项目和配置环境相信都是最基本的，没有什么好说的了哈。

二、数据集获取与处理

注意，我们是要用预训练权重去跑我们自己是数据集，所以不要傻乎乎的去下载ImgNet 1K，更不要傻乎乎地去下载ImgNet 22K哈哈哈，这些都是官方在一开始训练swin transformer的时候所用到的数据集，如果我们用预训练权重来去训练自己的训练集的话，是不需要下载这些东西的了。

我们这里，就以猫狗数据集为例来为大家说下数据集怎么整。

我们就以Kaggle猫狗大战数据集为例。

2.1 数据集下载

传送门：Dogs vs. Cats Redux: Kernels Edition | Kaggle​​​​​​

具体怎么下载，可以参考这篇文章：【正在更新中】

或者也可以用百度网盘分享的链接下载：【正在更新中】

简单来说，就是你需要先登录，同意它比赛的Rules，然后点击那个Download就可以下载了。数据集不是很大，所以直接从浏览器上下载感觉问题也不大。

2.2 数据集处理

OK，那么数据集下载完毕之后，我们要对数据集进行处理分类。

那个csv表格没有用的，它是给你提交的样例。我们需要拿的是test数据集合train数据集，解压缩。

我们的目标，就是把它整成这样的形式：

图①

简单来说，也就是把下载拿到的训练集分成训练集(train)和验证集(val)，然后猫的目录下都存猫，狗的目录下都存狗。

怎么整呢？我的做法是，首先新建一个文件夹，命名为dataset，然后把从网上下载的train和test的压缩包都解压到该目录下。再新建一个main.py文件用于执行划分训练集和验证集的代码。那么，解压后的文件结构就是：

 |——dataset|——test|—— 0.png|—— 1.png|—— 2.png|——  ...|——train|——cat //这个是自己提前建好的空目录|——dog //这个也是提前建好的空目录|——cat.1.png|——cat.2.png|——cat.3.png|——...|——dog.1.png|——dog.2.png|——dog.3.png|——...|——val|——cat //这个是自己提前建好的空目录|——dog //这个也是提前建好的空目录|——main.py

然后在main.py中执行以下代码：

import os
import shutil
dir_train = '.\\train'
dir_val = '.\\val'
for file in os.listdir(dir_train):if file.startswith('cat') and file.endswith(".jpg"):num = int(file.split('.')[1])if num <= 9999:shutil.move(os.path.join(dir_train, file), os.path.join(dir_train, 'cat', file))else:shutil.move(os.path.join(dir_train, file), os.path.join(dir_val, 'cat', file))elif file.startswith('dog') and file.endswith(".jpg"):num = int(file.split('.')[1])if num <= 9999:shutil.move(os.path.join(dir_train, file), os.path.join(dir_train, 'dog', file))else:shutil.move(os.path.join(dir_train, file), os.path.join(dir_val, 'dog', file))

解释下这个代码是做什么的。这个代码就是把train目录文件下的编号是0-9999的猫和狗作为训练集(就是放到train目录下)，然后把10000-12500的猫和狗放到val文件下。这样，我们在训练集，就总共有20000张图片，然后我们放了5000张图片留作验证使用。（当然你要是觉得这个比例不够好，可以自己再去调，该上面的两个9999就可以）

运行这段代码后，得到的文件夹结构就是像图①所示的那样了。

三、下载预训练权重

接下来，下载预训练配置权重。

从modelhub.md文件中，下载预训练权重。下载哪个都行，当然了，有些模型需要配置额外的环境。

我们这里就以最简单的Swin-T为例，我们下载的也是Image 1K的model的预训练权重。那么，下载下来的预训练权重的名称就是swin_tiny_patch4_window7_224.pth。

OK，不管哪个，下载下来，然后放到swin-Transformer的根路径中，就像这样：

四、修改部分参数配置

由于我们是Windows操作系统，并且按照我们上面数据集来看，我们是二分类，所以我们需要修改一些参数配置。

4.1 修改config.py

_C.DATA.DATA_PATH = 'dataset'
# Dataset name
_C.DATA.DATASET = 'imagenet'
# Model name
_C.MODEL.NAME = 'swin_tiny_patch4_window7_224'
# Checkpoint to resume, could be overwritten by command line argument
_C.MODEL.RESUME ='swin_tiny_patch4_window7_224.pth'
# Number of classes, overwritten in data preparation
_C.MODEL.NUM_CLASSES = 2

上面这些参数是必然要改的。相信大家也能看懂这些参数是什么意思哈。

稍微解释下这个 （了解下即可）

_C.DATA.DATASET = 'imagenet' 

这个的意思，我的理解就是采用什么数据集来去训练的，它有俩选择，要么是“imagenet”，要么是"imagenet22K"，对应下面build.py的截图中的if和elsif。

4.2 修改build.py

build.py文件在data文件夹里。

修改这个地方：

把原来的1000改成上图所示，或者直接改成2都行。

4.3 修改units.py

因为我们的预训练权重中最后是对1000类别进行分类的，而我们是二分类，所以我们需要在load_checkpoint这个函数中，把输出头的类别数给修改了。具体如下：

在上图的位置添加以下代码：

    if checkpoint['model']['head.weight'].shape[0] == 1000:checkpoint['model']['head.weight'] = torch.nn.Parameter(torch.nn.init.xavier_uniform_(torch.empty(config.MODEL.NUM_CLASSES, 768)))checkpoint['model']['head.bias'] = torch.nn.Parameter(torch.randn(config.MODEL.NUM_CLASSES))

4.4 修改main.py

将init_process_group函数修改如下：

torch.distributed.init_process_group(backend='gloo', init_method='env://', world_size=1, rank=0)

想要在windows环境下跑通代码，那么前面的backend得换成“gloo”。然后后面的init_method我的用'env://'是可以跑通的，有的小伙伴可能跑不通，我看网上也有用‘file://tmp/somefile’的（对我来说行不通），大家如果最终是因为这行代码而导致代码跑不起来，可以专门去网上看看解决方案。反正上述代码我的是跑起来了。

4.5 修改其他的地方

还有些其他奇奇怪怪的情况，在这里就不一一列举，上网一查都可以查到。比如

from torch._six import inf

已经不再用，而是直接从torch里导入，即

from torch import inf

即可。

但是这些问题不是每个人都会遇到，就比如我自己配置的时候并没有遇到这些问题，我给别人配置的时候就遇到了这些问题。大家自己如果遇到了再去查就行。

4.6 将最后结果以折线图的形式呈现出来

先说一下我们最后画出来的图是什么样子的。就是横坐标是迭代次数，纵坐标左边是每次Train的avg_loss(平均的loss)大小，右边是Test时每次的avg_acc@1（平均准确率）。

修改五个地方。

在util.py文件中修改一处：

也就是添加以下代码，就是新添加一个函数。

from matplotlib import pyplot as pltdef plot_curve(x, y1, y2, label1, label2):# 创建折线图fig, ax1 = plt.subplots()# 绘制第一条折线（范围在[0,1]）ax1.plot(x, y1, 'b-', label=label1)ax1.set_xlabel('train_epoch')ax1.set_ylabel(label1, color='b')ax1.set_ylim([0, 8])ax2 = ax1.twinx()ax2.set_ylabel(label2, color='r')ax2.set_ylim([0, 1])ax2.plot(x, y2, 'r-', label=label2)lines1, labels1 = ax1.get_legend_handles_labels()lines2, labels2 = ax2.get_legend_handles_labels()lines = lines1 + lines2labels = labels1 + labels2ax1.legend(lines, labels)plt.show()

然后在main.py中修改四处：

第一处：

可以在一开始的地方加上两个list用于存储每个epoch的avg_loss和avg_acc@1.

第二处：

在train_one_epoch函数的最后增加一行：

list_train_loss.append(loss_meter.avg)

就是说每次训练完都把avg_loss存储进去。

第三处：

同理，在validate函数中也添加一行代码：

list_val_acc.append(acc1_meter.avg)

作用和上面同理。

第四处：

在main函数的最后，加上这两行：

    num_x = range(config.TRAIN.START_EPOCH, config.TRAIN.EPOCHS)plot_curve(num_x, list_train_loss, list_val_acc, "train_loss", "val_acc@1")

它的作用是最后显示出图示来。

但需要注意下哈，我在这里画出来的图，默认只能够画出来你从断点开始到最后结束的那一段。就是你checkpoint之前的是画不出来的，所以尽量一次性训练完就好。

五、其他可修改的地方

再说说其他可以修改的地方：

如果你觉得它打印的频次太多了，你可以修改参数：

# Frequency to logging info
_C.PRINT_FREQ = 10

同样如果你觉得你训练次数过多或者过少，你可以修改参数：

_C.TRAIN.EPOCHS = 100

如果你不想把你自身训练的每一轮模型都保存，你可以修改参数：

# Frequency to save checkpoint
_C.SAVE_FREQ = 1

为什么修改这些参数大家可以从源码中去找哈。

六、运行代码

差不多都搞完了，我们将我们的代码跑起来：

如果不想用命令行，可以点击右上角的编辑配置：

然后在参数这一栏：

添加以下参数：

--cfg configs/swin/swin_tiny_patch4_window7_224.yaml  --local_rank 0  --batch-size=64 --data-path=data/dataset

解释下什么意思。

  • --cfg是参数配置文件，它在configs文件夹里，你添加的这个配置的文件名需要和你的预训练权重的名字是一样的。
  • --local_rank设置成0就行。
  • --data-path后面需要添加你数据文件的路径。我就把它放到了data/dataset文件下。
  • --batch-size看你GPU有多大了，如果不大，可以设置成16，如果比较大，也可以设置成64、128等。

然后就，跑起来了。

好啦，如果有什么问题，欢迎留言。同时，如果觉得我写的文章对你有帮助，那就点个收藏，或者赞和关注吧，我将会持续带来优质的分享。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/191343.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Linux 基础认识

Linux 基础认识

文章目录 前言Linux历史window历史Linux地位发行版本 前言 建议只看概述 Linux历史 概述&#xff1a; 由一个研究生受Minix操作系统启发编写的&#xff0c;因为功能实用&#xff0c;代码开源被世界人接收和开发 &#xff0c;最终正式发布 。 详情&#xff1a; 1991年10月5日…
阅读更多...
模式识别与机器学习（七）：集成学习

模式识别与机器学习（七）：集成学习

集成学习 1.概念1.1 类型1.2 集成策略1.3 优势 2. 代码实例2.1boosting2.2 bagging2.3 集成 1.概念 集成学习是一种机器学习方法&#xff0c;旨在通过组合多个个体学习器的预测结果来提高整体的预测性能。它通过将多个弱学习器&#xff08;个体学习器&#xff09;组合成一个强学…
阅读更多...
docker安装卸载使用全教程

docker安装卸载使用全教程

docker安装卸载使用全教程 1.确定你是Centos7及以上版本 cat /etc/redhat-release2.yum安装gcc相关依赖 yum install -y gcc Yum install -y gcc-c3.安装需要的软件包 sudo yum install -y yum-utils4.设置stable镜像仓库 这里设置的是国内阿里云的镜像库&#xff0c;国外的…
阅读更多...
SQL Server 2016（为数据表Porducts添加数据）

SQL Server 2016（为数据表Porducts添加数据）

1、实验环境。 某公司有一台已经安装了SQL Server 2016的服务器&#xff0c;并已经创建了数据库PM。 2、需求描述。 在数据库PM中创建表products&#xff0c;"编号"列的值自动增长并为主键。然后使用T-SQL语句为表格插入如下数据。 3、实验步骤。 1、使用SSMS管理工…
阅读更多...
欧洲各国及发达国家经济支柱和第一出口商品是什么

欧洲各国及发达国家经济支柱和第一出口商品是什么

工业在欧洲各国经济支柱中的表现 一般发达国家&#xff0c;像西欧的国家第三产业即服务业占GDP70%甚至更高&#xff0c;从业人数比重也最大&#xff0c;只是越发达的国家服务业的知识性和科技含量会更高&#xff0c;如商业咨询、律师、医疗卫生、科技服务、商业服务。服务业的…
阅读更多...
PVE系列-CT容器安装openwrt X86的极简方法

PVE系列-CT容器安装openwrt X86的极简方法

下载推荐&#xff1a;https://openwrt.ai/ 使用环境PVE8.0&#xff0c;openwrt是以上网址的最新版&#xff0c;内涵及其丰富组件。 问题来源&#xff1a; 在PVE虚拟机可以很方便的使用img文件&#xff0c;转换qm 成一个硬盘文件&#xff0c;加入到虚拟机也就完成了&#xff0c…
阅读更多...
jQuery的使用

jQuery的使用

目录 jquery对象&#xff1a; jquery作为一般函数调用参数: jquery事件机制 jquery dom操作 jquery对象&#xff1a; <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" cont…
阅读更多...
Linux下配置邮箱客户端MUTT，整合msmtp + procmail + fetchmail

Linux下配置邮箱客户端MUTT，整合msmtp + procmail + fetchmail

一、背景 在向 Linux kernel 社区提交patch补丁步骤总结&#xff08;已验证成功&#xff09;_kernel补丁-CSDN博客文章中提到如何向kernel社区以及其他类似如qemu、libvirt社区提交patch的详细步骤&#xff0c;但还有一点不足的是通过git send-email这种方法基本是只能发送patc…
阅读更多...
七、三台虚拟机JDK环境安装

七、三台虚拟机JDK环境安装

目录 1、在三台机器上分别创建安装目录
阅读更多...
Ext4文件系统解析（二）

Ext4文件系统解析（二）

1、前言 想要了解EXT文件系统的工作原理&#xff0c;那了解文件系统在磁盘上的分布就是必不可少的。这一节主要介绍EXT文件系统硬盘存储的物理结构。 由于当前主流的CPU架构均采用小端模式&#xff0c;因此下文介绍均已小端模式为准。 2、超级块 2.1 属性 下表列举出超级块…
阅读更多...
Unity Canvas、Canvas Scaler、Graphic Raycaster、EventSystem 组件详解

Unity Canvas、Canvas Scaler、Graphic Raycaster、EventSystem 组件详解

文章目录 0. 参考文章1. Canvas1.1 Screen Space-Overlay —— 屏幕空间覆盖模式1.2 Screen Space-Camera —— 相机模式1.3 World Space —— 世界模式 2. Canvas Scaler&#xff1a;控制UI画布的放大缩放的比例2.1 Constant Pixer Size —— 恒定像素2.2 Scale With Screen S…
阅读更多...
牛客算法题【HJ96 表示数字】golang实现

牛客算法题【HJ96 表示数字】golang实现

题目 HJ96 表示数字 golang实现 package mainimport ("fmt""unicode" )func main() {s : ""var s_o stringvar char_pre, r runefor {n, _ : fmt.Scan(&s)if n 0 {break} else {for _, r range s {if unicode.IsDigit(r) {if !unicode.…
阅读更多...
renpy-renpy对话内容汉化

renpy-renpy对话内容汉化

文章目录 前言思路实现1,提取对话内容2,汉化对话内容文件3,修改gui文件,使得renpy游戏支持中文显示 前言 最近下载了一些renpy视觉小说内容,发现对话都为英文,因此我在想能否提取出这些对话然后汉化后再封装回原文件,将其汉化 当然汉化过程是机器翻译,汉化其他语言同理,大概5分…
阅读更多...
一文了解工业互联网是什么，和传统互联网的区别有哪些

一文了解工业互联网是什么，和传统互联网的区别有哪些

几个问题 工业互联网和传统互联网有什么区别 1 业务方面&#xff0c;传统的互联网企业更多是toC的业务&#xff0c;直接面对的是一个个的个体&#xff0c;而工业互联网离消费者更远一点&#xff0c;往往是toB或者toG的&#xff1b; 个人认为这也是最根本的区别&#xff0c;由…
阅读更多...
Linux expect命令详解

Linux expect命令详解

在Linux系统中&#xff0c;expect 是一款非常有用的工具&#xff0c;它允许用户自动化与需要用户输入进行交互的程序。本文将深入探讨expect命令的基本语法、使用方法以及一些最佳实践。 什么是Expect命令&#xff1f; expect 是一个用于自动化交互式进程的工具。它的主要功能…
阅读更多...
自定义类型-结构体，联合体和枚举-C语言

自定义类型-结构体，联合体和枚举-C语言

引言 能看到结构体&#xff0c;说明C语言想必学习的时间也不少了&#xff0c;在之前肯定也学习过基本数据类型&#xff0c;包括整型int&#xff0c;浮点型float等等。可是在日常生活中&#xff0c;想要描述一个事物并没有那么简单。比如&#xff0c;你要描述一本书&#xff0c…
阅读更多...
运维 | 关于IP网络相关的概念和原理

运维 | 关于IP网络相关的概念和原理

关注&#xff1a;CodingTechWork IP地址 IP介绍 概述 IP是TCP/IP协议族的核心&#xff0c;IP地址是电脑在网络中的唯一标识&#xff0c;全球唯一&#xff08;G公网IP&#xff09;。IP地址&#xff08;Internet Protocol Address&#xff09;是互联网协议地址&#xff0c;也…
阅读更多...
【计算机网络】15、NAT、NAPT 网络地址转换、打洞

【计算机网络】15、NAT、NAPT 网络地址转换、打洞

文章目录 一、概念二、分类&#xff08;主要是传统 NAT&#xff09;2.1 基本 NAT2.2 NAPT 三、访问NAT下的内网设备的方式3.1 多拨3.2 端口转发、DMZ3.3 UPnP IGD、NAT-PMP3.4 服务器中转&#xff1a;frp 内网穿透3.4.1 NAT 打洞3.4.2 NAT 类型与打洞成功率3.4.2.1 完全圆锥形 …
阅读更多...
【并发编程】volatile实现原理解析

【并发编程】volatile实现原理解析

&#x1f4eb;作者简介&#xff1a;小明Java问道之路&#xff0c;2022年度博客之星全国TOP3&#xff0c;专注于后端、中间件、计算机底层、架构设计演进与稳定性建设优化&#xff0c;文章内容兼具广度、深度、大厂技术方案&#xff0c;对待技术喜欢推理加验证&#xff0c;就职于…
阅读更多...
职位招聘管理与推荐系统Python+Django网页界面+协同过滤推荐算法

职位招聘管理与推荐系统Python+Django网页界面+协同过滤推荐算法

一、介绍 职位招聘管理与推荐系统。本系统使用Python作为主要开发语言&#xff0c;以WEB网页平台的方式进行呈现。前端使用HTML、CSS、Ajax、BootStrap等技术&#xff0c;后端使用Django框架处理用户请求。 系统创新点&#xff1a;相对于传统的管理系统&#xff0c;本系统使用…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023