Keburnetes 存储卷 volumes

K8S 的 存储卷 volumes


emptyDir

可实现Pod中的容器之间共享目录数据,但emptyDir存储卷没有持久化数据的能力,存储卷会随着Pod生命周期结束而一起删除

(一个pod中创建了docker1 docker2两个容器,他们都挂载这个emptyDir,就能实现pod内容器间数据互通)

hostPath

Node节点(宿主机)上的目录/文件挂载到Pod容器的指定目录中,有持久化数据的能力,但只能在单个Node节点上持久化数据,不能实现跨Node节点的Pod共享数据

(pod1在node1上生成,则挂载node1的宿主机卷,若重启后又调度到node2,则挂载node2的宿主机卷。pod只是单纯的挂载所在宿主机的目录)

NFS

使用NFS服务将存储卷挂载到Pod容器的指定目录中,有持久化数据的能力,且也能实现跨Node节点的Pod共享数据

(由于NFS是网络文件系统,pod1 pod2挂载同一个NFS,最终的文件都会写入到NFS服务器中,实现跨pod资源共享)

PV PVC
PV:K8S在指定存储设备空间中逻辑划分创建的可持久化的存储资源对象
PVC:是对PV资源对象的请求和绑定,也是Pod能挂载使用的一种存储卷类型

 

容器磁盘上的文件的生命周期是短暂的,这就使得在容器中运行重要应用时会出现一些问题。首先,当容器崩溃时,kubelet 会重启它,但是容器中的文件将丢失——容器以干净的状态(镜像最初的状态)重新启动。其次,在Pod中同时运行多个容器时,这些容器之间通常需要共享文件。Kubernetes 中的Volume抽象就很好的解决了这些问题。Pod中的容器通过Pause容器共享Volume。

EmptyDir存储卷

当Pod被分配给节点时,首先创建emptyDir卷,并且只要该Pod在该节点上运行,该卷就会存在。正如卷的名字所述,它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件,尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时,emptyDir中的数据将被永久删除。

mkdir /opt/volumes
cd /opt/volumesvim pod-emptydir.yamlapiVersion: v1
kind: Pod
metadata:name: pod-emptydirnamespace: defaultlabels:app: myapptier: frontend
spec:containers:- name: myapp     #容器1 挂载同一个emptyDir 与容器2实现共享image: nginximagePullPolicy: IfNotPresentports:- name: httpcontainerPort: 80volumeMounts: #容器挂载数据卷- name: htmldir #使用的存储卷名称,如果跟下面volume字段name值相同,则表示使用volume的这个存储卷mountPath: /usr/share/nginx/html/ #挂载至容器中哪个目录(这里是nginx的网页文件夹。容器2进行emptyDir写入后 容器1即可共享使用)- name: busybox    #容器2 挂载同一个emptyDir 与容器1实现共享image: busybox:latestimagePullPolicy: IfNotPresentvolumeMounts: #在容器内定义挂载存储名称和挂载路径- name: htmldir #与下面定义的存储卷name需要相同mountPath: /data/ #容器2将emptyDir挂载到/data/。虽然与容器1挂载的目录不同,但是本质上都是写入的emptyDir存储设备。挂载点不同并不影响emptyDir内的文件结构,容器2的/data/与容器1的/usr/share/nginx/html/看到的是一样的文件command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done'] #容器2的默认执行命令。这里是为了向挂载的emptyDir内写入index.html文件内容,实验emptyDir的容器文件共享。(容器2写入网页文件,容器1 nginx即可使用网页文件)#定义存储卷 与containers容器同一级。在containers定义挂载这个存储卷volumes:- name: htmldir #定义存储卷名称emptyDir: {} #定义存储卷类型
kubectl apply -f pod-emptydir.yaml

kubectl get pods -o wideNAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES
pod-emptydir   2/2     Running   0          36s   10.244.2.19   node02   <none>           <none>

//在上面定义了2个容器,其中一个容器是输入日期到index.html中,然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。

curl 10.244.2.19Thu May 27 18:17:11 UTC 2021
Thu May 27 18:17:13 UTC 2021
Thu May 27 18:17:15 UTC 2021
Thu May 27 18:17:17 UTC 2021
Thu May 27 18:17:19 UTC 2021
Thu May 27 18:17:21 UTC 2021
Thu May 27 18:17:23 UTC 2021

HostPath存储卷

hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。
hostPath可以实现持久存储,但是在node节点故障时,也会导致数据的丢失。

 //在 node01 节点上创建挂载目录(测试hostpath挂载方式,因为hostpath只是pod简单挂载宿主机的目录,并不能做到多宿主机的数据互通。即为在pod生成在node1上就挂载node1的目录,生成在node2就挂载node2的目录。)

mkdir -p /data/pod/volume1
echo 'node01.xue.com' > /data/pod/volume1/index.html

//在 node02 节点上创建挂载目录(测试hostpath挂载方式,因为hostpath只是pod简单挂载宿主机的目录,并不能做到多宿主机的数据互通。即为在pod生成在node1上就挂载node1的目录,pod生成在node2就挂载node2的目录。)

mkdir -p /data/pod/volume1
echo 'node02.xue.com' > /data/pod/volume1/index.html

//创建 Pod 资源

vim pod-hostpath.yamlapiVersion: v1
kind: Pod
metadata:name: pod-hostpathnamespace: default
spec:containers:- name: myappimage: nginxvolumeMounts: #挂载数据卷- name: htmldir #使用的存储卷名称,如果跟下面volume字段name值相同,则表示使用volume的这个存储卷mountPath: /usr/share/nginx/html #挂载至容器中哪个目录readOnly: false #读写挂载方式,默认为读写模式false#volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷volumes:- name: htmldir #存储卷名称hostPath: #hostPath方式path: /data/pod/volume1 #在宿主机上目录的路径type: DirectoryOrCreate #定义类型,这表示如果宿主机没有此目录则会自动创建
kubectl apply -f pod-hostpath.yaml

//访问测试

kubectl get pods -o wideNAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES
pod-hostpath   2/2     Running   0          37s   10.244.2.35   node02   <none>           <none>
curl 10.244.2.35node02.xue.com
由于pod现在调度到node2上。就挂载了node2宿主机的目录、

//删除pod,再重建,依旧可以访问原来的内容,实现持久化(不过pod此时还是调度在在node2 挂载的是node2的宿主机目录)

kubectl delete -f pod-hostpath.yaml  
kubectl apply -f pod-hostpath.yaml 
kubectl get pods -o wideNAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES
pod-hostpath   2/2     Running   0          36s   10.244.2.37   node02   <none>           <none>
curl  10.244.2.37 node02.xue.com

 //删除pod,再重建,直到pod被调度到node1上

kubectl delete -f pod-hostpath.yaml  
kubectl apply -f pod-hostpath.yaml 
kubectl get pods -o wideNAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES
pod-hostpath   2/2     Running   0          36s   10.244.2.38   node01   <none>           <none>
curl  10.244.2.38node01.xue.com
由于pod现在调度到node1上。就挂载了node1宿主机的目录、

NFS共享存储卷 

选取一个节点做NFS存储。(stor01 192.168.80.110)安装并配置NFS服务。提供给pod通过网络挂载文件系统。

生成并授权NFS分享的目录
mkdir /data/volumes -p
chmod 777 /data/volumes
更改NFS配置分享给192.168.80.0网段的主机
vim /etc/exports/data/volumes 192.168.80.0/24(rw,no_root_squash)
启动rpcbind(NFS的依赖项)和NFS
systemctl start rpcbind
systemctl start nfs
查看挂载情况(分享情况)
showmount -eExport list for stor01:/data/volumes 192.168.80.0/24


//master节点操作 创建pod并设置挂载NFS文件系统

vim pod-nfs-vol.yamlapiVersion: v1
kind: Pod
metadata:name: pod-vol-nfsnamespace: default
spec:containers:- name: myappimage: nginxvolumeMounts: #挂载存储卷- name: htmldir #存储卷名。与volume创建的存储卷name需要保持一致mountPath: /usr/share/nginx/html #将存储卷挂载到pod内的指定目录(这里指定的是下面设定的NFS服务器的/data/volumes,挂载到pod中的/usr/share/nginx/html目录)volumes: #创建存储卷- name: htmldir #存储卷名称nfs: #NFS方式path: /data/volumes #nfs服务器分享的文件夹#server: stor01 #nfs服务器名。需要做host主机名与IP映射,否则无法解析。可直接指定IPserver: 192.168.80.110 #nfs服务器IP
kubectl apply -f pod-nfs-vol.yaml
kubectl get pods -o wideNAME                     READY     STATUS    RESTARTS   AGE       IP            NODE
pod-vol-nfs              1/1       Running   0          21s       10.244.2.38   node02


//在nfs服务器上创建index.html(用于让pod共享访问)

cd /data/volumes
vim index.html<h1> nfs stor01</h1>

//master节点操作(pod由于挂载了这个NFS所以可以访问NFS服务器上这个网页文件,通过nginx发布网页)

curl 10.244.2.38<h1> nfs stor01</h1>

  #删除nfs相关pod,再重新创建,可以发现无论在pod调度在node1上还是在node2上都可以获取到存储卷内文件(可以得到数据的持久化存储,数据都存储在NFS服务器上,pod挂载nfs。)

kubectl delete -f pod-nfs-vol.yaml 
kubectl apply -f pod-nfs-vol.yaml
kubectl get pods -o wideNAME                     READY     STATUS    RESTARTS   AGE       IP            NODE
pod-vol-nfs              1/1       Running   0          21s       10.244.2.39   node01
curl 10.244.2.39<h1> nfs stor01</h1>




PVC 和 PV 

PV 全称叫做 Persistent Volume,持久化存储卷。它是用来描述或者说用来定义一个存储卷的,这个通常都是由运维工程师来定义。

PVC 的全称是 Persistent Volume Claim,是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。

PVC 的使用逻辑:在 Pod 中定义一个存储卷(该存储卷类型为 PVC),定义的时候直接指定大小,PVC 必须与对应的 PV 建立关系,PVC 会根据配置的定义去 PV 申请,而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。

上面介绍的PV和PVC模式是需要运维人员先创建好PV,然后开发人员定义好PVC进行一对一的Bond,但是如果PVC请求成千上万,那么就需要创建成千上万的PV,对于运维人员来说维护成本很高,Kubernetes提供一种自动创建PV的机制,叫StorageClass,它的作用就是创建PV的模板。

创建 StorageClass 需要定义 PV 的属性,比如存储类型、大小等;另外创建这种 PV 需要用到的存储插件,比如 Ceph 等。 有了这两部分信息,Kubernetes 就能够根据用户提交的 PVC,找到对应的 StorageClass,然后 Kubernetes 就会调用 StorageClass 声明的存储插件,自动创建需要的 PV 并进行绑定。

PV是集群中的资源。 PVC是对这些资源的请求,也是对资源的索引检查。 

PV和PVC之间的相互作用遵循这个生命周期


Provisioning(配置)---> Binding(绑定)---> Using(使用)---> Releasing(释放) ---> Recycling(回收)

  • Provisioning,即 PV 的创建,可以直接创建 PV(静态方式),也可以使用 StorageClass 动态创建
  • Binding,将 PV 分配给 PVC
  • Using,Pod 通过 PVC 使用该 Volume,并可以通过准入控制StorageProtection(1.9及以前版本为PVCProtection) 阻止删除正在使用的 PVC
  • Releasing,Pod 释放 Volume 并删除 PVC
  • Reclaiming,回收 PV,可以保留 PV 以便下次使用,也可以直接从云存储中删除

根据这 5 个阶段,PV 的状态有以下 4 种

  • Available(可用):表示可用状态,PV 被创建出来了,还未被 PVC 绑定
  • Bound(已绑定):表示 PV 已经被 PVC 绑定,PV 与 PVC 是一对一的绑定关系
  • Released(已释放):表示 PVC 被删除,但是 PV 资源还未被回收
  • Failed(失败):表示 PV 自动回收失败

一个PV从创建到销毁的具体流程如下

  1. 一个PV创建完后状态会变成Available,等待被PVC绑定。
  2. 一旦被PVC邦定,PV的状态会变成Bound,就可以被定义了相应PVC的Pod使用。
  3. Pod使用完后会释放PV,PV的状态变成Released。
  4. 变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略,Retain、Delete和Recycle。
    1. Retain就是保留现场,K8S集群什么也不做,等待用户手动去处理PV里的数据,处理完后,再手动删除PV。
    2. Delete策略,K8S会自动删除该PV及里面的数据。
    3. Recycle方式,K8S会将PV里的数据删除,然后把PV的状态变成Available,又可以被新的PVC绑定使用。

pv的参数

kubectl explain pv    #查看pv的定义方式FIELDS:apiVersion: v1kind: PersistentVolumemetadata:    #由于 PV 是集群级别的资源,即 PV 可以跨 namespace 使用,所以 PV 的 metadata 中不用配置 namespacename: spec
kubectl explain pv.spec    #查看pv定义的规格spec:nfs:(定义存储类型)path:(定义挂载卷路径)server:(定义服务器名称)accessModes:(定义访问模型,有以下三种访问模型,以列表的方式存在,也就是说可以定义多个访问模式)- ReadWriteOnce          #(RWO)卷可以被一个节点以读写方式挂载。 ReadWriteOnce 访问模式也允许运行在同一节点上的多个 Pod 访问卷。- ReadOnlyMany           #(ROX)卷可以被多个节点以只读方式挂载。- ReadWriteMany          #(RWX)卷可以被多个节点以读写方式挂载。
#nfs 支持全部三种;iSCSI 不支持 ReadWriteMany(iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术);HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。capacity:(定义存储能力,一般用于设置存储空间)storage: 2Gi (指定大小)storageClassName: (自定义存储类名称,此配置用于绑定具有相同类别的PVC和PV)用于pvc指定使用pvpersistentVolumeReclaimPolicy: Retain    #回收策略(Retain/Delete/Recycle)
#Retain(保留):当用户删除与之绑定的PVC时候,这个PV被标记为released(PVC与PV解绑但还没有执行回收策略)且之前的数据依然保存在该PV上,但是该PV不可用,需要手动来处理这些数据并删除该PV。
#Delete(删除):删除与PV相连的后端存储资源。对于动态配置的PV来说,默认回收策略为Delete。表示当用户删除对应的PVC时,动态配置的volume将被自动删除。(只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持)
#Recycle(回收):如果用户删除PVC,则删除卷上的数据,卷不会删除。(只有 NFS 和 HostPath 支持)

pvc的参数 

kubectl explain pvc   #查看PVC的定义方式KIND:     PersistentVolumeClaim
VERSION:  v1
FIELDS:apiVersion    <string>kind    <string>  metadata    <Object>spec    <Object>

#PV和PVC中的spec关键字段要匹配,比如存储(storage)大小、访问模式(accessModes)、存储类名称(storageClassName)

kubectl explain pvc.specspec:accessModes: (定义访问模式,必须是PV的访问模式的子集)resources:requests:storage: (定义申请资源的大小)storageClassName: (定义存储类名称,此配置用于1.绑定具有相同类别的PVC和PV(静态创建pv情况)2.引用storageclass通过插件创建pv(动态创建pv情况))

NFS使用PV和PVC

PV/PVC调度方式 

你知道哪些kubernetes存储资源对象 ?    /     kubernetes中 怎么存储数据?【重要】

              PV                 PVC        

创建 PV 的方式(PV的类型)

  • 手动根据配置文件创建的静态PV
  • 通过StorageClass调用存储卷插件创建的动态PV

怎么创建pv pvc【重要】

动态创建

动态方式是 通过存储卷插件和storageclass来实现的

  1. 准备好存储设备和共享目录
  2. 如果是外置存储卷插件,需要先创建serviceaccount账户(Pod使用的账户)和做RBAC授权(创建角色授予相关资源对象的操作权限,再将账户和角色进行绑定),使serviceaccount账户具有对PV PVC StorageClass等资源的操作权限         先创建存储卷插件用户,然后给用户授权
  3. 创建外置存储卷插件provisioner的Pod,配置中使用serviceaccount账户作为Pod的用户,并设置相关环境变量参数           使用存储卷用户创建存储卷插件的pod
  4. 创建StorageClass(SC)资源,配置中引用存储卷插件的插件名称(PROVISIONER_NAME)                                         创建storageclass引用存储卷插件

---------------- 以上操作都是做授权,是一劳永逸的,以后只需要创建PVC时设置StorageClass就可以自动调用存储卷插件动态生成PV资源 ----------------

  1. 创建PVC资源,配置中设置 StorageClass资源名称 访问模式 存储空间大小。创建PVC资源会自动创建相关的PV资源。         创建pvc引用storageclass
  2. 创建Pod资源挂载PVC存储卷,配置存储卷类型为 persistentVolumeClaim ,并在容器配置中定义存储卷挂载点目录               创建pod 挂载pvc存储卷

创建使用 静态PV

  1. 准备好存储设备和共享目录
  2. 手动创建PV资源,配置 存储卷类型 访问模式(RWO RWX ROX RWOP) 存储空间大小  回收策略(Retain Recycle Delete)等         手动创建pv资源
  3. 创建PVC资源,配置请求PV资源的访问模式(必要条件,必须是PV能支持的访问模式) 存储空间大小(默认就近选择大于等于指定大小的PV)来绑定PV     pvc与pv绑定
  4. 创建Pod和Pod控制器资源挂载PVC存储卷,配置存储卷类型为 persistentVolumeClaim ,并在容器配置中定义存储卷挂载点目录          创建pod挂载使用pvc类型存储卷

1、配置nfs存储

mkdir -p /data/volumes/
cd /data/volumes/
mkdir v{1,2,3,4,5}vim /etc/exports
/data/volumes/v1 192.168.80.0/24(rw,no_root_squash)
/data/volumes/v2 192.168.80.0/24(rw,no_root_squash)
/data/volumes/v3 192.168.80.0/24(rw,no_root_squash)
/data/volumes/v4 192.168.80.0/24(rw,no_root_squash)
/data/volumes/v5 192.168.80.0/24(rw,no_root_squash)
systemctl stop firewalld

 

exportfs -arvshowmount -e

 2、手动定义PV
//这里定义5个PV,并且定义挂载的路径以及访问模式,还有PV划分的大小。 

pv只管自己创建,不用考虑与pvc的对应关系: pvc无需指定使用哪一个pv,pvc只管发布需求,然后系统会匹配最近似的pv。

pod则需要指定存储卷,并在存储卷中指定使用哪一个pvc,然后再给容器挂载上这个存储卷。

vim pv-demo.yamlapiVersion: v1
kind: PersistentVolume
metadata:name: pv001labels:name: pv001
spec:nfs:path: /data/volumes/v1#server: stor01server: 192.168.80.110 #做了host主机名映射可以直接写主机名,没做就直接写nfs服务器IPaccessModes: ["ReadWriteMany","ReadWriteOnce"]capacity:storage: 1Gi#persistentVolumeReclaimPoilcy: Recycle #pv回收方式#storageClassName: slow #在pvc中指定同样的storageClassName,可以让pvc指定使用某一pv
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv002labels:name: pv002
spec:nfs:path: /data/volumes/v2#server: stor01server: 192.168.80.110 #做了host主机名映射可以直接写主机名,没做就直接写nfs服务器IPaccessModes: ["ReadWriteOnce"]capacity:storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv003labels:name: pv003
spec:nfs:path: /data/volumes/v3#server: stor01server: 192.168.80.110 #做了host主机名映射可以直接写主机名,没做就直接写nfs服务器IPaccessModes: ["ReadWriteMany","ReadWriteOnce"]capacity:storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv004labels:name: pv004
spec:nfs:path: /data/volumes/v4#server: stor01server: 192.168.80.110 #做了host主机名映射可以直接写主机名,没做就直接写nfs服务器IPaccessModes: ["ReadWriteMany","ReadWriteOnce"]capacity:storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv005labels:name: pv005
spec:nfs:path: /data/volumes/v5#server: stor01server: 192.168.80.110 #做了host主机名映射可以直接写主机名,没做就直接写nfs服务器IPaccessModes: ["ReadWriteMany","ReadWriteOnce"]capacity:storage: 5Gi
kubectl apply -f pv-demo.yaml
kubectl get pvNAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM     STORAGECLASS   REASON    AGE
pv001     1Gi        RWO,RWX        Retain           Available                                      7s
pv002     2Gi        RWO            Retain           Available                                      7s
pv003     2Gi        RWO,RWX        Retain           Available                                      7s
pv004     4Gi        RWO,RWX        Retain           Available                                      7s
pv005     5Gi        RWO,RWX        Retain           Available                                       7s

3、在配置文件中 定义PVC 并在容器中引用
//这里定义了pvc的访问模式为多路读写,该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi,此时PVC会自动去匹配多路读写且大小为2Gi的PV,匹配成功获取PVC的状态即为Bound

pv只管自己创建,不用考虑与pvc的对应关系: pvc无需指定使用哪一个pv,pvc只管发布需求,然后系统会匹配最近似的pv。

pod则需要指定存储卷,并在存储卷中指定使用哪一个pvc,然后再给容器挂载上这个存储卷。

vim pod-vol-pvc.yaml
在这个yaml文件中写了pvc与pod两个配置文件。也可以分开写两个yaml配置文件#定义pvc的配置文件
apiVersion: v1
kind: PersistentVolumeClaim
metadata:name: mypvc #保持一致🧨 定义pvc名namespace: default
spec:accessModes: ["ReadWriteMany"]resources:requests:storage: 2Gi---#容器的配置文件。在容器中指定使用pvc
apiVersion: v1
kind: Pod
metadata:name: pod-vol-pvcnamespace: default
spec:containers:- name: myappimage: nginxvolumeMounts:- name: htmldir #保持一致✨mountPath: /usr/share/nginx/htmlvolumes:- name: htmldir #保持一致✨ 指定存储卷名persistentVolumeClaim: #存储卷使用PVC方式claimName: mypvc #保持一致🧨 指定使用哪个pvc
kubectl apply -f pod-vol-pvc.yaml

系统自动选择最适合的pv进行绑定(pvc需求2G并且RWX。pv003最好的满足了。并且一个pv只能绑定一个pvc,后续pv003在解绑之前不再能被其他pvc绑定) 

kubectl get pvNAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM           STORAGECLASS   REASON    AGE
pv001     1Gi        RWO,RWX        Retain           Available                                            19m
pv002     2Gi        RWO            Retain           Available                                            19m
pv003     2Gi        RWO,RWX        Retain           Bound       default/mypvc                            19m
pv004     4Gi        RWO,RWX        Retain           Available                                            19m
pv005     5Gi        RWO,RWX        Retain           Available                                            19m
kubectl get pvcNAME      STATUS    VOLUME    CAPACITY   ACCESS MODES   STORAGECLASS   AGE
mypvc     Bound     pv003     2Gi        RWO,RWX                       22s

4、测试访问
//在NFS存储服务器上创建index.html,并写入数据,通过访问Pod进行查看,可以获取到相应的页面。

cd /data/volumes/v3/
echo "welcome to use pv3" > index.html
kubectl get pods -o widepod-vol-pvc             1/1       Running   0          3m        10.244.2.4   k8s-node02
curl 10.244.2.42welcome to use pv3

注意,如果pod内容器使用pvc存储卷,不能使用nodename指定节点调度。

使用pvc存储 还需要做节点选择的话 使用nodeselect,节点亲和,pod亲和,或是污点实现。

搭建 StorageClass + nfs-client-provisioner ,实现 NFS 的动态 PV 创建

Kubernetes 本身支持的动态 PV 创建不包括 NFS,所以需要使用外部存储卷插件分配PV。详见:https://kubernetes.io/zh/docs/concepts/storage/storage-classes/

卷插件称为 Provisioner(存储分配器),NFS 使用的是 nfs-client,这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。

Provisioner:用于指定 Volume 插件的类型,包括内置插件(如 kubernetes.io/aws-ebs)和外部插件(如 external-storage 提供的 ceph.com/cephfs)。

1.准备存储设备

2.安装存储卷插件(有外置【需要自己安装】与内置区分)

3.将存储卷插件与storageclass关联

pvc提出需求,调用storageclass,storageclass找到相关的存储卷插件,存储卷插件根据需求创建指定大小 和 访问模式的pv资源

1、在stor01节点上安装nfs,并配置nfs服务

mkdir /opt/k8s
chmod 777 /opt/k8s/
vim /etc/exports/opt/k8s 192.168.80.0/24(rw,no_root_squash,sync)
systemctl restart nfs

2、创建 Service Account(由于NFS卷插件以pod运行 每个pod都有一个用户账号 而默认的default权限非常小,需要创建新用户给NFS卷插件使用),用来管理 NFS Provisioner 在 k8s 集群中运行的权限,设置 nfs-client 对 PV,PVC,StorageClass 等的规则

vim nfs-client-rbac.yaml#创建 Service Account 账户,用来管理 NFS Provisioner 在 k8s 集群中运行的权限
apiVersion: v1
kind: ServiceAccount
metadata:name: nfs-client-provisioner #ServiceAccount的名称
---
#创建集群角色
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:name: nfs-client-provisioner-clusterrole
rules: #权限规则- apiGroups: [""]resources: ["persistentvolumes"]verbs: ["get", "list", "watch", "create", "delete"]- apiGroups: [""]resources: ["persistentvolumeclaims"]verbs: ["get", "list", "watch", "update"]- apiGroups: ["storage.k8s.io"]resources: ["storageclasses"]verbs: ["get", "list", "watch"]- apiGroups: [""]resources: ["events"]verbs: ["list", "watch", "create", "update", "patch"]- apiGroups: [""]resources: ["endpoints"]verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
---
#集群角色绑定
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding #角色绑定
metadata:name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccountname: nfs-client-provisioner #角色 与权限绑定namespace: default
roleRef:kind: ClusterRolename: nfs-client-provisioner-clusterrole  #权限 与角色绑定apiGroup: rbac.authorization.k8s.io
kubectl apply -f nfs-client-rbac.yaml
kubectl get serviceaccounts

3、使用 Deployment 来创建 NFS Provisioner
NFS Provisioner(即 nfs-client),有两个功能:一个是在 NFS 共享目录下创建挂载点(volume),另一个则是将 PV 与 NFS 的挂载点建立关联。

 #由于 1.20 版本启用了 selfLink,所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错,解决方法如下

vim /etc/kubernetes/manifests/kube-apiserver.yamlspec:containers:- command:- kube-apiserver- --feature-gates=RemoveSelfLink=false       #添加这一行- --advertise-address=192.168.80.101
......
kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
kubectl delete pods kube-apiserver -n kube-system
kubectl get pods -n kube-system | grep apiserver

#创建 NFS Provisioner 存储器插件的pod

vim nfs-client-provisioner.yamlkind: Deployment
apiVersion: apps/v1
metadata:name: nfs-client-provisioner
spec:replicas: 1selector:matchLabels:app: nfs-client-provisionerstrategy:type: Recreatetemplate:metadata:labels:app: nfs-client-provisionerspec:serviceAccountName: nfs-client-provisioner         #指定Service Account账户containers:- name: nfs-client-provisioner #nfs插件以容器形式运行image: quay.io/external_storage/nfs-client-provisioner:latest #此处为网络拉取NFS插件,也可以指定本地插件imagePullPolicy: IfNotPresentvolumeMounts:- name: nfs-client-root #对应下面存储卷名字✨mountPath: /persistentvolumesenv:- name: PROVISIONER_NAMEvalue: nfs-storage      #😊可自定义 配置provisioner的Name(存储卷插件的名称),确保该名称与StorageClass资源中的provisioner名称保持一致- name: NFS_SERVER#value: stor01           #配置绑定的nfs服务器地址(与volume定义的server一致)value: 192.168.80.110 #🧨做了host主机名映射可以直接写主机名,没做就直接写nfs服务器IP- name: NFS_PATHvalue: /opt/k8s         #🐔配置绑定的nfs服务器目录(与volume定义的path一致)volumes:              #申明nfs数据卷- name: nfs-client-root #对应✨nfs:#server: stor01server: 192.168.80.110 ##🧨对应 做了host主机名映射可以直接写主机名,没做就直接写nfs服务器IPpath: /opt/k8s #🐔对应
kubectl apply -f nfs-client-provisioner.yaml
kubectl get podNAME                                   READY   STATUS    RESTARTS   AGE
nfs-client-provisioner-cd6ff67-sp8qd   1/1     Running   0          14s

4、创建 StorageClass,负责建立 PVC 并调用 NFS provisioner 进行预定的工作,并让 PV 与 PVC 建立关联

vim nfs-client-storageclass.yamlapiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:name: nfs-client-storageclass #🔥下方pvc会指定StorageClass名,保持一致
provisioner: nfs-storage     #😊可自定义 这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:archiveOnDelete: "false"   #false表示在删除PVC时不会对数据目录进行打包存档,即删除数据;为ture时就会自动对数据目录进行打包存档,存档文件以archived开头
kubectl apply -f nfs-client-storageclass.yaml
kubectl get storageclassNAME                      PROVISIONER   RECLAIMPOLICY   VOLUMEBINDINGMODE   ALLOWVOLUMEEXPANSION   AGE
nfs-client-storageclass   nfs-storage   Delete          Immediate           false                  43s

5、创建 PVC 和 Pod 测试

vim test-pvc-pod.yamlapiVersion: v1
kind: PersistentVolumeClaim
metadata:name: test-nfs-pvc #✨pvc名对应#annotations: volume.beta.kubernetes.io/storage-class: "nfs-client-storageclass"     #另一种SC配置方式(在元信息中添加注释字段 关联)
spec:accessModes:- ReadWriteManystorageClassName: nfs-client-storageclass    #🔥与上方StorageClass名保持一致 关联StorageClass对象(在属性中关联)resources:requests:storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:name: test-storageclass-pod
spec:containers:- name: busyboximage: busybox:latestimagePullPolicy: IfNotPresentcommand:- "/bin/sh"- "-c"args:- "sleep 3600"volumeMounts: #挂载存储卷- name: nfs-pvc #😊名称对应mountPath: /mntrestartPolicy: Nevervolumes:       #定义存储卷- name: nfs-pvc #😊名称对应persistentVolumeClaim:claimName: test-nfs-pvc      #✨与PVC名称保持一致
kubectl apply -f test-pvc-pod.yaml

 //PVC 通过 StorageClass 自动申请到空间

kubectl get pvcNAME            STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS              AGE
test-nfs-pvc   Bound    pvc-11670f39-782d-41b8-a842-eabe1859a456   1Gi        RWX            nfs-client-storageclass   2s

//查看 NFS 服务器上是否生成对应的目录,自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上

ls /opt/k8s/
default-test-nfs-pvc-pvc-278882a7-1195-47de-8da3-8d078d84065d

//进入 Pod 在挂载目录 /mnt 下写一个文件,然后查看 NFS 服务器上是否存在该文件

kubectl exec -it test-storageclass-pod sh
/ # cd /mnt/
/mnt # echo 'this is test file' > test.txt

//发现 NFS 服务器上存在,说明验证成功

cat cat /opt/k8s/default-test-nfs-pvc-pvc-278882a7-1195-47de-8da3-8d078d84065d/test.txt

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/37056.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Gradle依赖管理:编译时和运行时依赖的区别

&#x1f337;&#x1f341; 博主猫头虎 带您 Go to New World.✨&#x1f341; &#x1f984; 博客首页——猫头虎的博客&#x1f390; &#x1f433;《面试题大全专栏》 文章图文并茂&#x1f995;生动形象&#x1f996;简单易学&#xff01;欢迎大家来踩踩~&#x1f33a; &a…

【LeetCode】《LeetCode 101》第十一章:妙用数据结构

文章目录 11.1 C STL11.2 数组448. 找到所有数组中消失的数字&#xff08;简单&#xff09;48. 旋转图像&#xff08;中等&#xff09;74. 搜索二维矩阵&#xff08;中等&#xff09;240. 搜索二维矩阵 II&#xff08;中等&#xff09;769. 最多能完成排序的块&#xff08;中等…

ROSpider机器人评测报告

ROSpider机器人评测报告 最近入手了一款ROSpider六足仿生机器人&#xff0c;ROSpider是一款基于ROS 操作系统开发的智能视觉六足机器人。 外观 外观上ROSpider六足机器人如同名字一样有六只机械腿&#xff0c;整体来看像一只六腿的蜘蛛。腿上的关节处用了明亮的橙黄色很是显…

Redis使用Lua脚本和Redisson来保证库存扣减中的原子性和一致性

文章目录 前言1.使用SpringBoot Redis 原生实现方式2.使用redisson方式实现3. 使用RedisLua脚本实现3.1 lua脚本代码逻辑 3.2 与SpringBoot集成 4. Lua脚本方式和Redisson的方式对比5. 源码地址6. Redis从入门到精通系列文章7. 参考文档 前言 背景&#xff1a;最近有社群技术交…

C++——函数重载及底层原理

函数重载的定义 函数重载&#xff1a; 是函数的一种特殊情况&#xff0c;C允许在同一作用域重声明几个功能类似的同名函数&#xff0c;这些同名函数的形参列表&#xff08;参数个数或者类型&#xff0c;类型的顺序&#xff09;不同&#xff0c;常用来处理实现功能类似数据结构…

春秋云镜 CVE-2021-41947

春秋云镜 CVE-2021-41947 Subrion CMS v4.2.1 存在sql注入 靶标介绍 Subrion CMS v4.2.1 存在sql注入。 启动场景 漏洞利用 exp http://localhost/panel/visual-mode.json?getaccess&typeblocks UNION ALL SELECT username, password FROM sbr421_members -- -&o…

【需求输出】流程图输出

文章目录 1、什么是流程图2、绘制流程图的工具和基本要素3、流程图的分类和应用场景4、如何根据具体场景输出流程图 1、什么是流程图 2、绘制流程图的工具和基本要素 3、流程图的分类和应用场景 4、如何根据具体场景输出流程图

Dubbo1-架构的演变

分布式系统上的相关概念 项目&#xff1a;传统项目、互联网项目 传统项目&#xff1a; 一般为公司内部使用&#xff0c;或者小群体小范围的使用&#xff0c;一般不要求性能&#xff0c;美观&#xff0c;并发等 互联网项目的特点&#xff1a; 1.用户多 2.流量大&#xff0c;并…

用python来爬取某鱼的商品信息(2/2)

目录 上一篇文章 本章内容 设置浏览器为运行结束后不关闭&#xff08;可选&#xff09; 定位到搜索框的xpath地址 执行动作 获取cookie 保存为json文件 修改cookie的sameSite值并且导入cookie 导入cookie&#xff08;出错&#xff09; 导入cookie&#xff08;修改后&…

Android Ble蓝牙App(五)数据操作

Ble蓝牙App&#xff08;五&#xff09;数据操作 前言正文一、操作内容处理二、读取数据① 概念② 实操 三、写入数据① 概念② 实操 四、打开通知一、概念二、实操三、收到数据 五、源码 前言 关于低功耗蓝牙的服务、特性、属性、描述符都已经讲清楚了&#xff0c;而下面就是使…

电脑系统重装日记

重装原因 电脑C盘几乎爆炸故重装系统一清二白 此片原因 记录重装过程&#xff0c;强调一些要注意的点&#xff0c;以防日后重装。 重装过程 1.清空电脑文件后重启&#xff0c;电脑冒蓝光&#xff0c;一直蓝屏反复重启&#xff0c;故只能重装系统以解难题。 2.准备一个U盘&…

设计HTML5文档结构

定义清晰、一致的文档结构不仅方便后期维护和拓展&#xff0c;同时也大大降低了CSS和JavaScript的应用难度。为了提高搜索引擎的检索率&#xff0c;适应智能化处理&#xff0c;设计符合语义的结构显得很重要。 1、头部结构 在HTML文档的头部区域&#xff0c;存储着各种网页元…

Python Opencv实践 - 图像属性相关

import numpy as np import cv2 as cv import matplotlib.pyplot as pltimg cv.imread("../SampleImages/pomeranian.png", cv.IMREAD_COLOR) plt.imshow(img[:,:,::-1])#像素操作 pixel img[320,370] print(pixel)#只获取蓝色通道的值 pixel_blue img[320,370,0]…

【Hystrix技术指南】(7)故障切换的运作流程原理分析(含源码)

背景介绍 目前对于一些非核心操作&#xff0c;如增减库存后保存操作日志发送异步消息时&#xff08;具体业务流程&#xff09;&#xff0c;一旦出现MQ服务异常时&#xff0c;会导致接口响应超时&#xff0c;因此可以考虑对非核心操作引入服务降级、服务隔离。 Hystrix说明 官方…

Grounding DINO:根据文字提示检测任意目标

文章目录 1. 背景介绍2. 方法创新2.1 Feature Extraction and Enhancer2.2 Language-Guided Query Selection2.3 Cross-Modality Decoder2.4 Sub-Sentence Level Text Feature2.5 Loss Function3. 实验结果3.1 Zero-Shot Transfer of Grounding DINO3.2 Referring Object Detec…

设备管理系统能起到什么作用?

在现代工业运营中&#xff0c;设备的高效管理和维护对于保障生产稳定运行和提升企业竞争力至关重要。而设备管理系统作为一种关键工具&#xff0c;能够极大地提高企业的生产效率和设备维护的准确性。本文将深入探讨设备管理系统的作用&#xff0c;以PreMaint设备数字化平台为例…

ES踩坑记录之UNASSIGNED分片无法恢复

问题背景 换节点 我们线上有一套ES集群&#xff0c;三台机器&#xff0c;共运行了6个节点。一直在线上跑了几个月也一直没出什么问题。然而好巧不巧&#xff0c;就在昨天&#xff0c;集群中的3号节点磁盘出现故障&#xff0c;导致机器直接瘫痪。本来大家觉得问题不大&#xf…

HTML和JavaScript实现一个简单的计算器

使用HTML和JavaScript实现一个简单的计算器。 一、绘制键盘 <!DOCTYPE html> <html> <head><title>Simple Calculator</title><style>.calculator {display: grid;grid-template-columns: repeat(4, 1fr);grid-gap: 5px;padding: 10px;}.…

【elementUi】绘制自定义表格、绘制曲线表格

要求绘制下图系列表格&#xff1a; 实现步骤: 1.绘制树&#xff0c;实现树勾选字段—>表格绘制字段 逻辑&#xff1a; 树&#xff1a;check-change“treeChart.handleCheckChange” 绑定点击选择事件&#xff0c;改变data.column3数据项&#xff1b;表格:columns"data…

基于 Nginx All In One 的 Outline Wiki 部署方法

1. Outline 简介 官网&#xff1a;https://www.getoutline.com/ Outline 是一个开源的知识库和团队协作工具&#x1f9e0;&#xff0c;旨在帮助团队共享、组织和协作文档&#x1f4dd;。它提供了一个简洁的界面&#xff0c;使用户能够轻松创建、编辑和查看文档。 以下是 Out…