k8s之包管理器Helm

helm的作用就是通过打包的方式，把deployment service ingress这些打包在一块，一键式的部署服务。类似yum官方提供的一个类似与安装仓库的功能，可以实现一键化部署应用。

Helm的三个重要概念

●Chart：Helm 的软件包，采用 TAR 格式。是创建一个应用的信息集合，包括各种 Kubernetes 对象的配置模板、参数定义、依赖关系、文档说明等。chart 是应用部署的自包含逻辑单元。可以将 chart 想象成 apt、yum 中的软件安装包。

●Release：是 chart 的运行实例，代表了一个正在运行的应用。当 chart 被安装到 Kubernetes 集群，就生成一个 release。chart 能够多次安装到同一个集群，每次安装都是一个 release。

●Repository（仓库）：Charts 仓库，用于集中存储和分发 Charts。Repository 本质上是一个 Web 服务器，该服务器保存了一系列的 Chart 软件包以供用户下载，并且提供了一个该 Repository 的 Chart 包的清单文件以供查询。Helm 可以同时管理多个不同的 Repository。

Helm在k8s集群中的部署

将Helm安装在master01节点上

//在github中下载所需版本的二进制 Helm client 安装包
https://github.com/helm/helm/tags

tar -zxvf helm-v3.6.0-linux-amd64.tar.gz
mv linux-amd64/helm /usr/local/bin/helm
helm version

添加helm的自动补全功能

vim /etc/bashrc
source <(helm completion bash)

使用 helm 安装 Chart

###helm添加chat的语法格式：
helm repo add chart仓库名 chart仓库地址

###添加常用的chart仓库############
#一个开源项目的仓库
helm repo add bitnami https://charts.bitnami.com/bitnami
#微软chart仓库，推荐使用，内容基本与官方仓库保持一致
helm repo add stable http://mirror.azure.cn/kubernetes/charts
#阿里chart仓库，应有尽有
helm repo add aliyun https://kubernetes.oss-cn-hangzhou.aliyuncs.com/charts
#官方仓库，国内网络问题，不太推荐应用
helm repo add incubator https://charts.helm.sh/incubator

对chart仓库的基本使用

1.更新和查看 charts 列表

helm repo update
helm repo list

2.查看某chart仓库的可用chart列表

//查看 stable 仓库可用的 charts 列表
helm search repo stable

3.删除指定的chart仓库

//eg：因为官方仓库使用起来太慢，删除 incubator 仓库
helm repo remove incubator
4.查看 chart 信息
helm show chart stable/mysql #查看指定 chart 的基本信息

helm show all stable/mysql #获取指定 chart 的所有信息

安装 chart

helm install my-redis bitnami/redis [-n default] #指定 release 的名字为 my-redis，-n 指定部署到 k8s 的 namespace

helm install bitnami/redis --generate-name #不指定 release 的名字时，需使用 –generate-name 随机生成一个名字

对chart的基本管理

1.查看所有的release

helm ls
helm list

2.查看指定的 release 状态

helm status my-redis

3.删除指定的release

helm uninstall my-redis

Helm的自定义模板

charts 除了可以在 repo 中下载，还可以自己自定义，创建完成后通过 helm 部署到 k8s。

在镜像仓库中拉取chart，查看chart的包结构

#拉取chart 到本地目录（现在所在的目录中）
helm pull stable/mysql

#对该拉取的chart压缩包进行解压
tar xf mysql-1.6.9.tgz

自定义创建一个chart

1.使用命令行创建生成一个模板

helm create nginx

tree nginx

cat nginx/templates/deployment.yaml

2.进行模板文件的修改，生成自定义chart

vim nginx/Chart.yaml
apiVersion: v2
name: nginx #chart名字
description: A Helm chart for Kubernetes
type: application #chart类型，application或library
version: 0.1.0 #chart版本
appVersion: 1.16.0 #application部署版本

vim nginx/values.yaml
replicaCount: 1

image:
repository: nginx
pullPolicy: IfNotPresent
tag: "latest" #设置镜像标签

imagePullSecrets: []
nameOverride: ""
fullnameOverride: ""

serviceAccount:
create: true
annotations: {}
name: ""

podAnnotations: {}

podSecurityContext: {}
# fsGroup: 2000

securityContext: {}
# capabilities:
# drop:
# - ALL
# readOnlyRootFilesystem: true
# runAsNonRoot: true
# runAsUser: 1000

service:
type: ClusterIP
port: 80

ingress:
enabled: true #开启 ingress
className: ""
annotations: {}
# kubernetes.io/ingress.class: nginx
# kubernetes.io/tls-acme: "true"
hosts:
- host: www.test.com #指定ingress域名
paths:
- path: /
pathType: Prefix #指定ingress路径类型
tls: []
# - secretName: chart-example-tls
# hosts:
# - chart-example.local

resources:
limits:
cpu: 100m
memory: 128Mi
requests:
cpu: 100m
memory: 128Mi

autoscaling:
enabled: false
minReplicas: 1
maxReplicas: 100
targetCPUUtilizationPercentage: 80
# targetMemoryUtilizationPercentage: 80

nodeSelector: {}

tolerations: []

affinity: {}

3.进行chart打包

//打包 chart
helm lint nginx #检查依赖和模版配置是否正确

helm package nginx #打包 chart，会在当前目录下生成压缩包 nginx-0.1.0.tgz

4.利用自定义chart包进行k8s资源部署

helm install nginx ./nginx --dry-run --debug #使用 --dry-run 参数验证 Chart 的配置，并不执行安装

helm install nginx ./nginx -n default #部署 chart，release 版本默认为 1
或者
helm install nginx ./nginx-0.1.0.tgz

#可根据不同的配置来 install，默认是 values.yaml
helm install nginx ./nginx -f ./nginx/values-prod.yaml

5.部署ingress

wget https://gitee.com/mirrors/ingress-nginx/raw/nginx-0.30.0/deploy/static/mandatory.yaml
wget https://gitee.com/mirrors/ingress-nginx/raw/nginx-0.30.0/deploy/static/provider/baremetal/service-nodeport.yaml
kubectl apply -f mandatory.yaml
kubectl apply -f service-nodeport.yaml

kubectl get pod,svc -n ingress-nginx
kubectl get ingress

进行客户机测试：

vim /etc/hosts
192.168.73.107 www.test.com

6.进行修改变动，进行chart的升级更新

//修改为 NodePort 访问后，升级
vim nginx/values.yaml
service:
type: NodePort
port: 80
nodePort: 30080

ingress:
enabled: false

vim nginx/templates/service.yaml
apiVersion: v1
kind: Service
metadata:
name: {{ include "nginx.fullname" . }}
labels:
{{- include "nginx.labels" . | nindent 4 }}
spec:
type: {{ .Values.service.type }}
ports:
- port: {{ .Values.service.port }}
targetPort: http
protocol: TCP
name: http
nodePort: {{ .Values.service.nodePort }} #指定 nodePort
selector:
{{- include "nginx.selectorLabels" . | nindent 4 }}

升级 release，release 版本加 1
helm upgrade nginx nginx

7.自定义chart的版本回滚（根据release版本）

helm history nginx #查看 release 版本历史

helm rollback nginx 1 #回滚 release 到版本1

#通常情况下，在配置好 templates 目录下的 kubernetes 清单文件后，后续维护一般只需要修改 Chart.yaml 和 values.yaml 即可。

Helm 的私有仓库-Habor

前面介绍了Habor作为docker镜像的私有仓库，其实Habor还可以成为Helm的私有仓库，用来存放打包好的chart包

具体部署步骤

1.在新主机上安装habor和docker-compose（前提是已经安装好docker）

//安装 harbor
#上传 harbor-offline-installer-v1.9.1.tgz 和 docker-compose 文件到 /opt 目录
cd /opt
cp docker-compose /usr/local/bin/
chmod +x /usr/local/bin/docker-compose

tar zxf harbor-offline-installer-v1.9.1.tgz
cd harbor/

vim harbor.yml
hostname: 192.168.73.108
harbor_admin_password: Harbor12345 #admin用户初始密码
data_volume: /data #数据存储路径，自动创建
chart:
absolute_url: enabled #在chart中启用绝对url
log:
level: info
local:
rotate_count: 50
rotate_size: 200M
location: /var/log/harbor #日志路径

#安装带有 Clair service 和 chart 仓库服务的 Harbor
./install.sh --with-clair --with-chartmuseum

2.在helm主机上安装好push插件

#在线安装
helm plugin install https://github.com/chartmuseum/helm-push

#离线安装
wget https://github.com/chartmuseum/helm-push/releases/download/v0.8.1/helm-push_0.8.1_linux_amd64.tar.gz

mkdir -p ~/.local/share/helm/plugins/helm-push
tar -zxvf helm-push_0.8.1_linux_amd64.tar.gz -C ~/.local/share/helm/plugins/helm-push

helm repo ls

3.在habor主机创建项目，在helm主机添加chart仓库

打开浏览器：访问http://192.168.73.108,新建项目

在helm主机上进行操作：

#添加仓库
helm repo add harbor http://192.168.73.108/chartrepo/chart_repo --username=admin --password=Harbor12345
#注：这里的 repo 的地址是<Harbor URL>/chartrepo/<项目名称>，Harbor 中每个项目是分开的 repo。如果不提供项目名称，则默认使用 library 这个项目。

4.进行推送拉取测试

#推送 chart 到 harbor 中
cd /opt/helm
helm push nginx-0.1.0.tgz harbor

拉取chart包测试：

注意：第一次拉取私有仓库chart包时，需要先进行helm repo update 更新helm仓库源

rm -f nginx-0.1.0.tgz
mkdir repo.bak
mv nginx/ ./repo.bak

#因为harbor仓库是第一次使用，需要先对仓库源进行更新
helm repo update
helm pull harbor/nginx

Helm的命令总结

1.Helm的常用命令总结

helm #查看helm基本操作命令
helm version #查看helm的版本
helm env #查看环境变量
helm create chartName #创建chart目录（含基本配置文件和目录）
helm package chartDir #将chart目录打包
helm template chartName #渲染template目录下的模板文件（即将这些模板文件的字段内容用values.yaml填充，然后直接输出到终端）

helm search repo keyword #根据关键字检索chart包
helm search hub keyword
#上面2个命令仅仅在第3个字段有区别，repo表示在本地所添加的仓库中进行检索；hub表示在Helm Hub中进行检索。

helm list #查看发布到k8s中的chart对应的release

helm push chart.tgz repoName 上传chart到chart仓库
例：helm push demo.tgz harbor-10.30.12.211 --username=admin --password=Harbor12345
#有些仓库是有账号密码验证的，所以需要加上账号、密码的参数（比如Harbor提供的chart仓库功能，可参考下面的私有仓库搭建先搭建一个私有仓库出来，再进行仓库相关命令的测试）

命令：helm pull repoName/keyword #从chart仓库中拉取chart到本地
例：helm pull harbor-10.30.12.211/demo
#harbor-10.30.12.211/demo的结构是本地起的仓库名/chart包的名字前缀，只要在harbor-10.30.12.211仓库中含有demo为前缀的chart包，就会被下载到本地

helm lint chartName #检查chart包中的文件内容是否正确（即该chart包去k8s中是否能够成功安装部署）
#包可以是chart目录、chart压缩包

helm install releaseName chartName #将chart包发布到k8s集群中安装部署
#releaseName为release的名字，chartName为chart包名，chart可以是未打包的chart，也可以是打包的chart，也可以是仓库中的chart。【chart和release的关系可以大致理解为程序和进程的关系，一个是静态的，一个是动态的】
helm install chartName --generate-name
#可以不指定release的名字，只需要指定–generate-name即可随机生成一个名字
#创建完后可以使用helm list查看是否有对应的release

helm uninstall releaseName #将部署到k8s中的release卸载掉
#卸载完后使用helm list查看relDemo是否被删除了，同时可以使用kubectl get pods查看相应的pod等与release相关的资源是否全部删除干净

helm upgrade releaseName chartName #将部署到k8s中的release升级，即相当于应用升级
#relName指定一个release，该release对应一个k8s中的应用，chartName指定一个chart包，整个过程为直接使用指定的chart包替换部署release。就helm而言release还是原来那个，不过对应的chart包被替换了。对k8s而言，仅仅是将原先资源删除，然后用新的chart包创建资源。
#使用helm list查看release的CHART字段是否更新，同时可以使用kubectl get pods查看相应的pod等与release相关的资源是否全部更新（看名字、运行时间）

helm rollback releaseName revision #将release回退到前一个或若干个版本（k8s中会同步回退）
#revision为第几个版本，1表示第一个版本，2表示第二个版本，以此类推。通常回滚会搭配helm history releaseName使用，通过该命令查看所有的关于本release的发布历史，然后选择回退到哪个版本
#回滚成功后使用helm list查看该release的CHART和APP VERSION是否更新（具体得看chart中的chart.yaml中的version和appVersion有没有相应的修改），同时可以使用kubectl get pods查看相应的pod等与release相关的资源是否全部更新（看名字、运行时间）

helm history releaseName #查看release的发布历史（包括安装、升级、回滚）
helm status releaseName #查看release的基本信息

2.查看chart包的操作命令

helm show chart chartName #查看chart包中的chart.yaml文件内容
#chart包可以是本地的未打包的chart目录（即helm create 创建出来的chart目录），也可以是打包的chart压缩包（由helm package打包），也可以是保存在仓库中的chart包

helm show values chartName #查看chart包中的values.yaml文件内容
#包同上有3种选择

helm show readme chartName #查看chart包中README文件内容
#包同上有3种选择

helm show all chartName #查看chart包中chart.yaml、values.yaml、README文件内容
#包同上有3种选择

3.查看release指定内容（与helm show作用、格式相同）
helm get notes releaseName #查看release的说明信息（相当于chart中的NOTES.TXT）
helm get manifest releaseName #查看release在k8s中创建出来的资源
helm get hooks releaseName #查看release的回调创建资源
helm get values releaseName #查看release的values配置
helm get all releaseName #查看上述所有内容

4.helm plugin —— 插件管理
helm plugin list #查看本地安装好的插件 (插件管理)

helm plugin install pluginURL #安装插件
例：helm plugin install https://github.com/chartmuseum/helm-push
#最后的url地址为插件的下载地址，可参考 https://github.com/chartmuseum/helm-push

helm plugin uninstall pluginName #卸载插件
helm plugin update pluginName #更新插件，将插件升级到最新版本
#在下载插件的时候会保存插件及其下载地址，更新的时候使用原本的下载地址直接下载最新版本替换

5.helm repo —— 仓库管理

helm repo list #(仓库管理)查看添加的chart仓库，可在这些chart仓库中拉取chart（实际上就相当于一个应用的安装包）

helm repo add repoName repoURL #本地添加chart仓库
例：helm repo add abc http://mirror.azure.cn/kubernetes/charts/
#repoName是你自己起的一个名字，用来代表这个repoURL，后续操作仓库的命令中直接用repoName来代替repoURL，只要指定了repoName，就表示要去操作repoName指向的repoURL的仓库

helm repo remove repoName #本地删除chart仓库

helm repo update #将本地所添加的chart仓库的最新信息缓存到本地
#helm search命令是检索某仓库中的chart包，假设仓库中一开始是没有所指定的chart包，所以helm search是检索不到的。这时候如果将chart包上传至该仓库，本地需要执行一遍helm repo update以更新本地的缓存数据才能检索到该指定的chart，因为helm search就是读取本地缓存数据的

helm repo index repoDir --url=repoURL #根据指定仓库目录下的chart包生成index.yaml索引文件
例：helm repo index repo --url=http://192.168.73.108:8080/
#repoDir指定一个仓库的目录，该目录用来存放chart包及索引文件index.yaml。url指定仓库的访问路径，生成的索引文件中会以该url为地址前缀拼接上chart包名作为chart包的访问路径