华为云CDN刷新与查询余量的Go实现及在Jenkins中的部署

引言

在华为云上,对CDN缓存内容进行刷新是一个常见的需求,以确保最新的内容能尽快被用户访问到。通过使用Go语言,我们可以开发一个自动化的工具来实现这一需求,并将其集成到Jenkins中以实现持续部署。下面我们将分步骤讲解如何实现。

1. 实现CDN的刷新

要用Go实现华为云CDN的刷新工作,我们需要首先安装go-sdk,这是华为云为Go开发者提供的SDK,包含了操作华为云服务的API接口。

步骤1.1 安装华为云官方Go SDK

我们可以使用go get命令来安装SDK:

go get -u github.com/huaweicloud/huaweicloud-sdk-go-v3

步骤1.2 创建CDN刷新任务

使用华为云apiexplorer查看一下cdn的实例代码:
image.png
创建刷新缓存任务实例,有V1 V2版本区别,但是看了一眼,目测代码没有什么区别,这里就继续使用v1版本了:

package mainimport ("fmt""github.com/huaweicloud/huaweicloud-sdk-go-v3/core/auth/global"cdn "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1""github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1/model"region "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1/region"
)func main() {// The AK and SK used for authentication are hard-coded or stored in plaintext, which has great security risks. It is recommended that the AK and SK be stored in ciphertext in configuration files or environment variables and decrypted during use to ensure security.// In this example, AK and SK are stored in environment variables for authentication. Before running this example, set environment variables CLOUD_SDK_AK and CLOUD_SDK_SK in the local environmentak := os.Getenv("CLOUD_SDK_AK")sk := os.Getenv("CLOUD_SDK_SK")auth := global.NewCredentialsBuilder().WithAk(ak).WithSk(sk).Build()client := cdn.NewCdnClient(cdn.CdnClientBuilder().WithRegion(region.ValueOf("cn-north-1")).WithCredential(auth).Build())request := &model.CreateRefreshTasksRequest{}request.Body = &model.RefreshTaskRequest{}response, err := client.CreateRefreshTasks(request)if err == nil {fmt.Printf("%+v\n", response)} else {fmt.Println(err)}
}

根据上面的代码做一个简单的实例,演示如何使用华为云Go SDK创建CDN刷新任务:
域名使用 传入的方式,这里就直接使用了os.Args,传递参数:

package mainimport ("fmt""github.com/huaweicloud/huaweicloud-sdk-go-v3/core/auth/global""github.com/huaweicloud/huaweicloud-sdk-go-v3/core/config"cdn "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1""github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1/model""github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1/region""os"
)func main() {if len(os.Args) < 2 {fmt.Println("Usage: go run main.go <your-cdn-url>")return}cdnUrl := os.Args[1]ak := "YOUR_ACCESS_KEY"sk := "YOUR_SECRET_KEY"auth := global.NewCredentialsBuilder().WithAk(ak).WithSk(sk).Build()hcClient := cdn.NewCdnClient(cdn.CdnClientBuilder().WithRegion(region.ValueOf("cn-north-1")).WithCredential(auth).WithHttpConfig(config.DefaultHttpConfig()).Build())// Create CDN refresh taskcreateRefreshTask(hcClient, cdnUrl)
}func createRefreshTask(hcClient *cdn.CdnClient, cdnUrl string) {refreshTaskRequest := &model.CreateRefreshTasksRequest{}typeRefreshTask := model.GetRefreshTaskRequestBodyTypeEnum().DIRECTORYmodeRefreshTask := model.GetRefreshTaskRequestBodyModeEnum().DETECT_MODIFY_REFRESHzhUrlEncodeRefreshTask := falserefreshTaskbody := &model.RefreshTaskRequestBody{Type:        &typeRefreshTask,Mode:        &modeRefreshTask,ZhUrlEncode: &zhUrlEncodeRefreshTask,Urls:        []string{cdnUrl},}refreshTaskRequest.Body = &model.RefreshTaskRequest{RefreshTask: refreshTaskbody,}// Create the refresh taskresponse, err := hcClient.CreateRefreshTasks(refreshTaskRequest)if err != nil {fmt.Fprintf(os.Stderr, "Error creating CDN refresh task: %s\n", err)os.Exit(2)}fmt.Printf("CDN refresh task created successfully: %s\n", response)
}

在上述代码中,替换**YOUR_ACCESS_KEY****YOUR_SECRET_KEY**为你的华为云账号的密钥信息。
尝试运行脚本:

go run main.go https://xxx.xxx.com/

image.png
末尾以**/**单斜线结尾!
注:以上代码以刷新目录为例,且只刷新变更资源!具体参数或者其他需求可以参考:https://console.huaweicloud.com/apiexplorer/#/openapi/CDN/doc?version=v1&api=CreateRefreshTasks,文档中参数!

2. 查询file URL余量

在创建刷新任务后,我们可能还需要查询当前账户下的URL刷新余量,以确保后续操作不会受到次数限制的影响。

步骤2.1 查询CDN file URL余量

可以在上面的Go程序中继续添加以下查询余量的代码片段:
参照:https://console.huaweicloud.com/apiexplorer/#/openapi/CDN/debug?version=v1&api=ShowQuota
image.png
尝试调试,查看返回值数据结构,编写代码如下:

// 查询URL 目录余量
func queryCdnQuota(hcClient *cdn.CdnClient) {request := &model.ShowQuotaRequest{}response, err := hcClient.ShowQuota(request)if err != nil {fmt.Fprintf(os.Stderr, "Error querying CDN quota: %s\n", err)os.Exit(2)}// 请确保 response.Quotas 不是nil,否则可能会导致空指针异常if response.Quotas == nil {fmt.Fprintln(os.Stderr, "Error: received nil Quotas in response")os.Exit(2)}// 自定义类型名称的映射typeNameMap := map[string]string{"file_refresh": "缓存刷新剩余Url条数","dir_refresh":  "缓存刷新剩余目录数",}// Print out the customized quota informationfmt.Println("CDN quota information:")for _, quota := range *response.Quotas {// 检查quota.Type是否为我们关心的类型之一if customName, ok := typeNameMap[*quota.Type]; ok {remaining := *quota.QuotaLimit - *quota.Usedfmt.Printf("- %s: %d\n", customName, remaining)}}
}

在main函数中增加一下代码:

	queryCdnQuota(hcClient)

此片段會在创建CDN刷新任务之后调用ShowQuota接口,查询并打印出当前账户的URL以及目录刷新余量信息。typeNameMap部分是我想自定义一下输出打印的名称,增加可读性!
完成代码如下:

package mainimport ("fmt""github.com/huaweicloud/huaweicloud-sdk-go-v3/core/auth/global""github.com/huaweicloud/huaweicloud-sdk-go-v3/core/config"cdn "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1""github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1/model""github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1/region""os"
)func main() {if len(os.Args) < 2 {fmt.Println("Usage: go run main.go <your-cdn-url>")return}cdnUrl := os.Args[1]ak := "YOUR_ACCESS_KEY"sk := "YOUR_SECRET_KEY"auth := global.NewCredentialsBuilder().WithAk(ak).WithSk(sk).Build()hcClient := cdn.NewCdnClient(cdn.CdnClientBuilder().WithRegion(region.ValueOf("cn-north-1")).WithCredential(auth).WithHttpConfig(config.DefaultHttpConfig()).Build())// Create CDN refresh taskcreateRefreshTask(hcClient, cdnUrl)
}func createRefreshTask(hcClient *cdn.CdnClient, cdnUrl string) {refreshTaskRequest := &model.CreateRefreshTasksRequest{}typeRefreshTask := model.GetRefreshTaskRequestBodyTypeEnum().DIRECTORYmodeRefreshTask := model.GetRefreshTaskRequestBodyModeEnum().DETECT_MODIFY_REFRESHzhUrlEncodeRefreshTask := falserefreshTaskbody := &model.RefreshTaskRequestBody{Type:        &typeRefreshTask,Mode:        &modeRefreshTask,ZhUrlEncode: &zhUrlEncodeRefreshTask,Urls:        []string{cdnUrl},}refreshTaskRequest.Body = &model.RefreshTaskRequest{RefreshTask: refreshTaskbody,}// Create the refresh taskresponse, err := hcClient.CreateRefreshTasks(refreshTaskRequest)if err != nil {fmt.Fprintf(os.Stderr, "Error creating CDN refresh task: %s\n", err)os.Exit(2)}fmt.Printf("CDN refresh task created successfully: %s\n", response)
}

运行代码返回数据格式如下:

go run main.go https://xxx.xxx.com/

image.png

3. 在Jenkins节点上运行程序

一旦我们的Go程序可以正确执行CDN刷新和查询余量的操作,接下来的步骤就是在Jenkins中配置该程序的运行环境。

步骤3.1 创建一个新的Jenkins任务

在Jenkins中创建一个Freestyle项目或者Pipeline项目,此部分取决于你的工作流。为了简便说明,我们这里以Freestyle项目为例。

步骤3.2 配置构建步骤

首先添加一个参数化构建过程,传入参数:
image.png
限制一下可运行的节点:
image.png

在你的Jenkins任务配置页中,添加一个构建步骤,选择“Execute shell”(对于Linux系统)或“Execute Windows batch command”(对于Windows系统),并填入以下内容:
image.png

# 假设你的Go程序名为`main`,且已经编译到Jenkins的工作空间中
cd /home/flush-hw&&./main $dir

确保构建环境中已经安装了Go运行时,并且环境变量已经配置,这样main程序才可以在Jenkins节点上运行没有问题。
注:main要有可执行权限,复制过来要记得chmod +x main .

4. 使用Jenkins Credentials管理AK/SK密钥

为了避免在代码中硬编码敏感信息,如Access Key和Secret Key,推荐使用Jenkins的Credentials插件来管理这些密钥。

步骤4.1 添加Credentials

在Jenkins中进入Credentials管理页面,添加一个新的Credentials,选择“Secret text”,其中**Secret**字段填入AK:SK的格式。记住这里的**ID,**接下来绑定的时候会用到
image.png
image.png

步骤4.2 修改Go程序以获取Credentials

之后,你需要修改Go程序,让其从环境变量中读取AK和SK。例如:

package mainimport ("fmt""github.com/huaweicloud/huaweicloud-sdk-go-v3/core/auth/global""github.com/huaweicloud/huaweicloud-sdk-go-v3/core/config"cdn "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1""github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1/model""github.com/huaweicloud/huaweicloud-sdk-go-v3/services/cdn/v1/region""os""strings"
)func main() {if len(os.Args) < 2 {fmt.Println("Usage: go run main.go <your-cdn-url>")return}cdnUrl := os.Args[1]// 尝试从环境变量中获取ak和skcreds := os.Getenv("huaweiyun-hn-cdn")if creds == "" {fmt.Fprintln(os.Stderr, "Error: Credentials environment variable is not set.")os.Exit(1)}parts := strings.SplitN(creds, ":", 2)if len(parts) != 2 {fmt.Fprintln(os.Stderr, "Error: Invalid credential format. Expected 'AK:SK'.")os.Exit(1)}ak, sk := parts[0], parts[1]auth := global.NewCredentialsBuilder().WithAk(ak).WithSk(sk).Build()hcClient := cdn.NewCdnClient(cdn.CdnClientBuilder().WithRegion(region.ValueOf("cn-north-1")).WithCredential(auth).WithHttpConfig(config.DefaultHttpConfig()).Build())// Create CDN refresh taskcreateRefreshTask(hcClient, cdnUrl)// Query remaining refresh and preload quotaqueryCdnQuota(hcClient)
}func createRefreshTask(hcClient *cdn.CdnClient, cdnUrl string) {refreshTaskRequest := &model.CreateRefreshTasksRequest{}typeRefreshTask := model.GetRefreshTaskRequestBodyTypeEnum().DIRECTORYmodeRefreshTask := model.GetRefreshTaskRequestBodyModeEnum().DETECT_MODIFY_REFRESHzhUrlEncodeRefreshTask := falserefreshTaskbody := &model.RefreshTaskRequestBody{Type:        &typeRefreshTask,Mode:        &modeRefreshTask,ZhUrlEncode: &zhUrlEncodeRefreshTask,Urls:        []string{cdnUrl},}refreshTaskRequest.Body = &model.RefreshTaskRequest{RefreshTask: refreshTaskbody,}// Create the refresh taskresponse, err := hcClient.CreateRefreshTasks(refreshTaskRequest)if err != nil {fmt.Fprintf(os.Stderr, "Error creating CDN refresh task: %s\n", err)os.Exit(2)}fmt.Printf("CDN refresh task created successfully: %s\n", response)
}
func queryCdnQuota(hcClient *cdn.CdnClient) {request := &model.ShowQuotaRequest{}response, err := hcClient.ShowQuota(request)if err != nil {fmt.Fprintf(os.Stderr, "Error querying CDN quota: %s\n", err)os.Exit(2)}// 请确保 response.Quotas 不是nil,否则可能会导致空指针异常if response.Quotas == nil {fmt.Fprintln(os.Stderr, "Error: received nil Quotas in response")os.Exit(2)}// 自定义类型名称的映射typeNameMap := map[string]string{"file_refresh": "缓存刷新剩余Url条数","dir_refresh":  "缓存刷新剩余目录数",}// Print out the customized quota informationfmt.Println("CDN quota information:")for _, quota := range *response.Quotas {// 检查quota.Type是否为我们关心的类型之一if customName, ok := typeNameMap[*quota.Type]; ok {remaining := *quota.QuotaLimit - *quota.Usedfmt.Printf("- %s: %d\n", customName, remaining)}}
}

步骤4.3 配置Jenkins任务以传递Credentials

在Jenkins任务的构建环境配置中,使用Credentials Binding插件将新添加的Credentials绑定到相应的环境变量中。在“Build Environment”选择“Use secret text(s) or file(s)”,命名为xxx并绑定AK/SK到指定凭据:
image.png

步骤4.4 测试运行

最后,在Jenkins中运行配置好的任务,检查输出以确保CDN刷新和余量查询均运行顺利。
image.png
image.png

5. 其他的需求

1. 经常输入域名的时候忘记/单斜线,是否可以自动补全?

2. 设置改阈值?剩余量到20可以自动报警?邮件or短信

3. 优雅的pipeline?

结语

通过上述步骤,我们成功地实现了通过Go语言操作华为云CDN刷新服务的功能,并将其集成到Jenkins任务中,同时安全地管理了敏感的AK/SK凭证。这样的自动化工具对于管理大量的CDN资源来说非常有用,可以大大提高工作效率。
注:以上大纲chatgpt生成代码结构也是,代码基本也是chatgpt生成,貌似中间就有几个&指针数据格式有问题修改了一下

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/174959.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Bypass open_basedir的方法

文章目录 open_basedir概念绕过方法命令执行绕过symlink 绕过 &#xff08;软连接&#xff09;利用chdir()与ini_set()组合绕过 例题 [suctf 2019]easyweb open_basedir概念 open_basedir是php.ini的设置 在open_basedir设置路径的话 那么网站访问的时候 无法访问除了设置以外的…

KaiwuDB 亮相中国 5G + 工业互联网大会,助力新型工业化

11月19-21日&#xff0c;由各相关政府部门共同主办的“2023 中国 5G工业互联网大会”在湖北武汉盛大举行。作为我国“5G工业互联网”领域的国家级顶会&#xff0c;本届大会以“数实融合&#xff0c;大力推进新型工业化”为主题&#xff0c;聚焦新型基础设施、产业转型升级、技术…

redis—— 渐进式遍历

目录 为啥不用keys*遍历&#xff1f; 引入渐进式遍历 SCAN进行渐进式遍历 格式及参数说明 使用示例 注意 为啥不用keys*遍历&#xff1f; 之前学过key* 获取所有的key&#xff0c;但是这个操作可能会一次性得到太多的key&#xff0c;阻塞redis服务器&#xff0c;所以不建议…

笔记62:注意力汇聚 --- Nadaraya_Watson 核回归

本地笔记地址&#xff1a;D:\work_file\&#xff08;4&#xff09;DeepLearning_Learning\03_个人笔记\3.循环神经网络\第10章&#xff1a;动手学深度学习~注意力机制 a a a a a a a a a a a a a a a a

【一维数组】交换数组

题目 将数组A中的内容和数组B中的内容进行交换。&#xff08;数组一样大&#xff09; 解题方式通过函数封装可以实现任意类型的数组元素交换 思路来源&#xff1a;qsort函数的模拟实现 void Change_arr2(void* ch1, void* ch2, size_t num, size_t sz) {for (int i 0; i < …

.net core 事务

在 .NET Core 中&#xff0c;可以使用 Entity Framework Core 来实现事务处理。下面是一个简单的示例&#xff0c;展示了如何在 .NET Core 中使用 Entity Framework Core 来创建和执行事务&#xff1a; using System; using Microsoft.EntityFrameworkCore; using System.Tran…

Docker配置Halo搭建个人博客-快速入门

Docker配置Halo搭建个人博客-快速入门 1 官方文档2 安装Halo2.1 创建Halo主目录2.2 远程下载配置文件2.3 编辑配置文件2.4 拉取最新镜像2.6 查看容器2.7 开放服务器的防火墙 3 运行3.1 运行项目3.2 停止项目 4 常见问题4.1 没有权限4.2 ommand netstart not found, did you mea…

寻找两个正序数组的中位数

给定两个大小分别为 m 和 n 的正序&#xff08;从小到大&#xff09;数组 nums1 和 nums2。请你找出并返回这两个正序数组的 中位数 。 算法的时间复杂度应该为 O(log (mn)) 。 &#xff1a;本题难点在于时间复杂度的掌握&#xff0c; 思路&#xff1a;把两个数组合为一个数…

如何在自己的github仓库建立xv6-labs-2020项目

由于github上没有放出xv6-labs-2020的源代码版本&#xff0c;所以如果想在github上建立自己关于这个实验的仓库&#xff0c;可以遵循下面步骤&#xff1a; 首先在某一个地方clone下源代码 git clone git://g.csail.mit.edu/xv6-labs-2020然后进入该文件夹运行git bash或者其他…

8.0 泛型

通过之前的学习&#xff0c;读者可以了解到&#xff0c;把一个对象存入集合后&#xff0c;再次取出该对象时&#xff0c;该对象的编译类型就变成了Object类型&#xff08;尽管其在运行时类型没有改变&#xff09;。集合设计成这样&#xff0c;提高了它的通用性&#xff0c;但是…

JAVA Spring boot Process finished with exit code 0

JAVA Spring boot Process finished with exit code 0 原因&#xff1a; 检查配置文件是否引入spring-boot-starter-web配置依赖 问题解决: 1.maven: pom引入 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-st…

Git的原理与使用(一):Git的基本操作(包含:版本回退)

Git原理与使用一 一.Git的初识与安装1.什么是Git2.如何安装Git1.git命令与git help(Git下的"man手册")2.centos下安装Git3.ubantu下安装Git 二.Git的前置操作与前置知识1.创建Git本地仓库2.配置Git3.理解Git的分区1.工作区2.暂存区3.版本库4.分区关系总结 三.添加文件…

springboot启动Table ‘xxx‘ already exists

jpa.generate-ddl和jpa.hibernate.ddl-auto都可以控制是否执行datasource.schema脚本&#xff0c;来初始化数据库结构&#xff0c;只要有一个为可执行状态就会执行&#xff0c;比如jpa.generate-ddl:true或jpa.generate-ddl:update&#xff0c;并没有相互制约上下级的关系。 要…

Android修行手册 - 使用ViewPager2实现画廊效果

Unity3D特效百例案例项目实战源码Android-Unity实战问题汇总游戏脚本-辅助自动化Android控件全解手册再战Android系列Scratch编程案例软考全系列Unity3D学习专栏蓝桥系列ChatGPT和AIGC &#x1f449;关于作者 专注于Android/Unity和各种游戏开发技巧&#xff0c;以及各种资源分…

web前端开发规范、HTML规范、JavaScript规范、style规范

MENU 前言目的 HTML规范用法规范注释规范 CSS规范用法规范书写顺序样式覆盖注释规范 JavaScript规范用法规范组件选项注释规范 命名规范目录命名图片命名文件命名方法命名样式命名常用词 工程结构目录构建代码风格 Git规范分支说明使用说明 相关连接 前言 目的 规范的目的是为…

唯创知音WTN6系列语音芯片:高音频采样率与精细音量控制赋能广泛应用

在语音芯片领域&#xff0c;唯创知音的WTN6系列语音芯片以其出色的性能和广泛的应用领域&#xff0c;无疑是行业的一颗璀璨明星。近期&#xff0c;该系列芯片实现了音频采样率32kHz的突破&#xff0c;以及16级音量控制的精细调节&#xff0c;进一步提升了其在各类应用中的表现。…

小航助学题库蓝桥杯题库stem选拔赛(22年3月)(含题库教师学生账号)

需要在线模拟训练的题库账号请点击 小航助学编程在线模拟试卷系统&#xff08;含题库答题软件账号&#xff09;_程序猿下山的博客-CSDN博客 需要在线模拟训练的题库账号请点击 小航助学编程在线模拟试卷系统&#xff08;含题库答题软件账号&#xff09;_程序猿下山的博客-CSD…

Hive -- 基本概念

1、什么是Hive&#xff1a; Hive是数据仓库建模的工具之一&#xff0c;通过向hive中写一个交互式的sql&#xff0c;在海量数据中查询分析得到结果的平台。 2、Hive的优缺点&#xff1a; 1、优点&#xff1a; 1、操作接口采用类sql语法&#xff0c;提供快速开发的能力&#x…

解决ansible批量加入新IP涉及known_hosts报错的问题

我们把一批新的IP加入到ansible的hosts文件&#xff0c;比如/etc/ansible/hosts&#xff0c;往往会有这样的提示&#xff0c; 因为本机的~/.ssh/known_hosts文件中并有fingerprint key串&#xff0c;使用ssh连接目标主机时&#xff0c;一般会提示是否将key字符串加入到~/.ssh/…

如何使用内网穿透将Tomcat网页发布到公共互联网上【内网穿透】

文章目录 前言1.本地Tomcat网页搭建1.1 Tomcat安装1.2 配置环境变量1.3 环境配置1.4 Tomcat运行测试1.5 Cpolar安装和注册 2.本地网页发布2.1.Cpolar云端设置2.2 Cpolar本地设置 3.公网访问测试4.结语 前言 Tomcat作为一个轻量级的服务器&#xff0c;不仅名字很有趣&#xff0…