设计模式学习笔记 - 项目实战三:设计实现一个支持自定义规则的灰度发布组件(设计)

概述

上篇文章,我们介绍了灰度组件的一个需求场景,将公共服务平台的 RPC 接口,灰度替换为新的 RESTful 接口,通过灰度逐步放量,支持快速回滚等手段,来规避代码质量问题带来的不确定性风险。

跟前面两个框架类似,灰度组件的功能性需求比较简单。在上篇文章我们做了简单的分析,本章再介绍一下,这个组件的非功能性需求,以及如何通过合理的设计来满足这些非功能性需求。


非功能性需求

对于限流框架,我们主要从易用性、扩展性、灵活性、性能、容错性这几个方面,来分析它的非功能性需求。对于灰度组件,也从这几个方面来分析。

易用性

在前面讲到限流框架和幂等框架的时候,我们都提到了 “低侵入松耦合” 的设计思想。因为框架集成到业务系统中使用,我们希望它尽可能低侵入,与业务代码松耦合,替换、移除起来更容易些。因为接口的限流和幂等跟具体的业务是无关的,我们可以把限流和幂等相关的逻辑,跟业务代码解耦,统一放到公共的地方来处理(比如 Spring AOP 切面中)。

但是对于灰度来说,我们实现的灰度功能是代码级别的细粒度的灰度,而替代掉原来的 if-else 逻辑,是针对一个业务一个业务来做的,跟业务强相关,要做到跟业务代码完全解耦,是不现实的。所以,在侵入性这一点上,灰度组件只能做拖鞋,容忍一定程度的侵入

此外,在灰度的过程中,我们要不停地修改灰度规则,在测试没有出现问题的情况下,逐渐放量。从运维的角度来说,如果每次修改灰度规则都要重启系统,显然是比较麻烦的。所以,我们希望灰度支持热更新,也就是说,当我们在配置文件中修改了灰度规则之后,系统在不重启的情况下会自动加载、更新灰度规则。

扩展性、灵活性

跟限流框架一样,我们希望支持不同格式(JSON、YAML、XML 等)、不同存储方式(本地配置文件、Redis、Zookeeper、或者字眼配置中心等)的灰度配置方式。这一点在限流框架中已经详细讲解过了。

此外,对于灰度规则本身,上篇文章的示例中,我们定义了三种灰度规则语法格式:具体指(比如 893)、区间值(比如 1020-1120)、比例值(比如 %30)。不过,这只能处理比较简单的灰度规则。如果我们要支持更复杂的灰度规则,比如只对 30 天内购买过的某某商品并且退货次数少于 10 次的用户进行灰度,现在的灰度规则是无法支持的。所以,如何支持更加灵活的、复杂的灰度规则,也是我们设计实现的重点和难点

性能

在性能方面,灰度组件的处理难度,并不像限流框架那么高。在限流框架中,对分布式限流模式,接口请求访问计数存储在中心存储器中,比如 Redis。而 Redis 本身的读写性能以及限流框架与 Redis 的通信延迟,都会很大地影响到限流本身的性能,进而影响到接口响应时间。所以,对于分布式限流来说,低延迟高性能是设计的难点和重点。

但是,对于灰度组件来说,灰度的判断逻辑非常简单,而且不涉及访问外部存储,所以性能一般不会有太大的问题。不过,我们仍然要把灰度规则组织成快速查找的数据结构,能够支持快速判定某个灰度对象(darkTarget,比如用户 ID)是否落在灰度规则设定的区间内。

容错性

在限流框架中,我们要求高容错,不能因为框架本身的异常,导致接口响应超时。从业务上讲,我们一般能容忍限流框架的暂时、小规模的失效,所以,限流框架对于异常的处理原则是,尽可能捕获所有异常,并且内部 “消化” 掉,不要往上层业务代码中抛出。

对于幂等框架来说,我们不能容忍暂时、小规模的失效,因为这种失效会导致业务可能多次被执行,发生业务数据的错误。所以,幂等框架对于异常的处理原则是,按照 fail-fast 原则,如果异常导致幂等框架无法正常执行,让业务代码也中止。因为业务失败,比业务执行出错,修改的成本更低。

对于灰度组件来说,上面的两种异常的处理思路都是可以接受的。在灰度组件出现异常时,我们既可以选择中止业务,也可以选择让业务继续执行。如果让业务继续执行,本不应该被灰度到的业务对象,就有可能被执行。这是否接受,还是要看具体业务。不过,我个人更倾向于采用类似幂等框架的处理思路,在出现异常时中止业务。

框架设计思路

根据刚刚对灰度组件的非功能性需求分析,以及跟限流框架、幂等框架非功能性需求的对比,我们可以看出,在性能和容错性方面,灰度组件并没有特别要处理的地方,重点需要关注易用性、扩展性、灵活性

首先,我们来看,如何支持更灵活、更复杂的灰度规则。

灰度规则的配置也是跟业务强相关的。业务方面需要根据灰度的业务特点,找到灰度对象(比如用户 ID),然后按照给出的灰度规则语法格式,配置响应的灰度规则。

对于像刚刚提到的那种复杂的灰度规则(只对 30 天内购买过的某某商品并且退货次数少于 10 次的用户进行灰度),通过语法定义规则来支持,是很难实现的。所以,针对复杂灰度规则,我们换个思路来实现。

暂时有两种解决办法。其中一种是使用规则引擎,比如 Drools,可以在配置文件中调用 Java 代码。另外一种是支持编码实现灰度规则,这样做灵活性更高。不过,缺点是更新灰度规则需要更新代码,重新部署。

对于大部分业务的灰度,使用前面定义的最基本的语法规则(具体值、区间值、比例值)就能满足了。对于极个别复杂的灰度规则,我们借鉴 Spring 的编程配置,由业务方编程实现,具体如何来做,放到下篇文章来讲解。这样基既兼顾了易用性,又兼顾了灵活性。

之所以选择第二种实现方式,而不是使用 Drools 规则引擎,主要是出于不想为了不常用的功能,引入复杂的第三方框架,提高开发成本和灰度框架本身的学习成本。

其次,我们来看,如何实现灰度规则热更新。

规则热更新这样一个功能,并非灰度组件特有的,很多场景下都有类似的需求。

灰度规则的人更新实现起来并不难。我们创建一个定时器,每个固定时间(比如 1 分钟),从配置文件中读取灰度规则配置信息,并且解析加载到内存中,替换掉老的灰度规则。需要特别强调的是,更新贵都规则,设计读取配置、解析、构建等一系列曹组,会花费较长的时间,我们不能因为更新规则,就暂停了灰度服务。所以,在设计和实现灰度规则更新时,我们要支持更新和查询并发执行。具体如何来做,我们留在下篇文章详细讲解。

总结

本章,我们对比限流框架、幂等框架,讲解了灰度组件的非功能性需求,主要包含 易用性、扩展性、灵活性、容错性这样几个方面,并且针对性地解释了对应地设计思路。

易用性方面,我们重点讲解了 “低侵入、松耦合” 的设计思想。限流、幂等框架因为其跟业务无关,可以做到最大程度跟业务解耦,做到低侵入。但是,我们这里实现的代码层面的灰度,因为跟业务强相关,所以,跟业务代码耦合比较紧密,比较难做到低侵入

扩展性、灵活性方面,除了像限流框架那样,支持各种格式、存储方式的配置方式之外,灰度组件还希望支持复杂的灰度规则。对于大部分业务的灰度,使用最基本的语法规则(具体指、区间值、比例值)就能满足了。对于极个别复杂的灰度规则,我们解决 Spring 的编程式配置,由业务方编程实现。

性能方面,灰度组件没有需要特殊处理的地方。我们只需要把灰度规则组织成快速查找的数据结构,能够支持快速判定某个灰度对象(比如用户 ID),是否落在灰度规则设定的区间内

容错性方面,限流框架要高度容错,容忍短暂、小规模的限流失效,但不容忍框架异常导致的接口响应异常。幂等框架正好相反,不容忍幂等功能的失效,一旦出现异常,幂等功能失效,我们的处理原则是让业务也失败。这两种处理思路都可以用在灰度组件对异常的处理中。个人更倾向于采用幂等框架的处理思路。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/4972.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

服务器数据恢复—Storwize V3700存储数据恢复案例

服务器存储数据恢复环境: 某品牌Storwize V3700存储,10块硬盘组建了2组Mdisk加入到一个存储池中,一共创建了1个通用卷来存放数据,主要数据为oracle数据库。 服务器存储故障: 其中一组Mdisk中两块磁盘出现故障离线&…

【每日刷题】Day28

【每日刷题】Day28 🥕个人主页:开敲🍉 🔥所属专栏:每日刷题🍍 🌼文章目录🌼 ​ 1. 121. 买卖股票的最佳时机 - 力扣(LeetCode) 2. 205. 同构字符串 - 力扣…

解决python file.read()读取文件为空报错

问题描述 今天写的python脚本出现了file.read()读不到文件内容的问题,原脚本如下: with open(path,r) as f:znre.compile(rZN ZN)znallzn.findall(f.read())if len(znall) 1:list2.append(id)for i in list1:#print(f.read())if i in f.read():lis…

如何写得一手优雅规范的SpringBoot 接口?

导语 优雅的代码赏心悦目,你的代码触目惊心。 当编写 Spring Boot 接口时,优雅和规范是至关重要的。一个良好设计的接口能够提高代码的可读性、可维护性和可扩展性,从而为整个应用程序的开发和维护带来便利。 在本文中,我们将探讨…

关于discuz论坛网址优化的一些记录(网站地图sitemap提交)

最近网站刚上线,针对SEO做了些操作,为了方便网站网页百度被收录,特此记录下 discuz有免费的sitemap插件可以用,打开后台管理,找到插件栏,然后找到更多插件,进入插件市场。 选择这个免费的sitem…

【数据分析面试】34.填充NaN值 (Python:groupby/sort_value/ffill)

题目:填充NaN值 (Python) 给定一个包含三列的DataFrame:client_id、ranking、value 编写一个函数,将value列中的NaN值用相同client_id的前一个非NaN值填充,按升序排列。 如果不存在前一个client_id,则返…

Linux详解:进程等待

文章目录 进程等待等待的必要性进程等待的方法waitwaitpid获取子进程status阻塞等待 与 非阻塞等待 进程等待 等待的必要性 子进程退出,父进程不进行回收的话,就可能造成僵尸进程,进而造成内存泄露 如果进程进入了僵尸状态,kill…

Tcp自连接

Tcp自连接 如果客户端和服务端都在同一个环境,并且客户端先于服务端启动,那么很有可能产生自连接的现象。 所谓自连接,就是tcp两端使用了同一个端口进行连接,即localhost:port->localhost:port。 实现自连接 下面提供一个例…

GITEE 基于OAuth2的API V5版本

为了构建更好的码云生态环境,我们推出了基于OAuth2的API V5版本。 API V5接口使用方式以及Url都参照GitHub,为了各位开发者更好的兼容已经存在的第三方应用。 API 使用条款 OSCHINA 用户是资源的拥有者,需尊重和保护用户的权益。不能在应用…

4.29 IO多路复用

管道,就是用于进程之间的通信文件,根本不会用到磁盘内容,只是用来标记一块缓冲区,所以无论任何时候大小都是0。 管道必须要同时打开,只开一端是不行的,这样的话不能进行后续的操作,会卡在那里&…

基于SpringBoot+Vue高校竞赛管理系统的设计与实现

项目介绍: 高校竞赛管理系统管理系统按照操作主体分为管理员和用户。管理员的功能包括字典管理、论坛管理、竞赛公告管理、获奖管理、老师管理、评审管理、评审分配管理、评审打分管理、赛事管理、赛事提交管理、赛事报名管理、用户管理、专家管理、管理员管理。用…

如何安装最新版Docker Compose?

Docker Compose 是一个用于定义和运行多容器 Docker 应用程序的工具。通过 Compose,您可以使用 YAML 文件来配置应用服务,然后只需一个简单的命令便能创建和启动所有服务。在本篇博客中,我们将详细介绍如何在 Linux 系统上安装 Docker Compos…

修改ETCD返回数据限额

问题 通过 get_prefix, get_range 等ETCD 接口查询大量数据时,报数据大小超过限额。 grpc_message:“Received message larger than max (5834875 vs. 4194304)” 原因 ETCD默认设置了4MB数据限额,如果返回的数据超过限额则会报错。 解决方法 解决方…

可以向同事炫耀的10个Python技巧

Python 是一种用途极为广泛的编程语言,有大量的库和框架为其提供支持。然而,在庞大的 Python 生态系统中,还存在一些鲜为人知的编码技巧和库,它们可以显著增强您的开发体验并优化您的代码。我们将探讨一些鲜为人知的 Python 技巧&…

0071__waitwaitpid函数详解

(4)wait&&waitpid函数详解_c语言 waitpid-CSDN博客

W801学习笔记十六:掌机系统——启动第一个应用

在开始游戏应用开发之前,我们先搞一个简单的应用,目的是把菜单操作与应用启动之间打磨平顺。 这里,我们做一个关于About页面即可。 1、菜单项JSON的定义: [{"t": "关于","i": "menu/test16…

与Apollo共创生态:七周年大会深有体会!

前言 百度从2013年开始涉足自动驾驶领域。2017年3月1日,百度通过内部邮件宣布,将现有业务和资源整合,成立智能驾驶事业群组(简称IDG)。同年,在上海车展上,百度发布了“Apollo计划”&#xff0c…

Git:克隆代码,提交流程,分支提交流程

1.克隆代码 git clone http://…(代码地址) 克隆代码到本地 2.提交流程(不牵涉分支) 1)git add . 将本地修改的文件暂存到缓存区 2)git commit -m "当次提交解释说明备注" 在日志中显示 3)git…

0426GoodsBiddingAJAX项目

0426GoodsBiddingAJAX项目包-CSDN博客 数据库字段 ​ 管理员的登录界面 ​ 登录成功跳转在线拍卖界面,使用监听器拦截请求,只能登录管理员后访问该界面 ​ 商品竞拍列表 ​ 商品竞拍列表的竞拍操作: ​ 1 用户未登录跳转用户登录界面&#x…

面向对象编程三大特征:封装、继承、多态

封装、继承、多态 1. 封装 1.1 介绍 封装(encapsulation)就是把抽象出的数据 [属性] 和对数据的操作 [方法] 封装在一起,数据被保护在内部,程序的其它部分只有通过被授权的操作 [方法] ,才能对数据进行操作。 1.2 封装的理解和好处 1) 隐藏实现细节:方法(连接数据库)<…