程序员过关斩将--为微服务撸一个简约而不简单的配置中心

点击上方蓝字  关注我们

毫不犹豫的说,现代高速发展的互联网造就了一批又一批的网络红人,这一批批网红又极大的催生了特定平台的一大波流量,但是留给了程序员却是一地鸡毛,无论是运维还是开发,每天都会担心服务器崩溃,程序down机。还是怀念以前那些单机结构呀,甚至有点嫉妒那些做内网几乎没有访问量的应用的程序员,不用加班,不用提心吊胆,更不用每年买霸王洗发露。

  

提到单机架构,在互联网应用中肯定是吃不开的,流量高峰冲击的你可以怀疑人生。单机升级集群,带来的不止是技术上的挑战,在顶住流量高峰,迎合业务的同时,也引入了配置的复杂性。这也是我今天要谈的主题:配置管理。在单机时代,无论是什么语言,java也好,c#也罢,一个配置文件足以。随着所谓微服务这个看似能解决一切问题的方案诞生,同时也引入了更加复杂的配置问题:服务的信息,服务的各种参数,配置更新问题等。可想而知,假如你的服务有100台服务器,修改一个配置项,利用单体架构逐个更新的方式是一个多么蛋疼的事情,传统的配置文件方式已经无法满足开发人员对于配置管理的要求:

  1. 安全性。配置信息如果随代码一起发布,容易造成配置泄露。

  2. 实时性。修改配置,传统的单机架构必须重启服务才能生效。

  3. 局限性。无法支持动态调整,像最普通的日志开关功能,也不能做到。

  4. 环境区分。传统的配置文件方式,很难区分生产,开发,测试环境。

  5. 配置修改记录问题。静态配置文件方式,很难追踪这个配置文件的修改记录。

针对以上问题,有的公司采用数据库记录配置来解决问题,不是说不可以,只不过数据库并不能解决根本性问题,举个很简单的例子:有最新的记录修改,客户端怎么能实时得到通知呢?虽然可以利用其他方案来解决,但是基于数据库方式并非是最优的。

  

配置中心无论是采用数据库方式也好,还是采用其他方式也罢,最本质的出发点还是要看业务具体需求和相应的可以投入的人力物力。不是说像携程的apollo不好,而是说这样一套庞大的配置系统是否适用于你的公司,是否适用于你的业务。在很多情况下,公司的业务发展在一定阶段讲究的是短平快,没有必要也没有时间去投入精力去深研究一套庞大的系统,在业务慢慢发展起来之后可以慢慢迭代,这才是系统架构升级的过程,那些业务之初就要建立淘宝级架构的,最终会落得人人疲惫。

说了这么多,我就是想撸一套简约的,可落地的配置中心,要保证配置中心能正常工作,有几点是在设计之初要考虑的:

需要一个可靠的,强一致性的存储来支撑

在经过了多次技术调研之后,我最终选择了ETCD,并非因为我喜欢最求热点,而是ETCD在应对场景,功能上恰好对应我的需求,

etcd是CoreOS团队于2013年6月发起的开源项目,它的目标是构建一个高可用的分布式键值(key-value)数据库。etcd内部采用raft协议作为一致性算法,etcd基于Go语言实现。

  1. 简单:安装配置简单,而且提供了HTTP API进行交互,使用也很简单

  2. 安全:支持SSL证书验证

  3. 快速:根据官方提供的benchmark数据,单实例支持每秒2k+读操作

  4. 可靠:采用raft算法,实现分布式系统数据的可用性和一致性

  5. Watch机制:ETCD支持针对某个Key或者某组Key的Watch机制,一旦有数据发生变化,会实时通知Client。

需要支持多环境的配置

虽然很多存储的显示参数都没有环境这样的参数,但是都提供了类似目录存储这样的功能,就像windows的文件目录一样,这就为我们自定义功能提供了很强的应变能力,例如,我们存储A应用开发环境可以是这样的:/A/DEV/ ,这个目录就代表了A应用的开发环境配置。

配置项发生变化,需要实时通知客户端

基于第一点选择的ETCD天生就支持Watch机制,所以配置项发生变化实时通知客户端这点是很好做到的,就算了通知失败,我们也可以自定义时间来延迟更新配置。稍后请看以下代码。

使用要简单

对于使用者来说,配置中心提供的业务接口最终只有:获取某个key的配置,这里的key可以是应用+环境等参数的合集。为了辅助跟踪,可以暴露出程序异常时候的处理事件,就像以下程序:

 /// <summary>/// 配置中心客户端,应用,子应用,环境、版本、灰度、/// </summary>public interface IConfigCenterClient{/// <summary>/// 配置信息发生变化时候的事件,参数:key/new value /动作(put /delete), 是etcd /consul watch的事件。每个key 的value发生变化都会触发,每个key会触发一条/// </summary>event Action<string, string, string> ConfigValueChangedEvent;/// <summary>/// 发生异常时候的事件/// </summary>event Action<Exception> ErrorOccurredEvent;/// <summary>/// 获取相应的配置/// </summary>/// <param name="configKey">配置的名称</param>/// <param name="version">版本号</param>/// <returns></returns>string GetConfig(string configKey);}

抽象出这个操作接口之后,至于具体怎么样实现,可以是基于ETCD,可以是基于Consul,甚至可以基于DB,可见面向接口编程是多么的正确。

在网络故障等情况下需要能继续工作

在互联网应用中,始终存在一个真理:网络是不可靠的。配置中心作为公司的一个核心系统来说,要尽可能的保证能提供服务。但是,也要做好了预防措施,以防在配置中心短暂不可用的期间,不影响适用方。对于使用client端来说,既然服务端保证不了高可用,那就需要在本地动手脚:可以把获取到的配置信息在本地做存储,信息并随着watch机制做持久化。这样在配置中心网络不可用的情况下,尽量保证客户端程序可用。至于本地存储的方式,无所谓了,就算了文本文件,还是sqllite都可以。

性能要高

配置中心最显著的一个业务特点是变化不频繁,但是客户端使用频繁。所以我们可以把配置信息加载在内存中,内存中的数据随着watch机制改变而改变,这样就做到了内存数据和服务端数据高度一致。

以上啰嗦了那么多,相信你们也看累了,空谈理论谁都会,落地代码才是真理。

客户端配置中心接口
 /// <summary>/// 配置中心客户端,应用,子应用,环境、版本、灰度、/// </summary>public interface IConfigCenterClient{/// <summary>/// 配置信息发生变化时候的事件,参数:key/new value /动作(put /delete), 是etcd /consul watch的事件。每个key 的value发生变化都会触发,每个key会触发一条/// </summary>event Action<string, string, string> ConfigValueChangedEvent;/// <summary>/// 发生异常时候的事件/// </summary>event Action<Exception> ErrorOccurredEvent;/// <summary>/// 获取相应的配置/// </summary>/// <param name="configKey">配置的名称</param>/// <param name="version">版本号</param>/// <returns></returns>string GetConfig(string configKey);}/// <summary>/// 环境的定义/// </summary>public enum EnvEnum{/// <summary>/// 本地环境/// </summary>Local=1,/// <summary>/// 开发环境/// </summary>DEV,/// <summary>/// 仿真环境/// </summary>UAT,/// <summary>/// 生产环境/// </summary>PRO}public class ConfigCenterETCDProvider : ConfigCenterBaseProvider, IConfigCenterClient{//配置发生改变的通知事件public event Action<string, string, string> ConfigValueChangedEvent;//有异常发生的时候的事件public override event Action<Exception> ErrorOccurredEvent;//etcd的配置private ConfigCenterETCDOption option { get; set; }private EtcdClient client = null;internal ConfigCenterETCDProvider(ConfigCenterBaseOption _option) : base(_option){if (_option == null){throw new Exception("config is null!");}option = _option as ConfigCenterETCDOption;if (option == null){throw new Exception("option type is wrong!");}if (string.IsNullOrWhiteSpace(option.ConnectionString)){//默认地址option.ConnectionString = "http://127.0.0.1";}client = new EtcdClient(option.ConnectionString, option.Port, option.Username, option.Password, option.CaCert, option.ClientCert, option.ClientKey, option.PublicRootCa);client.WatchRange(WatchPath, ETCDWatchEvent, exceptionHandler: e =>{ErrorOccurredEvent?.Invoke(e);Thread.Sleep(1000);});//读取本地文件只初始化读取一次InitConfigMapFromLocal();}#region 实现的接口方法//设置某个配置的值public bool SetConfig(string configKey, string configValue){string key = FillConfigKey(configKey);try{var putRet = client.Put(key, configValue);}catch (Exception e){ErrorOccurredEvent?.Invoke(e);return false;}return true;}//删除某个配置的值public bool DeleteConfig(string configKey){string key = FillConfigKey(configKey);try{client.Delete(key);}catch (Exception e){ErrorOccurredEvent?.Invoke(e);return false;}return true;}#endregion#region 基类 方法//etcd 组织keyprotected override string FillConfigKey(string configKey){return $"{WatchPath}/{configKey}";}//etcd 获取远程keyprotected override (bool isSuccess, string value) GetValueFromServer(string configKey){try{var value = client.GetVal(configKey);return (true, value);}catch (Exception e){ErrorOccurredEvent?.Invoke(e);return (false, null);}}#endregion#region 私有方法//监控value 变化的事件private void ETCDWatchEvent(WatchEvent[] response){lock (ConfigCenterBaseProvider.ObjLock){foreach (WatchEvent e in response){if (e.Type == Mvccpb.Event.Types.EventType.Delete){if (ConfigMap.ContainsKey(e.Key)){ConfigMap.Remove(e.Key);}}else{ConfigMap[e.Key] = e.Value;}Console.WriteLine(JsonConvert.SerializeObject(ConfigMap));if (ConfigValueChangedEvent != null){ConfigValueChangedEvent.Invoke(e.Key, e.Value, e.Type.ToString());}}if (response != null && response.Any()){//把最新的值写会本地文件FlushLocalFileFromMap();}}}#endregion}

鉴于代码有点多,这里不再贴出,有兴趣的小伙伴,可以添加菜菜微信或者公众号"架构师修行之路"回复“配置中心”,基于ETCD完整的简约版配置中心全部代码奉上,最后来看张测试的图

●程序员修神之路--为什么我会了SOA,你们还要逼我学微服务?

●程序员过关斩将--数据库的乐观锁和悲观锁并非真实的锁

●程序员修神之路--设计一套RPC框架并非易事

●程序员过关斩将--要想获取我的用户信息,就得按照规矩来

●程序员过关斩将--更加优雅的Token认证方式JWT

●程序员过关斩将--cookie和session的关系其实很简单

●程序员修神之路--用NOSql给高并发系统加速

●程序员修神之路--高并发系统设计负载均衡架构

●程序员过关斩将--你为什么还在用存储过程?

●程序员修神之路--问世间异步为何物?

●程序员修神之路--提高网站的吞吐

长按添加菜菜好友

关注后回复:“大礼包”和“福利”,领取惊喜

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/309622.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Just a Hook HDU - 1698(查询区间求和+最基础模板)

题意&#xff1a; 给你一个1~n的区间&#xff0c;起始区间内均为1&#xff0c;然后对子区间进行值更新&#xff0c;最后求区间和。 题目&#xff1a; In the game of DotA, Pudge’s meat hook is actually the most horrible thing for most of the heroes. The hook is ma…

DDIA笔记——数据复制

Table of Contents generated with DocToc 此篇为《数据密集型应用系统设计》&#xff08;DDIA&#xff09;读书笔记&#xff0c;笔记可能存在遗漏&#xff0c;建议直接阅读原书。 第五章 数据复制 主从复制 复制滞后复制滞后带来的问题 多主节点复制 适用场景处理写冲突拓扑结…

基于 abp vNext 和 .NET Core 开发博客项目 - 集成Hangfire实现定时任务处理

上一篇文章成功使用了Redis缓存数据&#xff0c;大大提高博客的响应性能。接下来&#xff0c;将完成一个任务调度中心&#xff0c;关于定时任务有多种处理方式&#xff0c;如果你的需求比较简单&#xff0c;比如就是单纯的过多少时间循环执行某个操作&#xff0c;可以直接使用.…

Docker基本组成 和 基本命令

此篇为Docker笔记&#xff0c;文章可能存在疏忽&#xff0c;建议直接观看原视频。 视频地址&#xff1a;https://www.bilibili.com/video/BV1og4y1q7M4?spm_id_from333.999.0.0 Docker基本组成 和 基本命令 镜像 image&#xff1a;就好比一个模板&#xff0c;可以通过这个模板…

Docker镜像讲解

此篇为Docker笔记&#xff0c;文章可能存在疏忽&#xff0c;建议直接观看原视频。 视频地址&#xff1a;https://www.bilibili.com/video/BV1og4y1q7M4?spm_id_from333.999.0.0 参考&#xff1a;https://blog.csdn.net/11b202/article/details/21389067 Docker镜像讲解 镜像是…

Making the Grade POJ - 3666(离散化+dp)

题意&#xff1a; 给你n个山的高度&#xff0c;单独的一个数可以任意加减&#xff0c;让经过对每座山峰任意加减高度后变成递增或递减的序列时&#xff0c;求对每个数的相加或相减的数目的最小和。 题目&#xff1a; A straight dirt road connects two fields on FJ’s far…

Kubernetes的安全性怎么解?从4个方面为你列出方案清单

导语Kubernetes中的安全性是一个多维问题&#xff0c;必须从各个不同的角度来解决才算完善&#xff0c;这篇文章将从4个方面为读者列出安全清单。正文Kubernetes&#xff0c;经过更快的采用和社区的更多贡献&#xff0c;正日益攀登到新的高度。不过&#xff0c;安全性仍然是Kub…

DDIA笔记—第六章 数据分区

第六章 数据分区 数据分区与数据复制 分区通常与复制结合使用&#xff0c;即每个分区在多个节点都存在副本&#xff0c;这就意味着某条记录属于特定的分区&#xff0c;而同样的内容会保存在不同的节点上以提高系统的容错性。 每个节点同时充当某些分区的主副本和其他分区的从…

Magicodes.IE 2.2发布

Magicodes.IE 2.2发布导入导出通用库&#xff0c;支持DTO导入导出以及动态导出&#xff0c;支持Excel、Word、PDF、CSV和HTML。已加入ncc开源组织.Magicodes.IE2.0发布Magicodes.IE2.1发布如何做好一个开源项目(一)GitHub&#xff1a;https://github.com/dotnetcore/Magicodes.…

C++ 基类,子对象,派生类构造函数调用顺序

#include <iostream> using namespace std;class A {public:A( ) {cout << "A Constructor………" << endl;}~A( ) {cout << "A Destructor………" << endl;} };class B: public A {public:B( ) {cout << "B …

C++ 虚析构函数

代码如下: #include <iostream> using namespace std;class Base {public:Base() {cout << "Base" << endl;}~Base() {cout << "Base destructor" << endl;} };class Derived : public Base {public:Derived() {cout <&…

I - Interesting Permutation Gym - 102394I(排列组合)

题意&#xff1a; 纯数题 1≤i≤n, fimax{a1,a2,…,ai}; 1≤i≤n, gimin{a1,a2,…,ai}; 1≤i≤n, hifi−gi. 数列a是一个排列&#xff0c;问多少种排列方式满足h数列。 题目&#xff1a; DreamGrid has an interesting permutation of 1,2,…,n denoted by a1,a2,…,an. He …

Magicodes.SwaggerUI 已支持.NET Core 3.1

Magicodes.SwaggerUI 通过配置文件简单配置即可快速完成SwaggerUI的配置&#xff0c;包括&#xff1a;SwaggerUI的文档信息API分组API隐藏API JSON生成&#xff08;枚举、API架构Id&#xff09;验证自定义页面支持.NET Core 2.2和3.1。版本日志和使用教程见下文。注意&#xff…

[推荐]大量 Blazor 学习资源(二)

继上一篇《[推荐]大量 Blazor 学习资源&#xff08;一&#xff09;》之后&#xff0c;社区反应不错&#xff0c;但因个人原因导致这篇文章姗姗来迟&#xff0c;不过最终还是来了&#xff01;这篇文章主要收集一些常用组件、书籍和电子书。资料来源&#xff1a;https://github.c…

Sql Server之旅——第八站 看公司这些DBA们设计的这些复合索引

这一篇再说下索引的最后一个主题&#xff0c;索引覆盖&#xff0c;当然学习比较好的捷径是看看那些大师们设计的索引&#xff0c;看从中能提取些什么营养的东西&#xff0c;下面我们看看数据库中一个核心的Orders表。一&#xff1a;查看表的架构1. 先查看这个表的大概架构信息-…

C++ setprecision()用法

io 流控制头文件, 主要是一些操纵用法如setw(int n),setprecision(int n) #include < iomanip > setw(n)用法&#xff1a; 通俗地讲就是预设宽度 #include<iostream> #include <iomanip> using namespace std;int main() {cout << setw(5) <<…

备战ccpc分站赛:秦皇岛和威海站(数论模块和dp模块)

挑战程序设计竞赛&#xff08;第2版&#xff09;练习题 tips&#xff1a;难度&#xff08;个人主观判断&#xff09;&#xff1a; 简单* 简单但卡思维 ** 中 *** 中稍加思考 **** 难 ***** 1 . 记录结果再利用的“动态规划” &#xff08;1&#xff09;基础的动态规划算法&am…