1、微服务
微服务架构风格,就像是把一个单独的应用程序开发为一套小服务,每个服务运行在自己的进程中,并使用轻量级机制通信,通常是 HTTP API。这些服务围绕业务能力来构建,并通过完全自动化部署机制来独立部署。这些服务使用不同的编程语言书写,以及不同数据存储技术,并保持最低限度的集中式管理。
简而言之:拒绝大型单体应用,基于业务边界进行服务拆分,各个服务独立部署运行。
2、集群&分布式&节点
《分布式系统原理与范型》定义:分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统。分布式系统是建立在网络之上的软件系统。
分布式是指将不同的业务分布在不同的地方,集群是指将几台服务器集中在一起实现同一业务,节点是指集群中一个服务器。
例如:京东是一个分布式系统,众多业务运行在不同的机器,所有的业务构成一个大型的业务集群。每一个小的业务,比如订单系统访问压力大的时候,一台服务器是不够的,我们应该将订单系统部署到多个服务器,也就是每一个业务系统也可以做集群化。
总结:集群是个物理形态,分布式是个工作方式,分布式中每一个节点都可以做集群,而集群并不一定就是分布式的。 只要是一堆机器就可以集群,他们是不是一起协作干活,这个谁也不知道。
3、远程调用
在分布式系统中,各个服务可能处于不同主机,但是服务之间不可避免的需要互相调用,我们称之为远程调用。
SpringCloud 中使用 HTTP+JSON 的方式完成远程调用。
4、负载均衡
分布式系统中 A 服务需要调用 B 服务,B 服务在多台机器都存在,A 调用任意一个服务器均可完成功能。为了使每一台服务器都不要太忙或者太闲,我们可以负载均衡的调用每一台服务器,提升网站的健壮性。
常见负载均衡算法
- 随机:任意选择健康池的一台服务器。
- 轮询:为第一个请求选择健康池的第一台服务器,然后按顺序往后依次选择,直到最后一台,以此循环。
- 加权轮询:根据平均响应时间计算所有服务权重,响应时间越快的服务权重越大被选中概率越高。刚启动时如果统计信息不足,则使用 轮询 策略,等统计信息足够,切换到 加权轮询。
- 最小连接:优先选择连接次数最少,也就是压力最小的服务器,在会话较长的情况下可以考虑采用这种方式。
- 散列:根据请求源的 IP 散列(hash)来选择要转发的服务器。这种方式可以一定程度上保证特定用户能连接到相同的服务器。如果应用需要处理状态而要求用户能连接到之前相同的服务器,可以考虑采用这种方式。
5、服务注册/发现&注册中心&配置中心
- 注册中心
A 服务调用 B 服务,A 服务并不知道 B 服务当前在哪几台服务器有,哪些是正常的,哪些是已下线的。解决这个问题可以引入注册中心,实时感知其它服务的状态,从而避免调用不可用的服务。
- 配置中心
每一个服务最终都有大量的配置,并且每个服务都可能部署在多台机器上,我们经常需要变更配置,我们可以让每个服务在配置中心获取自己的配置。
6、服务熔断&降级&限流
在微服务架构中,微服务之间通过网络进行通信,存在相互依赖,当其中一个服务不可用时,有可能造成雪崩效应。要防止这样的情况,必须要有容错机制来保护服务。
- 熔断:设置服务的超时,当被调用的服务经常失败到达某个阈值,我们可以开启断路保护机制,后来的请求不再去调用这个服务,直接返回默认数据。
- 降级:在运维期间,当系统处于高峰期,系统资源紧张,我们可以让非核心业务降级运行。即某些服务不处理或者简单处理(抛异常、返回null、调用mock数据、调用FallBack处理逻辑)。
- 限流:对进入服务的请求流量进行控制,使服务能够承担不超过自己的流量压力。
总结:为了保证集群大部分服务的可用性和可靠性,防止崩溃,牺牲小我,用户最终都是体验到某个功能不可用。熔断是被调用方故障,触发的系统主动规则,降级是基于全局考虑,停止一些正常的服务,释放资源。
7、API 网关
在微服务架构中,API 网关作为重要的组件,它抽象了微服务中都需要的公共功能,同时提供了客户端负载均衡、服务自动熔断、灰度发布、统一认证、限流流控、日志统计等丰富的功能,帮助我们解决很多 API 管理难题。