java中间件_90%的Java程序员,都扛不住这波消息中间件的面试四连炮!

概述

大家平时也有用到一些消息中间件(MQ),但是对其理解可能仅停留在会使用API能实现生产消息、消费消息就完事了。

对MQ更加深入的问题,可能很多人没怎么思考过。

比如,你跳槽面试时,如果面试官看到你简历上写了,熟练掌握消息中间件,那么很可能给你发起如下 4 个面试连环炮!

  • 为什么要使用MQ?
  • 使用了MQ之后有什么优缺点?
  • 怎么保证MQ消息不丢失?
  • 怎么保证MQ的高可用性?

本文将通过一些场景,配合着通俗易懂的语言和多张手绘彩图,讨论一下这些问题。

为什么要使用MQ?

相信大家也听过这样的一句话:好的架构不是设计出来的,是演进出来的

这句话在引入MQ的场景同样适用,使用MQ必定有其道理,是用来解决实际问题的。而不是看见别人用了,我也用着玩儿一下。

其实使用MQ的场景有挺多的,但是比较核心的有3个:

异步、解耦、削峰填谷

异步

我们通过实际案例说明:假设A系统接收一个请求,需要在自己本地写库执行SQL,然后需要调用BCD三个系统的接口。

假设自己本地写库要3ms,调用BCD三个系统分别要300ms、450ms、200ms。

那么最终请求总延时是3 + 300 + 450 + 200 = 953ms,接近1s,可能用户会感觉太慢了。

此时整个系统大概是这样的:

2bdc7e22ab13d1e7c1bc7aac6ce01c14.png

但是一旦使用了MQ之后,系统A只需要发送3条消息到MQ中的3个消息队列,然后就返回给用户了。

假设发送消息到MQ中耗时20ms,那么用户感知到这个接口的耗时仅仅是20 + 3 = 23ms,用户几乎无感知,倍儿爽!

此时整个系统结构大概是这样的:

792b35fbe1f800350bec2c52932e408a.png

可以看到,通过MQ的异步功能,可以大大提高接口的性能。

解耦

假设A系统在用户发生某个操作的时候,需要把用户提交的数据同时推送到B、C两个系统的时候。

这个时候负责A系统的哥们想:没事啊,B、C两个系统给我提供一个Http接口或者RPC接口,我把数据推送过去不就完事了吗。负责A系统的哥们美滋滋。

如下图所示:

eb90b2644cc3e2b51e5faff452b1a200.png

一切看起来很美好,但是随着业务快速迭代,这个时候系统D也想要这个数据。那既然这样,A系统的开发同学就改咯,在发送数据给BC的同时加上一个D。

但是,越到后面越发现,麻烦来了。。。

整个系统好像不止这个数据要发送给BCD、还有第二、第三个数据要发送给BCD。甚至有时候又加入了E、F等等系统,他们也要这个数据。

并且有时候可能B系统突然又不要这个数据了,A系统该来改去,A系统的开发哥们头皮发麻。

更复杂的场景是,数据通过接口传给其他系统有时候还要考虑重试、超时等一些异常情况,真是头发都白了呀。。。

来看下图,体会一下这无助的现场:

1c9fd4ddf7562b4f4e82c57fd82b45d0.png

这个时候,就该我们的MQ粉墨登场了!

这种情况下使用MQ来解耦是在合适不过了,因为负责A系统的哥们只需要把消息扔到MQ就行了,其他系统按需来订阅消息就好了。

就算某个系统不需要这个数据了,也不会需要A系统改动代码。

看看加入MQ解耦的下图,是不是清爽了很多!

08d306b905bfa06b8e140baf96d4b539.png

削峰填谷

举个例子,比如我们的订单系统,在下单的时候就会往数据库写数据。但是数据库只能支撑每秒1000左右的并发写入,并发量再高就容易宕机。

低峰期的时候并发也就100多个,但是在高峰期时候,并发量会突然激增到5000以上,这个时候数据库肯定死了。

如下图,来感受一下数据库被打死的绝望:

1c8a5c437195885309e4c06bdeb0a0c6.png

但是使用了MQ之后,情况就变了!

消息被MQ保存起来了,然后系统就可以按照自己的消费能力来消费,比如每秒1000个数据,这样慢慢写入数据库,这样就不会打死数据库了:

整个过程,如下图所示:

v2-713cea59c2fb2750e8b28fcea720e310_b.jpg

至于为什么叫做削峰填谷呢?来看看这个图:

51115ddf975a4a5dcdb1b26c42db4e5a.png

如果没有用MQ的情况下,并发量高峰期的时候是有一个“顶峰”的,然后高峰期过后又是一个低并发的“”。

但是使用了MQ之后,限制消费消息的速度为1000,但是这样一来,高峰期产生的数据势必会被积压在MQ中,高峰就被“削”掉了。

但是因为消息积压,在高峰期过后的一段时间内,消费消息的速度还是会维持在1000QPS,直到消费完积压的消息,这就叫做“填谷”

通过上面的分析,大家就可以知道为什么要使用MQ,以及使用了MQ有什么好处。知其所以然,明白了自己的系统为什么要使用MQ。

这样以后别人问你为啥要用MQ,就不会出现 “我们组长要用MQ我们就用了” 这样尴尬的回答了。

使用了MQ之后有什么优缺点?

看到这个问题蒙圈了,用了就用了嘛!优点上面已经说了,但是这个缺点是啥啊。好像没啥缺点啊。

如果你这样想,就大错特错了,在设计系统的过程中,除了要清楚的知道为什么要用这个东西,还要思考一下用了之后有什么坏处。这样才能心里有底,防范于未然。

接下来我们就讨论一下,用MQ会有什么缺点把?

系统可用性降低

大家想想一下,上面的说解耦的场景,本来A系统的哥们要把系统关键数据发送给BC系统的,现在突然加入了一个MQ了,现在BC系统接收数据要通过MQ来接收。

但是大家有没有考虑过一个问题,万一MQ挂了怎么办?这就引出一个问题,加入了MQ之后,系统的可用性是不是就降低了?

因为多了一个风险因素:MQ可能会挂掉。只要MQ挂了,数据没了,系统运行就不对了。

系统复杂度提高

本来我的系统通过接口调用一下就能完事的,但是加入一个MQ之后,需要考虑消息重复消费、消息丢失、甚至消息顺序性的问题

为了解决这些问题,又需要引入很多复杂的机制,这样一来是不是系统的复杂度提高了。

数据一致性问题

本来好好的,A系统调用BC系统接口,如果BC系统出错了,会抛出异常,返回给A系统让A系统知道,这样的话就可以做回滚操作了

但是使用了MQ之后,A系统发送完消息就完事了,认为成功了。而刚好C系统写数据库的时候失败了,但是A认为C已经成功了?这样一来数据就不一致了。

通过分析引入MQ的优缺点之后,就明白了使用MQ有很多优点,但是会发现它带来的缺点又会需要你做各种额外的系统设计来弥补

最后你可能会发现整个系统复杂了好几倍,所以设计系统的时候要基于这些考虑做出取舍,很多时候你会发现该用的还是要用的。。。

怎么保证MQ消息不丢失?

使用了MQ之后,还要关心消息丢失的问题。这里我们挑RabbitMQ来说明一下吧。

生产者弄丢了数据

RabbitMQ生产者将数据发送到rabbitmq的时候,可能数据在网络传输中搞丢了,这个时候RabbitMQ收不到消息,消息就丢了。

RabbitMQ提供了两种方式来解决这个问题:

事务方式:

在生产者发送消息之前,通过`channel.txSelect`开启一个事务,接着发送消息

如果消息没有成功被RabbitMQ接收到,生产者会收到异常,此时就可以进行事务回滚`channel.txRollback`然后重新发送。假如RabbitMQ收到了这个消息,就可以提交事务`channel.txCommit`。

但是这样一来,生产者的吞吐量和性能都会降低很多,现在一般不这么干。

另外一种方式就是通过confirm机制:

这个confirm模式是在生产者哪里设置的,就是每次写消息的时候会分配一个唯一的id,然后RabbitMQ收到之后会回传一个ack,告诉生产者这个消息ok了。

如果rabbitmq没有处理到这个消息,那么就回调一个nack的接口,这个时候生产者就可以重发。

事务机制和cnofirm机制最大的不同在于事务机制是同步的,提交一个事务之后会阻塞在那儿

但是confirm机制是异步的,发送一个消息之后就可以发送下一个消息,然后那个消息rabbitmq接收了之后会异步回调你一个接口通知你这个消息接收到了。

所以一般在生产者这块避免数据丢失,都是用confirm机制的

Rabbitmq弄丢了数据

RabbitMQ集群也会弄丢消息,这个问题在官方文档的教程中也提到过,就是说在消息发送到RabbitMQ之后,默认是没有落地磁盘的,万一RabbitMQ宕机了,这个时候消息就丢失了。

所以为了解决这个问题,RabbitMQ提供了一个持久化的机制,消息写入之后会持久化到磁盘

这样哪怕是宕机了,恢复之后也会自动恢复之前存储的数据,这样的机制可以确保消息不会丢失。

设置持久化有两个步骤:

  • 第一个是创建queue的时候将其设置为持久化的,这样就可以保证rabbitmq持久化queue的元数据,但是不会持久化queue里的数据
  • 第二个是发送消息的时候将消息的deliveryMode设置为2,就是将消息设置为持久化的,此时rabbitmq就会将消息持久化到磁盘上去。

但是这样一来可能会有人说:万一消息发送到RabbitMQ之后,还没来得及持久化到磁盘就挂掉了,数据也丢失了,怎么办?

对于这个问题,其实是配合上面的confirm机制一起来保证的,就是在消息持久化到磁盘之后才会给生产者发送ack消息。

万一真的遇到了那种极端的情况,生产者是可以感知到的,此时生产者可以通过重试发送消息给别的RabbitMQ节点

消费端弄丢了数据

RabbitMQ消费端弄丢了数据的情况是这样的:在消费消息的时候,刚拿到消息,结果进程挂了,这个时候RabbitMQ就会认为你已经消费成功了,这条数据就丢了。

对于这个问题,要先说明一下RabbitMQ消费消息的机制:在消费者收到消息的时候,会发送一个ack给RabbitMQ,告诉RabbitMQ这条消息被消费到了,这样RabbitMQ就会把消息删除。

但是默认情况下这个发送ack的操作是自动提交的,也就是说消费者一收到这个消息就会自动返回ack给RabbitMQ,所以会出现丢消息的问题。

所以针对这个问题的解决方案就是:关闭RabbitMQ消费者的自动提交ack,在消费者处理完这条消息之后再手动提交ack。

这样即使遇到了上面的情况,RabbitMQ也不会把这条消息删除,会在你程序重启之后,重新下发这条消息过来。

怎么保证MQ的高可用特性?

使用了MQ之后,我们肯定是希望MQ有高可用特性,因为不可能接受机器宕机了,就无法收发消息的情况。

这一块我们也是基于RabbitMQ这种经典的MQ来说明一下:

RabbitMQ是比较有代表性的,因为是基于主从做高可用性的,我们就以他为例子讲解第一种MQ的高可用性怎么实现。

rabbitmq有三种模式:单机模式,普通集群模式,镜像集群模式

单机模式

单机模式就是demo级别的,就是说只有一台机器部署了一个RabbitMQ程序。

这个会存在单点问题,宕机就玩完了,没什么高可用性可言。一般就是你本地启动了玩玩儿的,没人生产用单机模式。

普通集群模式

这个模式的意思就是在多台机器上启动多个rabbitmq实例。类似的master-slave模式一样。

但是创建的queue,只会放在一个master rabbtimq实例上,其他实例都同步那个接收消息的RabbitMQ元数据。

在消费消息的时候,如果你连接到的RabbitMQ实例不是存放Queue数据的实例,这个时候RabbitMQ就会从存放Queue数据的实例上拉去数据,然后返回给客户端。

总的来说,这种方式有点麻烦,没有做到真正的分布式,每次消费者连接一个实例后拉取数据,如果连接到不是存放queue数据的实例,这个时候会造成额外的性能开销。如果从放Queue的实例拉取,会导致单实例性能瓶颈。

如果放queue的实例宕机了,会导致其他实例无法拉取数据,这个集群都无法消费消息了,没有做到真正的高可用。

所以这个事儿就比较尴尬了,这就没有什么所谓的高可用性可言了,这方案主要是提高吞吐量的,就是说让集群中多个节点来服务某个queue的读写操作。

镜像集群模式

镜像集群模式才是真正的rabbitmq的高可用模式,跟普通集群模式不一样的是:创建的queue无论元数据还是queue里的消息都会存在于多个实例上,

每次写消息到queue的时候,都会自动把消息到多个实例的queue里进行消息同步。

这样的话任何一个机器宕机了别的实例都可以用提供服务,这样就做到了真正的高可用了。

但是也存在着不好之处:

  • 性能开销过高,消息需要同步所有机器,会导致网络带宽压力和消耗很重
  • 扩展性低:无法解决某个queue数据量特别大的情况,导致queue无法线性拓展。
    就算加了机器,那个机器也会包含queue的所有数据,queue的数据没有做到分布式存储。

对于RabbitMQ的高可用一般的做法都是开启镜像集群模式,这样起码来说做到了高可用,一个节点宕机了,其他节点可以继续提供服务。

总结

通过本篇文章,分析了对于MQ的一些常规问题:

  • 为什么使用MQ?
  • 使用MQ有什么优缺点
  • 如何保证消息不丢失?
  • 如何保证MQ高可用性?

但是,这些问题仅仅是使用MQ的其中一部分需要考虑的问题,事实上,还有其他更加复杂的问题需要我们去解决,

比如:如何保证消息的顺序性?消息队列如何选型?消息积压问题如何解决?

本文仅仅是针对RabbitMQ的场景举例子。还有其他比较的消息队列,比如RocketMQ、Kafka

不同的MQ在面临上述问题的时候,要根据他们的原理机制来做对应的处理,这些都是本文没有顾及的内容,将在后面的文章中讨论。敬请关注。

作者:石杉的架构笔记

链接:http://www.imooc.com/article/289028

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/370613.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

python 取array并集_Python内置数据结构原理与性能简易分析

ins ngladc文末左下方阅读原文指向了本人博客链接,不含广告。参考资料中的相关链接,可以在博客文章的最下方获取。推荐苹果手机用户使用浅色模式观看。前言 对于一些算法题,可以使用Python自带的内置函数解决。但很多时候用就用了&#xff0c…

ae合成复制脚本_稀缺资源—这几个AE脚本使用频率很高,赶紧收藏吧!

「第442期」毫无疑问,AE已经成为目前制作短视频比较主流的软件,效果的多样化深受很多创作者的喜爱。随着对软件的熟悉,越发觉得AE主要是基于多图层控制的软件。如果制作一些简单的效果,几个图层几个滤镜就可以搞定,但如…

程序员的幸福感和颈椎病

脖子一直疼! 去医院检查,拍片子的医生在造影室里冲我喊: “小伙子,你多大年纪啦?” 我说:“我三十来岁,咋啦” 医生说:“怎么这么年轻就得这种病啊!” 我当时腿就有点软&…

python实现词语相似度计算分析_相似度计算的方法及Python实现

现实生活中,我们经常提到距离这个词,本文谈的相似度就是基于距离定义的,当两个向量之间的距离特别小时,就说这俩个向量相似度高,反之相似度不高。所以,衡量相似度的指标就是距离度量。经常使用的相似度计算…

poll函数_I/O复用 - 三组I/O复用函数的比较

在之前的文章中 I/O复用 - epoll 和 I/O复用 - select&poll 中我们讨论了三组I/O复用的系统调用,这3组系统调用都能同时监听多个文件描述符。它们将等待由timeout参数指定的超时时间,直到一个或多个文件描述符上有事件发生时返回,返回值是…

css3画图那些事(三角形、圆形、梯形等)

闲来无事,写写图形。当时巩固一下css3吧.。前端小白,写的不好还请前辈多指教。 三角形 { width: 0;height: 0;border-bottom: 140px solid red ;border-right: 70px solid transparent;border-left: 70px solid transparent; } 圆形 {width: 0px;height…

docker 数据库 mysql_在Docker中体验数据库之MySql

在上一篇在Docker中体验数据库之Mongodb之后,这次记录一下在docker中安装mysql。过程要比Mongodb麻烦一点……参考网址:https://dev.mysql.com/doc/refman/5.7/en/linux-installation-docker.htmlhttps://hub.docker.com/r/mysql/mysql-server/安装过程如…

使用JMeter对异步HTTP / REST服务进行压力/负载测试

尽管我一直在使用JMeter进行Web应用程序的压力测试和负载测试好几次,但我们还是花了一些时间才弄清楚如何使用该工具测试基于异步HTTP / REST的服务。 在我们这里,我是指一名程序员, Holger Staudacher ,我很荣幸能与当前的一个项…

web前端学习之ruby标记和rt/rp标记

ruby 标记定义ruby注释(中文注音或字符)。ruby标记与rt标记一同使用。ruby标记由一个或多个字符(需要一个解释/发音)和一个提供该信息的rt 标记组成,还包括可选的rp标记,定义当浏览器不支持ruby 标记时显示…

作为一名程序员,聊聊我们的现状和未来

前言:互联网这个高速发展的新兴行业,注定是敢想敢干敢创新,耐劳耐操耐折腾年轻人的天下? 我们所在的互联网行业,不断地有新的公司冒出,有新的商业模式成形,有新的产品形态影响着大家的生活日常&…

ubuntu dhcp ping 不通 自己_??2、DHCP安装和配置

DHCP动态主机设置协议,是一个局域网的网络协议,使用UDP协议工作,可以快速分配IP地址,解决内网IP不足、手动配置IP造成IP冲突以及内网机器多手工配置比较麻烦的问题。1.把win2008和win2003设置同一网段,网络适配器—配置…

选择您的Java EE 6应用服务器

我被问到的第一个问题是:“我们应该使用哪个Java EE应用服务器?”。 随着Java EE 6的日益普及,新的兼容应用程序服务器获得了认证。 当前的官方兼容性和认证矩阵列出了针对完全配置文件,Web配置文件或两者认证的12种不同产品。 如…

HTML表格属性及简单实例

这里主要总结记录下表格的一些属性和简单的样式&#xff0c;方便以后不时之需。 1、<table> 用来定义HTML的表格&#xff0c;具有本地属性 border 表示边框&#xff0c;border属性的值必须为1或空字符串("")。该属性不会控制边框的样式&#xff0c;而是由CSS来…

linux mysql启动_MySQL 安装(二)

MySQL 安装所有平台的Mysql下载地址为&#xff1a;MySQL 下载 . 挑选你需要的 MySQL Community Server 版本及对应的平台。Linux/UNIX上安装MySQLLinux平台上推荐使用RPM包来安装MySQL&#xff0c;MySQL AB提供了以下RPM包的下载地址&#xff1a;MySQL - MySQL服务器。你需要该…

谁在偷你的记忆? 应用服务器版

您创建了一个了不起的应用程序。 您将其投入生产。 您会发现您没有足够的可用内存。 即使您的所有测量结果&#xff08;可能是借助我们的小型公用事业公司进行的测量 &#xff09;都表明您应该还不错。 我们计划发布一系列博客文章&#xff0c;研究堆消失的位置&#xff0c;并…

遗忘的html标签

1 <span>x</span><sup>2</sup><span> y10</span> 2 <br> 3 <span>H</span><sub>2</sub><span>O</span> <sup> 标签可定义上标文本。 包含在 <sup> 标签和其结束标签 …

mysql数据库索引页号为什么从3开始_MySQL数据库快问快答

原标题&#xff1a;MySQL数据库快问快答前言今天楼主给大家列一下关于数据库几个常见问题的要点&#xff0c;如果大家对其中的问题感兴趣&#xff0c;可以自行扩展研究。1. UNION ALL 与 UNION 的区别UNION和UNION ALL关键字都是将两个结果集合并为一个。UNION在进行表链接后会…

java arraylist排序_最全Java集合笔记

集合概述什么是集合集合框架&#xff1a;用于存储数据的容器。集合框架是为表示和操作集合而规定的一种统一的标准的体系结构。任何集合框架都包含三大块内容&#xff1a;对外的接口、接口的实现和对集合运算的算法。接口&#xff1a;表示集合的抽象数据类型。接口允许我们操作…

CachedIntrospectionResults 初始化

转载于:https://www.cnblogs.com/xiluhua/p/7862985.html

为什么有些内联(行内)元素可以设置宽高?

为什么有些内联&#xff08;行内&#xff09;元素如img、input可以设置宽高&#xff1f; 在说明之前我们先来了解一些定义。 块级元素和内联元素&#xff1a; ①块级元素总是独占一行&#xff0c;表现为另起一行开始&#xff0c;而且其后的元素也必须另起一行显示。 宽度(w…