穿透 雪崩 击穿

一、redis的三大缓存问题

正常情况下,大部分的访问请求应该是先被redis响应的,在redis那里得不到响应的小部分访问请

求才会去请求MySQL数据库获取数据,这样MySQL数据库的负载压力是非常小的,且可以正常工

缓存雪崩/穿透/击穿三大问题的根本原因:

在于redis缓存命中率下降,大量请求会直接发送给MySQL数据库,导致MySQL数据库压力过大而

崩溃。

1 redis的三大缓存问题:

缓存雪崩:redis中大量缓存key集体过期

缓存穿透:大量请求访问redis和MySQL都不存在的资源

缓存击穿:redis中一个热点key过期,此时又有大量用户访问这个热点key(redis-cli --hotkeys 可

用于查找热Key)

2 缓存穿透

缓存穿透是指缓存和数据库中都没有的数据,而用户不断发起请求,导致请求直接落到数据库上。

业务系统要查询的数据根本就存在!当业务系统发起查询时,按照上述流程,首先会前往缓存中查

询,由于缓存中不存在,然后再前往数据库中查询。

由于该数据压根就不存在,因此数据库也返回空。这就是缓存穿透。

综上所述:业务系统访问压根就不存在的数据,就称为缓存穿透

① 问题描述  

 key 对应的数据在数据源并不存在,每次针对此 key 的请求从缓存获取不到,请求都会压到数据

源(数据库),从而可能压垮数据源。比如用一个不存在的用户 id 获取用户信息,不论缓存还是

数据库都没有,若黑客利用此漏洞进行攻击可能压垮数据库。

(你要知道,目前业务系统中最脆弱的就是IO,稍微来点压力它就会崩溃,所以我们要想种种办法

保护它)

②缓存穿透发生的条件

应用服务器压力变大

redis 命中率降低

一直查询数据库,使得数据库压力太大而压垮

其实 redis 在这个过程中一直平稳运行,崩溃的是我们的数据库(如 MySQL)。

③缓存穿透发生的原因

黑客或者其他非正常用户频繁进行很多非正常的 url 访问,使得 redis 查询不到数据库。

发生缓存穿透的原因有很多,一般为如下两种:

恶意攻击,故意营造大量不存在的数据请求我们的服务,由于缓存中并不存在这些数据,因此海量

请求均落在数据库中,从而可能会导致数据库崩溃。

代码逻辑错误。这是程序员的锅,没啥好讲的,开发中一定要避免!

④解决方案

对空值缓存:如果一个查询返回的数据为空(不管是数据是否不存在),我们仍然把这个空结果

(null)进行缓存,设置空结果的过期时间会很短,最长不超过五分钟。

设置可访问的名单(白名单):使用 bitmaps 类型定义一个可以访问的名单,名单 id 作为

bitmaps 的偏移量,每次访问和 bitmap 里面的 id 进行比较,如果访问 id 不在 bitmaps 里面,进行

拦截,不允许访问。

采用布隆过滤器:布隆过滤器(Bloom Filter)是 1970 年由布隆提出的。它实际上是一个很长的二

进制向量 (位图) 和一系列随机映射函数(哈希函数)。布隆过滤器可以用于检索一个元素是否在

一个集合中。它的优点是空间效率和查询时间都远远超过一般的算法,缺点是有一定的误识别率和

删除困难。

进行实时监控:当发现 Redis 的命中率开始急速降低,需要排查访问对象和访问的数据,和运维人

员配合,可以设置黑名单限制服务。


缓存穿透的解决方案:
  • 对空值也进行缓存
  • 使用布隆过滤器进行判断拦截一定不存在的无效请求
  • 使用脚本实时监控,进行黑名单限制

3 缓存雪崩

缓存雪崩是指缓存中的大量数据同时失效或过期,导致请求直接击穿到数据库,导致数据库压力过

大而崩溃。

缓存雪崩指在一个高并发的系统中,由于大量的缓存数据在同一时间段内过期或失效,导致大量请

求无法从缓存中获取数据,因此大量并发请求可能导致数据库服务器过载,甚至宕机,从而引发整

个系统崩溃。

缓存其实扮演了一个保护数据库的角色。

它帮数据库抵挡大量的查询请求,从而避免脆弱的数据库受到伤害。

如果缓存因某种原因发生了宕机,那么原本被缓存抵挡的海量查询请求就一起一窝蜂的一样涌向数据库。此时数据库如果抵挡不了这巨大的压力,它就会崩溃。

这就是缓存雪崩。

①问题描述

key 对应的数据存在,但在 redis 中过期,此时若有大量并发请求过来,这些请求发现缓存过期一

般都会从后端数据库加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端数据库压

垮。

   缓存雪崩与缓存击穿的区别在于这里针对很多 key 缓存,前者则是某一个 key 正常访问。

②解决缓存雪崩问题的方法有:

构建多级缓存架构:nginx 缓存 + redis 缓存 + 其他缓存(ehcache 等)。

使用锁或队列:用加锁或者队列的方式来保证不会有大量的线程对数据库一次性进行读写,从而避

免失效时大量的并发请求落到底层存储系统上,该方法不适用高并发情况。

设置过期标志更新缓存:记录缓存数据是否过期(设置提前量),如果过期会触发通知另外的线程

在后台去更新实际 key 的缓存。

将缓存失效时间分散开:比如可以在原有的失效时间基础上增加一个随机值,比如 1-5 分钟随机,

这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。

设置缓存失效时间时,可以采用随机时间,避免大量缓存在同一时间失效。

使用分布式缓存,将缓存分散在多台服务器上,当某台服务器出现问题时,仍有其他服务器提供缓

存服务。

使用热点数据永远不过期策略,将热点数据的失效时间设置为永不过期或设置合理的过期时间。

缓存雪崩的解决方案:

使用随机数设置key的过期时间,防止集体过期

设置缓存标记,如果缓存过期,则自动更新缓存

数据库使用排他锁,实现加锁等待

3、缓存击穿 (热点数据集中失效)

①问题描述

   key 对应的数据存在,但在 redis 中过期,此时若有大量并发请求过来,这些请求发现缓存过期

一般都会从后端数据库加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端数据库压垮。

②缓存击穿的现象

数据库访问压力瞬时增加,数据库崩溃

redis 里面没有出现大量 key 过期

redis 正常运行

③缓存击穿发生的原因

redis 某个 key 过期了,大量访问使用这个 key(热门 key)。

④解决方案

 key 可能会在某些时间点被超高并发地访问,是一种非常 “热点” 的数据。

预先设置热门数据:在 redis 高峰访问之前,把一些热门数据提前存入到 redis 里面,加大这些热

门数据 key 的时长。

实时调整:现场监控哪些数据热门,实时调整 key 的过期时长。

使用锁:就是在缓存失效的时候(判断拿出来的值为空),不是立即去 load db。先使用缓存工具

的某些带成功操作返回值的操作(比如 Redis 的 SETNX)去 set 一个 mutex key。当操作返回成

功时,再进行 load db 的操作,并回设缓存,最后删除 mutex key;当操作返回失败,证明有线程

在 load db,当前线程睡眠一段时间再重试整个 get 缓存的方法。

缓存击穿的解决方案:
  • 预先对热点数据进行缓存预热
  • 监控数据,实时调整过期时长
  • 数据库使用排他锁,实现加锁等待

穿透

指的是针对不存在于缓存中的数据进行大量请求,导致这些请求直接访问数据库。这可能是因为恶意请求或者查询不存在的键导致的。

击穿

发生在某个热点数据过期后,此时有大量并发请求同时访问该热点数据,导致大量请求直接访问数据库。

雪崩

指的是缓存中大量的数据同时失效,导致大量请求直接访问数据库,造成数据库负载剧增

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/792130.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Linux中的conntrack命令深入解析

在Linux网络管理和监控领域,conntrack命令是一个强大的工具,它提供了对netfilter连接跟踪系统的直接访问🔍。这篇文章将深入探讨conntrack的由来、底层原理、参数意义,以及其常见用法,并对返回结果的每个字段进行详细解…

C/C++程序的(编译,链接)翻译与运行

目录 前言: 1.程序环境 2.翻译环境 3.预处理(预编译) 4.编译 5.汇编 6.链接 7.运行环境 总结: 前言: 本篇来解释c/c程序的翻译环境与运行环境中的过程,不同的编程语言的翻译环境类似,…

Transformers in Vision:A Survey 阅读笔记

ACM上的一篇综述,讨论Transformer在CV上的应用。 摘要: Among their salient benefits,Transformers enable modeling long dependencies between inputsequence elements and support parallel processing of sequence as compared to recurrent networ…

信息传播的AI时代:机器学习赋能新闻出版业的数字化之旅

🧑 作者简介:阿里巴巴嵌入式技术专家,深耕嵌入式人工智能领域,具备多年的嵌入式硬件产品研发管理经验。 📒 博客介绍:分享嵌入式开发领域的相关知识、经验、思考和感悟,欢迎关注。提供嵌入式方向的学习指导…

leetcode90. 子集 II

去重逻辑: 关键是画出递归树!当我们即将进入第二个2的递归的时候,发现isVisit数组是100,也就是说这俩重复的数是False,并且这俩在nums值相同,所以写出去重逻辑! class Solution { public:vector…

leetcode代码记录(打家劫舍 II

目录 1. 题目:2. 我的代码:小结: 1. 题目: 一个专业的小偷,计划偷窃一个环形街道上沿街的房屋,每间房内都藏有一定的现金。这个地方所有的房屋都 围成一圈 ,这意味着第一个房屋和最后一个房屋是…

【随笔】Git -- 高级命令(上篇)(六)

💌 所属专栏:【Git】 😀 作  者:我是夜阑的狗🐶 🚀 个人简介:一个正在努力学技术的CV工程师,专注基础和实战分享 ,欢迎咨询! 💖 欢迎大…

【面试八股总结】超文本传输协议HTTP(二)

参考资料 :小林Coding、阿秀、代码随想录 一、HTTP缓存技术 将资源(如网页、图像、脚本等)的副本存储在客户端或中间代理服务器上,以便将来的请求可以直接从缓存中获取,而不必重新从服务器下载资源。这有助于减少网…

二维码:技术、商业与未来

title: 二维码:技术、商业与未来 date: 2024/4/3 19:12:28 updated: 2024/4/3 19:12:28 tags: 二维码技术商业应用移动支付物联网AR/VR融合智能家居数字化社会 第一章:引言 1. 二维码在数字化时代的重要性和普及程度 在数字化时代,二维码作…

JVM之常用监控工具

JVM之常用监控工具 jps jinfo 获取配置信息 基本语法 jinfo [options] <pid>常用选项 -sysprops&#xff1a;显示JVM进程的系统属性。-flags&#xff1a;显示用于启动JVM的命令行标志和VM选项。-flag <name>&#xff1a;显示指定JVM标志的当前值。-flag [|-]&…

Windows10安装CloudCompare(图文安装)

CloudCompare是一个3D点云&#xff08;和三角网格&#xff09;处理软件。它最初被设计用于在两个密集的3D点云&#xff08;例如用激光扫描仪获取的点云&#xff09;之间或点云和三角形网格之间进行比较。它依赖于专用于此任务的特定八叉树结构。 之后&#xff0c;它已经扩展到一…

[实验报告]--基于端口安全

[实验报告] 目录 [实验报告] 一、项目背景 二、实验环境 三、项目规划设计 四、项目实施 五、验证项目成果 基于端口安全的 Jan16 公司网络组建 一、项目背景 Jan16 公司开发部为重要部门&#xff0c;所有员工使用指定的计算机工作&#xff0c;为防止员工或访客使 用个…

java中Date类,SimpleDateFormat类和Calendar类

Date类 public Date() 创建一个Date对象&#xff0c;代表的是系统当前此刻的日期时间 public Date(long date) Constructs a Date object using the given milliseconds time value. 把时间毫秒值转变成Date日期对象 public void setTime(long date) Sets an existing Date ob…

深度解析大语言模型中的词向量

在学习完语言模型中的编码器与解码器知识后&#xff0c;让我们继续深入学习大语言模型中一个非常关键的技术&#xff1a;词向量表示&#xff0c;以及如何通过Transformer模型实现对next token的预测。 1、词向量 要了解语言模型的工作原理&#xff0c;首先需要了解它们如何表示…

C#.net6.0手术麻醉信息管理系统源码,智慧手术室管理平台源码

手术麻醉信息管理系统源码&#xff0c;自主版权的手麻系统源码 手术麻醉信息管理系统包含了患者从预约申请手术到术前、术中、术后的流程控制。手术麻醉信息管理系统主要是由监护设备数据采集子系统和麻醉临床系统两个子部分组成。包括从手术申请到手术分配&#xff0c;再到术前…

元素共鸣:唤醒神之眼

描述 在提瓦特大陆上&#xff0c;有N座由原石构成的神秘石柱&#xff0c;它们依次排列&#xff0c;编号为1&#xff0c;2&#xff0c;3&#xff0c;…&#xff0c;N。每座石柱都蕴含着不同程度的元素能量&#xff0c;这种能量的强度可以用一个整数来量化。为了唤醒沉睡中的神之…

项目管理中的资源控制

在项目管理中,资源的控制是非常关键的环节,它决定了项目的顺利进行与否以及最终的效益。项目管理的资源控制涵盖了多个方面,以下是对这些方面的详细探讨。 1. 资源需求分析 首先,项目经理需要对项目进行资源需求分析。这包括确定项目所需的人力、物力、财力等各类资源,并…

element-ui collapse 组件源码分享

今日简单分享 collapse 组件的源码实现&#xff0c;主要分为四个方面&#xff1a; 1、collapse 组件页面结构 2、collapse 组件属性 3、collapse 组件事件 4、collapse item 组件属性 一、collapse 组件页面结构 二、collapse 组件属性 2.1 value/v-model 属性&#xff0…

Ubuntu18.04+2070s+TF2.x环境,单卡训练PointNet++实战

Ubuntu18.042070sTF2.x环境&#xff0c;单卡训练PointNet实战 1. 编译tf_ops文件夹下的三个动态库2. 修改Python版本、TF版本不一致带来的差异3. 下载训练数据4. 模型训练 1. 编译tf_ops文件夹下的三个动态库 该文件夹下定义了一些pointnet模型中需要使用的cuda核函数&#xf…

程序代码分析工具

文章目录 工具简介和安装DoxygenGraphziv软件安装 工具的运用启动和配置工具分析结果 工具简介和安装 Doxygen Doxygen 是一种用于从 C 、C 、Objective-C 、C# 、Java 和 Python 等语言的源代码中生成文档的工具。它通过解析源代码中的注释来创建详细的 API 文档&#xff0c;…