redis 中一个字段 修改map_CTO 指名点姓让我带头冲锋,熬了一个通宵,终于把Redis中7千万个Key删完了...

7370aa3d315795e469b3b545a01333d6.png

由于有一条业务线不理想,高层决定下架业务。对于我们技术团队而言,其对应的所有服务器资源和其他相关资源都要释放。

释放了 8 台应用服务器;1 台 ES 服务器;删除分布式定时任务中心相关的业务任务;备份并删除 MySQL 数据库;删除 Redis 中相关的业务缓存数据。

CTO 指名点姓让我带头冲锋,才扣了我绩效……好吧,冲~

其他都还好,不多时就解决了。唯独这删除 Redis 中的数据,害得我又熬了一个通宵,真是折煞我也!

# 难点分析

共用 Redis 服务集群

由于这条业务线的数据在 Redis 大概在 3G 左右,完全没必要单独建一个 Redis 服务集群,本着能节约就节约的态度,当初就决定和其他项目共享一个集群(这个集群配置:16 个节点,128G 内存,还算豪华吧~)

集群配置如下:

743169d05094e97d133704f5c9b0b4c7.png

在这种共用集群的情况下,导致无法简单粗暴的释放。因此只能选择删除 Key 的方式。

Key 命名不规范

要删除 Key,首先就要精准的定位出哪些 Key 需要删除,如果勿删 Key,会影响到其他服务正常运转!

如果 Key 本身设置了过期时间,但有些数据需是持久化的。然而那该死的项目经理一直催项目进度,导致开发人员在开发过程中很多地方都没有设计到位。

比如 Redis Key 散落在项目代码的每个角落;比如命名不是很规范。

真不知道是怎么 Review 代码!哦,想必是没有时间 Review,那该死的项目经理……

我随便截个支付服务中的 Key 命名:

0d6448158eecdb1751d61b1692dba222.png

怎么样?是不是觉得我们开发人员写的代码很 Low!别笑,在实际工作中,还有比这更 Low 的!希望你别遇到,不然真的很痛苦~

解决思路

经过以上的分析,我们简单归纳如下:

我们真正关心的是那些未设置过期时间的 Key。

不能误删除 Key,否则下个月绩效也没了。

由于 Key 的命名及使用及其不规范,导致 Key 的定位难度很大。

看来,通过 Scan 命令扫描匹配 Key 的方式行不通了。只能通过人肉搜索了。

幸而 Idea 的搜索大法好,这个项目中使用的是 spring-boot-starter-data-redis。

因此我通过搜索 RedisTemplate 和 StringRedisTemplate 定位所有操作 Redis 的代码。

具体步骤如下:

  • 通过这些代码统计出 Key 的前缀并录入到文本中。
  • 通过 Python 脚本把载入文中中的的 Key 并在后面加上“*”通配符。
  • 通过 Python 脚本通过 Scan 命令扫描出这些 Key。
  • 为了便于检查,我们并没有直接使用 Del 命令删除 Key,在删除 Key 之前,先通过 debug object key 的方式得到其序列化的长度,再执行删除并返回序列化长度。这样,我们就可以统计出所有 Key 的序列化长度来得到我们释放的空间大小。

关键代码如下:

def get_key(rdbConn,start):try:keys_list = rdbConn.scan(start,count=2000)return keys_listexcept Exception,e:print e
''' Redis DEBUG OBJECT command got key info '''
def get_key_info(rdbConn,keyName):try:rpiple = rdbConn.pipeline()rpiple.type(keyName)rpiple.debug_object(keyName)rpiple.ttl(keyName)key_info_list = rpiple.execute()return key_info_listexcept Exception,e:print "INFO : ",e
def redis_key_static(key_info_list):keyType = key_info_list[0]keySize = key_info_list[1]['serializedlength']keyTtl = key_info_list[2]key_size_static(keyType,keySize,keyTtl)

通过以上方式,能够统计出究竟释放了多少内存了。由于这个集群是有特么接近 7 千万个 Key:

cf115c9e1fa80aa74d17b9d5ac3f3489.png

因此,等到了第二天天亮,我睡眼朦胧的看了一下,终于删除完毕了,时间 07:13,早高峰即将来临……

知耻而后勇

从来没有经历过因业务下线而清除资源的经验。这次事情真心让我觉得细微之处见真功夫的道理。

如果一开始我们就能够遵循开发规范来使用和设计 Redis Key,也不至于浪费这么多时间。

为了让 Key 的命名和使用更加规范,以及今后避免再次遇到这种情况,下午睡醒之后,我就在 Redis 公共组件库里面添加了一个配置和自定义了 Key 序列化。

代码如下:

@ConfigurationProperties(prefix = "spring.redis.prefix")
public class RedisKeyPrefixProperties {private Boolean enable = Boolean.TRUE;private String key;public Boolean getEnable() {return enable;}public void setEnable(Boolean enable) {this.enable = enable;}public String getKey() {return key;}public void setKey(String key) {this.key = key;}
}
/*** @desc 对字符串序列化新增前缀* @author create by liming sun on 2020-07-21 14:09:51*/
public class PrefixStringKeySerializer extends StringRedisSerializer {private Charset charset = StandardCharsets.UTF_8;private RedisKeyPrefixProperties prefix;public PrefixStringKeySerializer(RedisKeyPrefixProperties prefix) {super();this.prefix = prefix;}@Overridepublic String deserialize(@Nullable byte[] bytes) {String saveKey = new String(bytes, charset);if (prefix.getEnable() != null && prefix.getEnable()) {String prefixKey = spliceKey(prefix.getKey());int indexOf = saveKey.indexOf(prefixKey);if (indexOf > 0) {saveKey = saveKey.substring(indexOf);}}return (saveKey.getBytes() == null ? null : saveKey);}@Overridepublic byte[] serialize(@Nullable String key) {if (prefix.getEnable() != null && prefix.getEnable()) {key = spliceKey(prefix.getKey()) + key;}return (key == null ? null : key.getBytes(charset));}private String spliceKey(String prefixKey) {if (StringUtils.isNotBlank(prefixKey) && !prefixKey.endsWith(":")) {prefixKey = prefixKey + "::";}return prefixKey;}
}

使用效果:为了避免再次发生这种工作低效而又不得不做的事情,我们在开发规范中规定,新项目中 Redis 的使用必须设置此配置,前缀就设置为:项目编号。

另外,一个模块中的 Key 必须统一定义在二方库的 RedisKeyConstant 类中。

配置如下:

spring: redis: prefix:enable: truekey: E00P01
@Bean
public RedisTemplate<String, Object> redisTemplate(RedisConnectionFactory redisConnectionFactory) {RedisTemplate<String, Object> redisTemplate = new RedisTemplate<>();redisTemplate.setConnectionFactory(redisConnectionFactory);// 支持key前缀设置的key SerializerredisTemplate.setKeySerializer(new PrefixStringKeySerializer());redisTemplate.setValueSerializer(new GenericJackson2JsonRedisSerializer());return redisTemplate;
}

通过以上方式,我们至少可以从项目维度来区分出 Key,避免了多个项目之间共用同一个集群时而导致重复 Key 的问题。

从项目维度对 Key 进行了划分。更方便管理和运维。如果对于 Key 的管理粒度要求更细,我们甚至可以细化到具体业务维度。

我们在测试环境进行了压测,增加 Key 前缀对 Redis 性能几乎没有影响。性能方面能接受。

总结

通过本次事情,我发现对于大多数开发者而言,差距其实不在于智力,而是在于态度。

比如这次事件暴露出来的问题:大家都知道要遵循开发规范,然而到了真正“打仗”的时候,负责这个项目的开发者却没有几个人能始终如一的做好这些细微之事。

另外,Reviewer 的工作其实是极其重要的,他就像那“纪检委”,如果“纪检委”都放水睁一只眼闭一只眼,那麻烦可就大了!千里之提,毁于日常的点滴松懈啊!

经过这次事件之后,如果上天再给一次这样的机会,我一定会对项目经理说:接着奏乐,接着舞!

编辑:浪漫先生

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/533406.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

太阳花图片_长寿花扔水里,光长叶不开花?赶紧加点营养液

养个花可不简单&#xff0c;春天一到还得操心换盆、换土&#xff0c;如果你像偷懒的话&#xff0c;还不如养些能水培的花&#xff0c;给它一杯水就够了&#xff0c;实在太省心啦&#xff01;铜钱草铜钱草实在太好养了&#xff0c;摘一枝放在水杯里就能活&#xff0c;还挺有意境…

hystrix 全局熔断_跟我学Spring Cloud(Finchley版)14Feign使用Hystrix

Feign默认已经整合了Hystrix&#xff0c;本节详细探讨Feign使用Hystrix的具体细节。服务降级1 加配置&#xff0c;默认Feign是不启用Hystrix的&#xff0c;需要添加如下配置启用Hystrix&#xff0c;这样所有的Feign Client都会受到Hystrix保护&#xff01;feign:hystrix:enable…

ubuntu 改屏幕分辨率命令_Ubuntu被曝严重漏洞!!!

GitHub安全研究员Kevin Backhouse发现的一个Ubuntu系统大漏洞。无需系统密码&#xff0c;就能添加新的sudo用户、获取root权限&#xff0c;事后还能删除不留痕迹。这种攻击方法非常简单&#xff0c;Backhouse在官方博客中写道&#xff1a;“使用终端中的一些简单命令&#xff0…

swag您的装置不支持_一件充满意境的中国风水墨粒子、电子屏风交互装置

不久前有人留言怎么用粒子做水墨&#xff0c;今天投石科技给大家分享个水墨粒子装置作品案例&#xff0c;大家可以发挥自己的想象去做中国风的一些东西&#xff0c;希望能对大家有些帮助吧。《墨迹》这是一个数字山水画的交互装置&#xff0c;它通过摄像头捕捉手部运动进行互动…

弱电工程集成商_弱电工程楼宇自控系统基础知识培训资料

前言&#xff1a;弱电行业里面楼宇自控系统是非常难的一个子系统&#xff0c;涉及到很多其他专业&#xff0c;楼宇自控系统的设计一般为厂家设计&#xff0c;但是也有系统集成商来设计的&#xff0c;楼宇自控系统主要学习它的控制原理&#xff0c;学习完以后学习DDC箱子的绘制&…

删除单元格_VBA(实验1)用VBA 删除某列空单元格的3种方法:删除法,转移到其他列方法,数组方法...

1 要解决的问题&#xff1a;删除某列中的空单元格/空行暂时只实现了删除一列中的空行&#xff0c;并没有实现多行的判断空行和删除方法。----之后再做更复杂的1.1 需求分析用VBA删除如下内容&#xff0c;解决思路都不同删除1列的空行&#xff08;本文要做的&#xff09;删除整个…

winpe制作u盘启动盘_怎么制作u盘启动盘 u盘启动盘制作方法【介绍】

使用u盘装系统时就需要先将u盘制作成一个启动u盘&#xff0c;这样才能够通过u盘启动装系统操作&#xff0c;那么 如何制作u盘启动盘 呢?为此&#xff0c;今天我们就为小伙伴们详细的介绍 怎样制作u盘启动盘 的操作。制作u盘启动盘准备工作&#xff1a;① 、准备一个空间容量大…

插入空行_如何一键插入表格空行,这个方法才最高级!

100万职场人都在看后台回复礼包领199元职场干货很久很久之前&#xff0c;小可教过大家如何一键删除空行&#xff0c;回顾请戳→《如何一键删除表格空行&#xff0c;这个方法才最高级&#xff01;》这次&#xff0c;小可反过来&#xff0c;教大家如何一键插入很多空行&#xff0…

的控制台主题_【12.11最新版】芯片机/大气层主题软件NXThemesInstaller

Switch的主题的安装和管理主要通过自制软件——NXThemesInstaller软件地址&#xff1a;https://github.com/exelix11/SwitchThemeInjector本文只传了工具&#xff0c;主题需要自行去下载&#xff0c;可以按照自己喜欢的更换&#xff01;&#xff01;教程简单概括如下这是最常见…

数据卡片_E015 如何批量汇总工作簿数据,形成独立工作簿信息卡片

Hi&#xff0c;How are you doing?我是职场编码&#xff08;CodeVoc&#xff09;。在E000中&#xff0c;我们介绍了Node.js、Ruby、Electron等工具下载安装。这期&#xff0c;给你演示一下由Electron联合Ruby制作的小工具。知乎视频​www.zhihu.com借助Electron官方Demo&#…

redis哨兵模式没有切换主机_Redis哨兵(Sentinel)模式

Redis哨兵(Sentinel)模式在这里插入图片描述一、主从复制高可用当我们使用主从复制出现的问题手动故障转移写能力和存储能力受限主从复制 -master 宕机故障处理主从切换技术的方法是&#xff1a;当主服务器宕机后&#xff0c;需要手动把一台从服务器切换为主服务器&#xff0c;…

mysql rpm 安装6_linux6.5 RPM方式安装 mysql5.6

步骤一、检查下linux是不是已经安装了MySQL# rpm -qa|grep mysqlmysql-libs-5.1.71-1.el6.x86_64# rpm -e --nodeps mysql-libs-5.1.71-1.el6.x86_64 //卸载# find / -name mysql//有mysql文件夹的话&#xff0c;把mysql的文件夹删掉步骤二、下载需要的安装包&#xff0c;下载地…

阿里云rds for mysql平台介绍_阿里云RDS for MySQL 快速入门——笔记

1初始化配置1.1设置白名单创建RDS实例后&#xff0c;需要设置RDS实例的白名单&#xff0c;以允许外部设备访问该RDS实例。默认的白名单只包含默认IP地址127.0.0.1&#xff0c;表示任何设备均无法访问该RDS实例。设置白名单包括两种操作&#xff1a;设置IP白名单&#xff1a;添加…

mysql数据库下载压缩包_mysql 8.0.22 zip压缩包版(免安装)下载、安装配置步骤详解...

大家好&#xff0c;今天我在学习 MySQL 8.0.22安装及配置遇到了一些问题&#xff0c;特地将我整个安装过程分享出来希望可以帮助不会安装的小伙伴&#x1f61c;。参考链接第一步 MySQL的下载进入MySQL官网下载&#xff0c;按下图所示步骤操作&#xff0c;耐心等待下载完成就可以…

mysql 5.5 主从同步问题_MySQL 5.5 主从复制异步、半同步以及注意事项详解

大纲一、前言二、Mysql 基础知识三、Mysql 复制(Replication)四、Mysql 复制(Replication)类型五、Mysql 主从复制基本步骤六、Mysql 主从复制(异步)七、Mysql 主从复制(半同步)八、Mysql 复制工具九、Mysql 复制注意事项十、Mysql 复制过滤一、前言从这一篇博客开始我们就来学…

mysql导入xml 工具下载_XML导入Mysql工具下载|XmlToMysql 最新版v2.1 下载_当游网

XmlToMysql是一款十分不错的XML导入Mysql工具&#xff0c;它可以帮助用户们将XML中的数据快速的导入到MySQL数据库中&#xff0c;可以直接跳过解析环节&#xff0c;因此可以有效的提升程序员传输数据的效率&#xff0c;让程序员可以拥有更多的时间去处理其他环节的事宜。所以喜…

mysql忽略表名大小写_Mysql 表名忽略大小写-连接字符集随笔记录

1.参数说明&#xff1a;lower_case_table_names0表名存储为给定的大小和比较是区分大小写的lower_case_table_names 1表名存储在磁盘是小写的&#xff0c;但是比较的时候是不区分大小写lower_case_table_names2表名存储为给定的大小写但是比较的时候是小写的unix,linux下lower_…

ddl是什么意思网络语_DDL(数据定义语言)

DDL&#xff0c;是对数据库内部的对象进行创建&#xff0c;删除&#xff0c;修改等的操作语言。它和DML语言最大的区别是DML只是对表内部数据的操作&#xff0c;而不涉及到表的定义&#xff0c;结构的修改&#xff0c;更不会涉及到其它对象。1.连接数据库:注:1.mysql代表客户端…

测试网络的带宽指令_单机千万级MQTT服务器测试报告

目标&#xff1a;测试创建1000万客户端连接到Coolpy7 MQTT服务器端&#xff0c;服务器操作系统 Linux(任意一款发行版服务器版本)。分别在两台硬件一样的服务器&#xff0c;其中一台用于服务器端运行&#xff0c;另一台用于创建千万客户端连接客户端机器。在硬件一致的情况下请…

查看redis aof内存_Redis持久化问题定位与优化技巧

今天主要分享继Redis持久化方式RDB、AOF之后的一些常用的Redis问题定位于优化方式。这里主要CPU、内存、磁盘在三个维度去分析问题&#xff01;Fork操作当Redis做RDB或AOF重写时&#xff0c;一个必不可少的操作就是执行fork操作创建子进程&#xff0c;对于大多数操作系统来说fo…