redis 无占用 两种方式 清除大批量数据 lua脚本

redis存储了很多无用的key,占用了大量内存,需要清除

第一种 (颗粒度较大)

lua脚本,删除某些规则的key,输入删除的key,返回删除的符合规则的key的数量
弊端:颗粒度比较大,发送一个lua脚本去执行,会占用较多时间,堵塞其他redis命令

local function scan(key)local cursor = 0local keynum = 0repeatlocal res = redis.call("scan", cursor, "match", key, "COUNT", ARGV[1])if(res ~= nil and #res >= 0) thenredis.replicate_commands()cursor = tonumber(res[1])local ks = res[2]local keynum1 = #kskeynum = keynum + keynum1for i=1,keynum1,1 dolocal k = tostring(ks[i])redis.call("del", k)endenduntil(cursor <= 0)return keynum
endlocal a = #KEYS
local b = 1 
local total  = 0
while(b <= a)
do total = total + scan(KEYS[b])b=b+1
endreturn total

java代码

String delLua  = "local function scan(key)\n" +"\tlocal cursor = 0\n" +"\tlocal keynum = 0\n" +"\trepeat\n" +"\t\tlocal res = redis.call(\"scan\", cursor, \"match\", key, \"COUNT\", ARGV[1])\n" +"\t\tif(res ~= nil and #res >= 0) then\n" +"\t\t\tredis.replicate_commands()\n" +"\t\t\tcursor = tonumber(res[1])\n" +"\t\t\tlocal ks = res[2]\n" +"\t\t\tlocal keynum1 = #ks\n" +"\t\t\tkeynum = keynum + keynum1\n" +"\t\t\tfor i=1,keynum1,1 do\n" +"\t\t\t\tlocal k = tostring(ks[i])\n" +"\t\t\t\tredis.call(\"del\", k)\n" +"\t\t\tend\n" +"\t\tend\n" +"\tuntil(cursor <= 0)\n" +"\treturn keynum\n" +"end\n" +"\n" +"local a = #KEYS\n" +"local b = 1 \n" +"local total  = 0\n" +"while(b <= a)\n" +"do \n" +"\ttotal = total + scan(KEYS[b])\n" +"\tb=b+1\n" +"end\n" +"\n" +"return total";
// 指定 lua 脚本,并且指定返回值类型
DefaultRedisScript<Long> redisScript = new DefaultRedisScript<>(delLua, Long.class);
// 参数一:redisScript,参数二:key列表,参数三:arg(可多个)
long start = System.currentTimeMillis();
Long result = (Long) redisTemplate.execute(redisScript, Collections.singletonList(scenicId + ":*"), 20000);
long end = System.currentTimeMillis();

这样直接删除,因为规则有很多个,需要循环删除,每一次调用脚本都需要占用redis一分多时间,

第二种(切割所有key,每次返回指定数量,然后过滤删除)

lua脚本

local cursor = ARGV[1]
local result = redis.call('SCAN', cursor,  'COUNT', 10000)
return {result[1], result[2]}
// Lua脚本用于SCAN操作,获取指定数量的key
String luaScript = "local cursor = ARGV[1]\n" +"local result = redis.call('SCAN', cursor,  'COUNT', 10000)\n" +"return {result[1], result[2]}";// 创建Redis脚本对象
DefaultRedisScript<List> defaultRedisScript = new DefaultRedisScript<>(luaScript, List.class);
defaultRedisScript.setResultType(List.class);Integer cursorInt = 0;
String newCursor = cursorInt.toString(); // 初始游标// 参数:cursor初始为0,match为""表示匹配所有key,count为1000
List<Object> keys = stringRedisTemplate.execute(defaultRedisScript, Collections.emptyList(), newCursor);
// 解析结果
newCursor = keys.get(0).toString(); // 新的cursor
List<String> keyList = (List<String>)keys.get(1);
//对获取出来的key进行规则筛选,查看那些可以直接删除
//过滤逻辑 和 删除

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/1643.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【高录用+快检索】文化产业与城市发展国际研讨会ISCIUD2024

会议简介 文化产业与城市发展国际研讨会将于2024年5月26-28日在武汉盛大举行&#xff0c;ISCIUD 2024组委会热忱地邀请您参与社会科学与可持续发展国际研讨会。 人类社会正进入一个崭新的时代&#xff0c;文化产业已成为全球经济发展的新动力&#xff0c;文化创意成为世界各城市…

C++ | Leetcode C++题解之第32题最长有效括号

题目&#xff1a; 题解&#xff1a; class Solution { public:int longestValidParentheses(string s) {int left 0, right 0, maxlength 0;for (int i 0; i < s.length(); i) {if (s[i] () {left;} else {right;}if (left right) {maxlength max(maxlength, 2 * ri…

Python从0到100(十五):函数的高级应用

前言&#xff1a; 零基础学Python&#xff1a;Python从0到100最新最全教程。 想做这件事情很久了&#xff0c;这次我更新了自己所写过的所有博客&#xff0c;汇集成了Python从0到100&#xff0c;共一百节课&#xff0c;帮助大家一个月时间里从零基础到学习Python基础语法、Pyth…

高通将支持 Meta Llama 3 在骁龙终端运行;特斯拉中国全系车型降价 1.4 万元丨 RTE 开发者日报 Vol.189

开发者朋友们大家好&#xff1a; 这里是「RTE 开发者日报」&#xff0c;每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE&#xff08;Real Time Engagement&#xff09; 领域内「有话题的新闻」、「有态度的观点」、「有意思的数据」、「有思考的文章」、「有…

第52篇:算法的硬件实现<三>

Q&#xff1a;本期我们介绍二进制搜索算法电路&#xff0c;用于查找某个数据在数组中的位置。 A&#xff1a;基本原理&#xff1a;从数组的中间元素开始&#xff0c;如果给定值和中间元素的关键字相等&#xff0c;则查找成功&#xff1b;如果给定值大于或者小于中间元素的关键…

Java本地缓存技术选型(Guava Cache、Caffeine、EhCache)

前言 对一个java开发者而言&#xff0c;提到缓存&#xff0c;第一反应就是Redis。利用这类缓存足以解决大多数的性能问题了&#xff0c;我们也要知道&#xff0c;这种属于remote cache&#xff08;分布式缓存&#xff09;&#xff0c;应用的进程和缓存的进程通常分布在不同的服…

C语言学习笔记<1>

1. EOF&#xff08;End of File&#xff09;是文件结束标志&#xff0c;用于表示文件已经读取完毕。在C语言中&#xff0c;可以通过判断是否读取到EOF来判断文件是否读取完毕。 以下是一个简单的C语言代码示例&#xff0c;用于读取一个文本文件并输出其内容&#xff1a; // …

JAVA学习笔记30(线程)

1.线程 1.线程的概念 1.线程是由进程创建的&#xff0c;是进程的一个实体 2.一个进程可以拥有多个线程 2.并发 ​ *同一时刻&#xff0c;多个任务交替执行&#xff0c;造成一种"貌似同时"的错觉&#xff0c;单核cpu实现的多任务就是并发 3.并行 ​ *同一时刻&…

私人密码管理储存库!Bitwarden 部署安装教程

日常生活中我们每个人都会拥有大量网站或社交平台帐号&#xff0c;时间久远了密码很容易忘记。因此&#xff0c;像 1Password 等密码管理 同步 一键登录的工具成为了很多人的首选。 然而 1Password 毕竟要付费&#xff0c;也有人会担心这类工具有隐私泄露的风险。其实&#…

随着深度学习的兴起,浅层机器学习没有用武之地了吗?

深度学习的兴起确实在许多领域取得了显著的成功&#xff0c;尤其是那些涉及大量数据和复杂模式的识别任务&#xff0c;如图像识别、语音识别和自然语言处理等。然而&#xff0c;这并不意味着浅层机器学习&#xff08;如支持向量机、决策树、朴素贝叶斯等&#xff09;已经失去了…

华为笔试面试题

华为 1.static有什么用途&#xff1f;&#xff08;请至少说明两种&#xff09; 1)在函数体&#xff0c;一个被声明为静态的变量在这一函数被调用过程中维持其值不变。 2) 在模块内&#xff08;但在函数体外&#xff09;&#xff0c;一个被声明为静态的变量可以被模块内所用函数…

Android集成Sentry实践

需求&#xff1a;之前使用的是tencent的bugly做为崩溃和异常监控&#xff0c;好像是要开始收费了&#xff0c;计划使用开源免费的sentry进行替换。 步骤&#xff1a; 1.修改工程文件 app/build.gradle apply plugin: io.sentry.android.gradle sentry {// 禁用或启用ProGua…

Elasticsearch:(一)ES简介

搜索引擎是什么?在不少开发者眼中,ES似乎就是搜索引擎的代名词,然而这实际上是一种误解。搜索引擎是一种专门用于从互联网中检索信息的技术工具,它主要可以划分为元搜索引擎、全文搜索引擎和垂直搜索引擎几大类。其中,全文搜索引擎和垂直搜索引擎是我们日常生活中较为常见…

算法打卡day50|单调栈篇01| Leetcode 739. 每日温度、496.下一个更大元素 I

算法题 Leetcode 739. 每日温度 题目链接:739. 每日温度 大佬视频讲解&#xff1a;739. 每日温度视频讲解 个人思路 因为题目所求的是找到一个元素右边第一个比自己大的元素&#xff0c;这是单调栈的经典题目&#xff0c;用栈来记录遍历过的元素 解法 单调栈 单调栈的本质…

opensshserver.config: line 3: Bad configuration option: GSSAPIKexAlgorithms

报错记录 /etc/crypto-policies/back-ends/opensshserver.config: line 3: Bad configuration option: GSSAPIKexAlgorithms 百度尝试 找到 “GSSAPIKexAlgorithms”这一行&#xff0c;然后注释掉 #GSSAPIKexAlgorithms vim /etc/ssh/sshd_config 这种方式并没有解决 解决方…

为什么中级职称评审不通过?有什么原因?

参与过职称评审或者有了解过职称评审的小伙伴们&#xff0c;应该都知道&#xff0c;职称评审都是有通过率&#xff0c;不是你去评&#xff0c;一定会评下来&#xff0c;一定会发证的&#xff0c;那么评审为什么不通过&#xff1f;有哪些原因呢&#xff1f; 现在职称评审人越来越…

免费开源圈子社交交友社区系统 可打包小程序 支持二开 源码交付!

线上社交的好处&#xff1a; 当今社会&#xff0c;人们越来越依赖于网络社交。互联网无疑为人类带来了许多好处&#xff0c; 其中一个就是线上社交。通过各种社交平台&#xff0c;人们可以随时随地互动交流&#xff0c;扩大自 己的社交圈&#xff0c;丰富生活。但是&#xf…

智慧气象站:赋能农业高标准发展新征程

随着科技的不断进步&#xff0c;智慧农业气象站已成为推动农业高标准发展的重要力量。它集成了先进的传感器、数据分析和通信技术&#xff0c;为农业生产提供了精准、及时的气象信息&#xff0c;助力农民实现科学种植、精准管理。 智慧农业气象站能够实时监测农田环境的温度、…

绿联 安装qbittorrent及一些常见错误的解决办法

绿联 安装qbittorrent及一些常见错误的解决办法 1、镜像 linuxserver/qbittorrent:latest 2、安装 2.1、创建容器 按需决定是否进行资源限制。 2.2、基础设置 2.3、网络 桥接即可。 注&#xff1a;如果使用IPV6&#xff0c;请选择"host"模式。 注&#xff1a;如…

0.5W 3KVDC 隔离单、双输出 DC/DC 电源模块——TPV-W5 3.3V, 5V,12V 15V系列

TPV-W5系列提供正负双输出和单输出&#xff0c;工业级环境温度&#xff0c;用于PCB安装的国际标准结构。此系列产品小巧&#xff0c;效率高&#xff0c;低输出纹波及能承受3000V以上的耐压&#xff0c;用于需要正负电压或单输出和高隔离电压的场合。封装有SIP和DIP可选。