Java实现10万,并发去重,优雅地处理重复请求!

对于一些用户请求,在某些情况下是可能重复发送的,如果是查询类操作并无大碍,但其中有些是涉及写入操作的,一旦重复了,可能会导致很严重的后果,例如交易的接口如果重复请求可能会重复下单。

重复的场景有可能是:

  • 黑客拦截了请求,重放

  • 前端/客户端因为某些原因请求重复发送了,或者用户在很短的时间内重复点击

  • 网关重发

  • ….

本文讨论的是如何在服务端优雅地统一处理这种情况,如何禁止用户重复点击等客户端操作不在本文的讨论范畴。

利用唯一请求编号去重

可能会想到的是,只要请求有唯一的请求编号,那么就能借用Redis做这个去重——只要这个唯一请求编号在redis存在,证明处理过,那么就认为是重复的

代码大概如下:

String KEY = "REQ12343456788";//请求唯一编号    long expireTime =  1000;// 1000毫秒过期,1000ms内的重复请求会认为重复    long expireAt = System.currentTimeMillis() + expireTime;    String val = "expireAt@" + expireAt;    //redis key还存在的话要就认为请求是重复的    Boolean firstSet = stringRedisTemplate.execute((RedisCallback<Boolean>) connection -> connection.set(KEY.getBytes(), val.getBytes(), Expiration.milliseconds(expireTime), RedisStringCommands.SetOption.SET_IF_ABSENT));
    final boolean isConsiderDup;    if (firstSet != null && firstSet) {// 第一次访问        isConsiderDup = false;    } else {// redis值已存在,认为是重复了        isConsiderDup = true;    }

业务参数去重

上面的方案能解决具备唯一请求编号的场景,例如每次写请求之前都是服务端返回一个唯一编号给客户端,客户端带着这个请求号做请求,服务端即可完成去重拦截。

但是,很多的场景下,请求并不会带这样的唯一编号!那么我们能否针对请求的参数作为一个请求的标识呢?

先考虑简单的场景,假设请求参数只有一个字段reqParam,我们可以利用以下标识去判断这个请求是否重复。用户ID:接口名:请求参数

String KEY = "dedup:U="+userId + "M=" + method + "P=" + reqParam;

那么当同一个用户访问同一个接口,带着同样的reqParam过来,我们就能定位到他是重复的了。

但是问题是,我们的接口通常不是这么简单,以目前的主流,我们的参数通常是一个JSON。那么针对这种场景,我们怎么去重呢?

计算请求参数的摘要作为参数标识

假设我们把请求参数(JSON)按KEY做升序排序,排序后拼成一个字符串,作为KEY值呢?但这可能非常的长,所以我们可以考虑对这个字符串求一个MD5作为参数的摘要,以这个摘要去取代reqParam的位置。

String KEY = "dedup:U="+userId + "M=" + method + "P=" + reqParamMD5;

这样,请求的唯一标识就打上了!

注:MD5理论上可能会重复,但是去重通常是短时间窗口内的去重(例如一秒),一个短时间内同一个用户同样的接口能拼出不同的参数导致一样的MD5几乎是不可能的。

继续优化,考虑剔除部分时间因子。

上面的问题其实已经是一个很不错的解决方案了,但是实际投入使用的时候可能发现有些问题:某些请求用户短时间内重复的点击了(例如1000毫秒发送了三次请求),但绕过了上面的去重判断(不同的KEY值)。

原因是这些请求参数的字段里面,是带时间字段的,这个字段标记用户请求的时间,服务端可以借此丢弃掉一些老的请求(例如5秒前)。如下面的例子,请求的其他参数是一样的,除了请求时间相差了一秒:

//两个请求一样,但是请求时间差一秒    String req = "{\n" +            "\"requestTime\" :\"20190101120001\",\n" +            "\"requestValue\" :\"1000\",\n" +            "\"requestKey\" :\"key\"\n" +            "}";
    String req2 = "{\n" +            "\"requestTime\" :\"20190101120002\",\n" +            "\"requestValue\" :\"1000\",\n" +            "\"requestKey\" :\"key\"\n" +            "}";

这种请求,我们也很可能需要挡住后面的重复请求。所以求业务参数摘要之前,需要剔除这类时间字段。还有类似的字段可能是GPS的经纬度字段(重复请求间可能有极小的差别)。

请求去重工具类,Java实现

public class ReqDedupHelper {    /**     *     * @param reqJSON 请求的参数,这里通常是JSON     * @param excludeKeys 请求参数里面要去除哪些字段再求摘要     * @return 去除参数的MD5摘要     */    public String dedupParamMD5(final String reqJSON, String... excludeKeys) {        String decreptParam = reqJSON;
        TreeMap paramTreeMap = JSON.parseObject(decreptParam, TreeMap.class);        if (excludeKeys!=null) {            List<String> dedupExcludeKeys = Arrays.asList(excludeKeys);            if (!dedupExcludeKeys.isEmpty()) {                for (String dedupExcludeKey : dedupExcludeKeys) {                    paramTreeMap.remove(dedupExcludeKey);                }            }        }
        String paramTreeMapJSON = JSON.toJSONString(paramTreeMap);        String md5deDupParam = jdkMD5(paramTreeMapJSON);        log.debug("md5deDupParam = {}, excludeKeys = {} {}", md5deDupParam, Arrays.deepToString(excludeKeys), paramTreeMapJSON);        return md5deDupParam;    }
    private static String jdkMD5(String src) {        String res = null;        try {            MessageDigest messageDigest = MessageDigest.getInstance("MD5");            byte[] mdBytes = messageDigest.digest(src.getBytes());            res = DatatypeConverter.printHexBinary(mdBytes);        } catch (Exception e) {            log.error("",e);        }        return res;    }}

下面是一些测试日志:

public static void main(String[] args) {    //两个请求一样,但是请求时间差一秒    String req = "{\n" +            "\"requestTime\" :\"20190101120001\",\n" +            "\"requestValue\" :\"1000\",\n" +            "\"requestKey\" :\"key\"\n" +            "}";
    String req2 = "{\n" +            "\"requestTime\" :\"20190101120002\",\n" +            "\"requestValue\" :\"1000\",\n" +            "\"requestKey\" :\"key\"\n" +            "}";
    //全参数比对,所以两个参数MD5不同    String dedupMD5 = new ReqDedupHelper().dedupParamMD5(req);    String dedupMD52 = new ReqDedupHelper().dedupParamMD5(req2);    System.out.println("req1MD5 = "+ dedupMD5+" , req2MD5="+dedupMD52);
    //去除时间参数比对,MD5相同    String dedupMD53 = new ReqDedupHelper().dedupParamMD5(req,"requestTime");    String dedupMD54 = new ReqDedupHelper().dedupParamMD5(req2,"requestTime");    System.out.println("req1MD5 = "+ dedupMD53+" , req2MD5="+dedupMD54);}

日志输出:

req1MD5 = 9E054D36439EBDD0604C5E65EB5C8267 , req2MD5=A2D20BAC78551C4CA09BEF97FE468A3Freq1MD5 = C2A36FED15128E9E878583CAAAFEFDE9 , req2MD5=C2A36FED15128E9E878583CAAAFEFDE9

日志说明:

  • 一开始两个参数由于requestTime是不同的,所以求去重参数摘要的时候可以发现两个值是不一样的。

  • 另外,关于Java并发问题,公众号Java精选,回复java面试,获取更多面试题资料,支持在线随时随地刷题。

  • 第二次调用的时候,去除了requestTime再求摘要(第二个参数中传入了”requestTime”),则发现两个摘要是一样的,符合预期。

总结

至此,我们可以得到完整的去重解决方案,如下:

String userId= "12345678";//用户String method = "pay";//接口名String dedupMD5 = new ReqDedupHelper().dedupParamMD5(req,"requestTime");//计算请求参数摘要,其中剔除里面请求时间的干扰String KEY = "dedup:U=" + userId + "M=" + method + "P=" + dedupMD5;
long expireTime =  1000;// 1000毫秒过期,1000ms内的重复请求会认为重复long expireAt = System.currentTimeMillis() + expireTime;String val = "expireAt@" + expireAt;
// NOTE:直接SETNX不支持带过期时间,所以设置+过期不是原子操作,极端情况下可能设置了就不过期了,后面相同请求可能会误以为需要去重,所以这里使用底层API,保证SETNX+过期时间是原子操作Boolean firstSet = stringRedisTemplate.execute((RedisCallback<Boolean>) connection -> connection.set(KEY.getBytes(), val.getBytes(), Expiration.milliseconds(expireTime),        RedisStringCommands.SetOption.SET_IF_ABSENT));
final boolean isConsiderDup;if (firstSet != null && firstSet) {    isConsiderDup = false;} else {    isConsiderDup = true;}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/762276.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C语言实现飞行小游戏

以下是一个简单的C语言实现飞行小游戏的代码示例。这个游戏中&#xff0c;一个飞机需要控制左右移动来避开悬挂在屏幕上方的飞行杂物&#xff0c;代码如下&#xff1a; #include <stdio.h> #include <stdlib.h> #include <conio.h> #include <windows.h&…

CAD建筑版2024 安装教程

CAD建筑版是一种专门用于建筑设计和绘图的CAD软件版本。它提供了专业的建筑设计工具和功能&#xff0c;帮助建筑师、设计师和工程师在建筑领域进行快速、准确和高效的设计工作。 CAD建筑版具备建筑相关的库和元素&#xff0c;用户可以方便地使用预定义的建筑符号和元素进行建筑…

网络基础(二)

1、应用层 程序员写的一个个解决我们实际问题, 满足我们日常需求的网络程序, 都是在应用层&#xff1b; 1.1、再谈 "协议" 协议是一种 "约定". socket api的接口, 在读写数据时, 都是按 "字符串" 的方式来发送接收的. 如果我们要传输一些 "…

设计模式学习笔记 - 设计原则与思想总结:2.运用学过的设计原则和思想完善之前性能计数器项目

概述 在 《设计原则 - 10.实战&#xff1a;针对非业务的通用框架开发&#xff0c;如何做需求分析和设计及如何实现一个支持各种统计规则的性能计数器》中&#xff0c;我们讲解了如何对一个性能计数器框架进行分析、设计与实现&#xff0c;并且实践了一些设计原则和设计思想。当…

IP代理技术革新:探索数据采集的新路径

引言&#xff1a; 随着全球化进程不断加深&#xff0c;网络数据采集在企业决策和市场分析中扮演着愈发重要的角色。然而&#xff0c;地域限制和IP封锁等问题常常给数据采集工作带来了巨大挑战。亿牛云代理服务凭借其强大的网络覆盖和真实住宅IP资源&#xff0c;成为解决这些问…

ruoyi-nbcio-plus后端里mapstruct-plus和lombok的使用

更多ruoyi-nbcio功能请看演示系统 gitee源代码地址 前后端代码&#xff1a; https://gitee.com/nbacheng/ruoyi-nbcio 演示地址&#xff1a;RuoYi-Nbcio后台管理系统 http://122.227.135.243:9666/ 更多nbcio-boot功能请看演示系统 gitee源代码地址 后端代码&#xff1a…

Metasploit Pro 4.22.2-2024021501 (Linux, Windows) - 专业渗透测试框架

Metasploit Pro 4.22.2-2024021501 (Linux, Windows) - 专业渗透测试框架 Rapid7 Penetration testing, Release Feb 15, 2024 请访问原文链接&#xff1a;https://sysin.org/blog/metasploit-pro-4/&#xff0c;查看最新版。原创作品&#xff0c;转载请保留出处。 作者主页…

verilog设计-CDC:单bit脉冲快时钟域到慢时钟域

一、前言 当单bit信号由快时钟域传递给慢时钟域时&#xff0c;快时钟域的异步信号最小可为快时钟信号的一个时钟周期脉冲&#xff0c;快时钟域的单时钟周期脉冲长度小于慢时钟域的时钟周期&#xff0c;很有可能该脉冲信号在慢时钟域的两个时钟上升沿之间&#xff0c;导致该脉冲…

Django数据库查询

聚合查询 分组查询 F与Q查询 默认情况下,用Q包裹的两个条件,用逗号分割也是and关系 choices参数 只要某个字段的可能性是完全可以列举出来的,可以采取choices参数 该gender字段存的还是数字,但是如果数字在上面的元组列举范围内,该怎么获取对应的值,如果不在范围内,会怎…

shell脚本实例

背景 centos7环境 1、获取进程pid,并且kill掉 #! /bin/bash searchNameXXX pids$(ps -ef | grep ${searchName} |grep -v grep |awk {print $2})for pid in ${pids} doecho "kill pid" $pidkill -9 $pid doneecho "finished ..."######################…

20240321, 字符串操作,STRING.H,字符串函数的实现

啥意思&#xff0c;这个循环是&#xff1f;每次给P分配一个字节&#xff0c;然后把那个位置写入0&#xff1f;但是0是整数吧&#xff1f;他需要四个字节&#xff1f;&#xff1f;&#xff1f;这和0地址有什么关系……啊啊啊啊啊 一&#xff0c;字符串操作 1.0 字符数组 补 0…

【C语言基础篇】字符串处理函数(五)strncpy strncat strncamp的介绍及模拟实现

个人主页&#xff1a; 倔强的石头的博客 系列专栏 &#xff1a;C语言指南 C语言刷题系列 后续补充完善

C# 读取指定文件夹

string[] fileNames Directory.GetFiles("D:\demo"); //获取整个demo的文件不包含文件夹 DirectoryInfo dirInfo new DirectoryInfo("D:\demo"); FileInfo[] fils dirInfo.GetFiles(); //获取整个demo的 文件 不包含文件夹 DirectoryInf…

【Golang星辰图】Go语言魔法使者:解锁消息队列魅力,轻松构建强大应用

极速通信&#xff1a;Go语言中不可错过的消息队列库全面解析 前言 随着现代应用程序的复杂性不断增加&#xff0c;消息队列成为了构建可靠、高效和可扩展系统的关键组件之一。在Go语言领域&#xff0c;开发人员可以利用各种消息队列库来简化消息传递过程&#xff0c;实现异步…

LeetCode_Java_递归系列(题目+思路+代码)

206.反转链表 给你单链表的头节点 head &#xff0c;请你反转链表&#xff0c;并返回反转后的链表。 示例 1&#xff1a; 输入&#xff1a;head [1,2,3,4,5] 输出&#xff1a;[5,4,3,2,1]以此类推&#xff0c;直到反转结束返回头结点 class Solution {public ListNode rever…

是德科技N9020A信号分析仪

181/2461/8938产品概述&#xff1a; N9020A MXA信号分析仪通过增加针对新一代技术的信号分析和频谱分析能力&#xff0c;具备了中档分析仪的更高性能。它突破了以往分析仪的极限&#xff0c;支持业界更快的信号和频谱分析,实现了速度与性能的更佳优化。 速度 测试速度超过其它…

动态规划专题之不同路径

LC 62 不同的路径 dp数组以及下标的含义 dp[i][j]:从起点到第i行第j列的方案数为dp[i][j] 递推公式 这么想&#xff0c;当前状态可以由哪些状态得到&#xff1f;由于它只能向下或向右走&#xff0c;所以就只能向下走到第i行第j列或向右走到第i行第j列 所以dp[i][j]dp[i-1][…

linux之shell脚本基础

1.构建基础脚本 1.1 创建shell脚本 1.1.1 第一行需要指定使用的shell # 用作注释行.shell并不会处理脚本中的注释行,但是第一行的注释,会告诉shell使用哪个shell来运行脚本. #!/bin/bash 1.1.2 让shell找到你的脚本 直接运行脚本会提示-bash: a.sh: command not found.因…

jupyter notebook或jupyterlab运行于/切换指定的conda虚拟环境或显示所有环境方法

Jupyter 在一个名为 kernel 的单独进程中运行用户的代码。kernel 可以是不同的 Python 安装在不同的 conda 环境或虚拟环境&#xff0c;甚至可以是不同语言&#xff08;例如 Julia 或 R&#xff09;的解释器。 如何使用 conda 环境和 Jupyter 有三种方法&#xff1a; 1. 在 c…

ES同步失败维护步骤(适用于修改了部分主键值导致同步失败)

维护步骤&#xff1a; 登录到ES服务器&#xff1a;192.168.111.141。停止 Canal 和 Canal-Adapter 服务&#xff1a;cd /home/xiangtan/canal/bin ./stop.shcd /home/xiangtan/canal-adapter/bin ./stop.sh确定修改了主键值的表&#xff0c;例如 tbl_sparking&#xff0c;使用…