93. 通用防重幂等设计

文章目录

  • 一、防重与幂等的区别
  • 二、幂等性的应用场景
  • 三、幂等性与防重关系
  • 四、处理流程

一、防重与幂等的区别

防重与幂等是在 Web 应用程序和分布式系统中重要而又非常常见的问题。

防重
防重是指在多次提交同样的请求过程中,系统会检测和消除重复的数据,确保相同的数据只会被处理一次,从而避免不必要的重复操作或产生错误的结果。防重通常指人为多次提交请求、系统超时等原因数据重复处理,防止重复处理产生错误。

幂等
幂等是指对同一操作进行多次执行所产生的结果和执行一次的结果是相同的。换句话说,无论进行多少次相同的操作,最终的结果都是一致的。在计算中,幂等操作不会因为重复执行而导致状态的变化。幂等性通常在设计和实现API、网络通信等场景中具有重要意义,因为它保证了对同一资源或操作的多次请求不会产生意外的副作用。

举例:HTTP的幂等性
HTTP GET 方法用于获取资源,不应有副作用,所以是幂等的。比如:GET http://www.bank.com/account/123456,不会改变资源的状态,不论调用一次还是 N 次都没有副作用。请注意,这里强调的是一次和 N 次具有相同的副作用,而不是每次 GET 的结果相同 GET http://www.news.com/latest-news这个 HTTP 请求可能会每次得到不同的结果,但它本身并没有产生任何副作用,因而是满足幂等性的。

HTTP POST 方法用于创建资源,所对应的 URI 并非创建的资源本身,而是去执行创建动作的操作者,有副作用,不满足幂等性。比如:POST http://www.forum.com/articles的语义是在http://www.forum.com/articles下创建一篇帖子,HTTP 响应中应包含帖子的创建状态以及帖子的 URI。两次相同的 POST 请求会在服务器端创建两份资源,它们具有不同的 URI;所以,POST 方法不具备幂等性。

二、幂等性的应用场景

幂等性在分布式系统和网络通信中广泛应用。以下是一些常见的应用场景:

  1. 交易处理: 在金融系统中,交易处理通常需要保证幂等性,以防止重复执行交易或产生不一致的结果。

  2. 支付系统: 支付操作需要保证幂等性,确保多次支付请求不会导致用户重复支付或多次扣款。

  3. 订单处理: 在电商平台中,订单处理需要具有幂等性,以避免订单重复创建或多次处理。

  4. 消息处理: 消息队列系统中,消费者需要确保处理消息的幂等性,防止消息重复处理或丢失。

  5. API设计: 在设计RESTful API时,应该考虑接口的幂等性,以防止客户端多次提交相同的请求。

  6. 数据库更新: 数据库操作中,更新操作需要具有幂等性,确保多次更新不会产生重复结果或破坏数据一致性。

三、幂等性与防重关系

总结起来,防止重复处理是为了避免相同请求或操作的重复执行,而幂等性是一种特性,保证相同的操作在多次执行时会得到相同的结果,并且不会对系统状态产生副作用,从而能够帮助实现防止重复处理的目标。

举例来说,一个更新用户信息的操作,如果是幂等的,那么多次执行相同的更新操作不会产生副作用,用户信息也不会发生额外的改变。因此,防止重复处理的一个常见策略是将更新用户信息的操作设计成幂等的,这样即使多次收到相同的更新请求,也不会对用户信息产生重复的更新。

看起来,防重与幂等似乎在说同一件事情,但其实又有不同的区分。 幂等性强调一个操作的重复执行不会改变最终结果,而防重则关注于避免在处理过程中重复处理相同的数据或操作,防重对接口处理结果没有要求。虽然它们是不同的概念,但在分布式场景下,组合使用防重与幂等设计可以更好地保证系统的可靠性和正确性。特别是在面对高并发请求的场景下,合理有效的设计对于系统的正常运行非常重要。

下面我们看下如何设计通用的防重幂等系统。

四、处理流程

常见web请求包含客户端接口请求、服务调用请求、MQ消费等场景,我们把这些请求方统称为客户端,对应的处理方称为服务端。

对于幂等性的处理流程来说,这样来看防重主要分三步:

  • 确定唯一请求标识,通过唯一标识,服务端根据标识判断是否重复请求。

  • 客户端控制避免重复请求

  • 服务端幂等性处理,说白了就是要过滤一下已经收到的请求。要做到这个事,我们需要一个存储来记录收到的请求(唯一标识)。当收到交易请求的时候,我们就会到这个存储中去查询。如果查找到了,那么就不再做查询了,并把上次做的结果返回。如果没有查到,那么我们就记录下来。

大概流程如下:

在这里插入图片描述

上面流程有个问题如果让 100% 的请求都到这个存储里去查一下,这会导致处理流程变得很慢。所以,最好是当这个存储出现冲突的时候会报错。也就是说,我们收到交易请求后,直接去存储里记录这个 ID(相对于数据的 Insert 操作),如果出现 ID 冲突了的异常,那么我们就知道这个之前已经有人发过来了,所以就不用再做了。比如,数据库中你可以使用 insert into … values … on DUPLICATE KEY UPDATE … 这样的操作。对于更新的场景来说,如果只是状态更新,可以使用如下的方式。如果出错,要么是非法操作,要么是已被更新,要么是状态不对,总之多次调用是不会有副作用的。

update table set status = “paid” where id = xxx and status = “unpaid”;

网上还有 乐观锁、版本号等其他方式,这些都不标准,我们希望我们有一个标准的方式来做这个事,所以,最好还是用一个 ID。因为我们的幂等性服务也是分布式的,所以,需要这个存储也是共享的。这样每个服务就变成没有状态的了。但是,这个存储就成了一个非常关键的依赖,其扩展性和可用性也成了非常关键的指标。

对此,一般的幂等性的设计如下。

1. 确定唯一请求标识

  • 有唯一标识的需要把唯一标识带上

    • 唯一标识通常是业务的唯一ID,这种情况通常用于状态变更操作。比如取消订单场景,订单ID就是唯一标识;

    • 无业务唯一ID,但是有操作记录的,操作记录可以充当唯一标识。这种情况通常是调用下游时先生成本地操作记录,然后调用下游,将操作记录ID充当唯一标识。

  • 没有唯一标识的,我们创造唯一标识

    • 在表单中添加一个隐藏的字段或在请求头中添加一个特定的标识token(分布式ID)。服务端在处理请求时,根据请求标识来判断是否为重复请求,如果请求标识已经存在或已被使用,则拒绝处理该请求。

    • 通过其他字段串行化处理,服务端生成唯一标识。比如商品购买,可以通过userId+productId加锁,以用户、商品维度加锁串行化处理,服务端接收请求时先加锁,然后生成订单ID,进行业务处理,业务处理完成后释放锁。

2.客户端防止重复提交

  • 前端页面可以在提交后页面控制按钮禁止点击,防止多次点击;

  • 上游服务接口避免重复调用下游;对于超时场景,可以让下游提供查询接口,判断处理状态避免重复调用。

  • MQ尽量符合exactly once 语义;

3.服务端幂等处理
为了实现幂等性,可以采用以下处理流程:
图片

虚线非必须

  1. 获取唯一标识: 在每个请求中添加唯一标识,例如通过隐藏字段或请求头。

  2. 客户端向服务端请求,带上唯一标识

  3. 并发控制(分布式锁): 服务端收到请求后,根据标识判断是否为重复请求。同时,记录已处理的请求标识。

    • 通过分布式锁: 通过分布式锁(Redis)防止重复请求,如果并发请求可以拒绝重复请求。

    • 乐观锁和版本号: 在数据库中使用乐观锁机制来实现幂等性。在每次请求之前,先读取数据的版本信息,并在更新数据时检查版本号是否匹配。如果版本号不匹配,说明数据已被其他请求修改,可以拒绝重复请求。

  4. 业务数据处理:

    • 我们先根据唯一标识去存储中去查询。如果查找到了,那么就不再做查询了,并把上次做的结果返回。如果没有查到,那么我们就进行业务处理,并把唯一标识记录下来。

    • 如果有操作流水,建议基于操作流水做幂等,并将幂等号作为唯一性约束,确保唯一性。如果没有流水,那么基于状态机也是可以的。

    • 不管怎么样,数据库的唯一性约束都要加好,这是系统的最后一道防线。万一前面的锁失效了,这里也能控制得住不会产生脏数据。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/721082.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

每天一个数据分析题(一百八十三)

以下哪一项不是逻辑回归模型的特点? A. 因变量通常为二分类型变量 B. 自变量可以是分类型或连续型变量 C. 适用于处理连续自变量与二分类型因变量之间的关系 D. 通过logit转换,输出结果为实数域内的数值 题目来源于CDA模拟题库 点击此处获取答案

【动态规划】45. 跳跃游戏 II

45. 跳跃游戏 II 解题思路 int[] memo;:定义一个数组memo,用来作为备忘录,存储从每个索引位置跳到数组末尾所需的最小跳跃次数。 Arrays.fill(memo, n);:在开始计算之前,先将memo数组的所有元素初始化为n。这里的n是…

C语言中的宏函数与宏定义

C语言中的宏函数与宏定义 从开始写C语言到生成执行程序的流程大致如下: 预处理工作是系统引用预处理程序对源程序中的预处理部分做处理,而预处理部分是指以“#”开头的、放在函数之外的、一般放在源文件的前面的预处理命令,如:包…

流密码之线性反馈移位寄存器,以习题:n=4的LFSR,输出序列满足ki-4+ki-3+ki=0,初始状态为1000,求最终输出序列 为例

文章重点 关于线性反馈移位寄存器的一些知识点本期就不详细介绍了,本期重点在于讲解习题,以使大家能顺利应对平时作业及期末考试。 习题 习题1如下:n=4的LFSR。输出序列满足ki-4+ki-3+ki=0。 初始状态为1000。求不同时刻的状态及最终输出序列。 分析思路 思路:我们知道…

HTTP有什么缺陷,HTTPS是怎么解决的

缺陷 HTTP是明文的,谁都能看得懂,HTTPS是加了TLS/SSL加密的,这样就不容易被拦截和攻击了。 SSL是TLS的前身,他俩都是加密安全协议。前者大部分浏览器都不支持了,后者现在用的多。 对称加密 通信双方握有加密解密算法…

python自学3

第一节第六章 数据的列表 列表也是支持嵌套的 列表的下标索引 反向也可以 嵌套也可以 列表的常用操作 什么是列表的方法 学习到的第一个方法,index,查询元素在列表中的下标索引值 index查询方法 修改表功能的方法 插入方法 追加元素 单个元素追加 多…

YOLO v9训练自己数据集

原以为RT-DETR可以真的干翻YOLO家族,结果,!!!! 究竟能否让卷积神经网络重获新生? 1.数据准备 代码地址:https://github.com/WongKinYiu/yolov9 不能科学上网的评论区留言 数据集…

教育知识与能力保分卷一(中学)

2.在教育学的发展过程中,代表马克思主义的教育学著作是(A )。 A.凯洛夫的《教育学》 B.赞可夫的《教学与发展》 C.杜威的《民主主义与教育》 D.昆体良的《论演说家的教育》 8.小贺在一次期…

电脑不小心格式化了,怎么恢复?

在这个数字化时代,电脑已经成为我们日常生活和工作中不可或缺的工具。然而,有时我们可能会不小心格式化电脑硬盘,导致重要数据的丢失。那么,电脑不小心格式化了,怎么恢复? 别着急,在本篇攻略中&…

开源模型应用落地-qwen1.5-7b-chat与vllm实现推理加速的正确姿势(八)

一、前言 就在前几天开源社区又发布了qwen1.5版本,它是qwen2模型的测试版本。在本篇学习中,将集成vllm实现模型推理加速,现在,我们赶紧跟上技术发展的脚步,去体验一下新版本模型的推理质量。 二、术语 2.1. vLLM vLLM是一个开源的大模型推理加速框架,通过PagedAttention…

记一次openfeign反序列化异常复盘

前言 之前业务部门有2个通用响应类,一个是负责和前端交互的响应类AjaxResult,一个是负责和后端RPC接口交互的响应类RpcResult。一开始这两个响应类的值字段都一样,形如下 private Boolean success;private String message;private Integer code;private…

掌握PDF全面指南:Python开发者的高效编程技巧

掌握PDF全面指南:Python开发者的高效编程技巧 简介PDF基础知识PDF的结构常见用途PDF在开发中的挑战 PDF处理库介绍PyPDF2ReportLabPDFMiner辅助库 读取和分析PDF文件使用PyPDF2读取PDF文件提取PDF中的文本和元数据分析PDF结构和内容 编辑和修改PDF文件合并多个PDF文…

如何制作一个分销商城小程序_揭秘分销商城小程序的制作秘籍

打造赚钱神器!揭秘分销商城小程序的制作秘籍 在这个数字化高速发展的时代,拥有一个属于自己的分销商城小程序,已成为众多商家和创业者的必备利器。它不仅能够快速搭建起自己的在线销售渠道,还能够利用分销模式,迅速裂…

C# 对文件、文件夹的操作

在使用后面的代码前,需要: using System; using System.IO;C# 对文件的操作 判断文件是否存在 string filePath "E:\\new folder\\test\\myfile.xls"; if (File.Exists(filePath)) {// 如果文件存在 } else {// 如果文件不存在 }复制文件 …

中级前端面试整理-上篇

JS的基本类型 JavaScript中的基本类型是指:那些存储在内存中的值类型,他们是不可以变的、意味着一旦创建,值类型就不能改变。 JS的7种基本类型 布尔类型(Boolean): 表示true或者false数字类型(Number): 表示整数、浮点或者NaN字符串类型(St…

了解拒绝服务攻击:攻击类型、影响和防御措施

拒绝服务攻击(Denial of Service,简称DoS)是一种广泛存在的网络安全威胁,旨在使目标系统无法提供正常的服务,使其服务不可用或严重受限。在本文中,我们将深入探讨拒绝服务攻击的不同类型、其对网络系统和业…

安全特性 悬垂指针

英文名称 Dangling point,它还有一个兄弟叫 wild point - 野指针。 简单的对Dangling point做一个类比:我换手机号码了,但是没有通知老板,老板通讯录存的是我的旧号码。然后老板打电话有两种可能:打不通电话或者电话打…

pytorch 自定义函数

pytorch 自定义函数 介绍:https://zhuanlan.zhihu.com/p/344802526 主要构建 static method forward 和 backward 比如 layernorm: 参考:https://github.com/zhangyi-3/KBNet/blob/main/basicsr/models/archs/kb_utils.py 导数的推导:http…

Linux常用命令(超详细)

一、基本命令 1.1 关机和重启 关机 shutdown -h now 立刻关机 shutdown -h 5 5分钟后关机 poweroff 立刻关机 重启 shutdown -r now 立刻重启 shutdown -r 5 5分钟后重启 reboot 立刻重启 1.2 帮助命令 –help命令 shutdown --help: ifconfig --help:查看…

SpringBoot 接口报错该如何解决?

在Spring Boot应用中,接口报错可能由多种原因引起,包括但不限于业务逻辑错误、异常处理不当、依赖库问题、配置错误等。解决接口报错的过程需要分析具体的错误信息、排查可能的原因,并采取相应的调试和修复措施。 以下是解决Spring Boot接口…