Redis流量控制策略

Reids 简单流控

  • 流控是分布式领域一个被经常用到的一个计数,当系统承载能力有限的时候,如何组织计划外的请求继续对系统施加压力,这是一个需要解决的问题,在系统承载达到峰值的时候,我们需要弃车保帅,保证主流程业务的通畅,除了流控,限流还有一个目的,控制用户行为,避免垃圾请求以及屏蔽某些爬虫软件爬取数据。
如何使用Redis进行流控
  • 一个简单的,常见的案例。系统需要限定某个用户的某个行为在指定时间内只能允许发生N次,如何使用Redis的数据结构来实现,我们限定义如下一个接口:
//指定用户userId, 某个接口(行为)actionKey,指定时间time, 请求次数maxcount
boolean iaActionAllowed(Long userId, String actionKey, Long time, Long maxCount);
  • 通过以上我们可以得出一个简单的实现方案,在接口A内,每次userId请求,将key进行累加,并且设置key过期时间time,当value > maxCount 则阻断。如下简单版本的流控:
public class SimpleRateLimit {public static Long time = 30L;public static Boolean isActionAllowed(Long userId, String actionKey, Long maxCount) {String key = actionKey + "_" + userId.toString();Jedis jedis = JedisUtils.getJedis();if (jedis.exists(key)) {Long times = jedis.incr(key);return times > maxCount;}else {jedis.set(key, "1");jedis.expire(key, time.intValue());}return true;}public static void main(String[] args) {for (int i = 0; i < 100; i++) {if(isActionAllowed(123L, "login", 30L)){System.out.println("allowed this action login : " + i);}else {System.out.println("close the door : "+ i);}}}
}
  • 以上是一个简单版本的流控,只能正对某一个接口功能进行控制,但是这种方式也有一定的弊端,就是我们每次请求都需要判断,判断,虽然Redis的性能比较高,但是每个接口都需要过一次这个逻辑,并且不同的接口我们要用不同的key,整体流控也需要做另外的key,就是还有一定的提升空间了
漏斗限流
  • 漏斗限流是最常用的流控方法,他相关的算法有令牌桶算法,漏桶算法。
  • 如下面图中所示,漏斗的容量是有先的,如果将漏嘴堵住,一直灌水,就满了,直到装不进去。打开漏嘴,水下流。灌水速度大于流速,满了就需要等待,灌水速度小于流速,永远也满不了。所以漏斗的剩余空间代表这当前行为可以持续进行的数量,漏嘴的流速代表系统允许该行为的最大频率。
  • 或者这样理解,向漏斗加水相当于添加令牌,每次请求需要获取一个令牌,漏斗中令牌数相当于系统当前行为可以持续进行的数量,获取令牌的速度代表系统该欣慰的最大频率。如下代码
/*** 有点像令牌桶的漏桶* @author liaojiamin* @Date:Created in 16:57 2020/5/29*/
public class FunnelRateLimiter {private Map<String, Funnel> funnels = new HashMap<>();public boolean isActionAllowed(String userId, String actionKey, int capacity, float leakingRate){String key = String.format("%s:%s", userId, actionKey);Funnel funnel = funnels.get(key);if(funnel == null){funnel = new Funnel(capacity, leakingRate);funnels.put(key, funnel);}return funnel.watering(1);}static class Funnel{//总量int capacity;//流速float leakingRate;//漏桶现有配额int leftQuota;//开始时间long leakingTs;public Funnel(int capacity, float leakingRate){this.capacity = capacity;this.leakingRate = leakingRate;this.leftQuota = capacity;this.leakingTs = System.currentTimeMillis();}//获取空间(更新当前桶中的令牌数量,依据时间以及流速)void makeSpace(){long nowTs = System.currentTimeMillis();long deltaTs = nowTs - leakingTs;//计算这段时间的总流量 时间差* 流速int deltaQuota = (int) (deltaTs * leakingRate);//int类型越界情况 重新初始化if(deltaQuota < 0){this.leftQuota = capacity;this.leakingTs = nowTs;return;}//腾出空间太小,最小单位是1if(deltaQuota < 1){return;}this.leftQuota += deltaQuota;this.leakingTs =nowTs;if(this.leftQuota > this.capacity){this.leftQuota = this.capacity;}}//消耗存储boolean watering(int quota){makeSpace();if(this.leftQuota >= quota){this.leftQuota -= quota;return true;}return false;}}
}
  • 如上代码,funnel对象的Mask_space是令牌桶核心算法,每次消耗之前都会计算一次桶中的令牌,一次可能消耗一个令牌,当并发请求,一秒可能消耗多个令牌,计算桶中令牌数根据时间固定速率添加,最大值capacity。这样就有一个令牌桶算法。
  • 那么我们怎么用Redis来实现一个令牌桶,有Redis的数据结构能搞定没。
  • 我们可以用hash结构,添加令牌时候将Hash字段取出运算,在更新,这个问题在于非原子操作,非线程安全的。如果考虑事务,就有失败,重试的情况使代码变得更加复杂,得不偿失。
Redis-Cell
  • Redis 4.0 提供来一个流控的Redis模块,他叫Redis-Cell。这个模块也用了漏斗算法,并提供来原子的限流指令,有了这个模块,限流可以通过简单命令来解决。
  • 该模块只有一个指令cl.throttle,他的参数和返回值都比较复杂,如下使用方式:
cl.throttle jiamin:reply 15 30 60 1
  • 如上,加入令牌频率为60s最多30个,漏斗初始容量15个令牌,也就是说开始可以连续15个请求,然后才开始受到添加令牌的速率影响。此处令牌添加的速度变成两个参数,替代之前的单个浮点数。用两个参数相除的结果来表示添加令牌的速度更直观。

  • 返回值有几种:

    • 0: 表示允许
    • 1:表示拒绝
    • 15 :漏桶中令牌容量capacity
    • 14: 漏桶中剩余令牌 left_quota
    • -1 如果被拒绝,需要多长时间后再试
    • 2:多长时间后,漏斗完全填满令牌:left_quota == capacity 单位秒
  • 在执行限流指令时候,如果被拒绝,就需要丢弃或者重试,cl.throttle指令考虑得非常周到,连重试的时间都帮你算好了,直接取返回结果数组的第四个值进行sleep既可,如果不想苏泽线程,也可以异步定时任务来重试。

上一篇Redis高级数据结构
下一篇Redis分布式锁奥义

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/310580.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

[剑指offer]面试题9:斐波那契数列

面试题9&#xff1a;斐波那契数列 题目一&#xff1a;写一个函数&#xff0c;输入n&#xff0c;求斐波那契&#xff08;Fibonacci&#xff09;数列的第n项。斐波那契数列的定义如下&#xff1a; ❖ 效率很低的解法&#xff0c;挑剔的面试官不会喜欢 代码如下: long long fib(…

海底捞涨价,有错吗?

此前&#xff0c;有媒体报道&#xff0c;海底捞某些门店的菜品除了少部分维持原价&#xff0c;大部分都涨价了。随后&#xff0c;广大网民纷纷对此发表了看法。有人表示理解&#xff0c;理由是餐饮业在疫情期间损失巨大&#xff0c;此前也有一些餐饮业老板表达了资金链断裂的担…

Redis分布式锁奥义

分布式锁 分布式系统进行逻辑处理的时候&#xff0c;经常会遇到并发问题&#xff0c;例如直播场景中&#xff0c;用户需要连麦主播&#xff0c;当多个用户在同一个时刻一起连麦时候&#xff0c;应该保证只有一个用户能连麦成功&#xff0c;我们改怎么保证这种业务场景下保证数…

.NET Core + Kubernetes:Pod

在 .NET Core Kubernetes&#xff1a;快速体验 文章中&#xff0c;已经实现将一个 .NET Core API 服务部署在 Kubernetes 集群中&#xff0c;接下来将逐步了解 Kubernetes 中各核心模块。首先当然是 Pod&#xff0c;我相信 Pod 是在接触 Kubernetes 时听到较多的一个词语&…

[剑指offer]面试题10:二进制中1的个数

面试题10&#xff1a;二进制中1的个数 题目&#xff1a;请实现一个函数&#xff0c;输入一个整数&#xff0c;输出该数二进制表示中 1 的个数。例如把9表示成二进制是1001&#xff0c;有2位是1。因此如果输入9&#xff0c;该函数输出2。 ❖ 可能引起死循环的解法 代码如下: …

LBS解决方案

LBS解决方案 LBS&#xff08;基于地理位置的服务&#xff09;服务是现在移动互联网中比较常用的功能&#xff0c;例如外卖中我附近的店铺&#xff0c;通常是以客户位置坐标为中心&#xff0c;查询一定范围内的店铺信息&#xff0c;按照距离由近及原进行倒叙排序 方案一&#…

[剑指offer]面试题13:在O(1)时间删除链表结点

面试题13&#xff1a;在O&#xff08;1&#xff09;时间删除链表结点 题目&#xff1a;给定单向链表的头指针和一个结点指针&#xff0c;定义一个函数在 O&#xff08;1&#xff09;时间删除该结点。链表结点与函数的定义如下&#xff1a; struct ListNode {int value;ListNod…

长沙IT技术圈百万年薪大佬?是否存在?

作者&#xff1a;邹溪源&#xff0c;长沙资深互联网从业者&#xff0c;架构师社区特邀嘉宾&#xff01;01引子不知不觉&#xff0c;IT技术圈开始流传起“百万年薪”的故事&#xff0c;有人问我&#xff0c;长沙有百万大佬么&#xff1f;其实我也不知道。02背景长沙自古以来就是…

网络编程-网络分层的意义

网络 我们生活在一个网络无处不在的一个虚拟世界中&#xff0c;网络中的每一个设备都是一个节点。大多是我们的计算机&#xff0c;但是他还可以连接其他设备&#xff0c;例如打印机&#xff0c;路由器&#xff0c;网关&#xff0c;你的手机&#xff0c;智能家居等。我们可以使…

网络编程-TCP/IP协议栈-IP协议

协议 协议就是约定的一种规则&#xff0c;例如扑克游戏中约定好的各种规则&#xff0c;2<3<4<5<…等&#xff0c;以此作为游戏规则。当所有人都遵循这个规则&#xff0c;那么久可以不需要任何多余的交流就可以进行游戏&#xff0c;这个方式形成的约定就是一种协议…

.NET项目升级手记:可为空引用

c# 8引入了新特性&#xff1a;“可为空引用”&#xff08;详情&#xff09;&#xff0c;这个功能个人觉得挺好的&#xff0c;能够非常明确的表现程序设计者的意图&#xff0c;编译器能够进行检查&#xff0c;尽最大可能减小NullReferenceException错误。如果是新项目&#xff0…

[剑指offer]面试题15:链表中倒数第k个结点

面试题15&#xff1a;链表中倒数第k个结点 题目&#xff1a;输入一个链表&#xff0c;输出该链表中倒数第 k 个结点。为了符合大多数人的习惯&#xff0c;本题从1 开始计数&#xff0c;即链表的尾结点是倒数第1 个结点。例如一个链表有6个结点&#xff0c;从头结点开始它们的值…

.NET与鲲鹏共展翅,昇腾九万里(一)

2019年1月7日&#xff0c;华为推出鲲鹏920处理器&#xff0c;便宣告了构建鲲鹏生态系统的开始。据官方介绍&#xff0c;鲲鹏是一个包含了鲲鹏计算单元、AI处理单元、智能管理、智能网卡的片上系统SoC&#xff0c;在此之上加上服务器操作系统&#xff0c;从而形成一个生态的闭环…

#define与const的区别

一:区别 &#xff08;1&#xff09;就起作用的阶段而言&#xff1a; #define是在编译的预处理阶段起作用&#xff0c;而const是在 编译、运行的时候起作用。 &#xff08;2&#xff09;就起作用的方式而言&#xff1a; #define只是简单的字符串替换&#xff0c;没有类型检查。…

网络编程-TCP/IP协议栈-TCP协议

TCP协议 TCP协议作用 TCP协议位于协议栈的传输层。当应用层向TCP层发送用于网间传输的&#xff0c;用8字节表示的数据流&#xff0c;TCP则吧数据流分割成适当长度的报文段&#xff0c;最大传输段大小&#xff08;MSS&#xff09;通常受到改计算机连接的网络数据链路层的最大传…

互联网10年,激战如梦

— 1 —1969年&#xff0c;美国国防部研究计划署第一次将互联网应用于军事连接。随后美国西南部四所名校的四台计算机通过这项技术连接起来。谁也没想到&#xff0c;这项计划会对人类的命运产生如此重大影响。1993年&#xff0c;互联网真正诞生。美国白宫宣布开始提供「在线服务…

[剑指offer]面试题16:反转链表

面试题16&#xff1a;反转链表 题目&#xff1a;定义一个函数&#xff0c;输入一个链表的头结点&#xff0c;反转该链表并输出反转后链表的头结点。链表结点定义如下&#xff1a; struct ListNode {int value;ListNode *next; };代码如下: ListNode *ReverseList(ListNode *p…

网络编程-TCP/IP协议栈-UDP/HTTP协议

UDP协议 UDP协议全称是用户数据报协议&#xff0c;在网络中她与TCP协议一样用于处理数据包&#xff0c;两个协议同处于协议栈的传输层&#xff0c;和TCP不同的是&#xff0c;UDP是一种无连接的协议栈。 因为UDP是无连接的&#xff0c;所以相对来说&#xff0c;UDP的报头比TCP要…

十问十答 Ms-PL 许可证

Microsoft 公共许可证&#xff08;The Microsoft Public License&#xff09;是微软为释出开源项目而编写和发布的自由开源软件许可证。如果你用 .NET 开发&#xff0c;你会经常碰见 Ms-PL。在微软的自由开源项目托管地 Codeplex&#xff08;已寿终正寝&#xff0c;微软已战略转…

[剑指offer]面试题17:合并两个排序的链表

面试题17&#xff1a;合并两个排序的链表 题目&#xff1a;输入两个递增排序的链表&#xff0c;合并这两个链表并使新链表中的结点仍然是按照递增排序的。例如输入图3.7中的链表1和链表2&#xff0c;则合并之后的升序链表如链表3所示。链表结点定义如下&#xff1a; struct Li…