【知识点随笔分享 | 第九篇】常见的限流算法

目录

前言:

1.固定窗口限流: 

缺点: 

2.滑动窗口限流:

 优点:

滴桶限流:

缺点:

令牌桶限流: 

优点:

总结:


 

前言:

        当今互联网时代,随着网络流量的快速增长和系统负载的不断加重,限流算法作为一种重要的网络管理工具变得愈发重要。限流算法通过控制系统的输入和输出流量,有效地保护系统不受过载的影响,确保系统能够稳定可靠地运行。本文将介绍几种常见的限流算法及其应用场景,旨在帮助读者更好地理解限流算法的原理和实际应用,从而为网络性能优化提供有力支持。限流算法的研究和应用对于保障网络安全、提升系统稳定性具有重要意义,在当前信息化社会具有广泛的应用前景。 

1.固定窗口限流: 

        固定窗口限流  就是在单位时间(时间窗口)内,只能接收指定数量的请求。

  • 在固定窗口限流算法中,时间被划分为固定大小的窗口,并且每个窗口内允许通过的请求数是固定的。
  • 算法步骤:
    • 统计当前窗口内的请求数;
    • 如果请求数超过了限制值,则拒绝该请求;
    • 重置新的窗口开始计数。

用汉堡店举例:固定窗口限流就是  在固定的时间内只能接待指定数量的顾客。比如一个小时只能接待10个顾客。

固定窗口限流的思路比较简单,代码实现为:

import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;public class FixedWindowRateLimiter {private final int limit;  // 限制的请求数private final long windowSizeInMillis;  // 窗口大小(毫秒)private final AtomicInteger counter;private long windowStartTime;public FixedWindowRateLimiter(int limit, long windowSizeInMillis) {this.limit = limit;this.windowSizeInMillis = windowSizeInMillis;this.counter = new AtomicInteger(0);this.windowStartTime = System.currentTimeMillis();}public boolean allowRequest() {long currentTime = System.currentTimeMillis();long elapsedTime = currentTime - windowStartTime;if (elapsedTime > windowSizeInMillis) {// 进入新的窗口,重置计数器和窗口开始时间counter.set(0);windowStartTime = currentTime;}// 检查请求数是否超过限制if (counter.incrementAndGet() > limit) {return false;  // 超过限制,拒绝请求}return true;  // 没有超过限制,允许请求通过}
}

缺点: 

        固定窗口限流可能会引发流量突刺,也就是可能会发生以下情况:

我们用红色来标识 在该时间窗口区域发生了请求,也就是说固定窗口限流在窗口的边界处可能会发生流量突刺,在短时间内发生多次请求

2.滑动窗口限流:

           滑动窗口限流  就是在单位时间(时间窗口)内,只能接收指定数量的请求。但单位时间是滑动的。

  • 在滑动窗口限流算法中,时间被划分为固定大小的窗口,每个窗口内允许通过的请求数是固定的,同时可以滑动窗口来适应请求的变化。
  • 算法步骤:
    • 统计当前窗口内的请求数;
    • 如果请求数超过了限制值,则拒绝该请求;
    • 滑动窗口,将旧的窗口移除。

我们用图片来标识滑动窗口限流和固定窗口限流的区别:

这是固定窗口限流,他的时间窗口是由时间窗口大小决定的。 

 这是滑动窗口限流,他的时间窗口是不断滑动的。

也就是说:滑动窗口限流不会一次性消除旧窗口的请求次数,而是不断的通过滑动的方式抹除。

 用汉堡店举例:滑动窗口限流就是  单位时间内限制接客数,相比较于固定窗口而言,假设我们在5.59接待了五位客人,如果时间窗口长度为小时,滑动单位为1分钟,那么六点的时候,并不会刷新窗口接待客人人数,而是继续保留5.59的接待人数。因为此时二者仍位于一个窗口内。  

滑动窗口限流的代码思路为:

import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;
import java.util.concurrent.locks.Lock;
import java.util.concurrent.locks.ReentrantLock;public class SlidingWindowRateLimiter {private final int limit;  // 限制的请求数private final long windowSizeInMillis;  // 窗口大小(毫秒)private final int[] counter;private final Lock lock;private long windowStartTime;public SlidingWindowRateLimiter(int limit, long windowSizeInMillis) {this.limit = limit;this.windowSizeInMillis = windowSizeInMillis;this.counter = new int[(int) (windowSizeInMillis / 1000)];this.lock = new ReentrantLock();this.windowStartTime = System.currentTimeMillis();}public boolean allowRequest() {long currentTime = System.currentTimeMillis();long elapsedTime = currentTime - windowStartTime;lock.lock();try {// 滑动窗口,将旧的窗口移除if (elapsedTime > windowSizeInMillis) {int numToRemove = (int) ((elapsedTime - windowSizeInMillis) / 1000);for (int i = 0; i < numToRemove; i++) {counter[i] = 0;}windowStartTime = currentTime - (elapsedTime % windowSizeInMillis);}// 统计请求数int currentWindowIndex = (int) (elapsedTime / 1000);counter[currentWindowIndex]++;// 检查请求数是否超过限制int totalRequests = 0;for (int i = 0; i < counter.length; i++) {totalRequests += counter[i];}if (totalRequests > limit) {return false;  // 超过限制,拒绝请求}} finally {lock.unlock();}return true;  // 没有超过限制,允许请求通过}
}

 优点:

                滑动窗口可以缓解流量突刺:例如固定窗口(窗口大小为1小时,每个窗口最多处理10个请求)可以在1.59进行了十次请求,2.01进行了十次请求。但是在滑动窗口中,如果我们将滑动参数设置为1min,窗口大小设置为1小时,那么1.59时,滑动窗口的范围是1.59-2.59。此时如果设置最大请求数量为10,那么1.59执行的十次请求就已经填满了请求数量上限。2.01的就无法进行请求。通过这种思路避免了窗口边界流量突刺这种情况。

滴桶限流:

滴桶限流 就是  接收指定数量的请求,按照指定的速率处理。

  • 在滴桶限流算法中,系统以恒定的速率漏水,并以固定速率接收请求。
  • 算法步骤:
    • 当有请求到达时,先检查桶中是否有水滴;
    • 如果有水滴可用,则允许请求通过并漏水;
    • 如果没有水滴可用,则拒绝该请求。

 

用汉堡店举例:滴桶限流就是每个小时接待6个客户,然后每十分钟处理一个客户的请求 

 java代码实现:

import java.util.concurrent.TimeUnit;public class LeakyBucketRateLimiter {private final int capacity;  // 桶的容量private final double rate;   // 水滴漏出速率(水滴/秒)private double water;        // 当前桶中的水滴数量private long lastLeakTime;   // 上次漏水的时间戳public LeakyBucketRateLimiter(int capacity, double rate) {this.capacity = capacity;this.rate = rate;this.water = 0;this.lastLeakTime = System.nanoTime();}public synchronized boolean allowRequest() {leak();if (water >= 1) {water -= 1;return true;  // 水滴足够,允许请求通过} else {return false;  // 水滴不足,拒绝请求}}private void leak() {long now = System.nanoTime();double elapsedTime = (now - lastLeakTime) / 1e9;double waterToLeak = elapsedTime * rate;if (waterToLeak > 0) {water = Math.max(0, water - waterToLeak);lastLeakTime = now;}}
}

缺点:

        滴桶限流的并发性比较差,我们在代码中就可以看到,他需要对水滴(请求)逐个进行处理

令牌桶限流: 

        令牌桶限流就是创建一个桶,生成指定数量的令牌,只有拿到令牌的请求才可以进行处理。

  • 在令牌桶限流算法中,系统以恒定的速率生成令牌并放入令牌桶中,每个请求需要获取一个令牌才能通过。
  • 算法步骤:
    • 每隔一段时间生成一定数量的令牌放入桶中;
    • 当有请求到达时,从桶中获取一个令牌,如果没有令牌可用,则拒绝该请求。
import java.util.concurrent.TimeUnit;public class TokenBucketRateLimiter {private final int capacity;  // 令牌桶容量private final double rate;   // 令牌生成速率(令牌/秒)private double tokens;       // 当前桶中的令牌数private long lastRefillTime; // 上次填充令牌的时间戳public TokenBucketRateLimiter(int capacity, double rate) {this.capacity = capacity;this.rate = rate;this.tokens = capacity;this.lastRefillTime = System.nanoTime();}public synchronized boolean allowRequest() {refill();if (tokens >= 1) {tokens -= 1;return true;  // 令牌足够,允许请求通过} else {return false;  // 令牌不足,拒绝请求}}private void refill() {long now = System.nanoTime();double elapsedTime = (now - lastRefillTime) / 1e9;double tokensToAdd = elapsedTime * rate;if (tokensToAdd > 0) {tokens = Math.min(capacity, tokens + tokensToAdd);lastRefillTime = now;}}
}

用汉堡店举例:令牌桶限流就是 汉堡店 有一个 餐卷桶,并且会按时补充餐卷桶的餐卷数,只有拿到了餐卷才可以购买汉堡

优点:

        令牌桶限流的并发性能比较高,我们可以批量对拿到令牌的请求进行处理。

总结:

        在实际的开发中,其实我们并不用手动去实现这些限流算法,很多第三方库都已经为我们实现了限流算法,我们只需要直接使用就好了。而在实际开发中,常用的限流算法是 滴桶限流和令牌桶限流。因此我们要掌握好这两个限流算法。

如果我的内容对你有帮助,请点赞,评论,收藏。创作不易,大家的支持就是我坚持下去的动力!

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/577329.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

creo投影的使用-如何将一个实体的轮廓曲线单独画出来

第一步&#xff1a;先建立一个平面&#xff1a; 比如你需要将实物的曲线正对自己&#xff0c;然后建立此面的偏移平面&#xff0c;然后选中新建立的偏移平面&#xff0c; 然后进入新偏移平面的草绘&#xff0c;然后就可以进行投影了。 第二步&#xff1a;建立参考&#xff1a;…

低代码实施复杂应用的实践方法

内容来自演讲&#xff1a;韦有炬 | 柳州知行远企业管理咨询有限公司 | 总经理 摘要 本文探讨了在全民开发时代如何使用低代码实施复杂应用并降低上线风险。文章分析了复杂系统实施失败的风险&#xff0c;包括项目规划不周、人员变动、企业基础管理不足等&#xff0c;并对比了低…

基于ssm航空信息管理系统论文

摘 要 传统信息的管理大部分依赖于管理人员的手工登记与管理&#xff0c;然而&#xff0c;随着近些年信息技术的迅猛发展&#xff0c;让许多比较老套的信息管理模式进行了更新迭代&#xff0c;飞机票信息因为其管理内容繁杂&#xff0c;管理数量繁多导致手工进行处理不能满足广…

解锁微信群发新功能,一键轻松达到5000人!

随着社交媒体的不断发展和智能手机的普及&#xff0c;微信已经成为我们日常生活中不可或缺的一部分。作为一个商家或者个人品牌&#xff0c;利用微信进行群发消息是一种非常便捷和高效的方式来推广产品或者传递信息。 然而&#xff0c;传统的微信群发功能却有着一些限制&#…

Linux怎么解压zip格式文件?

Linux解压命令zip是一种常见的文件压缩格式&#xff0c;用于把文件打包成一个zip文件&#xff0c;当我们需要共享或是发送时&#xff0c;能够更快速的发送&#xff0c;储存起来能够减少储存空间。那我们在Linux上怎么使用解压命令zip来解压zip格式文件呢&#xff1f;我们一起来…

H266/VVC帧内预测编码技术概述

预测编码技术 预测编码&#xff08;Prediction Coding&#xff09;是指利用已编码的一个或多个样本值&#xff0c;根据某种模型或方法&#xff0c;对当前的样本值进行预测&#xff0c;并对样本真实值和预测值之间的差值进行编码。 视频中的每个像素看成一个信源符号&#xff…

关于Dark Frost 僵尸网络对游戏行业进行DDoS攻击的动态情报

一、基本内容 近期&#xff0c;一种名为Dark Frost 的新型僵尸网络被发现正在对游戏行业发起分布式拒绝服务攻击&#xff08;DDoS)。目标包括游戏公司、游戏服务器托管提供商、在线流媒体甚至和网络信息安全攻击者直接交互的其他游戏社区成员。截至2023年2月&#xff0c;僵尸网…

GD32移植STM32工程(因为懒,所以移植)

文章目录 一、前言二、差异性三、软件移植部分1.前期准备1.1 安装GD32固件库1.2 选择所用芯片 2.修改程序2.1 启动时间&#xff08;内部时钟可不改&#xff09;2.2 主频2.2.1 系统时钟配置2.2.2 108MHz宏定义第一处第二处第三处第四处第五处 2.2.3 串口2.2.4 FLASH 四、总结 一…

等级保护的网络安全技术措施

目录 结构安全 访问控制 ​编辑 安全审计 边界完整性检查 入侵防范 恶意代码防范 网络设备防护 结构安全 访问控制 安全审计 边界完整性检查 入侵防范 恶意代码防范 网络设备防护 ~over~

date-fns v3 发布——这个由 200 个函数组成的 JavaScript 日期处理套件

date-fns v3 发布——这个由 200 个函数组成的 JavaScript 日期处理套件已经在 TypeScript 中重写&#xff0c;重新引入了 String 日期参数&#xff0c;在 Node 上支持 ESM&#xff0c;并且所有函数现在都可以通过命名导出导出。 经过几个月的开发&#xff0c;v3 终于出来了&a…

力扣经典面试题——搜索旋转排序数组及最小值(二分搜索旋转数组系列一次搞定)

我们先来看看一个常规的二分搜索是如何进行的&#xff1f; 例如要找一个有序数组的某个数 【1&#xff0c;2&#xff0c;4&#xff0c;5&#xff0c;9&#xff0c;11&#xff0c;15&#xff0c;19】 我们要找11&#xff0c;每次我们分割半边判断然后看到底在哪一边。 这里为什么…

Neovim+ctag浏览、编辑源代码

Neovimctag浏览、编辑源代码 一 配置安装vim及 ctags vim应该可以不用装&#xff0c;直接装neovim&#xff0c;这里我是先装了vim再装的neovim Ctags必须装&#xff0c;后面用neovim telescope索引函数时才有效 vim复制系统粘贴板&#xff1a;vim输入模式下&#xff0c;按shi…

[kubernetes]Kube-APIServer

API Server API Server是什么 提供集群管理的REST API接口&#xff0c;包括认证授权、数据校验以及集群状态变更等提供其他模块之间的数据交互和通信的枢纽&#xff08;其他模块通过API Server查询或修改数据&#xff0c;只有API Server才直接操作etcd&#xff09; 访问控制…

开源自托管导航页配置服务Dashy本地搭建结合内网穿透远程访问

开源自托管导航页配置服务Dashy本地搭建结合内网穿透远程访问 简介1. 安装Dashy2. 安装cpolar3.配置公网访问地址4. 固定域名访问 简介 Dashy 是一个开源的自托管的导航页配置服务&#xff0c;具有易于使用的可视化编辑器、状态检查、小工具和主题等功能。你可以将自己常用的一…

Mongodb基础介绍与应用场景

NoSql 解决方案第二种 Mongodb MongoDB 是一款开源 高性能 无模式的文档型数据库 当然 它是NoSql数据库中的一种 是最像关系型数据库的 非关系型数据库 首先 最需要注意的是 无模式的文档型数据库 这个需要后面我们看到它的数据才能明白 其次是 最像关系型数据库的非关系型数据…

RK3588平台开发系列讲解(AI 篇)RKNN 数据结构详解

文章目录 一、rknn_sdk_version二、rknn_input_output_num三、rknn_tensor_attr四、rknn_perf_detail五、rknn_perf_run六、rknn_mem_size七、rknn_tensor_mem八、rknn_input九、rknn_output沉淀、分享、成长,让自己和他人都能有所收获!😄 📢本篇章主要讲解 RKNN 相关的数…

Autosar CAN开发02(入门Autosar)

Autosar架构 想起当时刚毕业进入公司之后&#xff0c;我的岗位是Autosar Bsw软件工程师。 看着这个什么“Autosar”&#xff0c;真的是一脸懵。 后来才知道&#xff0c;按照我的理解&#xff1a;Autosar就是一个软件架构。它分为ASW和BSW。ASW负责实现应用层功能&#xff08…

“React学习之旅:从入门到精通的点滴感悟“

在探索和学习React的过程中&#xff0c;我逐渐领悟到了前端开发的魅力与挑战。React&#xff0c;作为Facebook推出的开源JavaScript库&#xff0c;以其独特的思维方式和强大的功能&#xff0c;引领着前端开发的潮流。在这篇文章中&#xff0c;我将分享我的React学习心得&#x…

test assert-01-Google Truth 断言

Truth Truth 是用于Java测试的断言框架&#xff0c;灵感来自于FEST&#xff0c;并受到一些可扩展性需求的驱动&#xff0c;几乎完全由谷歌员工在业余时间编写&#xff0c;或者作为Java核心图书馆管理员的身份做出贡献。 作用 作为工程师&#xff0c;我们花费大部分的时间来阅…

《C++避坑神器·二十四》简单搞懂json文件的读写之根据键值对读写Json

c11 json解析库nlohmann/json.hpp文件整个代码由一个头文件组成 json.hpp&#xff0c;没有子项目&#xff0c;没有依赖关系&#xff0c;没有复杂的构建系统&#xff0c;使用起来非常方便。 json.hpp库在文章末尾下载 读写主要有两种方式&#xff0c;第一种根据键值对读写&…