精确掌控并发:分布式环境下并发流量控制的设计与实现(二)

3. 固定窗口

参考:精确掌控并发:分布式环境下并发流量控制的设计与实现(一)-CSDN博客

4. 滑动窗口

滑动窗口算法是一种更为灵活的流量控制方案,它比固定窗口算法能更平滑地处理突发流量。在滑动窗口中,时间窗口是重叠的,这意味着流量的计算是基于过去的一段连续时间内发生的事件。

工作流程:

  1. 窗口定义:确定窗口的大小,例如1秒钟,并设置窗口的滑动间隔,比如100毫秒。
  2. 计数与滑动:每个窗口都有自己的计数器。当一个新请求到达时,增加当前时间窗口及其前面相邻的窗口的计数。
  3. 限制检查:如果任何连续时间段内的请求总数超过阈值,则拒绝新的请求。
  4. 窗口更新:随着时间的推移,不断向前滑动窗口,并更新相应的计数器。

实现细节:

滑动窗口可以通过队列或循环数组来实现。每个窗口对应队列中的一个元素,记录该窗口期间的请求数。当时间滑动时,更新队列头部的元素,并可能将旧的元素出队。

例如,在Redis中,可以使用列表或有序集合来模拟这种滑动窗口。下面是一个Rdis实现的示例,使用有序集合(sorted set)来实现了滑动时间窗口算法:


public class RateLimiter {public static boolean isAllowed(String channel) {long currentTimeMillis = Instant.now().toEpochMilli();String key = "rate_limiter:" + channel;try (Jedis jedis = new Jedis(REDIS_HOST, REDIS_PORT)) {// 使用Redis的多个命令来实现滑动窗口jedis.zremrangeByScore(key, 0, currentTimeMillis - WINDOW_SIZE_IN_SECONDS * 1000);long requestCount = jedis.zcard(key);if (requestCount < MAX_REQUESTS) {jedis.zadd(key, currentTimeMillis, "" + currentTimeMillis);jedis.expire(key, WINDOW_SIZE_IN_SECONDS);return true;} else {return false;}}}
}

每个请求都以其发生的时间戳作为分数存储在集合中。通过移除旧于当前时间窗口的请求来维护滑动窗口。通过检查集合中的元素数量,以确定是否超过了设定的最大请求数。

  • zremrangeByScore 用于移除窗口之外的旧请求。
  • zcard 获取当前窗口内的请求数量。
  • zadd 将新请求添加到集合中。

应用场景:

  • API限流:适用于需要平滑处理突发流量的API服务。
  • 动态调整:由于滑动窗口能够更精确地反映最近的流量趋势,它适用于需要动态调整限流策略的场景。比如支付渠道成功率的监控和流量的波动。这个后面单独开个篇章来讲。

注意事项:

  • 资源消耗:相比固定窗口算法,滑动窗口可能需要更多的计算和存储资源。
  • 时间同步:在分布式系统中,需要确保不同节点之间的时间同步,以保证流量计算的准确性。如果应用服务器之间的时间不同步,那么流量就会计算错误。

<未完待续>

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/615691.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

简约的网易云音乐播放器SPlayer

今天给大家介绍另一款音乐播放器 SPlayer &#xff0c;如果你对第三方网易云音乐播放器感兴趣&#xff0c;可以去看看老苏之前写的其他项目 文章传送门&#xff1a; 高颜值的第三方网易云播放器YesPlayMusic&#xff08;续&#xff09;跨平台的第三方网易云播放器Radishes 什么…

自定义shiro标签实现hasAnyPermission

前言 如何自定义hasAnyPermission 标签 实现hasAnyPermission 实现 public class HasAnyPermssionTag extends PermissionTag {public HasAnyPermssionTag() {}protected boolean showTagBody(String p) {String[] arr p.replaceAll("\r\n", "").repl…

mongo统计数据库和集合大小

1. 数据库维度大小统计 按GB统计 db.stats( { scale: 1024*1024*1024 } )统计结果 {"db" : "test","collections" : 22,"views" : 0,"objects" : 63762050,"avgObjSize" : 405.3638712212045,"dataSize&q…

通义千问协助分析openHarmony内核编译故障记录

drivers/hdf/khdf/manager/../../../..//framework/utils/src/hdf_sbuf.c:271:6: 错误&#xff1a; ‘-mgeneral-regs-only’ is incompatible with floating-point argument 这个编译错误提示指出&#xff0c;在编译源文件 "hdf_sbuf.c"&#xff08;位于 "driv…

入选人民网2023普惠金融优秀案例,合合信息旗下启信宝赋能银行对公信贷数字化转型

普惠金融承载着改善民生、促进实体经济发展的重要职责&#xff0c;近十年来&#xff0c;普惠金融发展取得了长足进步&#xff0c;多层次普惠金融供给格局逐步确立。银行作为金融体系的重要组成部分&#xff0c;高效工作是构建普惠金融体系的重要推动力。 立足于十年的历史节点…

由浅入深走进Python异步编程【asyncio上层api】(含代码实例讲解 || create_task,gather,wait,wait_for)

写在前面 从底层到第三方库&#xff0c;全面讲解python的异步编程。这节讲述的是asyncio实现异步的上层api&#xff0c;详细了解需要配合上下一节观看哦。纯干货&#xff0c;无概念&#xff0c;代码实例讲解。 本系列有6章左右&#xff0c;点击头像或者专栏查看更多内容&…

GaussDB技术解读系列:5分钟带您了解DRS录制回放

一、什么是DRS录制回放&#xff1f; DRS录制回放是将源数据库发生的真实业务流量&#xff0c;在目标数据库模拟执行&#xff0c;从而观察和检验目标数据库的功能和性能表现。录制回放主要分为录制、回放两个阶段&#xff0c;录制过程是从源数据库上将所需时间段内的全部SQL原语…

Spring系列学习九、Spring MVC的使用

Spring MVC的使用 一、MVC设计模式概述二、Spring MVC的工作原理三、HandlerMapping和ViewResolver四、 处理表单、文件上传和异常处理五、前端页面&#xff08;View&#xff09;编写1. 引入Thymeleaf模板引擎2.页面相关的示例代码3.后端处理代码编写 六、总结 本章我们将与大家…

使用RoboBrowser库实现JD.com视频链接爬虫程序

短视频已成为这个时代必不可少的内容&#xff0c;而这些视频内容往往散布在各大网站上。对于一些研究人员、数据分析师或者普通用户来说&#xff0c;获取特定网站上的视频链接是一项常见的需求。本文将介绍如何利用Python编程语言中的RoboBrowser库来编写一个爬虫程序&#xff…

AI音乐探索

好的网站推荐 AI定制背景音乐下载平台-BGM猫 网易天音 - 一站式AI音乐创作工具 - 官网 https://app.suno.ai/create/ 乐理知识 网易天音 - 一站式AI音乐创作工具 - 官网 分类探索中 婚礼类 音乐风格关键词&#xff1a; wedding,Canon,classical music,60 BPM,piano,h…

vue3中el-table实现表格合计行

el-table标签上加属性 show-summary :summary-method“getSummary” <el-table :data"formDate.scoreList" style"width:100%;height: 96%;" stripe show-summary:summary-method"calculateSummary" :header-cell-style"{ textAlign: ce…

Pytest自动化测试

目录 一、Pytest如何安装 二、Pytest如何编写用例 三、Pytest如何运行用例 四、Pytest如何实现参数化 五、Pytest如何跳过和标记用例 六、Pytest如何失败重执行 七、Pytest如何使用夹具 八、Pytest如何进行夹具共享 九、Pytest如何设置夹具作用域 Pytest是Python中最流…

Nvidia 推出了一款新型芯片,专为在家中运行人工智能而设计

每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗&#xff1f;订阅我们的简报&#xff0c;深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同&#xff0c;从行业内部的深度分析和实用指南中受益。不要错过这个机会&#xff0c;成为AI领…

PyTorch 各种池化层函数全览与用法演示

目录 torch.nn.functional子模块Pooling层详解 avg_pool1d 用法与用途 参数 注意事项 示例代码 avg_pool2d 用法与用途 参数 注意事项 示例代码 avg_pool3d 用法与用途 参数 注意事项 示例代码 max_pool1d 用法与用途 参数 注意事项 示例代码 max_pool2d…

Selenium自动化测试面试必备:高频面试题及答案整理

自动化测试已经成为现代软件测试中不可或缺的一部分。在自动化测试中&#xff0c;Selenium是最受欢迎的工具之一&#xff0c;因为它可以模拟用户与Web应用程序的交互。因此&#xff0c;对于许多测试工程师来说&#xff0c;熟练掌握Selenium框架是非常重要的。如果你正在寻找一份…

外汇天眼:Broadridge与Boring Money合作推出资产管理公司的消费者责任解决方案

Boring Money&#xff0c;一家金融数据和见解公司&#xff0c;与全球金融科技领导者Broadridge Financial Solutions, Inc. (NYSE:BR)合作&#xff0c;为资产管理公司提供了一个汇总产品分析和消费者视角的数据与见解的单一信息源&#xff0c;从而全面满足英国《消费者义务》法…

代码随想录算法训练营Day23|669. 修剪二叉搜索树、108.将有序数组转换为二叉搜索树、538.把二叉搜索树转换为累加树

目录 669. 修剪二叉搜索树 前言 思路 递归法 108.将有序数组转换为二叉搜索树 前言 递归法 538.把二叉搜索树转换为累加树 前言 递归法 总结 669. 修剪二叉搜索树 题目链接 文章链接 前言 本题承接昨天二叉搜索树的插入和删除操作题目&#xff0c;要对整棵二叉搜索树…

Ubuntu16.04升级到18.04--检查更新时出现问题--解决方法

一开始装Ubuntu时装的是16.04&#xff0c;后来装cuda时&#xff0c;发现核是4.15的&#xff0c;需要升级到18.04&#xff0c;于是输入sudo do-release-upgrade更新时&#xff0c;发现错误&#xff1a; no module named DistUpgrade google后发现帖子&#xff1a; https://ask…

移动通信系统关键技术多址接入OFDM学习(7)

1.OFDM是一种多载波传输方案&#xff0c;可以将高速串行传输转换为低速并行传输&#xff0c;增加符号持续时间&#xff0c;抗多径干扰能力强。 串行和并行有着不同的比特持续时间&#xff0c;同时拥有相同的数据速率。因此&#xff0c;虽然OFDM将串行信号转换为并行信号&#…

HTTP基本概念

HTTP&#xff08;HyperText Transfer Protocol&#xff1a;超文本传输协议&#xff09;是一种用于分布式、协作式和超媒体信息系统的应用层协议。 简单来说就是一种发布和接收 HTML 页面的方法&#xff0c;被用于在 Web 浏览器和网站服务器之间传递信息。 HTTP 默认工作在 TCP…