基于.NET Standard的分布式自增ID算法--美团点评LeafSegment

概述

前一篇文章讲述了最流行的分布式ID生成算法snowflake,本篇文章根据美团点评分布式ID生成系统文章,介绍另一种相对更容易理解和编写的分布式ID生成方式。


实现原理


Leaf这个名字是来自德国哲学家、数学家莱布尼茨的一句话:

There are no two identical leaves in the world

"世界上没有两片相同的树叶"

设置数据表主键自增是最简单的方案,缺点也很明显:

  • 强依赖数据库,无法提供高可用

  • ID生成强依赖单台服务,无法横向扩展

很容易想到,如果我的应用每次申请一批id,插入数据时顺序取一个使用,即将耗尽时再去获取一批新的id,如此即可在一定程度上减弱与数据库的关系,同时将单台扩展延伸为获取id的步长。

负责发放ID的服务既可以使用MySQL服务,也可以使用Redis等服务。

640?wx_fmt=png


基于MySQL实现

首先我们建立一张数据库表


DROP TABLE IF EXISTS `leafsegment`;
CREATE TABLE `leafsegment`  (
  `biz_tag` varchar(255) NULL DEFAULT NULL,
  `max_id` bigint(20) NULL DEFAULT 0,
  `step` int(11) NULL DEFAULT 5000,
  `descvarchar(255)  NULL DEFAULT NULL,
  `update_time` datetime(0) NULL DEFAULT now()
);
-- 添加一条初始化数据
INSERT INTO `leafsegment` VALUES ('test', 0, 5000, '测试''2018-12-06 23:32:11');

数据库表如下图

640?wx_fmt=png

biz_tag:业务标记,不同业务使用不同的值,可以最大限度地利用ID

max_id:当前已经被申请走的最大Id

step:每次申请Id的步长

desc:业务内容描述

update_time:最新一次申请时间


应用如何获取一批有效ID呢?


Begin
UPDATE leafsegment SET max_id=max_id+step,update_time=now() WHERE biz_tag='test'
SELECT biz_tag, max_id, step FROM leafsegment WHERE biz_tag='test'
Commit

在一个事务周期内完成max_id的更新,和最新数据的获取,天然解决了资源竞争问题。

而后,我们就可以在应用中将[max_id-step+1,max_id]闭区间的所有值作为ID来使用了。


基于Redis实现

Redis的实现更为简单,基本原理是利用了Redis的IncrBy命令实现原子加N,具体实现流程无须赘述。


代码实现

首先我们定义一个传递Step(步长)和MaxId(最大值)的DTO


    /// <summary>
    /// 数据单元
    /// </summary>
    public class DataVal
    {
        /// <summary>
        /// 当前最大Id
        /// </summary>
        public long MaxId { getset; } = 1;
        /// <summary>
        /// 当前步长
        /// </summary>
        public int Step { getset; } = 1000;
    }

这个类仅负责将ID生发器的数据传入核心类LeafSegment中。核心类的具体实现如下代码:


    /// <summary>
    /// 美团的Leaf Segment 方案
    /// </summary>
    public class LeafSegment
    {
        private long _currentStep = long.MaxValue >> 1;
        private readonly Func<DataVal> _idGetAction;
        private readonly ConcurrentQueue<long> _data = new ConcurrentQueue<long>();
        private readonly AutoResetEvent _autoReset = new AutoResetEvent(false);
        /// <summary>
        /// 美团的Leaf Segment 方案
        /// </summary>
        /// <param name="idGetAction">Id生成策略</param>
        /// <param name="prefill">是否立即初始化数据</param>
        public LeafSegment(Func<DataVal> idGetAction,bool prefill=false)
        {
            _idGetAction = idGetAction;
            if (prefill)
            {
                FillData();
            }
            Loop();
        }
        /// <summary>
        /// 获取下一个Id
        /// </summary>
        /// <returns></returns>
        public long NextId()
        {
            _autoReset.Set();
            if (_data.TryDequeue(out var result))
            {
                return result;
            }
            throw new Exception("Resource not enough");
        }
        private void Loop()
        {
            (new Thread(_ =>
            {
                while (true)
                {
                    _autoReset.WaitOne();
                    FillData();
                }
            }) {IsBackground = true}).Start();
        }
        private void FillData()
        {
            //数量小于步长一半时触发拉新
            while (_data.Count < (_currentStep >> 1))
            {
                var tmp = _idGetAction.Invoke();
                _currentStep = tmp.Step;
                for (var i = tmp.MaxId - tmp.Step + 1; i <= tmp.MaxId; i++)
                {
                    _data.Enqueue(i);
                }
            }
        }
    }

此处需要注意的是LeafSegment构造函数的第一个入参IdGetAction是一个返回DataVal的回调函数,因此外部实现中可以在该回调函数中返回所需ID序列;

第二个参数prefill,该参数控制实例化LeafSegment对象时,是否同步调用获取ID区段,如该值为false,将会由启动的线程稍后补充数据。

完整实现、使用Demo以及benchmark测试请参见源代码:https://github.com/sampsonye/nice

原文地址: https://www.cnblogs.com/leafly/p/10135431.html

.NET社区新闻,深度好文,欢迎访问公众号文章汇总 http://www.csharpkit.com
640?wx_fmt=jpeg


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/318091.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Normal Data Structure Tricks

放一些比较常见的数据结构处理技巧&#xff0c;会一点一点补上来。 P3313 [SDOI2014]旅行 给你一个 \(10^5\) 长的序列&#xff0c;每个点有颜色 \(c\) 和权值 \(v\)。 有修改和查询操作&#xff0c;修改可以为修改一个点的颜色或权值&#xff0c;查询一段区间内颜色为 \(c\) 的…

[费用流专题]Going Home,Minimum Cost,工作安排

文章目录T1&#xff1a;Going Home题目题解CODET2&#xff1a;Minimum Cost题目题解CODET3&#xff1a;工作安排题解CODET1&#xff1a;Going Home 题目 On a grid map there are n little men and n houses. In each unit time, every little man can move one unit step, e…

2021牛客OI赛前集训营-提高组(第五场)C-第K排列【dp】

正题 题目链接:https://ac.nowcoder.com/acm/contest/20110/C 题目大意 一个长度为nnn的字符串SSS&#xff0c;SSS中存在一些???&#xff0c;有N/O/I/PN/O/I/PN/O/I/P四个字符作为字符集&#xff0c;每对相邻的字符会产生不同的贡献&#xff0c;现在要求所有权值不小于xxx…

Sky Garden

Sky Garden 题意&#xff1a; 画n个圆和m条直线&#xff0c;圆的中心点为(0,0)&#xff0c;圆的半径分别从1到n&#xff0c;而直线都必经过(0,0)点&#xff0c;并且所有直线会把每个圆平均分成2m个面积相等的区域&#xff0c;直线会和圆形成交点&#xff0c;求所有交点两两经…

IdentityServer4-前后端分离的授权验证(六)

上两节介绍完Hybrid模式在MVC下的使用&#xff0c;包括验证从数据获取的User和Claim对MVC的身份授权。本节将介绍Implicit模式在JavaScript应用程序中的使用&#xff0c;使用Node.jsExpress构建JavaScript客户端&#xff0c;实现前后端分离。本节授权服务和资源服务器基于第四和…

YBTOJ洛谷P4055:游戏(二分图匹配)

文章目录解析解析代码解析 题目描述 小 AA 和小 YY 得到了《喜羊羊和灰太狼》的电影票&#xff0c;都很想去观看&#xff0c;但是电影票只有一张&#xff0c;于是他们用智力游戏决定胜负&#xff0c;赢得游戏的人可以获得电影票。 在 N \times MNM 的迷宫中有一个棋子&#x…

人类智慧贪心

题意看起来很清新&#xff0c;代码实现也基本在入门难度&#xff0c;但是为什么我不会&#xff01; 另&#xff1a;反悔贪心 <details><summary>$\texttt{solution}$</summary></details> P2672 [NOIP2015 普及组] 推销员 $\texttt{solution}$ 发现答案…

2021牛客OI赛前集训营-提高组(第五场)D-牛牛的border【SAM】

正题 题目链接:https://ac.nowcoder.com/acm/contest/20110/D 题目大意 求一个长度为nnn的字符串的所有子串的borderborderborder长度和。 1≤n≤1051\leq n\leq 10^51≤n≤105 解题思路 考虑到两个相同的子串会作为一个子串的borderborderborder&#xff0c;所以问题可以变…

周末狂欢赛3(跳格子,英雄联盟,排序问题)

文章目录T1&#xff1a;跳格子题目题解CODET2&#xff1a;英雄联盟题目题解CODET3&#xff1a;排序问题题目题解CODET1&#xff1a;跳格子 题目 n 个格子排成一列&#xff0c;一开始&#xff0c;你在第一个格子&#xff0c;目标为跳到第 n 个格子。在每个格子 i 里面你可以做…

YBTOJ洛谷P4298:祭祀(二分图匹配)

文章目录题目描述解析解析题目描述 在遥远的东方&#xff0c;有一个神秘的民族&#xff0c;自称Y族。他们世代居住在水面上&#xff0c;奉龙王为神。每逢重大庆典&#xff0c; Y族都会在水面上举办盛大的祭祀活动。我们可以把Y族居住地水系看成一个由岔口和河道组成的网络。每…

想让AI在企业落地?微软最新Azure AI不容错过!

Microsoft Connect(); 2018 如期举行&#xff0c;大会上发布的众多顶尖技术&#xff0c;瞬间引爆了全球&#xff01;AI的高速发展&#xff0c;正在掀起新一波的创新浪潮。对于很多企业来说&#xff0c;AI创造的巨大价值&#xff0c;是不容错过的风口&#xff0c;大会上&#xf…

点分治

点分治常用于树上路径统计等问题。 点分治 每次分治过程大致如下&#xff1a; 我们先求出当前连通块树的重心&#xff1b; 处理与重心有关的答案&#xff1b; 删除重心 递归处理与重心相连的子连通块。 伪代码如下&#xff1a; void solve(int x) {Find1(x,0),Find2(x,0); …

P1852-跳跳棋【思维,差分,二分】

正题 题目链接:https://www.luogu.com.cn/problem/P1852 题目大意 一个数轴上有333个跳棋&#xff0c;你每次可以将一个跳棋跳到另一个跳棋对称的位置&#xff0c;但是不能一次跨过两个棋子。给出初始状态&#xff0c;和目标状态&#xff0c;求最小步数。 坐标的绝对值不超过…

[费用流]数字配对,新生舞会

文章目录T1&#xff1a;数字配对题目题解CODET2&#xff1a;新生舞会题目题解CODE&#xff08;最大费用最大流版&#xff09;CODE&#xff08;最小费用最大流版&#xff09;T1&#xff1a;数字配对 题目 有 n 种数字&#xff0c;第 i 种数字是 ai、有 bi 个&#xff0c;权值是…

AcWing 253. 普通平衡树

您需要写一种数据结构&#xff08;可参考题目标题&#xff09;&#xff0c;来维护一些数&#xff0c;其中需要提供以下操作&#xff1a; 插入数值x。删除数值x(若有多个相同的数&#xff0c;应只删除一个)。查询数值x的排名(若有多个相同的数&#xff0c;应输出最小的排名)。查…

.NET Core实战项目之CMS 第十三章 开发篇-在MVC项目结构介绍及应用第三方UI

作为后端开发的我来说&#xff0c;前端表示真心玩不转&#xff0c;你如果让我微调一个位置的样式的话还行&#xff0c;但是让我写一个很漂亮的后台的话&#xff0c;真心做不到&#xff0c;所以我一般会选择套用一些开源UI模板来进行系统UI的设计。那如何套用呢&#xff1f;今天…

YBTOJ:伞兵空降(二分图匹配)

文章目录题目描述解析代码题目描述 有n个点和m条边的有向无环图&#xff0c;在这张图上的某些点上空投伞兵&#xff0c;使伞兵可以走到图上所有的点。 且每个点只能被一个伞兵走一次。问至少需要放多少伞兵。 解析 考虑一开始给每个点分配一个伞兵&#xff0c;最差就是这样n…

CF388C-Fox and Card Game【博弈论,结论】

正题 题目链接:https://www.luogu.com.cn/problem/CF388C 题目大意 有nnn堆卡片&#xff0c;第iii堆有sis_isi​张&#xff0c;给出每张卡的权值。现在先手选择一堆取走堆底的牌&#xff0c;然后后手选择一堆取走堆顶的牌&#xff0c;直到所有牌被取走。在双方都要求最大化取…

[FFT/IFFT]快速傅里叶(逆)变化 + 递归和递推模板

现在时间是2021-2-2&#xff0c;重新回来看2019学习的一知半解的FFTFFTFFT&#xff0c;又有了新的理解 所以修改了以往写过的文章&#xff0c;并增添些许内容 因为过去一年多&#xff0c;上了高中&#xff0c;学的知识多了些&#xff0c;以前不懂的有些东西现在看来挺简单的&am…

软件开发模式:瀑布与敏捷

瀑布和敏捷不是什么新概念&#xff0c;这里只是个人在团队合作中不得不去思考而做的归纳和总结&#xff0c;同时记录自己曾经踩过的坑&#xff0c;新瓶装旧酒&#xff0c;希望对你有所启发。瀑布模式瀑布模型是比较传统一种开发模式&#xff0c;特别是在2B的传统企业&#xff0…