如何校验内存数据的一致性,DynamicExpresso 算是帮上大忙了

一:背景

1. 讲故事

记的在上一家公司做全内存项目的时候,因为一些关键表会在程序 startup 的时候全量灌入到内存中,但随着时间的推移,内存和数据库的同步偶尔会出现数据差异的情况,伴随着就是运营那边报过来的 bug,检查数据库的数据完整性很简单,直接写一些 sql 验证一下就好了,但校验内存中的数据就非常麻烦了,因为你不能像写 sql 一样直接去查生产中的内存集合,那怎么办呢?为了方便演示问题,先上一段演示代码:

class Program{static void Main(string[] args){var tradeList = new List<Trade>(){new Trade(){TradeID=1, TradeTitle="交易1", Created=Convert.ToDateTime("2020/8/1"), CustomerID=1},new Trade(){TradeID=2, TradeTitle="交易2", Created=Convert.ToDateTime("2020/8/5"),CustomerID=2},new Trade(){TradeID=3, TradeTitle="交易3", Created=Convert.ToDateTime("2020/8/10"), CustomerID=3}};}}class Trade{public int TradeID { get; set; }public string TradeTitle { get; set; }public DateTime Created { get; set; }public int CustomerID { get; set; }}

上面的 tradeList 就是内存中的集合,现在有一个问题,我想查询一下 trade 表中 CustomerID in (1,2,10) && Created <= '2020-08-01' 的记录是否和内存中的 tradelist 一致。

用 sql 验证太简单了,直接在查询分析器里面写一下sql 搞定,如下图:

那在 UI 上 怎么验证呢?

二:寻找解决方法

1. 在UI上自定义高级查询

这个也是大家最容易想到的,使用多个 if 叠加查询条件,如下代码所示:

static void Main(string[] args){var tradeList = new List<Trade>(){new Trade(){TradeID=1, TradeTitle="交易1", Created=Convert.ToDateTime("2020/8/1"), CustomerID=1},new Trade(){TradeID=2, TradeTitle="交易2", Created=Convert.ToDateTime("2020/8/5"),CustomerID=2},new Trade(){TradeID=3, TradeTitle="交易3", Created=Convert.ToDateTime("2020/8/10"), CustomerID=3}};IEnumerable<Trade> query = tradeList;//UIvar queryCustomerIDList = new List<int>() { 1, 2, 10};var queryCreated = "2020-08-01";if (queryCustomerIDList.Count > 0){query = query.Where(m => queryCustomerIDList.Contains(m.CustomerID));}if (string.IsNullOrEmpty(queryCreated)){query = query.Where(m => m.Created <= Convert.ToDateTime(queryCreated));}//最后的结果var list = query.ToList();}

问题貌似是可以解决,但是这种用 if 叠加的方式不觉得太不灵活了吗?如果客户心情不好,又来了一个 TradeID between 1 and 10 的筛选条件,那上面的代码是不是还得加一个 TradeID 的判断 ?太麻烦了,还得继续寻找更灵活的姿势。

2. 使用DataTable

哈哈,大家看到 DataTable 是不是有一点懵逼,可不要小瞧这玩意,人家可是直接支持 sql 查询的哦,这灵活性不容小觑哈,上一段代码说话:

static void Main(string[] args){var tradeList = new List<Trade>(){new Trade(){TradeID=1, TradeTitle="交易1", Created=Convert.ToDateTime("2020/8/1"), CustomerID=1},new Trade(){TradeID=2, TradeTitle="交易2", Created=Convert.ToDateTime("2020/8/5"),CustomerID=1},new Trade(){TradeID=3, TradeTitle="交易3", Created=Convert.ToDateTime("2020/8/10"), CustomerID=3}};var table = CopyToDataTable(tradeList);var query = table.Select("CustomerID in (1,2,10) and Created <= '2020-08-01' and TradeID >= 1 and TradeID <= 10").Select(m => new Trade(){TradeID = Convert.ToInt32(m[0]),TradeTitle = Convert.ToString(m[1]),Created = Convert.ToDateTime(m[2]),CustomerID = Convert.ToInt32(3)}).ToList();}public static DataTable CopyToDataTable<T>(IEnumerable<T> array){var ret = new DataTable();foreach (PropertyDescriptor dp in TypeDescriptor.GetProperties(typeof(T)))ret.Columns.Add(dp.Name);foreach (T item in array){var Row = ret.NewRow();foreach (PropertyDescriptor dp in TypeDescriptor.GetProperties(typeof(T)))Row[dp.Name] = dp.GetValue(item);ret.Rows.Add(Row);}return ret;}

是不是很强大,直接将文本化的 sql 塞入到 DataTable 中,你想什么样的查询你就写什么样的 sql 就 ok 啦,当然,理论归理论,在我的场景中肯定是不会这么玩的,毕竟内存中的 trade 有上千万行,转成 DataTable 不是给自己挖坑嘛,那有没有其他的方式呢?

3. 使用 表达式树 (ExpressionTree)

我想很多人看到 表达式树 都会退避三舍,虽然这玩意很强大,但是太复杂了,它会将你的查询语句拆解成树中的节点从而构建一棵非常复杂的树结构,其实 DataTable 对 sql语句的解析也是在内存中构建了一棵解析树,所以这玩意太反人类了,比如你要构建 i > 5 的查询,你需要下面这样的硬编码,这还是非常简单的哈,复杂的会让你吐血。

            ParameterExpression param = Expression.Parameter(typeof(int), "i");ConstantExpression constExp = Expression.Constant(5, typeof(int));BinaryExpression greaterThan = Expression.GreaterThan(param, constExp);Expression<Func<int, bool>> f = Expression.Lambda<Func<int, bool>>(greaterThan, param);Func<int, bool> mydelegate = f.Compile();Console.WriteLine(mydelegate(5));

从图中可以看到,5>5 = False 是没有问题的,既然表达式树是可以解决类似这样的场景,聪明的你应该会想到,开源社区是否又类似封装好的 ExpressionTree 开发包呢?说实话,还真有。。。

4. DynamicExpresso 开发工具包

开源大法好,github地址:https://github.com/davideicardi/DynamicExpresso , 这玩意实现了 将文本化的 C# 语句 动态转换成 delegate,这句话是什么意思呢?大家可以看一下这张图:

从上图可以看到,你可以 写一些文本化的 C# 语句,然后经过 DynamicExpresso 处理后转换成了可执行 delegate,如果你没看懂,我用代码表示一下,如下图:

其中: 30 = 5 * 8 / 2 + 10 ,重点在于这里的 数学表达式 是文本的,有了这个思路,那我是不是也可以将 tradeList 的查询条件文本化表示,如下代码:

var interpreter = new Interpreter();interpreter.Reference(typeof(System.Linq.Enumerable));interpreter.SetVariable("arr", new int[] { 1, 2, 10 });string whereExpression = "(trade.CustomerID == 1 || trade.CustomerID==2 || trade.CustomerID==10) && " +"trade.Created <= Convert.ToDateTime(\"2020-08-01\") &&" +"trade.TradeID >= 1 && " +"trade.TradeID <=10";Func<Trade, bool> queryFunc = interpreter.ParseAsDelegate<Func<Trade, bool>>(whereExpression, "trade");var list = tradeList.Where(queryFunc).ToList();var i = Enumerable.Contains(new int[] { 1, 2, 3 }, 3);

问题搞定,还是比较完美的 ????????????

三:总结

总的来说,有了DynamicExpresso ,我就可以将 文本化的 C#语句 直接丢给 Where 条件就可以灵活检索,完美的解决了在内存中查询 tradelist 数据分布情况,当然目前的 DynamicExpresso 还有很多语句不支持,不过都在完善中,期待大家支持点赞加贡献。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/308178.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

临界表储存图的数据(思路+详解+图示)

一&#xff1a;前言 当我们考虑用邻接表储存数据的时候&#xff0c;一定会拿邻接矩阵和其进行比较。邻接矩阵在储存数量较小的数据是耗费的内存是要高于邻接表的。那么我们在做题的时候如果出现内存超限&#xff0c;那就要注意了&#xff0c;可以考虑换用邻接表来储存数据了 …

译 | 在 Azure SQL 上节约成本的八种方法

点击上方关注“汪宇杰博客”原文&#xff1a;John JG Chirapurath翻译&#xff1a;汪宇杰导语当今世界&#xff0c;企业正崭露头角&#xff0c;渴望重整与重建&#xff0c;但仍处于不确定的时期。节约成本并将开支重新分配到最重要的位置与以往一样重要&#xff0c;许多公司将云…

7-2 单源最短路径 (10 分)(思路+详解+邻接表做法)Come Brather!!!!!!!!!!

一&#xff1a;前言 本次题解先展示用邻接矩阵做的&#xff0c;但其会出现内存超限&#xff0c;因为确实是临界矩阵在数据很大的时候相比临界表是耗内存的&#xff0c;但是以前习惯用临界矩阵了&#xff0c;所以一上来就用临界矩阵做了&#xff0c;后来上网查了后知道邻接矩阵…

在.NET Core中使用MongoDB明细教程(3):Skip, Sort, Limit, Projections

到目前为止&#xff0c;我们已经讨论了创建文档, 检索文档&#xff0c;现在让我们来研究一下文档排序&#xff0c;指定要跳过或限制返回的文档数量&#xff0c;以及如何进行投影。此篇文章中的实例代码摘录自原文&#xff0c;未像前几篇文章一样进行实际代码的验证。作者&#…

map容器的使用 逆序遍历map容器当中的数据

一&#xff1a;前言 这个逆序遍历是将map容器的迭代器进行了变化&#xff0c;reverse_iterator逆向遍历的迭代器 &#xff0c;它需要 rbegin()和rend()方法指出反向遍历的 起始位置和终止位置。 二&#xff1a;上码演示 #include<bits/stdc.h> using namespace std;in…

递归优化的这三种方式你知道吗?

估计找工作的&#xff0c;都会碰到面试官老是问道“递归算法”&#xff0c;感同身受&#xff0c;前段时间面试的时候&#xff0c;就有一家问道这个问题&#xff0c;是非常典型的问题。在前面一篇世界上有哪些代码量很少&#xff0c;但很牛逼很经典的算法或项目案例&#xff1f;…

7-7 硬币找钱问题 (10 分)(思路+详解+double类型数据的处理)Come baby!!!!!!!!!!!!!!!!!!!!

一&#xff1a;题目 设有6 种不同面值的硬币&#xff0c;各硬币的面值分别为5 分&#xff0c;1 角&#xff0c;2 角&#xff0c;5 角&#xff0c;1 元&#xff0c;2元。现要用这些面值的硬币来购物。在购物中希望使用最少个数硬币。例如&#xff0c;1 次购物需要付款0.55 元&a…

7-6 区间覆盖 (10 分)(思路+详解)Come 宝!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!

一&#xff1a;题目 设 x 1 ​ ,x 2 ​ ,…,x n ​ 是实直线上的n个点。用固定长度的闭区间覆盖这n个点&#xff0c;至少需要多少个这样的固定长度闭区间&#xff1f; 输入格式: 第1行有2个正整数n(n<50)和k&#xff0c;表示有n个点&#xff0c;且固定长度闭区间的长度为k…

你有 GitHub 帐号么?平时都用它来干什么?

这是头哥侃码的第212篇原创上个月&#xff0c;我写了一篇 #与抑郁症斗争的那些年&#xff0c;我也曾想去死一死#&#xff0c;分享了自己在创业失败那段时间的抑郁焦虑的经历。很显然&#xff0c;这已经不是我第一次把自己的悲惨经历写出来了。在文章推送后&#xff0c;有读者在…

7-5 汽车加油问题 (20 分)(思路+详解)Come 宝!!!!!!!!!!!!!

一&#xff1a;题目 题目来源&#xff1a;王晓东《算法设计与分析》 一辆汽车加满油后可行驶 n公里。旅途中有若干个加油站。设计一个有效算法&#xff0c;指出应 在哪些加油站停靠加油&#xff0c;使沿途加油次数最少。 输入格式: 第一行有 2 个正整数n和 k&#xff08;k&l…

在生产环境下处理EFCore数据库迁移的五种方法

在生产环境下处理EFCore数据库迁移的五种方法原文链接&#xff1a;https://www.thereformedprogrammer.net/handling-entity-framework-core-database-migrations-in-production-part-1/作者:Jon P Smith&#xff0c;是《 Entity Framework Core in Action》的作者安德鲁洛克&a…

计算机系统结构答案汤志忠,计算机系统结构(第2版)郑伟明汤志忠课后习题答案以及例题收录.doc...

计算机系统结构(第2版)郑伟明汤志忠课后习题答案以及例题收录.doc 1计算机系统结构第2版郑伟明汤志忠编著清华大学出版社习题解答21目录11第一章P331719(透明性概念)&#xff0c;112118(AMDAHL定律)&#xff0c;119、121、124(CPI/MIPS)12第二章P12423、25、26(浮点数性能)&…

7-1 活动选择问题 (25 分)(思路+详解+扩展)宝 今天你AC了吗!!!

一&#xff1a;题目 假定一个有n个活动(activity)的集合S{a 1 ​ ,a 2 ​ ,…,a n ​ }&#xff0c;这些活动使用同一个资源&#xff08;例如同一个阶梯教室&#xff09;&#xff0c;而这个资源在某个时刻只能供一个活动使用。每个活动a i ​ 都有一个开始时间s i ​ 和一个结…

初识ABP vNext(5):ABP扩展实体

点击上方蓝字"小黑在哪里"关注我吧扩展实体路由整理前言上一篇实现了前端vue部分的用户登录和菜单权限控制&#xff0c;但是有一些问题需要解决&#xff0c;比如用户头像、用户介绍字段目前还没有&#xff0c;下面就来完善一下。开始因为用户实体是ABP模板自动生成的…

7-8 最优服务次序问题 (10 分)

一 &#xff1a;题目 设有n 个顾客同时等待一项服务。顾客i需要的服务时间为 t i ​ (1<i<n) 。应如何安排n个顾客的服务次序才能使平均等待时间达到最小&#xff1f;平均等待时间是n 个顾客等待服务时间的总和除以n。 输入格式: 第一行是正整数n(1<n<1000)&…

.NET Core + K8S + Apollo 玩转配置中心

1.引言Apollo&#xff08;阿波罗&#xff09;是携程框架部门研发的分布式配置中心&#xff0c;能够集中化管理应用不同环境、不同集群的配置&#xff0c;配置修改后能够实时推送到应用端&#xff0c;并且具备规范的权限、流程治理等特性&#xff0c;适用于微服务配置管理场景。…

计算机格式化后数据恢复的基础,电脑硬盘格式化后还能恢复吗

电脑硬盘是电脑运行的基础固件&#xff0c;我们使用电脑需要依赖它储存文件、运行软件等。那么在使用电脑的过程中你有没有遇到这样的问题&#xff1a;当打开一个电脑磁盘分区时&#xff0c;该分区无法使用并提示格式化&#xff0c;这时候一般的小伙伴是不是都手欠格式化硬盘了…

路线错误的教训对如今的模范企业也有借鉴意义

此前&#xff0c;倪光南院士对L公司如今的困境做了深刻的剖析&#xff0c;那就是“路线不对”、“知识产权0股份”。“路线不对”指的是L公司放弃了技术路线&#xff0c;选择了“造不如买”&#xff0c;玩组装和贸易。几十年如一日依附于Wintel体系&#xff0c;“跟在洋人身后吃…

7-3 最小生成树-kruskal (10 分)(思路+详解+并查集详解+段错误超时解决)宝 Come

一&#xff1a;前言 本题需要用到并查集的知识&#xff0c;建议先学完并查集后再看看本题 二&#xff1a;题目 题目给出一个无向连通图&#xff0c;要求求出其最小生成树的权值。 温馨提示&#xff1a;本题请使用kruskal最小生成树算法。 输入格式: 第一行包含两个整数 N(1&…

计算机等级delphi取消,计算机二级DELPHI控件:DELPHI过滤记录的实现方法

所谓过滤就是从表中选取满足特定条件的部分记录。过滤记录首先要通过Filter。属性设置过滤条件&#xff0c;然后将Filtered属性设置为True&#xff0c;即可从数据集组件连接的表中过滤出满足条件的记录。1&#xff0e;Filter属性Filter属性用于设置过滤条件&#xff0c;它是一个…