大量SQL的解决方案——sdmap

大量SQL的解决方案——sdmap

最近看到群里面经常讨论大型应用中 SQL的管理办法,有人说用 EFEFCore,但很多人不信任它生成 SQL的语句;有人说用 Dapper,但将 SQL写到代码中有些人觉得不合适;有人提出用存储过程,但现在舆论纷纷反对这种做法;有人提出了 iBatis.NET,它可以配置确保高灵活性高性能,也提供动态 SQL的功能,但已经多年没有维护。

在几年前,我们某项目中就有总共 4MB以上的 SQL语句文本,我也注意到产品做大后会,一定出现这个问题,所以我就依照 MyBatis的核心思想,支持可配置、动态 SQL,但去除了臃肿的 xml,自己实现了一套简单好用的语法,然后开源了出来,名字就叫 sdmap

在我的介绍页面上已经指出, sdmap的如下特性:

  • 非常简单的语法来描述动态 SQL

  • 使用了 EmitCIL来确保性能;

  • 有 VisualStudio插件支持,实现了代码高亮、代码折叠、快速导航的特性;

  • 支持所有主流数据库,如 MySQL、 SQLServer、 SQLite等(只要 Dapper能支持);

  • 可以扩展支持非关系型数据库,如 Neo4j

  • 单元测试全覆盖。

语法

如图: 

该语法有如下特点:

  • 用 namespace关键字表达名字空间;

  • 用 sql关键字表示模板语句;

  • 用 #号的特殊语法可以进行一些判断,里面有 isEqual<>、 #isNotEmpty<>等特殊语法;

  • 用 #include<>,可以包含另一个 SQL语句;

  • 语句可以嵌套, sql{}中可以包含另一个 sql{}

我们可以对比一下 iBatisMyBatis的语法:

<!DOCTYPE mapperPUBLIC "-//mybatis.org//DTD Mapper 3.0//EN""http://mybatis.org/dtd/mybatis-3-mapper.dtd">
<mapper namespace="org.apache.ibatis.submitted.rounding.Mapper"><resultMap type="org.apache.ibatis.submitted.rounding.User" id="usermap"><id column="id" property="id"/><result column="name" property="name"/><result column="funkyNumber" property="funkyNumber"/><result column="roundingMode" property="roundingMode"/></resultMap><select id="getUser" resultMap="usermap">select * from users</select><insert id="insert">insert into users (id, name, funkyNumber, roundingMode) values (#{id}, #{name}, #{funkyNumber}, #{roundingMode})</insert><resultMap type="org.apache.ibatis.submitted.rounding.User" id="usermap2"><id column="id" property="id"/><result column="name" property="name"/><result column="funkyNumber" property="funkyNumber"/><result column="roundingMode" property="roundingMode"typeHandler="org.apache.ibatis.type.EnumTypeHandler"/></resultMap><select id="getUser2" resultMap="usermap2">select * from users2</select><insert id="insert2">insert into users2 (id, name, funkyNumber, roundingMode) values (#{id}, #{name}, #{funkyNumber}, #{roundingMode, typeHandler=org.apache.ibatis.type.EnumTypeHandler})</insert>
</mapper>

相比之下,由于 XML的存在, MyBatis的语法有更多噪音。

简单应用

Hello World

其实和 MyBatis不同, sdmap设计之初就只考虑好好做一个小巧、精致、快速的模板引擎。因此 sdmap可以不依赖于任何数据库,只做字符串解析,最简单的代码是:

// 安装NuGet包:sdmap
var c = new SdmapCompiler();
c.AddSourceCode("sql v1 {Hello World}");
Console.WriteLine(c.Emit("v1", null)); // Hello World

参数传入

当然有一些前端输入,这样就需要第二个参数:

var c = new SdmapCompiler();
c.AddSourceCode("sql v1 {Hello #prop<Name>!}");
Console.WriteLine(c.Emit("v1", new { Name = "Hero"})); // Hello Hero!

注意我使用了一个 #prop<>的语法,这是 sdmap中调用指令的语句,表示将 Name属性按原样显示在此处。

参数判断

有些语句需要根据前端的不同而不同,比如典型的“动态 SQL”问题,如果前端传了参数,则执行过滤,没有传则不过滤,这样的代码如下:

var c = new SdmapCompiler();
c.AddSourceCode(@"
sql v1
{SELECT * FROM [Customer]WHERE 1=1#isNotEmpty<Location, sql {AND Location = '#prop<Location>'}
}");
Console.WriteLine(c.Emit("v1", new { Id = 1, Location = "长沙"}));
Console.WriteLine(c.Emit("v1", new { Id = 2, Location = ""}));

输出结果如下:

  SELECT * FROM [Customer] WHERE 1=1 AND Location = '长沙'SELECT * FROM [Customer] WHERE 1=1 

可见,关键的那个 isNotEmpty<>控制了 Location判断的语句。

扩展:sdmap.ext

每次使用时,都需要实例化一个 SdmapCompiler来加载 sdmap语句很麻烦,在项目中,这部分逻辑重用度非常高,因此我写了一个扩展: sdmap.ext,定义了 ISdmapEmiter接口,该接口定义如下:

public interface ISdmapEmiter
{string Emit(string statementId, object parameters);
}

相当于最简单的生成器,然后我写了几个内置实现,可以直接从文件系统或者程序集嵌入的资源中读入这些文件:

public class EmbeddedResourceSqlEmiter : ISdmapEmiter 
{ public static EmbeddedResourceSqlEmiter CreateFrom(Assembly assembly);// ...
}
public class MultipleAssemblyEmbeddedResourceSqlEmiter : ISdmapEmiter
{public static MultipleAssemblyEmbeddedResourceSqlEmiter CreateFrom(params Assembly[] assemblies);// ...
}
public class FileSystemSqlEmiter : ISdmapEmiter
{public static FileSystemSqlEmiter FromSqlDirectory(string sqlDirectory,bool ensureCompiled = false);public static FileSystemSqlEmiter FromSqlDirectoryAndWatch(string sqlDirectory,bool ensureCompiled = false);// ...
}

那么有人会问,数据库参数化该如何实现呢?

扩展:sdmap.ext.Dapper

答案是 Dapper, sdmap访问数据库时,依赖 Dapper做参数化。其实很好理解, sdmap只做数据库访问时的 SQL模板引擎前端, Dapper做后端(当然不一定非要用 Dapper), sdmap只负责生成 SQL语句。

但随着大家使用越来越多,我也注意到确实可以写一些东西,便于大家更好地配合 Dapper一起使用。因此我写了另外两个扩展: sdmap.ext和 sdmap.ext.Dapper

其中 sdmap.ext仍然和数据库无关,定义了一些 .sdmap文件的读取和自动加载逻辑; sdmap.ext.Dapper依赖于 Dapper,定义了一些便利方法: 

如图,用过 Dapper的朋友知道, Dapper为 IDbConnection定义了一套扩展方法,这里我也为 IDbConnection定义了一套一样的扩展,只要最后加了 ByMap后缀,第二个参数都为 sqlMapName,与其传入原始的 SQL语句,此处将传入定义在 .sdmap文件中的配置,如原先使用 Dapper的朋友,代码可能这样写:

var data = _db.Query<Customer>("SELECT * FROM [Customer] Where Id = @Id");

换成 sdmap后,代码应该是这样写:

var data = _db.QueryByMap<Customer>("Customers.GetById");

然后 sdmap配置如下:

namespace Customers
{sql GetById{SELECT * FROM [Customer] WHERE Id = @Id}
}

注意, sdmap使用了 Dapper的参数化方式,只需在 SQL中写 @Id这样的语句,即可自动实现参数化,得出结果完全一样,并且 SQL不存在注入问题,代码中不包含 SQL语句,语句都写在配置文件中。

数组参数化

由于 Dapper的存在, sdmap相当于也自动支持了数组的参数化,只要像 Dapper那样写 IN即可:

namespace Customer
{sql GetByIds{SELECT * FROM [Customer] WHERE Id IN @Ids}
}

相关链接

Github地址

https://github.com/sdcb/sdmap 我的 Github首页还包含了使用 sdmap.ext.Dapper的一步一步使用教程,可以依照上面的使用。

文档地址

https://github.com/sdcb/sdmap/wiki

所有指令参考链接:

https://github.com/sdcb/sdmap/wiki/Common-macros

NuGet包地址

  • https://www.nuget.org/packages/sdmap

  • https://www.nuget.org/packages/sdmap.ext

  • https://www.nuget.org/packages/sdmap.ext.Dapper

VisualStudio插件地址

https://marketplace.visualstudio.com/items?itemName=sdmapvstool.sdmapvstool

VS插件提供了 .sdmap文件代码高亮、自动定位、代码折叠的功能,可以不装,但不装就没这些体验。

总结

我写 sdmap最初纯粹是因为想挑战自己,它包含了【编译器前端—— ANTLR】、【编译器后端—— CIL】、【 VisualStudio插件如何制作】、单元测试、文档等主题。

但后来随着这个项目的发展,越来越多的朋友用了起来。用过的都纷纷提出了自己的想法,然后做了许多润色,解决了不少局限性,但我从未做过推广——这是我第一次将这个项目用文字的形式发表出来。希望这个项目能给大家以管理大量 SQL的启发。

上文中提到了许多有意思的主题, 2020年到了,我有空就会一一介绍这些主题,都非常有意思,最重要的是,其实都很好学????。喜欢的朋友请关注我的微信公众号:

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/312324.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

java 最小堆_堆排序 最大堆 最小堆 Java 实现

堆一点疑惑&#xff0c;堆排序是就地排序&#xff0c;所以空间复杂度是 O(1)。但是&#xff0c;比如我有一个数组&#xff0c;建立一个最小堆&#xff0c;然后每次取出最小堆的顶点。建立最小堆需要额外空间&#xff1f;不深究了&#xff0c;归并排序需要额外空间。堆是完全二叉…

提高文档翻译效率神器:VS Code 插件之 Translator Helper

微软 Docs 网站上线之后&#xff0c;我发现很多中文内容是由机器翻译的&#xff0c;可读性比较差。2017 年开始我参与了中文文档的本地化工作&#xff0c;对机器翻译的文本进行校对。Docs 的内容全部托管在 GitHub 上&#xff0c;参与者可以 fork 仓库后进行修改&#xff0c;然…

java 导入导出 插件_Java最优的Excel导入/导出工具开发,你用过吗?

关注程序员7歌&#xff0c;一起用技术改变世界在我们实际开发中经常会遇到Excel的导入与导出功能&#xff0c;而目前Excel操作工具也是数不甚数啊&#xff0c;但是7歌用过很多&#xff0c;还是觉得最近发现的tool-excel好用&#xff0c;让你实现一语句代码就能完成Excel功能。首…

java gt_JAVA泛型知识--gt; lt;? extends Tgt;和lt;? super Tgt;

extends T> 和 super T> 是Java泛型中的“通配符(Wildcards)” 和 “边界(Bounds)”的概念extends T> 是指 “上界通配符(Upper Bounds Wildcards)”super T> 是指 “下界通配符(Lower Bounds Wildcards)”1. 为什么要用通配符和边界&#xff1f;使用泛型的过程…

使用SignalR从服务端主动推送警报日志到各种终端(桌面、移动、网页)

工作上有个业务&#xff0c;.Net Core WebAPI作为服务端&#xff0c;需要将运行过程中产生的日志分类&#xff0c;并实时推送到各种终端进行报警&#xff0c;终端有桌面(WPF)、移动(Xamarin.Forms)、网站(Angular.JS)等&#xff0c;使用SignalR进行警报日志推送。微信公众号&am…

java图形包_java流布局图形包

第一步&#xff1a;导包import java.awt.FlowLayout;import javax.swing.JButton;import javax.swing.JFrame;第二步&#xff1a;定义类public class TestFlayOut {public static void main(String[] args) {JFrame jf new JFrame("流布局DEMO"); //建立一个窗口Flo…

ASP.Net Core 3.1 中使用JWT认证

JWT认证简单介绍关于Jwt的介绍网上很多&#xff0c;此处不在赘述&#xff0c;我们主要看看jwt的结构。JWT主要由三部分组成&#xff0c;如下&#xff1a;HEADER.PAYLOAD.SIGNATUREHEADER包含token的元数据&#xff0c;主要是加密算法&#xff0c;和签名的类型&#xff0c;如下面…

C++继承的继承方式

继承方式一共有三种&#xff1a; 1.公共继承 2.保护继承 3.私有继承

与其每天重复,不如试着构建「正反馈闭环」

大家好&#xff0c;我是Z哥。我们程序员应该算是相对比较有毅力的一个群体了&#xff0c;毕竟入行的高门槛首先就刷掉了一批无法坚持到胜任coding工作的人。况且&#xff0c;新技术的更迭相比其它行业快的多&#xff0c;需要持续学习。即使这样&#xff0c;肯定每个程序员都还有…

2008至今,Chrome如何成长为霸主

2008 年&#xff0c;微软的 Internet Explorer&#xff08;IE&#xff09;浏览器几乎占据了全球浏览器市场份额的 60%&#xff1b;Mozilla 的 Firefox 紧随其后&#xff0c;市场份额约为三分之一&#xff1b;于当年 9 月 2 日初亮相的 Chrome 浏览器则仅占有 0.3% 的市场份额。…

C++继承中构造和析构顺序

子类继承父类后&#xff0c;当创建子类对象&#xff0c;也会调用父类的构造函数 问题&#xff1a;父类和子类的构造和析构顺序是谁先谁后&#xff1f; 代码如下&#xff1a; #include <iostream> using namespace std; //继承中的构造和析构顺序class Base {public:Ba…

linux java -xms_java.lang.OutOfMemoryError及解决方法

主要有3种比较常见的OutOfMemory Error&#xff1a;Java.lang.OutOfMemoryError: Java heap spacejava.lang.OutOfMemoryError: PermGen spacejava.lang.OutOfMemoryError: GC overhead limit exceeded1. java.lang.OutOfMemoryError: Java heap spaceJava heap space&#xff…

Excel模板导出之导出教材订购表

说明本教程主要说明如果使用Magicodes.IE.Excel完成教材订购表的Excel模板导出。要点本教程使用Magicodes.IE.Excel来完成Excel模板导出需要通过创建Dto来完成导出需要按要求准备Excel模板主要步骤1.安装包Magicodes.IE.Excel在本篇教程中&#xff0c;我们仅演示使用Excel来完成…

BeetleX网关非法Url请求拦截插件

一旦网站部署到互联网上&#xff0c;就会受到一些非法的请求&#xff0c;而这些请求的Url都是一些特定的路径或带上一些无关请求的字符用于探测一些服务存在的问题&#xff1b;还有这些请求会落到日志中&#xff0c;导致日志臃肿和转发到后台服务带来处理上的损耗。为了应对拦截…

java安装版本哪种好_我怎么知道我安装了哪个版本的Java?

问题描述我想开始玩java(最终到了可以为android或web编写基本小程序的地步)&#xff0c;但是我已经在我的计算机上(从过去的实验中)弄糟了java。我不确定我拥有哪个版本的Java&#xff0c;并且想知道是否有命令查看已安装且处于活动状态的Java版本。另外&#xff0c;哪个版本效…

UnitTest in .NET 系列文章目录

Photo &#xff1a;.NET单元测试的艺术文 | Edison Zhou这几天陆陆续续更新了UnitTest in .NET这个系列的文章&#xff0c;现将其总结成一个小目录。此外&#xff0c;特别推荐阅读Roy Osherove的《单元测试的艺术》一书&#xff0c;此文也是该书的精华内容的学习笔记总结。文章…

java蝇量模式_Head First设计模式——蝇量和解释器模式

蝇量蝇量模式&#xff1a;如果让某个类的一个实例能用来提供许多“虚拟实例”&#xff0c;就使用蝇量模式。在一个设计房子的平台中&#xff0c;周围要加上一些树&#xff0c;树有一个坐标XY坐标位置&#xff0c;而且可以根据树的年龄动态将自己绘制出来。如果我们创建许多树之…

如何运用领域驱动设计 - 聚合

概述DDD实战与进阶 - 值对象如何运用DDD - 实体如何运用领域驱动设计 - 领域服务在前几篇的博文中&#xff0c;我们已经学习到了如何运用实体和值对象。随着我们所在领域的不断深入&#xff0c;领域模型变得逐渐清晰&#xff0c;我们已经建立了足够丰富的实体和值对象。但随着实…

C++菱形继承

菱形继承概念&#xff1a; 1.两个派生类继承同一个基类 2.又有某个类同时继承着两个派生类 这种继承被称为菱形继承&#xff0c;或者钻石继承 举个例子&#xff1a; 菱形继承问题&#xff1a; 1.羊继承了动物的数据&#xff0c;鸵同样继承了动物的数据&#xff0c;当羊驼使…

EntityFramework Core动态加载模型,我们要知道些什么呢?

这篇文章源于一位问我的童鞋&#xff1a;在EntityFramework Core中如何动态加载模型呢&#xff1f;在学习EntityFramwork时关于这个问题已有对应童鞋给出答案&#xff0c;故没有过多研究&#xff0c;虽然最后解决了这位童鞋提出的问题&#xff0c;但是当我再次深入研究时&#…