Bumblebee微服务网关之访问日志处理


记录访问日志可以起到非常重要的作用,它不仅记录了API的使用情况,更可以反映API各种相关数据;通过分析日志可以得到API不同时间的负载情况,访问效率和流量分布,更进一步还能分析出用户的操作历史和行为这是非常有价值的。由于性能问题Bumblebee默认并不直接写入这些日志,而是通过插件的方式来加载处理。Bumblebee.Logs是组件的日志扩展插件,它支持写入数据和文件两种方式,使用者可以根据自己的需求来开启(由于这两个插件会完全写入所有请求日志,如果应用并发量大时启用需要注意).如果需要更高效的日志处理(如nosql、mq等)或更丰富的日志内容则需要使用者扩展引入。

引用插件

Bumblebee中使用JWT需要引用两个插件,分别是Bumblebee.ConfigurationBumblebee.Logs。加载启动后就可以通过管理工具进行插件配置.

            g = new Gateway();
g.HttpOptions(
o =>
{
o.Port = 80;
o.LogToConsole = true;
o.LogLevel = BeetleX.EventArgs.LogType.Error;
});
g.Open();
g.LoadPlugin(
typeof(Bumblebee.Configuration.Management).Assembly,
typeof(Bumblebee.Logs.FileLog).Assembly
);

如果不想自己编写代码可以下载编译的运行包 Bumblebee1.0.6这个版本已经加入了Bumblebee.Logs

插件管理

运行程序后进行配置管理工具的插件管理页面,可以看到日志插件,默认是未启用(由于日志写入需要大量的IO操作,在大并发的情况可能会引起IO负载过重,需根据自己情况来启用;如果当前插件在性能上不能满足需求,则需要自己扩展插件)。

640?wx_fmt=png

日志组件提供两个插件,分别是写入本地文件和写入数据库

写入文件

当开始写入文件日志插件时,会在request_logs中写入日志文件,日志格式如下:

2019/10/3 20:15:33	9418d4d1ffef4c28ad93929321026045_158	::ffff:192.168.2.18	GET	/	/json	192.168.2.25:9090	200	1
2019/10/3 20:15:33 9418d4d1ffef4c28ad93929321026045_159 ::ffff:192.168.2.18 GET / /json 192.168.2.31:9090 200 1
2019/10/3 20:15:33 9418d4d1ffef4c28ad93929321026045_161 ::ffff:192.168.2.18 GET / /json 192.168.2.27:9090 200 1
2019/10/3 20:15:33 9418d4d1ffef4c28ad93929321026045_163 ::ffff:192.168.2.18 GET / /json 192.168.2.26:9090 200 1
2019/10/3 20:15:33 9418d4d1ffef4c28ad93929321026045_165 ::ffff:192.168.2.18 GET / /json 192.168.2.32:9090 200 2
2019/10/3 20:15:33 9418d4d1ffef4c28ad93929321026045_167 ::ffff:192.168.2.18 GET / /json 192.168.2.28:9090 200 1

主要写入的内容是:时间,ID,客户端IP,请求类型,路径,处理的服务,状态和处理时间(单位ms)。

写入数据库

插件提供日志写入数据库功能,分别支持:MSSQL,MYSQL和PGSQL三种数据库;在插件启用之前先把数据库信息配置好。

640?wx_fmt=png

  • QueueSize 缓存队列大小,为了提高写入性能组件通过批量的方式写入,在写入之前会缓存到队列中。

  • DBType数据库类型,分别为:MSSQL,MYSQL和PGSQL

  • ConnectionString数据库连接字符串

  • Table 存储日志的表名称

MYSQL日志结构

CREATE TABLE `_gateway_log` (
`ID` varchar(50) NOT NULL,
`CreateTime` datetime DEFAULT NULL,
`RemoteIP` varchar(45) DEFAULT NULL,
`Method` varchar(10) DEFAULT NULL,
`Path` varchar(45) DEFAULT NULL,
`Url` varchar(1024) DEFAULT NULL,
`Server` varchar(45) DEFAULT NULL,
`Code` int(11) DEFAULT NULL,
`ProcessTime` int(11) DEFAULT NULL,
PRIMARY KEY (`ID`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci;

数据库配置完成后就可以启用插件,启用后相关访问就会写入到对应的数据库上

640?wx_fmt=png

写入记录

640?wx_fmt=png

默认提供插件记录的数有限,如果你想更更丰富的数据,如header,querystring等更详细信息可以自定义相关插件来实现。


关注公众号

640?wx_fmt=jpeg

 https://github.com/IKende/ 

高性能的服务通讯框架 Beetlex(http,rpc,gateway的详细实现)



本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/313442.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

负载均衡基础

1、什么是负载均衡(Load balancing) 在网站创立初期,我们一般都使用单台机器对台提供集中式服务,但是随着业务量越来越大,无论是性能上还是稳定性上都有了更大的挑战。这时候我们就会想到通过扩容的方式来提供更好的服…

调试opencv程序显示应用程序无法正常启动,0xc000007b

几种可能的解决方案: 1. 没有添加opencv环境变量; 2. 安装Direct X 9.0 C; 3. 安装Visual Studio SDK;

Bumblebee微服务网关之并发限制

对于服务应用来说支持的并发越高越好,但很多时候资源有限,超负载的并发则会给整体应用带来更大的危险性(更何况有些并发来源是恶意的)。作为微服务网关应该具有一定的挡洪作用,这样可以一定程度保障后台逻辑服务的稳定…

opencv 常见细碎问题解决

无法启动此程序 因为计算机中丢失opencv_xxxxd.dll 将opencv\build\x64\vc10\bin下的所有.dll文件拷贝到debug文件中。 无法启动此程序,因为计算机中丢失MSVCP100D.dll.尝试重新安装该程序以解决此问题 把MSVCP100D.dll和MSVCR100D.dll…

[ASP.NET Core 3框架揭秘] 跨平台开发体验: Mac OS

除了微软自家的Windows平台, .NET Core针对Mac OS以及各种Linux Distribution(RHEL、Ubuntu、Debian、Fedora、CentOS和SUSE等)都提供了很好的支持。我们先来体验一下使用Mac来开发.NET Core应用,在这之前我们照例先得在Mac OS上构…

监控h264视频不能正常解码怎么办

很多监控设施有自己的编码特质,很可能会影响到我们正常的解码,为了处理极特殊情况,我们可以采取以下工具: 1. 另外随便找一个能够用脚本解码的h264文件,对照不能解码的h264文件,依照h264编码的格式和关键字…

接雨水

题目描述 给定 n 个非负整数表示每个宽度为 1 的柱子的高度图,计算按此排列的柱子,下雨之后能接多少雨水。 上面是由数组 [0,1,0,2,1,0,1,3,2,1,2,1] 表示的高度图,在这种情况下,可以接 6 个单位的雨水(蓝色部分表示…

使用RabbitMQ实现接口补偿

业务背景在我们的日常开发中,经常需要调用第三方接口来进行数据传递,在调用接口的过程中,会因为各种原因导致调用的失败。这时我们希望能有一种机制实现对失败的接口的重复调用,并且能够实现人工干预。实现思路1、当接口调用失败&…

新方法-根据上排给出十个数,在其下排填出对应的十个数

给你10分钟时间,根据上排给出十个数,在其下排填出对应的十个数 要求下排每个数都是先前上排那十个数在下排出现的次数。 上排的十个数如下: 【0,1,2,3,4,5,6&am…

HashMap实现LRU(最近最少使用)缓存更新算法

最近阿里巴巴电话面试被问到了如何使用固定容量的HashMap,实现LRU算法。当时一脸懵逼,平时用HashMap也就用来快速存取数据而已,容量都是不限的。 想了半天,想到对node节点进行扩展,加入引用计数,然后到达指…

集群环境下,你不得不注意的ASP.NET Core Data Protection 机制

引言最近线上环境遇到一个问题,就是ASP.NET Core Web应用在单个容器使用正常,扩展多个容器无法访问的问题。查看容器日志,发现以下异常:System.Security.Cryptography.CryptographicException: The key {efbb9f35-3a49-4f7f-af19-…

程序无法启动ALL_BUILD 拒绝访问

用cmake编译完opencv3.0后,发现编译没有问题,但尝试调试的时候报错无法启动.../ALL_BUILD拒绝访问. 调了很久才解决,方法是,卸载所有无关工程,只保留一个你需要的工程,这时候ZERO_CHECK以及ALL_BUILD都没有…

.NET斗鱼直播弹幕客户端(上)

前言现在直播平台由于弹幕的存在,主播与观众可以更轻松地进行互动,非常受年轻群众的欢迎。斗鱼TV就是一款非常流行的直播平台,弹幕更是非常火爆。看到有不少主播接入 弹幕语音播报器、 弹幕点歌等模块,这都需要首先连接斗鱼弹幕。…

RGB转YUV420

转载自:http://blog.csdn.net/frankiewang008/article/details/6854616 RGB TO YUV转换原理及代码示例 RGB TO YUV转换原理及代码示例YUV 与 YIQ YcrCb对于YUV模型,实际上很多时候,我们是把它和YIQ /…

字符串相乘

题目描述 给定两个以字符串形式表示的非负整数 num1 和 num2,返回 num1 和 num2 的乘积,它们的乘积也表示为字符串形式。 示例 1: 输入: num1 "2", num2 "3" 输出: "6"示例 2: 输入: num1 "123", num2 …

程序员后期,架构师发展路线!

作者:zollty,资深程序员和架构师,私底下是个爱折腾的技术极客,架构师社区合伙人!我总结了3个阶段。先说一下各个阶段的感受:1、系统架构阶段:系统架构实际上包括了 业务功能架构 和 技术功能架构。业务上&a…

YUV格式学习

转载自http://blog.csdn.net/searchsun/article/details/2443867 YUV是指亮度参量和色度参量分开表示的像素格式,而这样分开的好处就是不但可以避免相互干扰,还可以降低色度的采样率而不会对图像质量影响太大。YUV是一个比较笼统地说法,针对它…

Flappy Bird游戏python完整源码

通过pygame实现当年风靡一时的flappy bird小游戏。 当前只设定了同样长度的管道,图片和声音文件自行导入。 效果如下: # -*- coding:utf-8 -*- """ 通过pygame实现曾风靡一时的flappybird游戏。 小鸟x坐标不变,画布左移实现…

最短无序连续子数组

题目描述 给定一个整数数组,你需要寻找一个连续的子数组,如果对这个子数组进行升序排序,那么整个数组都会变为升序排序。 你找到的子数组应是最短的,请输出它的长度。 示例 1: 输入: [2, 6, 4, 8, 10, 9, 15] 输出: 5 解释: 你…

【 .NET Core 3.0 】框架之九 || 依赖注入 与 IoC

本文有配套视频:https://www.bilibili.com/video/av58096866/?p5前言1、重要:如果你实现了解耦,也就是 api 层只引用了 IService 和 IRepository 的话,那每次修改 service 层,都需要清理解决方案,重新编译…