date转timestamp格式_技术分享 | MySQL:timestamp 时区转换导致 CPU %sy 高的问题

作者:高鹏文章末尾有他著作的《深入理解 MySQL 主从原理 32 讲》,深入透彻理解 MySQL 主从,GTID 相关技术知识。本文为学习记录,可能有误请谅解。
本文建议PC端观看,效果更佳。

这个问题是一个朋友遇到的@风云,并且这位朋友已经得出了近乎正确的判断,下面进行一些描述。

一、问题展示下面是问题当时的系统负载如下:

be7ad6e10a026f5e49a8bc14d902b7ec.png

我们可以看到 40.4%sy 正是系统调用负载较高的表现,随即朋友采集了 perf 如下:

b60d26f1ec843c5060b41e6c4c60512c.png

接下来朋友采集了 pstack 给我,我发现大量的线程处于如下状态下:

Thread 38 (Thread 0x7fe57a86f700 (LWP 67268)):

#0 0x0000003dee4f82ce in __lll_lock_wait_private () from /lib64/libc.so.6

#1 0x0000003dee49df8d in _L_lock_2163 () from /lib64/libc.so.6

#2 0x0000003dee49dd47 in __tz_convert () from /lib64/libc.so.6

#3 0x00000000007c02e7 in Time_zone_system::gmt_sec_to_TIME(st_mysql_time*, long) const ()

#4 0x0000000000811df6 in Field_timestampf::get_date_internal(st_mysql_time*) ()

#5 0x0000000000809ea9 in Field_temporal_with_date::val_date_temporal() ()

#6 0x00000000005f43cc in get_datetime_value(THD*, Item***, Item**, Item*, bool*) ()

#7 0x00000000005e7ba7 in Arg_comparator::compare_datetime() ()

#8 0x00000000005eef4e in Item_func_gt::val_int() ()

#9 0x00000000006fc6ab in evaluate_join_record(JOIN*, st_join_table*) ()

#10 0x0000000000700e7e in sub_select(JOIN*, st_join_table*, bool) ()

#11 0x00000000006fecc1 in JOIN::exec() ()

我们可以注意一下 __tz_convert 这正是时区转换的证据。二、关于 timestamp 简要说明timestamp:占用 4 字节,内部实现是新纪元时间(1970-01-01 00:00:00)以来的秒,那么这种格式在展示给用户的时候就需要做必要的时区转换才能得到正确数据。下面我们通过访问 ibd 文件来查看一下内部表示方法,使用到了我的两个工具 innodb 和 bcview。
详细参考:https://www.jianshu.com/p/719f1bbb21e8。
timestamp 的内部表示建立一个测试表

mysql> show variables like '%time_zone%';

+------------------+--------+

| Variable_name | Value |

+------------------+--------+

| system_time_zone | CST |

| time_zone | +08:00 |

+------------------+--------+

mysql> create table tmm(dt timestamp);

Query OK, 0 rows affected (0.04 sec)

mysql> insert into tmm values('2019-01-01 01:01:01');

Query OK, 1 row affected (0.00 sec)

我们来查看一下内部表示如下:

[root@gp1 test]# ./bcview tmm.ibd 16 125 25|grep 00000003

current block:00000003--Offset:00125--cnt bytes:25--data is:000001ac3502000000070d52c80000002f01105c2a4b4d0000

整理一下如下:

  • 000001ac3502:rowid

  • 000000070d52:trx id

  • c80000002f0110:roll ptr

  • 5c2a4b4d:timestamp 类型的实际数据十进制为 1546275661

我们使用 Linux 命令如下:

[root@gp1 ~]# date -d @1546275661

Tue Jan 1 01:01:01 CST 2019

因为我的 Linux 也是 CST +8 时区这里数据也和 MySQL 中显示一样。下面我们调整一下时区再来看看取值如下:

mysql> set time_zone='+06:00';

Query OK, 0 rows affected (0.00 sec)

mysql> select * from tmm;

+---------------------+

| dt |

+---------------------+

| 2018-12-31 23:01:01 |

+---------------------+

1 row in set (0.01 sec)

这里可以看到减去了 2 个小时,因为我的时区从 +8 变为了 +6。

三、timestap 转换

在进行新纪元时间(1970-01-01 00:00:00)以来的秒到实际时间之间转换的时候 MySQL 根据参数 time_zone 的设置有两种选择:

  • time_zone 设置为 SYSTEM 的话:使用 sys_time_zone 获取的 OS 会话时区,同时使用 OS API 进行转换。对应转换函数 Time_zone_system::gmt_sec_to_TIME

  • time_zone 设置为实际的时区的话:比如 ‘+08:00’,那么使用使用 MySQL 自己的方法进行转换。对应转换函数 Time_zone_offset::gmt_sec_to_TIME

实际上 Time_zone_system 和 Time_zone_offset 均继承于 Time_zone 类,并且实现了 Time_zone 类的虚函数进行了重写,因此上层调用都是 Time_zone::gmt_sec_to_TIME。

注意这种转换操作是每行符合条件的数据都需要转换的。

四、问题修复方案

我们从问题栈帧来看这个故障使用的是 Time_zone_system::gmt_sec_to_TIME 函数进行转换的,因此可以考虑如下:

  • time_zone:设置为指定的时区,比如 ‘+08:00’。这样就不会使用 OS API 进行转换了,而转为 MySQL 自己的内部实现 调用 Time_zone_offset::gmt_sec_to_TIME 函数。但是需要注意的是,如果使用 MySQL 自己的实现那么 us% 会加剧。
  • 使用 datetime 代替 timestamp,新版本 datetime 为 5 个字节,只比 timestamp 多一个字节。

五、修复前后

sy% 使用量对比 据朋友说他大概在上午 11 点多完成了修改,做的方式是将 time_zone 修改为 ‘+08:00’,下面展示修改前后 CPU 使用率的对比:

修复前:

c1dcdda0f5d0b0747991e50ea7de8538.png

修复后:

6242187b3377f19d6b7eecb81a7b8556.png

六、备用栈帧

  • time_zone=‘SYSTEM’转换栈帧

#0 Time_zone_system::gmt_sec_to_TIME (this=0x2e76948, tmp=0x7fffec0f3ff0, t=1546275661) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/tztime.cc:1092

#1 0x0000000000f6b65c in Time_zone::gmt_sec_to_TIME (this=0x2e76948, tmp=0x7fffec0f3ff0, tv=...) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/tztime.h:60

#2 0x0000000000f51643 in Field_timestampf::get_date_internal (this=0x7ffe7ca66540, ltime=0x7fffec0f3ff0)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:6014

#3 0x0000000000f4ff49 in Field_temporal_with_date::val_str (this=0x7ffe7ca66540, val_buffer=0x7fffec0f4370, val_ptr=0x7fffec0f4370)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:5429

#4 0x0000000000f11d7b in Field::val_str (this=0x7ffe7ca66540, str=0x7fffec0f4370) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.h:866

#5 0x0000000000f4549d in Field::send_text (this=0x7ffe7ca66540, protocol=0x7ffe7c001e88) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:1725

#6 0x00000000014dfb82 in Protocol_text::store (this=0x7ffe7c001e88, field=0x7ffe7ca66540)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/protocol_classic.cc:1415

#7 0x0000000000fb06c0 in Item_field::send (this=0x7ffe7c006ec0, protocol=0x7ffe7c001e88, buffer=0x7fffec0f4760)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/item.cc:7801

#8 0x000000000156b15c in THD::send_result_set_row (this=0x7ffe7c000b70, row_items=0x7ffe7c005d58)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_class.cc:5026

#9 0x0000000001565758 in Query_result_send::send_data (this=0x7ffe7c006e98, items=...) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_class.cc:2932

#10 0x0000000001585490 in end_send (join=0x7ffe7c007078, qep_tab=0x7ffe7c0078d0, end_of_records=false)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_executor.cc:2925

#11 0x0000000001582059 in evaluate_join_record (join=0x7ffe7c007078, qep_tab=0x7ffe7c007758)

  • time_zone=‘+08:00’转换栈帧

#0 Time_zone_offset::gmt_sec_to_TIME (this=0x6723d90, tmp=0x7fffec0f3ff0, t=1546275661) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/tztime.cc:1418

#1 0x0000000000f6b65c in Time_zone::gmt_sec_to_TIME (this=0x6723d90, tmp=0x7fffec0f3ff0, tv=...) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/tztime.h:60

#2 0x0000000000f51643 in Field_timestampf::get_date_internal (this=0x7ffe7ca66540, ltime=0x7fffec0f3ff0)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:6014

#3 0x0000000000f4ff49 in Field_temporal_with_date::val_str (this=0x7ffe7ca66540, val_buffer=0x7fffec0f4370, val_ptr=0x7fffec0f4370)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:5429

#4 0x0000000000f11d7b in Field::val_str (this=0x7ffe7ca66540, str=0x7fffec0f4370) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.h:866

#5 0x0000000000f4549d in Field::send_text (this=0x7ffe7ca66540, protocol=0x7ffe7c001e88) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/field.cc:1725

#6 0x00000000014dfb82 in Protocol_text::store (this=0x7ffe7c001e88, field=0x7ffe7ca66540)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/protocol_classic.cc:1415

#7 0x0000000000fb06c0 in Item_field::send (this=0x7ffe7c006ec0, protocol=0x7ffe7c001e88, buffer=0x7fffec0f4760)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/item.cc:7801

#8 0x000000000156b15c in THD::send_result_set_row (this=0x7ffe7c000b70, row_items=0x7ffe7c005d58)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_class.cc:5026

#9 0x0000000001565758 in Query_result_send::send_data (this=0x7ffe7c006e98, items=...) at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_class.cc:2932

#10 0x0000000001585490 in end_send (join=0x7ffe7c007078, qep_tab=0x7ffe7c0078d0, end_of_records=false)

at /root/mysqlall/percona-server-locks-detail-5.7.22/sql/sql_executor.cc:2925

#11 0x0000000001582059 in evaluate_join_record (join=0x7ffe7c007078, qep_tab=0x7ffe7c007758)

d1c93c0cf76d03b7b05cca8d7c4d9880.png最后推荐高鹏的专栏《深入理解MySQL主从原理 32讲》,想要透彻了解学习MySQL 主从原理的朋友不容错过。作者微信:gp_22389860

68ded687b0df8cbfe481d111da9ab5cd.png

社区近期动态

No.1

Mycat 问题免费诊断

诊断范围支持:

Mycat 的故障诊断、源码分析、性能优化

服务支持渠道:

技术交流群,进群后可提问

QQ群(669663113)

社区通道,邮件&电话

osc@actionsky.com

现场拜访,线下实地,1天免费拜访

关注“爱可生开源社区”公众号,回复关键字“Mycat”,获取活动详情。

No.2

社区技术内容征稿

征稿内容:

格式:.md/.doc/.txt

主题:MySQL、分布式中间件DBLE、数据传输组件DTLE相关技术内容

要求:原创且未发布过

奖励:作者署名;200元京东E卡+社区周边

投稿方式:

邮箱:osc@actionsky.com

格式:[投稿]姓名+文章标题

以附件形式发送,正文需注明姓名、手机号、微信号,以便小编及时联系

1ad345ccabe83ac83a79d9499f249a49.gif喜欢点“分享”,不行就“在看”

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/534936.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

mysql架构组成_第 2 章 MySQL 架构组成

麻雀虽小,五脏俱全。MySQL 虽然以简单著称,但其内部结构并不简单。本章从MySQL物理组成、逻辑组成,以及相关工具几个角度来介绍 MySQL 的整体架构组成,希望能够让读者对 MySQL 有一个更全面深入的了解。2.1 MySQL物理文…

win2008 mysql端口_使用自定义端口连接SQL Server 2008的方法

使用过SQL Server的人大多都知道,SQL Server服务器默认监听的端口号是1433,但是我今天遇到的问题是我的机器上有三个数据库实例,这样使用TCP/IP远程连接时就产生了问题。如何在Microsoft SQL Server Management Studio里加入端口号连接呢&…

python基本命令range_Python的Range()函数(指南)

当需要执行特定次数的操作时,Python内置的range函数十分方便。 读罢本文,你将: 理解Python的range函数是如何工作的 了解Python 2和Python 3中的实现方式有何不同 看过了不少range()函数操作实例 有能力解决它的一些局限性 让我们开始吧&…

qos的_QoS 概述

QoS 是一个很大的领域,涉及到网络中的多个层次和环节。本文仅简要的谈谈 Endpoint 侧的 QoS 概念,将这些纷繁的概念名词串起来,便于理解。QoS 技术背景下图说明了 QoS workflow 中,各项技术的位置和关系摘自 < 端到端Q…

centos daemonize_手把手教你在centos上配置Django项目(超详细步骤)

前言关于Django的部署,本人也踩了很多坑,这篇文章一步一步教你怎么进行部署,只需要你按照我的步骤来就OK了!这里我们使用的服务器是一个全新的服务器,没有安装任何东西。基础环境搭建步骤★ 注意:下面的步骤…

mysql8.0.17压缩包安装教程_mysql 8.0.16 压缩包安装配置方法图文教程

本文为大家分享了mysql 8.0.16 压缩包安装配置方法,供大家参考,具体内容如下运行环境:windows 10 x641、下载zip安装包:mysql8.0 for windows zip包:,进入页面后可以不用登录。后点击底部“no thanks, just…

Mysql保存是事件驱动吗_【CHRIS RICHARDSON 微服务系列】事件驱动的数据管理-5

编者的话 |本文来自 Nginx 官方博客,是「Chris Richardson 微服务」系列的第五篇文章。第一篇文章介绍了微服务架构模式,并且讨论了使用微服务的优缺点;第二和第三篇描述了微服务架构模块间通讯的不同方面;第四篇研究了服务发现中…

chrome postman插件_收集了一些Chrome插件神器,助你快速成为老司机

刚开始开发项目的时候,我一直都在用火狐,因为它有一个fireBug插件,特别好用(目前已不支持),也不知道什么时候,就一直用起来Chrome浏览器了,可能是因为它有强大的插件作为后盾吧。开发了这么多年&#xff0c…

window.open不重复打开同一个名称的窗口_干货满满|Ctrl键的正确打开方式

“ctrl”是键盘中一个常用的键,全名为"control",中文意为"控制",在计算机基础中称为“控制键”。那么你知道“ctrl”都能控制什么吗?难道只知道 “ctrl”C 复制、“ctrl”V 粘贴 这些?&#xff1f…

jmeter安装包_分布式执行jmeter脚本步骤(非GUI)

备注:【Linux查看服务器是32位还是64位命令】uname -mgetconf LONG_BIT1.Linux环境安装jmeter可参考https://www.cnblogs.com/surewing/p/9271886.html如需要用到3台客户机,分别在三台机器中安装,以下安装之前需安装jdk环境1)将jm…

microbit编程_使用图形化编程实现主控板与手机蓝牙通讯(2019.3.25)

本文转自:DFRobot创客社区原文链接:[Mind]使用图形化编程实现主控板与手机蓝牙通讯-Mind论坛-DF创客社区​mc.dfrobot.com.cn本帖最后由 Forgotten 于 2019-3-25 12:58 编辑做项目时我们经常会遇到蓝牙的问题,例如使用appinventor制作一个app…

山海伏妖录java_山海伏妖录攻略大全 剧情结局加点妖兽大全

山海伏妖录是一款非常经典的ARPG游戏,其中有许多的剧情,结局,妖兽以及加点方案。Remilia为大家带来山海伏妖录攻略大全,各种攻略都能在这里查到,助您畅玩山海伏妖录!山海伏妖录人物介绍配角介绍山海伏妖录结…

spark环境搭建java_Spark MLlib 环境搭建超详细教程

1、系统及环境版本系统:Win7 旗舰版 64位 sp1JDK:1.8.0Spark:2.3.2Hadoop:2.7Scala:2.11.8文章最后,有所有版本的下载链接,不用再去折腾版本之间的问题。2、环境下载2.1 Spark 下载spark2.2 had…

python自动发邮件附件_python自动发送带附件的邮件(163邮箱,亲测可用)

1.设置发送邮件邮箱的SMTP服务 https://www.360kuai.com/pc/927b9f8da3555bb70?cota4&kuai_so1&tj_urlxz&sign360_57c3bbd1&refer_sceneso_1 设置步骤时,记住设置的邮箱的独立密码,在以下脚本中能够用到2. python脚本 import smtplib f…

java 导出bcp文件格式_使用BCP导出导入数据

bcp 实用工具可以在 Microsoft SQL Server 实例和用户指定格式的数据文件间大容量复制数据。 使用 bcp 实用工具可以将大量新行导入 SQL Server 表,或将表数据导出到数据文件。 除非与 queryout 选项一起使用,否则使用该实用工具不需要了解 Transact-SQL…

鱼骨图分析法实际案例_会用“鱼骨图”的项目经理无难题

项目经理在遇到一些瓶颈问题时,如何突破这些难题?答案就是鱼骨图!项目经理,广州深圳PMP培训,PMP认证考试培训机构,圣略PMP培训考试1、鱼骨图分析法介绍鱼骨图的由来及含义鱼骨图是由日本管理大师石川馨先生所发明出来的,故又名石川…

mysql5.6.msi 百度云_如何安装Mysql数据库类型msi(5.6)

首先让大家看下我下载的数据库有多少哈,还不包括我删除的一些数据库。光是8.0.17.0的数据库我就下载了四五个,经常安装数据报错,我一直找不到是啥原因,所以我就把所有的全部给删掉了,然后一遍一遍的安装。现在想想还真…

mysql如何下载msi_2、Windows下MySQL数据库下载与安装详细教程 MSI方式

做者:叁念mysql写在前言:本文篇幅比较长,可是整体分为三大部分:下载部分、安装部分、环境配置与测试部分 ;读者能够自行选择阅读web1、下载部分MySQL数据库下载与安装详细教程sql1.如何下载MySQL?(本文章以5.6版本实际…

python词云乱码_python词云库wordCloud使用方法详解(解决中文乱码)

文章中的例子主要借鉴wordColud的examples,在文章对examples中的例子做了一些改动。 一、wordColud设计中文词云乱码 使用wordColud设计词云的时候可能会产生乱码问题,因为wordColud默认的字体不支持中文,所以我们只需要替换wordColud的默认字…

linux同时安装python2和python3_linux-Centos7安装python3并与python2共存

1.查看是否已经安装Python CentOS 7.2 默认安装了python2.7.5 因为一些命令要用它比如yum 它使用的是python2.7.5。 使用 python -V 命令查看一下是否安装Python 然后使用命令 which python 查看一下Python可执行文件的位置可见执行文件在/usr/bin/ 目录下,切换到该…