mysql decode语句_MySQL复制问题的分析

s这是学习笔记的第 2031 篇文章

  最近有个业务的MySQL复制问题还是比较多,做了事务降维之后,把一些敏感操作和线上环境隔离起来,整体的效果好了许多,不过今天在外面的时候,又收到一条报警短信,让我心里咯噔一下。 

  这个环境是一个中间件的分布式环境,有8个物理节点(主库),即有6个主库+8个从库,我查看了下邮件,发现报错的这个环境是昨天同事帮忙新建的从库,到今天才这么短的时间,而且是基于GTID复制的模式,又出现了这类问题,我的心里还是比较忐忑的,因为如果我再收到几条其他环境类似的复制错误,那么毫无疑问就属于一起计划外的故障了。

   故障离我们很近,但是在不同的时间有不同的理解。因为这段时间的做了数据迁移的一些高可用测试,压力测试,数据重构,整体该做的工作都做差不多了,到了临门一脚的时候,出现一些频繁的问题,我让我有所措手不及,而问题能够定位可控,很容易理解,可以查漏补缺,而如果问题是集中出现,那就说明之前的工作没有做到位,一旦发现严重的bug导致服务不可用,如果反复出现,不管过程如何,结果就是不合格的。这种感觉就好比是高速公路给汽车换轮胎,时间紧,任务重。

  所幸的是,我等了一会没有再收到其他环境的问题,所以一个基本的定位:不是很严重。 

  等我回到酒店之后,开始处理的时候,脑海里一直在琢磨,到底是一条什么样的SQL语句会导致这样奇怪的问题。

  很快就查到了相关的描述信息:

   LAST_ERROR_MESSAGE: Worker 0 failed executing transaction 'db8f9860-8202-11e9-991e-005056b7f69e:854286845' at master log mysqlbin.000601, end_log_pos 936077509; Could not execute Update_rows event on table dbo_testdb.dbo_testdata; Can't find record in 'dbo_testdata', Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event's master log mysqlbin.000601, end_log_pos 936077509

看起来问题是在binlog日志000601的偏移量936077509附近,看到这个偏移量心里一纠,可以看到文件已经超过900M了,解析起来已经有一些性能问题了。 

查看show slave status的结果:

             Slave_IO_Running: Yes

            Slave_SQL_Running: No

可以看到IO_thread依然可用,说明复制的过程中整体的数据传输是OK的,是在应用的时候出现了问题 。 

我使用如下的语句开始解析这个偏移量附近的一些错误。 

/usr/local/mysql/bin/mysqlbinlog --no-defaults -v -v --base64-output=DECODE-ROWS mysqlbin.000601 | grep -A '10' 936077509

得到了如下的结果:

#190705 19:27:15 server id 211  end_log_pos 936077509 CRC32 0x590574c3  Update_rows: table id 599753 flags: STMT_END_F

### UPDATE `dbo_testdb`.`dbo_testdata`

### WHERE

###   @1=748890203 /* LONGINT meta=0 nullable=0 is_null=0 */

###   @2=60 /* INT meta=0 nullable=0 is_null=0 */

###   @3=13 /* INT meta=0 nullable=0 is_null=0 */

###   @4='2019-07-05 19:27:15' /* DATETIME(0) meta=0 nullable=0 is_null=0 */

###   @5='2019-07-05 19:27:15' /* DATETIME(0) meta=0 nullable=0 is_null=0 */

###   @6=0 /* LONGINT meta=0 nullable=0 is_null=0 */

### SET

###   @1=748890203 /* LONGINT meta=0 nullable=0 is_null=0 */

--

# at 936077509

#190705 19:27:15 server id 211  end_log_pos 936077540 CRC32 0x78404313  Xid = 221915192

COMMIT/*!*/;

# at 936077540

#190705 19:27:15 server id 211  end_log_pos 936077605 CRC32 0x6e307159  GTID    last_committed=1762227  sequence_number=1762248

SET @@SESSION.GTID_NEXT= 'db8f9860-8202-11e9-991e-005056b7f69e:854286846'/*!*/;

# at 936077605

#190705 19:27:15 server id 211  end_log_pos 936077696 CRC32 0x00c8479d  Query   thread_id=854   exec_time=0     error_code=0

SET TIMESTAMP=1562326035/*!*/;

BEGIN

可以看到这是一条update语句,它的格式比较奇怪,如下:

update xxx

where userid=xxxx,value=xxxx

set userid=xxxx

从语句来看明显是不符合业务场景的,自己变更自己,明显不合理的。

我们来进一步验证。

主库端查看数据,把上面的update转义成select语句:

select * from `dbo_testdb`.`dbo_testdata`

WHERE

userid=748890203 and 

xxx=60 and

value=13 and

moddate='2019-07-05 19:27:15' and

crtdate='2019-07-05 19:27:15' and

modver=0 

发现主库端和从库端都不存在这条语句。 

所以这就牵扯出来两个问题:

1)如果MySQL在主库端的SQL语句没有发生数据变更,是否会依然产生binlog

2)一条update语句,在MySQL里的解析应该是类似如下的形式:

update xxxx set xxxxx  where 的形式,在这里明显没有走这种解析的方式。 

3)这条语句如何修复,因为后面的数据都等着这个断点。

4)如果后续还有这种问题,该如何预防。 

我们为了快速修复,经过评估,主从库端都没有相应的数据,说明这条语句是没有产生影响的,我们可以跳过这个事务。 

stop slave;

SET @@SESSION.GTID_NEXT= 'db8f9860-8202-11e9-991e-005056b7f69e:854286846';

begin;commit;

SET SESSION GTID_NEXT = AUTOMATIC;

start slave;

再次尝试这个问题暂时正常了,在反复验证中暂时没有发现问题。 

而后续的进一步验证得找下环境,会后续继续说明。

对于问题本身,也需要和研发团队做一下确认,这种操作的需求需要引导,后续不要再出现。

41dd70569fdd6a2701b23ff884d92860.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/537034.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

jvm形象简介之一看就懂

分享一波:程序员赚外快-必看的巅峰干货 据 JVM 规范,JVM 内存结构共分为虚拟机栈、堆、方法区、程序计数器、本地方法栈五个部分。这里的java内存结构与前面所述的Java内存模型是两个概念,不可以混淆。 堆 java堆是java虚拟机所管理的内存中最大的一块…

MZOJ 1345 hero

一道宽搜模版题,可写错了两个地方的我只得了56(掩面痛哭) http://10.37.2.111/problem.php?id1345 先看看正确的 #include <bits/stdc.h> #define read read() #define up(i,l,r) for(int i l; i<r; i) using namespace std;int read {int x 0; char ch getchar()…

opencv拖动进度条_OpenCV GUI基本操作,回调函数,进度条,裁剪图像等-阿里云开发者社区...

代码为转载&#xff0c;出处找不到了&#xff0c;不贴了工具条进度条&#xff1a;// ConvertColor.cpp : 定义控制台应用程序的入口点。//#include "stdafx.h"#include #include #include #pragma comment(lib,"opencv_core2410d.lib")#pragma comment(lib…

区间DP初探 P1880 [NOI1995]石子合并

https://www.luogu.org/problemnew/show/P1880 区间dp,顾名思义,是以区间为阶段的一种线性dp的拓展 状态常定义为$f[i][j]$,表示区间[i,j]的某种解; 通常先枚举区间长度,再枚举左端点,最后枚举断点(k) 石子合并便是一道经典的区间dp #include <bits/stdc.h> #define read…

jvm详解 - 新生代与老年代

*************************************优雅的分割线 ********************************** 分享一波:程序员赚外快-必看的巅峰干货 Java 中的堆是 JVM 所管理的最大的一块内存空间&#xff0c;主要用于存放各种类的实例对象。 在 Java 中&#xff0c;堆被划分成两个不同的区…

pymysql建表_Python数据库操作,针对pymysql 和 MYSQL数据库

此文将以MYSQL数据库做为例子,pymysql库作为驱动进行学习安装MYSQL数据库与pymysql第三方库安装pymysql库不多做叙述安装navicat for mysql,此程序用来管理MYSQL数据库注意: 连接过程中可能会出现1251错误解决办法,在cmd命令下登录mysql后输入:ALTER USER rootlocalhost IDENTI…

从0到1使用VUE-CLI3开发实战(五):模块化VUEX及使用vuetify

小肆前几天发了一篇2019年Vue精品开源项目库的汇总&#xff0c;今天小肆要使用的是在UI组件中排行第三的Vuetify。vuetify介绍 Vuetify是一个渐进式的框架&#xff0c;完全根据Material Design规范开发&#xff0c;一共拥有80多个组件&#xff0c;对移动端支持非常好。 支持SSR…

详解垃圾回收算法

分享一波:程序员赚外快-必看的巅峰干货 标记清除算法 概念 该算法有两个阶段。 标记阶段&#xff1a;找到所有可访问的对象&#xff0c;做个标记。 清除阶段&#xff1a;遍历堆&#xff0c;把未被标记的对象回收 缺点&#xff1a;会产生碎片&#xff0c;不够连贯 应用场景…

智能情绪分析技术_石化缘推荐:炼化企业智能机器人巡检技术应用前景分析!...

本期内容由湖南天一奥星泵业有限公司冠名炼化企业智能机器人巡检技术应用前景分析王国彤1,孙秉才2,储胜利2,宋亚敏1(1.中国石油天然气股份有限公司大连石化分公司&#xff0c;辽宁省大连市&#xff1b;2.中国石油集团安全环保技术研究院有限公司&#xff0c;北京市)摘要&#x…

CentOS 7编译程序后的环境变量设置

今晚在 CentOS 7 上配置 Gitea&#xff0c;配置完成后在本地 clone 仓库会提示 Failed to execute git command: exec: "git-upload-pack": executable file not found in $PATH&#xff0c;果断用软连接打法解决。随后在 push 时又出现 Failed to execute git comma…

详解:JVM内存调优参数

分享一波:程序员赚外快-必看的巅峰干货 -Xms JVM启动时申请的初始Heap值&#xff0c;默认为操作系统物理内存的1/64但小于1G。默认当空余堆内存大于70%时&#xff0c;JVM会减小heap的大小到-Xms指定的大小&#xff0c;可通过-XX:MaxHeapFreeRation来指定这个比列。Server端JV…

数组指针 sizeof 实现_C++数组指针!

学习C数组的时候&#xff0c;对数组的了解不是很深。也不知道&#xff0c;为什么声明一个数组&#xff0c;int a[10]&#xff0c;为什么a就是数组的地址。你可以这样理解&#xff0c;将a理解为指向数组头的一个指针&#xff0c;这样就好理解了。理解了之后确实好像豁然开朗的样…

利用人工智能提升团队包容性

在2018年11月举行的Gartner应用技术与解决方案峰会上&#xff0c;高级主管分析师John Kostoulas认为&#xff0c;积极培养包容性文化的团队和团队领导者将超越他们的目标。Kostoulas引用了CEB-Gartner在2016年进行的一项领导力验证调查&#xff0c;他指出&#xff0c;性别多元化…

表单验证开发 - 登录注册开发(3)

表单验证开发 - 登录注册开发(3) 一、教程目标 学习如何在表单中添加验证规则。掌握使用 JSON 配置表单验证规则的方法。实现前端和后端的表单验证。 二、教程内容 1. 前端表单验证 步骤 1&#xff1a;找到表单编辑 在页面上找到需要编辑的表单&#xff0c;如注册表单或登录…

count(1),count(*),count(主键) 性能对比及辟谣

分享一波:程序员赚外快-必看的巅峰干货 前言 前段时间关于统计数量的sql问题和朋友进行了讨论&#xff0c;网上关于这三种查询方式说法不一&#xff0c;主要有以下两种说法。 count(*) count(主键) > count(1) count(主键) > count(*) > count(1)今天对这三种方式…

python与会计的论文_甭管前浪后浪,写完论文的先浪!

原标题&#xff1a;甭管前浪后浪&#xff0c;写完论文的先浪&#xff01;自愿返校已是板上钉钉的事儿了而对于大家的期末考现在也基本上已经通知线上考试如果没有线上考试的话&#xff0c;那就是交论文可是&#xff0c;论文动不动就2000字10%查重毛概、各种选修课等等每一门都是…

git 命令 clone分支的代码

一个项目通常含有很多分支&#xff0c; master分支一般是经过测试&#xff0c;验证没有问题后&#xff0c;代码才会提交到master分支 develop分支&#xff0c;是测试经常拉下来进行测试的分支 直接复制develop分支的git 命令如下&#xff1a; git clone -b develop gitxxx 转载…

String s = new String(123) 究竟创建了几个对象

分享一波:程序员赚外快-必看的巅峰干货 前言 今天上班划水的过程中有人询问到这个问题&#xff0c;网上对于这个问题也有争议&#xff0c;有说创建了一个对象&#xff0c;有说两个&#xff0c;有说三个。 首先说三个的肯定是扯淡了&#xff0c;今天来讨论一下这条语句到底创…

jquery级试题_JS-jQuery练习题面试题

ES5中不能实现继承的关键字A prototypeB callC applyD extends正确答案: D extends //属于ES6不属于常见23种设计模式A 单例B MVCC 观察者D 策略正确答案: B创建型模式&#xff0c;共五种&#xff1a;工厂方法模式、抽象工厂模式、单例模式、建造者模式、原型模式。结构型模式&…

Vue 计算属性与侦听器

这一节我们一起学习 vue 中的计算属性(computed properties)和侦听器(watch)。 在之前&#xff0c;我们学习过 vue 表达式插值&#xff1a; <div id"example">{{ message.split().reverse().join() }} </div> 如果在模板中放入太多的逻辑会让模板过重且难…