Docker实战:从零构建高可用的MySQL主从集群与Redis集群

在分布式系统架构中,数据库集群是保障数据高可用和性能的关键组件。本文将通过Docker技术,手把手教你搭建MySQL主从集群和Redis Cluster,并分享独创的优化技巧与运维实战经验。

一、为什么选择Docker部署集群?

传统数据库集群搭建存在环境依赖复杂、配置繁琐、跨平台兼容性差等问题。使用Docker可带来三大核心优势:

  1. 环境标准化:通过Dockerfile固化镜像,彻底消除"在我机器能跑"的魔咒
  2. 快速部署:单节点部署从小时级压缩到分钟级,集群扩展只需修改Compose文件
  3. 资源隔离:容器化实现进程级隔离,避免多实例间的端口冲突

二、MySQL主从集群实战(GTID+半同步模式)

2.1 集群架构设计

采用一主两从架构,结合GTID全局事务标识和半同步复制,确保数据零丢失:

Master (可写可读)│├──→ Slave1 (只读)└──→ Slave2 (只读)

2.2 Dockerfile优化技巧

# mysql/Dockerfile
FROM mysql:8.0.30
COPY my.cnf /etc/mysql/conf.d/
RUN chmod 644 /etc/mysql/conf.d/my.cnf
# 预置初始化脚本
COPY init_db.sql /docker-entrypoint-initdb.d/

2.3 核心配置解析(my.cnf)

[mysqld]
server-id=1                   # 节点唯一标识
gtid_mode=ON                  # 启用GTID
enforce_gtid_consistency=ON
rpl_semi_sync_master_enabled=1 # 半同步复制
log-bin=mysql-bin             # 二进制日志
binlog_format=ROW             # 行级复制

2.4 自动初始化脚本(init_db.sql)

-- 创建复制用户
CREATE USER 'repl'@'%' IDENTIFIED WITH mysql_native_password BY 'Repl@123';
GRANT REPLICATION SLAVE ON *.* TO 'repl'@'%';-- 设置读写分离账号
CREATE USER 'app_user'@'%' IDENTIFIED WITH mysql_native_password BY 'App@123';
GRANT SELECT, INSERT, UPDATE ON app_db.* TO 'app_user'@'%';

2.5 Docker Compose编排

version: '3.8'
services:mysql-master:build: ./mysqlports: ["3306:3306"]environment:MYSQL_ROOT_PASSWORD: Root@123MYSQL_DATABASE: app_dbvolumes:- mysql_master_data:/var/lib/mysqlmysql-slave1:build: ./mysqlports: ["3307:3306"]environment:MYSQL_ROOT_PASSWORD: Root@123volumes:- mysql_slave1_data:/var/lib/mysqldepends_on:- mysql-mastervolumes:mysql_master_data:mysql_slave1_data:

三、Redis Cluster智能部署方案

3.1 六节点集群拓扑

采用三主三从模式,通过哈希槽分配实现数据自动分片:

Master1 (5461) — Slave1 (6379)
Master2 (5462) — Slave2 (6380)
Master3 (5463) — Slave3 (6381)

3.2 自动故障转移配置

cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout 5000
cluster-require-full-coverage no # 允许部分节点故障
appendonly yes                   # AOF持久化

3.3 独创的集群初始化脚本

#!/bin/bash
# 自动检测并修复集群状态
redis-cli --cluster check 127.0.0.1:6379
if [ $? -ne 0 ]; thenecho "正在尝试自动修复集群..."redis-cli --cluster fix 127.0.0.1:6379 --user mypass
fi

3.4 性能监控仪表盘

使用Prometheus+Granfana构建监控体系,关键指标包括:

  • 集群节点存活状态
  • 内存碎片率
  • 命令处理延迟
  • 网络吞吐量

四、运维黑科技

4.1 MySQL在线DDL神器

-- 使用pt-online-schema-change实现无锁表结构变更
pt-online-schema-change --alter "ADD COLUMN new_col INT" D=app_db,t=users \
--user=root --password=Root@123 --execute

4.2 Redis内存优化策略

  1. 设置内存软限制maxmemory 8gb + maxmemory-policy allkeys-lru
  2. 启用内存碎片整理CONFIG SET activedefrag yes
  3. 监控大Key:使用redis-cli --bigkeys扫描异常数据

4.3 自动化备份方案

# 每天凌晨3点执行全量备份
0 3 * * * docker exec mysql-master mysqldump -u root -pRoot@123 app_db | gzip > /backups/mysql_$(date +\%Y\%m\%d).sql.gz# 每小时增量备份binlog
0 * * * * rsync -avz /var/lib/docker/volumes/mysql_master_data/_data/mysql-bin.* /binlog_backups/

五、性能对比与成本分析

方案部署时间故障恢复资源消耗扩展性
传统物理机8小时30分钟
虚拟机+手动配置4小时15分钟一般
Docker容器化方案15分钟2分钟极优

六、进阶玩法

  1. 混合云部署:结合Docker Swarm实现跨AZ容灾
  2. 智能路由:使用ProxySQL实现MySQL读写分离+查询缓存
  3. Redis模块扩展:集成RedisTimeseries实现时间序列数据存储
  4. 混沌工程:使用ChaosBlade模拟节点故障验证集群健壮性

结语

通过Docker容器化技术,我们实现了数据库集群的快速部署与智能运维。这种方案不仅降低了运维复杂度,更通过GTID、半同步复制等机制保障了数据一致性。后续可结合Kubernetes实现真正的云原生数据库即服务(DBaaS),让数据库管理像使用水电一样简单。

立即实践:复制文中代码到你的服务器,15分钟即可拥有生产级数据库集群!遇到问题欢迎在评论区交流,点赞关注获取更多运维干货!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/76819.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

STM32电机库 电机控制特性

ST MC FW库提供FOC和六步法两种电机控制方式。这使得它能够驱动永磁同步电机 (PMSM) 和无刷直流电机 (BLDC)。FOC 更适合 PMSM,而六步法更适合 BLDC 电机。该固件可以驱动内嵌式PMSM 和标贴式PMSM。 ST Motor Control 固件库提供以下功能: FOC SVPWM 生成: 可配置的 PW…

Go:方法

方法声明 type point struct { X, Y float64 }// 普通函数 func Distance(p, q Point) float64 {return math.Hypot(q.x - p.x, q.y - p.Y) }// Point类型的方法 func (p Point) Distance(q Point) float64 {return math.Hypot(q.x - p.x, q.y - p.Y) }方法声明与普通函数声…

前端基础之《Vue(4)—响应式原理》

一、什么是响应式 1、响应式英文reactive 当你get/set一个变量时&#xff0c;你有办法可以“捕获到”这种行为。 2、一个普通对象和一个响应式对象对比 &#xff08;1&#xff09;普通对象 <script>// 这种普通对象不具备响应式var obj1 {a: 1,b: 2} </script>…

【技术派部署篇】Windows本地部署技术派

一、技术派简介 技术派是一个采用 Spring Boot、MyBatis-Plus、MySQL、Redis、ElasticSearch、MongoDB、Docker、RabbitMQ 等技术栈的社区系统&#xff0c;其 1.0 版已正式上线。该项目的技术栈按阶段集成引入&#xff0c;开发者可根据自身需求选择不同版本进行学习。 二、环…

DeepSeek和ChatGPT的全面对比

DeepSeek和ChatGPT作为当前领先的大语言模型&#xff0c;代表了AI发展的不同技术路径和应用理念。以下从技术架构到用户体验的全面对比分析&#xff0c;将揭示两者在AI竞赛中的独特定位。 一、模型架构与原理 1. DeepSeek 架构特点&#xff1a;采用混合专家系统&#xff08;…

Python星球日记 - 第20天:数据分析入门

🌟引言: 欢迎来到Python星球🪐的第20天!今天我们将踏入数据分析的世界,学习如何使用pandas处理数据并提取有价值的信息。无论你是想分析商业销售数据、股票市场趋势还是科学实验结果,pandas都是你必不可少的工具! 上一篇:Python星球日记 - 第19天:Web开发基础 名人…

算力云平台部署—SadTalker的AI数字人视频

选择算力 部署选择 选择镜像 机器管理 控制台 通过平台工具进入服务器 认识管理系统 打开命令行 进入目录 stable-diffusion-webui# cd 增加执行权限 chmod x ./webui.sh 运行命令 bash ./webui.sh sudo apt install -y python3 python3-venv git 安装软件 Creating the …

Linux目录结构:核心目录功能与用途解析

引言 Linux的目录结构就像一棵精心设计的大树&#x1f333;&#xff0c;每个分支都有其特定的用途和规范&#xff01;与Windows不同&#xff0c;Linux采用单一的目录层次结构&#xff0c;所有设备、分区和网络资源都挂载在这个统一的目录树下。本文将带你深入探索Linux目录结构…

【学习笔记】两个类之间的数据交互方式

在面向对象编程中&#xff0c;两个类之间的数据交互可以通过以下几种方式实现&#xff0c;具体选择取决于需求和设计模式&#xff1a; 1. 通过方法调用 一个类通过调用另一个类的公共方法来获取或传递数据。这是最常见的方式&#xff0c;符合封装原则。 class ClassA:def __…

神经网络学习--误差反向传播法

最近在学习神经网络&#xff0c;主要是依据书本《深度学习入门&#xff08;基于Python的理论与实现&#xff09;》&#xff0c;现对第5章“误差反向传播法”中的示例程序进行注释修改如下&#xff0c;以备后续查阅。 编程软件用的是Eric7&#xff0c;界面如下&#xff1a; 神经…

前端常用组件库全览与推荐

&#x1f4cc; 一、组件库生态全景图 &#x1f680; 二、React 生态组件库推荐 名称简介官网Ant Design阿里出品&#xff0c;企业级 UI 系统&#xff0c;设计规范完整&#xff0c;适合后台系统https://ant.designMaterial UIGoogle Material Design 实现&#xff0c;样式响应式…

群晖如何通过外网访问

1、进入群晖控制面板-》连接性-》外部访问-》DDNS 2、新增&#xff0c;添加DDNS 选择服务供应商&#xff0c;我这里以DNSPod.cn为例。 3、这一步开始&#xff0c;需要前往DNSPod.cn进行注册域名&#xff08;也可以使用你已有的域名&#xff0c;转入即可&#xff09;&#xff0…

3.2.2.1 Spring Boot配置静态资源映射

在Spring Boot中配置静态资源映射&#xff0c;可以通过默认路径或自定义配置实现。默认情况下&#xff0c;Spring Boot会在classpath:/static/等目录下查找静态资源。若需自定义映射&#xff0c;可通过实现WebMvcConfigurer接口的addResourceHandlers方法或在全局配置文件中设置…

【概念】什么是UI(User interface)什么是UX(User experience)?

1. 软件生命周期管理 (Software Life Cycle Management) 解释&#xff1a; 中文&#xff1a; 软件生命周期管理是指从软件规划、设计、开发、测试、部署到后续维护甚至退役的整个过程。English: Software Life Cycle Management refers to the systematic process of plannin…

第十六届蓝桥杯大赛软件赛省赛 C/C++ 大学B组

由于官方没有公布题目的数据, 所以代码仅供参考 1. 移动距离 题目链接&#xff1a;P12130 [蓝桥杯 2025 省 B] 移动距离 - 洛谷 【问题描述】 小明初始在二维平面的原点&#xff0c;他想前往坐标 (233, 666)。在移动过程中&#xff0c;他 只能采用以下两种移动方式&#xf…

​​IPerf工具使用笔记(基于MobaXterm串口终端)​

​​一、问题现象​​ ​​终端输入无响应​​ 启动iperf服务器后&#xff0c;终端被阻塞&#xff0c;无法输入其他命令&#xff08;如图中重复输出日志覆盖输入区域&#xff09;。​​直接原因​​&#xff1a;iperf_server线程未正确处理退出标志&#xff0c;导致select或acc…

【从C到C++的算法竞赛迁移指南】第五篇:现代语法糖精粹 —— 写出优雅的竞赛代码

系列导航&#xff1a; [第一篇] 基础语法与竞赛优势[第二篇] 动态数组与字符串革命[第三篇] 映射与集合的终极形态[第四篇] STL算法与迭代器[▶ 本篇] 现代语法糖精粹[第六篇] 竞赛实战技巧 一、范围for循环&#xff1a;告别索引的束缚 1.1 C风格遍历的四大痛点 // 痛点示例&…

mongodb在window10中创建副本集的方法

创建Mongodb的副本集最好是新建一个文件夹&#xff0c;如D:/data&#xff0c;不要在mongodb安装文件夹里面创建副本集&#xff0c;虽然这样也可以&#xff0c;但是容易造成误操作或路径混乱&#xff1b;在新建文件夹里与现有 MongoDB 数据隔离&#xff0c;避免误操作影响原有数…

使用Python进行AI图像生成:从GAN到风格迁移的完整指南

AI图像生成是一个非常有趣且前沿的领域&#xff0c;结合了深度学习和计算机视觉技术。以下是一些使用Python和相关库进行AI图像生成的创意和实现思路&#xff1a; 1. 使用GAN&#xff08;生成对抗网络&#xff09; 基本概念&#xff1a;GAN由两个神经网络组成&#xff1a;生成…

P10413 [蓝桥杯 2023 国 A] 圆上的连线

题意&#xff1a; 给定一个圆&#xff0c;圆上有 n2023 个点从 1 到 n 依次编号。 问有多少种不同的连线方式&#xff0c;使得完全没有连线相交。当两个方案连线的数量不同或任何一个点连接的点在另一个方案中编号不同时&#xff0c;两个方案视为不同。 答案可能很大&#x…