rsync+inotify组合实现及时远程同步

目录

Rsync(Remote Sync)简介:

Rsync 主要特点:

Rsync 常用命令选项:

Inotify 简介:

Inotify 的主要功能:

结合 Rsync 和 Inotify 实现实时同步:

操作步骤:

配置备份服务器rsync

配置应用服务器inotify

注意事项:


Rsync(Remote Sync)简介:

  • rsync 是一个用于文件同步和备份的命令行工具,可以在本地和远程系统之间高效地同步文件和目录。
  • 它能够快速地复制和同步大量数据,只传输那些发生变化的部分,节省了带宽和时间。
  • 支持完整备份、差量备份和增量备份等多种备份方式,可以根据需求选择不同的备份策略。
Rsync 主要特点:
  • 增量传输:仅传输变化的部分,节省带宽和时间。
  • 文件权限保留:可以保留文件权限、时间戳等元数据。
  • 删除文件同步:支持在目标目录中删除源目录不存在的文件。
  • 压缩传输:支持传输时压缩数据,减少传输量。
  • 远程同步:可以在本地和远程系统之间同步文件。
Rsync 常用命令选项:
  • -a:归档模式,保留所有文件属性,相当于 -rlptgoD
  • -v:详细输出,显示每个文件传输的详细信息。
  • -z:传输时压缩数据,减少传输量。
  • --delete:删除目标目录中不存在于源目录中的文件。
  • --exclude:排除指定文件或目录。
  • --progress:显示传输进度。
  • --backup:在覆盖目标文件时备份已存在的文件。

Inotify 简介:

  • inotify 是 Linux 内核提供的机制,用于监视文件系统事件。
  • 可以监视文件或目录的各种事件,如文件创建、删除、修改、移动等。
  • 可以通过命令行工具 inotifywait 使用这个机制,实现对文件系统的实时监控。
Inotify 的主要功能:
  • 实时监控:可以实时监听文件系统的变化,并触发相应的动作。
  • 文件系统事件:监控文件和目录的各种事件,如创建、删除、修改等。
  • 可编程性:可以通过脚本或程序使用 inotify 进行文件系统监控和处理。

结合 Rsync 和 Inotify 实现实时同步:

  1. 使用 inotifywait 监听源目录的变化。
  2. 当源目录发生变化时,触发 rsync 命令进行同步。
  3. rsync 将变化的文件或目录同步到目标位置。

这样,当文件系统的变化发生时,就可以立即将变化同步到目标位置,实现了文件的实时备份和同步。常见应用场景包括实时数据备份、网站文件同步等。

操作步骤:

应用服务器ip为192.168.1.33,备份服务器ip为192.168.1.22。需要将应用服务器的/var/www/html/ 实时同步给备份服务器的/var/www/html/

配置备份服务器rsync
vim /etc/rsyncd.confuid = root
gid = root
use chroot = yes
address = 192.168.1.22
port 873
log file = /var/log/rsyncd.log
pid file = /var/run/rsyncd.pid
hosts allow = 192.168.1.0/24
dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2[web_bak]
path = /var/www/html
comment = Document Root of www.myweb.com
read only = no
auth users = backuper
secrets file = /etc/rsyncd_users.db
  • uid = root:指定守护进程运行时所使用的用户的 UID。在这里是 root,表示守护进程会以 root 用户的身份运行。

  • gid = root:指定守护进程运行时所使用的用户组的 GID。与上面类似,这里也是 root,表示守护进程会以 root 用户组的身份运行。

  • use chroot = yes:表示在运行守护进程前,将其 chroot(切换根目录)到指定的路径。在这里是 yes,表示守护进程会以 /var/www/html/ 作为其根目录。

  • address = 192.168.1.22:指定 rsync 守护进程监听的 IP 地址。

  • port 873:指定 rsync 守护进程监听的端口号。默认 rsync 服务的端口号是 873

  • log file = /var/log/rsyncd.log:指定 rsync 守护进程的日志文件路径。

  • pid file = /var/run/rsyncd.pid:指定 rsync 守护进程的 PID 文件路径,用于记录守护进程的进程 ID。

  • hosts allow = 192.168.1.0/24:指定允许访问 rsync 守护进程的主机或 IP 地址范围。在这里是允许 192.168.1.0/24 网段的主机访问。

  • dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2:指定不压缩的文件类型,这些文件类型不会被 rsync 守护进程压缩传输。

  • [web_bak]:定义一个模块,客户端在访问 rsync 时可以使用这个名称。

    • path = /var/www/html:指定这个模块的路径,客户端可以访问的目录路径。在这里是 /var/www/html,表示客户端可以访问和同步的是这个目录。

    • comment = Document Root of www.myweb.com:对这个模块的描述注释。

    • read only = no:表示这个模块是可写的,客户端可以向这个模块写入文件。

    • auth users = backuper:指定允许访问这个模块的授权用户,这里是 backuper

    • secrets file = /etc/rsyncd_users.db:指定包含授权用户密码的文件路径。

rsync --daemon
chmod 777 /var/www/html/

rsync --daemon 是用于启动 rsync 守护进程的命令。通过这个命令,可以在服务器上启动 rsync 守护进程,使得其他客户端可以通过 rsync 协议访问服务器上的共享目录。

配置应用服务器inotify

先调整inotify内核参数

vim /etc/sysctl.conffs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576sysctl -p

示例中的设置如下:

  • 这三个参数分别控制着 Linux 系统中 inotify 子系统的行为。下面对每个参数进行解释:

  • fs.inotify.max_queued_events

    • 这个参数定义了每个 inotify 实例中允许排队的事件数量的最大限制。
    • 默认值通常是 16384。
    • 适当增加这个值可以确保即使在高负载时系统也不会丢失任何事件。
  • fs.inotify.max_user_instances

    • 这个参数定义了单个用户可以创建的 inotify 实例的最大数量。
    • 默认值通常是 128。
    • 如果系统需要大量的 inotify 实例,比如同时监视大量文件或目录,可能需要增加这个值。
  • fs.inotify.max_user_watches

    • 这个参数定义了单个用户在所有 inotify 实例中能够监视的文件或目录的最大数量。
    • 默认值通常是 8192。
    • 如果应用程序需要监视大量文件或目录,可能需要增加这个值。
  • fs.inotify.max_queued_events = 16384:允许每个 inotify 实例中排队的事件数量的最大限制为 16384。
  • fs.inotify.max_user_instances = 1024:单个用户可以创建的 inotify 实例的最大数量为 1024。
  • fs.inotify.max_user_watches = 1048576:单个用户在所有 inotify 实例中能够监视的文件或目录的最大数量为 1048576。

安装 inotify-tools

tar zxvf inotify-tools-3.14.tar.gz -C /opt/
cd /opt/inotify-tools-3.14
./configure
make -j4 && make install

编写脚本触发同步

vim /opt/inotify.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /var/www/html/"
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.pass /var/www/html/ backuper@192.168.1.22::web_bak/"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
doif [ $(pgrep rsync | wc -l) -le 0 ] ; then$RSYNC_CMDfi
done

使用 inotifywait 监听 /var/www/html/ 目录的文件变化,一旦有变化就触发 rsync 命令同步到备份服务器上。

  1. INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /var/www/html/"

    • 定义了一个变量 INOTIFY_CMD,存储了使用 inotifywait 监听 /var/www/html/ 目录的命令。
    • -mrq 选项分别表示递归监听、静默模式、以原始格式输出。
    • -e modify,create,attrib,move,delete 选项指定了需要监听的事件类型,包括文件修改、创建、属性变化、移动和删除。
  2. RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.pass /var/www/html/ backuper@192.168.1.22::web_bak/"

    • 定义了一个变量 RSYNC_CMD,存储了用于同步的 rsync 命令。
    • -azH 选项分别表示压缩传输、保持文件权限、保持硬链接。
    • --delete 选项表示删除目标端(备份服务器)上不存在于源端(本地服务器)的文件。
    • --password-file=/etc/server.pass 指定了密码文件的路径,这样 rsync 就可以使用其中的密码进行认证。
    • /var/www/html/ 是本地源目录。
    • backuper@192.168.1.22::web_bak/ 是备份服务器上的目标模块名。
  3. $INOTIFY_CMD | while read DIRECTORY EVENT FILE

    • 使用 read DIRECTORY EVENT FILEinotifywait 的输出分别赋值给 DIRECTORYEVENTFILE,提高了灵活性和可读性。
    • 在每次文件变化时都会输出当前的目录、事件和文件名,方便调试和监控。
    • 如果只需要简单地监听文件变化并进行同步也可以使用"$INOTIFY_CMD | while read AA" 这样简化了 read 命令的使用,只需要一个变量 AA 就可以处理 inotifywait 的输出。
  4. if [ $(pgrep rsync | wc -l) -le 0 ] ; then

    • 检查当前是否已经有 rsync 进程在运行,如果没有则执行同步操作。
    • pgrep rsync | wc -l 是用来统计 rsync 进程的数量。
    • -le 0 表示小于等于 0,即当前没有 rsync 进程在运行时执行后续操作。
  5. $RSYNC_CMD

    • 执行前面定义的 RSYNC_CMD 命令,即执行 rsync 同步操作到备份服务器。

通过这个脚本,当 /var/www/html/ 目录下的文件发生变化时(修改、创建、属性变化、移动、删除),就会触发 rsync 命令将这些变化同步到备份服务器的 web_bak 模块中。

注意事项:

  • 确保 inotify-tools 包已经安装,以便使用 inotifywait 命令。
  • 确保 /etc/server.pass 文件存在且包含正确的密码。
chmod +x /opt/inotify.sh
chmod 777 /var/www/html/
chmod +x /etc/rc.d/rc.local
echo '/opt/inotify.sh' >> /etc/rc.d/rc.local	
echo "123456" > /etc/server.pass
chmod 600 /etc/server.pass
cd /opt
./inotify.sh

运行脚本后应用服务器的/var/www/html/ 将实时同步给备份服务器

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/800710.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

vue3前端加载动画 lottie-web 的简单使用案例

什么是 Lottie Lottie 是 Airbnb 发布的一款开源动画库,它适用于 Android、iOS、Web 和 Windows 的库。 它提供了一套从设计师使用 AE(Adobe After Effects)到各端开发者实现动画的工具流。 UED 提供动画 json 文件即可, 开发者就…

品牌发言稿怎么写?纯干货

品牌发言稿的重要性不言而喻,它不仅代表着品牌形象,更是沟通品牌与消费者、合作伙伴的桥梁。如何撰写一篇高质量的品牌发言稿,成为许多品牌关注的焦点。伯乐网络传媒十多年文案撰写经验,今天就来给大家讲一讲。 一、品牌发言稿的组…

跨服务器迁移nextcloud数据

背景 阿里云最近做活动,99一年的2U2G的服务器,比我原来的1U1G的服务器不知道高到哪里去了,于是决定迁移服务器数据到另一台主机上。原先的计划是直接做一个自定义镜像,然后复制到另一台主机就行,结果发现旧主机是aliyunOS,新主机不想踩这个坑了,决定换成乌班图,因此决定重新搭…

Redis缓存设计

文章目录 1 缓存的收益与成本分析1.1 收益1.2 成本 2 缓存更新策略的选择和使用场景2.1 LRU/LFU/FIFO算法剔除2.2 超时剔除2.3 主动更新2.4 缓存更新策略对比 2.5 最佳实践 3 缓存粒度控制方法3.1 缓存全部数据3.2 缓存部分数据缓存粒度控制方法对比 4 缓存穿透问题优化4.1 什么…

所有网站都需要使用SSL证书?

SSL证书对于网站的重要性,简单来说就是: 保护隐私:就像给你的信封加了密码锁,SSL证书让网站和用户之间的所有交流都变得保密。当你在网站上输入密码、银行卡号等敏感信息时,有了SSL证书,这些信息就会被加密…

分表?分库?分库分表?实践详谈 ShardingSphere-JDBC

如果有不是很了解ShardingSphere的可以先看一下这个文章: 《ShardingSphere JDBC?Sharding JDBC?》基本小白脱坑问题 阿丹: 在很多开发场景下面,很多的技术难题都是出自于,大数据量级或者并发的场景下面的。这里就出…

算法打卡day37|动态规划篇05| Leetcode1049.最后一块石头的重量II、494.目标和、474.一和零

算法题 Leetcode 1049.最后一块石头的重量II 题目链接:1049.最后一块石头的重量II 大佬视频讲解:最后一块石头的重量II视频讲解 个人思路 和昨天的分割等和子集有些相像,这道题也是尽量让石头分成重量相同的两堆,相撞之后剩下的石头最小&am…

Discord注册教程:Discord刚注册就被封怎么办?附申诉教程!

Discord如今在海外社交媒体平台中迅速崛起,许多社交媒体营销人员也纷纷利用其社群特性进行推广,Discord注册也就成为社媒营销人员必经之路。然而,很多人注册Discord账号时常常会想:“在国内使用Discord会封号吗?”事实…

3d模型怎么取消光标轴定位---模大狮模型网

取消光标轴定位可以帮助您将3D模型的旋转、缩放和移动操作重置为全局坐标系。不同的3D建模软件可能有不同的方法来取消光标轴定位。以下是一般情况下在常见的3D建模软件(例如Blender、Maya、3ds Max等)中取消光标轴定位的方法: Blender中取消光标轴定位:…

【Canvas技法】图解绘制圆弧的重要函数 arc(x,y,r,startAngle,endAngle,clockWise)

【一图释疑】 【绘制上图用代码】 <!DOCTYPE html> <html lang"utf-8"> <meta http-equiv"Content-Type" content"text/html; charsetutf-8"/> <head><title>Html5/Canvas中绘制圆弧的重要函数 arc(x,y,r,startA…

2024.4.1-day06-认识 CSS(三大特性、引入方式)

个人主页&#xff1a;学习前端的小z 个人专栏&#xff1a;HTML5和CSS3悦读 本专栏旨在分享记录每日学习的前端知识和学习笔记的归纳总结&#xff0c;欢迎大家在评论区交流讨论&#xff01; day06-认识 CSS(三大特性、引入方式) 文章目录 day06-认识 CSS(三大特性、引入方式)作业…

Chatgpt掘金之旅—有爱AI商业实战篇|内容策展业务|(八)

演示站点&#xff1a; https://ai.uaai.cn 对话模块 官方论坛&#xff1a; www.jingyuai.com 京娱AI 一、AI技术创业内容策展业务有哪些机会&#xff1f; 人工智能&#xff08;AI&#xff09;技术作为当今科技创新的前沿领域&#xff0c;为创业者提供了广阔的机会和挑战。随着…

JavaScript - 你知道Ajax的原理吗?如何封装一个Ajax

难度级别:中高级及以上 提问概率:75% 想要实现Ajax,就需要创建它的核心通信对象XMLHttpRequest,通过核心对象的open方法与服务端建立连接,核心对象的send方法可以将请求所需数据发送给服务端,服务端接收到请求并做出响应,我们通过核心对象…

Linux:冯·诺依曼结构 OS管理机制

Linux&#xff1a;冯诺依曼结构 & OS管理机制 冯诺依曼结构OS管理机制OS对下层硬件的管理OS对上层用户的服务 冯诺依曼结构 我们常见的计算机&#xff0c;比如笔记本&#xff0c;台式电脑。以及一下不常见的计算机&#xff0c;比如服务器&#xff0c;几乎都遵循冯诺依曼体…

积木-蓝桥每日真题

0积木 - 蓝桥云课 (lanqiao.cn) 题目描述 小明用积木搭了一个城堡。 为了方便&#xff0c;小明在搭的时候用的是一样大小的正方体积木&#xff0c;搭在了一个n行m列的方格图上&#xff0c;每个积木正好占据方格图的一个小方格。 当然&#xff0c;小明的城堡并不是平面的&#x…

说说对WebSocket的理解?应用场景?

一、是什么 WebSocket&#xff0c;是一种网络传输协议&#xff0c;位于OSI模型的应用层。可在单个TCP连接上进行全双工通信&#xff0c;能更好的节省服务器资源和带宽并达到实时通迅 客户端和服务器只需要完成一次握手&#xff0c;两者之间就可以创建持久性的连接&#xff0c…

学习嵌入式可以胜任哪一些行业?

嵌入式技术之应用范围甚广&#xff0c;其多见于机器人、无人机、医疗器械以及军工等领域&#xff0c;为学习者带来诸多广泛之职业机遇。嵌入式工程师于此诸领域中扮演关键之角色&#xff0c;负责解决硬件平台适配等诸问题&#xff0c;以为创新提供支撑之力。 虽嵌入式技术与日…

2024年中国金融科技(FinTech)行业发展洞察报告

核心摘要&#xff1a; 金融监管体系的改革推动金融科技行业进入超级监管时代&#xff0c;数据要素应用与金融场景建设成为如今行业关注的重要领域&#xff0c;为金融机构提供以业务需求为导向的技术服务成为“厚积成势”阶段行业发展的新目标&#xff0c;市场参与者的“业技融…

管易云和金蝶云星空接口打通对接实战

管易云和金蝶云星空接口打通对接实战 对接系统&#xff1a;管易云 管易云是金蝶旗下专注提供电商企业管理软件服务的子品牌&#xff0c;先后开发了C-ERP、EC-OMS、EC-WMS、E店管家、BBC、B2B、B2C商城网站建设等产品和服务&#xff0c;涵盖电商业务全流程。 接入系统&#xff1…

idea导入eclipse项目记录

eclipse虽然是免费的但是着实难用(可能是自身不熟悉&#xff09;&#xff0c;就连看class的源代码还得去市场下个插件&#xff0c;结果还搜索不到。对于习惯 IntelliJ 全家桶的的用户来说&#xff0c;用eclipse真的太痛苦。所以迁移eclipse到idea。 本来想着会有困难&#xff…