Linux   发布时间:2022-03-31  发布网站:大佬教程  code.js-code.com
大佬教程收集整理的这篇文章主要介绍了Rsync备份服务大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。

概述

1.Rsync基本概述 rsync是一款开源、快速、多功能、可实现全量及增量的本地或远程数据同步备份的优秀工具。rsync软件适用于Unix/linux/Windows等多种操作系统平台。 rsync 简介 rsync英文称为remote synchronizetion,从软件的名称就可以看出来,rsync具有可使本地和远程两台主机之间的数据快速复制同步镜像、远程备份的功能,这个功能类似**ss

1.Rsync基本概述

rsync是一款开源、快速、多功能、可实现全量及增量的本地或远程数据同步备份的优秀工具。rsync软件适用于Unix/linux/Windows等多种操作系统平台。

rsync 简介

rsync英文称为remote synchronizetion,从软件的名称可以看出来,rsync具有可使本地和远程两台主机之间的数据快速复制同步镜像、远程备份的功能,这个功能类似于**ssh带的scp命令,但是又优于scp命令的功能****scp每次都是全量拷贝,而rsync可以增量拷贝**。当然,rsync还可以在本地主机的不同分区或目录之间全量及曾量的复制数据,这又类似cp命令。但是同样也优于cp命令,cp每次都是全量拷贝,而rsync可以增量拷贝。

在同步数据的时候,认情况下,rsync通过其独特的“quick check”算法,它仅同步大小或者最后修改时间发生变化的文件或目录,当然也可根据权限、属主等属性的变化同步,但是需要制定相应的参数,甚至可以实现只同步一个文件里有变化的内容部分,所以,可是实现快速的同步备份数据。

rsync监听端口:873

rsync运行模式:C/S

client/server

客户端/服务端

提示:利用rsync还可以实现删除文件和目录的功能,这又相当于rm命令,一个rsync相当于scp、cp、rm,但是还优于他们的每一个命令。

Rsync的特性

支持拷贝特殊文件,如连接文件、设备等。
可以有排除指定文件或目录同步的功能,相当于打包命令tar的排除功能。
可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变 –p。
可以实现增量同步,既只同步发生变化的数据,因此数据传输效率很高(tar-N)。
可以使用rcp、rsh、ssh等方式来配合传输文件(rsync本身不对数据加密)。
可以通过socket(进程方式)传输文件和数据(服务端和客户端)。
支持匿名的活认证(无需系统用户)的进程模式传输,可以实现方便安全的进行数据备份和镜像。

生产场景架构集群备份方案

1.借助cron+rsync把所有客户服务器数据同步到备份服务器。
2.针对公司重要数据备份混乱状况和领导提出备份全网数据的解决方案。
3.通过本地打包备份,然后rsync结合`inotify`应用把全网数统一备份到一个固定存储服务器,然后在存储服务器上通过脚本检查并报警管理员备份结果。
4.定期将IDC机房的数据 备份公司的内部服务器,防止机房地震及火灾问题导致数据丢失。
5.实时同步,解决存储服务器等的单点问题。

备份的类型

2.Rsync的应用场景

Rsync的数据同步模式

1)推:所有主机推送本地数据至Rsync备份服务器,会导致数据同步缓慢(适合少量数据备份)

Rsync备份服务

2)拉: rsync备份服务端拉取所有主机上的数据,会导致备份服务器开销大

Rsync备份服务

3)大量数据备份场景

Rsync备份服务

4)异地备份

Rsync备份服务

3.Rsync的传输模式

本地方式

远程方式

守护进程

1)本地传输方式

单个主机本地之间的数据传输(此时类似于cp命令)

#本地拷贝数据命令
    Local:  rsync [OPTION...] SRC... [DEST]
    
    #本地拷贝数据示例
?   [[email protected] ~]# rsync  -avz  /etc/passwd  /tmp/
?   rsync       #备份命令(cp)
?   [options]   #选项
?   SRC...      #本地源文件
?   [DEST]      #本地目标文件

[[email protected] ~]# rsync /etc/b.txt  /tmp/

2)远程传输方式

通过ssh通道传输数据,类似scp命令`

#pull拉取数据命令
     Pull: rsync [OPTION...] [[email protected]]HOST:SRC... [DEST]
 #push推送数据命令    
     Push: rsync [OPTION...] SRC... [[email protected]]HOST:DEST
     
#pull拉取数据示例
#拉取远程文件
[[email protected] ~]# rsync -avz [email protected]:/etc/hostname ./
#拉取远程目录下的所有文件
[[email protected] ~]# rsync -avz [email protected]:/root/ /BACkup/ 
#拉取远程目录以及目录下的所有文件
[[email protected] ~]# rsync -avz [email protected]:/root /BACkup/    
Pull        #拉取,下载
rsync       #备份命令
[options]   #选项
[[email protected]]     #目标主机的系统用户
HOST        #目主机IP地址或域名
SRC...      #目标主机源文件
[DEST]      #下载至本地哪个位置    

#push推送数据示例
rsync -avz /BACkup/2018-10-01  [email protected]:/tmp/
Push        #推送,上传
rsync       #备份命令
[options]   #选项
SRC...      #本地源文件
[[email protected]]     #目标主机的系统用户
HOST        #目主机IP地址或域名
[DEST]      #目标对应位置
pull拉:
[[email protected] ~]# rsync -avz [email protected]:/tmp ./
push推:
[[email protected] ~]# rsync -avz /var [email protected]:/tmp/

注意: rsync不管是推还是拉,推送目录的时候带/和不带/

? 1.带/ :/etc/ 将etc目录下的所有内容,推过去(拉过来)

? 2.不带/:/etc 将etc目录整体推过去(拉过来)

Rsync借助SSH协议同步数据存在的缺陷

3)守护进程传输方式

rsync自身非常重要的功能(不使用系统用户,更加安全)

#pull拉取数据命令
Pull: rsync [OPTION...] [[email protected]]HOST::SRC... [DEST]
#push推送数据命令
Push: rsync [OPTION...] SRC... [[email protected]]HOST::DEST

#1.拉取rsync备份服务的"BACkup模块"数据至本地/mnt目录
[[email protected] ~]# rsync -avz [email protected]::BACkup/ /mnt/ --password-file=/etc/rsync.password
rsync           #命令
[OPTION...]     #选项
[[email protected]]         #远程主机用户(虚拟用户)
HOST::          #远程主机地址  
SRC...          #远程主机模块(不是目录)
[DEST]          #将远程主机数据备份至本地什么位置

#2.将本地/mnt目录推送至rsync备份服务器的BACkup模块
[[email protected] ~]# rsync -avz /mnt/ [email protected]::BACkup/ --password-file=/etc/rsync.password
rsync           #命令
[OPTION...]     #选项
SRC...          #远程主机模块(不是目录)
[[email protected]]         #远程主机用户(虚拟用户)
HOST::          #远程主机地址
[DEST]          #将远程主机模块备份至本地什么位置

rsync -avz /data/ [email protected]::zls

4)Rsync命令对应选项

-a                  #归档模式传输,等于-tropgDl
-v                  #详细模式输出,打印速率,文件数量等
-z                  #传输时进行压缩以提高效率
-r                  #递归传输目录及子目录,即目录下得所有目录都同样传输。
-t                  #保持文件时间信息
-o                  #保持文件属主信息
-p                  #保持文件权限
-g                  #保持文件属组信息
-l                  #保留软连接
-P                  #显示同步的过程及传输时的进度等信息
-D                  #保持设备文件信息
-L                  #保留软连接指向的目标文件
-e                  #使用的信道协议,指定替代rsh的sHell程序
--exclude=PATTERN   #指定排除不需要传输的文件模式
--exclude-from=file #文件名所在的目录文件
--bwlimit=100       #限速传输
--partial           #断点续传
--delete            #让目标目录和源目录数据保持一致
--password-file=xxx #使用密码文件

rsync无差异同步

rsync -avz --delete  [email protected]::cm

rsync限速

rsync -avz --bwlimit=1024 /etc [email protected]::cm

4.Rsync服务实践

@H_618_192@ @H_618_192@
主机名 外网IP 内网IP 角色
BACkup 10.0.0.41 172.16.1.41 服务端
web01 10.0.0.7 172.16.1.7 客户端
nfs01 10.0.0.31 172.16.1.31 客户端

4.1服务端配置

1)服务端安装rsync

[[email protected] ~]# yum -y install rsync

2)服务端,修改配置文件

[[email protected] ~]# cat /etc/rsyncd.conf
uid = rsync
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_BACkup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
#####################################
[BACkup]
comment = welcome to oldboyedu BACkup!
path = /BACkup

#配置详解
[[email protected] ~]# vim /etc/rsyncd.conf
uid = rsync                       #运行进程的用户名
gid = rsync                       #运行进程的用户组
port = 873                        #监听端口
fake super = yes                  #无需让rsync以root身份运行
use chroot = no                   #禁锢推送的数据至某个目录,不允许跳出该目录
max connections = 200             #最大连接数200
timeout = 600                     #超时时间600s 10分钟
ignore errors                     #忽略错误信息
read only = false                 #关闭只读
list = false                      #不允许查看模块信息
auth users = rsync_BACkup         #定义虚拟用户,作为连接认证用户
secrets file = /etc/rsync.passwd  #认证用户的密码文件
log file = /var/log/rsyncd.log    #日志文件路径
#####################################
[cm]                                    #模块(任意名字都可以)
comment = welcome to oldboyedu BACkup!  #注释信息(无关紧要)
path = /BACkup                          #定义接受备份数据路径

3)服务端(BACkup),创建用户

创建一个用来运行rsync服务的用户身份

#检查用户是否存在
[[email protected] ~]# id rsync
id: rsync: no such user

#创建用户(不允许登录,不创建家目录)
[[email protected] ~]# useradd rsync -s /sbin/nologin -M
-s:指定登录的sHell
-M:不创建家目录

4)服务端,创建一个备份目录

[[email protected] ~]# mkdir /BACkup
#授权rsync用户
[[email protected] ~]# chown -R rsync.rsync /BACkup/

5)服务端,创建虚拟用户的密码文件

创建虚拟用户密码文件,授权600安全权限(用于客户端连接时使用的用户)

#创建用户名和密码文件
[[email protected] ~]# vim /etc/rsync.passwd
rsync_BACkup:123456
#授权
[[email protected] ~]# chmod 600 /etc/rsync.passwd

6)服务端,启动rsync服务,添加开机自启

[[email protected] ~]# ll /usr/lib/systemd/system/rsyncd.service 
-rw-r--r-- 1 root root 237 Apr 26 01:17 /usr/lib/systemd/system/rsyncd.service
#启动rsyncd守护进程
[[email protected] ~]# systemctl start rsyncd
#允许开机自启
[[email protected] ~]# systemctl enable rsyncd

7)检查端口

[[email protected] ~]# netstat -lntup
ActivE internet connections (only servers)
Proto Recv-Q Send-Q Local Address       Foreign Address      State     PID/Program name   
tcp        0      0 0.0.0.0:873         0.0.0.0:*           LISTEN     4758/rsync

4.2客户端配置

1)安装rsync

[[email protected] ~]# yum install -y rsync

2)创建虚拟用户的密码文件

Rsync客户端仅需配置虚拟用户的密码,并授权为600安全权限

#创建用户密码文件
[[email protected] ~]# vim /etc/rsync.pass
123456
或  echo 123456 >/etc/rsync.pass
#授权
[[email protected] ~]# chmod 600 /etc/rsync.pass

#免交互方式一:
rsync -avz --password-file=/etc/rsync.pass
#免交互方式二(脚本使用,推荐):
export RSYNC_password=cm

4.3Rsync实战

实战一

[[email protected] ~]# mkdir /data
[[email protected] ~]# cd /data
[[email protected] data]# touch file{1..100}
[[email protected] data]# ll

推:客户端推送data目录下所有内容Rsync服务端

#交互式,需要输入密码
[[email protected] ~]# rsync -avz /data/ [email protected]::cm
#非交互式
[@L_772_162@ ~]# rsync -avz /data/ [email protected]::cm --password-file=/etc/rsync.pass

#查看
[[email protected] ~]# ll /BACkup
@R_895_10586@l 0
-rw-r--r-- 1 rsync rsync 0 Aug  1 20:07 file1
-rw-r--r-- 1 rsync rsync 0 Aug  1 20:07 file2
-rw-r--r-- 1 rsync rsync 0 Aug  1 20:07 file3
-rw-r--r-- 1 rsync rsync 0 Aug  1 20:07 file4
-rw-r--r-- 1 rsync rsync 0 Aug  1 20:07 file5

拉:客户端拉取Rsync服务端 BACkup模块数据至本地客户端的 /root目录

#交互式,需要输入密码
[[email protected] ~]# rsync -avz [email protected]::cm /root/
#非交互式
[[email protected] ~]# rsync -avz [email protected]::cm /root/ --password-file=/etc/rsync.pass

#查看
[[email protected] ~]# ll
-rw-r--r--  1 root root    0 Aug  1 20:07 file1
-rw-r--r--  1 root root    0 Aug  1 20:07 file2
-rw-r--r--  1 root root    0 Aug  1 20:07 file3
-rw-r--r--  1 root root    0 Aug  1 20:07 file4
-rw-r--r--  1 root root    0 Aug  1 20:07 file5

报错:

1.客户端密码文件:600权限

2.服务端密码文件:600权限

3.客户端密码文件中,只写密码,不写用户

4.服务端密码文件中,用户:密码

5.服务端的/BACkup目录权限不是 rsync

chown -R rsync.rsync /BACkup

认证失败:

1.先检查配置文件:服务端:/etc/rsyncd.conf

[模块]

2.检查服务端,/etc/rsync.passwd文件的权限是不是600

3.再检查服务端,/etc/rsync.passwd文件内容,是不是 用户名:密码

rsyncd.conf 里的 rsync_BACkup

4.再检查客户端,/etc/rsync.pass 权限600

5./etc/rsync.pass 内容只写密码

6.修改配置文件要重启服务,[BACkup] [cm]

systemctl restart rsyncd

实战二

客户端需求

1.客户端提前准备存放的备份的目录,目录规则如下:/BACkup/nfs_172.16.1.31_2018-09-02

#安装ntPDAte
yum install -y ntPDAte

#实现第一部分内容,将备份的数据目录创建出来
[[email protected] ~]# vim rsync.sh 
#!/bin/bash
H=`hostname`
IP=`ifconfig eth1|awk 'NR==2{print $2}'`
DATE=`date +%F`
SRC=${H}_${IP}_${DATE}
mkdir -p /BACkup/$SRC                 #创建备份目录

#执行脚本
[[email protected] ~]# sh rsync.sh 
#查看备份数据
[[email protected] ~]# ll /BACkup/
@R_895_10586@l 0
drwxr-xr-x 2 root root 6 Aug  2 19:00 web01_172.16.1.7_2019-08-02

2.客户端在本地打包备份(系统配置文件、应用配置等)拷贝至/BACkup/nfs_172.16.1.31_2018-09-02

[[email protected] ~]# vim rsync.sh

#!/bin/bash
H=`hostname`
IP=`ifconfig eth1|awk 'NR==2{print $2}'`
DATE=`date +%F`
SRC=${H}_${IP}_${DATE}
mkdir -p /BACkup/$SRC

tar zcf /BACkup/${SRC}/conf_${DATE}.tar.gz /var/log/messages /etc/passwd /etc/gshadow /etc/shadow /etc/group &>/dev/null         #打包备份至/BACkup/nfs_172.16.1.31_2018-09-02/下

3.客户端最后将备份的数据进行推送至备份服务器

[[email protected] ~]# vim rsync.sh

#!/bin/bash
H=`hostname`
IP=`ifconfig eth1|awk 'NR==2{print $2}'`
DATE=`date +%F`
SRC=${H}_${IP}_${DATE}

export RSYNC_password=123456        #设置免交互密码
mkdir -p /BACkup/$SRC
tar zcf /BACkup/${SRC}/conf_${DATE}.tar.gz /var/log/messages /etc/passwd /etc/gshadow /etc/shadow /etc/group &>/dev/null

rsync -az /BACkup/ [email protected]::cm    #将备份数据推送至备份服务器

测试命令:

[[email protected] ~]# for n in `seq -w 30`;do date -s "201908$n";sh rsync.sh;done

4.客户端服务器本地保留最近7天的数据,避免浪费磁盘空间

[@L_925_197@ ~]# vim rsync.sh

#!/bin/bash
H=`hostname`
IP=`ifconfig eth1|awk 'NR==2{print $2}'`
DATE=`date +%F`
SRC=${H}_${IP}_${DATE}
export RSYNC_password=123456 
mkdir -p /BACkup/$SRC
tar zcf /BACkup/${SRC}/conf_${DATE}.tar.gz /var/log/messages /etc/passwd /etc/gshadow /etc/shadow /etc/group &>/dev/null

md5sum /BACkup/${SRC}/conf_${DATE}.tar.gz > /BACkup/res7.txt    #校验打包结果放入/BACkup目录下
rsync -az /BACkup/ [email protected]::cm

find /BACkup/ -type d -mtime +7 |xargs rm -fr        #保留最近7天的数据
#定义变量
[[email protected] ~]# H=`hostname`
[[email protected] ~]# IP=`ifconfig eth1 |awk 'NR==2{print $2}'`
[[email protected] ~]# DATE=`date +%F`
[[email protected] ~]# SRC=${H}_${IP}_${DATE}

#校验打包是否成功
[[email protected] ~]# md5sum /BACkup/${SRC}/conf_${DATE}.tar.gz
1c7529d288ee10f18e59d8ad93e770f7  /BACkup/web01_172.16.1.7_2019-08-04/conf_2019-08-04.tar.gz
#将校验结果放入/BACkup目录下
[[email protected] ~]# md5sum /BACkup/${SRC}/conf_${DATE}.tar.gz > /BACkup/res.txt

5.客户端每天凌晨1点定时执行该脚本

[[email protected] ~]# crontab -e
#每天凌晨一点备份重要数据 By:cm  At:2019-08-02
00 01 * * * /bin/sh /root/rsync.sh &>/dev/null

#如何修改时间
[[email protected] ~]# date
Sat Aug  3 00:04:57 CST 2019
[[email protected] ~]# date -s '20190804'
Sun Aug  4 00:00:00 CST 2019
#如何同步时间
[[email protected] ~]# ntPDAte time.windows.com &>/dev/null
服务端需求

1.服务端部署rsync,用于接收客户端推送过来的备份数据

#安装mailx,ntPDAte
yum install -y mailx
yum install -y ntPDAte

#配置mail.rc
vim /etc/mail.rc

Shift + g(在文件末尾添加即可)

set [email protected]
set smtp=smtps://smtp.qq.com:465
set [email protected]
set smtp-auth-password=授权码
set smtp-auth=login
set ssl-verify=ignore
set nss-config-dir=/etc/pki/nssdb/

2.服务端需要每天校验客户端推送过来的数据是否完整

3.服务端需要每天校验的结果通知管理员

4.服务端仅保留6个月的备份数据,其余的全部删除

#配置文件
vim  check_BACkup.sh

#!/bin/bash
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
DATE=`date +%F`

md5sum -c /BACkup/res*.txt|mail -s "${DATE} check BACkup" [email protected]  #检验数据并发送给管理员

find /BACkup -type d -mtime +180|xargs rm -fr           #保留6个月的备份数据
[[email protected] ~]# crontab -e
#每天凌晨一点零一分校验结果       By:cm     At:2019-08-02
01 01 * * * /bin/sh /root/check_BACkup.sh &>/dev/null

大佬总结

以上是大佬教程为你收集整理的Rsync备份服务全部内容,希望文章能够帮你解决Rsync备份服务所遇到的程序开发问题。

如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。