为什么要有集群
之前我们已经讲了主从的概念,一主可以多从,如果同时的访问量过大(1000w),主服务肯定就会挂掉,数据服务就挂掉了或者发生自然灾难
大公司都会有很多的服务器(华东地区、华南地区、华中地区、华北地区、西北地区、西南地区、东北地区、台港澳地区机房)
集群的概念
集群是一组相互独立的、通过高速网络互联的计算机,它们构成了一个组,并以单一系统的模式加以管理。一个客户与集群相互作用时,集群像是一个独立的服务器。集群配置是用于提高可用性和可缩放性。
当请求到来首先由负载均衡服务器处理,把请求转发到另外的一台服务器上。
redis集群
分类
软件层面:只有一台电脑,在这一台电脑上启动了多个redis服务。
硬件层面:存在多台实体的电脑,每台电脑上都启动了一个redis或者多个redis服务。
搭建集群
当前拥有两台虚拟机都是 CentOS主机192.168.0.130、192.168.0.131, 用两台虚拟机模拟6个节点,一台机器3个节点,创建出3 master、3 salve 环境。Redis 官方提供了 redis-trib.rb
这个工具,就在解压目录的 src 目录中,第三步中已将它复制到 /usr/local/bin 目录中,可以直接在命令行中使用了
为什么是以上的配置呢?
错误:创建集群的配置无效。 Redis集群至少需要3个主节点。 至少6个节点
安装过程
1. 下载并解压
#工作目录
cd /root/software
#下载
wget http://download.redis.io/releases/redis-3.2.4.tar.gz
#解压
tar -zxvf redis-3.2.4.tar.gz
2. 编译安装
#切换到解压目录里面
cd redis-3.2.4
#执行编译
make && make install
3. 将 redis-trib.rb 复制到 /usr/local/bin 目录下
将redis应用中执行集群的工具移动到用户环境中
很明显这个redis-trib.rb工具是用 ruby 实现的,所以需要安装ruby和环境
unbuntu系统ruby环境配置
安装redisgem
以上报错就是缺少缺少redis库。
在线安装:
gem install redis
离线安装:
如果linux不能访问外网,就离线安装,附地址:https://rubygems.global.ssl.fastly.net/gems/redis-3.2.1.gem
下载之后打入linux。执行安装:
gem install -l ./redis-3.2.1.gem
安装ruby环境
sudo apt-get install ruby
centos系统ruby环境配置
yum -y install ruby ruby-devel rubygems rpm-build
#将redis应用中执行集群的工具移动到用户环境中
cd srccp redis-trib.rb /usr/local/bin/
4. 创建 Redis 节点
首先在 192.168.31.245 机器上 /root/software/redis-3.2.4 目录下创建 redis_cluster 目录;
mkdir redis_cluster
在 redis_cluster 目录下,创建名为7000、7001、7002的目录,并将 redis.conf 拷贝到这三个目录中
mkdir 7000 7001 7002
cp redis.conf redis_cluster/7000
cp redis.conf redis_cluster/7001
cp redis.conf redis_cluster/7002
分别修改这三个配置文件,修改如下内容
port 7000 //端口7000,7002,7003
bind 本机ip //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口,无法创建集群
daemonize yes //redis后台运行
pidfile /var/run/redis_7000.pid //pidfile文件对应7000,7001,7002
cluster-enabled yes //开启集群 把注释#去掉
cluster-config-file nodes_7000.conf //集群的配置 配置文件首次启动自动生成 7000,7001,7002
cluster-node-timeout 15000 //请求超时 默认15秒,可自行设置
appendonly yes //aof日志开启 有需要就开启,它会每次写操作都记录一条日志
运行各个服务
redis-server redis_cluster/7000/redis.conf
redis-server redis_cluster/7001/redis.conf
redis-server redis_cluster/7002/redis.conf#查看运行的进程
ps -aux |grep redis
#查看端口运行是否正确
netstat -autnlp |grep redis
#关闭服务
kill -9 pid
192.168.0.131类似以上操作
创建集群
redis-trib.rb create --replicas 1 192.168.0.130:7000 192.168.0.130:7001 192.168.0.130:7002 192.168.0.131:7003 192.168.0.131:7004 192.168.0.131:7005
集群验证
在7005节点执行命令 set hello world
然后在另外一台7002端口,查看 key 为 hello 的内容, get hello
简单说一下原理
redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据。
Redis 集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候,直接跳转到了7000端口的节点。
Redis 集群会把数据存在一个 master 节点,然后在这个 master 和其对应的salve 之间进行数据同步。当读取数据时,也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后,才会启动一个对应的 salve 节点,充当 master 。
需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总节点数的一半时,整个集群就无法提供服务了。