Redis学习笔记—集群(Redis Cluster)

Redis Cluster是Redis的分布式解决方案,在3.0版本正式推出,有效地解决了Redis分布式方面的需求。当遇到单机内存、并发、流量等瓶颈时,可以采用Cluster架构方案达到负载均衡的目的

数据分布

Redis数据分区

Redis Cluser采用虚拟槽分区,所有的键根据哈希函数映射到0~16383整数槽内,
计算公式:slot=CRC16(key)&16383。每一个节点负责维护一部分槽以及槽所映射的键值数据,使用CRC16key16383将键映射到槽上如下图所示:

使用CRC16key16383将键映射到槽上

Redis虚拟槽分区的特点:

  • 解耦数据和节点之间的关系,简化了节点扩容和收缩难度
  • 节点自身维护槽的映射关系,不需要客户端或者代理服务维护槽分区元数据
  • 支持节点、槽、键之间的映射查询,用于数据路由、在线伸缩等场景

数据分区是分布式存储的核心,理解和灵活运用数据分区规则对于掌握Redis Cluster非常有帮助

集群功能限制

①key批量操作支持有限。如mset、mget,目前只支持具有相同slot值的key执行批量操作。对于映射为不同slot值的key由于执行mget、mget等操作可能存在于多个节点上因此不被支持
②key事务操作支持有限。同理只支持多key在同一节点上的事务操作,当多个key分布在不同的节点上时无法使用事务功能
③key作为数据分区的最小粒度,因此不能将一个大的键值对象如hash、list等映射到不同的节点
④不支持多数据库空间。单机下的Redis可以支持16个数据库,集群模式下只能使用一个数据库空间,即db0
⑤复制结构只支持一层,从节点只能复制主节点,不支持嵌套树状复制结构

搭建

准备节点

Redis集群一般由多个节点组成,节点数量至少为6个才能保证组成完整高可用的集群。每个节点需要开启配置cluster-enabled yes,让Redis运行在集群模式下,建议为集群内所有节点统一目录,一般划分三个目录:conf、data、log,分别存放配置、数据和日志相关文件。把6个节点配置统一放在conf目录下,集群相关配置如下:

#节点端口
port 6380

#后台运行
daemonize yes

#启动生成的pidfile文件
pidfile  /var/run/redis_6380.pid

#开启集群模式
cluster-enabled yes

#节点超时时间,单位毫秒
cluster-node-timeout 15000

#集群内部配置文件(目录自行配置,如果不指定绝对路径,就会生成在运行启动命令的文件夹下)
cluster-config-file "/home/redis/nodes-6380.conf"

虽然本篇是说集群,但是还是在单机学习集群的部署,如果是多主机部署需要开启外网访问的相关配置:

#如果是同一局域网多主机需要bind指向本地的内网ip,
#通过ipconfig查看本地ip,本篇测试机IP为192.168.9.15,所以写成如下配置
bind 192.168.9.15

#如果不是同一局域网,需要开启外网访问,需要注释所有指向的bind配置,
#默认配置只需要注释下面这一行并关闭保护模式
#bind 127.0.0.1
#关闭保护模式把默认配置的yes改成no
protected-mode no

可选配置

#记录日志(目录自行配置)
logfile /home/redis/log/redis_6380.log

#如果开启RDB要改一下文件名
dbfilename "dump-6380.rdb"

#AOF日志开启,可以根据自身需求设置
appendonly  yes

#如果开启AOF记录则改一下记录的文件名对应端口
appendfilename "appendonly-6380.aof"

#不论是rdb还是aof备份方式,备份文件的路径默认配置是 dir ./
#也就是说在何处运行启动命令就会生成在哪里,强烈建议改成绝对路径
dir ./home/redis

其他配置和单机模式一致即可,配置文件命名规则redis-{port}.conf,准备好配置后启动所有节点,命令如下:

redis-server conf/redis-6379.conf
redis-server conf/redis-6380.conf
redis-server conf/redis-6381.conf
redis-server conf/redis-6382.conf
redis-server conf/redis-6383.conf
redis-server conf/redis-6384.conf

查看集群服务是否都已经启动,集群后面带一个[cluster]的标识

[root@vmzq1l0l redis]# ps -ef|grep redis|grep -v grep
root     20868     1  0 09:14 ?        00:00:11 redis-server 127.0.0.1:6379 [cluster]
root     20877     1  0 09:14 ?        00:00:06 redis-server 127.0.0.1:6383 [cluster]
root     20882     1  0 09:14 ?        00:00:05 redis-server 127.0.0.1:6384 [cluster]
root     31781     1  0 Apr03 ?        00:01:17 redis-server 127.0.0.1:6380 [cluster]
root     31786     1  0 Apr03 ?        00:01:16 redis-server 127.0.0.1:6381 [cluster]
root     31791     1  0 Apr03 ?        00:01:16 redis-server 127.0.0.1:6382 [cluster]

注意:如果有某一个节点无法启动,大概率是配置文件配置疏忽大意漏改造成冲突,可以查看启动日志排查原因。

6379节点启动成功,第一次启动时如果没有集群配置文件,它会自动创建一份,文件名称采用cluster-config-file参数项控制,建议采用node-{port}.conf格式定义,通过使用端口号区分不同节点,防止同一机器下多个节点彼此覆盖,造成集群信息异常。如果启动时存在集群配置文件,节点会使用配置文件内容初始化集群信息。Redis集群模式启动过程如下图所示:

Redis集群模式启动过程

集群模式的Redis除了原有的配置文件之外又加了一份集群配置文件。当集群内节点信息发生变化,如添加节点、节点下线、故障转移等。节点会自动保存集群状态到配置文件中。需要注意的是,Redis自动维护集群配置文件,不要手动修改,防止节点重启时产生集群信息错乱。

查看6379启动生成的集群配置文件

[root@vmzq1l0l redis]# cat nodes-6379.conf
4799ea69c91712f3f0b38d786b2de9fca10343ea :6379@16379 myself,master - 0 0 0 connected 12807 15350
vars currentEpoch 0 lastVoteEpoch 0

文件内容记录了集群初始状态,这里最重要的是节点ID,它是一个40位16进制字符串,用于唯一标识集群内一个节点,之后很多集群操作都要借助于节点ID来完成。
也可以使用cluster nodes命令在客户端获取集群节点状态:

127.0.0.1:6379> cluster nodes
4799ea69c91712f3f0b38d786b2de9fca10343ea :6379@16379 myself,master - 0 0 0 connected 12807 15350

注意此处是redis版本5.0以下,5.0以上版本往下翻

创建集群(redis版本5.0以下)

redis5.0以下版本中,官方提供了redis-trib.rb工具用于创建集群
redis-trib.rb是采用Ruby实现的Redis集群管理工具,内部通过Cluster相关命令帮我们简化集群创建、检查、槽迁移和均衡等常见运维操作,使用之前需要安装Ruby依赖环境

# yum -y install ruby ruby-devel rubygems rpm-build
···
# gem install redis
···

安装redis-trib.rb,在redis的src文件夹中,将redis-trib.rb直接复制到/usr/local/bin目录

[root@vmzq1l0l ~]# cd /usr/lcoal/redis/src
[root@vmzq1l0l src]# cp redis-trib.rb /usr/local/bin/

运行redis-trib.rb创建集群

[root@vmzq1l0l src]# redis-trib.rb create --replicas 1 127.0.0.1:6379 127.0.0.1:6380 127.0.0.1:6381 127.0.0.1:6382 127.0.0.1:6383 127.0.0.1:6384
WARNING: redis-trib.rb is not longer available!
You should use redis-cli instead.

All commands and features belonging to redis-trib.rb have been moved
to redis-cli.
In order to use them you should call redis-cli with the --cluster
option followed by the subcommand name, arguments and options.

Use the following syntax:
redis-cli --cluster SUBCOMMAND [ARGUMENTS] [OPTIONS]

Example:
redis-cli --cluster create 127.0.0.1:6379 127.0.0.1:6380 127.0.0.1:6381 127.0.0.1:6382 127.0.0.1:6383 127.0.0.1:6384 --cluster-replicas 1

To get help about all subcommands, type:
redis-cli --cluster help

如果你装的版本是redis5.0之前的的这里应该不会有问题,直接输入yes就可以部署成功,
但是这里报了个错:“警告:redis-trib.rb不再可用”,而且告知我们使用redis-cli创建集群的语法,Redis5.0之后所有原来redis-trib.rb命令都可以用redis-cli –cluster替换

WARNING: redis-trib.rb is not longer available!

redis版本5.0+

创建集群(redis版本5.0+)

redis5.0之后不再使用redis-trib.rb创建集群了,而是使用redis-cli作为创建集群的命令,这意味着不用再装ruby,有如下命令创建集群(–cluster-replicas参数指定集群中每个主节点配备几个从节点,这里设置为1。)

[root@vmzq1l0l redis]# redis-cli --cluster create 127.0.0.1:6379 127.0.0.1:6380 127.0.0.1:6381 127.0.0.1:6382 127.0.0.1:6383 127.0.0.1:6384 --cluster-replicas 1
>>> Performing hash slots allocation on 6 nodes...
Master[0] -> Slots 0 - 5460
Master[1] -> Slots 5461 - 10922
Master[2] -> Slots 10923 - 16383
Adding replica 127.0.0.1:6382 to 127.0.0.1:6379
Adding replica 127.0.0.1:6383 to 127.0.0.1:6380
Adding replica 127.0.0.1:6384 to 127.0.0.1:6381
>>> Trying to optimize slaves allocation for anti-affinity
[WARNING] Some slaves are in the same host as their master
M: 6d9658051472fd42328e0c2c0fa25d5f77051343 127.0.0.1:6379
   slots:[0-5460] (5461 slots) master
M: e27fae258be099a4930fe40854d30384646e33f2 127.0.0.1:6380
   slots:[5461-10922] (5462 slots) master
M: 8c60e2b86699769ae3d7473712ba1eb5034894c6 127.0.0.1:6381
   slots:[10923-16383] (5461 slots) master
S: bff23ec0350b4e5d0be694f1efa9a9385786a443 127.0.0.1:6382
   replicates 8c60e2b86699769ae3d7473712ba1eb5034894c6
S: cfaf4e715eede56ec39a939f826ec394c92678c3 127.0.0.1:6383
   replicates 6d9658051472fd42328e0c2c0fa25d5f77051343
S: ef69743523f99bfeb39272eeef98f7b29e1e2217 127.0.0.1:6384
   replicates e27fae258be099a4930fe40854d30384646e33f2
Can I set the above configuration? (type 'yes' to accept):

从上述输出内容看出,集群自动分配了主从信息,而不是根据命令中输入的顺序分配的,但是如果是不同的主机ip,redis会尽量做到主从在不同的主机上,虽然上面信息写着“127.0.0.1:6382 to 127.0.0.1:6379···”但是关键还是看下面的“M”和“S”的对应关系,不要被上面几行迷惑;
同时还分配了各自的虚拟槽分区的槽值,如果接受这个分配的配置,输入yes,开始执行节点握手和槽分配操作,输出如下:

······
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join
..
>>> Performing Cluster Check (using node 127.0.0.1:6379)
M: 6d9658051472fd42328e0c2c0fa25d5f77051343 127.0.0.1:6379
   slots:[0-5460] (5461 slots) master
   1 additional replica(s)
S: ef69743523f99bfeb39272eeef98f7b29e1e2217 127.0.0.1:6384
   slots: (0 slots) slave
   replicates e27fae258be099a4930fe40854d30384646e33f2
M: 8c60e2b86699769ae3d7473712ba1eb5034894c6 127.0.0.1:6381
   slots:[10923-16383] (5461 slots) master
   1 additional replica(s)
M: e27fae258be099a4930fe40854d30384646e33f2 127.0.0.1:6380
   slots:[5461-10922] (5462 slots) master
   1 additional replica(s)
S: cfaf4e715eede56ec39a939f826ec394c92678c3 127.0.0.1:6383
   slots: (0 slots) slave
   replicates 6d9658051472fd42328e0c2c0fa25d5f77051343
S: bff23ec0350b4e5d0be694f1efa9a9385786a443 127.0.0.1:6382
   slots: (0 slots) slave
   replicates 8c60e2b86699769ae3d7473712ba1eb5034894c6
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

最后输出报告说明:16384个槽全部被分配,集群创建成功。这里需要注意给集群的节点地址必须是不包含任何槽/数据的节点,否则会拒绝创建集群。

检查集群完整性

命令redis-cli –cluster check IP:port,Redis5.0之前的版本可以用 redis-trib.rb check IP:port命令

[root@vmzq1l0l redis]# redis-cli --cluster check 127.0.0.1:6379
127.0.0.1:6379 (6d965805...) -> 0 keys | 5461 slots | 1 slaves.
127.0.0.1:6381 (8c60e2b8...) -> 0 keys | 5461 slots | 1 slaves.
127.0.0.1:6380 (e27fae25...) -> 0 keys | 5462 slots | 1 slaves.
[OK] 0 keys in 3 masters.
0.00 keys per slot on average.
>>> Performing Cluster Check (using node 127.0.0.1:6379)
M: 6d9658051472fd42328e0c2c0fa25d5f77051343 127.0.0.1:6379
   slots:[0-5460] (5461 slots) master
   1 additional replica(s)
S: ef69743523f99bfeb39272eeef98f7b29e1e2217 127.0.0.1:6384
   slots: (0 slots) slave
   replicates e27fae258be099a4930fe40854d30384646e33f2
M: 8c60e2b86699769ae3d7473712ba1eb5034894c6 127.0.0.1:6381
   slots:[10923-16383] (5461 slots) master
   1 additional replica(s)
M: e27fae258be099a4930fe40854d30384646e33f2 127.0.0.1:6380
   slots:[5461-10922] (5462 slots) master
   1 additional replica(s)
S: cfaf4e715eede56ec39a939f826ec394c92678c3 127.0.0.1:6383
   slots: (0 slots) slave
   replicates 6d9658051472fd42328e0c2c0fa25d5f77051343
S: bff23ec0350b4e5d0be694f1efa9a9385786a443 127.0.0.1:6382
   slots: (0 slots) slave
   replicates 8c60e2b86699769ae3d7473712ba1eb5034894c6
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

重点是最后这四句,告诉我们集群所有的槽都已经分配到节点

Redis集群客户端redis cluster client

平时连接命令行客户端用redis-cli即可,如果想连接集群客户端需要加个-c的参数

redis-cli -c -h ip地址 -p 端口

连接到127.0.0.1:6379的默认节点客户端,可以看出如果key名算出的槽值(slot)不在当前节点分配的范围内,会重定向到属于的槽值节点,并且切换连接到那个节点

[root@vmzq1l0l redis]# redis-cli -c
127.0.0.1:6379> set Jerry mouse
OK
127.0.0.1:6379> set Tom cat
-> Redirected to slot [9233] located at 127.0.0.1:6380
OK
127.0.0.1:6380> set Jerry 'bad mouse'
-> Redirected to slot [1468] located at 127.0.0.1:6379
OK
127.0.0.1:6379> get Tom
-> Redirected to slot [9233] located at 127.0.0.1:6380
"cat"
127.0.0.1:6380> get Jerry
-> Redirected to slot [1468] located at 127.0.0.1:6379
"bad mouse"

查看集群中的节点 cluster nodes命令

127.0.0.1:6379> cluster nodes
ef69743523f99bfeb39272eeef98f7b29e1e2217 127.0.0.1:6384@16384 slave e27fae258be099a4930fe40854d30384646e33f2 0 1554358007269 6 connected
8c60e2b86699769ae3d7473712ba1eb5034894c6 127.0.0.1:6381@16381 master - 0 1554358009283 3 connected 10923-16383
e27fae258be099a4930fe40854d30384646e33f2 127.0.0.1:6380@16380 master - 0 1554358007000 2 connected 5461-10922
cfaf4e715eede56ec39a939f826ec394c92678c3 127.0.0.1:6383@16383 slave 6d9658051472fd42328e0c2c0fa25d5f77051343 0 1554358008277 5 connected
bff23ec0350b4e5d0be694f1efa9a9385786a443 127.0.0.1:6382@16382 slave 8c60e2b86699769ae3d7473712ba1eb5034894c6 0 1554358008000 4 connected
6d9658051472fd42328e0c2c0fa25d5f77051343 127.0.0.1:6379@16379 myself,master - 0 1554358007000 1 connected 0-5460

使用命令redis-cli –cluster help可以查看所有关于集群的命令,诸如添加节点删除节点,不再逐个实验

[root@vmzq1l0l redis]# redis-cli --cluster help
Cluster Manager Commands:
  create         host1:port1 ... hostN:portN
                 --cluster-replicas <arg>
  check          host:port
                 --cluster-search-multiple-owners
  info           host:port
  fix            host:port
                 --cluster-search-multiple-owners
  reshard        host:port
                 --cluster-from <arg>
                 --cluster-to <arg>
                 --cluster-slots <arg>
                 --cluster-yes
                 --cluster-timeout <arg>
                 --cluster-pipeline <arg>
                 --cluster-replace
  rebalance      host:port
                 --cluster-weight <node1=w1...nodeN=wN>
                 --cluster-use-empty-masters
                 --cluster-timeout <arg>
                 --cluster-simulate
                 --cluster-pipeline <arg>
                 --cluster-threshold <arg>
                 --cluster-replace
  add-node       new_host:new_port existing_host:existing_port
                 --cluster-slave
                 --cluster-master-id <arg>
  del-node       host:port node_id
  call           host:port command arg arg .. arg
  set-timeout    host:port milliseconds
  import         host:port
                 --cluster-from <arg>
                 --cluster-copy
                 --cluster-replace
  help

For check, fix, reshard, del-node, set-timeout you can specify the host and port of any working node in the cluster.

后续做简单说明,如果主服务挂点了,从服务会顶上来变成主服务,这时候这个主服务再次启动会变成从服务;比如6379节点是个主服务,6382是6379的从服务,这时候由于种种原因,6379挂掉了,6382会被提升为主服务,如果6379再次重启,6379会变成6382的从服务。

发表评论

邮箱地址不会被公开。 必填项已用*标注