Redis是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、高性能的Key-Value数据库,并提供多种语言的API。和Memcached类似,它支持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash(哈希类型)。这些数据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操作,而且这些操作都是原子性的。在此基础上,redis支持各种不同方式的排序。与memcached一样,为了保证效率,数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件,并且在此基础上实现了master-slave(主从)同步。

Redis支持主从同步。数据可以从主服务器向任意数量的从服务器上同步,从服务器可以是关联其他从服务器的主服务器。这使得Redis可执行单层树复制。存盘可以有意无意的对数据进行写操作。由于完全实现了发布/订阅机制,使得从数据库在任何地方同步树时,可订阅一个频道并接收主服务器完整的消息发布记录。同步对读取操作的可扩展性和数据冗余很有帮助。

Redis集群详解

1. Redis集群介绍

Redis 集群是一个提供在多个Redis间节点间共享数据的程序集。
Redis集群并不支持处理多个keys的命令,因为这需要在不同的节点间移动数据,从而达不到像Redis那样的性能,在高负载的情况下可能会导致不可预料的错误.
Redis 集群通过分区来提供一定程度的可用性,在实际环境中当某个节点宕机或者不可达的情况下继续处理命令. Redis 集群的优势:

  • 自动分割数据到不同的节点上。
  • 整个集群的部分节点失败或者不可达的情况下能够继续处理命令。

2. Redis 集群的数据分片

Redis 集群没有使用一致性hash, 而是引入了哈希槽(slot)的概念.
Redis 集群有16384个哈希槽,每个key通过CRC16校验后对16384取模来决定放置哪个槽.集群的每个节点负责一部分hash槽,举个例子,比如当前集群有3个节点,那么:

  • 节点 A 包含 0 到 5500号哈希槽.
  • 节点 B 包含5501 到 11000 号哈希槽.
  • 节点 C 包含11001 到 16384号哈希槽.

这种结构很容易添加或者删除节点. 比如如果我想新添加个节点D, 我需要从节点 A, B, C中得部分槽到D上. 如果我像移除节点A,需要将A中得槽移到B和C节点上,然后将没有任何槽的A节点从集群中移除即可. 由于从一个节点将哈希槽移动到另一个节点并不会停止服务,所以无论添加删除或者改变某个节点的哈希槽的数量都不会造成集群不可用的状态.

3. Redis 集群的主从复制模型

为了使在部分节点失败或者大部分节点无法通信的情况下集群仍然可用,所以集群使用了主从复制模型,每个节点都会有N-1个复制品.
在我们例子中具有A,B,C三个节点的集群,在没有复制模型的情况下,如果节点B失败了,那么整个集群就会以为缺少5501-11000这个范围的槽而不可用.
然而如果在集群创建的时候(或者过一段时间)我们为每个节点添加一个从节点A1,B1,C1,那么整个集群便有三个master节点和三个slave节点组成,这样在节点B失败后,集群便会选举B1为新的主节点继续服务,整个集群便不会因为槽找不到而不可用了
不过当B和B1 都失败后,集群是不可用的.

4. Redis 一致性保证

Redis 并不能保证数据的强一致性. 这意味这在实际中集群在特定的条件下可能会丢失写操作.
第一个原因是因为集群是用了异步复制. 写操作过程:

  • 客户端向主节点B写入一条命令.
  • 主节点B向客户端回复命令状态.
  • 主节点将写操作复制给他得从节点 B1, B2 和 B3.

主节点对命令的复制工作发生在返回命令回复之后, 因为如果每次处理命令请求都需要等待复制操作完成的话, 那么主节点处理命令请求的速度将极大地降低 —— 我们必须在性能和一致性之间做出权衡。 注意:Redis 集群可能会在将来提供同步写的方法。 Redis 集群另外一种可能会丢失命令的情况是集群出现了网络分区, 并且一个客户端与至少包括一个主节点在内的少数实例被孤立。
举个例子 假设集群包含 A 、 B 、 C 、 A1 、 B1 、 C1 六个节点, 其中 A 、B 、C 为主节点, A1 、B1 、C1 为A,B,C的从节点, 还有一个客户端 Z1 假设集群中发生网络分区,那么集群可能会分为两方,大部分的一方包含节点 A 、C 、A1 、B1 和 C1 ,小部分的一方则包含节点 B 和客户端 Z1 .
Z1仍然能够向主节点B中写入, 如果网络分区发生时间较短,那么集群将会继续正常运作,如果分区的时间足够让大部分的一方将B1选举为新的master,那么Z1写入B中得数据便丢失了.

注意, 在网络分裂出现期间, 客户端 Z1 可以向主节点 B 发送写命令的最大时间是有限制的, 这一时间限制称为节点超时时间(node timeout), 是 Redis 集群的一个重要的配置选项。

Redis集群搭建

环境及配置

redis:3.2.12
ruby:2.5.0p0
gem:2.7.3

服务器数量:3,配置如下

Hostname IP OS
centos-vm2 192.168.134.112 CentOS7.5_x64
centos-vm3 192.168.134.113 CentOS7.5_x64
centos-vm4 192.168.134.114 CentOS7.5_x64

redis节点数量:6(3主3从),集群配置如下

Number master slave
1 192.168.134.112:6379 192.168.134.113:6380
2 192.168.134.113:6379 192.168.134.114:6380
3 192.168.134.114:6379 192.168.134.112:6380

1. 安装redis

1
yum install redis ruby rubygems rubygem-redis

2. 创建实例目录

1
2
3
cd /opt
mkdir -p redis/{6379,6380}
chown -R redis.redis redis

3. 配置redis

拷贝生成配置文件

1
2
cp redis.conf /etc/redis_6379.conf
cp redis.conf /etc/redis_6380.conf

配置(6380配置同下。不能设置连接密码,否则集群启动时会连接不上)

1
2
3
4
5
6
7
8
9
10
port  6379                                # 监听端口
bind 本机ip # 监听的IP
daemonize no # redis服务后台运行
dir /opt/redis/6379 # 默认工作目录,会存放节点配置文件,数据持久化dump文件以及日志文件,若节点需要变更目录配置,在停掉节点后,一定要把目录内容一并迁移,然后再重启,要不然节点会丢失旧数据及节点ID(重新生成新ID)
pidfile /var/run/redis_6379.pid # pidfile文件对应端口号,方便区分
logfile "6379.log" # redis服务日志名
cluster-enabled yes # 开启集群
cluster-config-file nodes_6379.conf # 集群的节点配置文件,配置文件首次启动自动生成
cluster-node-timeout 15000 # 集群节点请求超时,默认15秒
appendonly yes # aof日志开启,有需要就开启,它会每次写操作都记录一条日志

4. 启动redis

1
2
systemctl enable redis
systemctl start redis

5. 组建集群

redis集群是使用redis-trib.rb工具来组建和管理集群,它暂不支持Hostname方式,只支持IP地址识别节点

1
redis-trib.rb create --replicas 1 192.168.134.112:6379 192.168.134.113:6380 192.168.134.113:6379 192.168.134.114:6380 192.168.134.114:6379 192.168.134.112:6380
  • –replicas 表示每个主节点后有多少个副本集,即从节点

redis会自动判断并组建3主3从节点的集群

6. 客户端连接测试

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
[root@centos-vm2]$ redis-cli -c -h 192.168.134.112 -p 6379
192.168.1.146:6379> CLUSTER INFO
cluster_state:ok
cluster_slots_assigned:16384
cluster_slots_ok:16384
cluster_slots_pfail:0
cluster_slots_fail:0
cluster_known_nodes:6
cluster_size:3
cluster_current_epoch:6
cluster_my_epoch:1
cluster_stats_messages_ping_sent:151617
cluster_stats_messages_pong_sent:146874
cluster_stats_messages_sent:298491
cluster_stats_messages_ping_received:146869
cluster_stats_messages_pong_received:151617
cluster_stats_messages_meet_received:5
cluster_stats_messages_received:298491

注意,一定要加-c参数

-c: Enable cluster mode (follow -ASK and -MOVED redirections),客户端连接加-c选项的时候,存储和提取key的时候不断在集群节点之间跳转,这个称为客户端重定向。之所以发生客户端重定向,是因为Redis Cluster中的每个Master节点都会负责一部分的槽(slot),存取的时候都会进行键值空间计算定位key映射在哪个槽(slot)上,如果映射的槽(slot)正好是当前Master节点负责则直接存取,否则就跳转到其他Master节点负责的槽(slot)中存取,这个过程对客户端是透明的。