Redis节点高可用之Cluster集群搭建

一 介绍

  • 背景

    • Sentinel解决了主从架构故障自动迁移的问题
    • 但是Master主节点的写能力和存储能力依旧受限
    • 使用Redis的集群cluster就是为了解决单机Redis容量有限的问题,将数据按一定的规则分配到多台机器
  • 什么是集群Cluster

    • 是一组相互独立的、通过高速网络互联的计算机,它们构成了一个组,并以单一系统的模式加以管理
    • 容易和分布式弄混,分布式系统简单的可以认为就一个庞大的系统,进行拆分度多个小系统
  • Cluster模式是Redis3.0开始推出
  • 采用无中心结构,每个节点保存数据和整个集群状态, 每个节点都和其他所有节点连接
  • 官方要求:至少6个节点才可以保证高可用,即3主3从;扩展性强、更好做到高可用
  • 各个节点会互相通信,采用gossip协议交换节点元数据信息
  • 数据分散存储到各个节点上

Cluster数据分片和虚拟哈希槽介绍

  • 主节点的写能力和存储能力受限
  • 单台机器无法满足需求,因此把数据分散存储到多个机器
  • 类似案例:mysql分库分表
  • 常见的数据分区算法

    • 哈希取模

      • 对选择的 partitioning key 计算其哈希值,得到的哈希值就是对应的分区
    • 范围分片

      • 通过确定分区键是否在某个范围内来选择分区
    • 一致性Hash分区

    • redis cluster集群没有采用一致性哈希方案,而是采用【数据分片】中的哈希槽来进行数据存储与读取的

  • 什么是Redis的哈希槽 slot

  • Redis集群预分好16384个槽,当需要在 Redis 集群中放置一个 key-value 时,根据 CRC16(key) mod 16384的值,决定将一个key放到哪个桶中

  • 大体流程

    • 假设主节点的数量为3,将16384个槽位按照【用户自己的规则】去分配这3个节点,每个节点复制一部分槽位

      • 节点1的槽位区间范围为0-5460
      • 节点2的槽位区间范围为5461-10922
      • 节点3的槽位区间范围为10923-16383
      • 注意:从节点是没有槽位的,只有主节点才有
    • 存储查找

      • 对要存储查找的键进行crc16哈希运算,得到一个值,并取模16384,判断这个值在哪个节点的范围区间
      • 假设crc16("test_key")%16384=3000,就是节点一
      • crc16算法不是简单的hash算法,是一种校验算法

三 搭建

  • 说明

    • 旧版本的需要使用ruby语言进行构建,新版5之后直接用redis-cli即可
    • 6个节点,三主双从,主从节点会自动分配,不是人工指定
    • 主节点故障后,从节点会替换主节点
  • 注意点:

    • 把之前的rdb、aof文件删除
  • 节点(网络安全组开放端口)

    • 6381、6382
    • 6383、6384
    • 6385、6386
  • 配置
    bind 0.0.0.0 port 6381 daemonize yes requirepass "123456" logfile "/usr/local/redis/log/redis1.log" dbfilename "xdclass1.rdb" dir "/usr/local/redis/data" appendonly yes appendfilename "appendonly1.aof" masterauth "123456" ​ #是否开启集群 cluster-enabled yes ​ # 生成的node文件,记录集群节点信息,默认为nodes.conf,防止冲突,改为nodes-6381.conf cluster-config-file nodes-6381.conf ​ #节点连接超时时间 cluster-node-timeout 20000 ​ #集群节点的ip,当前节点的ip cluster-announce-ip 172.18.172.109 ​ #集群节点映射端口 cluster-announce-port 6381 ​ #集群节点总线端口,节点之间互相通信,常规端口+1万 cluster-announce-bus-port 16381
    bind 0.0.0.0 port 6386 daemonize yes requirepass "123456" logfile "/usr/local/redis/log/redis6.log" dbfilename "xdclass6.rdb" dir "/usr/local/redis/data" appendonly yes appendfilename "appendonly6.aof" masterauth "123456" ​ cluster-enabled yes cluster-config-file nodes-6386.conf cluster-node-timeout 20000 cluster-announce-ip 172.18.172.109 cluster-announce-port 6386 cluster-announce-bus-port 16386

  • 启动6个节点
    ./redis-server ../conf/cluster/redis1.conf ./redis-server ../conf/cluster/redis2.conf ./redis-server ../conf/cluster/redis3.conf ./redis-server ../conf/cluster/redis4.conf ./redis-server ../conf/cluster/redis5.conf ./redis-server ../conf/cluster/redis6.conf

  • 加入集群(其中一个节点执行即可)
    –cluster 构建集群全部节点信息
    –cluster-replicas 1 主从节点的比例,1表示1主1从的方式

    ./redis-cli -a 123456 --cluster create 172.18.172.109:6381 172.18.172.109:6382 172.18.172.109:6383 172.18.172.109:6384 172.18.172.109:6385 172.18.172.109:6386 --cluster-replicas 1

节点高可用之Cluster集群读写命令

  • 集群状态
    ./redis-cli -c -a 123456 -p 6379 ​ #集群信息 cluster info ​ #节点信息 cluster nodes
  • 测试集群读写命令set/get
    key哈希运算计算槽位置
    槽在当前节点的话直接插入/读取,否则自动转向到对应的节点

  • 操作都是主节点操作,从节点只是备份

  • 流程解析

  • 启动应用
    加入集群
    从节点请求复制主节点(主从复制一样)

    • 先全量
    • 再增量

四 节点高可用之Cluster集群整合SpringBoot2.X

不在同个网络,所以集群改为阿里云公网ip地址才可以访问

  • 公司开发部署都会用同个网络
  • 配置文件修改
#对外的ip cluster-announce-ip 8.129.113.233 #对外端口 cluster-announce-port #集群桥接端口 cluster-announce-bus-por 

动态修改配置

config set cluster-announce-ip 8.129.113.233
  • 连接池添加 (之前添加)

    <dependency> <groupId>org.apache.commons</groupId> <artifactId>commons-pool2</artifactId> </dependency>
  • 配置文件(注释Sentinel相关配置)
     cluster: #命名的最多转发次数 max-redirects: 3 nodes: 8.129.113.233:6381,8.129.113.233:6382,8.129.113.233:6383,8.129.113.233:6384,8.129.113.233:6385,8.129.113.233:6386

五 高可用架构总结

  • 主从模式:读写分离,备份,一个Master可以有多个Slaves
  • 哨兵sentinel:监控,自动转移,哨兵发现主服务器挂了后,就会从slave中重新选举一个主服务器
  • 集群: 为了解决单机Redis容量有限的问题,将数据按一定的规则分配到多台机器,内存/QPS不受限于单机,提高并发量。

原文链接:https://blog.csdn.net/m0_37647376/article/details/119534905

原创文章,作者:优速盾-小U,如若转载,请注明出处:https://www.cdnb.net/bbs/archives/16045

(0)
上一篇 2022年11月16日 22:10
下一篇 2022年11月16日 22:10

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

优速盾注册领取大礼包www.cdnb.net
/sitemap.xml