Redian新闻
>
No.171#Redis集群Gosisp协议与节点通信

No.171#Redis集群Gosisp协议与节点通信

科技

引言

Redis集群模式被广泛用于生产环境,本文找几个点捋一下,主要内容:

一、数据分片与分配算法

二、Gosisp协议类型与格式

三、节点选择与通信流程

一、数据分片与分配算法

为了应对流量并发瓶颈,以及方便数据迁移与扩容,数据分片方式是常用的解决方式。


Kafka的分区(partition)、RocketMQ的队列(Queue)、Elasticsearch的主分片/副本(shard)、数据库的分库分表等,均采用数据分片思想应对高并发流量。


Redis的集群模式也不例外,采用虚拟槽slot实现数据分片。


Redis的槽位范围0~16383,共16384个槽位。


Redis Cluster中每个节点负责一部分槽数量,分配算法:slot=CRC16(key)&16383。


槽位分配与选择示意图如下:


二、Gosisp协议类型与格式


1、Gosisp协议类型

节点通信使用Gosisp协议,消息类型有:ping消息、pong消息、meet消息、fail消息。

  • MEET消息:当新节点加入时握手使用。

  • PING消息:节点之间周期性地发送ping消息、交换状态。

  • PONG消息:收到meet、ping消息的响应、并封装自身状态消息。

  • FAIL消息:当节点下线时,像集群广播一个fail消息,其他节点收到会更新该节点的状态。


通信端口=节点端口+10000


每个节点周期性的选择几个节点发送ping消息


2、消息头格式

消息头的结构在clusterMsg中,具体属性如下:

字段说明简述
char sig[4]Signature "RCmb" (Redis Cluster message bus).信号签名
uint32_t totlenTotal length of this message消息长度
uint16_t verProtocol version, currently set to 1协议版本
uint16_t portTCP base port number端口信息
uint16_t typeMessage type消息类型,ping、meet、pong等
uint16_t countOnly used for some kind of messages消息体包含的节点数量
uint64_t currentEpochThe epoch accordingly to the sending node发送节点的纪元(epoch)配置
uint64_t configEpochThe config epoch if it's a master,
or the last epoch advertised by its master if it is a slave
主从节点中,主节点的纪元配置
uint64_t offsetMaster replication offset if node is a master
or processed replication offset if node is a slave
复制偏移量
char sender[CLUSTER_NAMELEN]Name of the sender node发送节点的nodeId信息
unsigned char myslots[CLUSTER_SLOTS/8]myslots info发送节点负责的槽位信息
char slaveof[CLUSTER_NAMELEN]
从节点的nodeId信息
char myip[NET_IP_STR_LEN]Sender IP, if not all zeroed发送者IP
uint16_t extensionsNumber of extensions sent along with this packet扩展信息
char notused1[30]30 bytes reserved for future usage保留30个字节扩展供未来使用
uint16_t pportSender TCP plaintext port, if base port is TLS如果基础端口为TLS,TCP的明文端口
uint16_t cportSender TCP cluster bus port发送者TCP集群总线端口
uint16_t flagsSender node flags发送节点标识,区分主从以及是否下线
unsigned char stateCluster state from the POV of the sender发送者角度的集群状态
unsigned char mflags[3]Message flags: CLUSTERMSG_FLAG[012]_...消息标识
union clusterMsgData data
消息体正文

3、消息体格式

消息体clusterMsgData结构如下:

union clusterMsgData {
    /* PING, MEET and PONG */
    struct {
        /* Array of N clusterMsgDataGossip structures */
        clusterMsgDataGossip gossip[1];
        /* Extension data that can optionally be sent for ping/meet/pong
         * messages. We can't explicitly define them here though, since
         * the gossip array isn'
t the real length of the gossip data. */
    } ping;

    /* FAIL */
    struct {
        clusterMsgDataFail about;
    } fail;

    /* PUBLISH */
    struct {
        clusterMsgDataPublish msg;
    } publish;

    /* UPDATE */
    struct {
        clusterMsgDataUpdate nodecfg;
    } update;

    /* MODULE */
    struct {
        clusterMsgModule msg;
    } module;
};

备注:clusterMsgDataGossip:PING, MEET and PONG采用的消息结构体,详细如下。

typedef struct {
    char nodename[CLUSTER_NAMELEN];
    uint32_t ping_sent;
    uint32_t pong_received;
    char ip[NET_IP_STR_LEN];  /* IP address last time it was seen */
    uint16_t port;              /* base port last time it was seen */
    uint16_t cport;             /* cluster port last time it was seen */
    uint16_t flags;             /* node->flags copy */
    uint16_t pport;             /* plaintext-port, when base port is TLS */
    uint16_t notused1;
} clusterMsgDataGossip;
  • nodename:节点NodeId
  • ping_sent:最后一次向该节点发送ping消息时间
  • pong_received:最后一次接受该节点pong消息时间
  • ip/port/cport/flags/pport:IP端口以及节点标识

三、节点选择与通信流程

1、节点通信流程

两个节点之间发送MEET/PING消息,回复PONG消息的流程如下。


2、通信节点选择

Gosisp协议PING/PONG通信时,具体选择哪个节点发起通信?


每秒从本地实例列表选择5个节点,在这5个节点中选择最久没有通信的实例,向该实例发送PING消息。


避免一些实例节点一直选不到,会有一个定时任务扫描兜底措施。


集群内部每秒10次的固定频率扫描本地缓存节点列表,也就是每100ms一次。


如果节点:PONG更新时间>(cluster-node-timeout/2)立即向该节点发送PING消息。


cluster-node-timeout是判定实例故障的心跳超时时间,默认15秒。


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
Chinese Paddlefish That Outlived Dinosaurs Now Extinct: IUCN英国秋季限定特饮甜品:星巴克COSTA等季节点单攻略!属于南瓜的季节来啦!背靠华为、长安、宁德时代三巨头,阿维塔的争议与隐患[模型] LEGO No.71395 马里奥64问号砖块LeetCode 力扣官方题解 | 1791. 找出星型图的中心节点习总的方向感一塌糊涂如何给世界指明方向China Greenlights Carbon Economy Degree to Aid Its Climate Goals如何使用 FreeDOS Edit | Linux 中国佐治亚州Foreclosure房全美排名第9,每770户就有1户Foreclosure!Dinosaur Demise Started Millennia Before Asteroid Crash: StudyMore Air Conditioning Workers Died This Summer: Media Report张力性气胸典型病例以及临床建议与思考The Key to Reviving Urban Rivers? Recreation, Not RegulationNo.172# Redis集群模式通信成本影响因素11月7日免费赠送71711份冰沙或果汁刨冰!@ 7-Eleven减肥时刻来临“一带一路”投入多少钱?在芝加哥欣赏美术大师们的传世之作乌克兰外长提议与伊朗断交免费演出|Free Shakespeare on the Common 2022:Much Ado About Nothing美股SPAC|垂直整合专业物流和珠宝分销商 Quality Gold 通过与SPAC合并上市早报 | 上市20年的Tod's集团将私有化;Furla上半年收入大涨12%;Off-White一口气关闭中国四家门店地月通信已实现,海洋通信却不行?| 科技袁人瞬时流量高峰场景下的高可用架构设计:Kubernetes集群如何调优?| Q推荐历史新低!GoSports 可折叠 乒乓球桌套装6.1折 175.49元!Disabled Man in Chinese Countryside Inspires Disillusioned Youth25个任务、123次有效载荷、193项实验,Space Tango打造太空实验平台【Space Medicine系列案例】深刻理解 | 以通信方式共享内存,不要以共享内存方式通信美股SPAC|Exela Technologies Inc.的欧洲业务将通过与 SPAC的合并上市迪奥抄袭争议与外媒的文字游戏早报 | Tod's集团私有化夭折;Zara母公司宣布出售俄罗斯业务;Gucci将单独发布男装系列探营真实生物,阿兹夫定片的争议与希望Spring DeferredResult 是个什么玩意?美股SPAC|中国电动汽车公司 Chijet Motor Company, Inc. 与SPAC签订业务合并协议
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。