dledger原理源码分析系列(一)-架构，核心组件和rpc组件

简介

      dledger是openmessaging的一个组件， raft算法实现，用于分布式日志，本系列分析dledger如何实现raft概念，以及dledger在rocketmq的应用

本系列使用dledger v0.40

本文分析dledger的架构，核心组件；rpc组件

关键词

Raft

Openmessaging

参考资料

In Search of an Understandable Consensus Algorithm  raft论文简版

技术架构

• 应用/client  client是dledger提供给应用访问节点的组件
• rpc服务

rpc服务内置rpc client/rpc server，对外接收外部rpc访问，包括client和节点间通讯；对内，解释rpc请求，转发给Server；对外，发送rpc请求到其他节点

• Server

主程序，负责节点启动，其他组件的启动；写入日志请求初步处理等

• Elector

选举类，负责集群主节点选举

• EntryPusher

日志写入器，内置分发器和处理器，分发器主节点用于复制日志到跟随者；处理器跟随者使用，写入日志

• 存储

存储日志条木，有两个实现，基于内存和基于文件

• 快照/状态机

新版本的dledger提供状态机，dledger成为通用的raft组件，不再是转为rocketmq使用

启动

本节分析节点启动，下图是典型的dledger启动代码

1. 构建和初始Server，Server代表节点
2. 注册状态机，若需要的话
3. 注册自定义的处理器，扩展rpc服务，若有的话
4. Metrics组件初始化
5. 启动server

     Server启动，负责启动核心组件

     6. 优雅关机

rpc

本节介绍dledger的rpc模块，dledger选主，日志写入和复制通过来来回回的rpc完成，本节介绍dledger业务层面的rpc设计

节点间通讯

上图节点间通讯模型

RaftProtocol/RaftProtocolHanlder  raft服务接口/处理器接口，raft服务接口定义外部，包括client和节点间访问接口；处理器定义raft处理服务接口

ClientProtocol/ ClientProtocolHanlder 日志服务接口/处理器接口，日志服务接口定义外部，包括client和节点间访问接口；处理器定义日志处理服务接口

RpcService 内置rpc client/rpc server， 对内使用NettyRemotingServer接收rpc请求，解释rpc请求，转发给Server；对外，使用NettyRemotingClient发送rpc请求到其他节点

Server  handler的真正实现者

技术架构图很直观的展示rpc调用关系

客户端通讯

Client组件是应用用于集成dledger，应用可使用client组件访问集群

MetadataUpdate 定时更新leaderId，让Client访问领导者节点

DLedgerClientProtocol 定义了访问集群的接口

扩展机制

Dledger提供rpc扩展机制，通过增加rpc处理器，DLedgerRpcService提供方法注册用户定义处理器

 系列文章

• 架构，核心组件和rpc组件 完成
• 心跳和选举 TBD
• 日志写入/复制和存储  包括日志写入和复制，日志存储组件
• 集成rocketmq  rocketmq使用dledger实现消息存储复制；broker控制器 元数据复制
• 快照/状态机
• 集群成员变更  成员变更管理，节点的上线下线发现，dledger v0.4未实现，但计划中，未来版本实现
• jraft  “double check”  多重分析，jraft比较忠实实现了raft算法，在dledger基础上，再研究jraft对raft更深入的认识