dcf配置解析机制(元数据)

dcf配置解析机制(元数据)

openguass的dcf是一个分布式一致性协议的实现(基于paxos协议,类似raft),能够实现分布式一致性数据传输和存储。

dcf通过传入json字符串来传递配置数据,如:

#1. 使能dcf特性开关
enable_dcf = on  
#2. 当前节点id, 如果集群为3节点则每个节点可分别配置为1、2、3 
dcf_node_id = 1  
#3. 指定dcf数据目录
dcf_data_path = '/xxx/cluster/data1/dn1/dcf_data'  
#4. 指定dcf集群配置信息,每个节点上dcf_config内容一致,其中配置的ip/端口专用于dcf节点间通信链路,注意与所有其他已使用的ip/端口不要配置冲突 
dcf_config = '[{"stream_id":1,"node_id":1,"ip":"x.x.x.21","port":xx,"role":"LEADER"},{"stream_id":1,"node_id":2,"ip":"x.x.x.22","port":xx,"role":"FOLLOWER"},{"stream_id":1,"node_id":3,"ip":"x.x.x.23","port":xx,"role":"FOLLOWER"}]'

其中重点关注如下json字符串,

[{"stream_id": 1,"node_id": 1,"ip": "x.x.x.21","port": 1712,"role": "LEADER"
}, {"stream_id": 1,"node_id": 2,"ip": "x.x.x.22","port": 1713,"role": "FOLLOWER"
}, {"stream_id": 1,"node_id": 3,"ip": "x.x.x.23","port": 1714,"role": "FOLLOWER"
}]

dcf解析json字符串

dcf解析json字符串的流程大致如下:

dcf_start
init_main_threads
md_init
parse_streams_cfg

在start的时候传入cfg_str,然后在parse_streams_cfg中解析到内存中。

json字符串是以json数组方式传入的,在解析前会判断是否是json数组,如果不是json数组就会报错退出。json数组里的对象就是stream,可以配置stream相关的信息,配置了多条流后会循环解析每个stream对象。

若dcf不是第一次启动,而是之前已经启动过并保留了元数据,则在执行md_init时会先读取元数据,若能读取到元数据,即使再传入json字符串也不会再解析。也就是说,只有在第一次启动dcf时才会解析json字符串,一旦启动过一次保存了元数据后就不会再解析传入的json字符串了。

对于单个stream调用parse_stream_cfg_single,解析结果保存到dcf_streams_t,其实就是放到内存里,最终放到全局变量g_metadata中。

typedef struct st_ptlist {pointer_t *items;uint32 capacity;uint32 count;
} ptlist_t;typedef struct st_streams_t {ptlist_t stream_list;
} dcf_streams_t;

在parse_stream_cfg_single中解析时,会解析如下配置:

  • stream_id
  • node_id
  • ip
  • port
  • role
  • weight
  • group
  • priority
    除了stream_id外,其他参数都会保存到dcf_node_t里,
typedef struct st_dcf_node {uint32 node_id; // 节点idchar ip[CM_MAX_IP_LEN]; // 节点监听的ipuint32 port; // 节点监听的端口dcf_role_t default_role; // 节点默认角色uint32 voting_weight; // 投票的权重uint32 group; // 分组iduint64 priority; // 优先级
} dcf_node_t;

都解析成功后会将这些参数添加到stream里,

add_stream_member(streams, stream_id, &node_info);

dcf最多支持64条流,在添加时会对stream_id进行校验,节点数最多支持256个,会对node_id校验,voting_weight与node_id对应,也不能超过256.

在添加流之前还会确认这条流是否存在,如果流已经存在则无法添加成功,确认流存在后还会确认节点是否已经在这条流里面了。即流已经存在并且节点已经在这条流里面了是无法添加流成功的。

    if (stream_isexists(stream_list, stream_id)) {if (MD_GET_STREAMS_NODE(stream_list, stream_id, node_id) != NULL) {return CM_TRUE;}}

最终所有的流都被保存到了全局静态变量g_metadata的streams链表里,streams前面已经列举过。

typedef struct st_dcf_meta {latch_t latch;meta_status_t status;uint32 current_node_id;dcf_node_t* all_nodes[CM_MAX_NODE_COUNT];dcf_streams_t* streams;char* buffer;uint32 checksum;
} dcf_meta_t;static dcf_meta_t g_metadata;

按照当前分析来看,一个节点可以有多条流。比如json字符串配置成这样也是可以的,

[{"stream_id": 1,"node_id": 1,"ip": "127.0.0.1","port": 1712,"role": "LEADER"
}, {"stream_id": 1,"node_id": 2,"ip": "127.0.0.1","port": 1713,"role": "FOLLOWER"
}, {"stream_id": 2,"node_id": 3,"ip": "127.0.0.1","port": 1714,"role": "FOLLOWER"
}]

到这里json字符串就被解析到dcf进程中了,这里其实就是解析到了stream的配置。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/224034.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

现代C++ 实现单例模式

传统写法有什么问题 如果你了解过单例模式,双重检查锁定模式(Double-Checked Locking Pattern,后文简称DCLP)的写法你一定不会陌生,甚至你或许认为它是最正确的代码。 class Singleton { public://获取单例Singleton…

linux 内核同步互斥技术之顺序锁

顺序锁 顺序锁区分读者和写者,和读写自旋锁相比,它的优点是不会出现写者饿死的情况。读者不会阻塞写者,读者读数据的时候写者可以写数据。顺序锁有序列号,写者把序列号加 1,如果读者检测到序列号有变化,发…

影视泛目录如何快速提升百度,搜狗权重?

要想快速提升影视泛目录网站的百度、搜狗权重,需要注意以下几点: 【苹果影视泛目录】部分功能 1、泛目录自由控制不影响本身程序使用 2、开关控制正常采集数据拉取本地词库与本地描述 3、正常页面干扰码开关 4、蜘蛛白名单 5、泛目录防重复功能 6.8版本…

解决:Component name “index“ should always be multi-word

原因 要求组件名称以驼峰格式命名,自定义组件名称应该由多单纯组成,防止和html标签冲突,所以index.vue 会报错 解决 1、按照规则驼峰格式,如:appIndex.vue 2、若有.eslintrc.js文件,并在规则中(rules)关…

数据挖掘-08-基于Python实现时间序列分析建模(ARIMA 模型)(包括数据和代码)

文章目录 0. 数据代码下载1. 背景描述2. 预测目的3. 数据总览4. 数据预处理4.1数据描述性统计与清洗a. 导入程序库b. 读取数据c. 查看统计信息和空值d. 查看是否有重复数据以及清理重复数据e. 空值清理f. 针对清洗后的数据进行统计分析 5. 探索性数据分析5.1 数据分析 6. 构建 …

在线文本对比工具

在线文本对比工具: Diff Checker: 网址:https://www.diffchecker.com/ Text Compare: 网址:https://text-compare.com/ Mergely: 网址:https://www.mergely.com/ Draftable Compare: 网址:https://draftable.com/co…

猫粮哪个牌子质量好性价比高?盘点十款主食冻干猫粮品牌排行榜!

在过去的100多年里,猫咪主食市场一直被膨化猫粮主导。然而,随着猫咪频频出现猝死、失明、发育不良以及营养不良等问题,猫主人们开始质疑膨化粮是否最适合猫咪。于是,从上世纪90年代开始,出现了生骨肉喂养。生骨肉确实是…

网络安全——基于Snort的入侵检测实验

一、实验目的要求: 二、实验设备与环境: 三、实验原理: 四、实验步骤: 五、实验现象、结果记录及整理: 六、分析讨论与思考题解答: 七、实验截图: 一、实验目的要求: 1、掌握…

一、win10+yolov8+anaconda环境部署

1、安装anaconda (1)打开aonconda下载地址:https://www.anaconda.com/download,点击download下载。 2、下载完成后,双击打开,点击Next,I Agree,选择just me; 3、勾选…

Spring上下文之注解模块ConfigurationMethod

博主介绍:✌全网粉丝5W+,全栈开发工程师,从事多年软件开发,在大厂呆过。持有软件中级、六级等证书。可提供微服务项目搭建与毕业项目实战,博主也曾写过优秀论文,查重率极低,在这方面有丰富的经验✌ 博主作品:《Java项目案例》主要基于SpringBoot+MyBatis/MyBatis-plus+…

飞天使-docker知识点8-docker的资源限制

文章目录 容器资源限制示例 容器资源限制 Docker提供了多种资源限制的方式,可以根据应用程序的需求和系统资源的可用性进行选择。以下是一些常见的Docker资源限制及其使用情况:CPU限制:通过设置CPU的配额(quota)和周期…

网络(九)CanSM及达芬奇配置

【小猫爪】AUTOSAR学习笔记05-Communication Stack之CanSM模块-CSDN博客 上链接讲的非常好。 CanSM提供的函数。 C CanSM使用的函数:

spring mail 邮件发送demo

首先配置号邮件服务器(我用的是126邮箱),获取密钥: 进入下图的【邮箱中心】->点击右侧的齿轮按钮 接着,开启 下图位置 的 POP3/SMTP(我当时点击开启时,需要手机扫码认证下) 最后…

putIfAbsent、computeIfAbsent、computeIfPresent

putIfAbsent 判断是否存在,不存在则设置 hashmap.putIfAbsent(K key, V value) 例子如下: public static void main(String[] args) {//hashmap.putIfAbsent(K key, V value)HashMap hashMap Maps.newHashMap();hashMap.put("aa","on…

ConnectionError怎么解决

文章目录 解决思路lz的具体解决过程 解决思路 这个错误表明在尝试加载评价指标时,代码试图从 huggingface 下载文件,但由于代理错误而无法连接。 为了解决这个问题,你可以尝试以下几个步骤: 1.设置代理: 如果你在使…

Zabbix监控系统部署与管理

zabbix介绍 zabbix是⼀个基于 Web 界面的提供分布式系统监视以及网络监视功能的企业级的免费开源解决⽅案。zabbix能监视各种⽹络参数,保证服务器系统的安全运营;并提供灵活的通知机制以让系统管理员快速定位/解决存在的各种问题。 zabbix构成 zabbix由…

Windows进程机制

进程 进程要做任何事情,必须让一个线程在它的上下文运行。该线程负责执行进程地址空间包含的代码。每个进程至少要有一个线程来执行进程地址空间包含的代码。当系统创建一个进程的时候,会自动为进程创建第一个线程,这称为主线程(…

命令调用先构建hashTable

GPT 代码改 #include <stdio.h> #include <stdlib.h> #include <string.h>#define TABLE_SIZE 256struct Node {char *key;void *value;struct Node *next; };struct HashTable {struct Node *table[TABLE_SIZE]; };void initHashTable(struct HashTable *ha…

简单计算器

题目描述 一个最简单的计算器&#xff0c;支持 ,-,*,/ 四种运算。仅需考虑输入输出为整数的情况&#xff0c;数据和运算结果不会超过 int 表示的范围。然而&#xff1a; 如果出现除数为 0 的情况&#xff0c;则输出&#xff1a;Divided by zero!。 如果出现无效的操作符&…