bookkeeper基本概念

Apache BookKeeper 架构与基本概念

Apache BookKeeper 的架构

Apache BookKeeper 是一个高性能的分布式日志存储系统,主要用于存储和管理顺序写入的数据。它被设计用来提供低延迟、高吞吐量和强一致性的服务,常用于分布式系统中的日志存储需求(例如,Apache Kafka 的底层存储就用到了类似的机制)。以下是它的架构概述:

1. 基本组件

  • Bookie:BookKeeper 的存储节点,负责存储日志条目(entries)。每个 Bookie 是一个独立的服务器,管理自己的磁盘存储。
  • Ledger:逻辑上的日志单元,是 BookKeeper 的核心抽象。一个 Ledger 是一系列日志条目的集合,类似于一个文件。Ledger 是只追加的,写入后不可修改。
  • Client:应用程序通过 BookKeeper Client 与系统交互,负责创建 Ledger、写入数据和读取数据。
  • Metadata Store:元数据存储,通常使用 Apache ZooKeeper,负责存储 Ledger 的元数据,例如哪些 Bookie 存储了某个 Ledger 的数据。

2. 架构设计

  • 分布式存储:数据被分片存储在多个 Bookie 上。每个 Ledger 的日志条目会被复制到多个 Bookie(通常是 3 个副本),以保证高可用性和容错性。
  • 写入流程
    1. Client 创建一个 Ledger。
    2. Client 将日志条目写入 Ledger,数据会被发送到多个 Bookie。
    3. Bookie 收到数据后,先写入本地日志(Journal),然后再写入存储(Ledger Storage),确保数据持久化。
    4. 当足够数量的 Bookie 确认写入成功(满足一致性要求,例如多数派确认),Client 收到写入成功的响应。
  • 读取流程:Client 可以从任意存有副本的 Bookie 读取数据。如果某个 Bookie 不可用,Client 会自动切换到其他副本。
  • 元数据管理:ZooKeeper 负责协调 Bookie 的状态、Ledger 的分配和故障检测。

3. 关键特性

  • 高吞吐量:通过分离元数据和数据存储,以及并行写入多个 Bookie,实现高性能。
  • 低延迟:写入操作在内存中快速完成,Journal 机制保证数据不丢失。
  • 强一致性:支持配置副本数量和确认策略,确保数据一致性。
  • 容错性:通过多副本和自动故障恢复机制,即使部分 Bookie 宕机也能继续运行。

基本概念

  1. Ledger

    • 一个有序的日志条目序列。
    • 每个 Ledger 有唯一的 ID,由 Client 创建。
    • 支持只追加写入,关闭后不可再写。
  2. Entry

    • Ledger 中的最小数据单元,类似于日志中的一条记录。
    • 每个 Entry 都有一个唯一的 Entry ID。
  3. Ensemble

    • 存储某个 Ledger 的 Bookie 集合。Ensemble 大小决定了副本数量(例如,3 个 Bookie 组成一个 Ensemble)。
  4. Quorum

    • 写入或读取时需要的最小确认数。例如,写入 Quorum(Write Quorum, WQ)和确认 Quorum(Ack Quorum, AQ)可以配置,以平衡性能和一致性。
  5. Journal

    • Bookie 上的预写日志(WAL, Write-Ahead Log),用于在数据写入存储前记录操作,确保数据不丢失。
  6. Striping

    • 数据分片机制,将 Ledger 的条目分布到多个 Bookie 上,提升并行性和性能。

总结

Apache BookKeeper 的架构围绕 Ledger 和 Bookie 构建,通过分布式存储、元数据管理(ZooKeeper)和多副本机制,实现了高性能、高可用性和强一致性。它的基本概念(如 Ledger、Entry、Ensemble 等)是理解其工作原理的关键。

如果您指的是其他“Bookkeeper”(例如某个特定软件或概念),请提供更多上下文,我会调整回答!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/74882.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Scala相关知识学习总结3

包 - 包声明:和Java类似,作用是区分同名类、管理类命名空间。Scala包名只能含数字、字母等,不能数字开头、不能用关键字。 - 包说明:有类似Java的包管理风格,也有独特嵌套风格。嵌套风格有两个特点,一是&…

在Spring Boot中实现图片上传和修改

1. 图片上传实现步骤 1.1 添加依赖 确保 spring-boot-starter-web 和 spring-boot-starter-validation 已存在&#xff1a; <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId> <…

网络原理 - HTTP/HTTPS

1. HTTP 1.1 HTTP是什么&#xff1f; HTTP (全称为 “超文本传输协议”) 是⼀种应用非常广泛的应用层协议. HTTP发展史&#xff1a; HTTP 诞生于1991年. 目前已经发展为最主流使用的⼀种应用层协议 最新的 HTTP 3 版本也正在完善中, 目前 Google / Facebook 等公司的产品已经…

第十届MathorCup高校数学建模挑战赛-A题:无车承运人平台线路定价问题

目录 摘 要 一、问题提出 1.1 背景 1.2 问题重述 二、基本假设 三、符号说明 四、问题分析 4.1 问题一的分析 4.2 问题二的分析 4.3 问题三的分析 4.4 问题四的分析 五、模型的建立与求解 5.1 问题一模型的建立与求解 5.1.1 数据预处理 5.1.2 问题一结果检验:因子分析模型 5.2…

C++假期练习

思维导图 牛客练习

Go语言-初学者日记(四):包管理

众所周知——“包”治百病。 理解包与模块&#xff0c;是 Go 迈向工程化开发的关键一环&#xff01; &#x1f4c2; 一、包&#xff08;Package&#xff09;是 Go 的基本组织单位 在 Go 中&#xff0c;每个 .go 文件都属于某个包&#xff08;package&#xff09;&#xff1a; …

Scala面向对象2

1. 抽象属性和方法&#xff1a;用 abstract 关键字定义抽象类&#xff0c;其中抽象属性无初始值&#xff0c;抽象方法无实现 。重写抽象方法需用 override &#xff0c;重写抽象属性时&#xff0c;可变属性用 var &#xff0c;不可变属性用 val 。 匿名子类&#xff1a;和 Jav…

DiffAD:自动驾驶的统一扩散建模方法

25年3月来自新加坡公司 Carion 和北航的论文“DiffAD: A Unified Diffusion Modeling Approach for Autonomous Driving”。 端到端自动驾驶 (E2E-AD) 已迅速成为实现完全自动驾驶的一种有前途的方法。然而&#xff0c;现有的 E2E-AD 系统通常采用传统的多任务框架&#xff0c…

Python四大核心数据结构深度解析:列表、元组、字典与集合

在Python编程语言中&#xff0c;数据结构是组织和存储数据的基本方式。Python提供了四种内置的核心数据结构&#xff1a;列表&#xff08;List&#xff09;、元组&#xff08;Tuple&#xff09;、字典&#xff08;Dictionary&#xff09;和集合&#xff08;Set&#xff09;。这…

网络编程—Socket套接字(TCP)

上篇文章&#xff1a; 网络编程—Socket套接字&#xff08;UDP&#xff09;https://blog.csdn.net/sniper_fandc/article/details/146923670?fromshareblogdetail&sharetypeblogdetail&sharerId146923670&sharereferPC&sharesourcesniper_fandc&sharefro…

SkyWalking+Springboot实战(最详细)

本篇文章记录了作者在0到1学习SkyWalking的过程&#xff0c;记录了对SkyWalking的部署&#xff0c;学习&#xff0c;使用Bug解决等等过程 一、什么是SkyWalking 官方文档&#xff1a; Apache SkyWalkinghttps://skywalking.apache.org/ SkyWalking 是一个开源的分布式追踪、性…

Arduino示例代码讲解:Row-Column Scanning an 8x8 LED matrix with X-Y input LED矩阵

Arduino示例代码讲解:Row-Column Scanning an 8x8 LED matrix with X-Y input LED矩阵 Row-Column Scanning an 8x8 LED matrix with X-Y input LED矩阵功能概述硬件部分:软件部分:代码逐行解释定义常量定义变量`setup()` 函数`loop()` 函数`readSensors()` 函数`refreshScr…

多线程编程中的锁策略

目录 1.悲观锁vs乐观锁 关键总结 悲观锁&#xff1a; 乐观锁&#xff1a; 选择建议 用 悲观锁 当&#xff1a; 用 乐观锁 当&#xff1a; 2.重量级锁vs轻量级锁 选择建议 用 轻量级锁&#xff1a; 用 重量级锁&#xff1a; 3.挂起等待锁vs自旋锁 关键细节说明 选择…

负载均衡是什么,Kubernetes如何自动实现负载均衡

负载均衡是什么&#xff1f; 负载均衡&#xff08;Load Balancing&#xff09; 是一种网络技术&#xff0c;用于将网络流量&#xff08;如 HTTP 请求、TCP 连接等&#xff09;分发到多个服务器或服务实例上&#xff0c;以避免单个服务器过载&#xff0c;提高系统的可用性、可扩…

React-01React创建第一个项目(npm install -g create-react-app)

1. React特点 JSX是javaScript语法的扩展&#xff0c;React开发不一定使用JSX。单向响应的数据流&#xff0c;React实现单向数据流&#xff0c;减少重复代码&#xff0c;比传统数据绑定更简单。等等 JSX是js的语法扩展&#xff0c;允许在js中编写类似HTML的代码 const …

小程序中的网络请求

在小程序中&#xff0c;使用 wx.request( ) 这个方法来发送网路请求&#xff0c;整个请求的方式和 jQuery 里面的 $.ajax 方法是非常相似的。 在 wx.request( ) 这个方法中&#xff0c;接收一个配置对象&#xff0c;该配置对象中能够配置的项目如下表&#xff1a; 关于服务器…

jvm 的attach 和agent机制

Java 的 Attach 和 Agent 机制在实际应用中得到了广泛的成功应用&#xff0c;尤其是在监控、调试、性能分析、故障排查等方面。以下是这两种机制在实际场景中的一些成功应用案例&#xff1a; 1. 性能监控与分析 Java Agent 和 Attach 机制广泛应用于性能监控和分析&#xff0…

基于SpringBoot的“留守儿童网站”的设计与实现(源码+数据库+文档+PPT)

基于SpringBoot的“留守儿童网站”的设计与实现&#xff08;源码数据库文档PPT) 开发语言&#xff1a;Java 数据库&#xff1a;MySQL 技术&#xff1a;SpringBoot 工具&#xff1a;IDEA/Ecilpse、Navicat、Maven 系统展示 系统整体功能图 局部E-R图 系统首页界面 系统注册…

iPhone XR:一代神机,止步于此

什么样的 iPhone &#xff0c;才配称为一代神机&#xff1f; 我曾经用过iPhone 4S、iPhone 6S Plus、iPhone 8 Plus&#xff0c;iPhone SE2、iPhone XR、iPhone 13、iPhone 14 Plus、iPhone 15/Pro。 不管硬件再怎么卷&#xff0c;不管囊中是否羞涩&#xff0c;主力机基本没考…

【VUE】RuoYi-Vue3项目结构的分析

【VUE】RuoYi-Vue3项目结构的分析 1. 项目地址2. RuoYi-Vue3项目结构2.1 整体结构2.2 package.json2.2.1 &#x1f9fe; 基本信息2.2.2 &#x1f527; 脚本命令&#xff08;scripts&#xff09;2.2.3 &#x1f30d; 仓库信息2.2.4 &#x1f4e6; 项目依赖&#xff08;dependenc…