首发 | FOSS分布式全闪对象存储系统白皮书

一、 产品概述

1. 当前存储的挑战  

随着云计算、物联网、5G、大数据、人工智能等新技术的飞速发展，数据呈现爆发式增长，预计到2025年中国数据量将增长到48.6ZB，超过80%为非结构化数据。

同时，数字经济正在成为我国经济发展的新引擎，数据已经成为企业的核心生产要素，数据即价值。新技术新应用不断产生急剧增长的海量数据，数据的价值越来越高，对存储系统的可靠性、安全性、可用性、性能、成本、运维的要求也越来越高，给存储系统提出了巨大的挑战：

图片

以上挑战和刚需说明，新一代存储系统不光要面向传统的数据可靠性、服务可用性、性能等维度，超大存储量、长期存储经济性、系统水平线性扩展性、可交付的运维等维度成为新的重点。

这驱使新一代存储系统必然走向规模化、集成化、存算分离的分布式scale-out云存储架构，提供可交付的简洁易用的运维平台，让客户自己负责运维，安心使用。

2. FOSS的特点  

大道云行对象存储FOSS，是采用先进的分布式全闪架构的信创云存储系统，设计为超大规模数据长期、可靠、绿色节能、高性能存取。

FOSS适用于包括广电媒资、备份归档、远程容灾、视频监控、人工智能、大数据分析、数据湖等大规模非结构化数据存取应用场景，特别是数据量大、吞吐高，成本敏感的需求。

FOSS特点详解

Share Everything架构 

存储后端网络share everything架构，支持NVMe-oF，支持分布式无状态微服务安全访问存储。

信创存储 

全自主知识产权国产分布式全闪存储软件和国产闪存的结合。

全闪架构,超高性能,数据量,性能的水平线性扩展 

亚毫秒级延迟，单zone-百PB级空间，百GB级吞吐，百万级IOPS。

绿色节能 

节能调度算法使得多数SSD的大部分时间处于低功耗状态(单片SSD<0.5w)。

全闪优化设计使得SSD使用时间长,成本低 

数据按时间聚合，采用全域GC和磨损平衡等设计，极大降低SSD写放大，提高SSD使用寿命。实现大尺度QLC SSD的高密度使用，降低单位成本。

长期可靠

数据静默错误保护；智能化的介质和数据的巡检、健康扫描、Rebuild恢复。

对数据和介质长期可靠做了慎密的数据保护、监测、扫描、恢复、迁移等运维规划。

3. FOSS的核心能力  

在线数据的性能和延迟，离线数据的规模和成本。

使用FOSS，意味着客户可以将大部分数据以离线数据的成本保存到在线系统，数据长久在线。

二、 产品架构

1. 网络架构  

图片

系统采用扁平的二层网络，易于部署和管理，支持对存储集群节点进行分组，支持跨组数据互访。

  • 业务网

业务网可以是IP/IB/RoCE；

每组业务网的计算节点都互通。

  • 存储后端网

存储后端网可以是IP/IB/RoCE；

存储后端网支持按分组进行扩展，不同分组之间存储网不通，可以通过业务网进行转发；

分组设计有利于存储网络简单的水平扩展，而不增加组网的复杂度。

一个zone规模的上限，取决于业务网的规模，即计算节点总数；存储网可任意水平扩展，但总规模会受限于连接存储网的计算节点总数。

一般的，一个zone支持100GB的业务网，200个计算节点，20个存储网分组(每分组10P存储空间)；则整个zone支持100GB带宽,200PB存储空间。

2. 软件架构  

图片

协议层

对外提供s3服务和nas服务。

缓存层 

数据分片通过读缓存层降低延迟，满足低读延迟的场景需求。

开放介质存储层 

-- volume

开放介质存储(OpenMediaStorage - OMS)层将块设备(disk)的trunk封装为跨节点的、冗余算法(纠删/副本)保护的volume，提供volume的装配、分配和读写接口。

OMS层开放式的直接存取disk，支持：主机Local_disk、SAS/NVMe-oF enclosure disk、块存储系统的LUN(FC/iSCSI/NVMe-oF)。

-- volume_group

volume按分组进行管理、调度和使用。分组用于支持多租户。

volume_group由调度器和node集群组成。

-- node

node代表了挂载的disk的集合，对应实体存储节点主机disk组，或NVMe-oF 盘柜disk组，或块存储划分的Lun组。

node作为disk的IO控制器，提供发现、挂载、访问disk的接口。

-- 调度器负责volume装配和分配

装配：

- 按node类型树进行类型分组

- 按空间平衡+擦写次数平衡选择node

分配：

- 按类型聚合

- 数据分片MVCC+基于租约的volume_range保护机制

元数据 

mds集群提供分布式元数据服务，支持最终一致性事务，在线线性扩展。

任务层 

包含GC、Disk_Rebuild、数据迁移、数据均衡、数据/介质健康扫描、生命周期、配额、计量归并等任务。

任务通过管理器Task_mgr，分发到Task_agent分布式并行执行。

task_mgr进行任务策略配置、调度、资源使用控制。

Service_mgr 

服务部署、升级、配置，单例服务故障转移，集群服务扩展等。

三、产品特性

1. 分布式元数据  

很多存储系统采用无元数据服务架构，比如一致性Hash。无元数据服务架构在超大规模分布式系统中存在许多缺点：

  • 无法在统一的逻辑上管理元数据，不支持事务，会导致很多一致性问题。

  • 没有元数据的范围查询能力，查询范围会放大到整个集群，导致海量对象场景下元数据列举开销大性能差。

  • rebalance过程复杂，要扫描所有需rebalance的数据进行处理并完成状态转换，且网络故障、节点临时离线和永久离线等会进一步增加rebalance复杂度。

FOSS采用分布式元数据服务架构：

  • 元数据服务线性平滑，网络故障和节点故障不影响服务的可用性

  • 元数据三副本冗余

  • 支持热点消除(主键单调递增的元数据，采用shard_bit打散)

  • 支持高性能的事务聚合批处理(batch和scan)

  • 低延迟(亚毫秒级)

依靠分布式元数据服务，FOSS简洁高效的实现了单桶无限数量对象、快速对象列举、volume调度、全域GC和磨损平衡等高级功能。

2. 存储冷热分层  

FOSS存储分层设计的主旨，是为了同时满足超高性能和超大容量需求。FOSS的数据存储包括2层：

(热)高性能层 

- 热volume_group

- 读缓存集群

高性能层满足要求极低延迟的高性能场景。高并发写入通过写请求聚合提高IOPS；小文件的低延迟读取，通过热数据读缓存优化。

通常，变冷的数据会迁移到大容量层。只需要高性能层的特例客户，也可以独立使用高性能层，不部署大容量层。

(冷)大容量层

- 冷volume_group

大容量层必须依赖高性能层存在。tier_migrate任务将高性能层的数据批量迁移到冷volume 。

批量迁移采用顺序大IO写入，使大尺度SSD可以得到优化使用。

3. 资源多租户  

S3服务资源多租户 

通过service_mgr配置租户独占的S3服务资源，为特定租户建立专属的s3_serv_group 。

通过service_mgr配置s3_serv_group和volume_group的映射关系。

存储资源多租户

bucket可以代表租户的分类存储空间，多租户的空间管理通过bucket的存储策略进行。

支持设置bucket的数据放置策略(对应的volume_group)，比如可指定bucket放置到特定性能分类(SSD|HDD)的volume 。

4. 优秀的扩展性  

FOSS支持容量和性能的横向线性扩展，元数据的横向线性扩展，通过分布式元数据服务mds实现：

  • mds_kv集群的扩展

    mds_kv采用全局字典序range方式进行key的sharding；支持在线增加kv节点，IOPS随kv节点个数线性增长。

  • mds事务服务集群的扩展

    mds事务服务集群，采用配置订阅方式扩展；支持在线增加事务服务，IOPS随事务服务个数线性增长。

数据存储的横向线性扩展，通过开放介质存储（OpenMediaStorage-OMS）层实现：

  • 存算分离的架构下，数据存储的横向扩展简化为存储后端网的横向扩展。

  • 存储后端网按分组进行水平扩展，每个分组后端网独立组网，扩展简单。

    增加volume_group中node，即增加了分组的存储量和IOPS；当volume_group内的扩展到达上限后，可以通过新建volume_group进行扩展。

5. 绿色节能  

FOSS通过数据写入volume分配算法和分类聚合算法，实现(冷)数据层的disk节能。

 volume分配算法

数据写入分配volume时，在满足性能吞吐需求的条件下，一段时间内分配的volume使用尽量少的同一批disk。（其他disk这段时间处于节能状态，存储规模越大，节能比例越高）

 分类聚合算法

应用按时间批量读取数据的时候，因为应用写入数据按时间聚合，读关联的disk和写入时是相同的，同样只是少数的一批disk。

四、产品愿景

以全闪绿色节能信创存储的创新技术：

为客户提供自运维的私有云存储，应存尽存；

在企业存储领域促进国产SSD对进口HDD的替代；

作为智能云平台的存储底座，助力数据处理的智能化，发掘数据的真正价值。

《FOSS全闪对象存储技术白皮书》详见官网大道云行 TaoCloud - 新一代全闪软件定义存储领导者 (taocloudx.com)

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/43386.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

RabbitMQ安装配置，笔记整理 RabbitMQ3.12.2版本安装配置

RabbitMQ安装配置，笔记整理 RabbitMQ3.12.2版本安装配置

官网下载 RabbitMQ 官方地址&#xff1a;RabbitMQ: easy to use, flexible messaging and streaming — RabbitMQ 下载时需注意Erlang Versions的版本 这里下载的是3.12.2 2.安装依赖环境 在线安装依赖环境&#xff1a; yum install build-essential openssl openssl-dev…
阅读更多...
锐捷无线产品运维（Web登录、 命令行登录）

锐捷无线产品运维（Web登录、 命令行登录）

目录 登录AP产品 Console登录&#xff08;只可以现场登录&#xff09; Web/Telnet/SSH登录&#xff08;可以现场、远程登录&#xff09; 配置AP的管理地址 通过Web界面远程登录 通过Telnet、SSH等命令行的方式登录 登录AC产品 Console登录&#xff08;只可以现场登录&a…
阅读更多...
[bug] 记录version `GLIBCXX_3.4.29‘ not found 解决方法

[bug] 记录version `GLIBCXX_3.4.29‘ not found 解决方法

在使用mediapipe 这个库的时候&#xff0c;首次使用出现 GLIBCXX_3.4.29’ not found 错误&#xff0c; 看起来是安装mediapipe 的时候自动升级了 matplotlib 这个库&#xff0c;导致依赖的 libstd.so 版本不满足了&#xff0c;GLIBCXX_3.4.29 is an object from libstdc.so.…
阅读更多...
【c语言】字符函数与字符串函数（上）

【c语言】字符函数与字符串函数（上）

大家好呀&#xff0c;今天给大家分享一下字符函数和字符串函数&#xff0c;说起字符函数和字符串函数大家会想到哪些呢&#xff1f;&#xff1f;我想到的只有求字符串长度的strlen,拷贝字符串的strcpy,字符串比较相同的strcmp,今天&#xff0c;我要分享给大家的是我们一些其他的…
阅读更多...
Photoshop制作漂亮光泽感3D按钮

Photoshop制作漂亮光泽感3D按钮

原文链接(https://img-blog.csdnimg.cn/45472c07f29944458570b59fe1f9a0e0.png)
阅读更多...
CentOS gcc介绍及快速升级

CentOS gcc介绍及快速升级

1.gcc介绍 GCC&#xff08;GNU Compiler Collection&#xff09;是一个开源的编译器套件&#xff0c;由 GNU(GNUs Not Unix!的递归缩写) 项目开发和维护。它是一个功能强大且广泛使用的编译器&#xff0c;支持多种编程语言&#xff0c;包括 C、C、Objective-C、Fortran、Ada 和…
阅读更多...
性能测试技术之基础篇（精华）

性能测试技术之基础篇（精华）

目录 一、什么是性能&#xff1f; 二、什么是性能测试&#xff1f; 三、性能测试结果需要记录哪些参数&#xff1f; 四、如何做性能测试&#xff08;性能测试流程&#xff09;&#xff1f; 1、指标建模 2、诊断调优 五、常见性能测试工具 一、什么是性能&#xff1f; …
阅读更多...
【C语言】字符函数和字符串函数

【C语言】字符函数和字符串函数

目录 1.求字符串长度strlen 2.长度不受限制的字符串函数 字符串拷贝strcpy 字符串追加strcat 字符串比较strcmp 3.长度受限制的字符串函数介绍strncpy strncat ​编辑strncmp 4.字符串查找strstr 5.字符串分割strtok 6.错误信息报告 strerror perror 7.字符分类函…
阅读更多...
【算法挨揍日记】day03——双指针算法_有效三角形的个数、和为s的两个数字

【算法挨揍日记】day03——双指针算法_有效三角形的个数、和为s的两个数字

611. 有效三角形的个数 611. 有效三角形的个数https://leetcode.cn/problems/valid-triangle-number/ 题目描述&#xff1a; 给定一个包含非负整数的数组 nums &#xff0c;返回其中可以组成三角形三条边的三元组个数。 解题思路&#xff1a; 本题是一个关于三角形是否能成立…
阅读更多...
浅谈Fetch API

浅谈Fetch API

什么是Fetch API Fetch API 是一种现代的 JavaScript API&#xff0c;用于进行网络请求和处理响应数据。它提供了一种更简单和更灵活的方式来执行网络请求&#xff0c;取代了传统的 XMLHttpRequest&#xff08;XHR&#xff09;。 Fetch API 具有以下特点&#xff1a; Promise…
阅读更多...
概述、搭建Redis服务器、部署LNP+Redis、创建Redis集群、连接集群、集群工作原理

概述、搭建Redis服务器、部署LNP+Redis、创建Redis集群、连接集群、集群工作原理

Top NSD DBA DAY09 案例1&#xff1a;搭建redis服务器案例2&#xff1a;常用命令限案例3&#xff1a;部署LNPRedis案例4&#xff1a;创建redis集群 1 案例1&#xff1a;搭建redis服务器 1.1 具体要求如下 在主机redis64运行redis服务修改服务运行参数 ip 地址192.168.88.6…
阅读更多...
【问题整理】Ubuntu 执行 apt-get install xxx 报错

【问题整理】Ubuntu 执行 apt-get install xxx 报错

Ubuntu 执行 apt-get install xxx 报错 一、问题描述: 执行apt-get install fcitx时&#xff0c;报如下错误 grub-pc E: Sub-process /usr/bin/dpkg returned an error code (1)二、解决方法: 尝试修复依赖问题&#xff1a; sudo apt-get -f install这个命令会尝试修复系统…
阅读更多...
Elasticsearch：如何在 Ubuntu 上安装多个节点的 Elasticsearch 集群 - 8.x

Elasticsearch：如何在 Ubuntu 上安装多个节点的 Elasticsearch 集群 - 8.x

Elasticsearch 是一个强大且可扩展的搜索和分析引擎&#xff0c;可用于索引和搜索大量数据。 Elasticsearch 通常用于集群环境中&#xff0c;以提高性能、提供高可用性并实现数据冗余。 在本文中&#xff0c;我们将讨论如何在 Ubuntu 20.04 上安装和配置具有多节点集群的 Elast…
阅读更多...
关于Linux Docker springboot jar 日志时间不正确 问题解决

关于Linux Docker springboot jar 日志时间不正确 问题解决

使用Springboot项目的jar&#xff0c;制作了一个Docker镜像&#xff0c;启动该镜像后发现容器和容器中的Springboot 项目的日志时间不正确。 解决 查看容器时间命令为&#xff1a; docker exec 容器id date 1. 容器与宿主机同步时间 在启动镜像时候把操作系统的时间通过&q…
阅读更多...
SpringBoot创建和使用

SpringBoot创建和使用

spring core的方式来写代码还是比较繁琐的&#xff0c;而spring boot就是帮助程序员使用spring开发的一个脚手架&#xff08;boot&#xff09;&#xff0c;它是一个用于构建Java应用程序的开源框架&#xff0c;旨在简化开发流程并提高生产效率。它的主要优点有&#xff1a; 快速…
阅读更多...
CSS简介

CSS简介

目录 CSS CSS概念 核心概念 为什么需要CSS 语法 CSS的引入方式 内联样式&#xff08;行内样式&#xff09; 内部样式 外部样式&#xff08;推荐&#xff09; CSS CSS概念 CSS&#xff08;Cascading Style Sheets&#xff09;层叠样式表&#xff0c;又叫级联样式表&am…
阅读更多...
【Vue-Router】导航守卫

【Vue-Router】导航守卫

前置守卫 main.ts import { createApp } from vue import App from ./App.vue import {router} from ./router // import 引入 import ElementPlus from element-plus import element-plus/dist/index.css const app createApp(App) app.use(router) // use 注入 ElementPlu…
阅读更多...
ShowMeBug CEO李亚飞受邀参加深圳青年创新创业系列沙龙电子信息专场

ShowMeBug CEO李亚飞受邀参加深圳青年创新创业系列沙龙电子信息专场

7月13日下午&#xff0c;由深圳市科技交流服务中心&#xff08;深圳市科技专家委员会办公室&#xff09;主办&#xff0c;深圳新一代产业园承办的“2023深圳青年创新创业系列沙龙——电子信息专场”活动举行。ShowMeBug CEO李亚飞受邀参加此次活动。 深圳市科学技术协会党组成员…
阅读更多...
微信小程序真机调试异常cmdId 1006, errCode-50011-已解决

微信小程序真机调试异常cmdId 1006, errCode-50011-已解决

cmdId 1006, errCode-50011 起因 小程序在模拟器上预览没问题，真机调试和体验版首页打不开，点展开显示cmdId 1006, errCode-50011 解决 查了下1006， 说是广告， 我没接广告，这个也不是错误码 1006广告组件被驳回你的广告正在被审核，无法展现广告后来找到几个类似的帖子…
阅读更多...
arm开发板 GDB远程调试方法

arm开发板 GDB远程调试方法

1.前言 1.在linux下开发&#xff0c;免不了使用gdb调试&#xff0c;但是linux下开发嵌入式&#xff0c;都是跑在ARM板子上的&#xff0c;网上有很多GDB的基础教程&#xff0c;但是能在ARM开发板用的时候&#xff0c;会有各种问题。 比如&#xff1a;*.cpp: No such file or di…
阅读更多...
最新文章

Copyright @ 2022~2023