【Apache Doris】Manager极致丝滑地运维管理

【Apache Doris】Manager极致丝滑地运维管理

  • 1.标准VS可视化运维管理
  • 2. 环境信息
    • 2.1.硬件信息
    • 2.2.软件信息
  • 3.前置准备
    • 3.1.安装包准备
    • 3.2.文档手册准备
  • 4.集群初始化
    • 4.1.系统参数预设
    • 4.2.Manager部署
    • 4.3.新集群部署
    • 4.4 监控告警
      • 4.4.1 监控
      • 4.4.2 告警
  • 5. 集群升级
    • 5.1 新包准备
    • 5.2 一键升级
    • 5.3 结果验收
  • 6. 集群扩所容
    • 6.1 一键扩容
    • 6.2 一键缩容
  • 7. 多集群管理
    • 7.1 新建/接管集群
    • 7.2 环境配置
    • 7.3 节点配置
  • 8. 总结

1.标准VS可视化运维管理

在这里插入图片描述
标准化运维管理,首先得自己手动在集群的每台节点上去分发包、并解压;然后分别对FE和BE进行配置初始化(FE主要修改IP和JAVA目录,BE主要修改IP、JAVA目录和存储路径配置)。

做完上面的包分发及配置初始化后,还需分别到对应节点去启动FE、BE和Broker进程,如果节点较多需要考虑写脚本分发命令或借助外部运维平台简化。其中BE和Broker可以直接把进程全部拉起,然后通过Client逐个Add加入集群即可,但FE集群有类似Zookeeper的选举机制,所以非第一个FE节点第一次启动时、还得注意加–helper命令。

初始化完集群后,如果想做可视化监控得另外集成Prometheus和Grafana,如果要做告警管理可能还得另外部署夜莺N9E。这一套组合拳下来,运维管理体系算是基本完成了,但是天都夜màma了。

在这里插入图片描述

可视化运维管理(Cluster Manager for Apache Doris,简称 Doris Manager,再简称 Manager),它让使用者有了更多的时间钓鱼、消化饼 and 早点回家。

Manager能够快速拉起一套又一套的Doris/SelectDB集群,集成了监控告警、集群巡检和WebUI等模块,提供了集群启停、扩缩容和升级等常规运维操作可视化的快捷入口,能够极大地提高运维管理效率,且使用起来也非常顺畅。

接下来一起来纵享Manager的丝滑体验吧!

2. 环境信息

2.1.硬件信息

  • 内存:48C
  • CPU:256G
  • CPU架构:X86_64

2.2.软件信息

  • Doris: 2.0.2
  • SelectDB:2.0.2
  • Manager:23.10.3
  • 系统:CentOS

3.前置准备

官方专项微信群公告中应有尽有,还没有进群的小伙伴们可私a拉你!

3.1.安装包准备

  1. manager下载地址https://selectdb-doris-1308700295.cos.ap-beijing.myqcloud.com/doris-manager/release/23.10.3/doris-manager-23.10.3-x64-bin.tar.gz
  2. doris/selected安装包下载地址
    • doris: https://doris.apache.org/zh-CN/download/
    • selectdb: https://cn.selectdb.com/download/core

本次新建集群以selectdb为例,接管集群以doris为例。

3.2.文档手册准备

1. 部署手册
https://selectdb.feishu.cn/docx/AJNcdaDuboVfJTx1KVBc6Adwnpe?from=from_copylin
2. 使用指南
https://selectdb.feishu.cn/docx/QSt5dexQTorAkNxLaRCcMNncnmc?from=from_copylin
3. FAQ 文档
https://selectdb.feishu.cn/docx/AdaudiDKQovS7SxQwhucrUg7nPd?from=from_copylink
4. WebUI文档
https://cn.selectdb.com/docs/enterprise/enterprise-core-guide/selectdb-webui-guide
5. 问题收集与反馈
https://selectdb.feishu.cn/share/base/form/shrcnose8DHPBSoCX68hMU5nPOb

4.集群初始化

4.1.系统参数预设

  1. 交换分区(swap)未关闭,请打开终端窗口, 输入以下命令以禁用交换分区:
sudo swapoff -a
  1. 最大打开文件数小于65535,请打开终端窗口,输入以下命令:
sudo vim /etc/security/limits.conf
* soft nofile 65535
* hard nofile 65535
sudo sysctl -p
  1. 虚拟内存区域数量不符合要求,请打开终端窗口,输入以下命令:
sudo sysctl -w vm.max_map_count=2000000
  1. 机器时钟一致(各节点之间的时差默认需小于5秒)

4.2.Manager部署

1)创建一个用于Manager的目录

mkdir manager
cd manager

2)上传准备的Manager和SelectDB包

在这里插入图片描述

3) 解压Manager包

tar -zxvf doris-manager-23.10.3-x64-bin.tar.gz

在这里插入图片描述

Manager安装包目录说明

    deps // Doris Manager 管控依赖组件alertmanager // 告警工具grafana // 监控看板工具jdk // jdk依赖包prometheus // 监控指标存储工具
dorisctrl // Doris Manager 管控组件bin  // 启停脚本conf // 配置文件lib  // 服务二进制
webserver // Doris Manager Web 服务组件,这是网页入口服务,需要手工启动bin  // 启停脚本conf  // 配置文件config-tool  // Doris Manager 服务管理工具inspection  // 巡检脚本lib  // 服务二进制static  // 前端静态文件

4)配置web服务(可选)

不配置时,默认会将web服务的元数据存放在一个h2内置小数据库。

vim webserver/conf/manager.conf 

manager.conf如下:

# Doris Manager Web服务组件监听的端口
MANAGER_PORT=8004# 服务依赖的数据库类型: mysql或者h2。默认为h2。
DB_TYPE=mysql# 如果数据库类型为h2,默认的数据存储路径为webserver目录下的data路径,
# 用户也可以指定自定义的绝对路径
DATA_PATH=# 如果数据库类型为mysql,配置mysql数据库的访问地址
DB_HOST=127.0.0.0# 配置mysql数据库的访问端口
DB_PORT=3306# 配置mysql数据库的访问用户
DB_USER=root# 配置mysql数据库的访问用户密码
DB_PASS=root# 配置mysql数据库的访问Database名称,需要提前创建
DB_DBNAME=manager

5)启动web服务

sh ./webserver/bin/start.sh 

由于本次是用Mysql作为Manager元数据库,当服务正常启动后、对应的db下也会自动初始化相关表。

在这里插入图片描述

同时会起相应的进程doris-manager.jar。

在这里插入图片描述

6.)访问web服务

直接通过浏览器输入URL——http://{Web服务机器IP}:{Web服务端口},比如http://127.0.0.0:8004

在这里插入图片描述

7)初始化Manager管理员账号密码
在这里插入图片描述

8)配置服务组件部署信息

根据自己环境填写,如果暂时用不到监控告警模块可以选择[关闭];填写后点击【启动Doris Manager】。当前没有开启监控告警服务,后续可以重新打开。
在这里插入图片描述

9)部署服务组件
点击【启动Doris Manager】后 ,提示正在启动 Doris Manager。
在这里插入图片描述

启动成功后,提示用户进入 Doris Manager,即Managerbu部署完成 :

在这里插入图片描述

4.3.新集群部署

1)新建集群

填写自定义的集群名称、选择部署版本(会根据填写的包路径自动识别)以及数据库root用户密码后,点击【下一步】。

在这里插入图片描述

2)节点配置

根据集群节点信息填写后点击【部署集群】即可。

在这里插入图片描述

3)开始部署

在这里插入图片描述

部署成功后,提示用户进入集群:

在这里插入图片描述

进入集群,如下所示,即新集群部署完成:

在这里插入图片描述

4.4 监控告警

由于Manager部署流程中关闭了监控告警服务、故不会在左侧栏显示监控告警的入口,如下可重新开启监控告警。

在这里插入图片描述

4.4.1 监控

Manager 监控模块集成了丰富的监控指标,相较于自己搭建Prometheus和Grafana去做监控指标可视化,大开方便之门。

在这里插入图片描述

4.4.2 告警

Manager 告警模块支持邮箱、企业微信、飞书和钉钉群等方式发送告警通知,不会让你错过任何一条异常告警信息,非常贴心。

在这里插入图片描述

至此,集群初始化完成。通过Manager来体验下常用的集群升级、集群扩所容以及多集群管理场景吧。

5. 集群升级

5.1 新包准备

准备好新版本的包与之前的包放在同一级目录下。
在这里插入图片描述

5.2 一键升级

Manager中选择【集群升级】。
在这里插入图片描述

选择目标版本,这里用的是SelectDB 2.0.3 rc04作为升级的目标版本,之后直接点点即可。

在这里插入图片描述

5.3 结果验收

点击右上角可查看当前的版本,核验无误【立即验收】。
在这里插入图片描述

6. 集群扩所容

6.1 一键扩容

以BE为例,选择【BE扩容】。

在这里插入图片描述

可以单独扩容一个节点、也可以选择【批量添加节点】,之后直接点点即可。

在这里插入图片描述

扩容结果查看。

在这里插入图片描述

6.2 一键缩容

以刚刚扩容的BE为例,选择【BE缩容】。
在这里插入图片描述
确定需要下线缩容的BE节点【选择下线】,之后直接点点即可。

在这里插入图片描述

缩容结果查看。

在这里插入图片描述

7. 多集群管理

Manager支持同时管理多套集群。在已有一套集群的情况下,可以继续新建集群或者接管现有集群。本次以接管集群为例,接管现有的Doris 2.0.2集群。

7.1 新建/接管集群

在这里插入图片描述

7.2 环境配置

自定义集群名称,选择【接管现有集群】。

在这里插入图片描述

7.3 节点配置

填写FE的IP/HTTP端口/JDBC端口以及节点用户名/密码/SSH端口后,Manager会自动识别待接管集群的FE和BE节点信息。

在这里插入图片描述

之后直接点【接管集群】即可自动接管完成。

在这里插入图片描述

8. 总结

一个字总结:丝滑!
两个字总结:极致丝滑!!

【Apache Doris】Manager极致丝滑地运维管理 分享至此结束,体验过程中若遇到问题欢迎留言交流

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/171485.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

人力资源管理后台 === 登陆+主页鉴权

目录 1. 分析登录流程 2. Vuex中用户模块的实现 3.Vue-cli代理解决跨域 4.axios封装 5.环境区分 6. 登录联调 7.主页权限验证-鉴权 1. 分析登录流程 传统思路都是登录校验通过之后,直接调用接口,获取token之后,跳转到主页。 vue-elemen…

【数据库基础】

目录: 前言什么是数据库主流数据库服务器,数据库,表关系MySQL架构SQL分类存储引擎 前言 剑指offer:一年又1天 什么是数据库 存储数据用文件就可以了,为什么还要弄个数据库? 文件保存数据有以下几个缺点:…

大量索引场景下 Easysearch 和 Elasticsearch 的吞吐量差异

最近有客户在使用 Elasticsearch 搜索服务时发现集群有掉节点,并且有 master 收集节点信息超时的日志,节点的负载也很高,不只是 data 节点,master 和协调节点的 cpu 使用率都很高,看现象集群似乎遇到了性能瓶颈。 查看…

算法设计与分析(贪心法)

学习的最大理由是想摆脱平庸,早一天就多一份人生的精彩;迟一天就多一天平庸的困扰。各位小伙伴,如果您: 想系统/深入学习某技术知识点… 一个人摸索学习很难坚持,想组团高效学习… 想写博客但无从下手,急需…

中国一年有457万人确诊癌症!医生提示:这4种食物,再爱吃也要管住嘴

癌症是威胁人类生命健康的重大疾病,癌症的发生因素一直以来都是专家学者重点探索的课题。据世卫组织最新公布的数据显示,食物或与癌症发生之间存在着密切的联系,某些食物的摄入过多可能会增加患癌症的风险,所以我们应该警惕&#…

IDEA中JDK21控制台打印的中文乱码

IDEA中,使用的JDK21,控制台打印中文乱码,解决办法是重装了一下JDK。 我之前安装的版本是“jdk-21_windows-x64_bin.exe”,我配置了多个JDK环境,所以使用的是安装文件进行安装的。这次解决乱码问题,我重新安…

代码随想录算法训练营第四十八天|121. 买卖股票的最佳时机、122. 买卖股票的最佳时机 II

LeetCode 121. 买卖股票的最佳时机 题目链接:121. 买卖股票的最佳时机 - 力扣(LeetCode) 直觉告诉我要贪心算法,章节告诉我得用DP来做,行,都做一下! 贪心:只能买一次,所…

Vatee万腾的科技冒险:Vatee独特探索力量的数字化征程

在数字化时代的激流中,Vatee万腾以其独特的科技冒险精神,引领着一场前所未有的数字化征程。这不仅仅是一次冒险,更是对未知的深度探索,将科技的力量推向新的高度。 Vatee万腾在科技领域敢于挑战传统,积极探索未知的可能…

快速解决Navicat连接数据库报错:10061

目录 问题原因: 错误提示: 解决方案: 问题1:如何进入指定目录? 问题2:若出现:“服务名无效” 将MySQL注册到win服务中 问题原因: mysql服务没有开启(可能会在更新windows…

C#,《小白学程序》第三课:类class,类的数组及类数组的排序

类class把数值与功能巧妙的进行了结合&#xff0c;是编程技术的主要进步。 下面的程序你可以确立 分数 与 姓名 之间关系&#xff0c;并排序。 1 文本格式 /// <summary> /// 同学信息类 /// </summary> public class Classmate { /// <summary> /…

前端实现埋点

前端实现埋点 如何去了解用户呢&#xff1f;最直接有效的方式就是了解用户的行为&#xff0c;了解用户在网站中做了什么&#xff0c;呆了多久。而如何去实现这一操作&#xff0c;这就涉及到我们前端的埋点了。 埋点方式 什么是埋点&#xff1f; 所谓埋点是数据采集领域&…

【python】--文件/文件夹读写及操作

目录 一、文件读写1、文件读写代码示例 二、文件/文件夹操作1、代码示例 一、文件读写 读写文件就是请求操作系统打开一个文件对象&#xff08;通常称为文件描述符&#xff09;&#xff0c;然后通过操作系统提供的接口从这个文件对象中读取数据&#xff08;读文件&#xff09;…

机器人规划算法——movebase导航框架源码分析

这里对MoveBase类的类成员进行了声明&#xff0c;以下为比较重要的几个类成员函数。 构造函数 MoveBase::MoveBase | 初始化Action 控制主体 MoveBase::executeCb收到目标&#xff0c;触发全局规划线程&#xff0c;循环执行局部规划 全局规划线程 void MoveBase::planThread |…

学习笔记:如何分析财务报表

其实财务报表分析最核心的东西&#xff0c;是通过财务报表这个结果&#xff0c;由果推因&#xff0c;找出造成这个结果的原因。 会计是商业的语言 首先第一个问题是——会计是商业的语言&#xff0c;这是会计的根本。 什么叫“语言”&#xff0c;就是可以通过它进行交流。比如…

用队列和栈分别实现栈和队列

用队列实现栈 题目解读 本题的要求是要用两个队列来实现一个先进后出的栈&#xff0c;并且要有以下功能&#xff1a; 1.将元素压入栈中 2.移除栈顶元素并且返回他 3.返回栈顶元素 4.判断栈是否为空 题目构思和代码实现 我们首先要做的就是将实现队列的代码导入该题&#xff…

SSM 框架整合

1 整合配置 1.1 流程 1.2 Spring 整合 MyBatis 1.3 Spring 整合 SpringMVC 1.4 配置代码 JdbcConfig.java public class JdbcConfig {Value("${jdbc.driver}")private String driver;Value("${jdbc.url}")private String url;Value("${jdbc.usern…

四、IDEA创建项目时,Maven Archetype模板工程说明

什么是Maven Archetype Archetype是一个Maven项目的模板工具包&#xff0c;它定义了一类项目的基本架构。Archetype为开发人员提供了创建Maven项目的模板&#xff0c;同时它也可以根据已有的Maven项目生成参数化的模板。 官方文档&#xff1a;https://maven.apache.org/archet…

cuda magma 构建 使用cmake构建的步骤记录

这不是群论代数软件&#xff0c;而是cuda 矩阵计算软件 1. 生成其他精度的源代码 1.1 复制编辑 make.inc cp make.inc-examples/make.inc.openblas ./make.inc 并修改其中的定义&#xff1a; OPENBLASDIR ? /opt/OpenBLAS 这需要实现安装openblas到此处。文件夹解构&…

【通讯协议】REST API vs GraphQL

在API设计方面&#xff0c;REST和GraphQL各有缺点。下图显示了 REST 和 GraphQL 之间的快速比较。 REST 使用标准 HTTP 方法&#xff08;如 GET、POST、PUT、DELETE&#xff09;进行 CRUD 操作。当您需要在单独的服务/应用程序之间提供简单、统一的接口时&#xff0c;效果很好…

超详细csapp-linklab之第一阶段“输出学号”实验报告

该实验的主题是“链接”。 准备工具 虚拟机&#xff0c;Ubuntu32位&#xff0c;hexedit&#xff0c;main.o&#xff0c;phase1.o&#xff0c;该实验的C代码框架如下 // main.c void (*phase)(); /*初始化为0*/int main( int argc, const char* argv[] ) {if ( phase )(*ph…