ubuntu系统下大数据服务器磁盘调优测试记录

一、背景

在kvm虚拟机ubuntu操作系统大数据平台测试的过程中,遭遇了磁盘I/O性能的瓶颈,因有cpu绑核操作,故有做隔核操作验证是否是绑核影响的磁盘I/O,后又对磁盘进行透传以及挂内存盘等操作;

二、磁盘介绍

2.1 磁盘类型:

HDD
HDD硬盘也就是我们常常说的机械硬盘,机械硬盘是传统的盘片+磁头的工作原理,数据都是存储在盘片上面,磁头在盘片上面“做运动”来读取和处理数据信息。

SSD
SSD由控制单元和存储单元(FLASH芯片、DRAM芯片)组成,固态硬盘的数据读取速度非常的快。

影响磁盘的几个参数包含:总线、协议、接口。

2.2 总线:

SAS总线
SATA总线
PCIe总线

在这里插入图片描述
在数据传输速率表现层面,我们可以简单地理解为:PCIe4.0 > PCIe3.0 > ASTA3.0 > SAS3.0

2.3 协议:

AHCI协议
NVMe协议
SCSI协议:(不常用)
在这里插入图片描述
在数据传输速率表现层面,我们可以简单地理解为:NVMe协议传输速度比AHCI协议更快。

2.4 接口:

在这里插入图片描述

2.5 磁盘阵列:

2.5.1 磁盘阵列介绍

磁盘阵列(Redundant Arrays of Independent Disks,RAID)是由很多块独立的磁盘组合成一个容量巨大的磁盘组,利用个别磁盘提供数据所产生加成效果提升整个磁盘系统效能。它利用这项技术,将数据切割成许多区段,分别存放在各个硬盘上。在数据重构时,可将数据经计算后重新置入新硬盘中。从用户观点看,磁盘阵列虽然是由几个、几十个甚至上百个盘组成,但仍可认为是一个单一磁盘。

2.5.2 磁盘阵列组成

Raid卡:这是实现RAID功能的核心组件,它可以划分RAID,让很多磁盘驱动器同时传输数据,而这些磁盘驱动器在逻辑上又是一个磁盘驱动器。
CPU:用于处理RAID卡上的数据和指令。
IO处理器:用于处理输入输出请求,将数据从磁盘读取到缓存中,或者将数据从缓存写入磁盘。
SCSI控制器:用于控制SCSI总线上的设备,实现设备之间的数据传输。
SCSI连接器:用于连接SCSI设备和主机系统。
cache:用于存储暂时不用的数据和指令,提高系统的性能。

2.5.3 常见的Raid类型

RAID 0
RAID 1
RAID 5
RAID 6
RAID 10

2.5.4 影响磁盘阵列速度和性能的因素

磁盘阵列的设置:如果磁盘阵列没有正确设置,可能无法实现最佳的性能。
网络连接速度:磁盘阵列设备的速度可能受到网络连接速度的限制。
磁盘过载:如果磁盘阵列中的磁盘过载,速度也可能会受到影响。
软件故障:磁盘阵列设备中的软件可能出现故障,导致性能下降。
磁盘污染:磁盘阵列中的磁盘可能受到污染,导致性能下降。
传输带宽:传输带宽指的是硬盘或设备在传输数据的时候数据流的速度,主要取决于磁盘阵列的构架、通道的大小以及磁盘的个数。

注:磁盘的性能一般使用IOPS表示

IOPS:固态硬盘的IOPS是指每秒输入/输出操作数,表示固态硬盘每秒可以处理多少个读写请求。决定IOPS的主要取决于磁盘阵列RAID类型、CACHE命中率以及磁盘个数。磁盘阵列的速度和性能可能受到多种因素的影响,包括硬件、软件、网络等多个方面。

三、挂载内存盘

3.1 查看虚拟机硬盘绑定情况

ps axu| grep qemu

3.2 硬盘读写性能测试(filename:待测试路径 HDD硬盘随机读写测试性能一般在4M/s左右)

fio -filename=/vdb_data/test_randread -direct=1 -iodepth 1 -thread -rw=randrw -ioengine=psync -bs=4k -size=10G -numjobs=10 -runtime=60 -group_reporting -name=mytest

参数解释

-filename=/vdb_data/test_randread:指定测试文件的路径和名称为/vdb_data/test_randread。
-direct=1:使用直接I/O模式,即跳过系统缓存,直接读写磁盘。
-iodepth 1:每个作业的I/O深度为1,即每个作业在队列中只有一个I/O请求。
-thread:使用线程模式执行测试任务。
-rw=randrw:使用随机读写模式进行测试,即同时进行随机读和随机写操作。
-ioengine=psync:指定使用psync I/O引擎。
-bs=4k:设置每个I/O请求的块大小为4KB。
-size=10G:指定测试文件的大小为10GB。
-numjobs=10:指定并发作业数为10,即同时执行10个测试任务。
-runtime=60:设置测试运行时间为60秒。
-group_reporting:汇总所有作业的结果报告。
-name=mytest:指定测试任务的名称为mytest,用于标识这个测试任务。

3.3 硬盘透传

虚拟机磁盘透传是指将物理主机上的磁盘直接映射给虚拟机使用,而不是通过虚拟机软件(如VMware、VirtualBox)创建虚拟磁盘文件。这样做可以提高性能,减少虚拟化层的开销,适用于一些对性能要求较高的应用场景。

3.3.1 以下是在一些常见虚拟化平台上实现磁盘透传的步骤:

KVM/QEMU(测试的情况)
1、编辑虚拟机的XML配置文件,添加类似如下的配置:

vim /vmimages/passthough-disk.xml
<disk type='block' device='disk'><driver name='qemu' type='raw' cache='none'/><source dev='/dev/nvme4n1'/><target dev='vdd' bus='virtio'/>
</disk>

其中/dev/nvme4n1是要透传的物理磁盘设备。

2、使用virsh工具重新加载配置文件使更改生效:

#挂载透传硬盘
virsh attach-device vm1 /vmimages/passthough-disk.xml
#取消挂载透传硬盘
virsh detach-device vm1 /vmimages/passthough-disk.xml# vm1是虚拟机名

VMware vSphere/ESXi
1、在ESXi主机上将物理磁盘添加到存储适配器中。
2、在虚拟机设置中选择添加硬件 - 存储控制器 - 硬盘。
3、选择“使用一个已经存在的磁盘”,然后选择要透传的物理磁盘。
4、完成虚拟机设置并启动虚拟机,系统会识别并挂载透传的物理磁盘。

Microsoft Hyper-V
1、在Hyper-V管理器中选择目标虚拟机,右键点击设置。
2、选择添加硬件,然后选择物理硬盘。
3、选择要透传给虚拟机的物理磁盘。
4、完成虚拟机设置并启动虚拟机,系统会识别并挂载透传的物理磁盘。

3.4 挂载内存盘

mount -t tmpfs -o size=40G tmpfs /mnt/tmp/

-t tmpfs:指定挂载的是内存盘
-o size=40G tmpfs;指定挂载内存盘大小

开机自动挂载

tmpfs /mnt/tmp/ tmpfs size=40G 0 0

内存盘读写性能测试(去除-direct参数,否则不能运行):

fio -filename=/mnt/tmp/test_randread -iodepth 1 -thread -rw=randrw -ioengine=psync -bs=4k -size=2G -numjobs=1 -runtime=600 -group_reporting -name=mytest

3.5 隔核测试

1、隔核操作

sudo vim /etc/default/grub

增加以下内容

# 隔核2-79,iommu=pt,intel_iommu=on
GRUB_CMDLINE_LINUX_DEFAULT="isolcpus=2-79 iommu=pt intel_iommu=on"

在这里插入图片描述

使改动生效

  update-grubreboot

2、指定内核测试磁盘性能

taskset -c 3(指定xx核) fio -filename=/ssd_test/test_randread -direct=1 -iodepth 1 -thread -rw=randwrite -ioengine=psync -bs=16k -size=10G -numjobs=1 -runtime=60 -group_reporting -name=mytest

3、给予线程高权限,防止因为out of memory被宿主机kill:

ps aux | grep qemu(获取虚拟机得进程id)echo -1000 > /proc/进程id/oom_score_adj

占用指定内存空间以达到极限测试效果的程序

def allocate_memory(size_in_gb):# 分配指定GB数的内存空间num_bytes = size_in_gb * (1024**3)  # 转换GB到字节try:# 使用bytearray创建一个大数组big_array = bytearray(num_bytes)print(f"Successfully allocated {size_in_gb} GB of memory")return big_arrayexcept MemoryError:print(f"Failed to allocate {size_in_gb} GB of memory. Not enough resources.")if __name__ == "__main__":size = 40  # 指定想要分配的内存大小(GB)memory_block = allocate_memory(size)# 在此处加入任何想要进行的处理# ...input("Press Enter to release the allocated memory and exit the program.")

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/711634.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

『NLP学习笔记』图解 BERT、ELMo和GPT(NLP如何破解迁移学习)

图解 BERT、ELMo和GPT(NLP如何破解迁移学习) 文章目录 一. 前言二. 示例-句子分类三. 模型架构3.1. 模型输入3.2. 模型输出四. BERT VS卷积神经网络五. 词嵌入新时代5.1. 简要回顾词嵌入Word Embedding5.2. ELMo: 上下文语境很重要5.2.1. ELMo的秘密是什么?5.3. ULM-FiT:将迁…

蓝桥杯Python B组练习——斐波那契数列

一、题目 定义 斐波那契数列&#xff08;Fibonacci sequence&#xff09;&#xff0c;又称黄金分割数列&#xff0c;因数学家莱昂纳多斐波那契&#xff08;Leonardo Fibonacci&#xff09;以兔子繁殖为例子而引入&#xff0c;故又称为“兔子数列”&#xff0c;指的是这样一个数…

Linux x86平台获取sys_call_table

文章目录 前言一、根据call *sys_call_table来获取二、使用dump_stack三、根据MSR_LSTAR寄存器四、使用sys_close参考资料 前言 Linux 3.10.0 – x86_64 最简单获取sys_call_table符号的方法&#xff1a; # cat /proc/kallsyms | grep sys_call_table ffffffff816beee0 R sy…

随想录算法训练营第四十七天|198.打家劫舍、213.打家劫舍II、337.打家劫舍III

198.打家劫舍 public class Solution {public int Rob(int[] nums) {if(nums.Length0){return 0;}if(nums.Length1){return nums[0];}int[] dpnew int[nums.Length1];dp[0]nums[0];dp[1]Math.Max(nums[0],nums[1]);for(int i2;i<nums.Length;i){dp[i]Math.Max(dp[i-2]nums[…

什么是 HTTPS 证书?作用是什么?

HTTPS 证书&#xff0c;即超文本传输安全协议证书&#xff08;Hypertext Transfer Protocol Secure&#xff09;&#xff0c;是网站安全的关键组成部分。它通过 SSL/TLS 加密协议&#xff0c;确保用户与网站之间的数据传输是加密和安全的。 什么是 HTTPS 证书&#xff1f; HT…

使用Docker -compose启动自定义jar包

步骤1&#xff1a;编写docker-compose.yml文件 首先我们需要编写一个docker-compose.yml文件来定义我们的服务传到我们的云服务器上 以下是一个示例&#xff1a; version: 3 services:app:build:context: .dockerfile: Dockerfileports:- 8080:8080volumes:- ./app.jar:/app…

可视化图表:水球图,展示百分比的神器。

Hi&#xff0c;我是贝格前端工场的老司机&#xff0c;本文分享可视化图表设计的水球图设计&#xff0c;欢迎老铁持续关注我们。 一、水球图及其作用 水球图是一种特殊的可视化图表&#xff0c;它主要用于展示百分比或比例的数据&#xff0c;并以水球的形式进行呈现。水球图的作…

2023面试题

目录 题目 1:JVM 整体结构是什么样的? 8 题目 3:Object 类有哪些方法? 11 题目 4:静态变量与实例变量区别? 11 题目 5:String 类的常用方法有哪些? 11 题目 6:数组有没有 length()方法?String 有没有 length() 12 题目 7:String、StringBuffer、StringBuilder 的区别…

【k8s 访问控制--认证与鉴权】

1、身份认证与权限 前面我们在操作k8s的所有请求都是通过https的方式进行请求&#xff0c;通过REST协议操作我们的k8s接口&#xff0c;所以在k8s中有一套认证和鉴权的资源。 Kubenetes中提供了良好的多租户认证管理机制&#xff0c;如RBAC、ServiceAccount还有各种策路等。通…

集合篇之ArrayList

一、源码如何分析&#xff1f; 1.成员变量 2.构造方法 3.关键方法 一些添加的方法。 二、debug看源码 我们给出下面代码&#xff1a; public void test01() {ArrayList<Integer> list new ArrayList<>();list.add(1);for (int i 2; i < 10; i) {list.add(i…

H5:段落标签与换行标签

目录 一.前言 二.正文 1.段落标签 2.换行标签 三.结语 一.前言 学习前端&#xff0c;从此起飞&#xff0c;愿你坚持&#xff0c;直至等顶。 二.正文 1.段落标签 <p></p> p为段落标签&#xff0c;由英文paragraph简写而来&#xff0c;用于将一段某一部分文本&am…

算法练习第九天|232.用栈实现队列、225. 用队列实现栈

熟悉栈和队列的方法&#xff1b;熟悉栈和队列的数据结构&#xff0c;不涉及算法 232.用栈实现队列 import java.util.Stack; class MyQueue {//负责进栈的Stack<Integer> stackIn;//负责出栈的Stack<Integer> stackOut;public MyQueue() {stackIn new Stack<&…

Rocketmq 入门介绍

从零手写实现 mq 详细介绍一下 rocketmq RocketMQ 是由阿里巴巴开发的分布式消息队列系统&#xff0c;它是一个低延迟、高可靠、高吞吐量的消息中间件。 RocketMQ 最初是作为阿里巴巴的内部项目进行开发的&#xff0c;后来成为了 Apache 软件基金会下的顶级项目&#xff0c;以…

精读《React 高阶组件》

本期精读文章是&#xff1a;React Higher Order Components in depth 1 引言 高阶组件&#xff08; higher-order component &#xff0c;HOC &#xff09;是 React 中复用组件逻辑的一种进阶技巧。它本身并不是 React 的 API&#xff0c;而是一种 React 组件的设计理念&…

【QT+QGIS跨平台编译】之五十三:【QGIS_CORE跨平台编译】—【qgssqlstatementparser.cpp生成】

文章目录 一、Bison二、生成来源三、构建过程一、Bison GNU Bison 是一个通用的解析器生成器,它可以将注释的无上下文语法转换为使用 LALR (1) 解析表的确定性 LR 或广义 LR (GLR) 解析器。Bison 还可以生成 IELR (1) 或规范 LR (1) 解析表。一旦您熟练使用 Bison,您可以使用…

transformers文本相似度

在自然语言处理(NLP)中,文本相似度是衡量两个文本之间语义或结构相似程度的一个重要概念。计算文本相似度的方法多种多样,适应不同的应用场景和需求。以下是一些常见的文本相似度计算方法: 1、余弦相似度: 通过将文本转换为向量表示(例如,使用词袋模型、TF-IDF 或 wor…

2024年个人护理赛道选品风向在哪?这份赛盈分销选品攻略必看!

2024年还会卷下去吗&#xff1f;看到一位行业大佬分享的内容深有感触&#xff1a;坚定做好产品&#xff0c;不做大卖&#xff0c;就不存在卷不卷。 有人出局&#xff0c;也会有人入局&#xff0c;并且深耕领域做大做强。 专注口腔护理的Bitvae入行不到两年&#xff0c;凭借一款…

C#学习(十四)——垃圾回收、析构与IDisposable

一、何为GC 数据是存储在内存中的&#xff0c;而内存又分为Stack栈内存和Heap堆内存 Stack栈内存Heap堆内存速度快、效率高结构复杂类型、大小有限制对象只能保存简单的数据引用数据类型基础数据类型、值类型- 举个例子 var c new Customer{id: 123,name: "Jack"…

Java中String类有哪些常用方法?

Java中的String类提供了许多有用的方法&#xff0c;用于处理字符串。以下是一些常用的方法及其简要描述&#xff1a; 1. **charAt(int index)**&#xff1a;返回指定位置的字符。 2. **length()**&#xff1a;返回字符串的长度。 3. **substring(int beginIndex, int endInd…

微信小程序手势冲突?不存在的!

原生的应用经常会有页面嵌套列表&#xff0c;滚动列表能够改变列表大小&#xff0c;然后还能支持列表内下拉刷新等功能。看了很多的小程序好像都没有这个功能&#xff0c;难道这个算是原生独享的吗&#xff0c;难道是由于手势冲突无法实现吗&#xff0c;冷静的思考了一下&#…