spark history server异常

现象:spark 日志文件突然新增了很多.hprof文件,
查找日志spark配置参数spark_log_dir进入日志目录:

查看historyServer日志:


Spark Command: /usr/lib/jvm/java-1.8.0/bin/java -cp /opt/apps/JINDOSDK/jindosdk-current/lib/*:/etc/taihao-apps/spark-conf/:/opt/apps/SPARK3/spark-current/jars/*:/etc/taihao-apps/hadoop-conf/ -XX:+ExitOnOutOfMemoryError -XX:OnOutOfMemoryError=kill -9 %p -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/var/log/taihao-apps/spark/ -Dlog4j.configuration=file:/etc/taihao-apps/spark-conf/spark-daemon-log4j.properties -Dspark.log.dir=/var/log/taihao-apps/spark -Dspark.log.file=spark-history-server.log -Xloggc:/var/log/taihao-apps/spark/spark-history-gc.log -XX:+IgnoreUnrecognizedVMOptions -verbose:gc -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintGCDateStamps -XX:+UseGCLogFileRotation -XX:NumberOfGCLogFiles=5 -XX:GCLogFileSize=128M -Xmx1g org.apache.spark.deploy.history.HistoryServer
========================================
java.lang.OutOfMemoryError: GC overhead limit exceeded
Dumping heap to /var/log/taihao-apps/spark/java_pid562312.hprof ...
Heap dump file created [1038934719 bytes in 4.457 secs]
#
# java.lang.OutOfMemoryError: GC overhead limit exceeded
# -XX:OnOutOfMemoryError="kill -9 %p"
#   Executing /bin/sh -c "kill -9 562312"...
(END)

发现是history Server服务一直启动oom异常

重启一下:
 

yarn --daemon start timelineserver或者:
yarn-daemon start timelineserver

重启无效,
定位配置参数发现spark历史任务日志太多,一直没清理

修改配置参数:
 

spark.history.fs.cleaner.enabled = truespark_history_daemon_memory = 8gspark_thrift_daemon_memory = 4g

成功

参考链接:
https://blog.csdn.net/Mrerlou/article/details/121405408
https://www.cnblogs.com/lemonu/p/13901203.html
https://www.cnblogs.com/nortingHome/p/13984217.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/8269.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

libcity 笔记:支持的模型

1 支持的模型 1.1 traffic_state_pred HA历史平均值,将历史流量建模为季节性过程,然后使用前几个季节的加权平均值作为预测值。VAR向量自回归SVR支持向量回归ARIMAAutoEncoderSeq2Seq采用基于门控循环单元的编码器-解码器框架,进行多步预测…

C++奇迹之旅:string类对象的修改操作

文章目录 📝string类的常用接口🌠 string类对象的修改操作🌉push_back🌉append🌉operator🌉insert🌉erase🌉replace🌉 find🌉 c_str 🌠测试string…

大数据时代,如何准确查询并解读大数据信用报告?

在互联网时代,个人信息的安全和隐私保护愈发受到人们的关注。随着大数据技术的不断发展,越来越多的人开始关心自己的大数据报告。那么,如何找一个靠谱的地方查询个人大数据报告呢?本文将为您详细解答。 一、先了解大数据报告的含义 首先&…

四、 现行数据出境制度下的三条合规路径是什么?如何判断?

综合《网络安全法》《数据安全法》以及《个人信息保护法》这三大数据合规基本法律要求来看,企业开展数据出境活动时,应结合自身的主体类型、出境数据类型和数量,综合判断是否须要额外(1)申报并通过数据出境安全评估&am…

ASIL详解

概念 随着汽车新四化的发展,整车E/E系统的复杂性也不断增加,功能安全正成为一种更主流的要求。汽车安全完整性等级(ASIL)分解为实现更高水平的诊断覆盖度提供了可靠而稳健的途径,并在开发具有更高ASIL等级的安全关键系…

HDMI2.0一分四的方案 推荐使用教程如下:

符合HDMI2.0b和HDCP2.2标准 向后兼容HDMI1.4、HDCP1.X标准 支持RGB和YCbCr 444/422/420格式 支持CSC(颜色空间转换)矩阵和420/422/444转换(1:1; 1:2;2:1) 在传统显示器上,支持4:1向下缩放4K…

基于卷积神经网络的信号解卷积(简单版,MATLAB)

简单演示一下基于卷积神经网络的信号解卷积,有个大致印象即可。 构造卷积滤波器 r 0.9; % Define filter om 0.95; a [1 -2*r*cos(om) r^2]; b [1 r*cos(om)]; h filter(b, a, [zeros(1,38) 1 zeros(1,40)]); N 500; K 25; sigma 1; 绘制输入信号分量 s…

LabelImg下载及目标检测数据标注

为什么这一部分内容这么少会单独拎出来呢,因为后期会接着介绍YOLOv8中的其他任务,会使用其他软件进行标注,所以就单独区分开来每一个任务的标注方式了。 这一部分就介绍目标检测任务的标注,数据集是我从COCO2017Val中抽出来两类&a…

【Nginx】the “listen ... http2“ directive is deprecated

今天安装了 1.26.0 版本的Nginx,执行nginx -t命令时报了如下错误: nginx: [warn] the "listen ... http2" directive is deprecated, use the "http2" directive instead报这个错误的原因是,Nginx 自从 1.25 版本后&…

移动端自动化测试工具 Appium 之元素操作小技巧

文章目录 一、背景二、TestNG常用注解三、实战3.1、集成启动类3.2、采用xpath定位元素3.3、编写通用判断类3.4、编写测试类3.5、遍历实现 四、总结 一、背景 appium自动化工作中,元素操作最常用的就是Id/xpath,因为【appium1.5.0后,不支持使…

解决在Outlook中预定Teams会议不显示入会链接的问题

今天遇到一个很蛋疼的teams问题,花了点时间才解决。本来以为是很简单的问题,随便网上冲浪一下就能找到答案的,结果根本就没有好的解决方案,所以我分享出来希望后来的老哥少走点弯路。 问题描述 简单来说,就是在Outlo…

IST——In-System-Test

1、背景 安全性是自动驾驶平台的关键特性之一,而这些架构中使用的半导体芯片必须保证ISO 26262标准所要求的功能安全方面。为了监控由于现场缺陷导致的故障,在启动和/或关闭期间会自动运行系统内结构测试。当系统内测试(IST,In-Sy…

【声明ACL权限】

声明ACL权限 当应用在申请权限来访问必要的资源时,发现部分权限的等级比应用APL等级高,开发者可以选择通过ACL方式来解决等级不匹配的问题。 举例说明,如果应用需要使用全局悬浮窗,需要申请 ohos.permission.SYSTEM_FLOAT_WINDO…

探索Python的魔力:构建一个简单的网页爬虫

在当今数字化时代,数据无处不在。Python,作为一门强大且易于学习的编程语言,为我们提供了从互联网上抓取数据的利器。本文将向您展示如何使用Python构建一个简单的网页爬虫,帮助您快速获取所需信息。 为什么选择Python进行网页爬…

shell脚本脚本变量

shell脚本的概念: 1.讲要执行的命令按顺序保存到一个文本文件 2.给文件可执行权限 3.可以结合各种shell控制语句以完成更复杂的操作 linux中包含shell的文件有 [rootlocalhost ~]# cat /etc/shells /bin/sh #UNIX最初使用的 shell,已经被…

Temu、阿里国际站、TikTok的“速度战役”

事实上,经过多年的发展,电商早已深入到了人们的日常生活中,消费者也越来越习惯网上购物了。伴随着消费者网购需求的攀升,电商行业也跑出了诸多企业,时至今日,新老玩家在电商领域的“角力”仍在持续进行中。…

正点原子i.MX 93开发板,双核A55+M33+NPU,双路RS485FDCAN千兆网,异核/AI/工业开发!

正点原子i.MX 93开发板新品上市!双核A55M33NPU,双路RS485&FDCAN&千兆网,异核/AI/工业开发! NXP的i.MX系列是一系列面向多媒体和工业应用的ARM架构微处理器。从i.MX6U到i.MX93,这一系列经历了显著的发展&#x…

Vue框架学习记录

概览 前置知识 准备工作 安装环境准备 #安装node.js #安装npm #安装vue cli基于脚手架创建前端工程 方式一 #创建一个保存vue项目的目录,如vue_project #在vue_project下进入cmd vue create vue-demo-1方式二 #在cmd下输入 vue ui选择vue2#成功之后的界面#打开…

WebAssembly(Wasm)

WebAssembly (Wasm) 是一种在现代Web浏览器中运行的二进制指令格式。它被设计为一种可移植、可执行的代码格式,可以在现代Web浏览器中安全、快速地运行。Wasm 最初是为了解决JavaScript 在某些领域(如3D图形、物理模拟、视频处理等)性能不足的…

[oeasy]python0015_键盘改造_将esc和capslock对调_hjkl_移动_双手正位

键盘改造 &#x1f94b; 回忆上次内容 上次练习了复制粘贴 按键 作用 <kbd>y</kbd><kbd>y</kbd> 复制光标行代码 到剪贴板 <kbd>p</kbd> 粘贴剪贴板中的内容 <kbd>i</kbd> 切换到 插入模式 <kbd>h</kbd>…