HiveServer2 Service Crashes(hiveServer2 服务崩溃)

Troubleshooting Hive | 5.9.x | Cloudera Documentation

原因：别人用的都好好的，我的集群为什么会崩溃？

1.hive分区表太多(这里没有说具体数量。)

2.并发连接太多，我记的以前默认是200个连接 

3.复杂的hive查询访问表的的分区

4.hs2实例数太少

如果存在这些情况中的任何一种，Hive可能运行缓慢，或者可能崩溃，因为整个HS2堆内存已满。

现象:如果堆内存满了，hive集群一般会有什么表现呢？

Symptoms Displayed When HiveServer2 Heap Memory is Full

1.hs2服务直接挂掉，或者你开启新会话失败。

2.hs2服务看起来是好的，但是你连接被拒绝

3.查询提交重复失败

4.查询一直在提交，查询时间长

原因：HiveServer2 Service Crashes

这里太长了，我直接用我自己做例子告诉大家，怎么看hs2服务是否崩溃

1.打开cm主页，选择hive(我这里是hive on tez)->点击实例->点击hiveServer2

2.点击完hiveServer2后->点击日志文件->点击stdout

官网与我的页面有点差异，自行寻找 

 3.打开stdout.log后查看是否有以下日志

  1. # java.lang.OutOfMemoryError: Java heap space
# -XX:OnOutOfMemoryError="/usr/lib64/cmf/service/common/killparent.sh"
# Executing /bin/sh -c "/usr/lib64/cmf/service/common/killparent.sh"

问题2：HiveServer2 General Performance Problems or Connections Refused

 

这里没啥说的，就是内存不够jvm需要暂停下去分配资源 

最佳方案：HiveServer2 Performance Best Practices

官网说了一大堆废话，总结下来

1.修改heap的大小

2.减少查询的分区表数量

3.增加hs2的实例数

4.增加机器的内存。因为你增加hive的heap大小，可能这台机器的内存被其他服务占用

如何修改heap大小

1.cdh5.7以上默认是4GB 

   如何修改Home > Hive > Configuration > HiveServer2 > Resource Management. 然后保存+重启

hive配置

hive on tez的配置(这个才是真正的) 

注意这里有意思的是我们发现hs2有两个配置一个4g一个256M，其中4g的是cdp-node05,256M的是cdp-node06

发现确实如此一个给了4g内存 一个给了256M。。这。。无言以对。

如果HS2已经配置为使用4GB或更大的堆大小运行，并且仍然存在性能问题，那么工作负载特性可能会导致内存压力。增加堆大小以减少HS2上的内存压力。Cloudera不建议每个实例超过16 GB，因为垃圾收集暂停时间很长。请参阅识别增加内存压力的工作负载特征，了解优化查询工作负载以降低HS2内存需求的提示。Cloudera建议将HS2拆分为多个实例，并在开始为HS2分配超过16GB的资源后进行负载平衡。

这里说的意思是4g默认，逐渐增大，如果16G不满足，就开起多个hiveserver2，负载均衡

High number of concurrent queries

大量并发查询会增加连接数。每个查询连接都会消耗查询计划、访问的表分区数和部分结果集的资源。 

建议是每个hs2 instance 支持40个连接，如果你有400个的并发，建议增加hs2 instance的数据为10，同时检查你的调度任务(类似于 比如所有任务没必要都是每天0点开始，0:10分不行吗？)

Many abandoned Hue sessions

用户在Hue中打开许多浏览器选项卡会导致多个会话和连接，没有及时关闭

解决办法

hive.server2.idle.operation.timeout=7200000  默认是21600000=6h

hive.server2.idle.session.timeout=21600000 默认43200000=12h

修改Home > Hive > Configuration > HiveServer2 > Advanced

Queries that access a large number of table partitions:

比如 select * from partition_table limit 10  这句查询也会加载所有表。

通过explain dependency select * from partition_table limit 10 -- 可以看到加载了所有分区。

如何解决呢？

加上分区的过滤条件例如 select * from partition_table where partition_column='a' 

设置 hive.metastore.limit.partition.request 好像新版本变成 hive.limit.query.max.table.partition

我的hive版本是3.1.3这两个参数都没用

最后一点说了，分区一般几千个就行了，你分几万个是以秒分区的？不分区效率太低，几千万上亿的表不分区就要思考自己的问题了。

Wide tables or columns:

内存需求与列的数量和单个列的大小成正比。通常，一个宽表包含1000多列。如果列的数量很大，宽表或列可能会导致内存压力。对于Parquet文件尤其如此，因为行组的所有数据都必须在内存中才能写入磁盘。尽可能避免使用宽表。

解决办法：不要select *

High query complexity

复杂的查询通常有大量的联接，通常每个查询超过10个联接。随着查询中联接数量的增加，HS2堆大小要求显著增加。

解决办法：1.对于每个join的表的分区都尽量过滤

2.将复杂的join拆分为小点的join，就是不要一下子加载10个表，比如分3次加载10个表

create  temporay table abc as select xx from a join b join c 

create  temporay table def as select xx from d join e join f

select abc join def

Improperly written user-defined functions (UDFs)

编写不当的udf函数也会导致hs2压力过大

解决办法：了解udf的编写过程，使用前测试

最后附上视频里出现的hive配置建议 网址，视频里的不可以

Configuring HiveServer2 for CDH | 6.3.x | Cloudera Documentation

ComponentJava HeapCPUDisk
HiveServer 2Single Connection4 GBMinimum 4 dedicated cores

Minimum 1 disk

This disk is required for the following:

  • HiveServer2 log files
  • stdout and stderr output files
  • Configuration files
  • Operation logs stored in the operation_logs_dir directory, which is configurable
  • Any temporary files that might be created by local map tasks under the /tmp directory
2-10 connections4-6 GB
11-20 connections6-12 GB
21-40 connections12-16 GB
41 to 80 connections16-24 GB

Cloudera recommends splitting HiveServer2 into multiple instances and load balancing them once you start allocating more than 16 GB to HiveServer2. The objective is to adjust the size to reduce the impact of Java garbage collection on active processing by the service.

Set this value using the Java Heap Size of HiveServer2 in Bytes Hive configuration property.

Hive MetastoreSingle Connection4 GBMinimum 4 dedicated cores

Minimum 1 disk

This disk is required so that the Hive metastore can store the following artifacts:

  • Logs
  • Configuration files
  • Backend database that is used to store metadata if the database server is also hosted on the same node
2-10 connections4-10 GB
11-20 connections10-12 GB
21-40 connections12-16 GB
41 to 80 connections16-24 GB

Set this value using the Java Heap Size of Hive Metastore Server in Bytes Hive configuration property.

Beeline CLIMinimum: 2 GBN/AN/A

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/97083.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

（一）实现一个简易版IoC容器【手撸Spring】

（一）实现一个简易版IoC容器【手撸Spring】

一、前言 相信大家在看本篇文章的时候，对IoC应该有一个比较清晰的理解，我在这里再重新描述下：它的作用就是实现一个容器将一个个的Bean（这里的Bean可以是一个Java的业务对象，也可以是一个配置对象）统一管理…
阅读更多...
JetPack系列：001-JetPack概要介绍

JetPack系列：001-JetPack概要介绍

文章目录 1. 概念介绍2. 主要内容2.1 框架库2.2 UI界面库 3. 核心思想4. 内容总结 本章回是一起Talk AndroidJetpack吧专栏的第一章回，本章回中主要介绍JetPack的基本概念和编程思想，同时也会介绍它的基础知识。闲话休提，请我们一起Talk Andr…
阅读更多...
趣味工具箱小程序源码

趣味工具箱小程序源码

趣味工具箱小程序源码，支持功能去水印，精选壁纸，图片压缩，文字生成二维码，图片加水印，模拟来电，手持弹幕，掷骰子…等 使用小工具，一个小程序有几十个功能。 源码下载&am…
阅读更多...
面试打底稿⑥ 项目一的第二部分

面试打底稿⑥ 项目一的第二部分

简历原文 抽查部分 计算运费模块板块扩展性优化，采用责任链模式，实现不同地区间寄件的运费模板扩展的优化，为模块解耦，提高了系统的扩展性 短信模块设计，设计了短信发送数据模板的数据化存储，规范了发送短…
阅读更多...
uniapp微信小程序蓝牙连接与设备数据对接

uniapp微信小程序蓝牙连接与设备数据对接

蓝牙连接并通信方法封装大致步骤。 初始化蓝牙并搜索；获取并启用service服务；数据读取和监听设备返回数据 需要使用uniapp官方提供api： // 关闭蓝牙 uni.closeBluetoothAdapter({}) // 打开蓝牙 uni.openBluetoothAdapter({}) // 搜索附近…
阅读更多...
服务器or虚拟机安装SSH和虚拟机or服务器设置远程服务权限

服务器or虚拟机安装SSH和虚拟机or服务器设置远程服务权限

第一步 服务器/虚拟机安装SSH工具,这是外部SSH终端连接服务器/虚拟机的第一步! sudo apt update && sudo apt upgrade#更新apt sudo apt install openssh-server#安装SSH工具 service ssh status#查看SSh运行状态 sudo systemctl enable --now ssh#运行SSH工具第二步…
阅读更多...
Pytorch-学习记录-1-Tensor

Pytorch-学习记录-1-Tensor

1. 张量 (Tensor): 数学中指的是多维数组； torch.Tensor data: 被封装的 Tensor dtype: 张量的数据类型 shape: 张量的形状 device: 张量所在的设备，GPU/CPU requires_grad: 指示是否需要计算梯度 grad: data 的梯度 grad_fn: 创建 Tensor 的 Functio…
阅读更多...
Google Cloud dataflow streaming job简介

Google Cloud dataflow streaming job简介

简单介绍 首先 gcp 的dataflow 是1个ETL 组件, 它是基于Apache beam的 Apache beam 是1个较新的开源ETL 框架。 对于我们常用的ETL tool Spring batch 有下面的区别 spring batch 更偏向batch （后台处理）的ETL， 而apache beam 同时支持bat…
阅读更多...
[python 刷题] 3 Longest Substring Without Repeating Characters

[python 刷题] 3 Longest Substring Without Repeating Characters

[python 刷题] 3 Longest Substring Without Repeating Characters 题目： Given a string s, find the length of the longest substring without repeating characters. 这到提要求找的是最长的，没有重复符号的子字符串 解题思路是用双指针哈希表&…
阅读更多...
mysql MVCC（多版本并发控制）理解

mysql MVCC（多版本并发控制）理解

最近看MVCC相关资料，这边做一个记录总结，方便后续理解。 目录 一、MVCC相关概念 二、MVCC实现原理 1.隐藏字段 2.undo log 3.Read View 4.MVCC的整体处理流程 5. RC，RR级级别下的innoDB快照读有什么不同 6.总结 一、MVCC相关概念 1…
阅读更多...
华为云云耀云服务器L实例评测｜部署私有网盘 Nextcloud

华为云云耀云服务器L实例评测｜部署私有网盘 Nextcloud

华为云云耀云服务器L实例评测｜部署私有网盘 Nextcloud 一、云耀云服务器L实例介绍1.1 云服务器介绍1.2 产品规格1.3 应用场景 二、云耀云服务器L实例配置2.1 重置密码2.2 服务器连接2.3 安全组配置 三、部署 Nextcloud3.1 Nextcloud 介绍3.2 Docker 环境搭建3.3 Nex…
阅读更多...
LeetCode 面试题 08.06. 汉诺塔问题

LeetCode 面试题 08.06. 汉诺塔问题

文章目录 一、题目二、C# 题解 一、题目 在经典汉诺塔问题中，有 3 根柱子及 N 个不同大小的穿孔圆盘，盘子可以滑入任意一根柱子。一开始，所有盘子自上而下按升序依次套在第一根柱子上(即每一个盘子只能放在更大的盘子上面)。移动圆盘时受到以…
阅读更多...
服务器的外网IP查阅方式

服务器的外网IP查阅方式

服务器的外网IP查阅方式 linux服务器查询外网ip地址，可以有以下三种方式查阅 查看服务器的外网IP 1、curl cip.cc IP : 183.1X.2XX.88 地址 : 中国 广东 深圳 运营商 : 电信 数据二 : 广东省深圳市 | 电信 数据三 : 中国广东省深圳市 | 电信 2、curl myip.ipip.n…
阅读更多...
mysql面试题23：如果某个表有近千万数据，CRUD比较慢，如何优化？

mysql面试题23：如果某个表有近千万数据，CRUD比较慢，如何优化？

该文章专注于面试，面试只要回答关键点即可，不需要对框架有非常深入的回答，如果你想应付面试，是足够了，抓住关键点 面试官：如果某个表有近千万数据，CRUD比较慢，如何优化？ 当某个表存在近千万数据且CRUD（增删改查）操作比较慢时，可以考虑以下优化策略： 使用索引：索…
阅读更多...
数百个下载能够传播 Rootkit 的恶意 NPM 软件包

数百个下载能够传播 Rootkit 的恶意 NPM 软件包

供应链安全公司 ReversingLabs 警告称，最近观察到的一次恶意活动依靠拼写错误来诱骗用户下载恶意 NPM 软件包，该软件包会通过 rootkit 感染他们的系统。 该恶意软件包名为“node-hide-console-windows”，旨在模仿 NPM 存储库上合法的“node-…
阅读更多...
Java中使用正则表达式

Java中使用正则表达式

正则表达式 正则表达式（Regular Expression）是一种用于匹配、查找和替换文本的强大工具。它由一系列字符和特殊字符组成，可以用来描述字符串的模式。在编程和文本处理中，正则表达式常被用于验证输入、提取信息、搜索和替换文本等…
阅读更多...
使用 Apache Camel 和 Quarkus 的微服务（一）

使用 Apache Camel 和 Quarkus 的微服务（一）

【squids.cn】 全网zui低价RDS，免费的迁移工具DBMotion、数据库备份工具DBTwin、SQL开发工具等 ​Apache Camel 绝非Java企业技术栈领域的新手。它由James Strachan在2007年创建，旨在实现著名的 "EIP 书"（由Gregor Hohpe和Bobby W…
阅读更多...
2.5 数字传输系统

2.5 数字传输系统

笔记： 针对这一节的内容，我为您提供一个笔记的整理方法。将内容按重要性、逻辑关系进行组织，再进行简化。 ## 2.5 数字传输系统 ### 背景介绍： 1. **早期电话网**：市话局到用户采用双绞线电缆，长途干线采…
阅读更多...
汇总开源大模型的本地API启动方式

汇总开源大模型的本地API启动方式

文章目录 CodeGeex2ChatGLM2_6BBaichuan2_13Bsqlcoder开启后测试 CodeGeex2 from fastapi import FastAPI, Request from transformers import AutoTokenizer, AutoModel import uvicorn, json, datetime import torch import argparse try:import chatglm_cppenable_chatglm_…
阅读更多...
git stash详解

git stash详解

stash:保存现场 1.建议（规范） ：在功能未没有开发完毕前，不要commit 2.规定（必须） ： 在没有commit之前，不能chekcout切换分支 （不在同一个commit阶段） 如果还没…
阅读更多...
最新文章

Copyright @ 2022~2023