PostgreSQL 无法为连接创建新的进程

PostgreSQL could not fork new process for connection

前几天在使用 PostgreSQL 数据库的过程中遇到这样一个错误。
could not fork new process for connection: Resource temporarily unavailable
看字面意思是无法克隆一个新的进程供连接使用,资源暂时不可用。下面是程序提示的各种错误。

知识点介绍
PostgreSQL 数据库是一个进程架构的模型设计。它有一个主进程 Postmaster Process,当有客户端发起链接请求时,Postmaster 主进程负责创建一个后端的客户端进程 Client Process,之后由这个进程负责客户端的这次请求操作。

错误出现怀疑是连接数的设置问题,但是遇到过数据库连接数达到最大值的情况。PostgreSQL 数据库当连接数达到最大值时,报错是 FATAL: sorry, too many clients already。
通过下面的方法,可以排除是数据库连接数不足的问题。
SELECT COUNT(*) FROM pg_stat_activity;
SELECT * FROM pg_settings WHERE name LIKE '%max_connections%';
发现当前连接数还远没有达到最大连接数 max_connections 参数设置的值。

再看错误提示是资源暂时不可用
服务器资源无非就是 CPU、内存和磁盘 IO 这些,决定去看看服务器的资源使用情况,是否存在特别明显的瓶颈问题。

使用 Linux 的 top -c 发现当前系统的 CPU 不是很高,系统负载在 1、5、15 分钟内也不是很高没有特别明显的 CPU 问题。
使用 LInux 的 free -h 看剩余内存可用内存都还是比较充足的。内存不足一般会引发 OOM。
使用 LInux 的 df -h 查看磁盘空间还是很足的。
这些都不存在问题,接下来就是排查系统的 IO 了,使用 iostat -d -x 1 观察发现也不存在问题。

怀疑是数据库参数配置问题
涉及到的参数有如下几个参数。阅读 PostgreSQL 关于参数的详解,可以看到。
max_worker_processes 设置系统能够支持的后台进程的最大数量。
max_parallel_workers_per_gather 设置单个 Gather 或者 Gather Merge 节点能够开始的工作者的最大数量。并行工作者会从 max_worker_processes 建立的进程池中取得,数量由 max_parallel_workers 限制。
max_parallel_maintenance_workers 设置单一工具性命令能够启动的并行工作者的最大数目。当前,唯一一种支持使用并行工作者的工具性命令是 CREATE INDEX,并且只有在构建 B- 树索引时才能并行。
max_parallel_workers 设置系统为并行操作所支持的工作者的最大数量。
我之前有一篇文章介绍过 PostgreSQL 数据库的配置文件参数,所以大部分参数我还是比较清楚的,基本可以排查参数问题。

在此问题得到解决之前,重启过数据库服务,重启过程序,但是都扛不住 1 小时。日志文件暴增程序无法访问。

此时我觉得还是要从服务器入手。决定还是去看看 Linux 的一些配置限制。先使用 Linux 的 ulimit -a 去看一下文件句柄数这些,发现这些已经被运维工程师调整过了,继续查看 Linux 资源限制配置文件 /etc/security/limits.conf 发现几个参数的设置是已经被优化过的,数值一般不会达到的那种。搜索了下关于这个文件的介绍,这个文件的作用等等。在一篇关于 Linux 服务器系统文件的介绍中有这样的一个介绍 /etc/security/limits.d 下的文件会覆盖 /etc/security/limits.conf 文件中的参数值,然后就去查看了下 /etc/security/limits.d 中有哪些文件,当时在 /etc/security/limits.d 下只有一个文件 /etc/security/limits.d/20-nproc.conf 在这个文件中有这样的一个设置
*          soft    nproc 4096
它与 /etc/security/limits.conf 文件中设置的值不同,只有 4096。/etc/security/limits.d  这个文件中有一些设置是我们的运维工程师加进去的,就比如上面这行数据,在该文件中被设置的值是 65535。

到此时抱着试一试的态度我使用如下的命令进行了一个操作,使用 Linux ps 看下用户进程数
ps -elf | grep postgres | wc -l
最后发现得到的值是大于 4096 的

这个时候抱着试一试的态度拿自己的虚拟机测试了下,我将 /etc/security/limits.d/20-nproc.conf 下的参数值从 4096 修改为 10,然后重启服务器,因为需要模拟至少 10 个连接,我就打开 Navicat 客户端不断的创建新的会话执行相同的查询,当打开几个查询后,观察 PostgreSQL 日志文件,发现此时日志文件有大量的错误 LOG:  could not fork autovacuum worker process: Resource temporarily unavailable。当我看到有错误 Resource temporarily unavailable 时我的眼前是一亮的,我需要一个环境去验证我的猜想和判断。在经历了漫长的验证之后基本确定了是这个问题。接下来只需要在生产环境中进行修复即可。在生产环境升级后这个问题直到下班前都未再出现过,问题得到解决。

最后总结下,排查问题涉及的几个点:
1、数据库最大连接数设置:
SELECT COUNT(*) FROM pg_stat_activity;
SELECT * FROM pg_settings WHERE name LIKE '%max_connections%';

2、操作系统参数设置:
cat /etc/security/limits.conf
cat /etc/security/limits.d/20-nproc.conf

3、用户连接数去验证是否超过上面的值:
ps -elf | grep postgres | wc -l

4、查看 PostgreSQL 数据库服务主进程下的连接限制
ps -ef | grep /usr/pgsql-12/bin/postgres 获取主进程 ID
备注:这里 /usr/pgsql-12/bin/postgres 是你 PostgreSQL 数据库安装位置,这里的主要目的是获取 PostgreSQL 服务的主进程 ID,当然也有别的方式可以获取你的主进程 ID 号,比如 postmaster.pid 文件

cd /proc/pid
备注:这里进入的是操作系统进程下目录,这里的 pid 就是前面获取的主进程 ID 号

cat limits
备注:这里显示了你的很多限制信息,有兴趣的可以仔细看看都有一些啥。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/60505.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

HBase 安装与基本操作指南

以下是关于 Apache HBase 安装、配置以及简单操作的详细指南: HBase 简介 Apache HBase 是一个基于 Hadoop 的分布式数据库,擅长处理大规模、结构化的海量数据。它采用行列式存储方式,与 Hadoop 和 HDFS 紧密结合,是支持大数据实…

ES6基础

一、变量声明 1.let 语法:let 变量名 值; 特点:存在块级作用域;不存在变量提升(考虑暂时性死区),即变量一定要在声明后使用,否则报错;不允许重复声明(包括普通变量和函…

ROM修改进阶教程------安卓14 安卓15去除app签名验证的几种操作步骤 详细图文解析

在安卓14 安卓15的固件中。如果修改了系统级别的app。那么就会触发安卓14 15的应用签名验证。要么会导致修改的固件会进不去系统,或者进入系统有bug。博文将从几方面来解析去除安卓14 15应用签名验证的几种方法。 💝💝💝通过博文了解: 1💝💝💝-----安卓14去除…

基于STM32设计的大棚育苗管理系统(4G+华为云IOT)_265

文章目录 一、前言1.1 项目介绍【1】项目开发背景【2】设计实现的功能【3】项目硬件模块组成【4】设计意义【5】国内外研究现状【6】摘要1.2 设计思路1.3 系统功能总结1.4 开发工具的选择【1】设备端开发【2】上位机开发1.5 参考文献1.6 系统框架图1.7 系统原理图1.8 实物图1.9…

spring boot项目打成war包部署

1.修改pom.xml 在 pom.xml 里设置 <packaging>war</packaging>2.移除嵌入式tomcat插件 在 pom.xml 里找到spring-boot-starter-web依赖&#xff0c;在其中添加如下代码&#xff0c; <dependency><groupId>org.springframework.boot</groupId>&l…

植物明星大乱斗1

能帮到你的话&#xff0c;就给个赞吧 &#x1f618; 文章目录 scene.hmenuScene.hgameScene.hmainscene.cppmenuScene.cppgameScene.cpp scene.h #pragma once #include <graphics.h>/* 场景菜单角色选择游戏 */ class Scene { public:virtual ~Scene() 0; public:virt…

校园二手交易网站毕业设计基于SpringBootSSM框架

目录 一、引言 二、需求分析 2.1用户需求分析 2.1.1学生用户 2.1.2管理员 2.2系统功能需求 2.3系统非功能需求 ‌2.4技术需求 ‌2.4.1 技术选择 ‌2.4.2系统架构‌ 三、详细设计 3.1系统架构设计‌ ‌3.2前端设计‌ ‌3.3后端设计‌ ‌3.4数据库设计‌ 本文介绍…

批量规范化与ResNet-paddle

批量规范化与ResNet——paddle部分 本文部分为paddle框架以及部分理论分析&#xff0c;torch框架对应代码可见批量规范化与ResNet import paddle print("paddle version:",paddle.__version__)paddle version: 2.6.1批量规范化 批量规范化&#xff08;Batch Norma…

云速搭助力用友 BIP 平台快速接入阿里云产品

用友 BIP 是用友在 2017 年开始战略投入、规模研发的全新一代的产品&#xff0c;作为全球领先的企业数智化平台与应用软件之一&#xff0c;用友 BIP 商业创新平台&#xff08;Yonyou Business Innovation Platform&#xff09;是用友采用新一代信息技术&#xff0c;按照云原生、…

PHP Session

PHP Session PHP Session 是一种在 PHP 中用于跟踪用户会话的技术。会话允许在用户浏览网站时存储和访问用户信息。本文将详细介绍 PHP Session 的工作原理、如何创建和销毁会话、会话的安全性和最佳实践。 什么是 PHP Session? 在 Web 开发中,HTTP 是一种无状态的协议,这…

从零开始快速构建Vue3项目

一、技术选型 组件大类 具体插件 vue3插件 相关插件开发文档 基础架构搭建 初始项目搭建、打包构件工具&#xff1a;vite开始 | Vite路由管理及菜单权限封装vue-router介绍 | Vue Router状态管理Pinia介绍 | Pinia 中文文档API请求及异常封装axiosUI框架 element-uihttps…

74HC245

74HC245&#xff1a;典型的CMOS型缓冲门电路 在这里用于增加电压

BFS 算法专题(三):BFS 解决边权为 1 的最短路问题

目录 1. 迷宫中离入口最近的出口 1.1 算法原理 1.2 算法代码 2. 最小基因变化 ★★★ 2.1 算法原理 2.2 算法代码 3. 单词接龙 3.1 算法原理 3.2 算法代码 4. 为高尔夫比赛砍树 (hard) 4.1 算法原理 4.2 算法代码 1. 迷宫中离入口最近的出口 . - 力扣&#xff08;…

hive的tblproperties支持修改的属性

文章目录 一、介绍二、查看TBLPROPERTIES属性三、修改TBLPROPERTIES属性 一、介绍 TBLPROPERTIES用途&#xff1a;向表中添加自定义或预定义的元数据属性&#xff0c;并设置它们的赋值。在hive建表时&#xff0c;可设置TBLPROPERTIES参数修改表的元数据&#xff0c;也能通过AL…

「数据要素」行业简报|2024.11.上刊

纵观数据要素行业动态&#xff0c;洞察行业风向&#xff0c;把握行业脉搏&#xff01; 一、政策发布 1、《山东省公共数据资源登记管理工作规范(试行)》公开征求意见 11月7日&#xff0c;为认真贯彻落实《中共中央办公厅 国务院办公厅关于加快公共数据资源开发利用的意见》《…

Paddle分布式训练报NCCL错

应该是没有装NCCL&#xff0c;但是通过NVIDIA官网方式用apt安装报错&#xff0c;说nccl签名有问题 打开官网查找对应版本的nccl&#xff1a;https://developer.nvidia.com/nccl/nccl-legacy-downloads 这里不下载local Ubuntu选项&#xff0c;下载O/S agnostic local install…

有什么好用的 WebSocket 调试工具吗?

在开发和测试 WebSocket 应用程序时&#xff0c;确保客户端能够正确地与服务器建立连接、发送和接收消息是非常重要的。 市面上有许多通用的 API 测试工具&#xff0c;它们大多专注于 HTTP 请求&#xff0c;而对于 WebSocket 的支持则显得较为有限。这种局限性使得开发者在寻找…

python私有化get和set的使用

私有化的好处 封装性&#xff1a;私有化有助于实现良好的封装&#xff0c;这是面向对象编程的核心原则之一。通过隐藏类的内部实现细节&#xff0c;可以减少外部对类的内部状态的直接访问和修改&#xff0c;从而保护对象的状态。 接口稳定性&#xff1a;私有化可以使得类的接口…

MQTT协议解析 : 物联网领域的最佳选择

1. MQTT协议概述 1.1 MQTT协议是什么 MQTT : Message Queuing Telemetry Transport 模式 : 发布 / 订阅主题优点 : 代码量小、低带宽、实时可靠应用 : 物联网、小型设备、移动应用MQTT 常用端口 : 1883 MQTT是一个网络协议&#xff0c;和HTTP类似&#xff0c;因为轻量简单&…

后端Node学习项目-用户管理-增删改查

model层实现 文件创建 在models文件夹下创建user.js 代码实现 const { DataTypes } require(sequelize) const { db } require(./index)const User db.define(user, {id: {type: DataTypes.INTEGER,primaryKey: true, // 主键autoIncrement: true, // 内容自增allowNull…