创建具有负载平衡和集群的可扩展 Node.js 应用程序

创建具有负载平衡和集群的可扩展 Node.js 应用程序

负载平衡是提高应用程序性能、可扩展性和可用性的一项重要技术。当客户端向负载均衡器发出请求时，负载均衡器根据预定义的规则将请求分发到不同的实例。

可以使用cluster集群模块或 PM2 等工具根据负载均衡器的流量动态创建和删除实例。集群模块可用于创建工作进程，而PM2可用于进程管理、负载均衡、零停机部署、日志管理、进程集群和安全。

PM2 是 Node.js 应用程序的流行流程管理器，提供了一系列有用的功能和优点，包括负载平衡和流程集群。为了使用 PM2 实现负载均衡，我们可以创建一个 Node.js 集群。Node.js 处理传入流量并将其分配给可用的工作进程。工作进程的最佳数量取决于应用程序的具体需求，并且应仔细优化性能和可扩展性。

在这里插入图片描述

负载均衡

首先，我们来讨论一下负载均衡的基本概念。负载均衡是一种在多个服务器之间分配传入网络流量的工具，以确保没有任何一台服务器因请求而不堪重负。负载均衡器可以使用硬件设备或软件程序来实现，它们通常使用算法来确定如何分配流量。

对于 Node.js，负载均衡可以在不同服务器上运行的多个 Node.js 实例之间分发传入的 HTTP 请求。这可以确保没有单个实例因请求而过载，从而提高性能和可靠性。

当客户端向负载均衡器发出请求时，负载均衡使用算法来确定哪个 Node.js 实例应处理该请求。可以使用多种不同的算法，包括：

  • 循环：此算法只是按顺序循环可用的 Node.js 实例，将每个新请求发送到序列中的下一个实例。
  • 最少连接：此算法选择收到请求时活动连接最少的 Node.js 实例。
  • IP 哈希：此算法计算客户端 IP 地址的哈希，并使用该值来确定哪个 Node.js 实例应处理该请求。这可以帮助确保来自同一客户端的请求始终发送到同一实例。

还有其他算法，例如随机、加权循环、加权最少连接、粘性会话，但这不在本文的讨论范围内。

一旦负载均衡确定哪个 Node.js 实例应处理该请求，它就会将该请求发送到该实例。如果实例已经运行并且可用，它将立即处理请求。但是，如果没有可用实例，负载均衡可以动态创建新实例来处理请求。

动态创建Node实例

动态创建新 Node.js 实例的一种方法是使用child_process工作进程模块。工作进程只是 Node.js 运行时的一个单独实例，可用于处理请求。要创建新的工作进程，可以使用child_process模块，如下所示：

const { fork } = require('child_process');// 创建一个新的工作进程
const worker = fork('./worker.js');// 监听来自工作进程的消息
worker.on('message', (msg) => {console.log(`Received message from worker: ${msg}`);
});// 向工作进程发送消息
worker.send('Hello from the main process!');

在此示例中，我们使用child_process模块中的fork方法从名为worker的单独 Node.js 文件创建一个新的工作进程。然后，我们使用on('message')方法侦听来自工作进程的消息，每当工作进程将消息发送回主进程时就会调用该方法。我们还使用send()方法向工作进程发送消息，该方法将消息从主进程发送到工作进程。

以下是worker.js文件的示例：

// 监听来自主进程的消息
process.on('message', (msg) => {console.log(`Received message from main process: ${msg}`);// 向主进程发送消息process.send('Hello from the worker process!');
});

使用child_process实现负载均衡

以下是在 Node.js 中使用工作进程的实现负载均衡的示例：

const http = require('http');
const { fork } = require('child_process');
const url = require('url');// 创建工作进程数组
const workers = [];for (let i = 0; i < 4; i++) {workers.push(fork('./server.js'));
}// 创建一个循环计数器
let counter = 0;// 创建负载均衡
http.createServer((req, res) => {// 根据循环计数器获取下一个工作进程const worker = workers[counter];// 增加循环计数器counter = (counter + 1) % workers.length;// 发送到工作进程const parsedUrl = url.parse(req.url, true);worker.send({ path: parsedUrl.pathname });// 监听worker.on('message', (message) => {res.writeHead(200);res.end(message);});
}).listen(8000);console.log('server running on port 8000');

在此代码中，我们首先通过fork创建server.js工作进程4次，并放入到数组。这将创建四个独立的 Node.js 运行时实例，每个实例运行自己的server.js代码副本。

server.js文件：

const http = require('http');
const https = require('https');// 创建http服务
http.createServer((req, res) => {res.writeHead(301, { Location: `https://${req.headers.host}${req.url}` });res.end();
}).listen(80);// 创建https服务
https.createServer(options, (req, res) => {// ...
}).listen(443);

然后，我们创建一个循环计数器变量，用于跟踪将每个传入请求发送到哪个工作进程。我们最初将计数器设置为零。

接下来，我们创建一个侦听端口 80 的 HTTP 服务器。对于每个传入请求，我们根据循环计数器从工作程序数组中获取下一个工作进程。然后我们增加计数器以准备下一个请求。

我们使用send方法将传入请求发送到选定的工作进程。工作进程接收请求并使用process.send方法发回响应。我们设置一个消息监听器来接收来自worker.js的响应，并使用它来将响应发送回客户端。

在工作进程中，我们有以下代码：

const http = require('http');// 以当前进程的ID创建一个 HTTP 服务器
http.createServer((req, res) => {res.writeHead(200);res.end(`Hello from worker ${process.pid}\n`);
}).listen(0, () => {console.log(`Worker ${process.pid} listening on port ${server.address().port}`);
});// 设置消息侦听器以接收来自负载均衡的请求
process.on('message', (message) => {const server = http.createServer((req, res) => {res.writeHead(200);res.end(`Hello from worker ${process.pid}\n`);});server.listen(() => {process.send(`http://localhost:${server.address().port}${message.path}`);});
});

在此代码中，我们创建一个 HTTP 服务器，该服务器在收到请求时以当前进程 ID 进行响应。我们还设置了一个消息侦听器来接收来自负载均衡的传入请求。

当工作进程收到来自负载均衡器的消息时，它会创建一个新的 HTTP 服务器来侦听随机端口。然后，它将一条消息发送回负载均衡器，其中包含新服务器的 URL（包括请求的路径）。

负载均衡接收来自工作线程的响应并将其发送回客户端。客户端看到来自负载均衡的响应，就好像它直接来自工作进程一样，即使它实际上是由负载均衡转发的。

这是一个非常简单的负载均衡示例，它使用工作进程在多个 Node.js 实例之间分发传入请求。然而，这种实现有一些限制。例如，如果工作进程崩溃或变得无响应，负载均衡将继续向该工作进程发送请求，这可能会导致性能不佳或停机。

为了克服这个问题，我们可以使用更先进的负载均衡技术，例如健康检查或动态扩展。运行状况检查可用于监视工作进程的运行状况并从池中删除无响应的进程。动态扩展可用于根据流量模式或资源使用情况自动添加或删除工作进程。

除了work_process之外，Node.js 还具有一个内置cluster模块，可用于创建 Node.js 实例集群。cluster模块与工作进程类似，但它提供了更高级的功能，例如自动负载平衡和进程管理。

使用cluster实现负载均衡

以下是使用cluster模块在 Node.js 中创建负载均衡的示例：

const cluster = require('cluster');
const http = require('http');
const numCPUs = require('os').cpus().length;if (cluster.isMaster) {console.log(`Master ${process.pid} is running`);for (let i = 0; i < numCPUs; i++) {cluster.fork();}cluster.on('exit', (worker, code, signal) => {console.log(`Worker ${worker.process.pid} died`);cluster.fork();});
} else {http.createServer((req, res) => {res.writeHead(200);res.end('hello world\n');}).listen(8000);console.log(`Worker ${process.pid} started`);
}

在此示例中，我们使用cluster模块创建 Node.js 实例集群。isMaster属性检查当前进程是否为主进程，如果是，则代码使用cluster.fork()方法为每个可用 CPU 核心创建一个工作进程。

该代码还为exit事件设置了一个事件侦听器，该事件侦听器在工作进程终止时发出。当工作进程死亡时，事件侦听器会记录一条消息并派生一个新的工作进程来替换已死亡的工作进程。

如果当前进程不是主进程（即它是工作进程），则代码会设置一个 HTTP 服务器，该服务器侦听端口 8000 并使用“hello world”消息响应请求。

使用 PM2 进行负载平衡

PM2（Process Manager 2 ）是 Node.js 应用程序的流行流程管理器，它提供了一系列用于管理和扩展 Node.js 应用程序的有用功能。PM2 可用于流程监控、负载平衡、零停机部署、日志管理、流程集群和安全。

PM2 的主要功能之一是它能够为 Node.js 应用程序执行负载平衡。PM2 可用于跨多个 Node.js 进程分配传入流量，这有助于提高应用程序性能和可扩展性。PM2 还可以创建 Node.js 进程集群，这有​​助于利用多个 CPU 核心并提高应用程序性能和吞吐量。

以下是如何在 Node.js 应用程序中使用 PM2 进行负载平衡的示例：

const http = require('http');const server = http.createServer((req, res) => {res.writeHead(200);res.end(`Hello from process ${process.pid}\n`);
});// 使用pm2
const cluster = require('pm2').clusterMode();if (cluster.isMaster) {console.log(`Master ${process.pid} is running`);for (let i = 0; i < 4; i++) {cluster.fork();}
} else {server.listen(8000);console.log(`Worker ${process.pid} started`);
}

在此示例中，我们使用 Node.js中的http模块创建一个简单的 HTTP 服务器。然后，我们通过调用启用进程集群和负载平衡来使用 PM2 启动服务器。

如果当前进程是主进程，我们使用cluster.fork()来启动四个工作进程。每个工作进程将处理来自客户端的传入 HTTP 请求。如果当前进程是工作进程，我们通过调用启动 HTTP 服务器并记录一条消息以表明工作进程已启动。

当客户端向服务器发出请求时，PM2 将在可用的工作进程之间分配请求，这有助于提高应用程序性能和可扩展性。通过使用 PM2 进行负载平衡，我们可以确保 Node.js 应用程序能够处理高水平的流量并提供可靠且响应迅速的用户体验。

注意：在提供的示例代码中fork四个工作进程的决定是任意的，给定应用程序的最佳工作进程数量取决于可用 CPU 核心、应用程序大小和预期级别等因素的流量。
一般来说，建议每个 CPU 核心有一个工作进程，以最大限度地提高性能和可扩展性。但是，工作进程的最佳数量可能会根据应用程序的具体需求而有所不同。

如果我们的负载均衡过载，我们可以通过添加更多资源（例如额外的服务器或 CPU）来解决问题，或者通过优化代码或配置来减少服务器上的负载。我们还可以使用先进的负载均衡技术，例如动态扩展或自动扩展，根据流量模式自动调整 Node.js 实例的数量。

总结

负载平衡是提高 Node.js 应用程序性能和可靠性的一项重要技术。负载均衡器使用算法将传入流量分配到在多个服务器上运行的不同 Node.js 实例，并且可以使用work_process或者cluster模块等技术根据流量模式动态创建和删除 Node.js 实例。了解 Node.js 中的进程、子进程和进程生成对于构建可扩展且高效的 Node.js 应用程序也很重要。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/news/146188.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

[PHP]关联和操作MySQL数据库然后将数据库部署到ECS

[PHP]关联和操作MySQL数据库然后将数据库部署到ECS

在Mac电脑上使用VS Code进行PHP开发并关联操作MySQL数据库&#xff0c;然后将数据库部署到ECS。 1.安装PHP和MySQL 确保你的Mac上已经安装了PHP和MySQL。你可以使用Homebrew来安装它们&#xff1a; $ brew install php $ brew install mysql 安装mysql完成后记住这一句: …
阅读更多...
城市网吧视频智能监控方案，实现视频远程集中监控

城市网吧视频智能监控方案，实现视频远程集中监控

网吧环境较为复杂&#xff0c;电脑设备众多且人员流动性大&#xff0c;极易发生人员或消防事故&#xff0c;亟需改变&#xff0c;TSINGSEE青犀AI智能网吧视频监管方案可以帮助实现对网吧环境和用户活动的实时监控和管理。 1、视频监控系统 在网吧内部布置高清摄像头&#xff0…
阅读更多...
反转字符串中的单词

反转字符串中的单词

给你一个字符串 s &#xff0c;请你反转字符串中 单词 的顺序。 单词 是由非空格字符组成的字符串。s 中使用至少一个空格将字符串中的 单词 分隔开。 返回 单词 顺序颠倒且 单词 之间用单个空格连接的结果字符串。 注意&#xff1a;输入字符串 s中可能会存在前导空格、尾随空格…
阅读更多...
笔记54：门控循环单元 GRU

笔记54：门控循环单元 GRU

本地笔记地址&#xff1a;D:\work_file\DeepLearning_Learning\03_个人笔记\3.循环神经网络\第9章&#xff1a;动手学深度学习~现代循环神经网络 a a a a a a a
阅读更多...
Bulk RNA-seq上下游分析

Bulk RNA-seq上下游分析

Bulk-RNA-seq上下游分析还是相对简单的&#xff0c;这次我以mouse为例&#xff0c;进行Bulk-RNA-seq上下游分析&#xff0c;并进行对应的图片绘制。 上游分析 1.软件准备 #安装所需软件 sudo apt install fastqc sudo apt install hisat2 sudo apt install cutadapt sudo ap…
阅读更多...
腾讯云4核8G服务器性能如何多少钱一年？

腾讯云4核8G服务器性能如何多少钱一年？

腾讯云服务器4核8G配置优惠价格表&#xff0c;轻量应用服务器和CVM云服务器均有活动&#xff0c;云服务器CVM标准型S5实例4核8G配置价格15个月1437.3元&#xff0c;5年6490.44元&#xff0c;轻量应用服务器4核8G12M带宽一年446元、529元15个月&#xff0c;腾讯云百科txybk.com分…
阅读更多...
Spring Security OAuth2.0 实现分布式系统的认证和授权

Spring Security OAuth2.0 实现分布式系统的认证和授权

Spring Security OAuth2.0 实现分布式系统的认证和授权 1. 基本概念1.1 什么是认证&#xff1f;1.2 什么是会话&#xff1f;1.2.1 基于 session 的认证方式1.2.2 基于 token 的认证方式 1.3 什么是授权&#xff1f;1.3.1 授权的数据模型 1.4 RBAC 介绍 2. Spring Security2.1 S…
阅读更多...
鸿蒙4.0开发笔记之DevEco Studio如何使用Previewer窗口预览器（一）

鸿蒙4.0开发笔记之DevEco Studio如何使用Previewer窗口预览器（一）

一、预览器作用 DevEco Studio预览器概况在HarmonyOS应用开发过程中&#xff0c;通过使用预览器&#xff0c;可以查看应用的UI效果&#xff0c;方便开发者实时查看应用的运行效果&#xff0c;随时调整代码。 二、打开Previewer预览器 1、正常启动 打开预览器的位置在DevEco…
阅读更多...
Spring Boot - devtools 热部署

Spring Boot - devtools 热部署

spring-boot-devtools是Spring Boot提供的一组开发工具&#xff0c;它旨在提高开发体验。这些工具包括应用程序的自动重新启动、自动刷新和远程调试等功能。下面是将spring-boot-devtools整合到Spring Boot应用程序中的步骤&#xff1a; 0、启用"Build project automatic…
阅读更多...
4核8G服务器价格选择轻量还是CVM合适？

4核8G服务器价格选择轻量还是CVM合适？

腾讯云服务器4核8G配置优惠价格表&#xff0c;轻量应用服务器和CVM云服务器均有活动&#xff0c;云服务器CVM标准型S5实例4核8G配置价格15个月1437.3元&#xff0c;5年6490.44元&#xff0c;轻量应用服务器4核8G12M带宽一年446元、529元15个月&#xff0c;腾讯云百科txybk.com分…
阅读更多...
【论文阅读】A Survey on Video Diffusion Models

【论文阅读】A Survey on Video Diffusion Models

视频扩散模型&#xff08;Video Diffusion Model&#xff09;最新综述GitHub 论文汇总-A Survey on Video Diffusion Models。 paper&#xff1a;[2310.10647] A Survey on Video Diffusion Models (arxiv.org) 0. Abstract 本文介绍了AIGC时代视频扩散模型的全面回顾。简要介…
阅读更多...
Redis7.2.3集群安装，新增节点，删除节点，分配哈希槽，常见问题

Redis7.2.3集群安装，新增节点，删除节点，分配哈希槽，常见问题

概念&#xff1a; 【Redis】高可用之三&#xff1a;集群&#xff08;cluster&#xff09; - 知乎 实操&#xff1a; Redis集群三种模式 主从模式 优势&#xff1a; 主节点可读可写 从节点只能读&#xff08;从节点从主节点同步数据&#xff09; 缺点&#xff1a; 当主节点…
阅读更多...
基于java web的中小型人力资源管理系统

基于java web的中小型人力资源管理系统

末尾获取源码 开发语言&#xff1a;Java Java开发工具&#xff1a;JDK1.8 后端框架&#xff1a;SSM 前端&#xff1a;Vue 数据库&#xff1a;MySQL5.7和Navicat管理工具结合 服务器&#xff1a;Tomcat8.5 开发软件&#xff1a;IDEA / Eclipse 是否Maven项目&#xff1a;是 目录…
阅读更多...
大模型之十二十-中英双语开源大语言模型选型

大模型之十二十-中英双语开源大语言模型选型

从ChatGPT火爆出圈到现在纷纷开源的大语言模型&#xff0c;众多出入门的学习者以及跃跃欲试的公司不得不面临的是开源大语言模型的选型问题。 基于开源商业许可的开源大语言模型可以极大的节省成本和加速业务迭代。 当前&#xff08;2023年11月17日)开源的大语言模型如下&#…
阅读更多...
L1 频段卫星导航射频前端低噪声放大器芯片MS2659

L1 频段卫星导航射频前端低噪声放大器芯片MS2659

产品简述 MS2659 是一款具有高增益、低噪声系数的低噪声放大器 (LNA) &#xff0c;支持 L1 频段多模式全球卫星定位&#xff0c;可以应用于 GPS 、 北斗二代、伽利略、 GLONASS 等 GNSS 导航接收机中。芯片采 用 SOT23-6 的封装形式。 主要特点 ◼ 支持北斗、 …
阅读更多...
提升提测质量之研测共建 | 京东云技术团队

提升提测质量之研测共建 | 京东云技术团队

一、序 日常研测工作演绎 你是否也有同样的困惑&#xff1f; 跟进的需求&#xff0c;就在提测前一秒&#xff0c;被告知不能如期提测了&#xff0c;研测计划被打乱&#xff1b; 提测的功能&#xff0c;犹如遇到不好的购物体验&#xff0c;缺斤短两&#xff0c;与prd预期不符…
阅读更多...
centos7 killall命令安装、使用

centos7 killall命令安装、使用

安装 在线安装命 输入下面命令 yum install psmisc -y Psmisc软件包包含三个帮助管理/proc目录的程序。 安装下列程序: fuser, killall,pstree和pstree.x11(到pstree的链接) fuser #显示使用指定文件或者文件系统的进程的PID。 killall #杀死某个名字的进程&#xff0c;它…
阅读更多...
JUC工具类_CyclicBarrier与CountDownLatch

JUC工具类_CyclicBarrier与CountDownLatch

最近被问到CyclicBarrier和CountDownLatch相关的面试题&#xff0c;CountDownLatch平时工作中经常用到&#xff0c;但是CyclicBarrier没有用过&#xff0c;一时答不上来&#xff0c;因此简单总结记录一下 1.什么是CyclicBarrier&#xff1f; 1.1 概念 CyclicBarrier&#xff…
阅读更多...
Codeforces Round 909 (Div. 3)（A~G）（启发式合并）

Codeforces Round 909 (Div. 3)（A~G）（启发式合并）

1899A - Game with Integers 题意&#xff1a;给定一个数 , 两个人玩游戏&#xff0c;每人能够执行 操作&#xff0c;若操作完是3的倍数则获胜&#xff0c;问先手的人能否获胜&#xff08;若无限循环则先手的人输&#xff09;。 思路&#xff1a;假如一个数模3余1或者2&#…
阅读更多...
Failed to restart network.service: Unit network.service not found.

Failed to restart network.service: Unit network.service not found.

执行systemctl restart network命令&#xff0c;报错Failed to restart network.service: Unit network.service not found. 执行 yum install network-scripts命令 再次执行&#xff0c;正常
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023