python启动多个进程_Python程序中的进程操作--—--开启多进程

Python程序中的进程操作--—--开启多进程

之前我们已经了解了很多进程相关的理论知识,了解进程是什么应该不再困难了,刚刚我们已经了解了,运行中的程序就是一个进程。所有的进程都是通过它的父进程来创建的。因此,运行起来的python程序也是一个进程,那么我们也可以在程序中再创建进程。多个进程可以实现并发效果,也就是说,当我们的程序中存在多个进程的时候,在某些时候,就会让程序的执行速度变快。以我们之前所学的知识,并不能实现创建进程这个功能,所以我们就需要借助python中强大的模块。

一、multiprocess模块

仔细说来,multiprocess不是一个模块而是python中一个操作、管理进程的包。 之所以叫multi是取自multiple的多功能的意思,在这个包中几乎包含了和进程有关的所有子模块。由于提供的子模块非常多,为了方便大家归类记忆,我将这部分大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享。

二、multiprocess中process模块

process模块是一个创建进程的模块,借助这个模块,就可以完成进程的创建。

Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动)

强调:

需要使用关键字的方式来指定参数

args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号

参数介绍:

group参数未使用,值始终为None

target表示调用对象,即子进程要执行的任务

args表示调用对象的位置参数元组,args=(1,2,'randy',)

kwargs表示调用对象的字典,kwargs={'name':'randy','age':18}

name为子进程的名称

3.1 方法介绍

p.start():启动进程,并调用该子进程中的p.run()

p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法

p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁

p.is_alive():如果p仍然运行,返回True

p.join([timeout]):主进程等待p终止(强调:是主进程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程

3.2 属性介绍

p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置

p.name:进程的名称

p.pid:进程的pid

p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可)

p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)

3.3 在windows中使用process模块注意事项

在Windows操作系统中由于没有fork(linux操作系统中创建进程的机制),在创建子进程的时候会自动 import 启动它的这个文件,而在 import 的时候又执行了整个文件。因此如果将process()直接写在文件中就会无限递归创建子进程报错。所以必须把创建子进程的部分使用if __name__ =='__main__' 判断保护起来,import 的时候,就不会递归运行了。

四、使用process模块创建进程

在一个python进程中开启子进程,start方法和并发效果。

4.1在python创建子进程方式一

import time

from multiprocessing import Process

def f(name):

print("进程开始")

time.sleep(1) # 子进程进入堵塞状态,结束后,进入就绪状态,等待拿到cpu的使用权

print("进程结束")

time.sleep(1)

"""

创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次

接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次

"""

print('进程测试')

if __name__ == '__main__':

# args表示传递的参数

"""

创建一个进程,他会将主进程的代码复制一份到另外的一个程序,

而当前的主程序和子程序为异步状态,整个的程序会等待所有的主

进程和子进程运行完毕之后,才结束当前的程序

"""

p = Process(target=f, args=('bob',))

p.start()

time.sleep(1)

print('执行主进程的内容了')

进程测试

进程测试

进程开始2

进程结束2

主进程

4.2 在python中创建子进程方式二

from multiprocessing import Process

import time

class Task(Process):

def __init__(self, name):

# self.name = name # 这样赋值添加属性,在super()__init__时候有重新初始化了,所以要在init下面修改值

super().__init__()

self.name = name

def run(self):

print(f"子进程的名称{self.name}")

time.sleep(0.03)

print("子进程结束")

if __name__ == '__main__':

p = Task('randy')

p.start() # 想操作系统, 发送开启子进程的请求

print("主进程")

主进程

子进程的名称randy

子进程结束

4.3 python中子进程和主进程的内存空间是隔离的

from multiprocessing import Process

import time

x = 10

def task():

global x

print(f"子进程修改之前{x}")

x = 100

print(f"子进程修改之后x: {x}")

if __name__ == '__main__':

p = Process(target=task)

p.start()

time.sleep(0.5)

print(f"全局x的值: {x}")

子进程修改之前10

子进程修改之后x: 100

全局x的值: 10

python中子进程和主进程的内存空间是隔离的

4.4 join方法使用

from multiprocessing import Process

import time

def task(x):

print(f"{x}进程开始")

time.sleep(3)

print(f"{x}进程结束")

"""

创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次

接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次

"""

print('进程测试')

if __name__ == '__main__':

p1 = Process(target=task, args=(1, ))

p1.start()

# join会阻塞住主进程在等待子进程结束,然后在执行join下面的代码(内部会调用wait)

p1.join()

print("主进程")

# p1 = Process(target=task, args=(1, ))

# p1.start()

# p2 = Process(target=task, args=(2, ))

# p2.start()

# p1.join()

# p2.join()

4.5 join多个进程时间统计

# 实现并行

from multiprocessing import Process

import time

def task(x):

print(f"{x}进程开始")

time.sleep(x)

print(f"{x}进程结束")

"""

创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次

接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次

"""

print('进程测试')

if __name__ == '__main__':

p1 = Process(target=task, args=(1, ))

p2 = Process(target=task, args=(2, ))

p3 = Process(target=task, args=(3, ))

# 开始时间

start = time.time()

p1.start()

p2.start()

p3.start()

# join会阻塞住主进程在等待子进程结束,然后在执行join下面的代码(内部会调用wait)

p1.join()

p2.join()

p3.join()

end = time.time()

"""

程序运行的时间为3s多,主要是因为创建的三个子进程会同时启动

会以时间最长的进程为基准,

"""

print("程序运行时间%s" %(end-start)) # 程序运行时间3.5375335216522217

# 实现串行

from multiprocessing import Process

import time

def task(x):

print(f"{x}进程开始")

time.sleep(x)

print(f"{x}进程结束")

"""

创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次

接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次

"""

print('进程测试')

if __name__ == '__main__':

p1 = Process(target=task, args=(1, ))

p2 = Process(target=task, args=(2, ))

p3 = Process(target=task, args=(3, ))

# 开始时间

start = time.time()

# 实现串行,线程会一个一个的执行线程,一个线程执行完之后才会执行下一个线程

p1.start()

p1.join()

p2.start()

p2.join()

p3.start()

p3.join()

end = time.time()

"""

程序运行的时间为6s多,主要是因为创建的三个子进程会同时启动

会以时间最长的进程为基准,

"""

print("程序运行时间%s" %(end-start)) # 程序运行时间7.236638784408569

程序运行时间3.5375335216522217

程序运行时间7.236638784408569

#详细解析如下:

#进程只要start就会在开始运行了,所以p1-p4.start()时,系统中已经有四个并发的进程了

#而我们p1.join()是在等p1结束,没错p1只要不结束主线程就会一直卡在原地,这也是问题的关键

#join是让主线程等,而p1-p4仍然是并发执行的,p1.join的时候,其余p2,p3,p4仍然在运行,等#p1.join结束,可能p2,p3,p4早已经结束了,这样p2.join,p3.join.p4.join直接通过检测,无需等待

# 所以4个join花费的总时间仍然是耗费时间最长的那个进程运行的时间

4.6 多个进程同时运行

from multiprocessing import Process

import time

def task(x):

print(f"{x}进程开始")

time.sleep(x)

print(f"{x}进程结束")

print('进程测试')

if __name__ == '__main__':

start = time.time()

p_list = []

# 创建并启动线程

for i in range(1,5):

p = Process(target=task, args=(i, ))

p.start()

p_list.append(p)

# 使用join方法

for p in p_list:

p.join()

end = time.time()

print("程序运行时间%s" %(end-start))

4.7 查看主进程和子进程的进程号

from multiprocessing import Process,current_process

import time

import os

def task():

print("进程开始")

time.sleep(0.2)

# 在子进程查看自己的pid

print(f'在子进程中查看自己的pid: {current_process().pid}')

print(f'在子进程中查看自己的pid: {os.getpid()}')

# 在子进程中查看父进程pid

print(f'在子进程中查看父进程pid: {os.getppid()}')

print("进程结束")

if __name__ == '__main__':

p = Process(target=task)

p.start()

print(f"在主进程中查看子进程的pid:{p.pid}")

print(f'主进程的pid: {os.getpid()}')

print(f'主进程中父进程pid: {os.getppid()}')

"""

在window中的进程创建查看pid号他的顺序是从小到大排序,主线程pid大于子线程的pid

os.getpid() 获取当前进程的pid

os.getppid() 获取当前进程的父进程

子进程对象.pid 获取当前进程的子进程的pid

"""

进阶,多个进程同时运行(注意,子进程的执行顺序不是根据启动顺序决定的)

4.8 process中常用的属性

from multiprocessing import Process,current_process

import time

import os

def task():

print("进程开始")

time.sleep(0.2)

# 在子进程查看自己的pid

print(f'在子进程中查看自己的pid: {current_process().pid}')

print("进程结束")

if __name__ == '__main__':

p = Process(target=task)

p.start()

# 1 查看进程的名称

print(p.name)

# 2 判断进程是否还存在

print(p.is_alive())

time.sleep(3)

print(p.is_alive())

# 3 告诉操作系统结束之后关闭所有进程

p2 = Process(target=task)

p2.start()

p2.terminate()

print("terminate: ", p2.is_alive())

p2.join()

print("terminate: ", p2.is_alive())

五、守护进程

会随着主进程的结束而结束。

主进程创建守护进程

其一:守护进程会在主进程代码执行结束后就终止

其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children

注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止。

5.1 守护进程的启动

import os

import time

from multiprocessing import Process

class Myprocess(Process):

def __init__(self,person):

super().__init__()

self.person = person

def run(self):

print(os.getpid(),self.name)

print('%s正在和女主播聊天' %self.person)

p=Myprocess('哪吒')

p.daemon=True # 一定要在p.start()前设置,设置p为守护进程,守护进程中禁止p创建子进程,并且父进程代码执行结束,p即终止运行

p.start()

time.sleep(10) # 在sleep时查看进程id对应的进程ps -ef|grep id

print('主')

5.2主进程代码执行结束守护进程立即结束

from multiprocessing import Process

def foo():

print(123)

time.sleep(1)

print("end123")

def bar():

print(456)

time.sleep(3)

print("end456")

p1=Process(target=foo)

p2=Process(target=bar)

p1.daemon=True

p1.start()

p2.start()

time.sleep(0.1)

print("main-------") # 打印该行则主进程代码结束,则守护进程p1应该被终止.#可能会有p1任务执行的打印信息123,因为主进程打印main----时,p1也执行了,但是随即被终止

六、socket聊天并发实例

6.1 使用多进程是新socket聊天并发-server端

from socket import *

from multiprocessing import Process

server=socket(AF_INET,SOCK_STREAM)

server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)

server.bind(('127.0.0.1',8080))

server.listen(5)

def talk(conn,client_addr):

while True:

try:

# 注意在这里不能使用input进行交互信息,因为是在子进程中输入的,所以你输入不对

msg=conn.recv(1024)

if not msg:break

conn.send(msg.upper())

except Exception:

break

if __name__ == '__main__': # windows下start进程一定要写到这下面

while True:

conn,client_addr=server.accept()

p=Process(target=talk,args=(conn,client_addr))

p.start()

6.1 使用多进程是新socket聊天并发-client端

import socket

client = socket.socket()

client.connect(("127.0.0.1", 8888))

while True:

msg = input("请输入信息")

if msg == 'q':

break

client.send(msg.encode('utf-8'))

data = client.recv(1024)

print(data)

import socket

client = socket.socket()

client.connect(("127.0.0.1", 8888))

while True:

msg = input("请输入信息")

if msg == 'q':

break

client.send(msg.encode('utf-8'))

data = client.recv(1024)

print(data)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/429827.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Angular JS (2)

通过Angular JS的官方教学文档,了解 routeProvider 的用法, angular.module(aaa).config([$locationProvider,$routeProvider, funtion config($locationProvider, $routeProvider){ app.config.js ---- angular. module(phonecatApp). config([$locat…

python多线程logger_python多线程logger_Dblogger:一个Python语言实现支持多进程和多线程日志打印高效Python日志库......

日期作者版本备注2020-12-7dingbinv1.0Dblogger: a powerful Python library supporting multi process and multi thread printing logsDblogger project implements a both multi-threads-safe and multi-process-safe logger library named dblogger in python language. It…

BIEE 目录迁移(文件夹)方式

文件夹迁移方式一(归档--取消归档): 归档:analytics中选择目录,定位至指定文件夹,更多中选择归档,保存为 .catalog文档; 释放归档: 进入目录管理器,离…

unityscrollview生成大量_superscrollviewforUGUI的一些使用心得

接触这个插件也有差不多半年了,这段时间都是跟这个插件做的UI打交道,所以记一下相关的使用心得做备忘。这个插件主要由三个脚本构成,分别是ListItemData(挂载在要展示的物体预制体身上的,物体对应的属性,初始化字段等均…

使用的组件:ckeditor

老牌Web文本编辑器,无需多言。 官网地址:http://ckeditor.com/转载于:https://www.cnblogs.com/xusweeter/p/6098942.html

mybatis 配置 mysql连接池_spring 5.x 系列第5篇 —— 整合 mybatis + druid 连接池 (xml配置方式)...

项目目录结构1. 导入依赖创建 maven 工程,除了 Spring 的基本依赖外,还需要导入 Mybatis 和 Druid 的相关依赖:org.springframeworkgroupId>spring-jdbcartifactId>${spring-base-version}version>dependency>mysqlgroupId>my…

noi题库(noi.openjudge.cn) 1.8编程基础之多维数组T21——T25

T21 二维数组右上左下遍历 描述 给定一个row行col列的整数数组array,要求从array[0][0]元素开始,按从左上到右下的对角线顺序遍历整个数组。 输入 输入的第一行上有两个整数,依次为row和col。余下有row行,每行包含col个整数&#…

mysql memcache redis_redis,mysql,memcache的區別與比較,redis兩種數據存儲持久化方式

redis與mysql比較區別:mysql中一個中小型的網絡數據庫,比oracle和sqlserver小, 但是並發能力遠超過acess這樣的桌面數據庫;redis是一個內存鍵值數據庫,支持網絡、可基於內存亦可持久化的日志型、Key-Value數據庫。redi…

Java学习笔记三——数据类型

前言 Java是强类型(strongly typed)语言,强类型包含两方面的含义: 所有的变量必须先声明后使用;指定类型的变量只能接受预支匹配的值。这意味着每一个变量和表达式都有一个在编译时就确定的类型。 Java数据类型分为两大…

word可以直接导入mysql嘛_如何把word文档导入到数据库中——java POI

本文方法借鉴于https://www.cnblogs.com/ljysy/p/10574197.html在经过朋友的指导下,在处理文档的方式上有所不同。我的数据库使用的是SQL server,这篇博客将不介绍如何将数据存储进数据库中,只进行java POI处理文档数据的介绍,在处…

metinfo mysql off_利用Sqlmap测试MetInfo企业网站管理系统MySql注入

上次叉叉讲了Sqlmap简单注入(access数据库)教程,这次咱说说MySql数据库MetInfo,是一款强大的企业网站管理系统,采用PHPMysql架构。叉叉下载的是MetInfo 5.1.5的免费版本,咱不是大拿,不会分析源码,直接丢到W…

IOS的七种手势

今天为大家介绍一下IOS 的七种手势,手势在开发中经常用到,所以就简单 通俗易懂的说下, 话不多说,直接看代码: // 初始化一个UIimageViewUIImageView *imageView [[UIImageView alloc]initWithFrame:CGRectMake(100, 1…

mysql获取后一天_mysql获取当前时间,前一天,后一天

今天是2016年08月01日。date_sub(2016-08-01,interval 1 day) 表示 2016-07-31date_sub(2016-08-01,interval 0 day) 表示 2016-08-01date_sub(2016-08-01,interval -1 day) 表示 2016-08-02date_sub(curdate(),interval 1 day) 表示 2016-07-31date_sub(curdate(),interval -1…

c++获取sqlite3数据库表中所有字段的方法

常用方法: 1.使用sqlite3_get_table函数 2.获取sqlite创建表的sql语句字符串,然后进行解析获取到相应的字段 3.采用配置文件的方式,将所有字段名写入配置文件 方法1:使用sqlite3_get_table函数 代码: char *dbname “…

python sql语句生成_python Django 生成sql语句

class TestModel(models.Model):Namemodels.CharField(max_length64,blankTrue)>>> from django.core.management.color import no_style#Style是用来输出语句时着色的>>> from django.db import connection>>> from django.db.backends import cre…

Oozie的架构

Oozie的架构图,如下: 从oozie的架构图中,可以看到所有的任务都是通过oozie生成相应的任务客户端,并通过任务客户端来提交相应的任务。 继续。。。 转载于:https://www.cnblogs.com/zlslch/p/6117705.html

mysql如何做计划任务_简单的mysql 过程计划任务

首先讲讲过程是什么东西, 过程差不多就是SQL用的java之于方法.把一段sql做成过程后一个简单的调用就可以批量执行这些sql,很方便.其实就像java后台写个执行复杂sql的方法,你只是把这段sql存到数据库里了而已.mysql里面有"过程"和"函数"两个概念, 基本上前者…

Linux的#和$区别

【#】代表 root权限【$】代表普通用户 如果更改了/etc/profile , 或~/.bashrc等文档,可以用任何符号来代替它们。 linux窗口下的【rootlocate~】其中的【~】代表代表用户的家目录(root为/root,一般user则为/home/username)&#x…

python贴吧顶贴_python实现贴吧顶贴机器人

项目目录:– url.txt:多个需要顶起的帖子地址。– reply:多条随机回复的内容。–selenium:浏览器自动化测试框架。首先,我们先使用pip完成selenium的安装。接着,导入pyautogui自动控制鼠标的库。示例代码:p…

Confluence部署攻略 [转]

一、软件介绍 AtlassianConfluence(简称Confluence)是一个专业的wiki程序。它是一个知识管理的工具,通过它可以实现团队成员之间的协作和知识共享。Confluence不是一个开源软件,非商业用途可以免费使用。 Confluence使用简单&…