返回顶部
首页 > 资讯 > 后端开发 > Python >Python多进程的使用详情
  • 509
分享到

Python多进程的使用详情

2024-04-02 19:04:59 509人浏览 八月长安

Python 官方文档:入门教程 => 点击学习

摘要

目录一、进程的创建1、一些常用方法介绍 二、进程池的使用三、多进程和多线程的优缺点对比 一、进程的创建 python的multiprocessing模块提供了Process类,该类可

一、进程的创建

pythonmultiprocessing模块提供了Process类,该类可用来在各平台下创建新进程。其构造函数是:


__init__(self, group=None, target=None, name=None, args=(), kwargs={})


其中,各个参数的含义如下:

  • group: 该参数未实现,不需要传参
  • target:为新建进程指定执行任务,也就是指定一个函数
  • args:以元组的方式,为target指定的方法传递参数,如果传入的是元组中有多个参数的话则传入方式是(arg1,arg2,....argn,)
  • kwargs:以字典的方法,为target指定的方法传递参数。
  • name: 为新建进程设置名称

1、一些常用方法介绍

start() 方法用于启动进程
run() 方法用于运行所要执行的任务
is_alive() 方法用于判断当前进程是否还活着
getPid() 方法用于获取进程的ID号。

直接创建Process类的实例对象,由此就可以创建一个新的进程;

这个就类似于直接创建实例化线程Thread类


from multiprocessing import Process
import os
# 定义要调用的方法
def async_fun(name, add):
    for arc in add:
        print(name + str(os.getpid()) + " " + arc)

if __name__ == '__main__':
    my_tuple = ("码农飞哥", "今天是宅家的一天", "30岁了还没对象焦虑呀")

    # 创建进程
    process = Process(target=async_fun, args=("子进程", my_tuple))
    # 启动子进程
    process.start()
    # 启动主进程
    async_fun("主进程", my_tuple)

运行结果是:

主进程11610 码农飞哥
主进程11610 今天是宅家的一天
主进程11610 30岁了还没对象焦虑呀
子进程11612 码农飞哥
子进程11612 今天是宅家的一天
子进程11612 30岁了还没对象焦虑呀

这里需要注意的一点是,必须要将代码放在if __name__ == '__main__': 代码块中。通过os.getpid()方法来获取进程号。

通过继承Process类的子类,创建实例对象,也可以创建新的进程。

第二种方式就是通过继承Process类的子类,创建实例对象,也可以创建新的进程,不过这种方式需要重写父类的run()方法。这种方法就类似于直接继承Thread类创建线程。


import multiprocessing
import os


# 定义要调用的方法
def async_fun(name, add):
    for arc in add:
        print(name + str(os.getpid()) + " " + arc)


class MyProcess(multiprocessing.Process):
    def __init__(self, name, add):
        multiprocessing.Process.__init__(self)
        self.add = add
        self.name = name
        # 重写run()方法

    def run(self):
        async_fun(self.name, self.add)


if __name__ == '__main__':
    my_tuple = ("码农飞哥", "今天是宅家的一天", "宅家也不能虚度")
    myprocess = MyProcess("子进程", my_tuple)
    myprocess.start()
    # 主进程
    async_fun("主进程", my_tuple)

运行结果同上:

主进程11610 码农飞哥
主进程11610 今天是宅家的一天
主进程11610 30岁了还没对象焦虑呀
子进程11612 码农飞哥
子进程11612 今天是宅家的一天
子进程11612 30岁了还没对象焦虑呀

这里还是推荐使用第一种方法创建进程,因为这种方式创建进程比较简洁

二、进程池的使用

由于创建进程对系统的开销比较大。所以,所以在实际开发中一般都会使用进程池来创建进程。进程池的使用与线程池的使用也是有神似的地方。同样的在multiprocessing模块中提供了Pool函数来创建进程池。


import os
from multiprocessing import Pool
import time


# 定义要调用的方法
def async_fun(add):
    time.sleep(1)
    print("进程号:" + str(os.getpid()) + " " + add)


if __name__ == '__main__':
    add = "码农飞哥,今天是宅家的一天,30岁了还没对象焦虑呀"
    # 创建包含4个进程的进程池
    pool = Pool(processes=4)
    # 提交action
    pool.apply_async(func=async_fun, args=(add,))
    pool.apply_async(func=async_fun, args=("加油加油",))
    pool.close()
    pool.join()

运行结果是:

进程号:11658 码农飞哥,今天是宅家的一天,30岁了还没对象焦虑呀
进程号:11659 加油加油

同样的进程池也可以通过with语句来创建


from multiprocessing import Pool
import os
import time


def async_add(max):
    time.sleep(1)
    print("进程号:" + str(os.getpid()) + "最大值是" + str(max))


if __name__ == '__main__':
    with Pool(processes=4) as pool:
        # 使用线程池执行max计算
        results = pool.map(async_add, (20, 30, 40, 50))

运行结果是:

进程号:11726最大值是20
进程号:11725最大值是30
进程号:11727最大值是40
进程号:11728最大值是50

三、多进程和多线程的优缺点对比

多进程的优点就是稳定性好,一个子进程崩溃了,不会影响主进程以及其余子进程,各个子进程各用一套独立的内存空间。多线程的优点就是效率高,适用于批处理等功能。
多进程的缺点就是创建进程的代价非常大,因为操作系统要给每个进程分配固定的资源,并且操作系统对进程的总数会有一定的限制,若进程过多,操作系统调度都会存在问题,会造成假死状况。

总结:

到此这篇关于Python多进程的使用详情的文章就介绍到这了,更多相关Python多进程的使用,内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: Python多进程的使用详情

本文链接: https://lsjlt.com/news/135954.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • Python多进程的使用详情
    目录一、进程的创建1、一些常用方法介绍 二、进程池的使用三、多进程和多线程的优缺点对比 一、进程的创建 Python的multiprocessing模块提供了Process类,该类可...
    99+
    2024-04-02
  • Python多线程的使用详情
    目录一,实用方法二、补充:Python多线程共享变量资源竞争问题一,实用方法 1.线程之间执行是无序的,cpu调度哪个线程就执行哪个线程;2.主线程等待所有子线程结束后再结束,设置守...
    99+
    2024-04-02
  • python 多进程和多线程使用详解
    目录进程和线程 Python的多进程 进程池 多进程间的数据通信与共享 Python的多线程 多线程间的数据共享 使用queue队列通信-经典的生产者和消费者模型进程和线程 进程是...
    99+
    2024-04-02
  • python多进程使用apply_async的使用方法详解
    前言: python在同一个线程中多次执行同一方法时,该方法执行耗时较长且每次执行过程及结果互不影响,如果只在主进程中执行,效率会很低,因此使用multiprocessing.Poo...
    99+
    2024-04-02
  • python 多线程threading程序详情
    CPython implementation detail: 在 CPython 中,由于存在全局解释器锁, 同一时刻只有一个线程可以执行 Python 代码(虽...
    99+
    2024-04-02
  • Python多进程库multiprocessing中进程池Pool类的使用详解
    问题起因 最近要将一个文本分割成好几个topic,每个topic设计一个regressor,各regressor是相互独立的,最后汇总所有topic的regressor得到总得预测结果。没错!类似baggi...
    99+
    2022-06-04
    进程 详解 Python
  • 一文详解Python中多进程和进程池的使用方法
    目录一、多进程二、进程池三、使用案例总结Python是一种高级编程语言,它在众多编程语言中,拥有极高的人气和使用率。Python中的多进程和进程池是其强大的功能之一,可以让我们更加高...
    99+
    2023-05-16
    Python多进程 进程池使用 Python多进程 Python进程池
  • 详解Python的多任务进程
    目录1.基本概念2.线程和进程比较3.协程和线程的比较总结1.基本概念 定义含义并发:concurrency,同一时刻只能有一条指令执行,但是多个线程的对应的指令被快速轮换地执行并行...
    99+
    2024-04-02
  • python中多进程和多线程的使用方法
    这篇文章主要介绍了python中多进程和多线程的使用方法,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。进程和线程进程是系统进行资源分配的最小单位,线程是系统进行调度执行的最小...
    99+
    2023-06-14
  • Python 多进程使用之监控
    下面简单写下实现方式,具体代码不会全部贴出来。需要使用的py库有下面几个import urllib2 import socket from multiprocessing import Poolurllib2用于请求网页socket用于限制...
    99+
    2023-01-31
    进程 Python
  • python多进程基础详解
    目录进程开启一个进程JOIN方法进程之间空间隔离进程的常用方法current_process 查看pid(进程id)os.getpid() 查看进程id进程其他方法和属性守护进程互斥...
    99+
    2024-04-02
  • Python推导式使用详情
    目录推导式什么是推导式基本语法其它使用方法列表推导式练习题集合推导式字典推导式字典推导式常用以配合的函数enumeratezip优先使用推导式推导式 什么是推导式 推导式是 for ...
    99+
    2024-04-02
  • python 多进程和协程配合使用
    有一批key已经写入到3个txt文件中,每一个txt文件有30万行记录。现在需要读取这些txt文件,判断key是否在数据仓库中。(redis或者mysql)为空的记录,需要写入到日志文件中! 任务分工1. 使用多进程技术,每一个进...
    99+
    2023-01-31
    进程 和协 python
  • Python实现多线程爬表情包详解
    目录课程亮点环境介绍模块使用流程一. 分析我们想要的数据内容 是可以从哪里获取二. 代码实现步骤导入模块单线程爬取10页数据多进程爬取10页数据课程亮点 系统分析目标网页 html标...
    99+
    2024-04-02
  • Python类的定义和使用详情
    目录一、前言二、定义类三、创建类的实例四、“魔术”方法——_ init _()五、创建类的成员并访问1.创建实例方法并访问2.创建数据...
    99+
    2024-04-02
  • Python爬虫Requests库的使用详情
    目录一、Requests库的7个主要的方法二、Response对象的属性三、爬取网页通用代码四、Resquests库的常见异常五、Robots协议展示六、案例展示一、Requests...
    99+
    2024-04-02
  • python中celery的基本使用详情
    目录1.基本介绍2.使用场景3.工作流程和组成部分4.Celery执行异步任务4.1 基础使用1.基本介绍 Celery 是由Python 编写的简单,灵活,可靠的用来处理大量信息的...
    99+
    2024-04-02
  • Python多进程与多线程的使用场景有哪些
    这篇文章主要介绍Python多进程与多线程的使用场景有哪些,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!前言Python多进程适用的场景:计算密集型(CPU密集型)任务Python多线程适用的场景:IO密集型任务计算...
    99+
    2023-06-07
  • Android 多用户详情
    目录Android 多用户一、Linux 用户和组Android 多用户 一、Linux 用户和组 Linux作为一个多用户的操作系统,每个用户在机器上都有一个私有空间,特别是它会拥...
    99+
    2024-04-02
  • python多进程使用函数封装
    import multiprocessing as mp from multiprocessing import Process class MyProcess(Process):     """     自定义多进程,继承自原生Proce...
    99+
    2023-01-31
    函数 进程 python
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作