返回顶部
首页 > 资讯 > 后端开发 > Python >Python解析器Cpython的GIL锁工作机制是什么
  • 918
分享到

Python解析器Cpython的GIL锁工作机制是什么

2023-07-02 14:07:28 918人浏览 八月长安

Python 官方文档:入门教程 => 点击学习

摘要

本文小编为大家详细介绍“python解析器CPython的GIL锁工作机制是什么”,内容详细,步骤清晰,细节处理妥当,希望这篇“Python解析器Cpython的GIL锁工作机制是什么”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一

本文小编为大家详细介绍“python解析器CPython的GIL工作机制是什么”,内容详细,步骤清晰,细节处理妥当,希望这篇“Python解析器Cpython的GIL锁工作机制是什么”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。

一 引子

定义:

In CPython, the global interpreter lock, or GIL, is a mutex that prevents multiple 
native threads from executing Python bytecodes at once. This lock is necessary mainly 
because CPython’s memory management is not thread-safe. (However, since the GIL 
exists, other features have grown to depend on the guarantees that it enforces.)

结论:在Cpython解释器中,同一个进程下开启的多线程,同一时刻只能有一个线程执行,无法利用多核优势

首先需要明确的一点是GIL并不是Python的特性,它是在实现Python解析器(CPython)时所引入的一个概念。就好比c++是一套语言(语法)标准,但是可以用不同的编译器来编译成可执行代码。

有名的编译器例如GCC,INTEL C++,Visual C++等。Python也一样,同样一段代码可以通过CPython,PyPy,Psyco等不同的Python执行环境来执行。

像其中的JPython就没有GIL。然而因为CPython是大部分环境下默认的Python执行环境。

所以在很多人的概念里CPython就是Python,也就想当然的把GIL归结为Python语言的缺陷。

所以这里要先明确一点:GIL并不是Python的特性,Python完全可以不依赖于GIL

二 GIL介绍

GIL本质就是一把互斥锁,既然是互斥锁,所有互斥锁的本质都一样,都是将并发运行变成串行,以此来控制同一时间内共享数据只能被一个任务所修改,进而保证数据安全

可以肯定的一点是:保护不同的数据的安全,就应该加不同的锁。

要想了解GIL,首先确定一点:每次执行python程序,都会产生一个独立的进程。例如python test.py,python aaa.py,python bbb.py会产生3个不同的python进程

验证python test.py只会产生一个进程

#test.py内容import os,timeprint(os.getpid())time.sleep(1000)#打开终端执行python3 test.py#在windows下查看tasklist |findstr python#在linux下下查看ps aux |grep python

在一个python的进程内,不仅有test.py的主线程或者由该主线程开启的其他线程,还有解释器开启的垃圾回收等解释器级别的线程,总之,所有线程都运行在这一个进程内,毫无疑问

所有数据都是共享的,这其中,代码作为一种数据也是被所有线程共享的(test.py的所有代码以及Cpython解释器的所有代码)

例如:test.py定义一个函数work(代码内容如下图),在进程内所有线程都能访问到work的代码,于是我们可以开启三个线程然后target都指向该代码,能访问到意味着就是可以执行。

所有线程的任务,都需要将任务的代码当做参数传给解释器的代码去执行,即所有的线程要想运行自己的任务,首先需要解决的是能够访问到解释器的代码。

综上:

如果多个线程的target=work,那么执行流程是

多个线程先访问到解释器的代码,即拿到执行权限,然后将target的代码交给解释器的代码去执行

解释器的代码是所有线程共享的,所以垃圾回收线程也可能访问到解释器的代码而去执行,这就导致了一个问题:对于同一个数据100,可能线程1执行x=100的同时,而垃圾回收执行的是回收100的操作,解决这种问题没有什么高明的方法,就是加锁处理,如下图的GIL,保证python解释器同一时间只能执行一个任务的代码

Python解析器Cpython的GIL锁工作机制是什么

三 GIL与Lock

机智的同学可能会问到这个问题:Python已经有一个GIL来保证同一时间只能有一个线程来执行了,为什么这里还需要lock?

首先,我们需要达成共识:锁的目的是为了保护共享的数据,同一时间只能有一个线程来修改共享的数据

然后,我们可以得出结论:保护不同的数据就应该加不同的锁。

最后,问题就很明朗了,GIL 与Lock是两把锁,保护的数据不一样,前者是解释器级别的(当然保护的就是解释器级别的数据,比如垃圾回收的数据),后者是保护用户自己开发的应用程序的数据,很明显GIL不负责这件事,只能用户自定义加锁处理,即Lock,如下图

Python解析器Cpython的GIL锁工作机制是什么

分析:

100个线程去抢GIL锁,即抢执行权限

肯定有一个线程先抢到GIL(暂且称为线程1),然后开始执行,一旦执行就会拿到lock.acquire()

极有可能线程1还未运行完毕,就有另外一个线程2抢到GIL,然后开始运行,但线程2发现互斥锁lock还未被线程1释放,于是阻塞,被迫交出执行权限,即释放GIL

直到线程1重新抢到GIL,开始从上次暂停的位置继续执行,直到正常释放互斥锁lock,然后其他的线程再重复2 3 4的过程

代码示范

from threading import Thread,Lockimport os,timedef work():    global n    lock.acquire()    temp=n    time.sleep(0.1)    n=temp-1    lock.release()if __name__ == '__main__':    lock=Lock()    n=100    l=[]    for i in range(100):        p=Thread(target=work)        l.append(p)        p.start()    for p in l:        p.join()    print(n) #结果肯定为0,由原来的并发执行变成串行,牺牲了执行效率保证了数据安全,不加锁则结果可能为99

四 GIL与多线程

有了GIL的存在,同一时刻同一进程中只有一个线程被执行

听到这里,有的同学立马质问:进程可以利用多核,但是开销大,而python的多线程开销小,但却无法利用多核优势,也就是说python没用了,PHP才是最牛逼的语言?

别着急啊,老娘还没讲完呢。

要解决这个问题,我们需要在几个点上达成一致:

cpu到底是用来做计算的,还是用来做I/O的?

多cpu,意味着可以有多个核并行完成计算,所以多核提升的是计算性能

每个cpu一旦遇到I/O阻塞,仍然需要等待,所以多核对I/O操作没什么用处

一个工人相当于cpu,此时计算相当于工人在干活,I/O阻塞相当于为工人干活提供所需原材料的过程,工人干活的过程中如果没有原材料了,则工人干活的过程需要停止,直到等待原材料的到来。

如果你的工厂干的大多数任务都要有准备原材料的过程(I/O密集型),那么你有再多的工人,意义也不大,还不如一个人,在等材料的过程中让工人去干别的活,

反过来讲,如果你的工厂原材料都齐全,那当然是工人越多,效率越高

结论:

对计算来说,cpu越多越好,但是对于I/O来说,再多的cpu也没用

当然对运行一个程序来说,随着cpu的增多执行效率肯定会有所提高(不管提高幅度多大,总会有所提高),这是因为一个程序基本上不会是纯计算或者纯I/O,所以我们只能相对的去看一个程序到底是计算密集型还是I/O密集型,从而进一步分析python的多线程到底有无用武之地

假设我们有四个任务需要处理,处理方式肯定是要玩出并发的效果,解决方案可以是:

方案一:开启四个进程

方案二:一个进程下,开启四个线程

  • 单核情况下,分析结果:

如果四个任务是计算密集型,没有多核来并行计算,方案一徒增了创建进程的开销,方案二胜

如果四个任务是I/O密集型,方案一创建进程的开销大,且进程的切换速度远不如线程,方案二胜

  • 多核情况下,分析结果:

如果四个任务是计算密集型,多核意味着并行计算,在python中一个进程中同一时刻只有一个线程执行用不上多核,方案一胜

如果四个任务是I/O密集型,再多的核也解决不了I/O问题,方案二胜

结论:

现在的计算机基本上都是多核,python对于计算密集型的任务开多线程的效率并不能带来多大性能上的提升,甚至不如串行(没有大量切换),但是,对于io密集型的任务效率还是有显著提升的。

五 多线程性能测试

如果并发的多个任务是计算密集型:多进程效率高

from multiprocessing import Processfrom threading import Threadimport os,timedef work():    res=0    for i in range(100000000):        res*=iif __name__ == '__main__':    l=[]    print(os.cpu_count()) #本机为4核    start=time.time()    for i in range(4):        p=Process(target=work) #耗时5s多        p=Thread(target=work) #耗时18s多        l.append(p)        p.start()    for p in l:        p.join()    stop=time.time()    print('run time is %s' %(stop-start))

如果并发的多个任务是I/O密集型:多线程效率高

from multiprocessing import Processfrom threading import Threadimport threadingimport os,timedef work():    time.sleep(2)    print('===>')if __name__ == '__main__':    l=[]    print(os.cpu_count()) #本机为4核    start=time.time()    for i in range(400):        # p=Process(target=work) #耗时12s多,大部分时间耗费在创建进程上        p=Thread(target=work) #耗时2s多        l.append(p)        p.start()    for p in l:        p.join()    stop=time.time()    print('run time is %s' %(stop-start))

应用:

多线程用于IO密集型,如Socket爬虫WEB

多进程用于计算密集型,如金融分析

读到这里,这篇“Python解析器Cpython的GIL锁工作机制是什么”文章已经介绍完毕,想要掌握这篇文章的知识点还需要大家自己动手实践使用过才能领会,如果想了解更多相关内容的文章,欢迎关注编程网Python频道。

--结束END--

本文标题: Python解析器Cpython的GIL锁工作机制是什么

本文链接: https://lsjlt.com/news/342495.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • Python解析器Cpython的GIL锁工作机制是什么
    本文小编为大家详细介绍“Python解析器Cpython的GIL锁工作机制是什么”,内容详细,步骤清晰,细节处理妥当,希望这篇“Python解析器Cpython的GIL锁工作机制是什么”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一...
    99+
    2023-07-02
  • Python解析器Cpython的GIL解释器锁工作机制
    目录本节重点一 引子二 GIL介绍三 GIL与Lock四 GIL与多线程五 多线程性能测试本节重点 掌握Cpython的GIL解释器锁的工作机制掌握GIL与互斥锁掌握Cpython下...
    99+
    2024-04-02
  • python全局解释器GIL锁机制详解
    目录一、GIL全局解释器锁二、为什么会有GIL锁?三、多线程无法利用多核优势?计算密集型和IO密集型计算密集型——采用多进程计算密集型—&mdas...
    99+
    2022-12-19
    python的gil锁 谈下python的GIL python gil锁 怎么加
  • 什么是Python全局锁(GIL),如何避开GIL限制?
    一、什么是Python 全局锁 1、什么是全局锁 简单来说,Python 全局解释器锁(Global Interpreter Lock, 简称 GIL) 是一个互斥锁(或锁),只允许一个线程保持 Py...
    99+
    2023-09-01
    python 开发语言 算法
  • DB2中锁机制是怎么工作的
    DB2中的锁机制是通过锁定数据库对象,如表、行或页来控制并发访问数据库的方式。DB2支持多种类型的锁,包括共享锁、排他锁和更新锁。 ...
    99+
    2024-03-07
    DB2
  • python GIL锁的底层原理是什么
    本篇内容介绍了“python GIL锁的底层原理是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!释放GIL锁原理分析在单核CPU下,这种...
    99+
    2023-06-30
  • Python中GIL的作用是什么
    Python中GIL的作用是什么?很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。python有哪些常用库python常用的库:1.requesuts;2.scra...
    99+
    2023-06-14
  • python 中GIL锁的底层原理是什么
    这篇文章将为大家详细讲解有关python 中GIL锁的底层原理是什么,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。python可以做什么Python是一种编程语言,内置了许多有效的工具,Py...
    99+
    2023-06-14
  • MapReduce工作机制是什么
    这篇文章主要介绍了MapReduce工作机制是什么的相关知识,内容详细易懂,操作简单快捷,具有一定借鉴价值,相信大家阅读完这篇MapReduce工作机制是什么文章都会有所收获,下面我们一起来看看吧。MapReduce,本质就是一种编程模型,...
    99+
    2023-06-27
  • java classloader的工作机制是什么
    Java的ClassLoader是Java虚拟机(JVM)的一个重要组成部分,它主要负责加载Java类文件并把字节码文件转换成运行时...
    99+
    2024-04-09
    java
  • C++析构函数内部工作机制是什么
    本篇内容主要讲解“C++析构函数内部工作机制是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“C++析构函数内部工作机制是什么”吧!1、析构函数的内部工作机制众所周知,在对象的生命周期结束时会...
    99+
    2023-07-05
  • java中jvm的工作机制是什么
    Java虚拟机(JVM)是一个用于执行Java字节码的虚拟机。它是Java平台的核心部分,负责将Java字节码转换为机器代码并执行。...
    99+
    2023-09-26
    java jvm
  • 对Python中GIL(全局解释器锁)的一点理解浅析
    目录前言为什么需要 GILGIL 的实现几点说明GIL 优化用户数据的一致性不能依赖 GIL总结参考文档前言 GIL(Global Interpreter Lock),全局解释器锁,...
    99+
    2024-04-02
  • Java中的锁机制是什么
    今天小编给大家分享一下Java中的锁机制是什么的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。Java中的锁机制是保证多线程并...
    99+
    2023-07-05
  • MySQL中的锁机制是什么
    这篇“MySQL中的锁机制是什么”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“MySQL中的锁机制是什么”文章吧。一.概述锁...
    99+
    2023-07-05
  • PostgreSQL中的锁机制是什么
    PostgreSQL中的锁机制是用来控制并发访问数据库中数据的方式。它可以防止多个会话同时对同一数据进行修改,从而避免数据不一致的问...
    99+
    2024-04-02
  • mysql锁机制的概念是什么
    本文小编为大家详细介绍“mysql锁机制的概念是什么”,内容详细,步骤清晰,细节处理妥当,希望这篇“mysql锁机制的概念是什么”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。My...
    99+
    2024-04-02
  • 数据库的锁机制是什么
    数据库的锁机制是一种用于保护数据库的一致性和并发操作的机制。它确保数据库中的数据在被多个并发事务访问和修改时保持一致性,避免数据的混...
    99+
    2023-09-20
    数据库
  • 数据库连接池的工作机制是什么
    数据库连接池的工作机制是为了提高数据库操作的性能和效率。它通过预先创建和管理一定数量的数据库连接,以避免频繁地创建、销毁连接,从而减...
    99+
    2023-09-15
    数据库
  • java读写锁的工作原理是什么
    读写锁是一种特殊的锁机制,允许多个线程同时读取共享资源,但只允许一个线程写入共享资源。读写锁的工作原理如下: 当一个线程想要读取...
    99+
    2024-04-03
    java
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作