返回顶部
首页 > 资讯 > 后端开发 > Python >Python多路复用selector模块的基本使用
  • 248
分享到

Python多路复用selector模块的基本使用

2024-04-02 19:04:59 248人浏览 薄情痞子

Python 官方文档:入门教程 => 点击学习

摘要

目录1. io多路复用1.1. epoll,poll, select的比较2. selector模块的基本使用1. IO多路复用 O多路复用技术是使用一个可以同时监视多个IO阻塞的中

1. IO多路复用

O多路复用技术是使用一个可以同时监视多个IO阻塞的中间人去监视这些不同的IO对象,这些被监视的任何一个或多个IO对象有消息返回,都将会触发这个中间人将这些有消息IO对象返回,以供获取他们的消息。

使用IO多路复用的优点在于,进程在单线程的情况下同样可以同时处理多个IO阻塞。与传统的多线程/多进程模型比,I/O多路复用系统开销小,系统不需要创建新的进程或者线程,也不需要维护这些进程和线程的运行,降底了系统的维护工作量,节省了系统资源,

python提供了selector模块来实现IO多路复用。同时,不同的操作系统上,这中间人的可选则的类型是不同的,目前常见的有,epoll, kqueue, devpoll, poll,select等;kqueue(BSD,Mac支持),devpoll(solaris支持)和epoll的实现基本相同,epoll在linux2.5+内核中实现,windows系统只实现了select。

1.1. epoll,poll, select的比较

select和poll使用轮询的方式去检测监视的所有IO是否有数据返回,需要不断的遍历每一个IO对象,这是一种费时的操作,效率较低。poll优于select的一点是select限制了最大监视IO数为1024,这对于需要大量网络IO连接的服务器来显然是不够的;而poll对于这个个数没有限制。但是这同样面临问题,在使用轮询的方式监视这些IO时,IO数越大,意味着每一次轮询消耗的时间越多。效率也就越低,这是轮询无法解决的问题。

epoll就是为了解决这样的问题诞生的,首先他没有最大的监视的IO数的限制,并且没有使用轮询的方式去检测这些IO,而是采用了事件通知机制和回调来获取这些有消息返回的IO对象,只有“活跃”的IO才会主动的去调用callback函数。这个IO将会直接被处理而不需要轮询。

2. selector模块的基本使用


import selectors
import Socket

# 创建一个socketIO对象,监听后将可以接受请求消息了
sock = socket.socket()
sock.bind(("127.0.0.1", 80))
sock.listen()

slt = selectors.DefaultSelector()  # 使用系统默认selector,Windows为select,linux为epoll
# 将这个socketIO对象加入到,select中监视
slt.reGISter(fileobj=sock, events=selectors.EVENT_READ, data=None)

# 循环处理消息
while True:
    # select方法:轮询这个selector,当有至少一个IO对象有消息返回时候,将会返回这个有消息的IO对象
    ready_events = slt.select(timeout=None)
    print(ready_events)     # 准备好的IO对象们
    break

ready_events 为一个列表(代表注册到这个select中的所有的有数据可接收IO对象),列表中的每一个元组为:

SelectorKey对象:

  • fileobj:注册的socket对象
  • fd:文件描述符
  • data:注册时我们传入的参数,可以是任意值,绑定到一个属性上,方便之后使用。

mask值

  • EVENT_READ : 表示可读的; 它的值其实是1;
  • EVENT_WRITE: 表示可写的; 它的值其实是2;
  • 或者二者的组合

例如:

[(SelectorKey(fileobj=<socket.socket fd=456, family=AddressFamily.AF_INET, type=SocketKind.SOCK_STREAM, proto=0, laddr=('127.0.0.1', 80)>, fd=456, events=1, data=None),
    1)]

处理这个请求,只需要使用该socket对应方法即可,该socket用于接收请求的连接,使用accept方法就可以处理这个请求。

当接受请求之后,又将会产生新的客户端,我们将其放入selector中一并监视,当有消息来时,如果是连接请求,handle_request()函数处理,如果是客户端的消息,handle_client_msg()函数处理。

对于select中有两类socket,所以我们需要判断被激活后返回的socket是哪一种,再调用不同的函数做不同的请求。如果这个select中的socket种类有很多,将无法如此判断。解决办法就是将处理函数绑定到对应的selecTKEy对象中,可以使用data参数。


def handle_request(sock:socket.socket, mask):    # 处理新连接
    conn, addr = sock.accept()
    conn.setblocking(False)  # 设定非阻塞
    slt.register(conn, selector.EVENT_READ, data=handle_client_msg)

def handle_client_msg(sock:socket.socket, mask)  # 处理消息
    data = sock.recv()
    print(data.decode())

sock = socket.socket()
sock.bind(("127.0.0.1", 80))
sock.listen()

slt = selectors.DefaultSelector()
slt.register(fileobj=sock, events=selectors.EVENT_READ, data=handle_request)

while True:
    ready_events = slt.select(timeout=None)
    for event, mask in ready_events:
        event.data(event.fileobj, mask)
        # 不同的socket有不同data函数,使用自己绑定的data函数调用,再将自己的socket作为参数。就可以处理不同类型的socket。

上面使用data很好的解决了上面问题,但是需要注意,绑定到data属性上函数(或者说可调用对象)最终会使用event.data(event.fileobj)的方式调用,这些函数接受的参数应该相同。

到此这篇关于Python多路复用selector模块的文章就介绍到这了,更多相关Python selector模块内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: Python多路复用selector模块的基本使用

本文链接: https://lsjlt.com/news/156886.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • Python多路复用selector模块的基本使用
    目录1. IO多路复用1.1. epoll,poll, select的比较2. selector模块的基本使用1. IO多路复用 O多路复用技术是使用一个可以同时监视多个IO阻塞的中...
    99+
    2024-04-02
  • 怎么使用Python多路复用selector模块
    本篇内容主要讲解“怎么使用Python多路复用selector模块”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“怎么使用Python多路复用selector模块”吧!1. IO多路复用O多路复用...
    99+
    2023-06-25
  • python tarfile模块基本使用
    1.压缩一个文件夹下的所有文件 #coding=utf8 import os import tarfile __author__ = 'Administrator' def main(): cwd = os.getcwd() ...
    99+
    2023-01-31
    模块 python tarfile
  • Python中csv模块的基本使用教程
    1、csv简介 CSV (Comma Separated Values) ,即逗号分隔值(也称字符分隔值,因为分隔符可以不是逗号),是一种常用的文本 格式,用以存储表格数据,包括数字或者字符。很多程序在处理数据时都...
    99+
    2022-06-02
    python的csv模块 python标准库csv的用法 python csv库
  • Python下rrdtool模块的基本使用方法
    最近需要用python根据收集到的数据进行绘图,决定使用rrd数据库,然后配合rrdtool来绘图,故学习一下rrdtool的用法。 用法如下: 创建: create(...) create(args..)...
    99+
    2022-06-04
    使用方法 模块 Python
  • python模块中pip命令的基本使用
    目录pip的基本使用安装pippip 升级安装包升级包卸载包搜索包显示安装包信息查看指定包的详细信息列出已安装的包查看已安装的包及其版本查看可升级的包使用镜像源临时使用设置为默认使用...
    99+
    2024-04-02
  • python + jira模块基本用法
    安装jira easy_install jira 导入jira from jira import JIRA 和jira服务器建立连接 jira = JIRA('http://localhost/jira/',basic_auth=...
    99+
    2023-01-31
    模块 python jira
  • python爬虫之请求模块urllib的基本使用
    目录前言urllib的子模块HttpResponse常用方法与属性获取信息urlli.parse的使用(一般用于处理带中文的url)✅爬取baidu官网HTML源代码✅添加请求头信息...
    99+
    2024-04-02
  • Python第三方模块apscheduler安装和基本使用
    目录apscheduler 模块apscheduler 模块介绍支持的后端存储作业APScheduler有四种组成部分各组件简介apscheduler 模块使用触发器类型apsche...
    99+
    2023-03-06
    Python apscheduler安装和使用 Python apscheduler安装
  • IO多路复用丶基于IO多路复用+sock
      IO多路复用指:通过一种机制,可以监视多个描述符,一旦某个描述符就绪(一般是读就绪或者写就绪),能够通知程序进行相应的读写操作   IO多路复用作用:     检测多个socket是否已经发生变化(是否已经连接成功/是否已经获取数据...
    99+
    2023-01-30
    多路 复用 IO
  • 详解Golang中gcache模块的基本使用
    目录先说结论优势基本使用打印结果缓存控制打印结果缓存淘汰策略实战举例代码示例打印结果小技巧GetOrSetFunc的使用总结gcache提供统一的缓存管理模块,提供了开发者可自定义灵...
    99+
    2024-04-02
  • node.js中joi模块的基本使用方式
    目录node.js joi模块的使用参数校验:使用joi基础使用常见schema特殊情况demosnode.js joi模块的使用 //引入joi模块 const Joi = req...
    99+
    2024-04-02
  • Python中re模块基本用法解析
    基于Python的正则表达式, 使用re模块: 1. match()方法, 从字符串头部开始匹配 import re content = 'The 123456 is my one phone number.' print(le...
    99+
    2023-01-31
    模块 Python
  • 使用Python编写爬虫的基本模块及框架使用指南
    基本模块 python爬虫,web spider。爬取网站获取网页数据,并进行分析提取。 基本模块使用的是 urllib,urllib2,re,等模块 基本用法,例子: (1)进行基本GET请求,获取网页...
    99+
    2022-06-04
    爬虫 使用指南 框架
  • laravel8多模块、多应用和多应用路由
    1、安装多应用模块 composer require nwidart/laravel-modules 2、执行命令,config文件夹下生成一个modules.php配置文件 php artisan ...
    99+
    2023-09-01
    php nginx laravel8 laravel
  • React+Mobx基本使用、模块化操作
    目录Mobx介绍1.什么是Mobx2.Mobx有什么优势3.社区评价浏览器支持基础使用1. 初始化mobx2. React使用storeMobx - computedMobx - 模...
    99+
    2024-04-02
  • 浅谈python jieba分词模块的基本用法
    jieba(结巴)是一个强大的分词库,完美支持中文分词,本文对其基本用法做一个简要总结。 特点 支持三种分词模式: 精确模式,试图将句子最精确地切开,适合文本分析; 全模式,把句...
    99+
    2022-06-04
    分词 浅谈 模块
  • Python引用模块和查找模块路径
    模块间相互独立相互引用是任何一种编程语言的基础能力。对于“模块”这个词在各种编程语言中或许是不同的,但我们可以简单认为一个程序文件是一个模块,文件里包含了类或者方法的定义。对于编译型的语言,比如C#中的一个...
    99+
    2022-06-04
    模块 路径 Python
  • 使用Python模块:struct模块
    Python没有提供直接的将用户定义的数据类型和文件IO关联起来的功能,但是它提供了struct库(是一个内置库)——我们可以以二进制模式来写这些数据(有趣的是,它真的是设计来讲文本数据写为缓存的) 1)bytes、str...
    99+
    2023-01-31
    模块 Python struct
  • Python 多线程之threading 模块的使用
    目录简介 创建线程 构造器方式 继承方式 守护线程 线程本地数据 定时器 简介 Python 通过 _thread 和 threading 模块提供了对多线程的支持,threadi...
    99+
    2024-04-02
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作