返回顶部
首页 > 资讯 > 后端开发 > Python >Python多进程共享numpy 数组的方法
  • 314
分享到

Python多进程共享numpy 数组的方法

2024-04-02 19:04:59 314人浏览 泡泡鱼

Python 官方文档:入门教程 => 点击学习

摘要

为什么要用numpy     python中提供了list容器,可以当作数组使用。但列表中的元素可以是任何对象,因此列表中保存的是对象的指针,这样一来,

为什么要用numpy

    python中提供了list容器,可以当作数组使用。但列表中的元素可以是任何对象,因此列表中保存的是对象的指针,这样一来,为了保存一个简单的列表[1,2,3]。就需要三个指针和三个整数对象。对于数值运算来说,这种结构显然不够高效。
    Python虽然也提供了array模块,但其只支持一维数组,不支持多维数组(在Tensorflow里面偏向于矩阵理解),也没有各种运算函数。因而不适合数值运算。
    NumPy的出现弥补了这些不足。

引用:https://zhuanlan.zhihu.com/p/32513483

共享 numpy 数组

需要用到 numpy 时往往是数据量较大的场景,如果直接复制会造成大量内存浪费。共享 numpy 数组则是通过上面一节的 Array 实现,再用 numpy.frombuffer 以及 reshape 对共享的内存封装成 numpy 数组,代码如下:


# encoding:utf8
import ctypes
import os
import multiprocessing

import numpy as np

NUM_PROCESS = multiprocessing.cpu_count()


def worker(index):
    main_nparray = np.frombuffer(shared_array_base, dtype=ctypes.c_double)
    main_nparray = main_nparray.reshape(NUM_PROCESS, 10)
    pid = os.getpid()
    main_nparray[index, :] = pid
    return pid


if __name__ == "__main__":
    shared_array_base = multiprocessing.Array(
        ctypes.c_double, NUM_PROCESS * 10, lock=False)
    pool = multiprocessing.Pool(processes=NUM_PROCESS)
    result = pool.map(worker, range(NUM_PROCESS))
    main_nparray = np.frombuffer(shared_array_base, dtype=ctypes.c_double)
    main_nparray = main_nparray.reshape(NUM_PROCESS, 10)
    print( main_nparray )

运行结果:

到此这篇关于Python多进程共享numpy 数组的方法的文章就介绍到这了,更多相关Python多进程共享numpy 数组内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!

--结束END--

本文标题: Python多进程共享numpy 数组的方法

本文链接: https://lsjlt.com/news/131414.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • Python多进程共享numpy 数组的方法
    为什么要用numpy     Python中提供了list容器,可以当作数组使用。但列表中的元素可以是任何对象,因此列表中保存的是对象的指针,这样一来,...
    99+
    2024-04-02
  • Python实现多进程共享数据的方法分析
    本文实例讲述了Python实现多进程共享数据的方法。分享给大家供大家参考,具体如下: 示例一: # -*- coding:utf-8 -*- from multiprocessing import Pr...
    99+
    2022-06-04
    进程 方法 数据
  • Python 多进程 多线程数据共享
    #!/usr/bin/env python # -*- coding:utf-8 -*- # author: Changhua Gong from multiprocessing import Process, Queue import o...
    99+
    2023-01-31
    多线程 进程 数据
  • python多进程共享变量
    本文实例为大家分享了python多进程共享变量的相关代码,供大家参考,具体内容如下 from multiprocessing import Process, Manager import os impo...
    99+
    2022-06-04
    变量 进程 python
  • python进程间共享数据的方法是什么
    在Python中,进程间共享数据的方法有以下几种: 使用`multiprocessing`模块中的`Value`和`Array`:...
    99+
    2023-10-25
    python
  • python多线程数据共享的方法是什么
    Python中多线程数据共享的方法有以下几种:1. 全局变量:在多个线程中使用全局变量进行数据共享。但是需要注意的是,全局变量在多线...
    99+
    2023-08-12
    python
  • react-redux多个组件数据共享的方法
    目录多个组件数据共享总结: 多个组件数据共享 我们之前讲解的一直都是只有一个组件需要向redux读取状态,也就是Count这个求和组件。那么我们在实际使用redux的场景中,当然是有...
    99+
    2024-04-02
  • Golang函数的多进程之间共享内存的应用方法
    Golang作为一门高并发编程语言,其内置的协程机制和多线程操作实现了轻量级的多任务处理。然而,在多进程处理的场景下,不同进程之间的通信和共享内存成为了程序开发的关键问题。本文将介绍在Golang中实现多进程之间共享内存的应用方法。一、Go...
    99+
    2023-05-17
    Golang 多进程 共享内存
  • vue 组件间数据方法共享
    随着Vue的流行,Vue组件的使用越来越广泛。但是,处理Vue组件之间的数据和方法共享问题仍然是一个重要的挑战。在这篇文章中,我将讨论一些处理Vue组件之间数据和方法共享的最佳实践。组件通信方式组件通信是Vue中最常见的一种场景。在Vue中...
    99+
    2023-05-24
  • Android开发中多进程共享数据简析
     背景 最近在工作中遇到一个需求,需要在接收到推送的时候将推送获得的数据存起来,以供app启动时使用。我们会认为这不是So easy吗?只要把数据存到SharedPr...
    99+
    2022-06-06
    进程 数据 android开发 多进程 Android
  • Linux进程共享内存的方法是什么
    这篇文章主要讲解了“Linux进程共享内存的方法是什么”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Linux进程共享内存的方法是什么”吧!共享内存 IPC 原理共享内存进程间通信机制主要用...
    99+
    2023-06-28
  • python多线程数据共享怎么实现
    在Python中,可以使用`threading`模块来实现多线程数据共享。具体步骤如下: 导入`threading`模块:`im...
    99+
    2023-10-26
    python
  • java多线程共享变量的方法是什么
    Java多线程共享变量的方法有以下几种:1. 使用共享对象:多个线程共享一个对象,并且该对象的属性被多个线程访问和修改。通过使用sy...
    99+
    2023-08-26
    java
  • 微信小程序怎么实现数据共享与方法共享
    微信小程序怎么实现数据共享与方法共享,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。全局数据共享 Mobox原生小程序开发中我们可以通过 mobx-miniprogram 配...
    99+
    2023-06-26
  • Servlet实现共享数据JavaWeb组件的几种方法
    目录一、Servlet简介二、Servlet的运行过程Servlet组件:多个Servlet之间共享数据实现方案转发与重定向全局作用域对象Servlet JavaWeb三大组件包括,...
    99+
    2024-04-02
  • python numpy库中数组遍历的方法
    1.对于一维数组,可以有: 2. 对于二维数组:考虑可将其看作为矩阵,故可以如下书写二重遍历  这里外层循环的是二维数组A的行,内层则是列 同时c的作用:不想用肉眼直接...
    99+
    2024-04-02
  • 快速转换numpy数组为列表的方法分享
    快速转换numpy数组为列表的方法分享 在数据处理和分析中,经常会使用到numpy库来进行快速、高效的数组操作。然而,有时候我们需要将numpy数组转换为列表进行进一步的处理或者与其他类型的数据进行交互。下面我将分享一些快速转换...
    99+
    2024-01-19
    列表 转换 numpy数组
  • vps多账号共享的方法是什么
    VPS多账号共享的方法有以下几种:1. 使用虚拟化技术:使用虚拟化软件,如VMware、VirtualBox等,在VPS上创建多个虚...
    99+
    2023-09-16
    vps
  • 微信小程序如何实现数据共享与方法共享详解
    目录全局数据共享 Moboxnpm安装及其注意事项小程序对 npm 的支持与限制npm 依赖包的安装与使用Mobox组件方法共享 behaviors1. 什么是 behaviors2...
    99+
    2024-04-02
  • Servlet实现共享数据JavaWeb组件方法有哪些
    本篇内容介绍了“Servlet实现共享数据JavaWeb组件方法有哪些”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!目录一、Servlet简...
    99+
    2023-06-20
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作