python 进程间通信

发布时间:2022-05-09 09:40:03 人气:102 作者:多测师

  虽然可以用文件共享数据实现进程间通信,但问题是:

  1)效率低(共享数据基于文件,而文件是硬盘上的数据) 2)需要自己加锁处理

  因此我们最好找寻一种解决方案能够兼顾:1)效率高(多个进程共享一块内存的数据)2)帮我们处理好锁问题。

  mutiprocessing模块为我们提供的基于消息的IPC通信机制:队列和管道。

  1 队列和管道都是将数据存放于内存中

  2 队列又是基于(管道+锁)实现的,可以让我们从复杂的锁问题中解脱出来,我们应该尽量避免使用共享数据,尽可能使用消息传递和队列,避免处理复杂的同步和锁问题,而且在进程数目增多时,往往可以获得更好的可获展性

  1. 队列(推荐使用)

  创建队列的类(底层就是以管道和锁定的方式实现):

  Queue([maxsize]):创建共享的进程队列,Queue是多进程安全的队列,可以使用Queue实现多进程之间的数据传递。

  参数介绍:

  maxsize是队列中允许最大项数,省略则无大小限制。

python 进程间通信

  应用:

  队列的使用

  什么是生产者消费者模式

  生产者消费者模式是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯,而通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不找生产者要数据,而是直接从阻塞队列里取,阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力。

  基于队列的生产者消费者模型

  此时的问题是主进程永远不会结束,原因是:生产者p在生产完后就结束了,但是消费者c在取空了q之后,则一直处于死循环中且卡在q.get()这一步。

  解决方式无非是让生产者在生产完毕后,往队列中再发一个结束信号,这样消费者在接收到结束信号后就可以break出死循环。

  生产者在生产完毕后发送结束信号None

  注意:结束信号None,不一定要由生产者发,主进程里同样可以发,但主进程需要等生产者结束后才应该发送该信号

  主进程在生产者生产完毕后发送结束信号None

  但上述解决方式,在有多个生产者和多个消费者时,应该怎么做呢?有几个消费者就发几次信号?

  有几个消费者就应该发送几次结束信号None

  其实我们的思路无非是发送结束信号而已,有另外一种队列提供了这种机制

  #JoinableQueue([maxsize]):这就像是一个Queue对象,但队列允许项目的使用者通知生成者项目已经被成功处理。通知进程是使用共享的信号和条件变量来实现的。

  #参数介绍:

  maxsize是队列中允许最大项数,省略则无大小限制。

  #方法介绍:

  JoinableQueue的实例p除了与Queue对象相同的方法之外还具有:

  q.task_done():使用者使用此方法发出信号,表示q.get()的返回项目已经被处理。如果调用此方法的次数大于从队列中删除项目的数量,将引发ValueError异常

  q.join():生产者调用此方法进行阻塞,直到队列中所有的项目均被处理。阻塞将持续到队列中的每个项目均调用q.task_done()方法为止

  以上内容为大家介绍了python 进程间通信,希望对大家有所帮助,如果想要了解更多Python相关知识,请关注多测师。https://www.e70w.com/xwzx/


上一篇:python 副本与视图
下一篇:python 管道
返回列表
在线客服
联系方式

热线电话

17727591462

上班时间

周一到周五

二维码
线