Python并发编程线程消息通信机制详解

1 event事件

python提供了非常简单的通信机制 threading.event，通用的条件变量。多个线程可以等待某个事件的发生，在事件发生后，所有的线程都会被激活。

关于event的使用也超级简单，就三个函数

event = threading.event()

# 重置event，使得所有该event事件都处于待命状态
event.clear()

# 等待接收event的指令，决定是否阻塞程序执行
event.wait()

# 发送event指令，使所有设置该event事件的线程执行
event.set()

举个例子来看下。

import time
import threading

class mythread(threading.thread):
    def __init__(self, name, event):
        super().__init__()
        self.name = name
        self.event = event

    def run(self):
        print('thread: {} start at {}'.format(self.name, time.ctime(time.time())))
        # 等待event.set()后，才能往下执行
        self.event.wait()
        print('thread: {} finish at {}'.format(self.name, time.ctime(time.time())))

threads = []
event = threading.event()

# 定义五个线程
[threads.append(mythread(str(i), event)) for i in range(1,5)]

# 重置event，使得event.wait()起到阻塞作用
event.clear()

# 启动所有线程
[t.start() for t in threads]

print('等待5s...')
time.sleep(5)

print('唤醒所有线程...')
event.set()

thread: 1 start at sun may 13 20:38:08 2018
thread: 2 start at sun may 13 20:38:08 2018
thread: 3 start at sun may 13 20:38:08 2018
thread: 4 start at sun may 13 20:38:08 2018

等待5s...

唤醒所有线程...
thread: 1 finish at sun may 13 20:38:13 2018
thread: 4 finish at sun may 13 20:38:13 2018
thread: 2 finish at sun may 13 20:38:13 2018
thread: 3 finish at sun may 13 20:38:13 2018

可见在所有线程都启动（start()）后，并不会执行完，而是都在self.event.wait()止住了，需要我们通过event.set()来给所有线程发送执行指令才能往下执行。

2 condition

condition和event 是类似的，并没有多大区别。

同样，condition也只需要掌握几个函数即可。

cond = threading.condition()

# 类似lock.acquire()
cond.acquire()

# 类似lock.release()
cond.release()

# 等待指定触发，同时会释放对锁的获取,直到被notify才重新占有琐。
cond.wait()

# 发送指定，触发执行
cond.notify()

举个网上一个比较趣的捉迷藏的例子来看看

import threading, time

class hider(threading.thread):
    def __init__(self, cond, name):
        super(hider, self).__init__()
        self.cond = cond
        self.name = name

    def run(self):
        time.sleep(1)  #确保先运行seeker中的方法
        self.cond.acquire()
        print(self.name + ': 我已经把眼睛蒙上了')
        self.cond.notify()
        self.cond.wait()
        print(self.name + ': 我找到你了哦 ~_~')
        self.cond.notify() 
        self.cond.release()
        print(self.name + ': 我赢了')

class seeker(threading.thread):
    def __init__(self, cond, name):
        super(seeker, self).__init__()
        self.cond = cond
        self.name = name
        
    def run(self):
        self.cond.acquire()
        self.cond.wait()
        print(self.name + ': 我已经藏好了，你快来找我吧')
        self.cond.notify()
        self.cond.wait()
        self.cond.release()
        print(self.name + ': 被你找到了，哎~~~')
        
cond = threading.condition()
seeker = seeker(cond, 'seeker')
hider = hider(cond, 'hider')
seeker.start()
hider.start()

通过cond来通信，阻塞自己，并使对方执行。从而，达到有顺序的执行。
看下结果

hider:   我已经把眼睛蒙上了
seeker:  我已经藏好了，你快来找我吧
hider:   我找到你了 ~_~
hider:   我赢了
seeker:  被你找到了，哎~~~

3 queue队列

最后一个，队列，它是本节的重点，因为它是我们日常开发中最使用频率最高的。

从一个线程向另一个线程发送数据最安全的方式可能就是使用 queue 库中的队列了。创建一个被多个线程共享的 queue 对象，这些线程通过使用put() 和 get() 操作来向队列中发送和获取元素。

同样，对于queue，我们也只需要掌握几个函数即可。

from queue import queue
# maxsize默认为0，不受限
# 一旦>0，而消息数又达到限制，q.put()也将阻塞
q = queue(maxsize=0)

# 默认阻塞程序，等待队列消息，可设置超时时间
q.get(block=true, timeout=none)

# 发送消息：默认会阻塞程序至队列中有空闲位置放入数据
q.put(item, block=true, timeout=none)

# 等待所有的消息都被消费完
q.join()

# 通知队列任务处理已经完成，当所有任务都处理完成时，join() 阻塞将会解除
q.task_done()

以下三个方法，知道就好，一般不需要使用

# 查询当前队列的消息个数
q.qsize()

# 队列消息是否都被消费完，返回 true/false
q.empty()

# 检测队列里消息是否已满
q.full()

函数会比之前的多一些，同时也从另一方面说明了其功能更加丰富。

我来举个老师点名的例子。

# coding=utf-8
# /usr/bin/env python

'''
author: wangbm
email: wongbingming@163.com
wechat: mrbensonwon
blog: python-online.cn
公众号：python编程时光
date: 2020/9/20 下午7:30
desc: 
'''
__author__ = 'wangbm'
from queue import queue
from threading import thread
import time
class student:
    def __init__(self, name):
        self.name = name

    def speak(self):
        print("{}：到！".format(self.name))

class teacher:
    def __init__(self, queue):
        super().__init__()
        self.queue=queue

    def call(self, student_name):
        if student_name == "exit":
            print("点名结束，开始上课..")
        else:
            print("老师：{}来了没？".format(student_name))
            # 发送消息，要点谁的名
        self.queue.put(student_name)

class callmanager(thread):
    def __init__(self, queue):
        super().__init__()
        self.students = {}
        self.queue = queue

    def put(self, student):
        self.students.setdefault(student.name, student)

    def run(self):
        while true:
            # 阻塞程序，时刻监听老师，接收消息
            student_name = queue.get()
            if student_name == "exit":
                break
            elif student_name in self.students:
                self.students[student_name].speak()
            else:
                print("老师，咱班，没有 {} 这个人".format(student_name))

queue = queue()
teacher = teacher(queue=queue)
s1 = student(name="小明")
s2 = student(name="小亮")
cm = callmanager(queue)
cm.put(s1)
cm.put(s2)
cm.start()
print('开始点名~')
teacher.call('小明')
time.sleep(1)
teacher.call('小亮')
time.sleep(1)
teacher.call("exit")

运行结果如下

开始点名~
老师：小明来了没？
小明：到！
老师：小亮来了没？
小亮：到！
点名结束，开始上课..

其实 queue 还有一个很重要的方法，queue.task_done()

如果不明白它的原理，我们在写程序，就很有可能卡死。

当我们使用 queue.get() 从队列取出数据后，这个数据有没有被正常消费，是很重要的。

如果数据没有被正常消费，那么queue会认为这个任务还在执行中，此时你使用 queue.join() 会一直阻塞，即使此时你的队列里已经没有消息了。

那么如何解决这种一直阻塞的问题呢？

就是在我们正常消费完数据后，记得调用一下 queue.task_done()，说明队列这个任务已经结束了。

当队列内部的任务计数器归于零时，调用 queue.join() 就不会再阻塞了。

要理解这个过程，请参考 http://python.iswbm.com/en/latest/c02/c02_06.html 里自定义线程池的的例子。

4 总结一下

学习了以上三种通信方法，我们很容易就能发现event 和 condition 是threading模块原生提供的模块，原理简单，功能单一，它能发送 true 和 false 的指令，所以只能适用于某些简单的场景中。

而queue则是比较高级的模块，它可能发送任何类型的消息，包括字符串、字典等。其内部实现其实也引用了condition模块（譬如put和get函数的阻塞），正是其对condition进行了功能扩展，所以功能更加丰富，更能满足实际应用。

以上就是python并发编程线程消息通信机制详解的详细内容，更多关于python并发线程消息通信机制的资料请关注www.887551.com其它相关文章！

黄山市民网：https://www.huangshanshimin.com/

目录

1 event事件

2 condition

3 queue队列

4 总结一下

相关文章