https://blog.51cto.com/445153/2138832
Python3 异步编程实例篇
本篇主要内容：
- 启动一个线程
- 启动多线程
- 获取线程名字
- 让线程按顺序执行
- 给线程加上日志
- 线程类的实现
- 线程锁
- 多线程使用全局变量下锁的重要性
- 锁嵌套的问题
- 使用队列来存储线程数据
- 取得线程中的线果
- 多线程与非多线程性能对比
- 多线程与非多线程I/O操作
- 线程池的使用
一、用threading启动一个线程
示例代码：
#!/usr/bin/python3
import time
from threading import Thread
def countdown(n):
while n > 0:
print('倒数开始：', n)
n -= 1
time.sleep(1)
def main():
t = Thread(target=countdown, args=(5, )) # target=函数名，args=() 给target=的函数传参数，参数以元组形式传，如果只有一个，要加逗号
t.start() # 启动线程
if __name__ == '__main__':
main()
输出：
倒数开始： 5
倒数开始： 4
倒数开始： 3
倒数开始： 2
倒数开始： 1
二、启动多个线程
示例代码：
#!/usr/bin/python3
import time
from threading import Thread
def countdown(n, number):
while n > 0:
print(f'第{number}个线程，倒数开始：', n)
n -= 1
time.sleep(1)
def main():
for i in range(3):
t = Thread(target=countdown, args=(5, i+1))
t.start()
if __name__ == '__main__':
main()
输出：
第1个线程，倒数开始： 5
第2个线程，倒数开始： 5
第3个线程，倒数开始： 5
第3个线程，倒数开始： 4
第2个线程，倒数开始： 4
第1个线程，倒数开始： 4
第3个线程，倒数开始： 3
第2个线程，倒数开始： 3
第1个线程，倒数开始： 3
第1个线程，倒数开始： 2
第2个线程，倒数开始： 2
第3个线程，倒数开始： 2
第1个线程，倒数开始： 1
第2个线程，倒数开始： 1
第3个线程，倒数开始： 1
三、获取线程名字
示例代码：
#!/usr/bin/python3
import time
import threading
from threading import Thread
def countdown(n, number):
while n > 0:
print(f'第{number}个线程，倒数开始：', threading.current_thread().name, n)
n -= 1
time.sleep(1)
def main():
for i in range(3):
t = Thread(target=countdown, args=(5, i+1))
t.start()
if __name__ == '__main__':
main()
输出：
第1个线程，倒数开始： Thread-1 5
第2个线程，倒数开始： Thread-2 5
第3个线程，倒数开始： Thread-3 5
第1个线程，倒数开始： Thread-1 4
第2个线程，倒数开始： Thread-2 4
第3个线程，倒数开始： Thread-3 4
第1个线程，倒数开始： Thread-1 3
第2个线程，倒数开始： Thread-2 3
第3个线程，倒数开始： Thread-3 3
第3个线程，倒数开始： Thread-3 2
第2个线程，倒数开始： Thread-2 2
第1个线程，倒数开始： Thread-1 2
第3个线程，倒数开始： Thread-3 1
第2个线程，倒数开始： Thread-2 1
第1个线程，倒数开始： Thread-1 1
四、让线程按顺序执行
示例代码：
#!/usr/bin/python3
# 当前线程结束后再执行下一个
import time
import threading
from threading import Thread
def countdown(n, number):
while n > 0:
print(f'第{number}个线程，倒数开始：', threading.current_thread().name, n)
n -= 1
time.sleep(1)
def main():
for i in range(3):
t = Thread(target=countdown, args=(3, i+1))
t.start()
t.join() # waite until the thread terminates 前面线程结束之后再执行下一个
if __name__ == '__main__':
main()
输出：
第1个线程，倒数开始： Thread-13 3
第1个线程，倒数开始： Thread-13 2
第1个线程，倒数开始： Thread-13 1
第2个线程，倒数开始： Thread-14 3
第2个线程，倒数开始： Thread-14 2
第2个线程，倒数开始： Thread-14 1
第3个线程，倒数开始： Thread-15 3
第3个线程，倒数开始： Thread-15 2
第3个线程，倒数开始： Thread-15 1
五、给线程加上日志
示例代码：
#!/usr/bin/python3
import time
import logging
import threading
from threading import Thread
logging.basicConfig(
level=logging.DEBUG,
format='%(threadName)-10s: %(message)s',
) # format 中的 threadName 可以捕获到线程的名字，所以下边logging.debug()中不需要传入线程名
def countdown(n, number):
while n > 0:
# print(f'{threading.current_thread().name}-倒数开始：', n)
logging.debug(f'倒数开始：{n}')
n -= 1
time.sleep(1)
def main():
thread_list = []
logging.debug('start.....')
for i in range(3):
t = Thread(target=countdown, args=(3, i+1))
t.start()
thread_list.append(t) # 把线程放到列表中
for i in thread_list: # 终止列表中的线程
i.join()
logging.debug('end.....')
if __name__ == '__main__':
main()
输出：
MainThread: start.....
Thread-1 : 倒数开始：3
Thread-2 : 倒数开始：3
Thread-3 : 倒数开始：3
Thread-1 : 倒数开始：2
Thread-3 : 倒数开始：2
Thread-2 : 倒数开始：2
Thread-2 : 倒数开始：1
Thread-3 : 倒数开始：1
Thread-1 : 倒数开始：1
MainThread: end.....
六、线程类的实现
示例代码：
#!/usr/bin/python3
# 继承 Thread类，定义一个新类，初始化对象
import time
import logging
import threading
from threading import Thread
logging.basicConfig(
level=logging.DEBUG,
format='%(threadName)-10s: %(message)s',
) # format 中的 threadName 可以捕获到线程的名字，所以下边logging.debug()中不需要传入线程名
def countdown(n):
while n > 0:
# print(f'{threading.current_thread().name}-倒数开始：', n)
logging.debug(f'倒数开始：{n}')
n -= 1
time.sleep(1)
class MyThread(Thread):
def __init__(self, name, count):
Thread.__init__(self)
self.name = name
self.count = count
def run(self):
countdown(self.count)
def main():
thread_list = []
logging.debug('start.....')
for i in range(3):
t = MyThread(f'thread-{i+1}', 3)
t.start()
thread_list.append(t) # 把线程放到列表中
for i in thread_list: # 终止列表中的线程
i.join()
logging.debug('end.....')
if __name__ == '__main__':
main()
输出：
MainThread: start.....
thread-1 : 倒数开始：3
thread-2 : 倒数开始：3
thread-3 : 倒数开始：3
thread-3 : 倒数开始：2
thread-1 : 倒数开始：2
thread-2 : 倒数开始：2
thread-3 : 倒数开始：1
thread-2 : 倒数开始：1
thread-1 : 倒数开始：1
MainThread: end.....
七、线程锁
示例代码：
#!/usr/bin/python3
# 给线程加锁
import time
import logging
import threading
from threading import Thread
logging.basicConfig(
level=logging.DEBUG,
format='%(threadName)-10s: %(message)s',
) # format 中的 threadName 可以捕获到线程的名字，所以下边logging.debug()中不需要传入线程名
def countdown(n):
while n > 0:
logging.debug(f'倒数开始：{n}')
n -= 1
time.sleep(1)
class MyThread(Thread):
def __init__(self, name, count):
Thread.__init__(self)
self.name = name
self.count = count
def run(self):
try:
lock.acquire() # 获取锁
logging.debug('lock....')
countdown(self.count)
finally:
lock.release()
logging.debug('open again')
lock = threading.Lock() # 新建一个锁
def main():
thread_list = []
logging.debug('start.....')
for i in range(3):
t = MyThread(f'thread-{i+1}', 3)
t.start()
thread_list.append(t) # 把线程放到列表中
for i in thread_list: # 终止列表中的线程
i.join()
logging.debug('end.....')
if __name__ == '__main__':
main()
输出：
MainThread: start.....
thread-1 : lock....
thread-1 : 倒数开始：3
thread-1 : 倒数开始：2
thread-1 : 倒数开始：1
thread-1 : open again
thread-2 : lock....
thread-2 : 倒数开始：3
thread-2 : 倒数开始：2
thread-2 : 倒数开始：1
thread-2 : open again
thread-3 : lock....
thread-3 : 倒数开始：3
thread-3 : 倒数开始：2
thread-3 : 倒数开始：1
thread-3 : open again
MainThread: end.....
八、多线程使用全局变量下锁的重要性
示例代码：
#!/usr/bin/python3
# 防止多个线程同时操作同一个变量
# 锁，多线程修改全局变量
# 执行时，后边加线程个数；例如python xxx.py 5
import time
import logging
import threading
import random
import sys
from threading import Thread
logging.basicConfig(
level=logging.DEBUG,
format='%(threadName)-10s: %(message)s',
) # format 中的 threadName 可以捕获到线程的名字，所以下边logging.debug()中不需要传入线程名
def countdown(n):
while n > 0:
# print(f'{threading.current_thread().name}-倒数开始：', n)
logging.debug(f'倒数开始：{n}')
n -= 1
time.sleep(1)
class MyThread(Thread):
def __init__(self, name, count):
Thread.__init__(self)
self.name = name
self.count = count
def run(self):
try:
lock.acquire() # 获取锁
logging.debug('lock....')
countdown(self.count)
finally:
lock.release()
logging.debug('open again')
lock = threading.Lock() # 新建一个锁
TOTAL = 0
def add_plus():
global TOTAL
with lock: # 锁的新用法，用完之后可以自动关闭
logging.debug(f'before add:{TOTAL}')
wait = random.randint(1, 3)
time.sleep(wait)
print(f'执行了{wait}s之后。。。')
TOTAL += 1
logging.debug(f'after add:{TOTAL}')
def main():
thread_list = []
logging.debug('start.....')
for i in range(int(sys.argv[1])):
t = Thread(target=add_plus)
t.start()
thread_list.append(t) # 把线程放到列表中
for i in thread_list: # 终止列表中的线程
i.join()
logging.debug('end.....')
if __name__ == '__main__':
main()
输出：
MainThread: start.....
Thread-1 : before add:0
执行了3s之后。。。
Thread-1 : after add:1
Thread-2 : before add:1
执行了2s之后。。。
Thread-2 : after add:2
Thread-3 : before add:2
执行了1s之后。。。
Thread-3 : after add:3
Thread-4 : before add:3
执行了2s之后。。。
Thread-4 : after add:4
Thread-5 : before add:4
执行了3s之后。。。
Thread-5 : after add:5
MainThread: end.....
九、锁嵌套的问题
常规情况下出现锁嵌套，程序会卡住
这里用RLock
示例代码：
#!/usr/bin/python3
# 出现锁嵌套时，要用threading.RLock建立锁，否则程序会出问题
import time
import logging
import threading
import random
import sys
from threading import Thread
logging.basicConfig(
level=logging.DEBUG,
format='%(threadName)-10s: %(message)s',
) # format 中的 threadName 可以捕获到线程的名字，所以下边logging.debug()中不需要传入线程名
def countdown(n):
while n > 0:
logging.debug(f'倒数开始：{n}')
n -= 1
time.sleep(1)
class MyThread(Thread):
def __init__(self, name, count):
Thread.__init__(self)
self.name = name
self.count = count
def run(self):
try:
lock.acquire() # 获取锁
logging.debug('lock....')
countdown(self.count)
finally:
lock.release()
logging.debug('open again')
# lock = threading.Lock() # 新建一个锁
lock = threading.RLock() # 可以用于锁嵌套
TOTAL = 0
def add_plus_3():
global TOTAL
with lock:
TOTAL += 3
def add_plus():
global TOTAL
with lock: # 锁的新用法，用完之后可以自动关闭
logging.debug(f'before add:{TOTAL}')
wait = random.randint(1, 3)
time.sleep(wait)
print(f'执行了{wait}s之后。。。')
TOTAL += 1
logging.debug(f'after add:{TOTAL}')
add_plus_3()
def main():
thread_list = []
logging.debug('start.....')
for i in range(int(sys.argv[1])):
t = Thread(target=add_plus)
t.start()
thread_list.append(t) # 把线程放到列表中
for i in thread_list: # 终止列表中的线程
i.join()
logging.debug('end.....')
if __name__ == '__main__':
main()
输出：
MainThread: start.....
Thread-1 : before add:0
执行了3s之后。。。
Thread-1 : after add:1
Thread-2 : before add:4
执行了3s之后。。。
Thread-2 : after add:5
Thread-3 : before add:8
执行了3s之后。。。
Thread-3 : after add:9
Thread-4 : before add:12
执行了2s之后。。。
Thread-4 : after add:13
Thread-5 : before add:16
执行了3s之后。。。
Thread-5 : after add:17
MainThread: end.....
十、使用队列来存储线程数据
队列queue，先时先出的读写规则
示例代码：
#!/usr/bin/python3
from queue import Queue
q = Queue()
q.put(1)
q.put(2)
q.put(3)
q.get(block=False) # 加上block=False防止取完所有之后卡住
q.get(block=False)
q.get(block=False)
输出：
1
2
3
十一、取得线程中的线果
示例代码：
# 取得线程中的结果
from queue import Queue # 用队列来保存线程的结果，先进先出
from threading import Thread
q_result = Queue() # 新建一个队列对象
str_list = ['1', '3', '6', '8']
def str_to_int(arg, queue):
result = int(arg) # 将列表中的字符串转换成数字
queue.put({arg: result})
def main():
thread_list = []
for s in str_list:
t = Thread(target=str_to_int, args=(s, q_result))
t.start()
thread_list.append(t)
for i in thread_list:
i.join()
return [q_result.get() for _ in range(len(str_list))] # 列表生成式，等同于上边的for循环
if __name__ == '__main__':
print(main()) # 打印main()中的return 内容
输出：
[{'1': 1}, {'3': 3}, {'6': 6}, {'8': 8}]
十二、多线程与非多线程性能对比
测试多线程与非多线程性能
示例代码：
#!/usr/bin/python3
# 多线程与非多线程时间对比
# 测试多线程是否适合I/O密集型，用时间加减来检测多线程与非多线程
import time
from queue import Queue # 用队列来保存线程的结果，先进先出
from threading import Thread
q_result = Queue() # 新建一个队列对象
str_list = ['1', '3', '6', '8']
def str_to_int(arg, queue):
result = int(arg)
queue.put({arg: result})
def with_thread():
thread_list = []
start_time = time.time()
for s in str_list:
t = Thread(target=str_to_int, args=(s, q_result))
t.start()
thread_list.append(t)
for i in thread_list:
i.join()
print('with thread:', (time.time() - start_time) * 1000) # 显示毫秒
return [q_result.get() for _ in range(len(str_list))]
def no_thread():
start_time = time.time()
q = Queue()
for s in str_list:
str_to_int(s, q)
print('no thread:', (time.time() - start_time) * 1000) # 显示毫秒
return [q.get() for _ in range(len(str_list))]
def main():
no_thread()
with_thread()
if __name__ == '__main__':
main()
输出：
no thread: 0.0
with thread: 1.996755599975586
十三、多线程与非多线程I/O操作
对比I/O操作时，多线程与非多线程的性能
示例代码：
# 用I/O操作来检测多线程与非多线程处理任务所花的时间
# 测试多线程是否适合I/O密集型，用时间加减来检测多线程与非多线程
#!/usr/bin/python3
import time
from queue import Queue # 用队列来保存线程的结果，先进先出
from threading import Thread
import requests
q_result = Queue() # 新建一个队列对象
urls = [
"http://www.baidu.com",
"http://www.qq.com",
"http://www.360.com",
"http://www.baidu.com",
"http://www.qq.com",
"http://www.360.com",
"http://www.baidu.com",
"http://www.qq.com",
"http://www.360.com",
]
def get_page(url, queue):
result = requests.get(url).content # 获取页面内容
queue.put(result[:10]) # 保存前10个字符
with open('utl.txt', 'ab') as f:
f.write(result[:100])
def with_thread():
thread_list = []
start_time = time.time()
for s in urls:
t = Thread(target=get_page, args=(s, q_result))
t.start()
thread_list.append(t)
for i in thread_list:
i.join()
print('with thread:', (time.time() - start_time) * 1000) # 显示毫秒
return [q_result.get() for _ in range(len(urls))]
def no_thread():
start_time = time.time()
q = Queue()
for s in urls:
get_page(s, q)
print('no thread:', (time.time() - start_time) * 1000) # 显示毫秒
return [q.get() for _ in range(len(urls))]
def main():
print(no_thread()) # 打印return的内容
print(with_thread())
if __name__ == '__main__':
main()
输出：
no thread: 1418.3428287506104
[b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!Doctype ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!Doctype ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!Doctype ']
with thread: 346.4798927307129
[b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!DOCTYPE ', b'<!Doctype ', b'<!Doctype ', b'<!Doctype ']PS D:\python\project>
十四、线程池的使用
示例代码：
#!/usr/bin/python3
from concurrent.futures import ThreadPoolExecutor, as_completed
import logging
import requests
urls = [
"http://www.baidu.com",
"http://www.qq.com",
"http://www.360.com",
"http://www.baidu.com",
"http://www.qq.com",
"http://www.360.com",
"http://www.baidu.com",
"http://www.qq.com",
"http://www.360.com",
]
logging.basicConfig(
level=logging.DEBUG,
format='%(threadName)-10s: %(message)s',
)
def download(url):
r = requests.get(url)
return url, r.status_code
def main():
with ThreadPoolExecutor(5, thread_name_prefix='yhyang') as executor:
# 创建一个5个线程的池
# 方法1：
# futures = [executor.submit(download, url) for url in urls]
# submit 返回一个future对象，futures值为一个包含多个future对象的列表
# for future in as_completed(futures):
# # as_completed(futures) 得到一个可迭代的对象
# try:
# print(future.result())
# except Exception as e:
# print(e)
# 方法2：map() 是对方法1中submit()的一个封装，简化了使用方法
futures_result = executor.map(download, urls, timeout=30)
for future in futures_result:
try:
print(future)
except Exception as e:
print(e)
if __name__ == '__main__':
main()
输出：
yhyang_0 : Starting new HTTP connection (1): www.baidu.com
yhyang_1 : Starting new HTTP connection (1): www.qq.com
yhyang_2 : Starting new HTTP connection (1): www.360.com
yhyang_3 : Starting new HTTP connection (1): www.baidu.com
yhyang_4 : Starting new HTTP connection (1): www.qq.comyhyang_0 : http://www.baidu.com:80 "GET / HTTP/1.1" 200 None
('http://www.baidu.com', 200)
yhyang_0 : Starting new HTTP connection (1): www.360.com
yhyang_1 : http://www.qq.com:80 "GET / HTTP/1.1" 200 None
yhyang_3 : http://www.baidu.com:80 "GET / HTTP/1.1" 200 Noneyhyang_3 : Starting new HTTP connection (1): www.baidu.com
yhyang_4 : http://www.qq.com:80 "GET / HTTP/1.1" 200 None
('http://www.qq.com', 200)
yhyang_1 : Starting new HTTP connection (1): www.qq.com
yhyang_3 : http://www.baidu.com:80 "GET / HTTP/1.1" 200 None
yhyang_2 : http://www.360.com:80 "GET / HTTP/1.1" 301 178
yhyang_3 : Starting new HTTP connection (1): www.360.com
yhyang_2 : Starting new HTTPS connection (1): www.360.cn
yhyang_0 : http://www.360.com:80 "GET / HTTP/1.1" 301 178
yhyang_0 : Starting new HTTPS connection (1): www.360.cn
yhyang_1 : http://www.qq.com:80 "GET / HTTP/1.1" 200 None
yhyang_3 : http://www.360.com:80 "GET / HTTP/1.1" 301 178
yhyang_3 : Starting new HTTPS connection (1): www.360.cn
yhyang_0 : https://www.360.cn:443 "GET / HTTP/1.1" 200 None
yhyang_3 : https://www.360.cn:443 "GET / HTTP/1.1" 200 None
yhyang_2 : https://www.360.cn:443 "GET / HTTP/1.1" 200 None
('http://www.360.com', 200)
('http://www.baidu.com', 200)
('http://www.qq.com', 200)
('http://www.360.com', 200)
('http://www.baidu.com', 200)
('http://www.qq.com', 200)
('http://www.360.com', 200)
