-
进程
参考教程廖雪峰
一个进程至少有一个线程
线程是最小的执行单位
多进程和多线程都是都属于并发的具体执行
-
os.pork()
只适用于Unix/Linux系统,Windows系统无法使用
-
multiprocessing(创建新的单进程)
from multiprocessing import Process
import os
# 定义一个进程执行的函数
# os.getpid()获得当前进程的id
def run_proc(name):
print('Child Process %s (%s)' % (name, os.getpid())
if __name__ == '__main__':
print('Parent process (%s)' % os.getpid())
# 创建一个进程,第一个参数是该进程将执行的函数,第二个参数是执行函数所需参数
p = Process(target=run_proc, args=('test',))
print('Child process will start.')
# start()方法启动新建的进程
p.start()
# join()方法可以等待进程结束后在继续向后运行(通常用于进程之间的同步)
p.join()
print('Child process end.')
# 执行结果
Parent process 928.
Process will start.
Child Process test (929)...
Process end.
-
multiprocessing(批量创建进程)
form multiprocessing import Pool
# 定义进程执行的函数
def process_task():
pass
if __name__ == '__main__':
# 创建进程池,参数n同时执行的进程数量(默认为CPU核数)
p = Pool(n)
# 若m > n,则会出现部分进程需要等待其它进程结束的情况
for i in range(m):
# 初始化每个进程
p.apply_async(process_task, args=())
# 调用join()之前必须先调用close(),因为调用close()之后就不能添加新的进程了
p.close()
p.join()
4. #####Queue(进程间通信)
```python
from multiprocessing import Queue
# 创建一个Queue对象
q = Queue()
# put()方法用于写入通信信息
q.put()
# get()方法用于读取通信信息
q.get()
-
线程
-
threading模块
import threading
# 创建新线程,第一个参数表示子线程将执行的任务(函数),第二个参数是对该子线程的命名(默认为'Thread-1', 'Thread-2'...)
# 注意脚本在运行时表示已经开始启动了一个(主)线程(MainThread),因此,在脚本中创建的线程都属于子线程
t = threading.Thread(target = tartget_func, name='thread_name')
# threading.current_thread()返回当前线程实例
threading.current_thread().name
-
Lock
多线程同多进程最大的不同在于:
- 多进程中的同名变量(同一个变量)在每个进程中都有自己的拷贝,因此互不影响
- 多线程中的所有变量都被共享,因此任何一个变量都会被任意一个线程修改,从而影响其他线程的执行
为了确保某一线程在执行过程中变量不会被其他线程修改,可以对当前线程进行上锁,直到该线程执行结束,锁被释放后,其他线程方可以访问变量
# 创建一个锁
lock = threading.Lock()
# 对一个任务上锁
lock.acuqire()
# 释放锁
lock.release()
# 一定要确保锁的释放,否则会造成死锁
使用锁虽然能够确保代码的完整执行,但这样一来就相当于单线程执行任务,使得效率大打折扣,且容易造成死锁
-
GIL(Global Interpreter Lock,全局解释锁)
python代码在执行时,会自动对任务施加一个GIL;因此多线程在python上只能交替执行
-
collections.Counter
from collections import Counter
c = Counter()
c['a'] += 1
# 上述表达式是成立的,即在Counter()对象中新增加一个键,若不指定其value,Counter会默认value为0(类似于c = defaultdict(lambda: 0))
-
contextlib(上下文管理模块)
上下文管理协议:实现__ enter__和__ exit__方法
实现上下文管理协议的对象就可以使用with...as...语句了
不过具体实现上下文管理协议是比较麻烦的,python的contextlib库中提供的contextmanager装饰器可以将一个生成器函数装饰成为一个可以用于with...as...语句中的对象
from contextlib import contextmanager
class A:
def __init__(self):
pass
def method(self):
pass
@ contextmanager
def func():
a = A()
# 在使用with...as...时,yield语句将作为as后变量指向的对象
yield a
# 可以在yield语句前后编写代码,以实现预处理/后期处理
with func() as a:
a.method()
若一个对象没有实现上下文协议,可以通过contextlib中closing函数将其变为上下文对象
from contextlib import closing
with closing(obj_not_context) as cont:
cont.method()
# closing函数本质上是一个通过contextmanager装饰的生成器
@contextmanager
def closing(obj):
try:
yield obj
finally:
obj.close()
# clonsing()的对象是希望不管发生什么状况最终总会关闭的对象