< 笔记 > Python

18 Python 异步IO

By Kevin Song

• 18-01 协程
• 18-02 asyncio
• 18-03 async/await
• 18-04 aiohttp

CPU运行快，IO设备龟速，导致：

• 同步IO：IO设备慢慢读写，CPU等待
  
  • 多进程/多线程：提升效率，但是不能无限增加线程，切换线程开销大，效率低
• 异步IO：IO设备慢慢读写，CPU不等待，直接执行其他代码。IO返回结果时，通知CPU处理

传统读写文件：无法实现异步IO

do_some_code()f = open('/path/to/file', 'r')r = f.read() # <== 线程停在此处等待IO操作结果# IO操作完成后线程才能继续执行:do_some_code(r)

消息循环：实现异步IO

loop = get_event_loop()while True:    event = loop.get_event()    process_event(event)

消息循环中，主线程不断地重复“读取消息-处理消息”这一过程

停止响应

GUI程序使用消息模型：键盘、鼠标等消息都被发送到GUI程序的消息队列中，然后由GUI程序的主线程处理。GUI线程在一个消息处理的过程中遇到问题导致一次消息处理时间过长，整个GUI程序停止响应了，敲键盘、点鼠标都没有反应

消息模型

1. 代码中遇到IO操作
2. 代码发出IO请求，
   
   1. 不等待IO结果
   2. 直接结束本轮消息处理
   3. 进入下一轮消息处理过程
3. IO操作完成后，CPU收到IO完成消息，直接获取IO操作结果

异步IO优点：一个线程就可以同时处理多个IO请求，不用切换线程，IO密集型的应用程序，使用异步IO将大大提升系统的多任务处理能力

18-01 协程（Coroutine）

定义：执行过程中，在子程序内部可中断，然后转而执行别的子程序，在适当的时候再返回来接着执行

def A():    print('1')    print('2')    print('3')def B():    print('x')    print('y')    print('z')

协程执行，在执行A的过程中，可以随时中断，去执行B，B也可能在执行过程中中断再去执行A：

12xy3z

有点像多线程，不同的是协程是一个线程执行，优点

• 极高的执行效率：子程序切换不是线程切换，没有线程切换的开销
• 不需要多线程的锁机制，只有一个线程，不存在同时写变量冲突

发挥多核最大性能：多进程+协程（充分利用多核，又充分发挥协程的高效率）

generator实现协程

示例：协程实现生产者-消费者模型

生产者生产消息后，直接通过yield跳转到消费者开始执行，待消费者执行完毕后，切换回生产者继续生产，效率极高：def consumer():    r = ''    while True:        n = yield r        if not n:            return        print('[CONSUMER] Consuming %s...' % n)        r = '200 OK'def produce(c):    c.send(None)    n = 0    while n < 5:        n = n + 1        print('[PRODUCER] Producing %s...' % n)        r = c.send(n)        print('[PRODUCER] Consumer return: %s' % r)    c.close()c = consumer()produce(c)

执行结果：

[PRODUCER] Producing 1...[CONSUMER] Consuming 1...[PRODUCER] Consumer return: 200 OK[PRODUCER] Producing 2...[CONSUMER] Consuming 2...[PRODUCER] Consumer return: 200 OK[PRODUCER] Producing 3...[CONSUMER] Consuming 3...[PRODUCER] Consumer return: 200 OK[PRODUCER] Producing 4...[CONSUMER] Consuming 4...[PRODUCER] Consumer return: 200 OK[PRODUCER] Producing 5...[CONSUMER] Consuming 5...[PRODUCER] Consumer return: 200 OK

consumer函数是一个generator，把一个consumer传入produce后：

1. 首先调用c.send(None)启动生成器
2. 然后，一旦生产了东西，通过c.send(n)切换到consumer执行
3. consumer通过yield拿到消息，处理，又通过yield把结果传回
4. produce拿到consumer处理的结果，继续生产下一条消息
5. produce决定不生产了，通过c.close()关闭consumer，整个过程结束

整个流程无锁，由一个线程执行，produce和consumer协作完成任务，所以称为“协程”，而非线程的抢占式多任务

18-02 asyncio

内置异步IO支持库

import [e-mail] hello():    print("Hello world!")    # 异步调用asyncio.sleep(1):    r = yield from asyncio.sleep(1)    print("Hello again!")# 获取EventLoop:loop = asyncio.get_event_loop()# 执行coroutineloop.run_until_complete(hello())loop.close()

• @asyncio.coroutine把一个generator标记为coroutine类型
• 然后把这个coroutine扔到EventLoop中执行

运行流程

1. hello()首先打印出Hello world!
2. yield from语法可以让我们方便地调用另一个generator
3. asyncio.sleep()也是一个coroutine，所以线程不会等待asyncio.sleep()，而是直接中断并执行下一个消息循环
4. 当耗时1秒的IO操作asyncio.sleep()返回时，线程就可以从yield from拿到返回值（此处是None），然后接着执行下一行语句

用Task封装两个coroutine：

import threadingimport [e-mail] hello():    print('Hello world! (%s)' % threading.currentThread())    yield from asyncio.sleep(1)    print('Hello again! (%s)' % threading.currentThread())loop = asyncio.get_event_loop()tasks = [hello(), hello()]loop.run_until_complete(asyncio.wait(tasks))loop.close()

观察执行过程：

Hello world! (<_MainThread(MainThread, started 140735195337472)>)Hello world! (<_MainThread(MainThread, started 140735195337472)>)(暂停约1秒)Hello again! (<_MainThread(MainThread, started 140735195337472)>)Hello again! (<_MainThread(MainThread, started 140735195337472)>)

两个coroutine是由同一个线程并发执行的

如果把asyncio.sleep()换成真正的IO操作，则多个coroutine就可以由一个线程并发执行

用asyncio的异步网络连接来获取sina、sohu和163的网站首页：

import [e-mail] wget(host):    print('wget %s...' % host)    connect = asyncio.open_connection(host, 80)    reader, writer = yield from connect    header = 'GET / HTTP/1.0\r\nHost: %s\r\n\r\n' % host    writer.write(header.encode('utf-8'))    yield from writer.drain()    while True:        line = yield from reader.readline()        if line == b'\r\n':            break        print('%s header > %s' % (host, line.decode('utf-8').rstrip()))    # Ignore the body, close the socket    writer.close()loop = asyncio.get_event_loop()tasks = [wget(host) for host in ['www.sina.com.cn', 'www.sohu.com', 'www.163.com']]loop.run_until_complete(asyncio.wait(tasks))loop.close()

执行结果如下：

wget www.sohu.com...wget www.sina.com.cn...wget www.163.com...(等待一段时间)(打印出sohu的header)www.sohu.com header > HTTP/1.1 200 OKwww.sohu.com header > Content-Type: text/html...(打印出sina的header)www.sina.com.cn header > HTTP/1.1 200 OKwww.sina.com.cn header > Date: Wed, 20 May 2015 04:56:33 GMT...(打印出163的header)www.163.com header > HTTP/1.0 302 Moved Temporarilywww.163.com header > Server: Cdn Cache Server V2.0...

18-03 async/await

用asyncio提供的@asyncio.coroutine可以把一个generator标记为coroutine类型，然后在coroutine内部用yield from调用另一个coroutine实现异步操作

为了简化并更好地标识异步IO，从Python 3.5开始引入了新的语法async和await，可以让coroutine的代码更简洁易读

两步简单的替换：
- 把@asyncio.coroutine替换为async
- 把yield from替换为await

原代码：

@asyncio.coroutinedef hello():    print("Hello world!")    r = yield from asyncio.sleep(1)    print("Hello again!")

用新语法重新编写如下：

async def hello():    print("Hello world!")    r = await asyncio.sleep(1)    print("Hello again!")

18-04 aiohttp

asyncio可以实现单线程并发IO操作

• 用在客户端，威力不大
• 用在服务端，血妈爆炸
  
  • HTTP连接（IO操作），所以可以用单线程+coroutine实现多用户的高并发支持

aiohttp

• asyncio实现了TCP、UDP、SSL等协议
• aiohttp是基于asyncio实现的HTTP框架

安装aiohttp：

pip install aiohttp

编写一个HTTP服务器，分别处理以下URL：

• \/ - 首页返回b\’\

  Index\

  ’
• \/hello/{name} - 根据URL参数返回文本hello, %s!

代码如下：

import asynciofrom aiohttp import webasync def index(request):    await asyncio.sleep(0.5)    return web.Response(body=b'<h1>Index</h1>')async def hello(request):    await asyncio.sleep(0.5)    text = '<h1>hello, %s!</h1>' % request.match_info['name']    return web.Response(body=text.encode('utf-8'))async def init(loop):    app = web.Application(loop=loop)    app.router.add_route('GET', '/', index)    app.router.add_route('GET', '/hello/{name}', hello)    srv = await loop.create_server(app.make_handler(), '127.0.0.1', 8000)    print('Server started at http://127.0.0.1:8000...')    return srvloop = asyncio.get_event_loop()loop.run_until_complete(init(loop))loop.run_forever()

注意：aiohttp的初始化函数init()也是一个coroutine，loop.create_server()则利用asyncio创建TCP服务