tornado中使用celery实现异步MySQL操作

来源:互联网 发布:淘宝什么时候能买彩票 编辑:程序博客网 时间:2024/06/04 17:46

celery   :http://docs.jinkan.org/docs/celery/getting-started/brokers/django.html


tornado-celery 是基于celery的tornado客户端,通过tornado-celery可以将耗时任务加入到任务队列中处理,在celery中创建任务,tornado中就可以像调用AsyncHttpClient一样调用这些任务。

使用celery需要选择一种broker(中间人)进行消息的接受和发送,中间人通常作为一种独立的服务,常用的broker又RabbitMQ、Redis以及MongoDB等。

RabbitMQ 是AMPQ高级消息队列协议的实现,是使用最广泛的消息系统,因为tornado-celery中使用redis无法使用callback,建议使用RabbitMQ作为broker。

下面是准备工作

  • 安装tornado、celery、tornado-celery

  • 安装RabbitMQ
    mac上使用brew安装该服务程序

    brew install rabbitmq
  • 启动rabbitmq-server

    sudo rabbitmq-server -detached

准备工作完成后就可以编码了

  • 创建tasks.py

    celery = Celery('tasks', broker='amqp://')celery.conf.CELERY_RESULT_BACKEND = os.environ.get('CELERY_RESULT_BACKEND', 'amqp')@celery.task(name='task.query_users')def query_users(admin_id):    # 耗时的数据库操作    return db.query_all_users(admin_id)
  •  运行tasks.py

    python tasks.py worker --loglevel=info
  • 创建handler

    import tcelery    tcelery.setup_nonblocking_producer()    from tasks import query_users        calss Users(RequestHandler):        @asynchronous        def get():            # 参数通过args的list传递,回调通过callback指定            query_users.apply_async(args=[admin_id], callback=self.on_success)        def on_success(self, response):            # 获取返回的结果            users = response.result            self.write(users)            self.finish()

这样,query_users的请求就变成异步非阻塞的了,同理,其他的耗时操作可以放到task中供tornado的请求调用。

0 0
原创粉丝点击