龙卷风阻塞异步请求(Tornado blocking asynchronous requests)

2019-07-02 12:21发布

使用龙卷风,我有一个Get请求需要较长的时间,因为它使许多请求到其他Web服务和处理数据,可能需要几分钟才能全部完成。 我不希望这从响应其他请求,它目前并阻止整个Web服务器。

据我了解,龙卷风是单线程和同步执行每个请求,即使它处理这些异步(仍是一头雾水对位)。 有漫长的过程,可能是停顿点,让服务器来处理其他请求的部分(可能的解决方案?)。 我有一个工人运行它在Heroku上,所以不知道如何转化为产生一个新的线程或多重,我都与蟒蛇没有经验。

这里是我想要做的事:客户端发出GET调用来启动进程,那么我通过循环另一个get调用每5秒检查状态,并用新信息更新页面(长轮询也将工作,但运行到同样的问题)。 问题是,在开始漫长的过程将阻止所有新的GET请求(或新的长轮询会话),直到它完成。

有一种简单的方法来揭开序幕这个长期get调用,并没有阻止它在这个过程中,整个Web服务器? 有什么我可以把代码中的说..“暂停,去处理挂起的请求,然后继续”?

我要发起ProcessHandler的GET请求。 然后我需要继续能够同时ProcessHandler运行查询StatusHandler。

例:

class StatusHandler(tornado.web.RequestHandler):
    @tornado.web.asynchronous
    def get(self):
       self.render("status.html")

class ProcessHandler(tornado.web.RequestHandler):
    @tornado.web.asynchronous
    def get(self):
       self.updateStatus("0")
       result1 = self.function1()
       self.updateStatus("1")
       result2 = self.function2(result1)
       self.updateStatus("2")
       result3 = self.function3(result2)
       self.updateStatus("3")
       self.finish()

Answer 1:

下面是一个使用了异步HTTP客户端和一个完整的示例应用程序龙卷风gen.Task模块,使事情变得简单。

如果你阅读更多关于gen.Task在文档中,你会看到,实际上你可以派遣在同一时间多个请求。 这里一切都没有阻止,仍然保持一个单一的过程,这是使用龙卷风的核心理念。

更新:我添加了一个线程处理程序,以证明你怎么可以派遣工作纳入第二个线程和接收callback()时,它的完成。

import os
import threading
import tornado.options
import tornado.ioloop
import tornado.httpserver
import tornado.httpclient
import tornado.web
from tornado import gen
from tornado.web import asynchronous

tornado.options.define('port', type=int, default=9000, help='server port number (default: 9000)')
tornado.options.define('debug', type=bool, default=False, help='run in debug mode with autoreload (default: False)')

class Worker(threading.Thread):
   def __init__(self, callback=None, *args, **kwargs):
        super(Worker, self).__init__(*args, **kwargs)
        self.callback = callback

   def run(self):
        import time
        time.sleep(10)
        self.callback('DONE')

class Application(tornado.web.Application):
    def __init__(self):
        handlers = [
            (r"/", IndexHandler),
            (r"/thread", ThreadHandler),
        ]
        settings = dict(
            static_path = os.path.join(os.path.dirname(__file__), "static"),
            template_path = os.path.join(os.path.dirname(__file__), "templates"),
            debug = tornado.options.options.debug,
        )
        tornado.web.Application.__init__(self, handlers, **settings)

class IndexHandler(tornado.web.RequestHandler):
    client = tornado.httpclient.AsyncHTTPClient()

    @asynchronous
    @gen.engine
    def get(self):
        response = yield gen.Task(self.client.fetch, "http://google.com")

        self.finish("Google's homepage is %d bytes long" % len(response.body))

class ThreadHandler(tornado.web.RequestHandler):
    @asynchronous
    def get(self):
        Worker(self.worker_done).start()

    def worker_done(self, value):
        self.finish(value)

def main():
    tornado.options.parse_command_line()
    http_server = tornado.httpserver.HTTPServer(Application())
    http_server.listen(tornado.options.options.port)
    tornado.ioloop.IOLoop.instance().start()

if __name__ == "__main__":
    main()


Answer 2:

koblas的解决方案是巨大的。 下面是利用的替代tornado.gen

import tornado.ioloop
import tornado.web
import tornado.gen
import tornado.concurrent
import time
from threading import Thread
from functools import wraps

def run_async(func):
  @wraps(func)
  def async_func(*args, **kwargs):
    func_hl = Thread(target = func, args = args, kwargs = kwargs)
    func_hl.start()
    return func_hl

  return async_func

@run_async
def sleeper(callback):
  i = 0
  while i <= 10:
    print i
    time.sleep(1)
    i += 1
  callback('DONE')


class MainHandler(tornado.web.RequestHandler):
    @tornado.web.asynchronous
    @tornado.gen.coroutine
    def get(self):
        response = yield tornado.gen.Task(sleeper)
        self.write(response)
        self.finish()

class OtherHandler(tornado.web.RequestHandler):
    def get(self):
        self.write('hello world')
        print 'in other'
        self.finish()


文章来源: Tornado blocking asynchronous requests