Servlet 3特性:异步Servlet

来源:互联网 发布:矩阵线阵音响 编辑:程序博客网 时间:2024/05/17 11:57

Servlet3是Tomcat7出现的新特性,所以需要先安装tomcat7

理解异步Servlet之前,让我们试着理解为什么需要它。假设我们有一个Servlet需要很多的时间来处理,类似下面的内容:

LongRunningServlet.java


[java] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. package com.journaldev.servlet;  
  2.    
  3. import java.io.IOException;  
  4. import java.io.PrintWriter;  
  5.    
  6. import javax.servlet.ServletException;  
  7. import javax.servlet.annotation.WebServlet;  
  8. import javax.servlet.http.HttpServlet;  
  9. import javax.servlet.http.HttpServletRequest;  
  10. import javax.servlet.http.HttpServletResponse;  
  11.    
  12. @WebServlet("/LongRunningServlet")  
  13. public class LongRunningServlet extends HttpServlet {  
  14.     private static final long serialVersionUID = 1L;  
  15.    
  16.     protected void doGet(HttpServletRequest request,  
  17.             HttpServletResponse response) throws ServletException, IOException {  
  18.         long startTime = System.currentTimeMillis();  
  19.         System.out.println("LongRunningServlet Start::Name="  
  20.                 + Thread.currentThread().getName() + "::ID="  
  21.                 + Thread.currentThread().getId());  
  22.    
  23.         String time = request.getParameter("time");  
  24.         int secs = Integer.valueOf(time);  
  25.         // max 10 seconds  
  26.         if (secs > 10000)  
  27.             secs = 10000;  
  28.    
  29.         longProcessing(secs);  
  30.    
  31.         PrintWriter out = response.getWriter();  
  32.         long endTime = System.currentTimeMillis();  
  33.         out.write("Processing done for " + secs + " milliseconds!!");  
  34.         System.out.println("LongRunningServlet Start::Name="  
  35.                 + Thread.currentThread().getName() + "::ID="  
  36.                 + Thread.currentThread().getId() + "::Time Taken="  
  37.                 + (endTime - startTime) + " ms.");  
  38.     }  
  39.    
  40.     private void longProcessing(int secs) {  
  41.         // wait for given time before finishing  
  42.         try {  
  43.             Thread.sleep(secs);  
  44.         } catch (InterruptedException e) {  
  45.             e.printStackTrace();  
  46.         }  
  47.     }  
  48.    
  49. }  

如果我们的URL是:http://localhost:8080/AsyncServletExample/LongRunningServlet?time=8000

得到响应为“Processing done for 8000 milliseconds! !“。现在,如果你会查看服务器日志,会得到以下记录:

[java] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. LongRunningServlet Start::Name=http-bio-8080-exec-34::ID=103  
  2. LongRunningServlet Start::Name=http-bio-8080-exec-34::ID=103::Time Taken=8002 ms.  

所以Servlet线程实际运行超过 8秒,尽管大多数时间用来处理其它Servlet请求或响应。

这可能导致线程饥饿——因为我们的Servlet线程被阻塞,直到所有的处理完成。如果服务器的请求得到了很多过程,它将达到最大Servlet线程限制和进一步的请求会拒绝连接错误。

Servlet 3.0之前,这些长期运行的线程容器特定的解决方案,我们可以产生一个单独的工作线程完成耗时的任务,然后返回响应客户。Servlet线程返回Servlet池后启动工作线程。Tomcat 的 Comet、WebLogic FutureResponseServlet 和 WebSphere Asynchronous Request Dispatcher都是实现异步处理的很好示例。

容器特定解决方案的问题在于,在不改变应用程序代码时不能移动到其他Servlet容器。这就是为什么在Servlet3.0提供标准的方式异步处理Servlet的同时增加异步Servlet支持。

实现异步Servlet

让我们看看步骤来实现异步Servlet,然后我们将提供异步支持Servlet上面的例子:

  1. 首先Servlet,我们提供异步支持 Annotation @WebServlet  的属性asyncSupported 值为true。
  2. 由于实际实现委托给另一个线程,我们应该有一个线程池实现。我们可以一个通过Executors framework 创建线程池和使用servlet context listener来初始化线程池。
  3. 通过ServletRequest.startAsync方法获取AsyncContext的实例。AsyncContext提供方法让ServletRequest和ServletResponse对象引用。它还提供了使用调度方法将请求转发到另一个 dispatch() 方法。
  4. 编写一个可运行的实现,我们将进行重处理,然后使用AsyncContext对象发送请求到另一个资源或使用ServletResponse编写响应对象。一旦处理完成,我们通过AsyncContext.complete()方法通知容器异步处理完成。
  5. 添加AsyncListener实现AsyncContext对象实现回调方法,我们可以使用它来提供错误响应客户端装进箱的错误或超时,而异步线程处理。在这里我们也可以做一些清理工作。

一旦我们将完成我们的项目对于异步Servlet示例,项目结构看起来会像下面的图片:

在监听中初始化线程池

[java] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. package com.journaldev.servlet.async;  
  2.    
  3. import java.util.concurrent.ArrayBlockingQueue;  
  4. import java.util.concurrent.ThreadPoolExecutor;  
  5. import java.util.concurrent.TimeUnit;  
  6.    
  7. import javax.servlet.ServletContextEvent;  
  8. import javax.servlet.ServletContextListener;  
  9. import javax.servlet.annotation.WebListener;  
  10.    
  11. @WebListener  
  12. public class AppContextListener implements ServletContextListener {  
  13.    
  14.     public void contextInitialized(ServletContextEvent servletContextEvent) {  
  15.    
  16.         // create the thread pool  
  17.         ThreadPoolExecutor executor = new ThreadPoolExecutor(100200, 50000L,  
  18.                 TimeUnit.MILLISECONDS, new ArrayBlockingQueue<Runnable>(100));  
  19.         servletContextEvent.getServletContext().setAttribute("executor",  
  20.                 executor);  
  21.    
  22.     }  
  23.    
  24.     public void contextDestroyed(ServletContextEvent servletContextEvent) {  
  25.         ThreadPoolExecutor executor = (ThreadPoolExecutor) servletContextEvent  
  26.                 .getServletContext().getAttribute("executor");  
  27.         executor.shutdown();  
  28.     }  
  29.    
  30. }  

实现很直接,如果你不熟悉ThreadPoolExecutor 框架请读线程池的ThreadPoolExecutor 。关于listeners 的更多细节,请阅读教程Servlet Listener

工作线程实现

[java] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. package com.journaldev.servlet.async;  
  2.    
  3. import java.io.IOException;  
  4. import java.io.PrintWriter;  
  5.    
  6. import javax.servlet.AsyncContext;  
  7.    
  8. public class AsyncRequestProcessor implements Runnable {  
  9.    
  10.     private AsyncContext asyncContext;  
  11.     private int secs;  
  12.    
  13.     public AsyncRequestProcessor() {  
  14.     }  
  15.    
  16.     public AsyncRequestProcessor(AsyncContext asyncCtx, int secs) {  
  17.         this.asyncContext = asyncCtx;  
  18.         this.secs = secs;  
  19.     }  
  20.    
  21.     @Override  
  22.     public void run() {  
  23.         System.out.println("Async Supported? "  
  24.                 + asyncContext.getRequest().isAsyncSupported());  
  25.         longProcessing(secs);  
  26.         try {  
  27.             PrintWriter out = asyncContext.getResponse().getWriter();  
  28.             out.write("Processing done for " + secs + " milliseconds!!");  
  29.         } catch (IOException e) {  
  30.             e.printStackTrace();  
  31.         }  
  32.         //complete the processing  
  33.         asyncContext.complete();  
  34.     }  
  35.    
  36.     private void longProcessing(int secs) {  
  37.         // wait for given time before finishing  
  38.         try {  
  39.             Thread.sleep(secs);  
  40.         } catch (InterruptedException e) {  
  41.             e.printStackTrace();  
  42.         }  
  43.     }  
  44. }  

注意:在请求和响应时使用AsyncContext对象,然后在完成时调用 asyncContext.complete() 方法。

AsyncListener 实现

[java] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. package com.journaldev.servlet.async;  
  2.    
  3. import java.io.IOException;  
  4. import java.io.PrintWriter;  
  5.    
  6. import javax.servlet.AsyncEvent;  
  7. import javax.servlet.AsyncListener;  
  8. import javax.servlet.ServletResponse;  
  9. import javax.servlet.annotation.WebListener;  
  10.    
  11. @WebListener  
  12. public class AppAsyncListener implements AsyncListener {  
  13.    
  14.     @Override  
  15.     public void onComplete(AsyncEvent asyncEvent) throws IOException {  
  16.         System.out.println("AppAsyncListener onComplete");  
  17.         // we can do resource cleanup activity here  
  18.     }  
  19.    
  20.     @Override  
  21.     public void onError(AsyncEvent asyncEvent) throws IOException {  
  22.         System.out.println("AppAsyncListener onError");  
  23.         //we can return error response to client  
  24.     }  
  25.    
  26.     @Override  
  27.     public void onStartAsync(AsyncEvent asyncEvent) throws IOException {  
  28.         System.out.println("AppAsyncListener onStartAsync");  
  29.         //we can log the event here  
  30.     }  
  31.    
  32.     @Override  
  33.     public void onTimeout(AsyncEvent asyncEvent) throws IOException {  
  34.         System.out.println("AppAsyncListener onTimeout");  
  35.         //we can send appropriate response to client  
  36.         ServletResponse response = asyncEvent.getAsyncContext().getResponse();  
  37.         PrintWriter out = response.getWriter();  
  38.         out.write("TimeOut Error in Processing");  
  39.     }  
  40.    
  41. }  

通知的实现在 Timeout()方法,通过它发送超时响应给客户端。

Async Servlet 实现

这是我们的异步Servlet实现,注意使用AsyncContext和ThreadPoolExecutor进行处理。

[java] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. package com.journaldev.servlet.async;  
  2.    
  3. import java.io.IOException;  
  4. import java.util.concurrent.ThreadPoolExecutor;  
  5.    
  6. import javax.servlet.AsyncContext;  
  7. import javax.servlet.ServletException;  
  8. import javax.servlet.annotation.WebServlet;  
  9. import javax.servlet.http.HttpServlet;  
  10. import javax.servlet.http.HttpServletRequest;  
  11. import javax.servlet.http.HttpServletResponse;  
  12.    
  13. @WebServlet(urlPatterns = "/AsyncLongRunningServlet", asyncSupported = true)  
  14. public class AsyncLongRunningServlet extends HttpServlet {  
  15.     private static final long serialVersionUID = 1L;  
  16.    
  17.     protected void doGet(HttpServletRequest request,  
  18.             HttpServletResponse response) throws ServletException, IOException {  
  19.         long startTime = System.currentTimeMillis();  
  20.         System.out.println("AsyncLongRunningServlet Start::Name="  
  21.                 + Thread.currentThread().getName() + "::ID="  
  22.                 + Thread.currentThread().getId());  
  23.    
  24.         request.setAttribute("org.apache.catalina.ASYNC_SUPPORTED"true);  
  25.    
  26.         String time = request.getParameter("time");  
  27.         int secs = Integer.valueOf(time);  
  28.         // max 10 seconds  
  29.         if (secs > 10000)  
  30.             secs = 10000;  
  31.    
  32.         AsyncContext asyncCtx = request.startAsync();  
  33.         asyncCtx.addListener(new AppAsyncListener());  
  34.         asyncCtx.setTimeout(9000);  
  35.    
  36.         ThreadPoolExecutor executor = (ThreadPoolExecutor) request  
  37.                 .getServletContext().getAttribute("executor");  
  38.    
  39.         executor.execute(new AsyncRequestProcessor(asyncCtx, secs));  
  40.         long endTime = System.currentTimeMillis();  
  41.         System.out.println("AsyncLongRunningServlet End::Name="  
  42.                 + Thread.currentThread().getName() + "::ID="  
  43.                 + Thread.currentThread().getId() + "::Time Taken="  
  44.                 + (endTime - startTime) + " ms.");  
  45.     }  
  46.    
  47. }  

Run Async Servlet

现在,当我们将上面运行servlet URL:

http://localhost:8080/AsyncServletExample/AsyncLongRunningServlet?time=8000

得到响应和日志:

[java] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. AsyncLongRunningServlet Start::Name=http-bio-8080-exec-50::ID=124  
  2. AsyncLongRunningServlet End::Name=http-bio-8080-exec-50::ID=124::Time Taken=1 ms.  
  3. Async Supported? true  
  4. AppAsyncListener onComplete  

如果运行时设置time=9999,在客户端超时以后会得到响应超时错误处理和日志:
[java] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. AsyncLongRunningServlet Start::Name=http-bio-8080-exec-44::ID=117  
  2. AsyncLongRunningServlet End::Name=http-bio-8080-exec-44::ID=117::Time Taken=1 ms.  
  3. Async Supported? true  
  4. AppAsyncListener onTimeout  
  5. AppAsyncListener onError  
  6. AppAsyncListener onComplete  
  7. Exception in thread "pool-5-thread-6" java.lang.IllegalStateException: The request associated with the AsyncContext has already completed processing.  
  8.     at org.apache.catalina.core.AsyncContextImpl.check(AsyncContextImpl.java:439)  
  9.     at org.apache.catalina.core.AsyncContextImpl.getResponse(AsyncContextImpl.java:197)  
  10.     at com.journaldev.servlet.async.AsyncRequestProcessor.run(AsyncRequestProcessor.java:27)  
  11.     at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(ThreadPoolExecutor.java:895)  
  12.     at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:918)  
  13.     at java.lang.Thread.run(Thread.java:680)  

注意:Servlet线程执行完,很快就和所有主要的处理工作是发生在其他线程。

这是所有异步Servlet内容,希望你喜欢它。下载 AsyncServletExample 工程


0 0
原创粉丝点击