Java线程池的实现原理

Java线程池的目的主要有:

1) 线程池中包含固定存在和有效时间存活的线程，在执行大量并发请求时，能够节省线程创建和关闭的开销，从而提高项目的性能

2) 在一定程度上可以对线程数目做可控处理，降低CPU Starvation的风险。每个线程都要占用一定的内存，而且并不是线程数目越多，任务执行的越快，线程的上下文切换也是一个大的开销。

具体实现类，可以参考java.util.concurrent.ThreadPoolExecutor.java

 1. API接口

    ThreadPoolExecutor提供的主要API有：

    public void execute(Runnable command); //执行一个新的任务

    public void shutdown()；//不再接受新的任务请求，但会继续执行之前提交的未处理的任务

    public List<Runnable> shutdownNow(); //尝试去中止所有正在执行的任务，并返回正在出于等待的任务

    .....

    还有其他检测线程池的状态的API

2. 状态定义和设计

   

private static final int COUNT_BITS = Integer.SIZE - 3;// runState is stored in the high-order bitsprivate static final int RUNNING    = -1 << COUNT_BITS;private static final int SHUTDOWN   =  0 << COUNT_BITS;private static final int STOP       =  1 << COUNT_BITS;private static final int TIDYING    =  2 << COUNT_BITS;private static final int TERMINATED =  3 << COUNT_BITS;

  ThreadPoolExecutor定义了如上代码中的5中运行时状态。

    RUNNING：正在运行，接受新的任务，并处理已经入列的任务

    SHUTDOWN: 不再接受新的任务，但会继续处理在等待队列中未处理的任务

    STOP: 不再接受新的任务，也不处理在等待队列中的任务，并且会尝试去中断正在处理的任务

    TIDYING: 所有的任务都已经中止，并且池中线程的数目为0(当运行时状态切换到TIDYING时，会触发terminated()方法)

    TERMINATED: 当terminated()方法执行完毕，则切换到了TERMINATED

  几种状态的切换：

  RUNNING -> SHUTDOWN（执行shutdown()方法）

  (RUNNING or SHUTDOWN) -> STOP (执行shutdownNow()方法)

  SHUTDOWN -> TIDYING (当等待处理的线程队列和线程池中都为空)

  TIDYING -> TERMINATED(当terminated()这个钩子方法执行完毕后)

3. 结构设计

    private final AtomicInteger ctl = new AtomicInteger(ctlOf(RUNNING, 0));//统计正在运行的线程数目

    ....

    private final BlockingQueue<Runnable> workQueue;//未分配的的待处理任务

    ....

    private final HashSet<Worker> workers = new HashSet<Worker>();//池中线程的封装类，每一个Worker关联一个Thread对象

    ....

   具体结构如下图：

4. 任务处理流程

    线程池接收的新的任务后，如果当前池中线程数没有超过CoreSize,则创建一个新的Worker(同时会创建一个新的线程对象，关联在Worker对象上)。否则，直接将任务放入待处理任务队列中。新的Worker创建，并成功添加到线程池后，会开启一个新的线程(Worker对象关联的线程)去执行Worker的run()方法。在这里，Worker委托ThreadPoolExecutor去执行实际业务处理方法，并将自己的引用暴露给ThreadPoolExecutor的runTask(Worker worker) 方法。

 

/** Delegates main run loop to outer runWorker  */public void run() {   runWorker(this);}

    ThreadPoolExecutor处理新接收的任务流程路如下：

   

在ThreadPoolExecutor对象中，runWorker方法会轮询worker的首要任务是否存在，或者从待处理任务队列中找到下一个要处理的任务。也就是说线程池中的核心线程(这里当池的线程数目少于核心线程数的线程都叫核心线程)一直在处理任务，或者等待新的任务，从而不会被销毁。

final void runWorker(Worker w) {    Thread wt = Thread.currentThread();    Runnable task = w.firstTask;    w.firstTask = null;    w.unlock(); // allow interrupts    boolean completedAbruptly = true;    try {        while (task != null || (task = getTask()) != null) {            w.lock();            // If pool is stopping, ensure thread is interrupted;            // if not, ensure thread is not interrupted.  This            // requires a recheck in second case to deal with            // shutdownNow race while clearing interrupt            if ((runStateAtLeast(ctl.get(), STOP) ||                 (Thread.interrupted() &&                  runStateAtLeast(ctl.get(), STOP))) &&                !wt.isInterrupted())                wt.interrupt();            try {                beforeExecute(wt, task);                Throwable thrown = null;                try {                    task.run();                } catch (RuntimeException x) {                    thrown = x; throw x;                } catch (Error x) {                    thrown = x; throw x;                } catch (Throwable x) {                    thrown = x; throw new Error(x);                } finally {                    afterExecute(task, thrown);                }            } finally {                task = null;                w.completedTasks++;                w.unlock();            }        }        completedAbruptly = false;    } finally {        processWorkerExit(w, completedAbruptly);    }}private Runnable getTask() {    boolean timedOut = false; // Did the last poll() time out?    retry:    for (;;) {        int c = ctl.get();        int rs = runStateOf(c);        // Check if queue empty only if necessary.        if (rs >= SHUTDOWN && (rs >= STOP || workQueue.isEmpty())) {            decrementWorkerCount();            return null;        }        boolean timed;      // Are workers subject to culling?        for (;;) {            int wc = workerCountOf(c);            timed = allowCoreThreadTimeOut || wc > corePoolSize;            if (wc <= maximumPoolSize && ! (timedOut && timed))                break;            if (compareAndDecrementWorkerCount(c))                return null;            c = ctl.get();  // Re-read ctl            if (runStateOf(c) != rs)                continue retry;            // else CAS failed due to workerCount change; retry inner loop        }        try {            Runnable r = timed ?                workQueue.poll(keepAliveTime, TimeUnit.NANOSECONDS) :                workQueue.take();            if (r != null)                return r;            timedOut = true;        } catch (InterruptedException retry) {            timedOut = false;        }    }}