Windows服务器端编程－第二章 设备IO与线程间通信－10－线程池有多少线程

l       线程池有多少线程

现在是讨论线程池内应该有多少线程的恰当时机。从两个方面考虑。首先，在服务应用程序初始化时，要创建最少的线程集而不必以正常方法创建和销毁。记住，创建和销毁线程会浪费CPU时间，因此进程的线程数量越小越好。其次，线程的数量要有一个最大值，创建过多的线程会浪费系统资源。即使大部部分资源可以被对换出内存，最小化对系统资源的使用以及不浪费页面空间仍然很有优势，如果能够做到的话。

 

你可能想体会一下不同数量的线程的结果。大多数服务(包括微软的IIS)使用启发式算法来管理它们的线程池。建议你也这么做。例如，可以以下的变量来管理线程池。

 

LONG g_nThreadsMin;    // 线程池内线程的最小数量

LONG g_nThreadsMax;    // 线程池内线程的最大数量

LONG g_nThreadsCrnt;   //当前线程池内的线程数量

LONG g_nThreadsBusy;   // 线程池内正在干活的线程数量

 

       在应用程序初始化时，创建等于g_nThreadsMin的数量的线程，这些线程都执行相同线程池函数。以下伪代码展示了一个线程池函数：

 

DWORD WINAPI ThreadPoolFunc(PVOID pv) {

 

   // 线程正在进入线程池

   InterlockedIncrement(&g_nThreadsCrnt);

   InterlockedIncrement(&g_nThreadsBusy);

 

   for (BOOL fStayInPool = TRUE; fStayInPool;) {

 

      // 线程停止执行并等待工作

      InterlockedDecrement(&m_nThreadsBusy);

      BOOL fOk = GetQueuedCompletionStatus(...);

      DWORD dwIOError = GetLastError();

 

      // 线程有工作要做，因此处于忙状态

      int nThreadsBusy = InterlockedIncrement(&m_nThreadsBusy);

 

      // 应该加另一个线程到线程池中么？

      if (nThreadsBusy == m_nThreadsCrnt) {    // 所有的线程都在忙

         if (nThreadsBusy < m_nThreadsMax) {   // 线程池没有满

            if (GetCPUUsage() < 75) {   // CPU 使用率小于75%

 

               // 向池中添加线程

               CloseHandle(chBEGINTHREADEX(...));

            }

         }

      }

 

      if (!fOk && (dwIOError == WAIT_TIMEOUT)) {   // 线程超时

         if (!ThreadHasIoPending()) {

            // 没有太多的服务要做，因此线程可以结束，因为没有未完成的I/O请求

          fStayInPool = FALSE;

         }

      }

 

      if (fOk || (po != NULL)) {

         // 线程被唤醒以进行处理，开始进行处理

         ...

 

         if (GetCPUUsage() > 90) {       // CPU 使用率超过 90%

            if (!ThreadHasIoPending()) { // 没有阻塞的I/O请求

               if (g_nThreadsCrnt > g_nThreadsMin)) { // 当前线程数量大于最小值

 

                  fStayInPool = FALSE;   // 从池中删除线程

               }

            }

         }

      }

   }

 

   // 线程离开线程池

   InterlockedDecrement(&g_nThreadsBusy);

   InterlockedDecrement(&g_nThreadsCurrent);

   return(0);

}

 

       这段伪码展示了使用完成端口时可以有多大的创造性。GetCPUUsage和ThreadHasIoPending函数并不是Windows API。如果想使用它们，必须自己实现。另外，必须保证线程池内至少总是有一个线程，否则客户端将永远被挡在门外。可以上面的伪码为参考，不过特定的服务应用程序如果使用不同的架构可能会有更好的效果。

 

注意

在本章的前面，小节“取消设备队列中的I/O请求”，曾说过系统会在线程终止时自动取消该线程产生的所有被阻塞的I/O请求。这就是为什么伪码中像ThreadHasIoPending这样函数必需存在。如果线程仍有未完成的I/O请求，不要终止线程。

 

       许多服务提供一个管理工具来允许管理员控制线程池的行为，例如，设置最大和最小线程数量，CPU使用率阈值，还有创建完成端口时指定的最大并发值。