Java NIO 在并发型服务器设计中的应用

来源:互联网 发布:黑客专用软件 编辑:程序博客网 时间:2024/04/28 19:05

1. 引言 
随着多处理机体系结构的演变、网络技术的发展和分布式应用的兴起,并发型多任务的 
服务器程序设计技术已越来越显示其重要性,这要求服务器程序能够在几百个甚至更多的客 
户端同时发出请求信息的情况下,仍能保持高性能的并发处理机制,迅速完成所有并发请求 
的处理。传统的并发型服务器设计是利用阻塞型网络I/O 以多线程的模式来实现的,然而由 
于系统常常在进行网络读写时处于阻塞状态,会大大影响系统的性能;自Java1. 4 开始引入 
了NIO(新I/O) API,通过使用非阻塞型I/O,实现流畅的网络读写操作,为开发高性能并发 
型服务器程序提供了一个很好的解决方案。 
2. 传统阻塞型网络I/O 的不足 
Java 平台传统的I/O 系统都是基于Byte(字节)和Stream(数据流)的,相应的I/O 操 
作都是阻塞型的,所以服务器程序也采用阻塞型I/O 进行数据的读、写操作。本文以TCP 
长连接模式来讨论并发型服务器的相关设计,为了实现服务器程序的并发性要求,系统由一 
个单独的主线程来监听用户发起的连接请求,一直处于阻塞状态;当有用户连接请求到来时, 
程序都会启一个新的线程来统一处理用户数据的读、写操作,其操作模式如图1[1]所示。 
图1 基于阻塞I/O 的多线程TCP 服务器操作模式 
这种模式的优点是简单、实用、易管理;然而缺点也是显而易见的:由于是为每一个客 
户端分配一个线程来处理输入、输出数据,其线程与客户机的比例近似为1:1,随着线程 
数量的不断增加,服务器启动了大量的并发线程,会大大加大系统对线程的管理开销,这将 
成为吞吐量瓶颈的主要原因;其次由于底层的I/O 操作采用的同步模式,I/O 操作的阻塞管 
- 2 - 
理粒度是以服务于请求的线程为单位的,有可能大量的线程会闲置,处于盲等状态,造成I/O 
资源利用率不高,影响整个系统的性能。 
对于并发型服务器,系统用在阻塞型I/O 等待和线程间切换的时间远远多于CPU 在内 
存中处理数据的时间,因此传统的阻塞型I/O 已经成为制约系统性能的瓶颈。Java1.4 版本 
后推出的NIO 工具包,提供了非阻塞型I/O 的异步输入输出机制,为提高系统的性能提供 
了可实现的基础机制。 
3. NIO 包及工作原理 
针对传统I/O 工作模式的不足,NIO 工具包提出了基于Buffer(缓冲区)、Channel(通 
道)、Selector(选择器)的新模式[2];Selector(选择器)、可选择的Channel(通道)和 
SelectionKey(选择键)配合起来使用,可以实现并发的非阻塞型I/O 能力。 
3.1 NIO 工具包的成员[3] 
3.1.1 Buffer(缓冲器) 
Buffer 类是一个抽象类,它有7 个子类分别对应于七种基本的数据类型:ByteBuffer、 
CharBuffer、DoubleBuffer、FloatBuffer、IntBuffer、LongBuffer 和ShortBuffer。每一个Buffer 
对象相当于一个数据容器,可以把它看作内存中的一个大的数组,用来存储和提取所有基本 
类型(boolean 型除外)的数据。Buffer 类的核心是一块内存区,可以直接对其执行与内存有关 
的操作,利用操作系统特性和能力提高和改善Java 传统I/O 的性能。 
3.1.2 Channel(通道) 
Channel 被认为是NIO 工具包的一大创新点,是(Buffer)缓冲器和I/O 服务之间的通道, 
具有双向性,既可以读入也可以写出,可以更高效的传递数据。我们这里主要讨论 
ServerSocketChannel 和SocketChannel,它们都继承了SelectableChannel,是可选择的通道, 
分别可以工作在同步和异步两种方式下(这里的可选择不是指可以选择两种工作方式,而是 
指可以有选择的注册自己感兴趣的事件)。当通道工作在同步方式时,它的功能和编程方法 
与传统的ServerSocket、Socket 对象相似;当通道工作在异步工作方式时,进行输入输出处 
理不必等到输入输出完毕才返回,并且可以将其感兴趣的(如:接受操作、连接操作、读出 
操作、写入操作)事件注册到Selector 对象上,与Selector 对象协同工作可以更有效率的支 
持和管理并发的网络套接字连接。 
3.1.3 Selector(选择器)和SelectionKey(选择键) 
各类Buffer 是数据的容器对象;各类Channel 实现在各类Buffer 与各类I/O 服务间传输 
数据。Selector 是实现并发型非阻塞I/O 的核心,各种可选择的通道将其感兴趣的事件注册 
到Selector 对象上,Selector 在一个循环中不断轮循监视这各些注册在其上的Socket 通道。 
SelectionKey 类则封装了SelectableChannel 对象在Selector 中的注册信息。当Selector 监测 
到在某个注册的SelectableChannel 上发生了感兴趣的事件时,自动激活产生一个SelectionKey 
对象,在这个对象中记录了哪一个SelectableChannel 上发生了哪种事件,通过对被激活的 
SelectionKey 的分析,外界可以知道每个SelectableChannel 发生的具体事件类型,进行相应的 
处理。 
- 3 - 
3.2 NIO 工作原理 
通过上面的讨论,我们可以看出在并发型服务器程序中使用NIO,实际上是通过网络事 
件驱动模型实现的。我们应用Select 机制,不用为每一个客户端连接新启线程处理,而是将 
其注册到特定的Selector 对象上,这就可以在单线程中利用Selector 对象管理大量并发的网 
络连接,更好的利用了系统资源;采用非阻塞I/O 的通信方式,不要求阻塞等待I/O 操作完 
成即可返回,从而减少了管理I/O 连接导致的系统开销,大幅度提高了系统性能。NIO 的结 
构如图2 所示。 
图2 非阻塞网络I/O 原理 
从图中可以看出,当有读或写等任何注册的事件发生时,可以从Selector 中获得相应的 
SelectionKey , 从SelectionKey 中可以找到发生的事件和该事件所发生的具体的 
SelectableChannel,以获得客户端发送过来的数据。由于在非阻塞网络I/O 中采用了事件触 
发机制,处理程序可以得到系统的主动通知,从而可以实现底层网络I/O 无阻塞、流畅地读 
写,而不像在原来的阻塞模式下处理程序需要不断循环等待。使用NIO,可以编写出性能更 
好、更易扩展的并发型服务器程序。 
4. 并发型服务器程序的实现代码 
应用NIO 工具包,基于非阻塞网络I/O 设计的并发型服务器程序与以往基于阻塞I/O 的 
实现程序有很大不同,在使用非阻塞网络I/O 的情况下,程序读取数据和写入数据的时机不 
是由程序员控制的,而是Selector 决定的。下面便给出基于非阻塞网络I/O 的并发型服务器 
程序的核心代码片段[4]:

Java代码  收藏代码
  1. import java.io.*; //引入Java.io包  
  2. import java.net.*; //引入Java.net包  
  3. import java.nio.channels.*; //引入Java.nio.channels包  
  4. import java.util.*; //引入Java.util包  
  5. public class TestServer implements Runnable  
  6. {  
  7. /** 
  8. - 4 - 
  9. * 服务器Channel对象,负责接受用户连接 
  10. */  
  11. private ServerSocketChannel server;  
  12. /** 
  13. * Selector对象,负责监控所有的连接到服务器的网络事件的发生 
  14. */  
  15. private Selector selector;  
  16. /** 
  17. * 总的活动连接数 
  18. */  
  19. private int activeSockets;  
  20. /** 
  21. * 服务器Channel绑定的端口号 
  22. */  
  23. private int port ;  
  24. /** 
  25. * 构造函数 
  26. */  
  27. public TestServer()throws IOException  
  28. {  
  29. activeSockets=0;  
  30. port=9999//初始化服务器Channel绑定的端口号为9999  
  31. selector= Selector.open();//初始化Selector对象  
  32. server=ServerSocketChannel.open();//初始化服务器Channel对象  
  33. ServerSocket socket=server.socket();//获取服务器Channel对应的//ServerSocket对象  
  34. socket.bind(new InetSocketAddress(port));//把Socket绑定到监听端口9999上  
  35. server.configureBlocking(false);//将服务器Channel设置为非阻塞模式  
  36. server.register(selector,SelectionKey.OP_ACCEPT);//将服务器Channel注册到  
  37. Selector对象,并指出服务器Channel所感兴趣的事件为可接受请求操作  
  38. }  
  39. public void run()  
  40. {  
  41. while(true)  
  42. {  
  43. try  
  44. {  
  45. /** 
  46. * 应用Select机制轮循是否有用户感兴趣的新的网络事件发生,当没有 
  47. - 5 - 
  48. * 新的网络事件发生时,此方法会阻塞,直到有新的网络事件发生为止 
  49. */  
  50. selector.select();  
  51. }  
  52. catch(IOException e)  
  53. {  
  54. continue//当有异常发生时,继续进行循环操作  
  55. }  
  56. /** 
  57. * 得到活动的网络连接选择键的集合 
  58. */  
  59. Set<SelectionKey> keys=selector.selectedKeys();  
  60. activeSockets=keys.size();//获取活动连接的数目  
  61. if(activeSockets==0)  
  62. {  
  63. continue//如果连接数为0,则继续进行循环操作  
  64. }  
  65. /** 
  66. * 应用For—Each循环遍历整个选择键集合 
  67. */  
  68. for(SelectionKey key :keys)  
  69. {  
  70. /** 
  71. * 如果关键字状态是为可接受,则接受连接,注册通道,以接受更多的* 
  72. 事件,进行相关的服务器程序处理 
  73. */  
  74. if(key.isAcceptable())  
  75. {  
  76. doServerSocketEvent(key);  
  77. continue;  
  78. }  
  79. /** 
  80. * 如果关键字状态为可读,则说明Channel是一个客户端的连接通道, 
  81. * 进行相应的读取客户端数据的操作 
  82. */  
  83. if(key.isReadable())  
  84. {  
  85. doClientReadEvent(key);  
  86. continue;  
  87. 6 -  
  88. }  
  89. /** 
  90. * 如果关键字状态为可写,则也说明Channel是一个客户端的连接通道, 
  91. * 进行相应的向客户端写数据的操作 
  92. */  
  93. if(key.isWritable())  
  94. {  
  95. doClinetWriteEvent(key);  
  96. continue;  
  97. }  
  98. }  
  99. }  
  100. }  
  101. /** 
  102. * 处理服务器事件操作 
  103. * @param key 服务器选择键对象 
  104. */  
  105. private void doServerSocketEvent(SelectionKey key)  
  106. {  
  107. SocketChannel client=null;  
  108. try  
  109. {  
  110. ServerSocketChannel server=(ServerSocketChannel)key.channel();  
  111. client=server.accept();  
  112. if(client==null)  
  113. {  
  114. return;  
  115. }  
  116. client.configureBlocking(false);//将客户端Channel设置为非阻塞型  
  117. /** 
  118. * 将客户端Channel注册到Selector对象上,并且指出客户端Channel所感 
  119. * 兴趣的事件为可读和可写 
  120. */  
  121. client.register(selector,SelectionKey.OP_READ|SelectionKey.OP_READ);  
  122. }catch(IOException e)  
  123. {  
  124. try  
  125. {  
  126. client.close();  
  127. 7 -  
  128. }catch(IOException e1){}  
  129. }  
  130. }  
  131. /** 
  132. * 进行向客户端写数据操作 
  133. * @param key 客户端选择键对象 
  134. */  
  135. private void doClinetWriteEvent(SelectionKey key)  
  136. {  
  137. 代码实现略;  
  138. }  
  139. /** 
  140. * 进行读取客户短数据操作 
  141. * @param key 客户端选择键对象 
  142. */  
  143. private void doClientReadEvent(SelectionKey key)  
  144. {  
  145. 代码实现略;  
  146. }  
  147. }  

 

 

 

从上面对代码可以看出,使用非阻塞性I/O进行并发型服务器程序设计分三个部分:1. 
向Selector对象注册感兴趣的事件;2.从Selector中获取所感兴趣的事件;3.根据不同的事件进 
行相应的处理。 
5. 结语 
通过使用NIO 工具包进行并发型服务器程序设计,一个或者很少几个Socket 线程就可 
以处理成千上万个活动的Socket 连接,大大降低了服务器端程序的开销;同时网络I/O 采取 
非阻塞模式,线程不再在读或写时阻塞,操作系统可以更流畅的读写数据并可以更有效地向 
CPU 传递数据进行处理,以便更有效地提高系统的性能。