六、Netty的线程模型

Netty框架的主要线程就是IO线程，线程模型设计的好坏，决定了系统的吞吐量、并发性和安全性等架构质量属性。而讨论netty的线程模型时，则首先想到经典的Reactor线程模型，尽管不同的NIO框架对于Reactor模式的实现存在差异，但本质上还是遵循了Reactor的基础线程模型。

一、Reactor单线程模型

Reactor单线程模型，是指所有的IO操作都在同一个NIO线程上面完成。NIO线程的职责如下：
(1)作为NIO服务端，接收客户端的TCP连接；
(2)作为NIO客户端，向服务端发起TCP连接；
(3)读取通信对端的请求或者应答消息；
(4)向通信对端发送消息请求或者应答消息。


由于Reactor模式使用的是异步非阻塞IO，所有的IO操作都不会导致阻塞，理论上一个线程可以独立处理所有IO相关的操作。从架构层面看，一个NIO线程确实可以完成其承担的职责。例如，通过Acceptor类接收客户端的TCP连接请求消息，当链路建立成功之后，通过Dispatch将对应的ByteBuffer派发到指定的Handler上，进行消息解码。用户线程消息编码后通过NIO线程将消息发送给客户端。

在一些小容量应用场景下，可以使用单线程模型。但是这对于高负载、大并发的应用场景却不合适，主要原因如下：
(1)一个NIO线程同时处理成百上千的链路，性能上无法支撑，即便NIO线程的CPU负荷达到了100%，也无法满足海量消息的编码和解码、读取和发送；
(2)当NIO线程下线程负载过重之后，处理速度将变慢，这会导致大量客户端连接超时，超时之后往往会进行重发，这更加重了NIO线程的负载，最终会导致大量消息积压和处理超时，成为系统的性能瓶颈。
(3)可靠性问题：一旦NIO线程意外跑飞，或者进入死循环，会导致整个系统通信模块不可用，不能接收和处理外部消息，造成节点故障。

二、Reactor多线程模型

Reactor多线程模型与单线程模型最大的区别就是有一组NIO线程来处理IO操作，原理如下：

Reactor多线程模型的特点如下：
(1)有专门一个NIO线程—-Acceptor线程用于监听服务端，接收客户端的TCP连接请求
(2)网络IO操作—-读、写等由一个NIO线程池负责，线程池可以采用标准的JDK线程池实现，它包含一个任务队列和N个可用的线程，由这些NIO线程负责消息的读取、解码、编码和发送。
(3)一个NIO线程可以同时处理N条链路，但是一个链路只对应一个NIO线程，防止发生并发操作等问题。

在绝大多数场景下，Reactor多线程模型可以满足性能需求，但是，在个别特殊场景中，一个NIO线程负责监听和处理所有的客户端连接可能会存在性能问题。例如并发百万客户端连接，或者服务端需要对客户端握手进行安全认证，但是认证本身非常损耗性能。在这类场景下，单独一个Acceptor线程可能会存在性能不足的问题，为了解决性能问题，产生了第三种Reactor线程模型—-主从Reactor多线程模型。

三、主从Reactor模型

主从Reactor线程模型的特点是：服务端用于接收客户端连接的不再是一个单独的NIO线程，而是一个独立的NIO线程池。Acceptor接收到客户端TCP连接请求并处理完成后(可能包含接入认证等)，将新创建的SocketChannel注册到IO线程池(sub reactor线程池)的某个IO线程上，由它负责SocketChannel的读写和编解码工作。Acceptor线程池仅仅用于客户端的登陆、握手和安全认证，一旦链路建立成功，就将链路注册到后端subReactor线程池的IO线程上，由IO线程负责后续的IO操作。

利用主从NIO线程模型，可以解决一个服务端监听线程无法有效处理所有客户端连接的性能不足问题。因此，在Netty的官方demo中，推荐使用该线程模型。

四、Netty的线程模型

Netty的线程模型并不是一成不变的，它实际取决于用户的启动参数配置。通过设置不同的启动参数，Netty可以同时支持Reactor但单线程模型、多线程模型和主从Reactor多线程模型。

 // 配置服务端的NIO线程组            EventLoopGroup bossGroup = new NioEventLoopGroup();            EventLoopGroup workerGroup = new NioEventLoopGroup();            try {                ServerBootstrap b = new ServerBootstrap();                // 设置线程组及Socket参数                b.group(bossGroup, workerGroup).channel(NioServerSocketChannel.class)                        .option(ChannelOption.SO_BACKLOG, 1024)                        .childHandler(new ChildChannelHandler());

服务端启动的时候，创建了两个NioEventLoopGroup。它们实际是两个独立的Reactor线程池。一个用于接收客户端的TCP连接，另一个用于处理IO相关的读写操作，或者执行系统Task、定时任务等。

Netty用于接收客户端请求的线程池职责如下：
(1)接收客户端TCP连接，初始化Channel参数；
(2)将链路状态变更事件通知给ChannelPipeline。
Netty处理IO操作的Reactor线程池职责如下：
(1)异步读取通信对端的数据报，发送读事件到ChannalPipeline；
(2)异步发送消息到通信对端，调用ChannelPipeline的消息发送接口；
(3)执行系统调用task；
(4)执行定时任务Task，例如链路空闲状态监测定时任务。

通过调整线程池的线程个数、是否共享线程池等方式，Netty的Reactor模型可以在上述模型中灵活转换。

为了尽可能的提升性能，Netty在很多地方进行了无锁化设计，例如在IO线程内部进行串行操作，避免多线程竞争导致的性能下降问题。表面上看，串行化设计似乎CPU利用率不高，并发程度不够，但是，通过调整NIO线程池的线程参数，可以同时启动多个串行化的线程并行运行，这种局部无锁化的串行线程设计相比一个队列---多个工作线程的模型性能更优。

设计原理如下：

Netty的NioEventLoop读取到消息之后，直接调用ChannelPipeline的fireChannelRead(Object msg)。只要用户不主动切换线程，一直都是由NioEventLoopLoop调用用户的Handler，期间不进行线程切换。这种串行处理方式避免了多线程操作导致的锁的竞争，从性能角度看是最优的。