Tomcat 处理 HTTP 请求源码分析(下)

阅读数:12875 2011 年 12 月 16 日 00:00

很多开源应用服务器都是集成 tomcat 作为 web container 的,而且对于 tomcat 的 servlet container 这部分代码很少改动。这样,这些应用服务器的性能基本上就取决于 Tomcat 处理 HTTP 请求的 connector 模块的性能。本文首先从应用层次分析了 tomcat 所有的 connector 种类及用法,接着从架构上分析了 connector 模块在整个 tomcat 中所处的位置,最后对 connector 做了详细的源代码分析。并且我们以 Http11NioProtocol 为例详细说明了 tomcat 是如何通过实现 ProtocolHandler 接口而构建 connector 的。

上篇地址为《 Tomcat 处理 HTTP 请求源码分析(上)》 ,本文是系列下篇。

4 如何实现 Connector

由上面的介绍我们可以知道,实现 Connector 就是实现 ProtocolHander 接口的过程。

AjpAprProtocol、AjpProtocol、Http11AprProtocol、Http11Protocol、JkCoyoteHandler、MemoryProtocolHandler 这些实现类的实现流程与 Http11NioProtocol 相同,下面我们以 Http11NioProtocol 为类重点说明 tomcat 中如何实现 ProtocolHander 接口的。

Http11NioProtocol 实现了 ProtocolHander 接口,它将所有的操作委托给 NioEndpoint 类去做,如下图:

Tomcat处理HTTP请求源码分析(下)

NioEndpoint 类中的 init 方法中首先以普通阻塞方式启动了 SocketServer:

Tomcat处理HTTP请求源码分析(下)

NioEndpoint 类的 start 方法是关键,如下:

Tomcat处理HTTP请求源码分析(下)

可以看出,在 start 方法中启动了两个线程和一个线程池:

  • Acceptor 线程,该线程以普通阻塞方式接收客户端请求(socket.accep()),将客户 Socket 交由线程池是处理,线程池要将该 Socket 配置成非阻塞模式(socket.configureBlocking(false)), 并且向 Selector 注册 READ 事件。该线程数目可配置,默认为 1 个。
  • Poller 线程,由于 Acceptor 委托线程为客户端 Socket 注册了 READ 事件,当 READ 准备好时,就会进入 Poller 线程的循环,Poller 线程也是委托线程池去做,线程池将 NioChannel 加入到 ConcurrentLinkedQueue<NioChannel> 队列中。该线程数目可配置,默认为 1 个。
  • 线程池,就是上面说的做 Acceptor 与 Poller 线程委托要做的事情。

4.1 Init 接口实现方法中阻塞方式启动 ServerSocketChannel

在 Init 接口实现方法中阻塞方式启动 ServerSocketChannel。

Tomcat处理HTTP请求源码分析(下)

4.2 Start 接口实现方法中启动所有线程

Start 方法中启动了线程池,acceptor 线程与 Poller 线程。其中 acceptor 与 poller 线程一般数目为 1,当然,数目也可配置。

Tomcat处理HTTP请求源码分析(下)

可以看出,线程池有两种实现方式:

  • 普通 queue + wait + notify 方式,默认使用的方式,据说实际测试这种比下种效率高
  • JDK1.5 自带的线程池方式

4.3 Acceptor 线程接收客户请求、注册 READ 事件

在 Acceptor 线程中接收了客户请求,同时委托线程池注册 READ 事件。

  1. 在 Acceptior 线程中接收了客户请求(serverSock.accept())
  2. Tomcat处理HTTP请求源码分析(下)

  3. 委托线程池处理
  4. Tomcat处理HTTP请求源码分析(下)

  5. 在线程池的 Worker 线程的 run 方法中有这么几句:
  6. Tomcat处理HTTP请求源码分析(下)

在 setSocketOptions 方法中,首先将 socket 配置成非阻塞模式:

Tomcat处理HTTP请求源码分析(下)

在 setSocketOptions 方法中,最后调用 getPoller0().register(channel); 一句为 SocketChannel 注册 READ 事件,register 方法代码如下 (注意:这是 Poller 线程的方法):

Tomcat处理HTTP请求源码分析(下)

其中 attachment 的结构如下,它可以看做是一个共享的数据结构:

Tomcat处理HTTP请求源码分析(下)

4.4 Poller 线程读请求、生成响应数据、注册 WRITE 事件

  1. 在上面说的 setSocketOptions 方法中调用 Poller 线程的 register 方法注册读事件之后,当 READ 准备就绪之后,就开始读了。下面代码位于 Poller 线程的 run 方法之中:
  2. Tomcat处理HTTP请求源码分析(下)

  3. 可以看到,可读之后调用 processSocket 方法,该方法将读处理操作委拖给线程池处理 (注意此时加入到线程池的是 NioChannel,不是 SocketChannel):
  4. Tomcat处理HTTP请求源码分析(下)

  5. 线程池的 Worker 线程中的 run 方法中的部分代码如下(请注意 handler.process(socket) 这一句):
  6. Tomcat处理HTTP请求源码分析(下)

    注意:

  • 调用了 hanler.process(socket) 来生成响应数据)
  • 数据生成完之后,注册 WRITE 事件的,代码如下:

Tomcat处理HTTP请求源码分析(下)

4.5 Handle 接口实现类通过 Adpater 调用 Servlet 容器生成响应数据

NioEndpoint 类中的 Handler 接口定义如下:

Tomcat处理HTTP请求源码分析(下)

其中 process 方法通过 Adapter 来调用 Servlet Container 生成返回结果。Adapter 接口定义如下:

Tomcat处理HTTP请求源码分析(下)

4.6 小结

实现一个 tomcat 连接器 Connector 就是实现 ProtocolHander 接口的过程。Connector 用来接收 Socket Client 端的请求,通过内置的线程池去调用 Servlet Container 生成响应结果,并将响应结果同步或异步的返回给 Socket Client。在第三方应用集成 tomcat 作为 Web 容器时,一般不会动 Servlet Container 端的代码,那么 connector 的性能将是整个 Web 容器性能的关键。

关于作者

张华,长期从事 Java 方面的开发工作,有搜索引擎、中间件应用服务器、互联网、云计算等领域的行业经验,目前正在从事基于 Power 的虚拟化技术研发。博客地址: http://blog.csdn.net/quqi99


感谢张凯峰对本文的审校。

给 InfoQ 中文站投稿或者参与内容翻译工作,请邮件至 editors@cn.infoq.com 。也欢迎大家加入到 InfoQ 中文站用户讨论组中与我们的编辑和其他读者朋友交流。

评论

发布