大家好，我是《Nginx核心知识100讲》课程讲师–陶辉，有幸能借这个文章的机会，和大家分享Nginx的重难点：Nginx究竟是如何支持百万并发连接的？

其实，大家学习Nginx，最大的动力是想让自己的产品在支持高并发请求的同时保持高效的服务。那除了掌握Nginx，可能没有其他更好的选择。

在学习Nginx路上，你可能会遇到很多阻碍，比如：

其实，这些问题我在课程里都有做系统性的讲解，有些是用3-4个视频来完整地讲解一个知识点，有些疑惑你单看目录就能找到答案。不过我还是希望大家能从0开始，跟着我系统性地把这套视频学完，那么百万并发下的Nginx性能优化之道，你基本就掌握了。

今天，我们就直达要点，来看看Nginx究竟是如何支持百万并发连接的？

1、搞清楚TCP连接的并发

首先是对于TCP连接并发的掌握。不少同学认为，由于端口最大范围是65535，所以Nginx的最大并发连接数就是65535。实际上，Nginx的并发连接可以达到百万或者千万级，原因是TCP连接是个四元组，它包括（源IP、源端口、目的IP、目的端口）。

我们以32位的IPv4地址为例，如果不考虑资源限制，理论上它的最大并发连接数是2^(32+16+32+16)个（因为IP 为 32 位，端口号为 16 位），远远大于65535。

显然，在如此巨大的并发连接数下，再细小的问题都可能会被放大很多倍。所以，我们要精细化配置Linux中的TCP选项（TCP层由操作系统内核实现），优化建立连接的速度，防御针对建立连接过程的种种恶意攻击。

2、掌握磁盘IO优化

众所周知，磁盘是计算机体系中最慢的设备，它远远慢于CPU计算速度、内存的存取、网络的传输等。正如我们所熟悉的短板理论，最慢的磁盘，很容易成为服务器性能的瓶颈。

因此，虽然在很多场景下，Nginx最主要的工作是协议解析与网络传输（如反向代理），但少量的磁盘操作，却也可能大幅度降低Nginx性能。

所以，我们要在了解磁盘特点及操作系统API的基础上，尝试减少磁盘操作，或者优化磁盘操作。比如，在每次工作前，你可以先问一下自己：

当 Nginx 用于CDN或者静态资源服务器时，大量的读操作下，我们需要考虑，对大文件采用DirectIO以减少无谓的高速缓存操作；而在AIO失效时，还要考虑基于线程池来应对阻塞等问题。

Nginx会确保每一个连接消耗的内存最小化，这也是Nginx支持高并发的关键。由于内存资源有限，并发数却数以百万计，这就要求在Nginx用户态下，每个连接所用的内存都应遵循以下几个原则：

所以，弄清楚优化内存分配，首先你就得明白内存工作原理。在「第二章：Nginx架构基础」的「第36讲 | 内存池对性能的影响」中我介绍过内存池的意义，在「第三章：详解HTTP模块」的「第45讲 | 处理HTTP请求头部的流程」中提及过处理请求过程中基于内存池分配的内存大小。

不过，TCP是由操作系统内核实现的，所以TCP协议处理相关的内存，需要通过配置内核参数来控制，「第五章：Nginx的系统层性能优化」对此有深入介绍。

推荐你看看以下的内容，看你是否已掌握Nginx性能优化中的重要部分：TCP协议。
第120讲 | 性能优化方法论
 第128讲 | TCP协议的keepalive功能

当然，分配内存的速度也非常重要。googleperftool提供的tcmalloc，就是为了替代默认的glibc库，用来分配内存的工具。它在多线程分配小块内存的速度上有很大优势。

提升性能工作中，最重要的一环，就是提升CPU的计算速度。不过，在如今动则32核、64核等的多核CPU架构下，提升CPU效率便复杂了很多。比如下面这几个方面的问题：

总的来说，多核确实意味着更强大的计算力，但真正的银弹并不存在。若想基于增加CPU核数获得接近线性提升的计算力，我们还有许多工作要做。

必看知识点：
第121讲 | 如何高效使用CPU

《Nginx核心知识100讲》已经完结，从预计100讲的内容扩充到了155讲，历经3个月的课程录制，才把我想交付给大家的知识点尽数讲完。

虽然网上关于Nginx的使用介绍非常多，但存在着“仅从使用层面介绍，未深入原理未”、“未体系化的性能优化知识”等问题。抱着想解决以上两个问题，及让大家系统化掌握Nginx的心，我从HTTP应用层、分布式集群到硬件及操作系统内核优化等等层面，把Nginx的知识点体系化地解读给大家。

大家若能跟着这一整套视频完整地学下来，必然能从Nginx的初级使用者成长为高阶使用者，搭建起自己的Nginx知识全景图。