Nginx服务器的高性能原理之IO复用

服务器
Nginx的处理IO的方式是异步非阻塞。Nginx之所以高性能除了异步非阻塞之外,还有一个核心的原因:IO复用。

导入

Nginx的处理IO的方式是异步非阻塞。Nginx之所以高性能除了异步非阻塞之外,还有一个核心的原因:IO复用。

什么是IO复用?

从最简单的例子说起,一个请求连接来了之后,一般情况下是怎么处理请求的呢? 如图1所示

[[255032]]

 

浏览器的每次请求都会分配或者新启一个进程与之对应,去处理请求。进程上下文之间的切换和新启进程都会很浪费资源,怎么优化呢?(举手)把多进城变成多线程。 那么就有了如下图2的优化结果。

 

这么做有啥不好呢?在思考一下,线程是进程调度的最小单位,一个进程有多个线程在同时处理请求,那么如果这个进程因为异常情况意外终止了,那么它所拥有的所有的线程都将全部终止运行,换句话说,服务挂了。哈哈,好刺激。

那么IO复用派上用场了~~前面我们提到了异步非阻塞,那么我们这样来设计,我们设计一个进程池、事件响应守护进程、请求服务进程。那么,我们的服务器的进程架构如下图所示:

 

如上图,我们将服务器分成了三个模块:

  1. 进程池
  2. 事件响应
  3. 事件注册

当浏览器请求到达服务器之后,首先连接到(3)请求服务进程,并注册一个事件,当请求发送数据的时候,这个时候会产生一个读事件,这个时候会有(2)事件响应进程会响应,将事件交给(1)进程池处理,同时再注册一个写事件。当进程池将请求处理完成之后,会响应写事件将处理的结果返回给浏览器。

那么IO复用所复用的是什么呢?

IO复用就是用一个进程来响应真实的请求事件。本质上复用的是进程。

Select与Epoll

当有读写事件发生了,事件守护进程响应交给进程池处理,同时再注册一个写事件,但是进程池怎么知道是哪个socket有事件发生了呢?所以每次有事件发生的时候,事件响应进程就会遍历一下所有的socket连接句柄,判断一下是否有事件发生,这种响应事件的方式就被称为Select模型。

怎么去优化呢?如果每次有事件发生,如果能知道是确切的哪个socket连接的事件,效率就很高了,这样方式就是Epoll模型。 举个例子

  • 假如餐馆有人要结账,服务员就跟老板说一声:“有人要结账”,老板不知道是哪一桌要结账,就需要挨个问一遍,这样的方式就是select,时间复杂度O(n)。
  • 假如餐馆有人要结账,服务员就跟老板说一声:“5号桌要结账”,这样的方式就是epoll,时间复杂度O(1)。

从大的方面了解一个高性能的服务器演化的过程,总结一下:池的概念会很大的提高性能,本次说到的是进程池,改成线程池(其实是多进程多线程模式)也是一样。

扩展:引入池的优化手段,很常见。例如,数据库连接池等等。感兴趣的可以查一下。

下一篇会继续从细节上介绍,事件响应的两种方式:

  • Reactor模式
  • Proactor模式
责任编辑:武晓燕 来源: 进阶的脚步
相关推荐

2011-04-07 13:39:24

WebHTTP

2019-01-15 10:54:03

高性能ServerReactor

2018-10-12 08:43:54

2009-11-17 14:05:57

微软高性能计算服务器

2019-07-31 14:36:46

Linux服务器框架

2011-11-01 09:41:54

Nginx

2010-03-24 19:21:55

Nginx服务器

2023-11-01 11:07:05

Linux高性能网络编程线程

2023-10-18 07:52:48

Nginx静态资源服务器

2009-02-18 12:45:00

2010-05-07 17:50:31

Unix服务器

2011-03-11 09:51:47

Java NIO

2014-04-09 10:50:01

Squid架构缓存服务器

2021-09-22 16:25:17

服务器戴尔科技集团

2020-11-10 07:46:09

服务器高并发高性能

2018-02-08 08:52:37

2021-09-14 10:21:13

CPU高性能服务器

2017-12-20 14:59:44

服务器

2021-05-28 05:18:08

PHP语言roadrunnner

2024-04-12 07:41:52

PPCTPCApache
点赞
收藏

51CTO技术栈公众号