nginx代码分析之 转载

导读:

  nginx代码分析之(一)——初探

  不知道原创,作者联系下我吧。

  他的代码我全看过了,感觉是高层模型下做的最优精简指令。效果还是不错的。

  发现nginx是无意间在浏览器中看到新浪的一个错误页面“nginx ...”,不由起了好奇心,google了一把,发现这是一个支持负载均衡的反向代理服务器,俄罗斯人开发的,虽然没有走GNU或BSD的License,但是也算是一个开源软件。

  开源代理服务器最熟悉的还是Squid和Apache,但这两者都是正反向代理通吃的,而作为反向代理,实际上和正向代理有较大的差别。我想既然新浪也用它,那自然有它的独到之处。查了一下,中文的网页上说它的HTTP性能可以达到13000TPS以上,但是没有说明数据的出处,国外的网站上暂时找不到相应的数据,但很多人拿它和lighttpd相比。

  很快下载了nginx 0.5.32版本的代码,代码不多,才8万多行,在openssl的基础上支持HTTPS。和Apache的30多万行相比,精简了很多,

  作为web server或反向代理,要的就是一个快,要做到快,除了精简的代码之外,更关键的一点就是并发模型。

  Apache的弱点就在于它的并发模型是普通的进程/线程池,连接数和进程/线程数是1:1的,因此无论是prefork还是worker模式,都将每一个连接对应到一个独立的进程/线程。

  这样的并发模型在连接数不太多(1000以内)时还算可以,但在大规模并发时,其进程/线程总数会非常多。由于Apache本身也比较吃内存,所以到了1000以上的并发时,服务器的内存基本上也就被吃的差不多了,操作系统也在频繁地做进程/线程的切换,非常吃力。

  相比之下,更高级的大型网络服务系统(如电信的智能网系统)一般采用进程/线程池+状态机的模型——也即接数和进程/线程数是m:n的,这样进程/线程总数就不会由于连接的增多而增多,避免了内存和调度切换的开销,但这种做法对程序逻辑的要求较高,需要一个连接拆分为多个逻辑状态(创建,读,写,关闭等,根据实际业务还可以更加细化)每个进程/线程处理完某一种状态后,需要改变该连接的状态值,后续状态由下一个空闲的进程/线程处理。

  nginx就采用了这样的并发模型,对于连接状态的存储,nginx主要采用了这样一个复杂结构。

  struct ngx_connection_s {

  void *data;

  ngx_event_t *read;

  ngx_event_t *write;

  ...

  };

  结构ngx_event_t存储了连接IO状态的详细信息,同时所有的ngx_event_t组成了两个全局的链表,以便进行存取操作。

  在这两个数据结构的基础上,nginx使用了下面这两个函数来完成每个进程/线程的循环

  1. ngx_locked_post_event

  这个函数负责更新某一个连接的状态,在检查到连接IO状态改变(比如通过select)后被调用。

  nginx以module的方式提供了select语义的多种实现:

  poll

  devpoll

  epoll

  eventport

  kqueue

  rtsig

  后面4种,都是BSD/Linux为加速IO操作而提供的异步IO模型

  2. ngx_event_thread_process_posted

  这个函数检查event表,并调用event对应的handler函数,每次处理1个event。

  这两个函数组合使用,就实现了最基本的m:n并发模型。

  nginx代码分析之(二)——Empty Gif是如何工作的

  访问新浪时,时常会有一些网页返回空白(但不是“此页无法显示”),从浏览器的信息中可以知道此时服务器返回了一个1×1的空白gif图片。

  这实际上是nginx实现的,nginx有一个名为Empty Gif的module,专门负责此项工作。

  由于这个module比较简单,我们就先从它入手,来看看nginx的模块实现。

  

  模块注册Empty Gif这个module只有一个文件——ngx_http_empty_gif_module.c

  这个文件比较简单,一开始定义并初始化了3个变量。

  static ngx_command_t ngx_http_empty_gif_commands[] = {...};

  static ngx_http_module_t ngx_http_empty_gif_module_ctx = {...};

  ngx_module_t ngx_http_empty_gif_module = {...};

  其中只有ngx_http_empty_gif_module是非静态的,我将暂时将其称为module主结构变量,

  而其余两个变量都可以由它访问到。

  但是如果继续查看nginx的源码,会发现没有其他地方引用ngx_http_empty_gif_module,

  那这个module是怎么注册并应用起来的呢?

  如果熟悉Apache的代码,会发现这和Apache 2.0的module机制非常类似——每个module都对应到一个module主结构变量,通过这个主结构变量可以访问到这个module的其他内容,该module所有的函数也用函数指针的方式存放在这些结构变量中。

  而且Apache同样没有其他地方的代码引用到module主结构变量。这是因为module不是必须的,该module在某一个特定的编译版本里是可以不存在的。因此一个module是否有效,不是通过代码来决定,而是通过编译选项来实现。

  在nginx代码的auto目录中,有一个名为sources的文件,根据编译选项(configure的参数)的不同,m4宏变量HTTP_MODULES的值会发生变化:

  如果指定了使用empty gif模块(默认就是使用了),则最终m4宏变量HTTP_MODULES的值可能如下:

  HTTP_MODULES="ngx_http_module /

  ngx_http_core_module /

  ngx_http_log_module /

  ngx_http_upstream_module /

  ngx_http_empty_gif_module "

  注意:这里的ngx_http_empty_gif_module字符串对应了ngx_http_empty_gif_module.c文件中的Module主结构变量名。

  编译之前的configure结束后,会在objs目录下生成一个名为ngx_modules.c的文件,此文件的内容如下:

  #include

  #include

  extern ngx_module_t ngx_core_module;

  extern ngx_module_t ngx_errlog_module;

  extern ngx_module_t ngx_conf_module;

  ...

  extern ngx_module_t ngx_http_empty_gif_module;

  ...

  ngx_module_t *ngx_modules[] = {

  &ngx_core_module,

  &ngx_errlog_module,

  &ngx_conf_module,

  ...

  &ngx_http_empty_gif_module,

  ...

  NULL

  };

  在此生成了对ngx_http_empty_gif_module变量的引用,并将其放到了ngx_modules表中,

  通过相关函数可以进行存取。

  这样,在编译时就完成了Empty Gif模块注册的过程。

  模块的初始化和应用初始化一般都是根据配置文件的内容来进行,但和我们一般写程序的做法不同——nginx并没有在一个统一的地方处理所有的配置,而是让每个模块负责处理自己的配置项,如果没有编译这个模块,则其对应的配置项就无法处理,这也是又一个和Apache的相似之处。

  nginx使用了ngx_command_t结构来描述某一个模块对应的配置项及处理函数。

  以Empty Gif模块为例:

  static ngx_command_t ngx_http_empty_gif_commands[] = {

  { ngx_string("empty_gif"),

  NGX_HTTP_LOC_CONF|NGX_CONF_NOARGS,

  ngx_http_empty_gif,

  0,

  0,

  NULL },

  0);"> ngx_null_command

  };

  上面的定义表明:

  1. Empty Gif模块只处理一个配置项——“empty_gif”

  2. 这个配置是一个Location相关的配置(NGX_HTTP_LOC_CONF),

  即只有在处理某一个URL子集,如 /test_[0-9]*.gif时才生效。

  

  实际的配置文件可能如下:

  location ~ /test_[0-9].gif {

  empty_gif;

  }

  3. 这个配置项不带参数(NGX_CONF_NOARGS)

  4. 配置处理函数是ngx_http_empty_gif

  ngx_http_empty_gif函数的实现很简单:

  static char *

  ngx_http_empty_gif(ngx_conf_t *cf, ngx_command_t *cmd, void *conf)

  {

  ngx_http_core_loc_conf_t *clcf;

  clcf = ngx_http_conf_get_module_loc_conf(cf, ngx_http_core_module);

  clcf->handler = ngx_http_empty_gif_handler;

  return NGX_CONF_OK;

  }

  ngx_http_conf_get_module_loc_conf是一个宏,用于获得Location相关的配置表cf中ngx_http_core_module对应的项,获取之后,Empty Gif模块将自己的处理函数挂到了ngx_http_core_module对应的handler上。

  这样,nginx在处理HTTP请求时,如果发现其URL匹配到Empty Gif所属的Location,

  如URL(/test_1.gif)匹配到Location(/test_[0-9].gif),

  则使用ngx_http_empty_gif作为处理函数,这个函数直接向浏览器写回一幅1×1的空白gif图片。



本文转自

http://www.sameparty.com/x/?action=show&id=626
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章