《手把手讓你實現開源企業級web高併發解決方案》
（lvs+heartbeat+varnish+nginx+eAccelerator+memcached）
原創作品，允許轉載，轉載時請務必以超鏈接形式標明文章 原始出處 、作者信息和本聲明。否則將追究法律責任。http://freeze.blog.51cto.com/1846439/677348
本來想起個比較風趣點的標題，可想來思去，還是走常規路線，做一系列的手把手吧。
這樣一來，便於我的老朋友們識別,也讓我對這篇文章的粒度把我有個定位。
本篇博文主要介紹利用開源的解決方案，來爲企業搭建web高併發服務器架構花了一個多小時，畫了張圖片，希望能先幫你理解整個架構，之後我在一一介紹.linux的大型架構其實是一點點小架構拼接起來的，筆者從各個應用開始配置，最後在完全整合起來，以實現效果。
- # Director配置
- ifconfig eth0 172.16.100.10/16
- ifconfig eth0:0 172.16.100.1 broadcast 172.16.100.1 netmask 255.255.255.255 up
- route add -host 172.16.100.1 dev eth0:0
- echo 1 > /proc/sys/net/ipv4/ip_forward
- # varnish服務器修改內核參數來禁止響應對VIP的ARP廣播請求
- echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore
- echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore
- echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce
- echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce
- # 配置VIP
- ifconfig lo:0 172.16.100.1 broadcast 172.16.100.1 netmask 255.255.255.255 up
- # 凡是到172.16.100.1主機的一律使用lo:0響應
- route add -host 172.16.100.1 dev lo:0
- # 在Director上配置Ipvs，筆者虛擬機有限，只演示單臺配置
- ipvsadm -A -t 172.16.100.1:80 -s wlc
- ipvsadm -a -t 172.16.100.1:80 -r 172.16.100.11 -g -w 2
- ipvsadm -Ln
- vim /etc/hosts
- 10.10.10.1 node1.heartbeat.com node1
- 10.10.10.2 node2.heartbeat.com node2
- #用於實現兩臺director節點間域名解析，此操作node1、node2相同
- vim /etc/sysconfig/network
- #設置主機名
- hostname node1.heartbeat.com
- #修改主機名使之立即生效，node2也同樣修改爲node2.heartbeat.com
- ssh-keygen -t rsa
- #生成密鑰
- ssh-copy-id -i .ssh/id_rsa.pub root@node2.heartbeat.com
- #將公鑰複製給node2
- ssh node2 -- ifconfig
- #執行命令測試，此時應該顯示node2的ip信息
- yum localinstall -y --nogpgcheck ./*
- #安裝此目錄中的所有rpm包
- cd /usr/share/doc/heartbeat-2.1.4
- cp authkeys /etc/ha.d/
- cp haresources /etc/ha.d/
- cp ha.cf /etc/ha.d/
- #拷貝heartbeat所需配置文件到指定目錄下
- vim /etc/ha.d/ha.cf
- bcast eth1
- #定義心跳信息從那一塊網卡傳輸
- node node1.heartbeat.com
- node node2.heartbeat.com
- #添加這兩行，用於指明心跳信號傳輸範圍
- vim /etc/ha.d/authkeys
- auth 2
- 2 sha1 [鍵入隨機數]
- chmod 400 authkeys
- #保存退出並修改權限400
- vim /etc/ha.d/haresource
- node1.heartbeat.com 172.16.100.1/24/eth0/172.16.0.255 ldirectord::ldirectord.cf httpd
- #末行添加主節點域名，vip資源，廣播地址，ldirectord資源，以及用戶提供顯示錯誤頁面的httpd資源
- /usr/lib/heartbeat/ha_propagate
- #腳本用來同步ha.cf和authkeys文件到node2
- scp haresources node2:/etc/ha.d/
- #複製haresource到nod2
- cp /usr/share/doc/heartbeat-ldirectord-2.1.4/ldirectord.cf /etc/ha.d/ldirectord.cf
- #複製ldirector的配置文件
- checktimeout=5
- #當DR收不到realserver的迴應，設定幾秒後判定realserver當機或掛掉了，預設5秒。
- checkinterval=3
- #查詢間隔，每個幾秒偵測一次realserver
- autoreload=yes
- #配置文件發生改變是否自動重讀
- quiescent=yes
- #靜態鏈接，yes：表示偵測realserver宕機，將其權值至零（如果開啓了persistent參數不要用yes）；no：表示偵測到宕機realserver，隨即將其對應條目從ipvsadm中刪除。
- virtual=172.16.100.1:80
- real=172.16.100.11:80 gate 4
- fallback=127.0.0.1:80 gate #realserver全部失敗，vip指向本機80端口。
- service=http
- request="test.html" #用於健康檢測的url,realserver的相對路徑爲var/www/html目錄
- receive="ok" #用於健康檢測的url包含的關鍵字
- scheduler=wlc
- #persistent=600
- #持久鏈接：表示600s之內同意ip將訪問同一臺realserver
- protocol=tcp
- checktype=negotiate
- #檢查類型：negotiate，表示DR發送請求，realserver恢復特定字符串才表示服務正常；connect，表示DR能夠連線realserver即正常。
- checkport=80
- service heartbeat start
- ssh node2 -- 'service heartbeat start'
- #啓動兩節點heartbeat服務
|
|
- tar zxvf libiconv-1.13.1.tar.gz
- cd libiconv-1.13.1/
- ./configure --prefix=/usr/local
- make
- make install
- cd ../
- tar zxvf libmcrypt-2.5.8.tar.gz
- cd libmcrypt-2.5.8/
- ./configure
- make
- make install
- /sbin/ldconfig
- cd libltdl/
- ./configure --enable-ltdl-install
- make
- make install
- cd ../../
- tar zxvf mhash-0.9.9.9.tar.gz
- cd mhash-0.9.9.9/
- ./configure
- make
- make install
- cd ../
- ln -s /usr/local/lib/libmcrypt.la /usr/lib/libmcrypt.la
- ln -s /usr/local/lib/libmcrypt.so /usr/lib/libmcrypt.so
- ln -s /usr/local/lib/libmcrypt.so.4 /usr/lib/libmcrypt.so.4
- ln -s /usr/local/lib/libmcrypt.so.4.4.8 /usr/lib/libmcrypt.so.4.4.8
- ln -s /usr/local/lib/libmhash.a /usr/lib/libmhash.a
- ln -s /usr/local/lib/libmhash.la /usr/lib/libmhash.la
- ln -s /usr/local/lib/libmhash.so /usr/lib/libmhash.so
- ln -s /usr/local/lib/libmhash.so.2 /usr/lib/libmhash.so.2
- ln -s /usr/local/lib/libmhash.so.2.0.1 /usr/lib/libmhash.so.2.0.1
- ln -s /usr/local/bin/libmcrypt-config /usr/bin/libmcrypt-config
- tar zxvf mcrypt-2.6.8.tar.gz
- cd mcrypt-2.6.8/
- /sbin/ldconfig
- ./configure
- make
- make install
- cd ../
cd php-5.3.6
./configure --prefix=/usr/local/php-fcgi --enable-fpm --with-config-file-path=/usr/local/php-fcgi/etc --enable-zend-multibyte --with-libxml-dir=/usr/local/libxml2 --with-gd --with-jpeg-dir --with-png-dir --with-bz2 --with-freetype-dir --with-iconv-dir --with-zlib-dir --with-curl --with-mhash --with-openssl --enable-bcmath --with-mcrypt=/usr/local/libmcrypt --enable-sysvsem --enable-inline-optimization --enable-soap --enable-gd-native-ttf --enable-ftp --enable-mbstring --enable-exif --disable-debug --disable-ipv6
make
make install
cp php.ini-production /usr/local/php-fcgi/etc/php.ini
mkdir /usr/local/php-fcgi/ext
修改php.ini文件 手工修改： 查找/usr/local/php/etc/php.ini中的extension_dir = "./" 修改爲 extension_dir = "/usr/local/php-fcgi/lib/php/extensions/no-debug-non-zts-20090626" 增加以下幾行 extension = "memcache.so" 再查找output_buffering = Off 修改爲 On 再查找 ;cgi.fix_pathinfo=0 去掉“;”號，防止Nginx文件類型錯誤解析漏洞。 （6）配置eAccelerator加速PHP： mkdir -p /usr/local/eaccelerator_cache vi /usr/local/php-fcgi/etc/php.ini 跳到配置文件的最末尾，加上以下配置信息： [eaccelerator] zend_extension="/usr/local/php-fcgi/lib/php/extensions/no-debug-non-zts-20090626eaccelerator.so" eaccelerator.shm_size="64" eaccelerator.cache_dir="/usr/local/eaccelerator_cache" eaccelerator.enable="1" eaccelerator.optimizer="1" eaccelerator.check_mtime="1" eaccelerator.debug="0" eaccelerator.filter="" eaccelerator.shm_max="0" eaccelerator.shm_ttl="3600" eaccelerator.shm_prune_period="3600" eaccelerator.shm_only="0" eaccelerator.compress="1" eaccelerator.compress_level="9"
/usr/sbin/groupadd www /usr/sbin/useradd -g www www mkdir -p /web chmod +w /web chown -R www:www /web
cd/usr/local/php-fcgi/etc/ cp php-fpm.conf.default php-fpm.conf vim !$ #取消下面3行前的分號 pm.start_servers = 20 pm.min_spare_servers = 5 pm.max_spare_servers = 35
ulimit -SHn 65535 /usr/local/php/sbin/php-fpm start
tar zxvf pcre-8.10.tar.gz cd pcre-8.10/ ./configure make && make install cd ../
tar zxvf nginx-1.1.3.tar.gz cd nginx-1.1.3/ ./configure --user=www \--group=www \--prefix=/usr/local/nginx \--with-http_stub_status_module \--with-http_ssl_module make && make install cd ../
mkdir -p /web/logs chmod +w /web/logs chown -R www:www /web/logs
rm -f /usr/local/nginx/conf/nginx.conf vi /usr/local/nginx/conf/nginx.conf
vi /usr/local/nginx/conf/fcgi.conf
ulimit -SHn 65535 /usr/local/nginx/sbin/nginx
vim /etc/rc.local
# tar -xzf libevent-1ast.1a.tar.gz # cd libevent-1.1a # ./configure --prefix=/usr # make # make install # cd .. # tar -xzf memcached-last.tar.gz # cd memcached# ./configure --prefix=/usr # make # make install
找到session.save_handler，並設爲 session.save_handler = memcache，把session.save_path前面的分號去掉，並設置爲 session.save_path = “tcp://127.0.0.1:11211″ session.save_handler = memcache session.save_path = “tcp://172.16.100.50:11211″ #memcached所在服務器地址或者某個目錄下的 .htaccess ： php_value session.save_handler “memcache” php_value session.save_path “tcp://172.16.100.50:11211″ #memcached所在服務器地址再或者在某個一個應用中：
-
<?php
-
error_reporting(E_ALL);
-
$memcache = new Memcache;
-
$memcache->connect('172.16.100.17', 11211) or die("Could not connect");
-
-
$memcache->set('key', 'This is a test!', 0, 60);
-
$val = $memcache->get('key');
-
echo $val;
-
?>
## 爲MySQL建立用戶和組 groupadd -g 3306 mysql useradd -g mysql -u 3306 -s /sbin/nologin -M mysql ## 二進制安裝方式 tar xf mysql-5.5.15-linux2.6-i686.tar.gz -C /usr/local ln -sv /usr/local/mysql-5.5.15-linux.2.6-i686 /usr/local/mysql mkdir /mydata ## 創建數據保存目錄 chown -R mysql:mysql /mydata/ cd /usr/local/mysql scripts/mysql_install_db --user=mysql --datadir=/mydata/data chown -R root . ## 加入啓動腳本 cp support-files/mysql.server /etc/init.d/mysqld chkconfig --add mysqld ##修改配置文件 cp support-files/my-large.cnf /etc/my.cnf ## 加入mySQL命令export PATH=$PATH:/usr/local/mysql/bin ## 定義頭文件ln -sv /usr/local/mysql/include /usr/include/mysqlldconfig
service mysqld start cd /root/lnmp
（1）Nginx的優化 一般來說nginx 配置文件中對優化比較有作用的爲以下幾項： worker_processes 8; nginx 進程數，建議按照cpu 數目來指定，一般爲它的倍數。 worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000 10000000; 爲每個進程分配cpu，上例中將8 個進程分配到8 個cpu，當然可以寫多個，或者將一個進程分配到多個cpu。 worker_rlimit_nofile 102400; 這個指令是指當一個nginx 進程打開的最多文件描述符數目，理論值應該是最多打開文件數（ulimit -n）與nginx 進程數相除，但是nginx 分配請求並不是那麼均勻，所以最好與ulimit-n 的值保持一致。 use epoll; 使用epoll 的I/O 模型，這個不用說了吧。 worker_connections 102400; 每個進程允許的最多連接數， 理論上每臺nginx 服務器的最大連接數爲worker_processes*worker_connections。 keepalive_timeout 60; keepalive 超時時間。 client_header_buffer_size 4k; 客戶端請求頭部的緩衝區大小，這個可以根據你的系統分頁大小來設置，一般一個請求頭的大小不會超過1k，不過由於一般系統分頁都要大於1k，所以這裏設置爲分頁大小。分頁大小可以用命令getconf PAGESIZE 取得。 open_file_cache max=102400 inactive=20s; 這個將爲打開文件指定緩存，默認是沒有啓用的，max 指定緩存數量，建議和打開文件數一致，inactive 是指經過多長時間文件沒被請求後刪除緩存。 open_file_cache_valid 30s; 這個是指多長時間檢查一次緩存的有效信息。 open_file_cache_min_uses 1; open_file_cache 指令中的inactive 參數時間內文件的最少使用次數，如果超過這個數字，文件描述符一直是在緩存中打開的，如上例，如果有一個文件在inactive 時間內一次沒被使用，它將被移除。 （2）關於內核參數的優化：請修改文件/etc/sysctl.conf net.ipv4.tcp_max_tw_buckets = 6000 timewait 的數量，默認是180000。 net.ipv4.ip_local_port_range = 1024 65000 允許系統打開的端口範圍。 net.ipv4.tcp_tw_recycle = 1 啓用timewait 快速回收。 net.ipv4.tcp_tw_reuse = 1 開啓重用。允許將TIME-WAIT sockets 重新用於新的TCP 連接。 net.ipv4.tcp_syncookies = 1 開啓SYN Cookies，當出現SYN 等待隊列溢出時，啓用cookies 來處理。 net.core.somaxconn = 262144 web 應用中listen 函數的backlog 默認會給我們內核參數的net.core.somaxconn 限制到128，而nginx 定義的NGX_LISTEN_BACKLOG 默認爲511，所以有必要調整這個值。 net.core.netdev_max_backlog = 262144 每個網絡接口接收數據包的速率比內核處理這些包的速率快時，允許送到隊列的數據包的最大數目。 net.ipv4.tcp_max_orphans = 262144 系統中最多有多少個TCP 套接字不被關聯到任何一個用戶文件句柄上。如果超過這個數字，孤兒連接將即刻被複位並打印出警告信息。這個限制僅僅是爲了防止簡單的DoS 攻擊，不能過分依靠它或者人爲地減小這個值，更應該增加這個值(如果增加了內存之後)。 net.ipv4.tcp_max_syn_backlog = 262144 記錄的那些尚未收到客戶端確認信息的連接請求的最大值。對於有128M 內存的系統而言，缺省值是1024，小內存的系統則是128。 net.ipv4.tcp_timestamps = 0 時間戳可以避免序列號的卷繞。一個1Gbps 的鏈路肯定會遇到以前用過的序列號。時間戳能夠讓內核接受這種“異常”的數據包。這裏需要將其關掉。 net.ipv4.tcp_synack_retries = 1 爲了打開對端的連接，內核需要發送一個SYN 並附帶一個迴應前面一個SYN 的ACK。也就是所謂三次握手中的第二次握手。這個設置決定了內核放棄連接之前發送SYN+ACK 包的數量。 net.ipv4.tcp_syn_retries = 1 在內核放棄建立連接之前發送SYN 包的數量。 net.ipv4.tcp_fin_timeout = 1 如果套接字由本端要求關閉，這個參數決定了它保持在FIN-WAIT-2 狀態的時間。對端可以出錯並永遠不關閉連接，甚至意外當機。缺省值是60 秒。2.2 內核的通常值是180 秒，你可以按這個設置，但要記住的是，即使你的機器是一個輕載的WEB 服務器，也有因爲大量的死套接字而內存溢出的風險，FIN- WAIT-2 的危險性比FIN-WAIT-1 要小，因爲它最多隻能吃掉1.5K 內存，但是它們的生存期長些。 net.ipv4.tcp_keepalive_time = 30 當keepalive 起用的時候，TCP 發送keepalive 消息的頻度。缺省是2 小時。 （3）關於FastCGI 的幾個指令： fastcgi_cache_path /usr/local/nginx/fastcgi_cache levels=1:2 keys_zone=TEST:10m inactive=5m; 這個指令爲FastCGI 緩存指定一個路徑，目錄結構等級，關鍵字區域存儲時間和非活動刪除時間。 fastcgi_connect_timeout 300; 指定連接到後端FastCGI 的超時時間。 fastcgi_send_timeout 300; 向FastCGI 傳送請求的超時時間，這個值是指已經完成兩次握手後向FastCGI 傳送請求的超時時間。 fastcgi_read_timeout 300; 接收FastCGI 應答的超時時間，這個值是指已經完成兩次握手後接收FastCGI 應答的超時時間。 fastcgi_buffer_size 4k; 指定讀取FastCGI 應答第一部分需要用多大的緩衝區，一般第一部分應答不會超過1k，由於頁面大小爲4k，所以這裏設置爲4k。 fastcgi_buffers 8 4k; 指定本地需要用多少和多大的緩衝區來緩衝FastCGI 的應答。 fastcgi_busy_buffers_size 8k; 這個指令我也不知道是做什麼用，只知道默認值是fastcgi_buffers 的兩倍。 fastcgi_temp_file_write_size 8k; 在寫入fastcgi_temp_path 時將用多大的數據塊，默認值是fastcgi_buffers 的兩倍。 fastcgi_cache TEST 開啓FastCGI 緩存並且爲其制定一個名稱。個人感覺開啓緩存非常有用，可以有效降低CPU 負載，並且防止502 錯誤。 fastcgi_cache_valid 200 302 1h; fastcgi_cache_valid 301 1d; fastcgi_cache_valid any 1m; 爲指定的應答代碼指定緩存時間，如上例中將200，302 應答緩存一小時，301 應答緩存1 天，其他爲1 分鐘。 fastcgi_cache_min_uses 1; 緩存在fastcgi_cache_path 指令inactive 參數值時間內的最少使用次數，如上例，如果在5 分鐘內某文件1 次也沒有被使用，那麼這個文件將被移除。 fastcgi_cache_use_stale error timeout invalid_header http_500; 不知道這個參數的作用，猜想應該是讓nginx 知道哪些類型的緩存是沒用的。