這裏對負載均衡概念和nginx負載均衡實現方式做一個總結：
先說一下負載均衡的概念：
Load Balance負載均衡是用於解決一臺機器(一個進程)無法解決所有請求而產生的一種算法。我們知道單臺服務器的性能是有上限的，當流量很大時，就需要使用多臺服務器來共同提供服務，這就是所謂的集羣。負載均衡服務器，就是用來把經過它的流量，按照某種方法，分配到集羣中的各臺服務器上。這樣一來不僅可以承擔更大的流量、降低服務的延遲，還可以避免單點故障造成服務不可用。一般的反向代理服務器，都具備負載均衡的功能。負載均衡功能可以由硬件來提供，比如以前的F5設備。也可以由軟件來提供，LVS可以提供四層的負載均衡(利用IP和端口)，Haproxy和Nginx可以提供七層的負載均衡(利用應用層信息)。像nginx可以使用負載均衡分配流量，ribbon爲客戶端提供負載均衡，dubbo服務調用裏的負載均衡等等，很多地方都使用到了負載均衡。
使用負載均衡帶來的好處很明顯：
當集羣裏的1臺或者多臺服務器down的時候，剩餘的沒有down的服務器可以保證服務的繼續使用
使用了更多的機器保證了機器的良性使用，不會由於某一高峯時刻導致系統cpu急劇上升
負載均衡有好幾種實現策略，常見的有：
隨機 (Random)
輪詢 (RoundRobin)
一致性哈希 (ConsistentHash)
哈希 (Hash)
加權（Weighted）
Nginx目前提供的負載均衡模塊：
ngx_http_upstream_round_robin，加權輪詢，可均分請求，是默認的HTTP負載均衡算法，集成在框架中。
ngx_http_upstream_ip_hash_module，IP哈希，可保持會話。
ngx_http_upstream_least_conn_module，最少連接數，可均分連接。
ngx_http_upstream_hash_module，一致性哈希，可減少緩存數據的失效。
1、輪詢
輪詢即Round Robin，根據Nginx配置文件中的順序，依次把客戶端的Web請求分發到不同的後端服務器。
配置的例子如下：
http{
upstream sampleapp {
server <<dns entry or IP Address(optional with port)>>;
server <<another dns entry or IP Address(optional with port)>>;
}
....
server{
listen 80;
...
location / {
proxy_pass http://sampleapp;
}
}
上面只有1個DNS入口被插入到upstream節，即sampleapp，同樣也在後面的proxy_pass節重新提到。
實例：
http {
upstream myservers{
server 134.56.56.4:8001;
server 134.56.56.4:8002;
server 134.56.52.4:8011;
server 134.56.52.4:8012;
server {
listen 80;
location / {
proxy_pass http://myservers;
}
}
}
2、最少連接Web請求會被轉發到連接數最少的服務器上。
配置的例子如下：
http{
upstream sampleapp {
least_conn;
server <<dns entry or IP Address(optional with port)>>;
server <<another dns entry or IP Address(optional with port)>>;
}
....
server{
listen 80;
...
location / {
proxy_pass http://sampleapp;
}
}
上面的例子只是在upstream節添加了least_conn配置。其它的配置同輪詢配置。
3、IP地址哈希
前述的兩種負載均衡方案中，同一客戶端連續的Web請求可能會被分發到不同的後端服務器進行處理，因此如果涉及到會話Session，那麼會話會比較複雜。常見的是基於數據庫的會話持久化。要克服上面的難題，可以使用基於IP地址哈希的負載均衡方案。這樣的話，同一客戶端連續的Web請求都會被分發到同一服務器進行處理。
配置的例子如下：
http{
upstream sampleapp {
ip_hash;
server <<dns entry or IP Address(optional with port)>>;
server <<another dns entry or IP Address(optional with port)>>;
}
....
server{
listen 80;
...
location / {
proxy_pass http://sampleapp;
}
}
上面的例子只是在upstream節添加了ip_hash配置。其它的配置同輪詢配置。
4、基於權重的負載均衡
基於權重的負載均衡即Weighted Load Balancing，這種方式下，我們可以配置Nginx把請求更多地分發到高配置的後端服務器上，把相對較少的請求分發到低配服務器。
配置的例子如下：
http{
upstream sampleapp {
server <<dns entry or IP Address(optional with port)>> weight=2;
server <<another dns entry or IP Address(optional with port)>>;
}
....
server{
listen 80;
...
location / {
proxy_pass http://sampleapp;
}
}
上面的例子在服務器地址和端口後weight=2的配置，這意味着，每接收到3個請求，前2個請求會被分發到第一個服務器，第3個請求會分發到第二個服務器，其它的配置同輪詢配置。
還要說明一點，基於權重的負載均衡和基於IP地址哈希的負載均衡可以組合在一起使用。
關於多節點集羣部署帶來的session問題，我使用了緩存技術，緩存可以使用memcached，也可以使用redis。由於srping-session 和spring-data-redis由很好的支持，所以我採用了redis解決session共享問題。