開發(fā)的應用采用F5負載均衡交換機,F(xiàn)5將請求轉發(fā)給5臺hp unix服務器,每臺服務器有多個webserver實例,對外提供web服務和socket等接口服務。之初,曾有個小小的疑問為何不采用開源的apache、Nginx軟件負載,F(xiàn)5設備動輒幾十萬,價格昂貴?自己一個比較幼稚的問題,后續(xù)明白:F5是操作于IOS網絡模型的傳輸層,Nginx、apache是基于http反向代理方式,位于ISO模型的第七層應用層。直白些就是TCP UDP 和http協(xié)議的區(qū)別,Nginx不能為基于TCP協(xié)議的應用提供負載均衡。
了解了二者之間的區(qū)別于應用場景,對Nginx產生濃厚的興趣,閱讀張宴的<實戰(zhàn)Nginx>(這個85年的小伙子年輕有為羨慕+妒忌),搞明白了大致原理和配置,Ubuntu10.10,window下對Nginx+tomcat負載均衡做了配置嘗試,將全部請求轉發(fā)到tomcat,并未做靜態(tài),動態(tài)分開,圖片防盜鏈等配置。
Nginx 介紹
Nginx (發(fā)音同 engine x)是一款輕量級的Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器,并在一個BSD-like 協(xié)議下發(fā)行。 其特點是占有內存少,并發(fā)能力強,事實上nginx的并發(fā)能力確實在同類型的網頁伺服器中表現(xiàn)較好.目前中國大陸使用nginx網站用戶有:新浪、網易、 騰訊,另外知名的微網志Plurk也使用nginx。
上面的全是Nginx介紹基本上是廢話,下面轉入正題,圖文結合展示基本配置,首先是window環(huán)境、其次是Ubuntu環(huán)境(Vbox虛擬)。本文主要基于Nginx下配置兩臺tomcat,結構如下圖:
Window xp環(huán)境:Nginx+Tomcat6
1、下載地址
http://nginx.org/en/download.html,這里我們推薦下載穩(wěn)定版(stable versions),本文采用nginx-0.8.20。
2、目錄結構
Nginx-
|_ conf 配置目錄
|_ contrib
|_ docs 文檔目錄
|_ logs 日志目錄
|_ temp 臨時文件目錄
|_ html 靜態(tài)頁面目錄
|_ nginx.exe 主程序
window下安裝Nginx極其簡單,解壓縮到一個無空格的英文目錄即可(個人習慣,擔心中文出問題),雙擊nginx啟動,這里我安裝到:D:\server目錄,下面涉及到的tomcat也安裝在此目錄。
DOS環(huán)境啟動
若果想停止nginx,dos環(huán)境運行命令:nginx -s stop
3、nginx.conf配置
Nginx配置文件默認在conf目錄,主要配置文件為nginx.conf,我們安裝在D:\server\nginx-0.8.20、默認主配置文件為D:\server\nginx-0.8.20\nginx.conf。下面是nginx作為前端反向代理服務器的配置。
Nginx.conf代碼
#Nginx所用用戶和組,window下不指定
#user niumd niumd;
#工作的子進程數(shù)量(通常等于CPU數(shù)量或者2倍于CPU)
worker_processes 2;
#錯誤日志存放路徑
#error_log logs/error.log;
#error_log logs/error.log notice;
error_log logs/error.log info;
#指定pid存放文件
pid logs/nginx.pid;
events {
#使用網絡IO模型linux建議epoll,F(xiàn)reeBSD建議采用kqueue,window下不指定。
#use epoll;
#允許最大連接數(shù)
worker_connections 2048;
}
http {
include mime.types;
default_type application/octet-stream;
#定義日志格式
#log_format main '$remote_addr - $remote_user [$time_local] $request '
# '"$status" $body_bytes_sent "$http_referer" '
# '"$http_user_agent" "$http_x_forwarded_for"';
#access_log off;
access_log logs/access.log;
client_header_timeout 3m;
client_body_timeout 3m;
send_timeout 3m;
client_header_buffer_size 1k;
large_client_header_buffers 4 4k;
sendfile on;
tcp_nopush on;
tcp_nodelay on;
#keepalive_timeout 75 20;
include gzip.conf;
upstream localhost {
#根據(jù)ip計算將請求分配各那個后端tomcat,許多人誤認為可以解決session問題,其實并不能。
#同一機器在多網情況下,路由切換,ip可能不同
#ip_hash;
server localhost:18081;
server localhost:18080;
}
server {
listen 80;
server_name localhost;
location / {
proxy_connect_timeout 3;
proxy_send_timeout 30;
proxy_read_timeout 30;
proxy_pass http://localhost;
}
}
}
代理設置如下:
Proxy.conf代碼
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
client_max_body_size 10m;
client_body_buffer_size 128k;
proxy_connect_timeout 300;
proxy_send_timeout 300;
proxy_read_timeout 300;
proxy_buffer_size 4k;
proxy_buffers 4 32k;
proxy_busy_buffers_size 64k;
proxy_temp_file_write_size 64k;
gzip壓縮相關配置如下:
Gzip.conf代碼
gzip on;
gzip_min_length 1000;
gzip_types text/plain text/css application/x-javascript;
4、Tomcat配置
對于tomcat大家都很熟悉,只需要修改server.xml配置文件即可,這里我們以apache-tomcat-6.0.14為例,分別在server目錄,解壓縮并命名為:apache-tomcat-6.0.14_1、apache-tomcat-6.0.14_2。
第一處端口修改:
Xml代碼
<Server port="18006" shutdown="SHUTDOWN">
第二處端口修改:
Xml代碼
<Connector port="18081" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
第三處端口修改:
Java代碼
"8009" protocol="AJP/1.3" redirectPort="8443" />
Engine元素增加jvmRoute屬性:
Xml代碼
<Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">
兩個tomcat的端口別重復,保證能啟動起來,另一個tomcat配置希捷省略,監(jiān)聽端口為18080,附件中我們將上傳所有的配置信息。
5、驗證配置與測試負載均衡
首先測試nginx配置是否正確,測試命令:nginx -t (默認驗證:conf\nginx.conf),也可以指定配置文件路徑。
此例nginx安裝目錄:D:\server\nginx-0.8.20,dos環(huán)境下圖畫面成功示例:
其次驗證tomcat,啟動兩個tomcat,不出現(xiàn)端口沖突即為成功(tomcat依賴的java等搞“挨踢”的就廢話不說了);
最后驗證配置負載均衡設置,
http://localhost/或
http://localhost/index.jsp。我修改了index.jsp頁面,增加日志輸出信息,便于觀察。注意:左上角小貓頭上的:access tomcat2、access tomcat1。說明訪問了不同的tomcat。
至此window下nginx+tomcat負載均衡配置結束,關于tomcat Session的問題通常是采用memcached,或者采用nginx_upstream_jvm_route ,他是一個 Nginx 的擴展模塊,用來實現(xiàn)基于 Cookie 的 Session Sticky 的功能。如果tomcat過多不建議session同步,server間相互同步session很耗資源,高并發(fā)環(huán)境容易引起Session風暴。請根據(jù)自己應用情況合理采納session解決方案。
Ubuntu10.10環(huán)境:Nginx+Tomcat6
我們下面簡單說下ubuntu10.10下如何安裝配置,主要以圖片為主,簡單解釋。
1、下載Nginx
地址:
http://nginx.org/en/download.html,linux版本:nginx-0.8.20.tar.。解壓縮命令:
tar -zxvf nginx-0.8.20.tar.gz
2、編譯安裝Nginx
Nginx依賴一些其他PCRE、openssl(依賴libssl-dev),本人筆記本Ubuntu環(huán)境已經安裝PCRE,僅需安裝依賴的openssl,下面我們簡單說下如何安裝PCRE和openssl等
PCRE下載地址:
ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/Shell代碼
tar zxvf pcre-8.01.tar.gz
cd pcre-8.01
sudo ./configure
sodu make
sodu make install
openssl通過apt-get install安裝,命令、截圖如下:
Shell代碼
sudo apt-get install openssl
sudo apt-get install libssl-dev
//如缺少其他包,請采用此方法安裝,ubuntu有依賴提示
依賴的軟件包安裝完畢,下面來編譯Nginx:
Shell代碼
#將window共享目錄軟件拷貝到當前工作目錄
cp /mnt/fileshare/nginx-0.8.20.tar.gz ./
#解壓縮軟件包
tar zxvf nginx-0.8.20.tar.gz
cd nginx-0.8.20
//編譯源碼,默認使用nobody,指定本機已存在的用戶,組,啟用nginx-status功能,監(jiān)控nginx狀態(tài)。啟動debug
sudo ./configure --user=niumd --group=niumd --with-debug --with-http_stub_status_module
sudo make
sudo make install
截圖 如下:
安裝結果截圖如下:
編譯安裝正確結束,按照上述window下方法檢查默認配置,然后在默認配置下啟動nginx,訪問
http://127.0.0.1,如下圖說明成功
Nginx配置成功后我們對window下nginx.conf少做修改,如下:
Ubuntu nginx.conf代碼
#Nginx所用用戶和組
user niumd niumd;
#工作的子進程數(shù)量(通常等于CPU數(shù)量或者2倍于CPU)
worker_processes 2;
#錯誤日志存放路徑
#error_log logs/error.log;
#error_log logs/error.log notice;
error_log logs/error.log info;
#指定pid存放文件
pid logs/nginx.pid;
events {
#使用網絡IO模型linux建議epoll,F(xiàn)reeBSD建議采用kqueue
use epoll;
#允許最大連接數(shù)
worker_connections 2048;
}
http {
include mime.types;
default_type application/octet-stream;
#定義日志格式
#log_format main '$remote_addr - $remote_user [$time_local] $request '
# '"$status" $body_bytes_sent "$http_referer" '
# '"$http_user_agent" "$http_x_forwarded_for"';
#access_log off;
access_log logs/access.log;
client_header_timeout 3m;
client_body_timeout 3m;
send_timeout 3m;
client_header_buffer_size 1k;
large_client_header_buffers 4 4k;
sendfile on;
tcp_nopush on;
tcp_nodelay on;
#keepalive_timeout 75 20;
include gzip.conf;
upstream localhost {
#ip_hash
#ip_hash;
server localhost:18081;
server localhost:18080;
}
server {
listen 80;
server_name localhost;
location / {
proxy_connect_timeout 3;
proxy_send_timeout 30;
proxy_read_timeout 30;
proxy_pass http://localhost;
}
}
}
對于上面關于ubuntu下Nginx配置和window下基本相同,區(qū)別在使用的IO網絡模型,linux下建議使用epoll,另外就是運行所用的用戶和組;
3、配置tomcat
請參考window下配置,完全相同。
4、啟動停止nginx
ubuntu下啟動nginx與window稍有不同,大致啟動停止方法如下。
Java代碼
#nginx目錄執(zhí)行
sbin/nginx
或通過-c 指定配置文件
sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf
Shell代碼
niumd@niumd-laptop:/usr/local/nginx$ pwd
/usr/local/nginx
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t
the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
configuration file /usr/local/nginx/conf/nginx.conf test is successful
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v
nginx version: nginx/0.8.20
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V
nginx version: nginx/0.8.20
built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5)
configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module
niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx
niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx
root 5158 1 0 22:32 ? 00:00:00 nginx: master process sbin/nginx
niumd 5159 5158 0 22:32 ? 00:00:00 nginx: worker process
niumd 5161 1577 0 22:32 pts/0 00:00:00 grep --color=auto nginx
niumd@niumd-laptop:/usr/local/nginx$
我們通過ps -ef|grep nginx,看到如下結果:
注意:在啟動時linux提示一句警告【warn】……,是因為我們設置的 #允許最大連接數(shù) worker_connections 2048,超過linux默認1024的限制。
停止:kill -信號類型 pid
nginx/logs目錄下有個nginx。pid的文件,此文件記錄了每次運行的pid,也可以通過ps命令查詢。
信號類型如下:
信號類型 描述
RERM.INT 快速關閉
HUP 平滑重啟,加載配置
USR1 重新加載日志
USER2 平滑升級執(zhí)行程序
WINCH 從容關閉工作進程
QUIT 從容關閉
參考資料:
http://www.oschina.net/bbs/thread/9301oschina.net 生產配置,此網站采用java語言,nginx,tomcat服務器。
http://nginx.org/張宴:<<實戰(zhàn)Nginx>>