公司內(nèi)部 OA 系統(tǒng)要做線上高可用,避免單點(diǎn)故障,所以計(jì)劃使用2臺(tái)虛擬機(jī)通過 Keepalived 工具來實(shí)現(xiàn) nginx 的高可用(High Avaiability),達(dá)到一臺(tái)nginx入口服務(wù)器宕機(jī),另一臺(tái)備機(jī)自動(dòng)接管服務(wù)的效果。(nginx做反向代理,實(shí)現(xiàn)后端應(yīng)用服務(wù)器的負(fù)載均衡)快速搭建請(qǐng)直接跳至 第2節(jié)。
Keepalived是一個(gè)基于VRRP協(xié)議來實(shí)現(xiàn)的服務(wù)高可用方案,可以利用其來避免IP單點(diǎn)故障,類似的工具還有heartbeat、corosync、pacemaker。但是它一般不會(huì)單獨(dú)出現(xiàn),而是與其它負(fù)載均衡技術(shù)(如lvs、haproxy、nginx)一起工作來達(dá)到集群的高可用。
VRRP全稱 Virtual Router Redundancy Protocol,即 虛擬路由冗余協(xié)議。可以認(rèn)為它是實(shí)現(xiàn)路由器高可用的容錯(cuò)協(xié)議,即將N臺(tái)提供相同功能的路由器組成一個(gè)路由器組(Router Group),這個(gè)組里面有一個(gè)master和多個(gè)backup,但在外界看來就像一臺(tái)一樣,構(gòu)成虛擬路由器,擁有一個(gè)虛擬IP(vip,也就是路由器所在局域網(wǎng)內(nèi)其他機(jī)器的默認(rèn)路由),占有這個(gè)IP的master實(shí)際負(fù)責(zé)ARP相應(yīng)和轉(zhuǎn)發(fā)IP數(shù)據(jù)包,組中的其它路由器作為備份的角色處于待命狀態(tài)。master會(huì)發(fā)組播消息,當(dāng)backup在超時(shí)時(shí)間內(nèi)收不到vrrp包時(shí)就認(rèn)為master宕掉了,這時(shí)就需要根據(jù)VRRP的優(yōu)先級(jí)來選舉一個(gè)backup當(dāng)master,保證路由器的高可用。
在VRRP協(xié)議實(shí)現(xiàn)里,虛擬路由器使用 00-00-5E-00-01-XX 作為虛擬MAC地址,XX就是唯一的 VRID (Virtual Router IDentifier),這個(gè)地址同一時(shí)間只有一個(gè)物理路由器占用。在虛擬路由器里面的物理路由器組里面通過多播IP地址 224.0.0.18 來定時(shí)發(fā)送通告消息。每個(gè)Router都有一個(gè) 1-255 之間的優(yōu)先級(jí)別,級(jí)別最高的(highest priority)將成為主控(master)路由器。通過降低master的優(yōu)先權(quán)可以讓處于backup狀態(tài)的路由器搶占(pro-empt)主路由器的狀態(tài),兩個(gè)backup優(yōu)先級(jí)相同的IP地址較大者為master,接管虛擬IP。
直接摘抄自 http://www.linuxidc.com/Linux/2013-08/89227.htm :
Heartbeat、Corosync、Keepalived這三個(gè)集群組件我們到底選哪個(gè)好,首先我想說明的是,Heartbeat、Corosync是屬于同一類型,Keepalived與Heartbeat、Corosync,根本不是同一類型的。Keepalived使用的vrrp協(xié)議方式,虛擬路由冗余協(xié)議 (Virtual Router Redundancy Protocol,簡稱VRRP);Heartbeat或Corosync是基于主機(jī)或網(wǎng)絡(luò)服務(wù)的高可用方式;簡單的說就是,Keepalived的目的是模擬路由器的高可用,Heartbeat或Corosync的目的是實(shí)現(xiàn)Service的高可用。
所以一般Keepalived是實(shí)現(xiàn)前端高可用,常用的前端高可用的組合有,就是我們常見的LVS+Keepalived、Nginx+Keepalived、HAproxy+Keepalived。而Heartbeat或Corosync是實(shí)現(xiàn)服務(wù)的高可用,常見的組合有Heartbeat v3(Corosync)+Pacemaker+NFS+Httpd 實(shí)現(xiàn)Web服務(wù)器的高可用、Heartbeat v3(Corosync)+Pacemaker+NFS+MySQL 實(shí)現(xiàn)MySQL服務(wù)器的高可用??偨Y(jié)一下,Keepalived中實(shí)現(xiàn)輕量級(jí)的高可用,一般用于前端高可用,且不需要共享存儲(chǔ),一般常用于兩個(gè)節(jié)點(diǎn)的高可用。而Heartbeat(或Corosync)一般用于服務(wù)的高可用,且需要共享存儲(chǔ),一般用于多節(jié)點(diǎn)的高可用。這個(gè)問題我們說明白了。
又有博友會(huì)問了,那heartbaet與corosync我們又應(yīng)該選擇哪個(gè)好啊,我想說我們一般用corosync,因?yàn)閏orosync的運(yùn)行機(jī)制更優(yōu)于heartbeat,就連從heartbeat分離出來的pacemaker都說在以后的開發(fā)當(dāng)中更傾向于corosync,所以現(xiàn)在corosync+pacemaker是最佳組合。
keepalived可以認(rèn)為是VRRP協(xié)議在Linux上的實(shí)現(xiàn),主要有三個(gè)模塊,分別是core、check和vrrp。core模塊為keepalived的核心,負(fù)責(zé)主進(jìn)程的啟動(dòng)、維護(hù)以及全局配置文件的加載和解析。check負(fù)責(zé)健康檢查,包括常見的各種檢查方式。vrrp模塊是來實(shí)現(xiàn)VRRP協(xié)議的。本文基于如下的拓?fù)鋱D:
1 | +-------------+ |
我的環(huán)境是CentOS 6.2 X86_64,直接通過yum方式安裝最簡單:
1 | # yum install -y keepalived |
該腳本檢測ngnix的運(yùn)行狀態(tài),并在nginx進(jìn)程不存在時(shí)嘗試重新啟動(dòng)ngnix,如果啟動(dòng)失敗則停止keepalived,準(zhǔn)備讓其它機(jī)器接管。
/etc/keepalived/check_nginx.sh
:
1 | #!/bin/bash |
你也可以根據(jù)自己的業(yè)務(wù)需求,總結(jié)出在什么情形下關(guān)閉keepalived,如 curl 主頁連續(xù)2個(gè)5s沒有響應(yīng)則切換:
1 | #!/bin/bash |
1 | ! Configuration File for keepalived |
在其它備機(jī)BACKUP上,只需要改變 state MASTER
-> state BACKUP
,priority 101
-> priority 100
,mcast_src_ip 172.29.88.224
-> mcast_src_ip 172.29.88.225
即可。
service keepalived restart
global_defs
notification_email
: keepalived在發(fā)生諸如切換操作時(shí)需要發(fā)送email通知地址,后面的 smtp_server 相比也都知道是郵件服務(wù)器地址。也可以通過其它方式報(bào)警,畢竟郵件不是實(shí)時(shí)通知的。router_id
: 機(jī)器標(biāo)識(shí),通??稍O(shè)為hostname。故障發(fā)生時(shí),郵件通知會(huì)用到vrrp_instance
state
: 指定instance(Initial)的初始狀態(tài),就是說在配置好后,這臺(tái)服務(wù)器的初始狀態(tài)就是這里指定的,但這里指定的不算,還是得要通過競選通過優(yōu)先級(jí)來確定。如果這里設(shè)置為MASTER,但如若他的優(yōu)先級(jí)不及另外一臺(tái),那么這臺(tái)在發(fā)送通告時(shí),會(huì)發(fā)送自己的優(yōu)先級(jí),另外一臺(tái)發(fā)現(xiàn)優(yōu)先級(jí)不如自己的高,那么他會(huì)就回?fù)屨紴镸ASTERinterface
: 實(shí)例綁定的網(wǎng)卡,因?yàn)樵谂渲锰摂MIP的時(shí)候必須是在已有的網(wǎng)卡上添加的mcast_src_ip
: 發(fā)送多播數(shù)據(jù)包時(shí)的源IP地址,這里注意了,這里實(shí)際上就是在那個(gè)地址上發(fā)送VRRP通告,這個(gè)非常重要,一定要選擇穩(wěn)定的網(wǎng)卡端口來發(fā)送,這里相當(dāng)于heartbeat的心跳端口,如果沒有設(shè)置那么就用默認(rèn)的綁定的網(wǎng)卡的IP,也就是interface指定的IP地址virtual_router_id
: 這里設(shè)置VRID,這里非常重要,相同的VRID為一個(gè)組,他將決定多播的MAC地址priority
: 設(shè)置本節(jié)點(diǎn)的優(yōu)先級(jí),優(yōu)先級(jí)高的為masteradvert_int
: 檢查間隔,默認(rèn)為1秒。這就是VRRP的定時(shí)器,MASTER每隔這樣一個(gè)時(shí)間間隔,就會(huì)發(fā)送一個(gè)advertisement報(bào)文以通知組內(nèi)其他路由器自己工作正常authentication
: 定義認(rèn)證方式和密碼,主從必須一樣virtual_ipaddress
: 這里設(shè)置的就是VIP,也就是虛擬IP地址,他隨著state的變化而增加刪除,當(dāng)state為master的時(shí)候就添加,當(dāng)state為backup的時(shí)候刪除,這里主要是有優(yōu)先級(jí)來決定的,和state設(shè)置的值沒有多大關(guān)系,這里可以設(shè)置多個(gè)IP地址track_script
: 引用VRRP腳本,即在 vrrp_script 部分指定的名字。定期運(yùn)行它們來改變優(yōu)先級(jí),并最終引發(fā)主備切換。vrrp_script
告訴 keepalived 在什么情況下切換,所以尤為重要??梢杂卸鄠€(gè) vrrp_script
script
: 自己寫的檢測腳本。也可以是一行命令如killall -0 nginx
interval 2
: 每2s檢測一次weight -5
: 檢測失?。_本返回非0)則優(yōu)先級(jí) -5 fall 2
: 檢測連續(xù) 2 次失敗才算確定是真失敗。會(huì)用weight減少優(yōu)先級(jí)(1-255之間)rise 1
: 檢測 1 次成功就算成功。但不修改優(yōu)先級(jí)這里要提示一下script一般有2種寫法:
上文 vrrp_script 配置部分,killall -0 nginx
屬于第1種情況,/etc/keepalived/check_nginx.sh
屬于第2種情況(腳本中關(guān)閉keepalived)。個(gè)人更傾向于通過shell腳本判斷,但有異常時(shí)exit 1,正常退出exit 0,然后keepalived根據(jù)動(dòng)態(tài)調(diào)整的 vrrp_instance 優(yōu)先級(jí)選舉決定是否搶占VIP:
其他情況,原本配置的優(yōu)先級(jí)不變,即配置文件中priority對(duì)應(yīng)的值。
提示:
nopreempt
,當(dāng)它異?;謴?fù)后,即使它 prio 更高也不會(huì)搶占,這樣可以避免正常情況下做無謂的切換以上可以做到利用腳本檢測業(yè)務(wù)進(jìn)程的狀態(tài),并動(dòng)態(tài)調(diào)整優(yōu)先級(jí)從而實(shí)現(xiàn)主備切換。
配置結(jié)束
在默認(rèn)的keepalive.conf里面還有 virtual_server,real_server 這樣的配置,我們這用不到,它是為lvs準(zhǔn)備的。 notify
可以定義在切換成MASTER或BACKUP時(shí)執(zhí)行的腳本,如有需求請(qǐng)自行g(shù)oogle。
notify
當(dāng)然nginx沒有什么可配置的,因?yàn)樗ckeepalived并沒有聯(lián)系。但記住,2臺(tái)nginx服務(wù)器上的配置應(yīng)該是完全一樣的(rsync同步),這樣才能做到對(duì)用戶透明,nginx.conf 里面的 server_name
盡量使用域名來代替,然后dns解析這個(gè)域名到虛擬IP 172.29.88.222。
更多關(guān)于nginx內(nèi)容配置請(qǐng)參考 這里 。
根據(jù)上面的配置,初始化狀態(tài):172.29.88.224 (itoatest1,MASTER,101),172.29.88.222(itoatest2,BACKUP,100),nginx和keepalived都啟動(dòng),虛擬IP 172.29.88.222 在 itoatest1 上:
1 | # 使用ip命令配置的地址,ifconfig查看不了 |
瀏覽器訪問 172.29.88.222 或域名,OK。
直接關(guān)閉 itoatest1 上的nginx:/usr/local/nginx-1.6/sbin/nginx -s stop
:
1 | [root@localhost keepalived]# ip a|grep eth0 |
vip消失,漂移到 itoatest2:
同時(shí)可以看到兩臺(tái)服務(wù)器上 /var/log/messages
:
1 | ## itoatest1 |
你也可以通過在兩臺(tái)服務(wù)器上抓包來查看 優(yōu)先級(jí)priority 的變化:
1 | ## itoatest1 上 |
參考
聯(lián)系客服