準(zhǔn)備系統(tǒng)性介紹“技術(shù)體系規(guī)劃”了,這是第一篇。
監(jiān)控平臺(tái),服務(wù)治理,調(diào)用鏈跟蹤,數(shù)據(jù)收集中心,自動(dòng)化運(yùn)維,自動(dòng)化測(cè)試… 很多要講,卻沒想好從哪里入手。
講Z平臺(tái),可能需要提前介紹Y服務(wù);講Y服務(wù),可能需要提前介紹X知識(shí)。
思來想去,準(zhǔn)備從技術(shù)體系里,最容易被遺漏,非?;A(chǔ),卻又非常重要的“集群信息管理”開始介紹。
由于基礎(chǔ),可能部分同學(xué)會(huì)覺得簡(jiǎn)單;由于大家所在公司處于不同階段,所以在實(shí)現(xiàn)上會(huì)介紹不同階段的公司應(yīng)該如何來實(shí)現(xiàn)。
還是一如既往的按照“架構(gòu)師之路”的思路:
是什么
什么場(chǎng)景,為什么會(huì)用到,存在什么問題
常見方案及痛點(diǎn)
不同階段公司,不同實(shí)現(xiàn)方案
希望大伙有收獲。
一、啥是集群?
互聯(lián)網(wǎng)典型分層架構(gòu)如下:
web-server層
service層
db層與cache層
為了保證高可用,每一個(gè)站點(diǎn)、服務(wù)、數(shù)據(jù)庫(kù)、緩存都會(huì)冗余多個(gè)實(shí)例,組成一個(gè)分布式的系統(tǒng),集群則是一個(gè)分布式的物理形態(tài)。
額,好拗口,通俗的說,集群就是一堆機(jī)器,上面部署了提供相似功能的站點(diǎn),服務(wù),數(shù)據(jù)庫(kù),或者緩存。
如上圖:
web集群,由web.1和web.2兩個(gè)實(shí)例組成
service集群,由service.1/service.2/service.3三個(gè)實(shí)例組成
db集群,由mysql-M/mysql-S1/mysql-S2三個(gè)實(shí)例組成
cache集群,由cache-M/cache-S兩個(gè)實(shí)例組成
與“集群”相對(duì)應(yīng)的是“單機(jī)”。
畫外音:關(guān)于高可用架構(gòu),詳見文章《究竟啥才是互聯(lián)網(wǎng)架構(gòu)“高可用”》。
畫外音:緩存如果沒有高可用要求,可能是單機(jī)架構(gòu),而不是集群。
二、集群信息
什么是集群信息?
一個(gè)集群,會(huì)包含若干信息(額,這tm算什么解釋),例如:
集群名稱
IP列表
二進(jìn)制目錄
配置目錄
日志目錄
負(fù)責(zé)人列表
畫外音:集群IP列表不建議直接使用IP,而建議使用內(nèi)網(wǎng)域名,詳見文章《小小的IP,大大的耦合》。
什么時(shí)候會(huì)用到集群信息呢?
很多場(chǎng)景,特別是線上操作,都會(huì)使用到各種集群信息,例如:
自動(dòng)化上線
監(jiān)控
日志清理
二進(jìn)制與配置的備份
下游的調(diào)用(額,這個(gè)最典型)
這些場(chǎng)景,分別都是如何讀取集群信息的?
一般來說,早期會(huì)把集群信息寫在配置文件里。
例如,自動(dòng)化上線,有一個(gè)配置文件,deploy.user.service.config,其內(nèi)容是:
name : user.service
ip.list : ip1, ip2, ip3
bin.path : /user.service/bin/
ftp.path : ftp://192.168.0.1/USER_2_0_1_3/user.exe
自動(dòng)化上線的過程,則是:
把可執(zhí)行文件從ftp拉下來
讀取集群IP列表
讀取二進(jìn)制應(yīng)該部署的目錄
把二進(jìn)制部署到線上
逐臺(tái)重啟
畫外音:啥,還沒有實(shí)現(xiàn)自動(dòng)化腳本部署?還處在運(yùn)維ssh到線上,手動(dòng)執(zhí)行命令,逐臺(tái)機(jī)器人肉部署的刀耕火種階段?趕緊照著這個(gè)方案,做自動(dòng)化改造吧。
又例如,web-X調(diào)用下游的user服務(wù),又有一個(gè)配置文件,web-X.config,其內(nèi)容配置了:
service.name : user.service
service.ip.list : ip1, ip2, ip3
service.port : 8080
web-X調(diào)用user服務(wù)的過程,則是:
web-X啟動(dòng)
web-X讀取user服務(wù)集群的IP列表與端口
web-X初始化user服務(wù)連接池
web-X拿取user服務(wù)的連接,通過RPC接口調(diào)用user服務(wù)
日志清理,服務(wù)監(jiān)控,二進(jìn)制備份的過程,也都與上述類似。
三、存在什么問題?
上述業(yè)務(wù)場(chǎng)景,對(duì)于集群信息的使用,有兩個(gè)最大的特點(diǎn):
每個(gè)應(yīng)用場(chǎng)景,所需集群信息都不一樣(A場(chǎng)景需要集群abc信息,B場(chǎng)景需要集群def信息)
每個(gè)應(yīng)用場(chǎng)景,集群信息都寫在“自己”的配置文件里
一句話總結(jié):集群信息管理分散化。
這里最大的問題,是耦合,當(dāng)集群的信息發(fā)生變化的時(shí)候,有非常多的配置需要修改:
deploy.user.service.config
clean.log.user.service.config
backup.bin.user.service.config
monitor.config
web-X.config
…
這些配置里,user服務(wù)集群的信息都需要修改:
隨著研發(fā)、測(cè)試、運(yùn)維人員的流動(dòng),很多配置放在哪里,逐步就被遺忘了
隨著時(shí)間的推移,一些配置就被改漏了
逐漸的,莫名其妙的問題出現(xiàn)了
畫外音:ca,誰痛誰知道
如何解決上述耦合的問題呢?
一句話回答:集群信息管理集中化。
四、如何集中化管理集群信息
如何集中化管理集群配置信息,不同發(fā)展階段的公司,實(shí)現(xiàn)的方式不一樣。
早期方案
通過全局配置文件,實(shí)現(xiàn)集群信息集中管理,舉例global.config如下:
[user.service]
ip.list : ip1, ip2, ip3
port : 8080
bin.path : /user.service/bin/
log.path : /user.service/log/
conf.path : /user.service/conf/
ftp.path :ftp://192.168.0.1/USER_2_0_1_3/user.exe
owner.list : shenjian, zhangsan, lisi
[passport.web]
ip.list : ip11, ip22, ip33
port : 80
bin.path : /passport.web/bin/
log.path : /passport.web/log/
conf.path : /passport.web/conf/
ftp.path :ftp://192.168.0.1/PST_1_2_3_4/passport.jar
owner.list : shenjian, zui, shuaiqi
集中維護(hù)集群信息之后:
任何需要讀取集群信息的場(chǎng)景,都從global.config里讀取
任何集群信息的修改,只需要修改global.config一處
global.config會(huì)部署到任何一臺(tái)線上機(jī)器,維護(hù)和管理也很方便
畫外音:額,當(dāng)然,信息太多的話,global.config也要垂直拆分
中期方案
隨著公司業(yè)務(wù)的發(fā)展,隨著技術(shù)團(tuán)隊(duì)的擴(kuò)充,隨著技術(shù)體系的完善,通過集群信息管理服務(wù),來維護(hù)集群信息的訴求原來越強(qiáng)烈。
畫外音:慢慢的,配置太多了,通過global.config來修改配置太容易出錯(cuò)了
如上圖,建立集群信息管理服務(wù):
info.db :存儲(chǔ)集群信息
info.cache :緩存集群信息
info.service :提供集群信息訪問的RPC接口,以及HTTP接口
info.web :集群信息維護(hù)后臺(tái)
服務(wù)的核心接口是:
Info InfoService::getInfo(String ClusterName);
Bool InfoService::setInfo(String ClusterName, String key, String value);
然后,統(tǒng)一通過服務(wù)來獲取與修改集群信息:
所有需要獲取集群信息的場(chǎng)景,都通過info.service提供的接口來讀取集群信息
所有需要修改集群信息的場(chǎng)景,都通過info.web來操作
長(zhǎng)期方案
集群信息服務(wù)可以解決大部分的耦合問題,但仍然有一個(gè)不足:集群信息變更時(shí),無法反向?qū)崟r(shí)通知關(guān)注方,集群信息發(fā)生了改變。更長(zhǎng)遠(yuǎn)的,要引入配置中心來解決。
配置中心的細(xì)節(jié),網(wǎng)上的分析很多,之前也撰文寫過,細(xì)節(jié)就不再本文展開。
五、總結(jié)
集群信息管理,是架構(gòu)設(shè)計(jì)中非常容易遺漏的一環(huán),但又是非?;A(chǔ),非常重要的基礎(chǔ)設(shè)施,一定要在早期規(guī)劃好:
傳統(tǒng)的方式,分散化管理集群信息,容易導(dǎo)致耦合
集中管理集群信息,有全局配置,信息服務(wù),配置中心三個(gè)階段
六、調(diào)研
調(diào)研一、對(duì)于集群信息管理,你的感受是:
ca,沒考慮過這個(gè)問題,一直是分散式管理
在使用全局配置文件
在使用信息管理服務(wù)
在使用配置中心
調(diào)研二、對(duì)于自動(dòng)化運(yùn)維,你的感受是:
ca,啥是運(yùn)維,都是研發(fā)在線上亂搞
有專門的運(yùn)維,但一直是人肉運(yùn)維
運(yùn)維在使用腳本,實(shí)現(xiàn)了自動(dòng)化
運(yùn)維都下崗了,在使用平臺(tái),實(shí)現(xiàn)了平臺(tái)化
聯(lián)系客服