一個(gè)好的架構(gòu)是靠演變而來(lái)，而不是單純的靠設(shè)計(jì)。剛開(kāi)始做架構(gòu)設(shè)計(jì)，我們不可能全方位的考慮到架構(gòu)的高性能、高擴(kuò)展性、高安全等各方面的因素。隨著業(yè)務(wù)需求越來(lái)越多、業(yè)務(wù)訪問(wèn)壓力越來(lái)越大，架構(gòu)不斷的演變及進(jìn)化，因而造就了一個(gè)成熟穩(wěn)定的大型架構(gòu)。如淘寶網(wǎng)、Facebook等大型網(wǎng)站的架構(gòu)，無(wú)不從一個(gè)小型規(guī)模架構(gòu)，不斷進(jìn)化及演變成為一個(gè)大型網(wǎng)站架構(gòu)。
隨著云計(jì)算的到來(lái)，當(dāng)前已經(jīng)從IT時(shí)代向DT時(shí)代開(kāi)始轉(zhuǎn)型。在云端如何構(gòu)建千萬(wàn)級(jí)架構(gòu)，本文主要結(jié)合自身的最佳實(shí)踐經(jīng)驗(yàn)，向大家分享如何從一個(gè)小型網(wǎng)站逐步演變到千萬(wàn)級(jí)架構(gòu)的過(guò)程。
架構(gòu)原始階段：萬(wàn)能的單機(jī)
架構(gòu)的最原始階段，即一臺(tái)ECS服務(wù)器搞定一切。傳統(tǒng)官網(wǎng)、論壇等應(yīng)用，只需要一臺(tái)ECS。對(duì)應(yīng)的web服務(wù)器、數(shù)據(jù)庫(kù)、靜態(tài)文件資源等，部署到一臺(tái)ECS上即可。一般5萬(wàn)pv到30萬(wàn)pv訪問(wèn)量，結(jié)合內(nèi)核參數(shù)調(diào)優(yōu)、web應(yīng)用性能參數(shù)調(diào)優(yōu)、數(shù)據(jù)庫(kù)調(diào)優(yōu)，基本上能夠穩(wěn)定的運(yùn)行。
架構(gòu)采用單臺(tái)ECS：
架構(gòu)基礎(chǔ)階段：物理分離web和數(shù)據(jù)庫(kù)
當(dāng)訪問(wèn)壓力達(dá)到50萬(wàn)pv到100萬(wàn)pv的時(shí)候，部署在一臺(tái)服務(wù)器上面的web應(yīng)用及數(shù)據(jù)庫(kù)等服務(wù)應(yīng)用，會(huì)對(duì)服務(wù)器的CPU/內(nèi)存/磁盤/帶寬等系統(tǒng)資源進(jìn)行競(jìng)爭(zhēng)。顯然單機(jī)已經(jīng)出現(xiàn)性能瓶頸。我們將web應(yīng)用和數(shù)據(jù)庫(kù)物理分離單獨(dú)部署，解決對(duì)應(yīng)性能問(wèn)題。這里的架構(gòu)采用ECS+RDS：
架構(gòu)動(dòng)靜分離階段：靜態(tài)緩存 + 文件存儲(chǔ)
當(dāng)訪問(wèn)壓力達(dá)到100萬(wàn)pv到300萬(wàn)pv的時(shí)候，我們看到前端web服務(wù)出現(xiàn)性能瓶頸。大量的web請(qǐng)求被堵塞，同時(shí)服務(wù)器的CPU、磁盤IO、帶寬都有壓力。這時(shí)候我們一方面將網(wǎng)站圖片、js、css、html及應(yīng)用服務(wù)相關(guān)的文件存儲(chǔ)在oss中，另外一方面通過(guò)CDN將靜態(tài)資源分布式緩存在各個(gè)節(jié)點(diǎn)實(shí)現(xiàn)“就近訪問(wèn)”。通過(guò)將動(dòng)態(tài)請(qǐng)求、靜態(tài)請(qǐng)求的訪問(wèn)分離（“動(dòng)靜分離”），有效解決服務(wù)器在磁盤IO、帶寬方面的訪問(wèn)壓力。
架構(gòu)采用CDN + ECS + OSS + RDS：
架構(gòu)分布式階段：負(fù)載均衡
當(dāng)訪問(wèn)壓力達(dá)到300萬(wàn)pv到500萬(wàn)pv的時(shí)候，雖然“動(dòng)靜分離”有效分離了靜態(tài)請(qǐng)求的壓力，但是動(dòng)態(tài)請(qǐng)求的壓力已經(jīng)讓服務(wù)器“吃不消”。最直觀的現(xiàn)象是，前端訪問(wèn)堵塞、延遲、服務(wù)器進(jìn)程增多、cpu100%，并且出現(xiàn)常見(jiàn)502/503/504的錯(cuò)誤碼。顯然單臺(tái)web服務(wù)器已經(jīng)滿足不了需求，這里需要通過(guò)負(fù)載均衡技術(shù)增加多臺(tái)web服務(wù)器（對(duì)應(yīng)ECS可以選擇不同可用區(qū)，進(jìn)一步保障高可用）。因而告別單機(jī)的時(shí)代，轉(zhuǎn)變分布式架構(gòu)的階段。
架構(gòu)采用CDN+SLB + ECS + OSS + RDS：
架構(gòu)數(shù)據(jù)緩存階段：數(shù)據(jù)庫(kù)緩存
當(dāng)訪問(wèn)壓力達(dá)到500萬(wàn)pv到1000萬(wàn)pv，雖然負(fù)載均衡結(jié)合多臺(tái)web服務(wù)器，解決了動(dòng)態(tài)請(qǐng)求的性能壓力。但是這時(shí)候我們發(fā)現(xiàn)，數(shù)據(jù)庫(kù)出現(xiàn)壓力瓶頸，常見(jiàn)的現(xiàn)象就是RDS的連接數(shù)增加并且堵塞、CPU100%、IOPS飆升。這個(gè)時(shí)候我們通過(guò)數(shù)據(jù)庫(kù)緩存，有效減少數(shù)據(jù)庫(kù)訪問(wèn)壓力，進(jìn)一步提升性能。
架構(gòu)采用CDN+SLB +ECS +OSS + 云數(shù)據(jù)庫(kù)memcache +RDS ：
架構(gòu)擴(kuò)展階段：垂直擴(kuò)展
當(dāng)訪問(wèn)量達(dá)到1000萬(wàn)pv到5000萬(wàn)pv，雖然這個(gè)時(shí)候我們可以看到通過(guò)分布式文件系統(tǒng)OSS已經(jīng)解決了文件存儲(chǔ)的性能問(wèn)題，CDN也已經(jīng)解決靜態(tài)資源訪問(wèn)的性能問(wèn)題。但是當(dāng)訪問(wèn)壓力再次增加，這個(gè)時(shí)候web服務(wù)器和數(shù)據(jù)庫(kù)方面依舊是瓶頸。在此我們通過(guò)垂直擴(kuò)展，進(jìn)一步切分web服務(wù)器和數(shù)據(jù)庫(kù)的壓力，解決性能問(wèn)題。
“何為垂直擴(kuò)展，按照不同的業(yè)務(wù)（或者數(shù)據(jù)庫(kù)）切分到不同的服務(wù)器（或者數(shù)據(jù)庫(kù)）之上，這種切分稱之為垂直擴(kuò)展?！?
垂直擴(kuò)展第一招：業(yè)務(wù)拆分
在業(yè)務(wù)層，可以把不同的功能模塊拆分到不同的服務(wù)器上面進(jìn)行單獨(dú)部署。比如，用戶模塊、訂單模塊、商品模塊等，拆分到不同服務(wù)器上面部署。
垂直擴(kuò)展第二招：讀寫(xiě)分離
在數(shù)據(jù)庫(kù)層，當(dāng)結(jié)合數(shù)據(jù)庫(kù)緩存，數(shù)據(jù)庫(kù)壓力還是很大的時(shí)候。我們通過(guò)讀寫(xiě)分離的方式，進(jìn)一步切分及降低數(shù)據(jù)庫(kù)的壓力。
垂直擴(kuò)展第三招：分庫(kù)
結(jié)合業(yè)務(wù)拆分、讀寫(xiě)分離，在數(shù)據(jù)庫(kù)層，比如我們同樣可以把用戶模塊、訂單模塊、商品模塊等。所涉及的數(shù)據(jù)庫(kù)表：用戶模塊表、訂單模塊表、商品模塊表等，分別存放到不同數(shù)據(jù)庫(kù)中，如用戶模塊庫(kù)、訂單模塊庫(kù)、商品模塊庫(kù)等。然后把不同數(shù)據(jù)庫(kù)分別部署到不同服務(wù)器中。
架構(gòu)采用CDN+SLB +ECS +OSS+ 云數(shù)據(jù)庫(kù)memcache + RDS讀寫(xiě)分離：
架構(gòu)分布式+大數(shù)據(jù)階段：水平擴(kuò)展
當(dāng)訪問(wèn)量達(dá)到5000萬(wàn)pv及以上時(shí)，真達(dá)到千萬(wàn)級(jí)架構(gòu)以上訪問(wèn)量的時(shí)候，我們可以看到垂直擴(kuò)展的架構(gòu)也已經(jīng)開(kāi)始“山窮水盡”。比如，讀寫(xiě)分離僅解決“讀”的壓力，面對(duì)高訪問(wèn)量，在數(shù)據(jù)庫(kù)“寫(xiě)”的壓力上面“力不從心”，出現(xiàn)性能瓶頸。另外，分庫(kù)雖然將壓力拆分到不同數(shù)據(jù)庫(kù)中。但單表的數(shù)據(jù)量達(dá)到TB級(jí)別以上，顯然已經(jīng)達(dá)到傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)處理的極限。
水平擴(kuò)展第一招：增加更多的web服務(wù)器
通過(guò)業(yè)務(wù)垂直拆分部署在不同服務(wù)器后，當(dāng)后續(xù)壓力進(jìn)一步增大，增加更多的webserver進(jìn)行水平擴(kuò)展。
水平擴(kuò)展第二招：增加更多的SLB
單臺(tái)SLB也存在單點(diǎn)故障的風(fēng)險(xiǎn)，即SLB也存在性能極限，如QPS最大值為50000。通過(guò)DNS輪詢，將請(qǐng)求輪詢轉(zhuǎn)發(fā)至不同可用區(qū)的SLB上面，實(shí)現(xiàn)SLB水平擴(kuò)展。
水平擴(kuò)展第三招：采用分布式緩存
雖然阿里云memcache內(nèi)存數(shù)據(jù)庫(kù)已經(jīng)是分布式結(jié)構(gòu)，但是同樣單一的入口也存在單點(diǎn)故障的風(fēng)險(xiǎn)可能。并且也存在性能極限，如最大吞吐量峰值為512Mbps。所以我們部署多臺(tái)云數(shù)據(jù)庫(kù)memcache版，可以在代碼層通過(guò)hash算法將數(shù)據(jù)分別緩存至不同的云數(shù)據(jù)庫(kù)memcache版中。
水平擴(kuò)展第四招：sharding + nosql
面對(duì)高并發(fā)、大數(shù)據(jù)的需求，傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)已不再適合。需要采用DRDS（mysql sharding分布式解決方案） + OTS（基于列存儲(chǔ)的分布式數(shù)據(jù)庫(kù)）對(duì)應(yīng)的分布式數(shù)據(jù)庫(kù)來(lái)根本性的解決問(wèn)題。
架構(gòu)采用CDN+DNS輪詢 + SLB + ECS + OSS + 云數(shù)據(jù)庫(kù)memcache + DRDS+OTS：
