国产一级a片免费看高清,亚洲熟女中文字幕在线视频,黄三级高清在线播放,免费黄色视频在线看

打開(kāi)APP
userphoto
未登錄

開(kāi)通VIP,暢享免費(fèi)電子書(shū)等14項(xiàng)超值服

開(kāi)通VIP
大型網(wǎng)站架構(gòu)系列:分布式消息隊(duì)列(一)

以下是消息隊(duì)列以下的大綱,本文主要介紹消息隊(duì)列概述,消息隊(duì)列應(yīng)用場(chǎng)景和消息中間件示例(電商,日志系統(tǒng))。

本次分享大綱

  1. 消息隊(duì)列概述
  2. 消息隊(duì)列應(yīng)用場(chǎng)景
  3. 消息中間件示例
  4. JMS消息服務(wù)(見(jiàn)第二篇:大型網(wǎng)站架構(gòu)系列:分布式消息隊(duì)列(二)
  5. 常用消息隊(duì)列(見(jiàn)第二篇:大型網(wǎng)站架構(gòu)系列:分布式消息隊(duì)列(二)
  6. 參考(推薦)資料(見(jiàn)第二篇:大型網(wǎng)站架構(gòu)系列:分布式消息隊(duì)列(二)
  7. 本次分享總結(jié)(見(jiàn)第二篇:大型網(wǎng)站架構(gòu)系列:分布式消息隊(duì)列(二)

一、消息隊(duì)列概述

消息隊(duì)列中間件是分布式系統(tǒng)中重要的組件,主要解決應(yīng)用耦合,異步消息,流量削鋒等問(wèn)題。實(shí)現(xiàn)高性能,高可用,可伸縮和最終一致性架構(gòu)。是大型分布式系統(tǒng)不可缺少的中間件。

目前在生產(chǎn)環(huán)境,使用較多的消息隊(duì)列有ActiveMQ,RabbitMQ,ZeroMQ,Kafka,MetaMQ,RocketMQ等。

二、消息隊(duì)列應(yīng)用場(chǎng)景

以下介紹消息隊(duì)列在實(shí)際應(yīng)用中常用的使用場(chǎng)景。異步處理,應(yīng)用解耦,流量削鋒和消息通訊四個(gè)場(chǎng)景。

2.1異步處理

場(chǎng)景說(shuō)明:用戶注冊(cè)后,需要發(fā)注冊(cè)郵件和注冊(cè)短信。傳統(tǒng)的做法有兩種1.串行的方式;2.并行方式。

(1)串行方式:將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后,發(fā)送注冊(cè)郵件,再發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)全部完成后,返回給客戶端。(架構(gòu)KKQ:466097527,歡迎加入)

 

(2)并行方式:將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后,發(fā)送注冊(cè)郵件的同時(shí),發(fā)送注冊(cè)短信。以上三個(gè)任務(wù)完成后,返回給客戶端。與串行的差別是,并行的方式可以提高處理的時(shí)間。

 

假設(shè)三個(gè)業(yè)務(wù)節(jié)點(diǎn)每個(gè)使用50毫秒鐘,不考慮網(wǎng)絡(luò)等其他開(kāi)銷,則串行方式的時(shí)間是150毫秒,并行的時(shí)間可能是100毫秒。

因?yàn)镃PU在單位時(shí)間內(nèi)處理的請(qǐng)求數(shù)是一定的,假設(shè)CPU1秒內(nèi)吞吐量是100次。則串行方式1秒內(nèi)CPU可處理的請(qǐng)求量是7次(1000/150)。并行方式處理的請(qǐng)求量是10次(1000/100)。

 

小結(jié):如以上案例描述,傳統(tǒng)的方式系統(tǒng)的性能(并發(fā)量,吞吐量,響應(yīng)時(shí)間)會(huì)有瓶頸。如何解決這個(gè)問(wèn)題呢?

引入消息隊(duì)列,將不是必須的業(yè)務(wù)邏輯,異步處理。改造后的架構(gòu)如下:

 

按照以上約定,用戶的響應(yīng)時(shí)間相當(dāng)于是注冊(cè)信息寫入數(shù)據(jù)庫(kù)的時(shí)間,也就是50毫秒。注冊(cè)郵件,發(fā)送短信寫入消息隊(duì)列后,直接返回,因此寫入消息隊(duì)列的速度很快,基本可以忽略,因此用戶的響應(yīng)時(shí)間可能是50毫秒。因此架構(gòu)改變后,系統(tǒng)的吞吐量提高到每秒20 QPS。比串行提高了3倍,比并行提高了兩倍。

2.2應(yīng)用解耦

場(chǎng)景說(shuō)明:用戶下單后,訂單系統(tǒng)需要通知庫(kù)存系統(tǒng)。傳統(tǒng)的做法是,訂單系統(tǒng)調(diào)用庫(kù)存系統(tǒng)的接口。如下圖:(架構(gòu)KKQ:466097527,歡迎加入)

 

傳統(tǒng)模式的缺點(diǎn):

1)  假如庫(kù)存系統(tǒng)無(wú)法訪問(wèn),則訂單減庫(kù)存將失敗,從而導(dǎo)致訂單失??;

2)  訂單系統(tǒng)與庫(kù)存系統(tǒng)耦合;

如何解決以上問(wèn)題呢?引入應(yīng)用消息隊(duì)列后的方案,如下圖:

 

  • 訂單系統(tǒng):用戶下單后,訂單系統(tǒng)完成持久化處理,將消息寫入消息隊(duì)列,返回用戶訂單下單成功。
  • 庫(kù)存系統(tǒng):訂閱下單的消息,采用拉/推的方式,獲取下單信息,庫(kù)存系統(tǒng)根據(jù)下單信息,進(jìn)行庫(kù)存操作。
  • 假如:在下單時(shí)庫(kù)存系統(tǒng)不能正常使用。也不影響正常下單,因?yàn)橄聠魏?,訂單系統(tǒng)寫入消息隊(duì)列就不再關(guān)心其他的后續(xù)操作了。實(shí)現(xiàn)訂單系統(tǒng)與庫(kù)存系統(tǒng)的應(yīng)用解耦。

2.3流量削鋒

流量削鋒也是消息隊(duì)列中的常用場(chǎng)景,一般在秒殺或團(tuán)搶活動(dòng)中使用廣泛。

應(yīng)用場(chǎng)景:秒殺活動(dòng),一般會(huì)因?yàn)榱髁窟^(guò)大,導(dǎo)致流量暴增,應(yīng)用掛掉。為解決這個(gè)問(wèn)題,一般需要在應(yīng)用前端加入消息隊(duì)列。

  1. 可以控制活動(dòng)的人數(shù);
  2. 可以緩解短時(shí)間內(nèi)高流量壓垮應(yīng)用;

 

  1. 用戶的請(qǐng)求,服務(wù)器接收后,首先寫入消息隊(duì)列。假如消息隊(duì)列長(zhǎng)度超過(guò)最大數(shù)量,則直接拋棄用戶請(qǐng)求或跳轉(zhuǎn)到錯(cuò)誤頁(yè)面;
  2. 秒殺業(yè)務(wù)根據(jù)消息隊(duì)列中的請(qǐng)求信息,再做后續(xù)處理。

2.4日志處理

日志處理是指將消息隊(duì)列用在日志處理中,比如Kafka的應(yīng)用,解決大量日志傳輸?shù)膯?wèn)題。架構(gòu)簡(jiǎn)化如下:(架構(gòu)KKQ:466097527,歡迎加入)

 

  • 日志采集客戶端,負(fù)責(zé)日志數(shù)據(jù)采集,定時(shí)寫受寫入Kafka隊(duì)列;
  • Kafka消息隊(duì)列,負(fù)責(zé)日志數(shù)據(jù)的接收,存儲(chǔ)和轉(zhuǎn)發(fā);
  • 日志處理應(yīng)用:訂閱并消費(fèi)kafka隊(duì)列中的日志數(shù)據(jù);

以下是新浪kafka日志處理應(yīng)用案例:

轉(zhuǎn)自(http://cloud.51cto.com/art/201507/484338.htm)

 

(1)Kafka:接收用戶日志的消息隊(duì)列。

(2)Logstash:做日志解析,統(tǒng)一成JSON輸出給Elasticsearch。

(3)Elasticsearch:實(shí)時(shí)日志分析服務(wù)的核心技術(shù),一個(gè)schemaless,實(shí)時(shí)的數(shù)據(jù)存儲(chǔ)服務(wù),通過(guò)index組織數(shù)據(jù),兼具強(qiáng)大的搜索和統(tǒng)計(jì)功能。

(4)Kibana:基于Elasticsearch的數(shù)據(jù)可視化組件,超強(qiáng)的數(shù)據(jù)可視化能力是眾多公司選擇ELK stack的重要原因。

2.5消息通訊

消息通訊是指,消息隊(duì)列一般都內(nèi)置了高效的通信機(jī)制,因此也可以用在純的消息通訊。比如實(shí)現(xiàn)點(diǎn)對(duì)點(diǎn)消息隊(duì)列,或者聊天室等。

點(diǎn)對(duì)點(diǎn)通訊:

 

客戶端A和客戶端B使用同一隊(duì)列,進(jìn)行消息通訊。

聊天室通訊:

 

客戶端A,客戶端B,客戶端N訂閱同一主題,進(jìn)行消息發(fā)布和接收。實(shí)現(xiàn)類似聊天室效果。

以上實(shí)際是消息隊(duì)列的兩種消息模式,點(diǎn)對(duì)點(diǎn)或發(fā)布訂閱模式。模型為示意圖,供參考。

三、消息中間件示例

3.1電商系統(tǒng)

 

消息隊(duì)列采用高可用,可持久化的消息中間件。比如Active MQ,Rabbit MQ,Rocket Mq。(1)應(yīng)用將主干邏輯處理完成后,寫入消息隊(duì)列。消息發(fā)送是否成功可以開(kāi)啟消息的確認(rèn)模式。(消息隊(duì)列返回消息接收成功狀態(tài)后,應(yīng)用再返回,這樣保障消息的完整性)

(2)擴(kuò)展流程(發(fā)短信,配送處理)訂閱隊(duì)列消息。采用推或拉的方式獲取消息并處理。

(3)消息將應(yīng)用解耦的同時(shí),帶來(lái)了數(shù)據(jù)一致性問(wèn)題,可以采用最終一致性方式解決。比如主數(shù)據(jù)寫入數(shù)據(jù)庫(kù),擴(kuò)展應(yīng)用根據(jù)消息隊(duì)列,并結(jié)合數(shù)據(jù)庫(kù)方式實(shí)現(xiàn)基于消息隊(duì)列的后續(xù)處理。

3.2日志收集系統(tǒng)

 

分為Zookeeper注冊(cè)中心,日志收集客戶端,Kafka集群和Storm集群(OtherApp)四部分組成。

  • Zookeeper注冊(cè)中心,提出負(fù)載均衡和地址查找服務(wù);
  • 日志收集客戶端,用于采集應(yīng)用系統(tǒng)的日志,并將數(shù)據(jù)推送到kafka隊(duì)列;
  • Kafka集群:接收,路由,存儲(chǔ),轉(zhuǎn)發(fā)等消息處理;

Storm集群:與OtherApp處于同一級(jí)別,采用拉的方式消費(fèi)隊(duì)列中的數(shù)據(jù);

本站僅提供存儲(chǔ)服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊舉報(bào)。
打開(kāi)APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
MQ消息隊(duì)列最全總結(jié)
大型網(wǎng)站架構(gòu)系列:消息隊(duì)列
消息中間件入門
Apache Kafka 概述
消息隊(duì)列全面了解(一)
RabbitMQ有哪些應(yīng)用場(chǎng)景
更多類似文章 >>
生活服務(wù)
分享 收藏 導(dǎo)長(zhǎng)圖 關(guān)注 下載文章
綁定賬號(hào)成功
后續(xù)可登錄賬號(hào)暢享VIP特權(quán)!
如果VIP功能使用有故障,
可點(diǎn)擊這里聯(lián)系客服!

聯(lián)系客服