大數(shù)據(jù)概念想必大家都不陌生,畢竟是近年來最熱門的話題之一。在計(jì)算機(jī)以及互聯(lián)網(wǎng)如此普及的今天,我們所有人每天都會在互聯(lián)網(wǎng)上產(chǎn)生大量的數(shù)據(jù),例如在淘寶瀏覽商品時(shí)會產(chǎn)生數(shù)據(jù),使用社交app進(jìn)行即時(shí)通訊時(shí)也會產(chǎn)生數(shù)據(jù),每天股市的上漲下跌及交易量也是數(shù)據(jù)......如此可見,每天互聯(lián)網(wǎng)上產(chǎn)生的數(shù)據(jù)是有多龐大,數(shù)據(jù)可謂是無處不在:
推薦下我自己建的大數(shù)據(jù)學(xué)習(xí)交流群:957205602,群里都是學(xué)大數(shù)據(jù)開發(fā)的,如果你正在學(xué)習(xí)大數(shù)據(jù) ,小編歡迎你加入,大家都是軟件開發(fā)黨,不定期分享干貨(只有大數(shù)據(jù)軟件開發(fā)相關(guān)的),包括我自己整理的一份最新的大數(shù)據(jù)進(jìn)階資料和高級開發(fā)教程,歡迎進(jìn)階中和進(jìn)想深入大數(shù)據(jù)的小伙伴加入。
但是數(shù)據(jù)量大,只是大數(shù)據(jù)概念的特征之一,大數(shù)據(jù)有4個(gè)特征簡稱4V特征:
在2001年,高德納分析員道格·萊尼在一份與其2001年的研究相關(guān)的演講中指出,數(shù)據(jù)增長有三個(gè)方向的挑戰(zhàn)和機(jī)遇:量(Volume),即數(shù)據(jù)多少;速(Velocity),即資料輸入、輸出的速度;類(Variety),即多樣性。
在萊尼的理論基礎(chǔ)上,IBM提出大數(shù)據(jù)的4V特征,得到了業(yè)界的廣泛認(rèn)可。第一,數(shù)量(Volume),即數(shù)據(jù)巨大,從TB級別躍升到PB級別;第二,多樣性(Variety),即數(shù)據(jù)類型繁多,不僅包括傳統(tǒng)的格式化數(shù)據(jù),還包括來自互聯(lián)網(wǎng)的網(wǎng)絡(luò)日志、視頻、圖片、地理位置信息等;第三,速度(Velocity),即處理速度快,如果處理不夠高速則無法應(yīng)用在實(shí)時(shí)更新數(shù)據(jù)的場景上;第四,價(jià)值(Value),即追求高質(zhì)量的、有價(jià)值的數(shù)據(jù)。
大數(shù)據(jù)4V特征:
Volume 大量,既然叫大數(shù)據(jù),那么數(shù)據(jù)量肯定得大
Variety多樣性,數(shù)據(jù)可以多種結(jié)構(gòu),可以是結(jié)構(gòu)性數(shù)據(jù)、半結(jié)構(gòu)性數(shù)據(jù)以及非結(jié)構(gòu)性數(shù)據(jù)
Value價(jià)值,這些大量的數(shù)據(jù)需要能夠被挖掘出有價(jià)值的數(shù)據(jù),因?yàn)闊o價(jià)值的數(shù)據(jù)只是一堆占用存儲空間的垃圾
Velocity高速,數(shù)據(jù)的處理速度要快,時(shí)效性強(qiáng),因?yàn)楹芏鄨鼍跋乱獙?shí)時(shí)更新、檢測數(shù)據(jù)
大數(shù)據(jù)要解決的問題
大數(shù)據(jù)是要用來從中挖掘有價(jià)值的數(shù)據(jù)的,如果數(shù)據(jù)不能給企業(yè)帶來價(jià)值,不能給用戶帶來更好的體驗(yàn),那么這些數(shù)據(jù)就是無用的。而從數(shù)據(jù)中挖掘價(jià)值就是大數(shù)據(jù)要解決的問題,這就好像淘金、挖礦一樣,我們利用大數(shù)據(jù)技術(shù)從海量數(shù)據(jù)中挖掘有用的數(shù)據(jù),剔除無用的數(shù)據(jù):
大數(shù)據(jù)帶來的挑戰(zhàn)
大數(shù)據(jù)涉及到的技術(shù):
1.數(shù)據(jù)采集:
我們需要將分散的數(shù)據(jù)都采集起來,集中在一起,才能夠進(jìn)行數(shù)據(jù)的分析
2.數(shù)據(jù)存儲:
將大量的數(shù)據(jù)采集起來后,存儲就是個(gè)問題,需要存儲空間足夠大
3.數(shù)據(jù)處理/分析/挖掘:
存儲的問題解決后,才開始對這些數(shù)據(jù)進(jìn)行處理,分析、挖掘有價(jià)值的數(shù)據(jù)出來
4.可視化:
最后就是將這些挖掘出來的數(shù)據(jù)進(jìn)行可視化、圖形化后呈現(xiàn)給別人看,總不可能讓你領(lǐng)導(dǎo)來看一堆數(shù)字或字符串吧
大數(shù)據(jù)在技術(shù)架構(gòu)上帶來的挑戰(zhàn):
1.對現(xiàn)有數(shù)據(jù)庫管理技術(shù)的挑戰(zhàn):
海量的數(shù)據(jù)想要存儲到傳統(tǒng)的關(guān)系型數(shù)據(jù)庫是不太現(xiàn)實(shí)的,雖然數(shù)據(jù)庫可以進(jìn)行集群,但是基本上也不能處理TB級以上的數(shù)據(jù)分析的,所以現(xiàn)階段無法使用結(jié)構(gòu)化的查詢及處理去解決這些問題
2.傳統(tǒng)數(shù)據(jù)庫技術(shù)并沒有考慮數(shù)據(jù)的多類別:
關(guān)系型數(shù)據(jù)庫的結(jié)構(gòu)都是庫 >> 表 >> 字段的關(guān)系結(jié)構(gòu),而大數(shù)據(jù)具有數(shù)據(jù)多樣化的特征,所以不好存儲
3.實(shí)時(shí)性的技術(shù)挑戰(zhàn):
數(shù)據(jù)所產(chǎn)生的價(jià)值會隨著時(shí)間的推移而降低,所以要讓數(shù)據(jù)實(shí)時(shí)展現(xiàn)是個(gè)問題
4.網(wǎng)絡(luò)架構(gòu)、數(shù)據(jù)中心、運(yùn)維的挑戰(zhàn):
由于數(shù)據(jù)一直呈大幅增長的狀態(tài),而數(shù)據(jù)又要實(shí)時(shí)地呈現(xiàn),這對網(wǎng)絡(luò)傳輸上是一個(gè)挑戰(zhàn)。而且數(shù)據(jù)量大,肯定得多臺服務(wù)器進(jìn)行存儲,這就給數(shù)據(jù)中心以及運(yùn)維帶來一定的挑戰(zhàn)
大數(shù)據(jù)帶來的其他挑戰(zhàn):
1.數(shù)據(jù)隱私:
這個(gè)不用說,海量數(shù)據(jù)里肯定會包含一些用戶的隱私數(shù)據(jù),我們得保障這些數(shù)據(jù)不外泄
2.數(shù)據(jù)源復(fù)雜多樣:
之前也提到過大數(shù)據(jù)的特征之一就是數(shù)據(jù)的多樣性,如何處理好多樣的數(shù)據(jù)是個(gè)問題
如何應(yīng)對大數(shù)據(jù)帶來的挑戰(zhàn)
對于以上所說到的挑戰(zhàn),Google已經(jīng)有應(yīng)對這些挑戰(zhàn)的技術(shù)了:
MapReduce 可以解決計(jì)算效率的問題
Big Table 可以解決讀寫速度的問題
GFS 可以解決存儲容量的問題
但是,Google只發(fā)表了這些技術(shù)的論文,并沒有開源這些技術(shù),所以我們無法進(jìn)行使用。不過,好在Apache基金會模仿著Google的大數(shù)據(jù)技術(shù),開發(fā)出了Hadoop生態(tài)圈,Hadoop也是學(xué)習(xí)大數(shù)據(jù)技術(shù)必須要學(xué)的框架。
Hadoop里也有MapReduce
Hbase對應(yīng)著Big Table
HDFS對應(yīng)著GFS
如何學(xué)好大數(shù)據(jù)
1.學(xué)習(xí)一個(gè)框架,最好的方式就是查看它的官方,因?yàn)楣倬W(wǎng)上的文檔是最權(quán)威且最詳細(xì)的。
2.通過項(xiàng)目實(shí)戰(zhàn)對知識點(diǎn)進(jìn)行鞏固和融會貫通
3.參加一些社區(qū)活動:Meetup、開源社區(qū)大會、線下沙龍等,與他人交流有助于提升眼界
4.切記:多動手、多練習(xí)、貴在堅(jiān)持
5.最好將英文學(xué)好,因?yàn)楹芏嗪玫募夹g(shù)論文以及文章都是英文的,而且官網(wǎng)的語言也是英文的