- 大數(shù)據(jù)架構(gòu)師指南
- 朱進(jìn)云
- 1182字
- 2021-03-19 17:43:34
序二
Preface Two
數(shù)據(jù)并不是一個(gè)新概念,幾千年來(lái)我們一直在利用數(shù)據(jù)。但數(shù)據(jù)的價(jià)值,特別是大數(shù)據(jù)的價(jià)值,最近幾年才成為公眾關(guān)注的焦點(diǎn),是有其時(shí)代背景的。
就如同石油在幾千年前就被發(fā)現(xiàn)了,但是其用途一直是作為日常生活或戰(zhàn)爭(zhēng)中的燃料,并不是特別重要的戰(zhàn)略物資。只有內(nèi)燃機(jī)被發(fā)明后,石油才成為最重要的動(dòng)力能源,在最近的一百年才成為戰(zhàn)略物資。
數(shù)據(jù)也一樣。傳統(tǒng)的數(shù)據(jù)庫(kù)技術(shù),在數(shù)據(jù)處理的能力上都有很大的局限性,超過100T這個(gè)量級(jí),要么是處理效率急劇降低,要么是系統(tǒng)成本上升到難以接受的昂貴程度。所以,在大數(shù)據(jù)時(shí)代之前,數(shù)據(jù)在生產(chǎn)系統(tǒng)中的使用目的往往是單一的、即時(shí)的。大量的歷史數(shù)據(jù)與過程數(shù)據(jù),按照當(dāng)時(shí)的IT技術(shù),既無(wú)法存儲(chǔ),更無(wú)法處理。那些被備份到磁帶機(jī)上的數(shù)據(jù),大部分都成為死亡的數(shù)據(jù)化石。
當(dāng)前大數(shù)據(jù)處理的技術(shù),特別是云存儲(chǔ)與云計(jì)算技術(shù)的成熟應(yīng)用,為大數(shù)據(jù)的存儲(chǔ)與處理提供了技術(shù)可能性。企業(yè)可以利用生產(chǎn)系統(tǒng)以及管理系統(tǒng)中產(chǎn)生的大量數(shù)據(jù),對(duì)海量的數(shù)據(jù)進(jìn)行存儲(chǔ)、挖掘分析。一方面可以對(duì)生產(chǎn)活動(dòng)進(jìn)行更為準(zhǔn)確的預(yù)測(cè)與指導(dǎo),從而提高企業(yè)生產(chǎn)活動(dòng)的準(zhǔn)確性;另一方面還可以通過對(duì)數(shù)據(jù)價(jià)值的挖掘,產(chǎn)生新的業(yè)務(wù),幫助企業(yè)充分開發(fā)數(shù)據(jù)的價(jià)值。政府也可以利用大數(shù)據(jù)來(lái)提高管理水平和效率。
2014年Gartner發(fā)布的HypeCycle曲線中,大數(shù)據(jù)技術(shù)已經(jīng)越過炒作頂點(diǎn)。從HypeCycle曲線來(lái)看,越過炒作頂點(diǎn)的技術(shù),往往是已經(jīng)滿足技術(shù)可行性的技術(shù)。技術(shù)進(jìn)展并輔以商業(yè)模式創(chuàng)新,大數(shù)據(jù)在部分細(xì)分市場(chǎng)已經(jīng)具備商業(yè)可行性,可以為企業(yè)的現(xiàn)在與未來(lái)帶來(lái)收益。
2015年8月國(guó)務(wù)院發(fā)布了《促進(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要》,將大數(shù)據(jù)的應(yīng)用與落地提升到國(guó)家層面。在這種背景下,當(dāng)前大數(shù)據(jù)系統(tǒng)建設(shè)出現(xiàn)一波高潮。商業(yè)級(jí)的大數(shù)據(jù)系統(tǒng)建設(shè)周期長(zhǎng),復(fù)雜度高,資金投入量大,所以需要合理的系統(tǒng)架構(gòu)以應(yīng)對(duì)未來(lái)業(yè)務(wù)需求的變化。由于業(yè)界大數(shù)據(jù)系統(tǒng)的建設(shè)剛起步,當(dāng)前階段急需對(duì)相關(guān)的系統(tǒng)架構(gòu)知識(shí)以及實(shí)際項(xiàng)目建設(shè)經(jīng)驗(yàn)進(jìn)行共享,提升業(yè)界的整體建設(shè)水平。
縱觀當(dāng)前業(yè)界大數(shù)據(jù)相關(guān)的書籍,偏重于兩大類型。其一是偏重于大數(shù)據(jù)理念,描繪大數(shù)據(jù)前景,說明大數(shù)據(jù)可以有哪些應(yīng)用;其二是偏重于大數(shù)據(jù)基礎(chǔ)知識(shí),偏重于實(shí)際的編程與開發(fā)。
但在大數(shù)據(jù)項(xiàng)目的實(shí)際建設(shè)過程中,架構(gòu)師在進(jìn)行端到端方案設(shè)計(jì)時(shí),需要對(duì)大數(shù)據(jù)龐大的知識(shí)體系進(jìn)行總攬性把握,并輔以實(shí)際項(xiàng)目的經(jīng)驗(yàn),才有可能把握此類系統(tǒng)的關(guān)鍵需求與要點(diǎn)。而此類的知識(shí)與經(jīng)驗(yàn),業(yè)界分享較少,只能通過各類交流活動(dòng)才能獲取,不僅費(fèi)時(shí)費(fèi)力,而且還很難將這些知識(shí)系統(tǒng)化。
中興通訊作為業(yè)界知名企業(yè),在大數(shù)據(jù)研發(fā)上投入大量資源,并具備豐富的實(shí)際工程經(jīng)驗(yàn)。本書不僅針對(duì)大數(shù)據(jù)知識(shí)進(jìn)行系統(tǒng)化概述,并且將實(shí)際大型項(xiàng)目的經(jīng)驗(yàn)進(jìn)行總結(jié)。這種無(wú)私分享的寶貴經(jīng)驗(yàn),正是業(yè)界所亟需的,對(duì)大數(shù)據(jù)從業(yè)者具備較好的參考價(jià)值。相信本書分享的知識(shí)與經(jīng)驗(yàn),對(duì)推動(dòng)大數(shù)據(jù)應(yīng)用與落地起到積極的促進(jìn)作用。
中興通訊股份有限公司董事長(zhǎng)兼總裁
- 數(shù)據(jù)存儲(chǔ)架構(gòu)與技術(shù)
- 程序員修煉之道:從小工到專家
- Python數(shù)據(jù)分析入門:從數(shù)據(jù)獲取到可視化
- Modern Programming: Object Oriented Programming and Best Practices
- Learning JavaScriptMVC
- 圖解機(jī)器學(xué)習(xí)算法
- 數(shù)據(jù)驅(qū)動(dòng)設(shè)計(jì):A/B測(cè)試提升用戶體驗(yàn)
- 基于OPAC日志的高校圖書館用戶信息需求與檢索行為研究
- SQL優(yōu)化最佳實(shí)踐:構(gòu)建高效率Oracle數(shù)據(jù)庫(kù)的方法與技巧
- “互聯(lián)網(wǎng)+”時(shí)代立體化計(jì)算機(jī)組
- 計(jì)算機(jī)應(yīng)用基礎(chǔ)教程上機(jī)指導(dǎo)與習(xí)題集(微課版)
- 深入理解InfluxDB:時(shí)序數(shù)據(jù)庫(kù)詳解與實(shí)踐
- 數(shù)據(jù)挖掘競(jìng)賽實(shí)戰(zhàn):方法與案例
- 算力經(jīng)濟(jì):從超級(jí)計(jì)算到云計(jì)算
- SOLIDWORKS 2018中文版機(jī)械設(shè)計(jì)基礎(chǔ)與實(shí)例教程