- Spark內(nèi)核設(shè)計的藝術(shù):架構(gòu)設(shè)計與實現(xiàn)
- 耿嘉安
- 647字
- 2019-01-04 04:03:49
1.3 閱讀環(huán)境準(zhǔn)備
準(zhǔn)備Spark閱讀環(huán)境,同樣需要一臺好機器。筆者調(diào)試源碼的機器內(nèi)存是8GB。源碼閱讀的前提是首先在IDE環(huán)境中打包、編譯通過。常用的IDE有IntelliJ IDEA和Eclipse,筆者選擇用Eclipse編譯和閱讀Spark源碼,原因有兩個:一是由于使用多年,對它比較熟悉;二是社區(qū)中使用Eclipse編譯Spark的資料太少,在這里可以做個補充。筆者在Mac OS系統(tǒng)中編譯Spark源碼,除了安裝JDK和Scala外,還需要安裝以下工具。
1.3.1 安裝SBT
由于Scala使用SBT作為構(gòu)建工具,所以需要下載SBT。下載地址:http://www.scala-sbt.org/,下載安裝包并安裝,本書以sbt-0.13.12.tgz為例。
1)移動到選好的安裝目錄,例如:
mv sbt-0.13.12.tgz ~/install/
2)進入安裝目錄,執(zhí)行以下命令:
chmod 755 sbt-0.13.12.tgz tar -xzvf sbt-0.13.12.tgz
3)配置環(huán)境:
cd ~ vim .bash_profile
4)添加如下配置:
export SBT_HOME=$HOME/install/sbt export PATH=$SBT_HOME/bin:$PATH
輸入以下命令,使環(huán)境變量快速生效:
source .bash_profile
安裝完畢后,使用sbt about命令查看,確認(rèn)安裝正常,如圖1-15所示。

圖1-15 查看SBT安裝是否正常
1.3.2 安裝Git
由于Spark源碼使用Git作為版本控制工具,所以需要下載Git的客戶端工具。下載地址:https://git-scm.com,下載最新的版本并安裝。
安裝完畢后可使用git --version命令來查看安裝是否正常,如圖1-16所示。

圖1-16 查看Git是否安裝成功
1.3.3 安裝Eclipse Scala IDE插件
Eclipse通過強大的插件方式支持各種IDE工具的集成,要在Eclipse中編譯、調(diào)試、運行Scala程序,就需要安裝Eclipse Scala IDE插件。下載地址:http://scala-ide.org/download/current.html。
由于筆者本地的Eclipse版本是Eclipse Mars.2 Release(4.5.2),所以選擇安裝插件http://download.scala-ide.org/sdk/lithium/e44/scala211/stable/site,如圖1-17所示。

圖1-17 Eclipse Scala IDE插件安裝地址
在Eclipse中選擇Help菜單,然后選擇Install New Software選項,打開Install對話框,如圖1-18所示。

圖1-18 打開Install對話框
點擊Add按鈕,打開Add Repository對話框,輸入插件地址,如圖1-19所示。

圖1-19 添加Scala IDE插件地址
全選插件的內(nèi)容,完成安裝,如圖1-20所示。

圖1-20 完成安裝Scala IDE插件
- DevOps for Networking
- C和C++安全編碼(原書第2版)
- Apache Hive Essentials
- Learning ASP.NET Core 2.0
- C語言最佳實踐
- PhoneGap:Beginner's Guide(Third Edition)
- 大學(xué)計算機基礎(chǔ)實驗指導(dǎo)
- Oracle 18c 必須掌握的新特性:管理與實戰(zhàn)
- RESTful Java Web Services(Second Edition)
- Mastering Web Application Development with AngularJS
- 遠方:兩位持續(xù)創(chuàng)業(yè)者的點滴思考
- 深入淺出Python數(shù)據(jù)分析
- IBM RUP參考與認(rèn)證指南
- Elasticsearch實戰(zhàn)(第2版)
- Spark for Data Science