- Hadoop大數(shù)據(jù)技術開發(fā)實戰(zhàn)
- 張偉洋
- 320字
- 2020-03-06 11:48:35
3.3 YARN工作流程
YARN集群中應用程序的執(zhí)行流程如圖3-5所示。

圖3-5 YARN應用程序執(zhí)行流程
(1)客戶端提交應用程序(可以是MapReduce程序、Spark程序等)到ResourceManager。
(2)ResourceManager分配用于運行ApplicationMaster的Container,然后與NodeManager通信,要求它在該Container中啟動ApplicationMaster。ApplicationMaster啟動后,它將負責此應用程序的整個生命周期。
(3)ApplicationMaster向ResourceManager注冊(注冊后可以通過ResourceManager查看應用程序的運行狀態(tài))并請求運行應用程序各個Task所需的Container(資源請求是對一些Container的請求)。如果符合條件,ResourceManager會分配給 ApplicationMaster所需的Container(表達為Container ID和主機名)。
(4)ApplicationMaster請求NodeManager使用這些Container來運行應用程序的相應Task(即將Task發(fā)布到指定的Container中運行)。
此外,各個運行中的Task會通過RPC協(xié)議向ApplicationMaster匯報自己的狀態(tài)和進度,這樣一旦某個Task運行失敗時,ApplicationMaster可以對其重新啟動。當應用程序運行完成時,ApplicationMaster會向ResourceManager申請注銷自己。
推薦閱讀
- PyTorch深度學習實戰(zhàn):從新手小白到數(shù)據(jù)科學家
- SQL Server入門經(jīng)典
- App+軟件+游戲+網(wǎng)站界面設計教程
- Creating Mobile Apps with Sencha Touch 2
- 云計算服務保障體系
- MySQL基礎教程
- 云計算與大數(shù)據(jù)應用
- 數(shù)據(jù)要素五論:信息、權屬、價值、安全、交易
- Spark核心技術與高級應用
- 達夢數(shù)據(jù)庫運維實戰(zhàn)
- 企業(yè)級容器云架構開發(fā)指南
- 大數(shù)據(jù)技術原理與應用:概念、存儲、處理、分析與應用
- Node.js High Performance
- 智能與數(shù)據(jù)重構世界
- 基于數(shù)據(jù)發(fā)布的隱私保護模型研究