一、HDFS架构概述
Hadoop Distributed File System
,简称HDFS
,是一个分布式文件系统
。
1)NameNode(nn)
:存储文件的元数据,如文件名,文件目录结构,文件属性(生成时间、副本数、文件权限),以及每个文件的块列表和块所在的DataNode
等。理解为集群数据索引
2)DataNode(dn)
:在本地文件系统存储文件块数据,以及块数据的校验和。
3)Secondary NameNode(2nn)
:每隔一段时间对NameNode
元数据备份。
二、YARN架构概述
Yet Another Resource Negotiator
简称YARN
,另一种资源协调者,是Hadoop
的资源管理器
1)ResourceManager(RM)
:整个集群资源(内存、CPU等
)的管理者,负责分配和回收集群资源
3)ApplicationMaster(AM)
:单个任务运行的管理者
2)NodeManager(NM)
:单个节点服务器资源的管理者
4)Container
:容器,相当一台独立的服务器,里面封装了任务运行所需要的资源,如内存、CPU
、磁盘、网络等,可以类比理解成docker
容器
说明
1:客户端可以有多个
2:集群上可以运行多个ApplicationMaster
3:每个NodeManager
上可以有多个Container
三、MapReduce架构概述
MapReduce
将计算过程分为两个阶段:Map 和 Reduce
1)Map
阶段并行处理数据,分配任务
2)Reduce
阶段对Map
结果进行汇总
四、HDFS、YARN、MapReduce三者关系
对下图工作过程进行简要说明:
首先,集群的HDFS
存储了海量数据,然后,客户端提交了一个查询任务,任务提交到RM
,RM
找到一台有空闲资源的NM
,然后,RM
创建Container
和App Mstr
,然后,由App Mstr
向RM
申请资源,进入计算任务的Map
阶段,接着创建了如图的102和103
上的两个Container
和MapTask
,最后,进入Reduce
阶段,在104
上创建Container和ReduceTask
,汇总Map
阶段的结果,并写入HDFS
。