一、什么是大数据
1、大数据的4v特点
Volume
(大量)
Velocity
(高速)
Variety
(多样)
Value
(低价值密度)
2、大数据部门间的工作岗位
第三部分,其实就是JavaWeb
二、什么是Hadoop
三、Hadoop的4大优势
1)高可靠性:Hadoop
底层维护多个数据副本,所以即使Hadoop
某个计算元
素或存储出现故障,也不会导致数据的丢失。
2)高扩展性:在集群间分配任务数据,可方便的扩展数以千计的节点。
3)高效性:在MapReduce
的思想下,Hadoop
是并行工作的,以加快任务处理速度。
4)高容错性:能够自动将失败的任务重新分配。
四、Hadoop架构简介
Hadoop3
在架构组成上,和Hadoop2
相同
1、Hadoop Distributed File System
,简称HDFS
,是一个分布式文件系统。简单理解,就是用来存储文件的。
2、Yet Another Resource Negotiator
简称YARN
(读作:雅恩) ,另一种资源协调者,是Hadoop
的资源管理器。类似SpringBoot
里面任务调度框架Quartz
3、MapReduce
将计算过程分为两个阶段:Map和Reduce
1)Map
阶段并行分发任务,进行数据处理
2)Reduc
e 阶段对Map
结果进行汇总