hadoop结构说明
来源:互联网 发布:java开源cms 编辑:程序博客网 时间:2024/05/16 13:01
Hadoop的结构:
Hadoop 是Apache 下的一个项目,由HDFS、MapReduce、HBase、Hive 和ZooKeeper
等成员组成。其中,HDFS 和MapReduce 是两个最基础最重要的成员
HDFS 是Google GFS 的开源版本,一个高度容错的分布式文件系统,它能够提供高吞
吐量的数据访问,适合存储海量(PB 级)的大文件(通常超过64M),采用Master/Slave 结构。NameNode 维护集群内的元数据,对外提供创建、打开、删除和重命名文件或目录的功能。DataNode 存储数据,并提负责处理数据的读写请求。DataNode定期NameNode 上报心跳,NameNode 通过响应心跳来控制DataNode。
MapReduce是和Reduce。Map是把一组数据一对一的映射为另外的一组数据,Reduce是对一组数据进行归约,映射和归约的规则都由一个函数指定。常见的应用包括:日志分析和数据挖掘等数据分析应用。另外,还可用于科学数据计算,如圆周率PI 的计算等。Hadoop MapRGoogle的一项重要技术,它是一个编程模型,用以进行大数据量的计算。MapReduce的名字源于这个模型中的两项核心操作:Mapeduce 的实现也采用了Master/Slave 结构。Master 叫做JobTracker,而Slave 叫做TaskTracker。用户提交的计算叫做Job,每一个Job 会被划分成若干个Tasks。JobTracker负责Job 和Tasks 的调度,而TaskTracker负责执行Tasks。
Hadoop由分布式存储HDFS和分布式计算MapReduce两部分组成。
HDFS是一个master/slave的结构,就通常的部署来说,在master上只运行一个Namenode,而在每一个slave上运行一个Datanode。
MapReduce是Google的一项重要技术,它是一个编程模型,用以进行大数据量的计算。MapReduce的名字源于这个模型中的两项核心操作:Map和Reduce。Map是把一组数据一对一的映射为另外的一组数据,Reduce是对一组数据进行归约,映射和归约的规则都由一个函数指定。
Hdfs:HDFS采用master/slave架构。一个HDFS集群是由一个Namenode和一定数目的Datanodes组成。Namenode是一个中心服务器,负责管理文件系统的名字空间(namespace)以及客户端对文件的访问。集群中的Datanode一般是一个节点一个,负责管理它所在节点上的存储。HDFS暴露了文件系统的名字空间,用户能够以文件的形式在上面存储数据。从内部看,一个文件其实被分成一个或多个数据块,这些块存储在一组Datanode上。Namenode执行文件系统的名字空间操作,比如打开、关闭、重命名文件或目录。它也负责确定数据块到具体Datanode节点的映射。Datanode负责处理文件系统客户端的读写请求。在Namenode的统一调度下进行数据块的创建、删除和复制。
Mapreduce:Map/Reduce框架由一个单独的master JobTracker 和每个集群节点一个slave TaskTracker共同组成。master负责调度构成一个作业的所有任务,这些任务分布在不同的slave上,master监控它们的执行,重新执行已经失败的任务。而slave仅负责执行由master指派的任务。
- hadoop结构说明
- hadoop 配置说明
- Hadoop端口说明
- Hadoop参数说明
- hadoop参数说明
- hadoop参数说明
- Hadoop端口说明
- hadoop配置文件说明
- hadoop配置参数说明
- Hadoop+Hbase安装说明
- Hadoop log4j日志说明
- Hadoop端口说明
- Hadoop配置文件参数说明
- Hadoop配置文件说明
- Hadoop默认端口说明
- hadoop函数说明图
- hadoop配置说明
- Hadoop版本说明
- hadoop开发环境搭建
- iphone UITableView隔行换色
- sizeof和strlen
- 半个月之内的学习任务
- jQuery 中的trigger和triggerHandler区别
- hadoop结构说明
- 数字证书相关的非常有用的网址
- c# winform自定义配置文件
- LTE下行资源分配方式
- 开博啦
- android 用gpio作为pwm输出控制led背光
- fzu 1719 Spy Network(强连通分量)
- php中iconv函数使用方法,URL传中文乱码问题,html页面跳转问题
- iphone和Objective-C笔试题