初识hadoop
来源:互联网 发布:淘宝达人账号怎么取消 编辑:程序博客网 时间:2024/06/05 13:35
一、什么是hadoop
狭义:软件,分布式系统基础架构
褒义:以hadoop为主的生态圈
二、hadoop1.X和hadoop2.X区别
三、hadoop三大组件(摘自百度百科)
1.HDFS(Hadoop Distributed File System):分布式文件系统,HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求,可以以流的形式访问(streaming access)文件系统中的数据
2.MapReduce:是一种编程模型,用于大规模数据集(大于1TB)的并行运算。概念”Map(映射)”和”Reduce(归约)”,是它们的主要思想,都是从函数式编程语言里借来的,还有从矢量编程语言里借来的特性。它极大地方便了编程人员在不会分布式并行编程的情况下,将自己的程序运行在分布式系统上。 当前的软件实现是指定一个Map(映射)函数,用来把一组键值对映射成一组新的键值对,指定并发的Reduce(归约)函数,用来保证所有映射的键值对中的每一个共享相同的键组
3.YARN(Yet Another Resource Negotiator):是一种新的 Hadoop 资源管理器,它是一个通用资源管理系统,可为上层应用提供统一的资源管理和调度,它的引入为集群在利用率、资源统一管理和数据共享等方面带来了巨大好处
阅读全文
0 0
- 初识Hadoop
- hadoop 初识
- hadoop初识
- 初识Hadoop
- 初识hadoop
- 初识Hadoop
- 初识Hadoop
- 初识Hadoop
- 初识Hadoop
- 初识Hadoop
- 初识hadoop
- 初识Hadoop
- hadoop初识
- 初识Hadoop
- 初识Hadoop
- 初识Hadoop
- 初识Hadoop
- 初识Hadoop
- 如何提高讲话思维逻辑能力?
- Java基础之集合框架--TreeSet
- 顺序三元组
- 浅谈Attention-based Model【源码篇】
- UICollectionView scrollToItem() 不起作用
- 初识hadoop
- QT+ffmpeg打造跨平台多功能播放器
- 关于数据库的事务处理
- Linux Shell脚本攻略1:小试牛刀(3)
- 2017 ACM-ICPC 亚洲区(乌鲁木齐赛区)网络赛
- 回忆自己的大学---黑龙江科技大学
- 远程过程调用(RPC)详解(发展历史)
- 【C++】【学习笔记】向自定类中添加 combine 和 isbn 成员
- 打字母游戏+贴图技术