创建托管的Hadoop集群
来源:互联网 发布:维氏刀具在淘宝上买 编辑:程序博客网 时间:2024/06/07 03:33
AWS = Amazon Web Services
2014年 AWS入驻中国
AWS中国区域成为亚太第四个,全球第10个区域。
AWS中国区域提供的服务和其他区域基本一样,但是中国区域使用了独立的中国区域用户账户体系。
服务:
(1)Elastic Compute Cloud(EC2)
(2)Simple Storage Serviecs(S3)
(3)Elastic MapReduce(EMR)
1.Elastic Compute Cloud(EC2)
-2006年8月25日发布
-弹性云服务器
-虚拟主机
-多种操作系统
-负载均衡
-静态IP地址
-安全防护
2.Simple Storage Serviecs(S3)
-2006年3月14日发布
-提供简单键值存储服务
-桶(存储数据的容器),每个桶都有一个唯一的标识符,桶中的对象都是唯一命名的
-单文件最大体积5TB
3.Elastic MapReduce(EMR)
-2009年4月2日发布
-(是建立在EC2和S3上的云端Hadoop)
-支持多种接口:网页控制台、命令行、API(通过这些接口,用户可以设置Hadoop工作流的部分属性,比如要用到的Hadoop的主机数、源数据的存储位置等属性)
-集群配置简单
-支持多种开发语言:Java、Python、Ruby等
-经典模式(源数据和结果都存储在S3的桶中:EMR从S3的桶中获取源数据,利用基于EC2创建的Hadoop集群来处理这些数据,最后将结果返回到S3的数据桶中)
使用AWS集群服务,用户不用担心节点调配、集群配置、Hadoop配置、集群调试等,亚马逊会自动服务。
操作示例:
-创建AWS账号
-注册EC2、D3、EMR等必须的服务
-登录AWS管理控制台
-创建源数据桶(数据桶的名称 和 源数据的物理服务器的位置)
-创建Hadoop集群并运行
-创建作业流
- 创建托管的Hadoop集群
- hadoop集群的创建
- Hadoop--创建Hadoop集群
- docker 创建hadoop集群
- hadoop集群创建
- 创建本地Hadoop集群
- HDInsight如何创建Hadoop集群
- 利用Docker创建hadoop集群
- 创建单节点Hadoop集群
- 创建普通用户登录并使用Hadoop集群遇到的若干问题
- Hadoop集群的配置
- Hadoop集群的搭建
- hadoop的集群copy
- Hadoop集群的安全策略
- Hadoop集群的安装
- Hadoop集群的搭建
- hadoop的集群copy
- Hadoop 的集群安装
- android 开发零起步学习笔记(四):学习几个原来没接触的概念之Jcenter
- git的使用
- Android状态栏一体化(沉浸式)的实现(Eclipse版)
- 5.5.24,一个怪异的死锁问题导致DB无法连接
- 十分钟玩转 jQuery+实例大全
- 创建托管的Hadoop集群
- CocoaPods 安装
- Git安装、创建版本库、版本回退
- 【IDE-Visual Studio】关于exe的版本中“文件版本”和其他版本信息中的“文件版本”、以及“产品版本”
- maven "Generating project in Batch mode"问题
- idea maven mvn archetype:generate 速度缓慢问题
- 利用Gulp优化部署Web项目
- Spark MLLib 梯度提升树
- 邮件发送出现错误:535 Authentication failed