让Hadoop跑在云端系列文章

来源：互联网发布：邢台学院网络教学平台编辑：程序博客网时间：2024/05/16 09:08

让Hadoop跑在云端系列文章

vhadoop

让Hadoop跑在云端系列文章，介绍了如何整合虚拟化和Hadoop，让Hadoop集群跑在VPS虚拟主机上，通过云向用户提供存储和计算的服务。

现在硬件越来越便宜，一台非品牌服务器，2颗24核CPU，配48G内存，2T的硬盘，已经降到2万块人民币以下了。这种配置如果简单地放几个web应用，显然是奢侈的浪费。就算是用来实现单节点的hadoop，对计算资源浪费也是非常高的。对于这么高性能的计算机，如何有效利用计算资源，就成为成本控制的一项重要议题了。

通过虚拟化技术，我们可以将一台服务器，拆分成12台VPS，每台2核CPU，4G内存，40G硬盘，并且支持资源重新分配。多么伟大的技术啊！现在我们有了12个节点的hadoop集群，让Hadoop跑在云端，让世界加速。

创建Hadoop母体虚拟机

克隆虚拟机增加Hadoop节点

克隆虚拟机优化方案1-安装和配置

增加删除hadoop节点

Hive安装及使用攻略

Hive导入10G数据的测试

ZooKeeper伪分步式集群安装及使用

ZooKeeper实现分布式队列Queue

ZooKeeper实现分布式FIFO队列

0 0