hadoop安装过程
来源:互联网 发布:色老头网络 编辑:程序博客网 时间:2024/06/05 03:52
我们都知道Hadoop是一个由Apache开发得分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序,充分利用集群的威力进行高速运算和存储。下面,我将介绍Hadoop的安装过程,以及我在安装过程中碰到的一些问题。
安装环境:linux 32位。
首先,可以去Hadoop的官网下载安装包,http://hadoop.apache.org/releases.html。我这里选择的是Hadoop比较早的一个版本1.2.1。
然后,配置文件,安装SSH等。
这些网上有很多教程,我就不一一赘述。
http://www.powerxing.com/install-hadoop/
下面主要介绍一下,我在安装中碰到的一些i问题。
1.首先最令人头疼的问题,就是下载的Hadoop本地库文件位数与系统位数不符合的问题。
在此安装1.2.1之前,我尝试过安装2.7.2以及2.5.2和2.2.2都以失败告终,其他安装过程都没有问题,但是在启动hadoop时(sbin/start-all.sh和sbin/start-dfs.sh),都会报出这样如下警告:Java HotSpot(TM) 64-Bit Server VM warning: You have loaded library /usr/local/hadoop-2.2.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now.”
这个错误产生的原因是发生系统是32位,而hadoop的本地库文件是由64位编译而成的。这个问题请广大的linux32位用户一定要注意。下面讲一下如何识别hadoop是32位还是64位。网上有人说hadoop官网提供得本来都是32位,但是大部分用户是64位,所以大家不得不编译,所以后来官网从hadoop2.5版本之后来时提供了64位。(之前下了一个2.2.2版本的仍是64位,建议大家首先查看一下版本)
我们来从官网下载的hadoop2.4.1安装包.
hadoop是32位还是64位,我们查看本地库即可。即进入$hadoop_home/lib/native,使用file命令
#####################################
解压之后,我们进入
hadoop-2.4.1/lib/native
使用file命令:
file libhadoop.so.1.0.0
libhadoop.so.1.0.0: ELF 32-bit LSB shared object, Intel 80386, version 1 (SYSV), dynamically linked, BuildID[sha1]=0xd3669af32f519c52b4e6200a69bec8ad7b26df85, not stripped
2.启动时,报错:JAVA_HOME is not set,正是由于java_home没有配置好,不是至/etc/profile里面那个。打开/hadoop/conf/hadoop-env.sh,
添加export JAVA_HOME="/usr/lib/jvm/java-6-sun"(根据本地路径的不同而设置,请写明绝对路径,注意默认情况下export前面有一个#,一定要去掉,配置好之后,重启一下,然后再启动hadoop)
- Hadoop安装部署过程
- hadoop分布式安装过程
- 安装hadoop过程
- Hadoop安装过程
- Hadoop Ubuntu安装过程
- hadoop安装过程
- Hadoop 编译、安装过程
- Hadoop开发:hadoop部署安装过程
- centos上安装hadoop过程
- Hadoop单机安装配置过程
- 单节点Hadoop安装过程
- [Hadoop] Sqoop安装过程详解
- hadoop的分布式安装过程
- hadoop 2.6.0 安装过程
- Hadoop 分布式安装过程简述
- 详细Hadoop的安装过程
- hadoop安装过程命令汇总
- Hadoop伪分布式安装过程
- 机器学习实战笔记(Python实现)-02-k近邻算法(kNN)
- mysql创建表过程中OOM
- Android获取视频文件某一帧并设置图片
- struts文件上传与下载简单DEMO
- jQuery插件开发精品教程(让你的jQuery更上一个台阶)
- hadoop安装过程
- Study jams 第二课程的学习
- 如何求最大公约数gcd
- apue.h
- 动态端口范围
- 100天JAVA学习计划03-浅谈方法
- HDU 5012 Dice 普通bfs
- Android 应用(中英文)切换
- Python——Pandas