Ubuntu 12.04搭建hadoop2.0.4单机版环境
来源:互联网 发布:宣传册软件 编辑:程序博客网 时间:2024/05/20 08:26
一. 安装Ubuntu 12.04;
二. 在Ubuntu下创建hadoop用户组和用户;
1. 创建hadoop用户组:
如图:
2. 创建hadoop用户:
如图:
3. 给hadoop用户添加权限,打开/etc/sudoers文件:
按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。
在root
如图:
三. 在Ubuntu下安装JDK 7
四. 安装ssh服务
五、 建立ssh无密码登录本机
首先要转换成hadoop用户,执行以下命令:
如图:
ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。
1. 创建ssh-key,,这里我们采用rsa方式:
如图:
(注:回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的)
2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的:
cat id_rsa.pub >> authorized_keys
如图:
(完成后就可以无密码登录本机了。)
3. 登录localhost:
如图:
( 注:当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。)
4. 执行退出命令:
六. 安装hadoop
hadoop版本是2.0.4alpha
安装包解压缩后,先进入etc/hadoop/目录下,按照单机版方式配置几个配置文件。
以前的hadoop版本配置文件在hadoop/conf/路径下
有core-site.xml,hdfs-site.xml,但是没有了mapred-site.xml,取而代之的是yarn-site.xml
1、core-site.xml
<property>
2、hdfs-site.xml
1
<property>
2
<name>dfs.namenode.name.dir</name>
3
<value>file:/usr/local/hadoop-
2.0
.
2
-alpha/dfs/name</value>
4
</property>
5
6
<property>
7
<name>dfs.datanode.data.dir</name>
8
<value>file:/usr/local/hadoop-
2.0
.
2
-alpha/dfs/data</value>
9
</property>
3、mapred-site.xml
1
<property>
2
<name>mapreduce.framework.name</name>
3
<value>yarn</value>
4
</property>
hadoop2.0.4alpha好像没有mapred-site.xml这个文件
可以自己建一个
三、启动启动的文件都是 sbin下,bin下的都是命令。之前的hadoop版本启动文件好像在bin下。如果你为了方便可以把这两个目录添加到环境变量中去,这样就可以直接运行命令,而不用运行绝对路径。配置环境变量略(我这里还是用绝对路径)。
切换到该安装目录下
首先格式化 namenode
1
bin/hdfs namenode -format
确定不报错,且出现
startos/192.168.0.101是我的计算机名和Ip
启动namenode
1
sbin/hadoop-daemon.sh start namenode
2
sbin/hadoop-daemon.sh start datanode
运行测试
jps
出现:
8431 Jps
8353 DataNode
8271 NameNode
证明启动成功,如果没有出现DataNode或者NameNode,证明启动没有成功,可以查看hadoop安装目录下的logs下的日志记录。
结果启动namenode失败
chown: changing ownership of `/usr/local/hadoop/logs': Operation not permitted
starting namenode, logging to /usr/local/hadoop/logs/hadoop-hadoop-namenode-ubuntu.out
sbin/hadoop-daemon.sh: line 151: /usr/local/hadoop/logs/hadoop-hadoop-namenode-ubuntu.out: Permission denied
head: cannot open `/usr/local/hadoop/logs/hadoop-hadoop-namenode-ubuntu.out' for reading: No such file or directory
sbin/hadoop-daemon.sh: line 166: /usr/local/hadoop/logs/hadoop-hadoop-namenode-ubuntu.out: Permission denied
sbin/hadoop-daemon.sh: line 167: /usr/local/hadoop/logs/hadoop-hadoop-namenode-ubuntu.out: Permission denied
进行一个授权
将hadoop安装目录授权给当前用户
sudo chown -R hadoop:hadoop /usr/local/hadoop
再次启动
sbin/hadoop-daemon.sh start namenode
经验证
jps
6296 NameNode
6332 Jps
成功启动
终于把NameNode启动了
- Ubuntu 12.04搭建hadoop2.0.4单机版环境
- Ubuntu 12.04搭建hadoop单机版环境
- Ubuntu 12.04搭建Hadoop单机版环境
- Ubuntu 12.04搭建hadoop单机版环境
- Ubuntu 12.04搭建hadoop单机版环境
- Ubuntu 12.04搭建hadoop单机版环境
- Ubuntu 16.04-HBase1.3.1+Hadoop2.6.5 单机环境搭建
- hadoop2.4单机环境搭建
- Hadoop2环境搭建(单机伪分布)
- 基于hadoop2.7.3搭建单机hadoop环境
- Hadoop2.7.3搭建单机、伪分布环境
- Ubuntu 12.04搭建hadoop单机版环境
- Ubuntu上搭建Hadoop环境(单机版)
- Ubuntu 14.10(32位)上搭建Hadoop2.5.0单机伪分布式环境
- Ubuntu下JDK及hadoop2.2.0的单机,伪分布式环境搭建
- Ubuntu /Spark单机环境搭建
- hadoop2 单机搭建
- hadoop2.7单机搭建
- 中国合伙人正能量的28句话
- 成功在CentOs下编译安装SVN
- 【Android UI设计与开发】第03期:引导界面(三)仿微信引导界面以及动画效果
- COleDateTime ParseDateTime 方法
- SYS_CONNECT_BY_PATH函数用法 ORACLE
- Ubuntu 12.04搭建hadoop2.0.4单机版环境
- [python] 使用ftplib模块在交互式窗口下连接FTP的练习
- XML的序列化和反序列化
- C中调用C++与C++调用C
- Notification与NotificationManager详细介绍
- Android Studio 的快捷键
- 闲来无事
- 触发器
- Spring MVC框架