unbuntu虚拟机上搭建伪分布式hadoop
来源:互联网 发布:中二网络意思 编辑:程序博客网 时间:2024/06/11 17:27
一. 你要安装Ubuntu这一步省略;
二. 在Ubuntu下创建hadoop用户组和用户;
1. 创建hadoop用户组:
2. 创建hadoop用户:
3. 给hadoop用户添加权限,打开/etc/sudoers文件:
按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。
在root
三. 在Ubuntu下安装JDK
1、这里使用的是jdk-6u37-linux-i586.bin(可以直接去官网下载:http://www.oracle.com/technetwork/java/javase/downloads/jdk6u37-downloads-1859587.html)
2、在/usr/下新建java目录:sudo mkdir /usr/java
3、拷贝文件至该新建目录:sudo cp /home/administrator/jdk-6u37-linux-i586.bin /usr/java
4、更改文件权限,使之可以运行:sudo chmod u+x jdk-6u37-linux-i586.bin
5、运行该文件:sudo ./jdk-6u37-linux-i586.bin 。至此,usr/java/目录下面有一个bin文件包jdk1.6.0_37,以及解压后的同名文件夹。
6.然后要配置环境变量
(1)
sudo gedit /etc/environment
在文件中添加
gedit代码
export JAVA_HOME=/usr/java/jdk1.6.0_37
export JRE_Home=/usr/java/jdk1.6.0_37/jre
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
(2)然后修改第二个文件
sudo gedit /etc/profile
在文件中最后一行的前面添加
export JAVA_HOME=/usr/java/jdk1.6.0_37
export JRE_HOME=/usr/java/jdk1.6.0_37/jre
export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH:$HOME/bin
(3)由于ubuntu中一般安装有默认的jdk,如openjdk,所以,为了使默认使用的是我们安装的jdk,还要进行如下工作。
sudo update-alternatives --install /usr/bin/java java /usr/java/jdk1.6.0_37/bin/java 300
sudo update-alternatives --install /usr/bin/javac javac /usr/java/jdk1.6.0_37/bin/javac 300
(4)通过这一步将我们安装的jdk加入java选单。
sudo update-alternatives --config java
通过这一步选择系统默认的jdk
(5)终端输入:
java -version
显示:
java version "jdk1.6.0_37"
Java(TM) SE Runtime Environment (jdk1.6.0_37-b06)
Java HotSpot(TM) Server VM (build 20.12-b01, mixed mode)
即配置成功
四. 修改机器名
每当ubuntu安装成功时,我们的机器名都默认为:ubuntu ,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。
1. 打开/etc/hostname文件:
2. 将/etc/hostname文件中的ubuntu改为你想取的机器名。这里我取"yu-ubuntu"。 重启系统后才会生效。
五. 安装ssh服务
这里的ssh和三大框架:spring,struts,hibernate没有什么关系,ssh可以实现远程登录和管理,具体可以参考其他相关资料。
安装openssh-server,
sudo apt-get install ssh openssh-server (在这一步可能由于权限不够而进行不了,可以sudo su - 进入root权限)
六、 建立ssh无密码登录本机
首先要转换成hadoop用户,执行以下命令:
su - hadoop
ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。
1. 创建ssh-key,,这里我们采用rsa方式:
(注:回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的)
2. 进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的:
cd ~/.ssh
cat id_rsa.pub >> authorized_keys
(完成后就可以无密码登录本机了。)
3.登录localhost:
ssh localhost
( 注:当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。)
4. 执行退出命令:
exit
七. 安装hadoop(必须在ssh安装好后才可以安装hadoop)
这里采用的hadoop版本是:hadoop-0.20.203(http://www.apache.org/dyn/closer.cgi/hadoop/common/),因为该版本比较稳定。
1. 假设hadoop-0.20.203.tar.gz在桌面,将它复制到安装目录 /usr/local/下:
2. 解压hadoop-0.20.203.tar.gz:
sudo tar -zxf hadoop-0.20.203.0rc1.tar.gz
3. 将解压出的文件放到hadoop文件夹下:
4. 将该hadoop文件夹的属主用户设为hadoop:
下面三个文件的配置信息,请参考《实战hadoop》这本书
5. 打开hadoop/conf/hadoop-env.sh文件:
6. 配置conf/hadoop-env.sh(找到#export JAVA_HOME=...,去掉#,然后加上本机jdk的路径):
7. 打开conf/core-site.xml文件:
编辑如下:
8. 打开conf/mapred-site.xml文件:
编辑如下:
9. 打开conf/hdfs-site.xml文件:
编辑如下:
10. 打开conf/masters文件,添加作为secondarynamenode的主机名,作为单机版环境,这里只需填写 localhost 就Ok了。
11. 打开conf/slaves文件,添加作为slave的主机名,一行一个。作为单机版,这里也只需填写 localhost就Ok了。
八. 在单机上运行hadoop
1. 进入hadoop目录下,格式化hdfs文件系统,初次运行hadoop时一定要有该操作,
cd /usr/local/hadoop/
bin/hadoop namenode -format
2. hdfs文件系统格式化成功
下面一步,必须在用ssh localhost 之后才可以启动。
3. 启动bin/start-all.sh:(注意在这一步可能会由于权限不够而不能执行,我们需要将解压的java文件夹的属主改为hadoop用户)
bin/start-all.sh
4. 检测hadoop是否启动成功:
jps
如果有Namenode,SecondaryNameNode,TaskTracker,DataNode,JobTracker五个进程,就说明你的hadoop单机版环境配置好了!
- unbuntu虚拟机上搭建伪分布式hadoop
- hadoop入门--虚拟机伪分布式搭建
- Unbuntu下Hadoop伪分布式环境搭配
- Ubuntu上搭建Hadoop环境(伪分布式)
- hadoop伪分布式搭建
- hadoop伪分布式搭建
- hadoop 伪分布式搭建
- hadoop伪分布式搭建
- hadoop伪分布式搭建
- Hadoop伪分布式搭建
- Hadoop伪分布式搭建
- hadoop伪分布式搭建
- Hadoop伪分布式搭建
- hadoop伪分布式搭建
- hadoop伪分布式搭建
- Hadoop伪分布式搭建
- 搭建hadoop伪分布式
- hadoop伪分布式搭建
- Redhat Global File System 2 Guide
- swift开发笔记2-通过pushViewController跳转后 隐藏后退按钮
- android repo是什么
- Json转换利器Gson之实例一-简单对象转化和带泛型的List转化
- 用SignalR 2.0开发客服系统[系列1:实现群发通讯]
- unbuntu虚拟机上搭建伪分布式hadoop
- [MSSQL]SQL Server善用LOG10 和POWER 函數
- Windows + Git(msysgit) + TortoiseGit
- Android Data Storage(数据存储)之SharedPreferences
- 用SignalR 2.0开发客服系统[系列2:实现聊天室]
- 神经网络简史
- Redhat XFS File System Guide
- Android开发之RecyclerView的上拉刷新和下拉加载
- 用SignalR 2.0开发客服系统[系列3:实现点对点通讯]